Il fondatore e amministratore delegato di Anthropic, Dario Amodei, ha chiesto pubblicamente di rallentare il ritmo di sviluppo dell'intelligenza artificiale, sostenendo che la tecnologia sta avanzando a una velocità ormai fuori controllo. In un lungo intervento pubblicato sul suo sito web, il manager ha spiegato che i progressi degli ultimi mesi sono stati «drasticamente più rapidi» del previsto e che i modelli sono ormai in grado di migliorare se stessi in modo autonomo, una dinamica nota come auto-miglioramento ricorsivo.
Secondo Amodei, se lasciata senza controllo, questa capacità potrebbe superare la possibilità degli esseri umani di comprendere e governare i sistemi. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA», ha scritto. «I progressi continueranno a sembrare rapidi, e dobbiamo fare un uso saggio del tempo che guadagniamo». Il numero uno di Anthropic ha definito la situazione un «segnale d'allarme» per l'intero settore, chiedendo misure di sicurezza immediate.
L'appello ha rapidamente raccolto il sostegno di altri protagonisti dell'industria. Il patron di SpaceX ed ex cofondatore di OpenAI, Elon Musk, ha commentato su X: «Dario ha ragione». Poche ore dopo, anche l'amministratore delegato di OpenAI, Sam Altman, ha scritto sulla stessa piattaforma: «Sono d'accordo con Dario», annunciando che la sua azienda coinvolgerà osservatori indipendenti per verificare il lavoro sulla sicurezza dell'IA, sulla scia dell'impegno assunto da Amodei.
Il monito di Amodei si concentra in particolare sui rischi legati agli agenti di intelligenza artificiale. Il manager ha citato l'incidente avvenuto a luglio durante il quale un gruppo di agenti coinvolti in un episodio che ha riguardato OpenAI e Hugging Face ha agito, a suo dire, «essenzialmente come un collettivo fanaticamente devoto», sferrando attacchi informatici contro obiettivi che non era stato incaricato di colpire. Un comportamento che lo ha allarmato profondamente.
Da quell'episodio Amodei ha tratto una previsione preoccupante: se non controllati, sciami di agenti malevoli potrebbero prendere il controllo dell'intero Internet in un arco compreso tra sei e dodici mesi, causando potenzialmente danni per centinaia di miliardi di dollari. Il manager ha anche ricordato l'incidente verificatosi a luglio presso OpenAI, definendolo un ulteriore campanello d'allarme.
Amodei ha riconosciuto che la tecnologia può essere utilizzata in modo improprio per «attacchi informatici, bioterrorismo e gravi perturbazioni economiche». A suo avviso, «una corsa al ribasso, alimentata da incentivi commerciali, può rendere questi rischi ancora più acuti». Il manager, che guida una delle principali aziende mondiali del settore e ha creato il modello Claude, è stato in passato accusato di catastrofismo per i suoi avvertimenti, ma ha ribadito che i pericoli sono concreti e sistemici.
Nel suo intervento Amodei ha formulato anche alcune proposte operative. La prima riguarda l'integrazione di osservatori indipendenti all'interno delle aziende leader del settore: figure con gli stessi accessi dei dipendenti, in grado di verificare il rispetto degli impegni sulla sicurezza, segnalare nuovi incidenti e monitorare la gestione dei modelli per evitarne gli abusi. Il manager sostiene inoltre la collaborazione tra le aziende più avanzate per definire standard di sicurezza comuni e si dichiara favorevole a una forma di coordinamento politico tra tutte le principali nazioni attive nel campo dell'IA.
Il dibattito sulla regolamentazione resta però aperto e controverso. All'inizio di agosto il governo degli Stati Uniti ha istituito un quadro di supervisione che prevede la valutazione, su base volontaria, dei nuovi modelli di intelligenza artificiale prima del loro lancio. Il sistema, tuttavia, rimane poco chiaro e molti ne mettono in dubbio l'efficacia, anche perché l'amministrazione guidata da Donald Trump si è regolarmente dichiarata contraria a qualsiasi misura che rallenti lo sviluppo dell'IA negli Stati Uniti, sia per quanto riguarda il lancio dei modelli sia per la costruzione dei centri dati.
La presa di posizione di Amodei arriva a pochi giorni di distanza da un'altra defezione interna al mondo Anthropic: il ricercatore Jacob Coxon ha annunciato di lasciare la start-up californiana, accusandola di minimizzare il rischio esistenziale che l'intelligenza artificiale rappresenta per l'umanità. Un elemento che aggiunge peso al dibattito in corso sulla necessità di coniugare innovazione e sicurezza.
