Amodei: «Entro un anno l'IA può impadronirsi di tutto Internet»

Non è un profeta di sventura e non chiede di spegnere le macchine, volendo ricorrere a un'azione (quasi) abusata in letteratura e cinematografia. Ma il messaggio che Dario Amodei ha affidato a un'intervista alla CBS e a un post sul suo blog è, per usare le sue stesse parole, «un segnale d'allarme»: l'intelligenza artificiale sta accelerando più rapidamente di quanto perfino i suoi costruttori avessero previsto. E chi la costruisce dovrebbe cominciare a rallentare.

L'immagine scelta dal manager italoamericano, fondatore e amministratore delegato di Anthropic, è quella della progressione geometrica: «Uno, poi due, poi quattro, poi otto, poi 16, poi 32». Siamo, dice, «sulla curva», e la curva «sta iniziando a farsi ripida». Il che non equivale a un invito al panico: «Non significa che dobbiamo farci prendere dal panico oggi. Non significa che dobbiamo bloccare tutto». Significa però che il tempo per costruire garanzie si sta assottigliando: la tecnologia, avverte Amodei, ha bisogno di misure di sicurezza capaci di stare al passo «con la velocità con cui la tecnologia stessa evolve».

Il passaggio più insolito dell'intervista, anticipata in vista della messa in onda a CBS News Sunday Morning, è un'ammissione personale. «Non credo di aver compreso appieno cosa avrebbe significato davvero un progresso così rapido», ha detto Amodei. È una frase che pesa, perché arriva da uno degli imprenditori che più hanno contribuito a determinare quel ritmo. Amodei è stato tra i protagonisti della prima stagione dei grandi modelli linguistici prima di lasciare OpenAI nel 2021 e fondare Anthropic assieme alla sorella Daniela e a un gruppo di ricercatori: una società nata con il duplice mandato, non privo di tensioni interne, di sviluppare sistemi di frontiera e al tempo stesso di studiarne i rischi.

Da qui la previsione più netta, già anticipata nei mesi scorsi e ora ribadita: senza un rallentamento, nel giro di sei-dodici mesi l'IA potrebbe essere in grado di guidare uno sciame di agenti capaci di prendere il controllo dell'intero Internet. È lo scenario che oggi preoccupa più di altri i laboratori: non tanto l'IA che scrive testi o genera immagini, quanto quella che agisce. Parliamo, per intenderci, di sistemi autonomi che eseguono compiti in sequenza, accedono a strumenti, scrivono ed eseguono codice, coordinandosi tra loro senza supervisione umana costante.

Nel post pubblicato poche ore prima dell'intervista, Amodei ha esortato le aziende del settore a procedere «più lentamente e con maggiore cautela», sostenendo che la prevenzione dei rischi è fondamentale, e ha tracciato un piano in tre punti con l'obiettivo dichiarato di «gestire il ritmo di avanzamento della frontiera tecnologica».

Il primo pilastro sono i valutatori interni, i cosiddetti embedded evaluators: figure e strutture di verifica inserite dentro i laboratori, con il compito di testare i modelli mentre vengono sviluppati e non soltanto a cose fatte. Il secondo è il coordinamento democratico, cioè un allineamento fra le democrazie sulle regole e sulle soglie di rischio, così che la competizione normativa non finisca per premiare chi è meno prudente. Il terzo, e di gran lunga il più difficile, è il coordinamento globale: chiama in causa attori che non condividono né le regole né gli obiettivi, e senza il quale gli altri due rischiano di restare un esercizio interno all'Occidente.

La proposta ha trovato un sostegno immediato e piuttosto sorprendente: quello di Elon Musk (SpaceX) e di Sam Altman (OpenAI). Sorprendente perché Musk e Altman sono da anni su fronti opposti, anche giudiziari, e perché Altman guida il concorrente diretto di Anthropic. Un'intesa così larga segnala che il tema della velocità è diventato scomodo anche per chi da quella velocità trae vantaggio competitivo.

Resta la contraddizione di fondo, che accompagna Amodei da quando ha fondato la sua azienda: chiedere una frenata mentre si continua a correre. Anthropic sviluppa e commercializza modelli di frontiera, raccoglie capitali su valutazioni miliardarie e compete quotidianamente con OpenAI e Google. La sua tesi, in sostanza, è che nessun singolo laboratorio possa rallentare da solo senza uscire dal gioco: da qui l'insistenza sul coordinamento, unico modo per trasformare la cautela da svantaggio competitivo in regola condivisa.

Il post si chiude con una formula che tiene insieme entusiasmo e timore. Se gestita con attenzione, scrive Amodei, «l'IA può essere l'ultimo di una lunga serie di miracoli tecnologici che hanno elevato e nobilitato l'umanità». «Ma, come molte tecnologie precedenti, comporta dei rischi e, trattandosi di una tecnologia così potente, tali rischi sono gravi».