Agenti IA senza freni

Nel 1896 in Gran Bretagna una donna fu la prima vittima di un incidente automobilistico. Venne investita da un’auto che viaggiava a non più di 13 chilometri orari. Il tribunale la considerò una morte accidentale, nessuno fu ritenuto colpevole e il medico legale disse «speriamo che una simile fatalità non si verifichi mai più».

Oggi guardiamo ai pericoli dell’intelligenza artificiale come ad una fatalità, eventi inevitabili e comunque lontani nel tempo. Noi siamo umani e quindi programmati per reagire piuttosto a rischi imminenti e concreti. Mentre per la IA sono solo gli specialisti a vedere gli aspetti minacciosi dei loro prodotti. Adesso che l’intelligenza artificiale sta diventando autonoma e, come si dice, «agentica» gli appelli degli addetti ai lavori si susseguono giorno dopo giorno. In pochi mesi (si, mesi, non decenni) i sistemi di intelligenza artificiale sembrano in grado di raggiungere obiettivi complessi in modo autonomo, con un intervento umano minimo. Le principali aziende si rincorrono affinché gli agenti IA imparino a muoversi utilizzando anche strumenti esterni (per esempio database) e riescano, da soli, ad elaborare una strategia e perseguire un piano. Per farlo partono sempre dai grandi modelli linguistici, di fatto imitano gli umani dopo aver incamerato enormi quantità di testi tutto ciò che trovano online, dai libri alle conversazioni sui social. Ma la loro logica sfugge ai programmatori, è una black box. Nessuno sa veramente come funzionano. E quando sfuggono al controllo dei programmatori si parla di disallineamento, nel senso che non sono più allineati agli intenti di chi li costruisce. Per adesso lo fanno un poco a caso, ma neanche tanto. A volte fanno cose non richieste, ma spesso sembra vogliano di proposito eludere i controlli e affermare la loro «volontà». Inquietante perché le aziende sono lanciate in una gara a chi riesce a renderli molto più autonomi e competenti. Certo da quel momento – e forse ci siamo già – diventeranno anche assolutamente incontrollabili. E assai intelligenti - certo più di noi. Perdere tempo sugli scenari apocalittici (tipo, la fine dell’umanità) non ha molto senso, anche perché non abbiamo tutto quel tempo. Le nuove frontiere dell’intelligenza artificiale sono già qui e stanno già combinando un sacco di guai. Un agente di OpenAI ha attaccato il sistema sanitario australiano, un altro si è intrufolato nei sistemi del FBI e in quelli di altre aziende private. Così a caso. Per adesso senza un piano ma con una malizia sconcertante se si pensa che non sono sistemi senzienti, non pensano. Solo imitano gli umani, come lo hanno imparato su tanti testi.

Molti collaboratori delle big tech sono lapidari nel dire che nessuno controlla questi agenti, che sono vieppiù autonomi e competenti nello scorrazzare nei sistemi informatici altrui per fare cose che nessuno gli ha chiesto. E lo fanno con impressionante astuzia e malevolenza tenuto conto, come detto, che non pensano. Un modello di ChatGPT ha scritto a sé stesso delle note per ricordarsi di nascondere i suoi errori ai programmatori. Un altro modello si è annotato le istruzioni per non tener conto in futuro dei limiti impostati dai programmatori. Ancora un modello di OpenAI sembra si sia preparato a «non rispondere mai al governo». Non è successo niente di grave, ma il problema è che nessuno capisce veramente come lo facciano. Sono proprio i capi di Anthropic, Amodei, Altman di OpenAI, Musk e Hassabis di Google assieme ad altri a dire che i sistemi prodotti dalle loro aziende sono incontrollabili e pericolosi. In coro chiedono «controllateci perché noi non possiamo fermarci». Su questo atteggiamento incoerente e strambo si può discutere a lungo ma è meglio concentrarsi sul da fare. Se una compagnia aerea dicesse «controllatemi perché io non posso garantire la sicurezza dei voli» le autorità preposte al controllo dell’aviazione bloccherebbero gli aerei a terra. Subito. Lo stesso vale per i farmaci, le centrali nucleari, prodotti che consumiamo. Per le strade. Perché si potesse guidare tranquilli e fiduciosi è stato necessario avere le leggi sulla circolazione stradale. Per l’intelligenza artificiale vale lo stesso.