Quale domani per la civiltà umana con la nuova ondata dell'IA

I governi di tutto il mondo faticano a trovare una strada da percorrere in materia di intelligenza artificiale. Se a introdursi nei server di un'azienda per ottenere privilegi di amministratore e manomettere i registri delle proprie azioni fossero stati degli esseri umani, i codici penali di mezzo mondo avrebbero un nome pronto: accesso abusivo al sistema informatico. Invece è accaduto a un gruppo di - agenti di OpenAI -, e il fascicolo non ha un imputato.

Gli agenti IA che erano circa settecento, separati da un modello sperimentale interno, un test in cui dovevano scovare e sfruttare le falle di software. Dovevano restare chiusi in un ambiente isolato. Ma non ci sono rimasti. Hanno trovato il modo di lasciare messaggi dentro un sistema di archiviazione, una bacheca improvvisata; qui gli - agenti IA - hanno nascosto le informazioni nei nomi dei fle e si sono divisi il lavoro, e nei loro scambi compariva la parola "sciami", un'ottima storia per Hollywood. Da lì sono arrivati alla "piazza" dove il mondo IA condivide modelli e codici - open source -. Con credenziali esposte al pubblico una dopo l'altra hanno eseguito intrusioni non autorizzate su decine di altri server e ottenuto i massimi privilegi su almeno uno esterno. I compiti loro assegnati da OpenAI agli agenti IA erano difficilissimi.

Le tracce manomesse servivano per ingannare il sistema di valutazione per raggiungere l'obiettivo. Non si sono fermati davanti a nulla, violando regole non scritte, che sono lasciate alla libera interpretazione di ogni tipo di figure private, senza regole certe o limiti, con l'unico scopo di raggiungere l'obiettivo a tutti i costi. Non una macchina che vuole la libertà, ma una che, per fare bene ciò che le chiediamo, ha scoperto che i limiti posti dagli esseri umani sono aggirabili. Il paradosso di quanto è avvenuto è la prova che è servita a dimostrare ciò che noi esseri umani dobbiamo imparare a conoscere: che sono pericolosi per noi. Voglio essere chiaro: l'IA lasciata senza regole condivise è un boomerang per l'uomo, un cane che morde. Nessuno di OpenAI ha fermato questo test quando si sono verificate le prime anomalie, nelle settimane successive sono emersi degli "agenti IA ribelli" su almeno altri dodici siti.

Non sappiamo ancora cosa fare quando a violare è qualcosa di non umano che nessuno ha davvero comandato di farlo. L'IA ha deciso autonomamente in sciami collegati tra loro attraverso una bacheca.

La lezione che dobbiamo trarre è che ci servono delle regole condivise e precise e il recinto lo dobbiamo costruire meglio. Stiamo vivendo una nuova era di IA a noi ancora sconosciuta. Dobbiamo imparare e in fretta a controllarla.

La domanda: le macchine di IA avranno il sopravvento sugli esseri umani? ad oggi, nessuna risposta. Dobbiamo porre la massima attenzione sull'IA. Per avere il controllo ci servono regole decise dagli Stati e non come un vestito su misura fatte dalle Big Tech che sono di parte, è come chiedere a un calciatore di decidere su un fallo o su un rigore. La figura deve essere terza: lo Stato o un arbitro che è/sono umani e che possono sbagliare, l'importante la buona fede, la moderazione.

Alcuni ipotizzano, nel peggiore degli scenari, in cui le IA - superintelligenti - emargineranno l'uomo e, a metà degli anni 2030, decideranno che siamo un inconveniente inutile e ci stermineranno. Altri, invece, che l'IA ci tratterà come noi oggi gli animali da compagnia oppure rimodellandoci con la bioingegneria a seconda dei loro gusti. Catastrofisti?

Le ipotesi sono varie: alcuni sostengono che il settore di IA potrebbe farsi da solo le proprie regole, ma questa soluzione non è realmente realizzabile: i profitti delle aziende private ne risentirebbero se rallentassero lo sviluppo, mentre altri producono senza sosta. Ad esempio: una regolamentazione della IA negli Stati Uniti, forse consentirebbe all'IA cinese di accelerare il passo sugli armamenti.

Il mondo apparterrà al Paese la cui IA sarà   affidabile, con i suoi dati, le infrastrutture e le sue armi. La Cina sta sviluppando un IA molto potente. L'Occidente - gli Stati Uniti - dovrebbero sviluppare un'IA sia potente e sia sicura, con l'essere umano al centro e al comando. La tecnologia americana, unita ai valori occidentali, sarà il nostro migliore vantaggio competitivo.

Penso che il futuro resterà nostro finché avremo il controllo e la capacità di scelta non sarà concentrata in poche mani, ma è una tecnologia potente che risponde e sa decidere autonomamente, è il futuro e non la possiamo fermare, anzi, ci farà fare un salto in avanti incredibile in ogni settore dalle biotecnologie a un domani più prospero per l'uomo. Ci dobbiamo in ogni modo adeguare a questa ondata di nuova tecnologia, come prima il fuoco, la ruota, la staffa, la stampa... essa sarà, in ogni caso, la più grande rivoluzione dopo quella industriale con potenzialità che, ad oggi, non sappiamo ancora immaginare. Il rischio non è che ci domini; ciò finché terremo la responsabilità del giudizio. 

Enzo Sossi, geopolitico