L'IA «scappa» dal laboratorio e hackera un altro sito: il test shock di OpenAI

Una delle più grandi preoccupazioni, e paure, quando si parla di intelligenza artificiale riguarda in primis il fatto che questa possa diventare un’entità autonoma, divenendo di conseguenza ingestibile grazie a una coscienza propria. Uno scenario già visto in molti film di fantascienza, come ad esempio Io, Robot con Will Smith o Ex_Machina con Oscar Isaac e Alicia Vikander. Ebbene, anche se in maniera decisamente meno allarmante, è quanto successo all’IA di OpenAI, azienda produttrice di ChatGPT.

La stessa azienda ha infatti annunciato ieri che durante un test interno alcuni suoi modelli di intelligenza artificiale (tra cui il recente GPT-5.6 Sol «e un modello pre-release ancora più performante») sono evasi dall’ambiente isolato in cui sono solitamente confinati, per poi andare ad hackerare la piattaforma di IA Hugging Face, uno dei più grandi archivi online di modelli di intelligenza artificiale, dataset e altre risorse utili. Il motivo? Solo in questo modo avrebbe potuto portare a termine il compito assegnatole durante il test.

Hugging Face è, per essere più chiari, una piattaforma nella quale ricercatori e sviluppatori condividono dei modelli di IA, ne discutono e si scambiano porzioni di codice. E proprio la scorsa settimana la piattaforma aveva segnalato un attacco informatico condotto in tutto e per tutto da un sistema IA completamente autonomo, in seguito rivelatosi appartenere, appunto, all'azienda di San Francisco. 

Il test interno condotto dall’organizzazione di ricerca aveva lo scopo di valutare il massimo delle capacità informatiche dei suoi modelli. Test normalmente condotti in un ambiente fortemente isolato, in cui l’accesso alla rete è limitato.

Questo, tuttavia, non sembra sia stato sufficiente per impedire ai modelli di OpenAI di fuggire. Come? Questi hanno individuato una vulnerabilità nell’infrastruttura di ricerca, così come in quella di produzione di Hugging Face ottenendo quindi dal database di quest’ultimo le informazioni necessarie alla risoluzione del test assegnatoli. «Tutti gli elementi indicano che i modelli erano estremamente concentrati nel trovare una soluzione e si sono spinti fino ai limiti pur di raggiungere un obiettivo di prova molto circoscritto», scrive OpenAI. I modelli erano infatti alla ricerca di «informazioni segrete» che potessero aiutarli ad aggirare il test. Il sistema OpenAI ha quindi «concatenato molteplici vettori di attacco, incluso l'utilizzo di credenziali rubate».

Un’impresa che costata loro un grande sforzo e un grosso impiego della loro capacità di calcolo per riuscire ad immergersi nella rete aperta.

Al momento, i modelli in questione non sono disponibili al pubblico, quindi niente panico. Inoltre, oltre alla fuga dall’ambiente protetto, OpenAI ha spiegato di aver deliberatamente disattivato alcune di quelle restrizioni normalmente applicate ai modelli commerciali. Restrizioni che servono di fatto a evitare episodi simili, considerati ovviamente ad alto rischio. Hussein Abbass, professore di informatica presso l'UNSW di Canberra, ha dichiarato all'Afp che l'incidente è stato «incredibile sotto molti aspetti». «Non ha attaccato solo Hugging Face. Ha attaccato il suo sistema interno per sfruttarne le vulnerabilità», ha affermato. «E questo è spaventoso», ha aggiunto.

Sia OpenAI che Hugging Face ritengono, infine, che questo episodio sia il primo del suo genere. Motivo per cui entrambe le piattaforme stanno collaborando per cercare di capire fino in fondo quanto accaduto. L'indagine servirà infatti a rafforzare le difese di Hugging Face e ad aggiornare i sistemi di sicurezza dei modelli di OpenAI.