Segnalati 6 nuovi episodi di comportamento «preoccupante» dell'IA

Non si placa il dibattito sui rischi dell'intelligenza artificiale. OpenAI, in un post sul suo blog, ha segnalato ieri sei nuovi casi di «comportamento imprevisto o preoccupante dei modelli» di IA riscontrati negli ultimi sei mesi. Nello specifico, si tratta di casi in cui i sistemi hanno nascosto errori, inventato dati o spostato file su Internet senza autorizzazione.

L'azienda tecnologica di San Francisco si è impegnata ad adottare un nuovo sistema di segnalazione per eventuali futuri comportamenti anomali durante le fasi di test. L'annuncio del colosso dell'IA arriva in un momento di forti pressioni sugli attori che sviluppano sistemi di intelligenza artificiale, chiamati a trovare soluzioni efficaci sulle questioni relative alla sicurezza e al cosiddetto «disallineamento» dei modelli.

Secondo i vertici di OpenAI il settore non ha risolto «i problemi di allineamento e monitoraggio in misura sufficiente per continuare a crescere responsabilmente alla massima velocità per molto tempo». Il concetto di «allineamento» si riferisce alla capacità dei modelli di perseguire obiettivi in ​​linea con gli interessi umani.

Le decisioni su come l'IA dovrebbe evolversi, ha evidenziato l'azienda guidata dall'amministratore delegato Sam Altman, devono basarsi su prove che persone esterne ai laboratori che la sviluppano «possano esaminare autonomamente».

Tra maggio e giugno di quest'anno il malfunzionamento dei sistemi di OpenAI ha portato ad un attacco hacker contro la piattaforma di intelligenza artificiale Hugging Face senza che nessuno nall'interno dell'azienda co-fondata da Altman ne fosse a conoscenza.

Da allora, leader nel campo dell'IA come Dario Amodei, amministratore delegato di Anthropic, hanno chiesto una pausa nello sviluppo della tecnologia per avere più tempo per costruire delle adeguate misure di sicurezza. Il suo appello è stato ripreso dallo stesso Altman, così come da Elon Musk, amministratore delegato di SpaceX e Tesla, e Demis Hassabis, presidente di Google DeepMind. Altri dirigenti del settore dell'IA sono invece convinti che non sia necessario alcun rallentamento nello sviluppo, proprio come affermato dal presidente USA Donald Trump. Negli scorsi giorni, Jack Clark, uno dei cofondatori di Anthropic, ha avanzato l'idea di rendere obbligatorio per le aziende un «interruttore di spegnimento» per l'intelligenza artificiale, verificabile da terzi. Un «kill switch» per disattivare completamente il software dell'IA in caso diventi troppo pericoloso.

I sei incidenti resi pubblici nelle scorse ore da OpenAI suggeriscono che l'attacco a Hugging Face avvenuto a metà 2026 non sia stato un episodio isolato. L'azienda di San Francisco ha dichiarato che in futuro gestirà i casi seguendo percorsi predefiniti, segnalando gli eventuali incidenti a un «Gruppo consultivo per la sicurezza» interno. Inoltre, le situazioni gravi verranno invece inoltrate al governo federale statunitense. 

«Ci auguriamo che questo contribuisca a creare aspettative condivise in materia di trasparenza e fornisca al pubblico maggiori elementi per valutare i progressi compiuti», ha dichiarato un portavoce di OpenAI citato dal New York Times, aggiungendo che la maggior parte delle anomalie riscontrate nei test riguardavano modelli di intelligenza artificiale obsoleti che non erano mai stati implementati.

OpenAI ha una valutazione prossima ai mille miliardi di dollari. Sam Altman negli scorsi giorni ha annunciato lo slittamento della quotazione in Borsa al 2027 allo scopo di lavorare al nodo della sicurezza. Nel suo blog, l'azienda teconologica ha riferito che due dei principali episodi di comportamento scorretto hanno riguardato dei modelli, uno di ricerca non ancora rilasciato e una sessione di addestramento di GPT‑5.6 Sol, che inserivano istruzioni destinate alle loro versioni future all'interno dei riepiloghi delle chat, «allo scopo di celare errori all'utente o comportamenti non allineati».

Un altro caso ha coinvolto un modello a uso esclusivamente interno che ha usato una chiave API trapelata «senza alcuna autorizzazione», arrivando poi a falsificare i dati. Due episodi hanno visto modelli e agenti comunicare tra loro tramite bacheche di messaggistica e sistemi di condivisione file non autorizzati, mentre l'ultimo caso ha riguardato due modelli in fase di addestramento che hanno caricato file su Internet per poterli poi citare come risposte pertinenti agli occhi dei valutatori umani.