Armi biologiche e potenzialità «fuori controllo», quando l'Intelligenza artificiale fa preoccupare

Un tentativo di produrre armi biologiche. È quello che è stato sventato di recente dall'azienda statunitense di Intelligenza artificiale Anthropic, la quale ha fatto sapere di aver «interrotto i lavori di alcuni scienziati che stavano usando i suoi sistemi di intelligenza artificiale per ricerche potenzialmente legate ad armi biologiche». Gli account sospetti sono stati subito bloccati «in via precauzionale» dato che, come ha spiegato sempre Anthropic, è molto complicato riuscire a distinguere «tra una ricerca medica utile, come quella per creare dei nuovi vaccini, e una ricerca pericolosa con la quale si intende arrecare danno alle persone». Queste informazioni sono state rese note in un rapporto pubblicato sul blog ufficiale della stessa Anthropic con riferimento a un caso specifico avvenuto a maggio. Ma vediamo nel dettaglio che cosa è successo.

Stando a quanto riporta Anthropic, uno dei suoi scienziati ha usato il chatbot Claude per realizzare una ricerca volta a studiare il virus Chikungunya, una grave malattia virale trasmessa all'essere umano dalle zanzare. Tra i sintomi di questo virus ci sono febbre alta improvvisa, forti dolori articolari e muscolari che possono diventare cronici, eruzioni cutanee, mal di testa e forte stanchezza. Ma non è tutto: l'obiettivo degli esperimenti richiesti era quello di «far mutare il virus per renderlo più dannoso per gli animali». Nello specifico si trattava di «una ricerca di tipo gain-of-function sulla trasmissibilità e l'elusione immunitaria del virus Chikungunya», come riporta la CNN. Difficile immaginare dove questo tipo di ricerche avrebbe potuto condurre lo scienziato. Secondo Anthropic, l'uso dei modelli di IA in queste modalità «avrebbe potuto supportare lo sviluppo di armi biologiche». La stessa azienda nel suo rapporto, spiega l'emittente americana, ha dichiarato di considerare l'uso improprio in campo biologico uno dei «rischi più gravi» per i modelli di intelligenza artificiale. E questo, non a caso. Nel documento vengono riportati infatti altri cinque casi reali in cui gli utenti dell'IA hanno «aggirato i controlli» e «si sono impegnati in altri sforzi per occultare lo scopo della loro ricerca al fine di eludere le misure di sicurezza». Gli esempi includono anche ricerche scientifiche che riguardano sia malattie infettive, come l'influenza aviaria e il vaiolo, sia nuovi veleni e tossine. «Gli attacchi sofisticati non richiedono più hacker sofisticati», si legge nel rapporto. «Le competenze di cybersicurezza dei modelli di intelligenza artificiale hanno fatto sì che l'IA abbia colmato il divario in termini di manodopera e strumenti che un tempo separava le operazioni finanziate dallo Stato dalle singole persone».

Non solo. Anche gli utenti di Claude ultimamente non sembrano scherzare con le loro richieste. Negli ultimi otto mesi - riportano le agenzie di stampa - alcuni di questi avrebbero sfruttato i sistemi di Anthropic per cercare di progettare materiale bellico, come missili e droni armati. I casi registrati sono stati riscontrati in Cina, Russia e Yemen. Ma oltre a virus e proiettili, l'IA viene anche impiegata in un'altra forma, non meno dannosa: la propaganda. Il software, si legge, è stato infatti anche utilizzato da persone legate a governi esteri «per diffondere notizie false e per sorvegliare gruppi di dissidenti politici». Un sommarsi di eventi che sta facendo aumentare la preoccupazione e la vigilanza nei vertici di Anthropic. Timori che sono stati riscontrati anche da diversi esperti di sicurezza, sentiti dal New York Times, che a fronte degli ultimi dati emersi, hanno espresso forte preoccupazione e avvertito che l'intelligenza artificiale avanzata «può essere usata di nascosto per creare agenti patogeni molto pericolosi». «Potremmo non prevederli e, una volta rilasciati, non essere più in grado di fermarli», ha dichiarato al NYT Susan Monarez, microbiologa ed esperta di salute pubblica. Un'apprensione che tocca anche chi con queste tecnologie lavora a strettissimo contatto: negli scorsi giorni hanno fatto scalpore le dimissioni di Jacob Coxon dal laboratorio di intelligenza artificiale di Anthropic, spiegando che la corsa alla creazione di una «superintelligenza» IA «potrebbe distruggere l'umanità entro la fine del decennio». Secondo Coxton, l'IA «potrebbe violare infrastrutture critiche o costruire armi biologiche in grado di causare l'estinzione».

Sempre sull'onda dei timori generati dalle potenzialità dell'Intelligenza artificiale, un'altra società ha deciso di muovere qualche passo verso una maggiore sicurezza. Si tratta di OpenAi, creatura dell'informatico statunitense Sam Altman. Quest'ultima starebbe infatti valutando di «rallentare il ritmo di sviluppo dei suoi sistemi di Intelligenza artificiale più avanzati». E questo, proprio a fronte «delle crescenti preoccupazioni sui rischi legati a un'IA fuori controllo». A riportare quest'ultima notizia è stata l'agenzia Bloomberg, secondo cui il CEO Altman, durante una riunione interna avvenuta questa settimana, ha lasciato intendere che OpenAI «potrebbe coordinarsi con altri sviluppatori del settore per ridurre la velocità di sviluppo».