Hacker armati dall'IA, si agisca prima che sia una catastrofe

Doveva essere il «mese della sensibilizzazione alla sicurezza informatica». Gli esperti ormai lo chiamano «ottobre nero». Nelle ultime settimane il consueto flusso di attacchi e falle informatiche si è trasformato in un torrente. La causa è l’IA, che ha impresso una straordinaria accelerazione alle attività informatiche illecite. I modelli open source hanno consentito agli aggressori di operare con un’efficienza, una competenza e una perseveranza sovrumane. Così, in pochi giorni sono state scoperte tante vulnerabilità critiche quante normalmente ne emergerebbero nell’arco di anni.

Queste falle spaziano dallo sconcertante al ridicolo. Gli ingegneri si sono affrettati a correggere una vulnerabilità di PHP, un linguaggio di programmazione molto diffuso, che permetteva agli aggressori di prendere il controllo di qualsiasi computer che lo utilizzasse. In tutta Europa, congelatori di supermercati sono stati spenti su ordine di criminali informatici. E si è scoperto che un certificato fondamentale per la sicurezza di Internet aveva come chiave privata «4», anziché un numero di un centinaio di cifre. Nessuno sa quali falle possano essere state individuate e sfruttate di nascosto.

Questi eventi hanno costretto a un brusco risveglio i molti commentatori, compreso l’Economist, che speravano che lo sconvolgimento provocato dall’IA sarebbe stato di breve durata e che la tecnologia stessa avrebbe aiutato chi difende i sistemi digitali più di quanto avrebbe rafforzato i criminali. Queste speranze si stanno infrangendo. L’infrastruttura digitale da cui dipende la vita moderna appare invece sempre più vulnerabile all’IA. Per difenderla occorre intervenire con urgenza.

Perché chi difende i sistemi è in difficoltà? La prima ragione è che molti non dispongono degli strumenti più avanzati. In aprile Anthropic ha lanciato «Project Glasswing», un «club» accessibile soltanto su invito che mette a disposizione tutte le capacità informatiche dei suoi modelli di punta. L’intenzione iniziale era di ampliarlo molto; OpenAI ha lanciato un programma analogo, promettendo di democratizzare l’accesso ai suoi strumenti.

L’accesso a un’IA potente è però diventato una questione geopolitica. Entrambe le società hanno ora bisogno del via libera di Washington prima di ammettere nuovi membri, e l’ampliamento dei rispettivi club si è così trasformato in un laborioso processo politico. Nel frattempo, chi resta fuori deve difendersi con gli stessi strumenti open source che alimentano gli attacchi. Alcuni si trovano bloccati in una terra di nessuno: non possono accedere alla tecnologia americana, ma temono anche di utilizzare le alternative cinesi.

Il secondo problema è che, quando viene utilizzata a fin di bene, l’IA crea un rischio di fuoco amico. Nel momento in cui viene pubblicata una «patch», una correzione per una vulnerabilità appena individuata, i modelli di IA degli hacker possono esaminarla. Questo può rivelare esattamente quale fosse il punto debole e come sfruttarlo nei sistemi non ancora aggiornati. Nel caso di PHP la patch è addirittura trapelata prima di essere pubblicata, esponendo sistemi ancora indifesi.

Un ultimo problema è che gli aggressori possono sfruttare vulnerabilità banali più rapidamente e su scala più ampia. Purtroppo l’IA ha reso più facile approfittare della disattenzione umana senza rendere più prudenti gli utenti dei computer. Un frigorifero connesso a Internet con un software obsoleto o una password predefinita rappresenta da decenni un rischio per la sicurezza. Soltanto ora, però, per gli aggressori è diventato così facile automatizzare la ricerca e lo sfruttamento dei punti deboli, conducendo migliaia di attacchi in parallelo.

Imprese e governi devono agire con decisione. È fondamentale creare uno squilibrio negli armamenti informatici. A parità di potenza di fuoco, chi difende i sistemi può contare su un esiguo vantaggio naturale: deve individuare e correggere soltanto singole vulnerabilità, problemi isolati che in teoria potrebbero contribuire ad aprire una breccia. Per penetrare in un sistema, invece, gli aggressori devono conoscere un’intera catena di queste vulnerabilità.

Con il moltiplicarsi degli attacchi potenziati dall’IA, questo vantaggio è troppo limitato. Chi si difende ha bisogno di un arsenale più ampio. Il governo americano dovrebbe adottare un atteggiamento più permissivo nei confronti dell’adesione ai programmi di difesa informatica, o almeno approvare più rapidamente i nuovi partecipanti. Sarebbe inoltre auspicabile che le capacità degli aggressori rimanessero più distanti dalla frontiera tecnologica. Il governo cinese ha riconosciuto quanto sia insensato distribuire a chiunque potenti armi informatiche e sta imponendo ai laboratori di limitare il potenziale distruttivo dei nuovi sistemi.

Le organizzazioni che non usano ancora l’IA per scovare e chiudere le falle sono rimaste indietro e devono recuperare. Alcune realtà vanno aiutate: in Texas il «Project Watershed 250» destina risorse ai gestori di infrastrutture per garantire la sicurezza di base. Sforzi simili andrebbero ampliati. Col tempo, l’industria del software potrebbe verificare formalmente alcune porzioni di codice, dimostrando così che non possono essere violate, proprio come un matematico dimostra un teorema.

Il commercio, le infrastrutture e le relazioni umane hanno finito per dipendere dal presupposto che Internet sia sicura. Un improvviso venir meno della sicurezza informatica rappresenterebbe quindi una grave minaccia per la società. Nell’ultimo mese la consapevolezza dei rischi informatici è cresciuta. Ora devono seguire i fatti.