Il pericoloso impatto di Mythos sui sistemi critici di banche e Borse

La vera innovazione avviene raramente per caso. Ma quando avviene, può essere dirompente. E, nel caso di Mythos Preview, il modello di IA sviluppato da Anthropic, l’impatto può essere «sismico».

Tutto è iniziato il 26 marzo, quasi per errore. Roy Paz, ricercatore di sicurezza IA presso la società LayerX Security, e Alexandre Pauwels, ricercatore di cibersicurezza all’Università di Cambridge, hanno individuato qualcosa di insolito: una cache di dati pubblica e non protetta, riconducibile ad Anthropic, contenente quasi tremila documenti interni non pubblicati, tra cui una bozza di comunicato stampa. Il materiale portato all’attenzione della rivista americana Fortune, che ne ha rivelato il contenuto. Il documento descriveva un nuovo modello chiamato Claude Mythos, definito internamente «di gran lunga il sistema più potente che abbiamo mai sviluppato», avvertendo che esso poneva «rischi informatici senza precedenti». Anthropic ha in seguito confermato che si era trattato di un «errore umano» nella configurazione del proprio sistema di gestione dei contenuti.

L’ironia è evidente: un modello accusato di rappresentare una minaccia per la sicurezza informatica mondiale è stato rivelato da una banale falla nella gestione dei dati della stessa azienda che lo aveva creato.

Nei giorni successivi, Anthropic ha reso pubblica una documentazione dettagliata – e inquietante. Nel corso delle prove interne, Mythos Preview (versione preliminare del modello, quindi) ha individuato vulnerabilità critiche in ogni grande sistema operativo e in ogni browser diffuso, incluse falle risalenti a decenni fa, mai rilevate da anni di verifiche umane. In un caso, il modello ha scoperto autonomamente una vulnerabilità vecchia di 27 anni in OpenBSD (un popolare sistema operativo open source, largamente utilizzato dai fornitori di servizi Internet) capace di mandare in tilt da remoto qualsiasi macchina che lo utilizzi. In un altro, ha concatenato più falle di sicurezza per ottenere accesso diretto al nucleo del sistema operativo di un computer, partendo da una semplice pagina web visitata da un utente ignaro.

L’83% delle volte, Mythos ha riprodotto vulnerabilità note e sviluppato prove di funzionamento al primo tentativo, senza alcun intervento umano. Secondo le verifiche interne di Anthropic, il modello ha già identificato migliaia di vulnerabilità «zero-day», ovvero falle ancora sconosciute agli sviluppatori del software colpito. Ma, anziché procedere a un lancio pubblico, Anthropic ha avviato il cosiddetto Project Glasswing, un accesso controllato, riservato a circa quaranta aziende tecnologiche tra cui Microsoft, Google, Apple, Amazon e Nvidia, per utilizzi esclusivamente difensivi.

La reazione istituzionale è stata immediata. Il 9 aprile, il Segretario al Tesoro americano Scott Bessent e il presidente della Federal Reserve Jerome Powell hanno convocato d’urgenza i vertici delle principali banche americane - Citigroup, Morgan Stanley, BoA, Wells Fargo e Goldman Sachs - per illustrare i rischi informatici associati al modello.

Secondo quanto riportato questa settimana da Bloomberg, invece, il governo americano starebbe valutando di rendere Mythos disponibile alle principali agenzie federali. Gregory Barbaccia, responsabile per l’informatica presso la Casa Bianca, avrebbe comunicato ai responsabili dei dipartimenti federali che l’Amministrazione starebbe predisponendo le protezioni necessarie per consentire alle agenzie di utilizzare il modello, senza però definire tempi né modalità.

Abbiamo interpellato alcuni attori «sistemici» della piazza finanziaria svizzera, chiedendo loro se i progressi dell’IA rappresentano una nuova fonte qualitativa di rischio sistemico o piuttosto un’amplificazione delle minacce esistenti. Fra questi, anche l’Autorità federale di vigilanza sui mercati finanziari (Finma), secondo cui una disponibilità immediata e incontrollata di modelli come Mythos costituirebbe «un rischio sistemico». In uno scenario del genere, sostiene, praticamente tutti i sistemi software esistenti potrebbero essere colpiti simultaneamente da un numero elevatissimo di vulnerabilità zero-day, «sfruttate immediatamente e tramite IA». Tuttavia, nella misura in cui le capacità del modello vengono rese disponibili in modo controllato e graduale, come sembra essere il caso attuale, il rischio non è tanto un collasso sistemico improvviso, quanto piuttosto «una marcata e rapida amplificazione delle minacce ciber esistenti, in particolare un maggiore rischio legato alle vulnerabilità zero-day e al loro sfruttamento accelerato».

Per gli istituti vigilati, la Finma non fa giri di parole: «Gli attacchi informatici diventeranno più rapidi, più precisi e più facili da eseguire tramite IA», imponendo una gestione proattiva delle vulnerabilità, architetture «zero trust» e scenari di verifica basati su simulazioni d’attacco realistiche.

«Mythos non ha creato il problema», osserva Roberto Malnati, analista finanziario di Royalfid SA a Savosa. «Il problema è più profondo e riguarda la struttura stessa del mondo digitale, che poggia anche su sistemi datati, componenti trascurati e tecnologie rimaste in funzione per anni, talvolta per decenni». Quando un sistema viene superato, spiega Malnati, raramente viene eliminato. Più spesso continua a operare come archivio, elemento di compatibilità o semplicemente perché spegnerlo comporterebbe costi e responsabilità che nessuno vuole assumersi.

«Inserito in questo contesto, Mythos cambia significato - prosegue Malnati – poiché non è soltanto una nuova minaccia, ma uno strumento capace di rendere leggibile e interrogabile un vastissimo patrimonio di fragilità accumulate nel tempo». Una prospettiva confermata da un documento tecnico della Cloud Security Alliance che avverte come la «finestra di vantaggio difensivo aperta da Anthropic con Project Glasswing sia temporanea. Capacità simili si diffonderanno presto, infatti, con il rischio che le organizzazioni di sicurezza vengano sopraffatte da attacchi autonomi condotti dall’IA a velocità senza precedenti».

«La linea di demarcazione - conclude Malnati - non passerà più tra chi dispone di Mythos e chi no, ma tra chi conosce il proprio debito tecnologico e chi invece lo scoprirà soltanto quando una macchina lo avrà già reso accessibile anche agli avversari».

«Non rilasceremo alcuna dichiarazione in merito», è la risposta di UBS in merito alla questione, mentre PostFinance precisa di utilizzare già strumenti IA per la difesa informatica, espandendone sistematicamente le capacità, pur riconoscendo che l’accesso a Mythos resta per ora limitato a un ristretto gruppo di grandi aziende tecnologiche. Per Raiffeisen, infine, «non si tratta dell’introduzione di nuovi rischi sistemici, bensì di un’accelerazione e di un’intensificazione di minacce già note».