Mitigare i rischi

L’alba di una nuova era. Così Demis Hassabis definisce questi anni che ancora ci separano dall’intelligenza artificiale generale, simile all’intelligenza umana. È certo uno che se ne intende. Ha preso il Nobel con un programma di IA sulla struttura delle proteine - dagli immensi vantaggi per la scienza. Inoltre dirige GoogleDeepMind, una delle più importanti aziende nel campo del deep reinforcement learning - forse la strada verso una intelligenza simile alla nostra. «Se sviluppata e implementata in modo responsabile, l’intelligenza artificiale generale si rivelerà una delle tecnologie più vantaggiose e rivoluzionarie mai inventate». E aggiunge: «A pensarci bene, abbiamo trovato un modo per far pensare la sabbia. È miracoloso».

Miracoloso, sì, soprattutto se porterà alla scoperta di nuovi farmaci e cure, nuove fonti di energia, nuovi materiali e nuove risorse. Ma non è scontato che vada così. I rischi sono immensi e ancora non conosciuti. La recente vicenda del modello di OpenAI che senza istruzioni umane, di sua iniziativa, è riuscito a sbaragliare i guardrail e entrare abusivamente nel sistema di un’altra azienda (Huggingface, una piattaforma di modelli IA) è davvero inquietante. Di certo nessuno sa davvero quali danni causeranno questi sistemi se iniziano a fare di testa loro. Tutte le aziende corrono a perdifiato per arrivare prime, ma non hanno nessuna idea di come mitigare i rischi. O lo sanno, potrebbero farlo ma non vogliono perdere tempo.

Demis Hassabis è uno di quelli che parlano chiaro: «Nessuno al mondo sa con certezza cosa accadrà da qui in poi». Non stiamo facendo proprio nulla per gestire a nostro favore i futuri modelli di intelligenza generale. Il discorso è imbrigliato in una competizione commerciale tra le aziende e politica soprattutto tra gli Stati Uniti e la Cina. La concorrenza è un’ottima cosa, soprattutto se ne risultano vantaggi e prosperità. Ma i nuovi modelli stanno superando la comprensione umana della tecnologia. S’ingrossano le fila di chi chiede a gran voce una politica pubblica che trovi un punto di equilibrio tra innovazione, responsabilità e sicurezza.

Un gruppo di duecento economisti e scienziati avvertono che l’intelligenza artificiale potrebbe trasformare l’economia più rapidamente di qualsiasi tecnologia precedente, e chiedono ai responsabili politici di agire con altrettanta rapidità. Un eccesso di prudenza potrebbe soffocare lo sviluppo scientifico e il progresso. Ma senza cautela le conseguenze saranno rischiose per tutti - ma davvero tutti.

I cittadini cominciano a capire che l’intelligenza artificiale trasformerà la loro vita e sempre più vogliono avere voce in capitolo. Per esempio, negli Stati Uniti sia repubblicani che democratici si oppongono alla costruzione dei mastodontici data center, citando l’esorbitante consumo di energia e acqua. La governatrice di New York ha firmato un ordine esecutivo che sospende per un anno la costruzione di nuovi data center, proprio per i loro effetti sull’ambiente e sul consumo energetico. E sono sempre di più i genitori che si organizzano anche con cause legali per proteggere i loro figli dagli effetti più pericolosi dell’IA. Sta di fatto che negli Stati Uniti quattro cittadini su cinque sono ostili alla IA - e questo indipendentemente dalle loro preferenze politiche.

Il futuro non è ancora scritto. Demis Hassabis esorta a sfruttare questa preziosa finestra per gestire in modo sicuro l’arrivo dell’intelligenza artificiale generale. Come dargli torto quando dice: «Non possono essere solo i governi o le aziende tecnologiche a decidere quali modelli sono sicuri e quali pericolosi», secondo lui occorre un consesso internazionale composto da esperti indipendenti. In fondo è la stessa cosa che si fa da tempo, per esempio prima di mettere un nuovo farmaco sul mercato. Viene testato e valutato. Di certo la sicurezza farmacologica ne favorisce la commercializzazione. È davvero nell’interesse di tutti noi chiederlo anche ad una tecnologia che farà «pensare la sabbia» al posto nostro.