Se mettiamo l'IA in pausa
Alle big tech dell’intelligenza artificiale piace spaventare tutti quanti. Ma perché? La storia inizia sempre più o meno così. Abbiamo sviluppato un sistema capace di mirabilia e ben presto potrebbe sorpassare gli umani per intelligenza e competenze. È una tremenda minaccia o uno spot pubblicitario? Infatti, dire «con i nostri prodotti siamo vicini alla super intelligenza» attira gli investitori anche se ci va di mezzo la civiltà umana.
Per esempio, Anthropic (Claude) la settimana scorsa ha comunicato che il loro nuovo sistema per codificare sarebbe in grado di imparare da solo, migliorarsi ripetutamente senza intervento umano. Per fortuna aggiungono «possibilmente». Ancora lo stanno sviluppando. Abbastanza però per spaventare tutti. Noi umani non siamo affatto pronti per essere governati o bullizzati dai sistemi IA. Stiamo cominciando appena ad aprire gli occhi sui benefici e i danni dell’intelligenza generativa. Già è difficile capire i cambiamenti che si susseguono a velocità supersonica.
Torniamo ad Anthropic. Dopo l’annuncio apocalittico (se vero) il comunicato prosegue: «Sarebbe buona cosa frenare e regolare questi sviluppi». Insomma, invocano una moratoria per tutti, ma certamente non intendono essere loro i primi a fermarsi perché «se frenassimo noi lo sviluppo di questi sistemi super-intelligenti gli altri andrebbero avanti comunque e con intenzioni peggiori».
Ci sono due cose che non si capiscono. Primo, davvero l’intelligenza artificiale generativa (quella che produce testi, video, suoni e codice) può diventare una super-intelligenza? Su questo non tutti sono concordi, e si ingrossano sempre più le fila degli scettici che dicono che l’intelligenza generativa senza l’appoggio di sistemi neurosimbolici non può diventare veramente intelligente, ossia capire cosa fa e in che contesto si muove. E secondo, il dilemma posto da Anthropic è reale ed è certamente il caso di occuparsene e forse anche preoccuparsene. Chi è lanciato nella corsa a costruire sistemi sempre più intelligenti non si ferma di certo volontariamente. Anthropic dice: se non lo facciamo noi lo fanno altre aziende malintenzionate. Ad ogni modo hanno ragione, occorre eccome schiacciare il tasto “pausa” e permettere agli umani di decidere cosa vogliono. Non desideriamo essere scalzati e resi inermi dall’IA. Però ci interessano molto il progresso della scienza medica o le molte applicazioni che rendono più agevole e sicura la nostra esistenza. L’intelligenza artificiale può davvero far diventare il mondo un posto migliore. Ma cosa vogliamo e cosa siamo disposti a tollerare deve essere una decisione dei cittadini, non dei pochi azionisti di maggioranza delle industrie IA. Con gli armamenti nucleari, dopo che si è capita la portata del pericolo, i trattati hanno garantito una situazione decentemente sicura. Certo nel caso della super-intelligenza è più complicato concordare una moratoria perché non occorrono infrastrutture pesanti, c’è più agilità nel mercato. E non ci vogliono neanche tutte le risorse finanziarie messe in campo in Silicon Valley. In Cina, con molti meno soldi, sviluppano un sacco di applicazioni pratiche e funzionanti.
Da non crederci, negli scorsi giorni, tra tutti, è stato il governo americano a schiacciare il bottone “pausa”. Dopo aver ripetuto che mai avrebbero regolato l’IA, hanno deciso di verificare i nuovi sistemi dal profilo della sicurezza nazionale prima che vengano messi sul mercato. Una misura blanda perché volontaria, ma insomma. La seconda decisione, ben più puntuale e incisiva, vieta proprio ad Anthropic di lasciare in mano a stranieri, compresi i loro dipendenti, due modelli recentemente sviluppati, il che equivale a disattivarli bruscamente. Qualcuno dice che se la sono andata a cercare. Se dichiari che il tuo nuovo modello è tanto avanzato da eventualmente distruggere la civiltà umana, forse a qualcuno viene in mente di schiacciare “pausa”.
Difficile da credere che sia l’amministrazione americana a farlo ma, come sempre nella vita, gli avvenimenti non sono mai come ce li aspettiamo.