Tecnologia e progresso

Fino ad oggi noi umani abbiamo avuto pochi dubbi sul valore della nostra intelligenza. Ma leggere la lettera aperta pubblicata da più di trentamila tra scienziati e investitori fa venire i brividi. Propongono una pausa nella corsa all’intelligenza artificiale. Poi le dichiarazioni di Geoffrey Hinton, il «padrino» dell’intelligenza artificiale e premio Turing (Nobel dell’informatica): si è dimesso dalla direzione di Google Brain per poter parlare liberamente dei pericoli per gli umani. Per quarant’anni Hinton ha studiato i sistemi neuronali artificiali (semplificando molto, i sistemi matematici che apprendono analizzando grandi quantità di dati) sempre convinto che poco potessero a confronto del cervello umano. Ha cambiato idea. Finora i circuiti neuronali avevano bisogno di molta energia e enormi quantità di dati per imparare qualcosa di nuovo. Ma Hinton dice che in pochi anni potrebbe cambiare: «Immaginate qualcosa di molto, molto più intelligente di noi, come noi lo siamo in confronto ad una rana - sono convinto che l’intelligenza artificiale sia probabilmente molto meglio di quella naturale». Ha aggiunto che non avrebbe mai più usato spensieratamente la sua frase preferita - una citazione di J.R. Oppenheim: «Quando vedi qualcosa che è tecnicamente possibile vai avanti e lo fai». Che fosse a suo agio citando il padre della bomba atomica, beh, comunque adesso sia lui sia migliaia di esperti di intelligenza artificiale sollecitano i governi affinché si occupino seriamente del tema prima che sia tardi. Sono gli specialisti stessi - pur in concorrenza tra loro - a chiedere che il nostro futuro non sia spensieratamente messo in pericolo delle aziende in corsa (Microsoft con OpenAI, Google DeepMind, o anche Anthropic e Stability AI). Dirigenti e investitori si rendono conto del pericolo, anche se la posta in gioco è molto allettante. Tra chi intuisce dove porta la gara non tutti vogliono frenare. Già, perché alcuni sono oltremisura agghiaccianti - gli accelerazionisti -, pensano sarebbe buona cosa per gli umani consegnarsi il prima possibile all’intelligenza artificiale e lasciare che regga le sorti del mondo.

Di certo lo sviluppo dei sistemi di intelligenza artificiale sta accelerando oltre ogni previsione. La resa dei calcoli usati per allenare i modelli di AI è aumentata non di dieci o cento volte - in dieci anni è aumentata di un fattore in milioni! L’intelligenza artificiale impara non più su un set di dati circoscritti ma su tutto ciò che trova in Internet. Anche gli entusiasti ammettono di non avere nessuna idea di cosa ci sia oltre il traguardo. Potrebbe non piacerci. Perché i sistemi di intelligenza artificiale non vengono programmati, ma imparano a crescere da soli. E non avanzano linearmente ma a bruschi balzi. Uno di questi salti di qualità potrebbe lasciare indietro tutti noi, programmatori compresi.

Le autorità americane e inglesi stanno prendendo questi scenari molto sul serio e hanno messo in chiaro che l’Intelligenza artificiale non si svilupperà in un far west legislativo come è stato per la prima digitalizzazione: le aziende sono ritenute «responsabili della sicurezza dei loro prodotti prima di essere resi pubblici». Ma non solo tecnici e governi, anche gli investitori hanno suonato l’allarme. In una lunga riflessione sul Financial Times Ian Hogarth - con investimenti in più di cinquanta startup di AI - scrive che «probabilmente ci vorrà una catastrofe per svegliare pubblico e governi». E aggiunge che investirà solo in aziende AI che si occupano seriamente della sicurezza dei loro modelli: «Non posso più investire in chi partecipa senza riflettere a questa corsa pericolosa». Come tanti auspica che un organismo internazionale intervenga come è stato fatto per l’atomica o per le armi chimiche. Non tutto ciò che è tecnicamente possibile è anche una buona cosa. Finora gli esseri umani sono stati in prima linea nel progresso tecnologico. Meglio non farci tagliare fuori dall’intelligenza artificiale. Potremmo non accorgercene.