Quando l'AI va in tilt

Ci sono voluti poco più di due anni e oggi i sistemi di intelligenza artificiale generativa sono usati per un sacco di cose. Principalmente per scrivere o farsi ispirare quando è a corto di idee. Tanti li usano anche per avere un parere, magari legale o medico o anche solo sulla vita di tutti i giorni. Oppure, nella versione vocale, sostituiscono i podcast e le news, basta chiedere: «Raccontami» e il bot ci informa e intrattiene. I motori di ricerca, per non scomparire, si sono adeguati presto. Adesso quando googliamo, in cima alla pagina viene prima di tutto la risposta dettata da Gemini, l’intelligenza artificiale di Google.

OpenAI, Google, Anthropic, DeepSeek hanno scommesso sul passaggio dall’intelligenza generativa a quella artificiale «generale», più performante della nostra, umana. Ma funziona? L’idea è che il volume di informazioni scritte e in immagini date in pasto ai loro sistemi, determini l’intelligenza delle risposte. Ma di testi in internet non ce ne sono più, già l’anno scorso avevano esaurito ogni fonte. Così adesso per migliorare le chatbot cercano di farle «ragionare». Semplificando molto, vuol dire dotarle di meccanismi di feedback che dicono loro quando la risposta è corretta. Gli investitori intanto fanno confluire miliardi: poche settimane fa OpenAI ha raccolto altri quaranta miliardi, arrivando ad una valutazione di circa trecento miliardi di dollari.

Allora l’intelligenza artificiale diventa sempre meglio? Possiamo fidarci? Ma proprio no! Perché inspiegabilmente sta succedendo il contrario. «Ragionando» sembra essere diventata meno affidabile. Provare per credere. Ho chiesto a Gemini di Google: «Ci sono donne nel Consiglio di stato ticinese?» Educatamente ha risposto: «Sì, attualmente sono presenti due donne, Marina Carobbio e Raffaele De Rosa». E poi imperterrita: «Secondo Wikipedia» e offre anche il link alla pagina corrispondente. Ma per fortuna su Wikipedia la composizione del Governo è riportata correttamente. Allora chiedo: «Quante donne ci sono state nel consiglio di Stato ticinese?». Qui la risposta è altrettanto allucinata: «Ci sono state finora quattro donne. Le prime due elette Marina Masoni e Patrizia Pesenti hanno fatto parte del governo dal 1999 al 2007. Successivamente Patrizia Pesenti e Laura Sadis hanno ricoperto le loro cariche dal 2007 al 2011». Oops, in realtà Marina Masoni è entrata nel 1995 e Laura Sadis ci è rimasta fino al 2015. Ma il divertente arriva dopo quando l’intelligente Gemini dice: «Quindi in totale ci sono state quattro donne in due diverse composizioni, Marina Masoni e Patrizia Pesenti e poi Patrizia Pesenti e Laura Sadis». E la quarta?

Meglio non affidare la nostra salute o altre scelte importanti all’intelligenza artificiale, che sia generativa o ragionante. Qualche settimana fa uno studio approfondito della Apple ha dato uno scossone al corale atteggiamento di stupore incantato per le chatbot intelligenti. I ricercatori constatano come i problemi iniziali dell’intelligenza artificiale non siano «problemi d’infanzia» e non si risolveranno con più investimenti e più crescita, perché sono ben più profondi. Lo studio, dal titolo significativo: «L’illusione di pensare» mostra bene come l’intelligenza artificiale non possa ragionare, ma proprio per niente, perché non riesce a trarre delle conclusioni e applicarle poi ad un problema simile – cosa che noi umani facciamo continuamente. Questi sistemi funzionano abbastanza bene quando ripropongono i dati con cui sono stati addestrati – soprattutto testi o immagini.

E non migliorano se si aumenta la potenza computazionale. Sembrerebbe che l’intelligenza artificiale fin che può imita i ragionamenti su cui si è allenata. Ma quando deve trarre conclusioni e applicarle a casi simili comincia ad allucinare. Si è tanto parlato dell’imminenza di una intelligenza artificiale generale capace di sostituire noi umani. Possiamo stare tranquilli, forse non è proprio dietro l’angolo. Tutto sommato, meglio così.