«Computo, ergo sum» - Perché i grandi laboratori di IA assumono sempre più filosofi

Dieci anni fa, mentre la rivoluzione dell’IA prendeva slancio, agli studenti di arti e discipline umanistiche veniva detto che, se volevano rendersi occupabili, avrebbero dovuto «imparare a programmare». Potrebbe essere stato un cattivo consiglio. Oggi sono i programmatori a essere nervosi all’idea che l’IA possa sottrarre loro il lavoro.

Potrebbero prendere in considerazione l’idea di imparare a filosofare. All’inizio di quest’anno la Federal Reserve Bank di New York ha pubblicato dati secondo cui i laureati americani in filosofia hanno maggiori probabilità di avere un impiego rispetto ai loro coetanei che hanno studiato informatica. Nel 2024, l’anno più recente per cui sono disponibili i dati, il 7% di chi aveva studiato informatica era disoccupato, contro appena il 5,1% dei filosofi.

Molti vengono assunti direttamente dalle aziende di IA. Gli studenti ricevono offerte di lavoro prima ancora di laurearsi, afferma Luciano Floridi, filosofo alla Yale University. Anche gli accademici si stanno spostando. Il dottor Floridi descrive la portata delle partenze dai dipartimenti di filosofia come una «emorragia».

Alcune delle lezioni che la filosofia può offrire ai ricercatori di IA sono antiche. Il metodo socratico - così come descritto da Platone, filosofo dell’antica Grecia - utilizza un’ignoranza simulata e una sequenza di domande per chiarire i significati, individuare contraddizioni e rivelare implicazioni. Molti sistemi di IA attuali tendono all’adulazione. I modelli addestrati al metodo socratico, sostiene Jörg Noller, esperto di filosofia e IA alla Ludwig-Maximilians-Universität di Monaco, sono meno inclini a compiacere gli utenti e più disposti a perseguire la verità.

C’è poi l’idea di «ignoranza socratica». Nell’Apologia, Platone fa dire a Socrate che la sua saggezza consiste soprattutto nell’essere consapevole di quanto non sappia. Instillare questa umiltà in un modello può contribuire a limitarne l’eccessiva sicurezza, un difetto comune che il dottor Noller descrive come «immaturità dell’IA». Iason Gabriel, filosofo senior presso Google DeepMind, un laboratorio di IA con sede a Londra, attribuisce a questi sforzi una diminuzione delle allucinazioni in tutto il settore. Più in generale, afferma, le lezioni della filosofia sono «un meccanismo potente» per migliorare i lunghi processi di ragionamento dell’IA noti come «catene di pensiero».

La formazione filosofica può anche influenzare in modi più specifici la visione del mondo di un modello. Alimentate un assistente legale di IA con gli scritti di John Locke, sostiene Thomas Powers, filosofo della tecnologia all’Università del Delaware, e questo privilegerà solidi diritti di proprietà come fondamento della libertà politica. E se quei principi non vi piacciono, i creatori di modelli ne hanno altri. La serie di modelli «Granite» di IBM, il gigante americano dell’informatica, è dotata di parametri che consentono ai clienti aziendali di allineare meglio gli output alle proprie filosofie aziendali. Francesca Rossi, responsabile dell’IA responsabile di IBM, afferma che questi strumenti possono permettere agli utenti di scegliere dove collocare l’equilibrio tra compromessi filosofici, come quello tra agire individuale e armonia sociale.

La filosofia può contribuire anche alla sicurezza. I ricercatori hanno documentato ogni sorta di comportamento inquietante nei modelli di IA, inclusi tentativi di sottrarsi alla supervisione e persino di ricattare gli utenti. Un modo in cui i creatori di modelli cercano di scoraggiare questo tipo di cattiva condotta è chiamato costituzionalismo dell’IA. Consiste nel costruire un modello attorno a una struttura di regole e principi tratti da scritti filosofici dotati di autorità giuridica o morale.

Anthropic, laboratorio di IA con sede a San Francisco, è tra i sostenitori di questo approccio. Le costituzioni dei suoi modelli Claude hanno incorporato materiali provenienti da fonti diverse come Immanuel Kant, i termini di servizio di Apple e la Dichiarazione universale dei diritti dell’uomo. L’ultima iterazione, guidata dalla principale filosofa di Anthropic, Amanda Askell, è stata pubblicata il 21 gennaio. Alcuni dipendenti di Anthropic hanno soprannominato la costituzione di 78 pagine «il documento dell’anima» di Claude.

La domanda più importante, tuttavia, è che tipo di regole debbano essere inserite in queste costituzioni. I filosofi si sono concentrati su due principali cornici etiche. Una è la deontologia. Popolare fra Kant e altri, essa impone regole rigorose che proibiscono azioni come mentire, esercitare coercizione e trattare le persone come mezzi anziché come fini, anche quando ciò avverrebbe per un bene superiore. La costituzione di Anthropic incorpora molte prescrizioni deontologiche. Queste possono rendere il comportamento dell’IA più coerente, afferma il dottor Powers: un vantaggio quando si tratta di impiegare robot nelle case e negli spazi pubblici.

I modelli con una visione deontologica del mondo presentano anche altri benefici. Uno è una maggiore onestà, tratto ampiamente notato in Claude. I modelli più veritieri, afferma Nick Bostrom, filosofo all’Università di Oxford, hanno minori probabilità di fuorviare gli utenti. Inflection AI, un altro laboratorio della Silicon Valley, impone vincoli deontologici al suo chatbot Pi, progettato per offrire supporto emotivo. Sean White, il suo capo, sostiene che Pi sia bravo a individuare gli utenti a rischio di fare del male a sé stessi o agli altri. Le costituzioni deontologiche aiutano anche nella conformità legale, afferma il dottor Floridi.

L’altro approccio all’etica che interessa ai filosofi dell’IA si chiama consequenzialismo, che soppesa costi e benefici per decidere che cosa fare. I modelli più vicini a questa teoria includono ChatGPT di OpenAI e Gemini di Google. Quest’ultimi sono progettati per produrre «benefici complessivi probabili che superino sostanzialmente i rischi prevedibili».

Gli algoritmi consequenzialisti sono cruciali anche nei software per veicoli autonomi: se un incidente è inevitabile, occorre decidere quale sia il modo meno tragico di schiantarsi. Chris Gerdes, ingegnere senior di Waymo, che produce auto a guida autonoma, afferma che la tendenza è rendere il software di guida più consequenzialista. Il consequenzialismo è centrale anche nei sistemi d’arma basati sull’IA. Gli obiettivi militari devono essere soppesati rispetto alle possibili vittime civili, afferma Jack Shanahan, ex capo del Joint Artificial Intelligence Centre, che studia l’IA per le forze armate americane.

I problemi spinosi abbondano. Ci sono casi in cui le regole deontologiche dovrebbero essere superate? Come si prendono decisioni quando le conseguenze sono incerte? I sistemi di IA dovrebbero tenere conto del benessere animale o dello stato dell’ambiente? Sarebbe moralmente accettabile, si chiede Stefan Heck, filosofo e capo di Nauto, azienda che produce sistemi di sicurezza basati sull’IA per camion e altri veicoli commerciali, dare priorità ai pedoni giovani rispetto a quelli anziani? Egli prevede cause legali eticamente complesse: gli algoritmi consequenzialisti, dopotutto, consentono esplicitamente un danno purché sia progettato per evitarne uno peggiore.

I critici temono un «depotenziamento morale»: se i computer prendono sempre più decisioni etiche, le persone potrebbero diventare meno disposte a formulare i propri giudizi?

I programmatori disoccupati prendano nota: sembra non mancare il lavoro per i filosofi dell’IA.