Twitter come OnlyFans? La pedopornografia blocca il progetto

Contenuti per adulti. Non c'è che dire, consentono di fare un sacco di soldi. Tanto che anche Twitter aveva pensato di monetizzare lanciando un servizio simile a quello offerto da Onlyfans. Perché sul social già da anni circolano contenuti di stampo sessuale, ma i dirigenti puntavano a farli diventare fonte di guadagno. Come? Tramite un piano di abbonamenti da offrire ai creator, da cui Twitter avrebbe tratto una percentuale. Ma il progetto ha subito un brusco colpo ed è stato accantonato. Il problema risiede nella pedopornografia.

È quanto svela un'inchiesta di The Verge. L'idea di apportare un cambiamento radicale alla piattaforma aveva iniziato a essere discussa internamente alla società in primavera. Il progetto si sarebbe chiamato «ACM: Adult Content Monetization». E, se fosse stato approvato, Twitter avrebbe rischiato un enorme contraccolpo da parte degli inserzionisti, che generano la stragrande maggioranza dei ricavi dell'azienda. Ma il nuovo servizio avrebbe potuto compensare le perdite. OnlyFans, infatti, prevede entrate per 2,5 miliardi di dollari quest'anno.

Prima del via libera finale al lancio, tuttavia, Twitter ha convocato 84 dipendenti per formare quello che è stato battezzato «Red Team». L'obiettivo era «mettere alla prova la decisione di consentire ai creatori adulti di monetizzare sulla piattaforma, concentrandosi in particolare sulla possibilità per l'azienda di garantire un servizio sicuro e responsabile», stando alla documentazione visionata da The Verge. E sono proprio le conclusioni a cui è giunto il Red Team ad aver fatto naufragare il progetto: Twitter non è attualmente in grado di controllare in modo efficace la pubblicazione e la diffusione di contenuti sessuali, garantendo che non ve ne siano di violenti o illegali. Questi comprendono, secondo la valutazione interna che si è conclusa nel mese di aprile, scene di nudo non consensuali o che coinvolgono minori. Mancano anche strumenti per verificare che sia i creatori sia gli eventuali abbonati siano maggiorenni.

Di conseguenza, nel mese di maggio, settimane dopo che Elon Musk aveva accettato di acquistare la società per 44 miliardi di dollari (a cui è seguita la vicenda legale tuttora in corso), la società ha rimandato il progetto a tempo indeterminato. Se già oggi Twitter non è in grado di rimuovere in maniera costante i contenuti pedopornografici, è impensabile credere di poter monetizzare sui contenuti per adulti. Il lancio di ACM finirebbe solo per acuire il problema. Con il paywall Twitter finirebbe per «ospitare» ancora più materiale illegale. Senza delle policy e degli strumenti specifici per prevenire gli abusi la società, secondo il Red Team, non può procedere nel suo progetto di fare soldi con la pornografia.

Ma non è finita qui. Il problema scoperchiato, infatti, non è di poco conto. Perché su Twitter i contenuti pedopornografici sono molto diffusi e ancora difficili da tracciare sulla piattaforma, come confermato da alcune interviste di The Verge a dipendenti ed ex dipendenti. E i dirigenti ne sarebbero informati. Lo scorso anno, infatti, i ricercatori che lavoravano nel team incaricato di rendere Twitter più sicuro hanno lanciato l'allarme sullo stato debole degli strumenti per rilevare lo sfruttamento sessuale dei minori e hanno chiesto più risorse. Un report interno avvertiva che «la quantità di contenuti pedopornografici online è cresciuta in modo esponenziale, a differenza degli investimenti di Twitter nelle tecnologie per rilevare e gestire questa crescita». Lo stesso report consigliava di lavorare a uno strumento in grado di identificare in modo univoco i contenuti pedopornografici, coordinare gli sforzi con le autorità e con le altre piattaforme e tenere conto della salute mentale dei moderatori e dello staff che dovesse avere a che fare con immagini violente o sensibili.

Ma gli investimenti di Twitter in questo ambito vengono ritenuti da chi ci lavora (o lavorava) nettamente insufficienti. Va detto, comunque, che la moderazione dei contenuti su una piattaforma che registra 229 milioni di utenti giornalieri è tutt'altro che evidente. Se si fa il paragone con Google e Facebook, però, che possono contare su strumenti sofisticati di intelligenza artificiale, Twitter pare si affidi a un software datato chiamato RedPanda, definito da un ingegnere nel rapporto «uno degli strumenti più fragili, inefficienti e sotto-supportati» sul mercato. «Queste lacune mettono Twitter anche di fronte al rischio legale e reputazionale».

Come ha reagio la società? A The Verge un portavoce ha spiegato che la situazione descritta nel rapporto non è aggiornata, che nell'ultimo anno gli sforzi per contrastare la pedopornografia sono aumentati e che, «addirittura», sono state aperte due posizioni lavorative per figure che si occupino della sicurezza dei minori.