Il doppio standard di Meta sulla pornografia

Nel 2021 il Leopold Museum di Vienna lanciò una campagna per protestare contro la censura dell’arte sui social media. La prestigiosa istituzione austriaca aprì un account OnlyFans in segno di protesta contro il blocco di Facebook e Instagram nei confronti di un video commemorativo in cui si vedeva Liebespaar, un dipinto del 1914 a opera di Koloman Moser. Le piattaforme, che oggi possiamo raggruppare sotto il gruppo Meta, portarono come spiegazione il fatto che si trattasse di un contenuto potenzialmente pornografico. Il dipinto fiera due amanti, un uomo e una donna, a petto scoperto, seduti una dappresso all’altro su un letto. La stessa sorte è toccata negli anni a lavori di Egon Schiele e molti altri artisti, tanto da portare il Leopold Museum a iniziare una vera e propria campagna sul tema, con lo slogan “Pensi che questa opera d’arte dovrebbe essere censurata? Meta sì.”

Che la pornografia e i contenuti espliciti debbano essere in qualche modo controllati è inevitabile, ma le storture create dal processo di revisione utilizzato dall’azienda di Menlo Park sono continuate negli anni. La moderazione dei contenuti, nonostante i recenti proclami sul fact-checking e la libertà di parola, c’è sempre stata e le sue falle sono state ripetutamente raccontate dal lavoro di attivisti e ricercatori. L’ultimo esempio riguarda lo scorso anno e ci fiera come in realtà di immagini pornografiche su Meta ce ne sono a migliaia e possono facilmente raggiungere milioni di persone. La cosa più allarmante è che sembrano esserci modalità di moderazione diverse applicate diverse alle stesse immagini, a seconda che il profilo utilizzato sia di tipo personale o business, e quindi con un budget pubblicitario a supporto.

Il doppio standard

Secondo una caccia del gruppo non-profit AI Forensics, siamo di fronte a quello che si può definire un doppio standard, che viola le regole scritte dalla stessa Meta in materia. Oltre tremila inserzioni pubblicitarie contenenti materiale esplicito sono state approvate dal processo di revisione della piattaforma e hanno raggiunto circa otto milioni di visualizzazioni nell’Unione Europea, principalmente tra gli uomini oltre i 44 anni. Per dimostrare che non si trattava di un problema tecnico, i ricercatori hanno caricato le stesse immagini su profili personali, notando che venivano sistematicamente bloccate. Non si trattava di un bug temporaneo, ma di un processo attivo almeno da dicembre 2023.

Dodici mesi più tardi, i ricercatori di AI Forensics hanno raccolto dalla Ad Library di Meta, l’archivio delle pubblicità online della piattaforma, 14.363 annunci pubblicitari in Francia, Germania, Spagna, Italia e Polonia durante l’anno precedente. Gli annunci riguardavano principalmente siti di incontri e prodotti per il miglioramento delle prestazioni sessuali ed erano stati filtrati in base alla presenza di espressioni come “erezione forte,” “erezione cm,” “pene piccolo,” “pene lungo,” “pornhub” o “erezione del pene.” Nonostante quasi un quarto delle inserzioni presenti nel dataset fosse stato rimosso dalla piattaforma, le altre erano rimaste nella Ad Library in violazione dei suoi stessi standard.

Pay-to-play

Pay-to-play è un’espressione usata per descrivere situazioni in cui è necessario pagare per avere l’opportunità di partecipare. È un concetto che si può applicare a diversi contesti, come il gaming, il mondo degli affari e dello sport, quasi sempre con accezione negativa. Nel campo dei social media invece fa riferimento alla necessità di investire in budget pubblicitari per raggiungere un determinato target di pubblico, o anche solo per aumentare le portata di un contenuto e amplificarne la visibilità organica determinata degli algoritmi.

Gli esempi di questo doppio standard riguardano anche diversi casi di sospensione o rimozione di account sex positive, di insegnanti di lap dance e in contemporanea il proliferare di contenuti generati con l’intelligenza artificiale, contenenti esempi di deepfake di celebrità o soltanto di AI girlfriend.

Spostando la discussione anche su altri ambiti, le caratteristiche della moderazione dei contenuti pubblicitari di Meta sembrano viaggiare su binari diversi. Da una parte abbiamo regole applicate ai profili personali, su cui la piattaforma non guadagna in modo diretto, e dall’altra lo stesso trattamento non viene riservato agli inserzionisti, che pagano i social per raggiungere il proprio pubblico con annunci mirati. Questa caccia, come molte altre, dimostra quanto sia importante il lavoro di organizzazioni esterne alla piattaforma che facciano emergere i limiti degli attuali meccanismi di moderazione, e di come l’auto regolamentazione non sia sufficiente a prevenire casi di questo tipo.