Riconoscimento facciale, un gruppo di ricercatori ha utilizzato immagini di persone trans senza il loro consenso

Era il 2013 quando i ricercatori dell’Università del North Carolina assemblarono un database di più di un milione di immagini di persone transgender, senza l’esplicito consenso degli interessati. Le immagini erano state prese da YouTube: i proprietari avevano caricato dei video che parlavano della loro esperienza di transizione. I ricercatori hanno messo insieme il database per allenare un algoritmo di riconoscimento facciale che riuscisse identificare le persone prima e dopo l’inizio di una terapia ormonale sostitutiva. Ma non è tutto. I ricercatori hanno anche a lasciato le immagini e i video in una cartella Dropbox fino al 2021. Un dataset che conteneva fotogrammi del processo di transizione medica di trentotto persone è rimasto in un archivio non protetto per otto anni. 

Perché era necessario sviluppare questa tecnologia? Karl Ricanek, il responsabile del team di ricerca, ha dato una spiegazione tanto problematica quanto improbabile: che dei terroristi potessero usare la terapia ormonale sostitutiva per camuffarsi e aggirare i sistemi di riconoscimento facciale. Nel caso ve lo stiate chiedendo: si tratta di uno scenario del tutto ipotetico e altamente fantasioso. Nulla del genere è mai avvenuto nella realtà. 

Ricanek sostiene di aver seguito tutte le procedure standard per la conduzione dello studio: ha corrisposto con l’istituzione universitaria per l’autorizzazione alla costruzione del database e afferma di aver contattato tutte le persone i cui volti apparivano nel set. Di quest’ultimo passaggio, però, non c’è traccia negli audit indipendenti. Lo studio pubblicato sulla rivista Big Data & Society, a firma di Os Keyes e Jeanine Austin, non ha trovato nei documenti ufficiali dello studio nessuna corrispondenza con le persone interessate. C’è un’email del 2017 inviata da uno dei soggetti dello studio che chiede come mai le sue foto fossero state incluse senza il suo consenso esplicito. Ricanek continua ad asserire di aver seguito tutti i protocolli e di aver contattato le persone coinvolte, e che gli scambi non fossero presenti negli atti pubblici a causa di una modifica dei sistemi informatici dell’Università. Nei registri esaminati per l’auditi di Keyes e Austin si nota anche che Ricanek ha inviato il link Dropbox al database a diverse persone all’interno dell’Accademia, e ha continuato a usare le immagini in diverse occasioni, limitandosi a coprire gli occhi delle persone ritratte con dei piccoli bollini gialli. 

L’idea che un terrorista o un soggetto malintenzionato possa prendere un ormone per camuffarsi ed eludere i sistemi di sicurezza dei confini nazionali è semplicemente assurda. “Queste ipotetiche motivazioni rispecchiano stereotipi transfobici più generali – che le persone transgender sono sospette, subdole”, ha commentato Keyes a Motherboard. Diversi Stati, negli USA, hanno approvato o stanno discutendo leggi per limitare i diritti delle persone transgender. È molto più probabile che un’applicazione di riconoscimento facciale venga utilizzata dalle autorità per criminalizzarle ulteriormente, piuttosto che per fermare un attacco terroristico.