Papa Francesco, i suoi deepfake sono un precedente pericoloso | Wired Italia

Recentemente i feed dei social media si sono riempiti di immagini che ritraevano Papa Francesco con addosso un improbabile piumino bianco. La foto – che si è immediatamente trasformata in un meme – è ovviamente falsa: è stata creata utilizzando lo strumento di intelligenza artificiale (Ai) Midjourney. Ciononostante, l’immagine è riuscita a ingannare molte persone, al punto da spingere alcune testate giornalistiche a definirla “uno dei primi casi di disinformazione su larga scala derivante dall’intelligenza artificiale“.

Da sola, questa frase è in grado di suscitare un senso di inquietudine, un po’ come quando in Handmaid’s Tale si vede per la prima volta un personaggio con indosso un cappotto rosso. Cosa sarebbe successo se al posto di una foto falsa del papa avesse iniziato a circolare un’immagine spacciata per un scatto fatto sul campo di battaglia della guerra in Ucraina? O una foto del presidente statunitense Joe Biden che partecipa a una qualche riunione segreta? La prospettiva che l’Ai sia in grado di generare questo tipo di disinformazione è certamente spaventosa.

Far sì che decine di persone abbocchino a un deepfake del presidente ucraino Volodymyr Zelensky è ovviamente più complicato rispetto a ingannarle con una bizzarra foto del pontefice. Come ha sottolineato la settimana scorsa Charlie Warzel su The Atlantic , ogni persona adotta un'”euristica diversa per cercare di individuare la verità“, ed è più facile credere che Papa Francesco si presti a indossare un piumino che, per esempio, a immagini Ai che ritraggano il rocambolesco arresto di Donald Trump. Non è poi così difficile capire, quindi, perché molti di quelli che hanno visto l’immagine si siano limitati a riderci su, continuando a fare scrolling senza metterne l’autenticità.

La vicenda, tuttavia, crea un precedente inquietante. Il creatore dell’immagine fake del Papa non stava cercando di ingannare nessuno. Anzi, parlando a BuzzFeed News ha dichiarato che voleva semplicemente creare delle immagini divertenti dopo aver assunto dei funghi allucinogeni. Ma se invece la foto facesse parte di una campagna di disinformazione? Ormai molti contenuti generati dall’intelligenza artificiale hanno raggiunto un tale livello di sofisticazione da rendere già difficile per occhi e orecchie umane individuarne l’origine.