Intelligenza artificiale, la nuova arma dei terroristi

Anche i gruppi estremisti hanno iniziato a usare l’intelligenza artificiale, e in particolare l’AI generativa, con l’intento di diffondere la propria propaganda. Una situazione che preoccupa non poco gli esperti del settore, che temono che la tendenza possa vanificare il lavoro che le big tech hanno fatto negli ultimi anni per tenere l’estremismo fuori da internet.

Da anni i colossi tecnologici creano database che raccolgono i contenuti estremisti e violenti conosciuti – i cosiddetti database di hash – che vengono poi condivisi tra le varie piattaforme al fine di garantire una rimozione rapida del materiale incriminato da internet.

Arma di propaganda

Ciononostante, il direttore esecutivo di Tech Against Terrorism Adam Hadley spiega che i suoi colleghi raccolgono circa 5000 esempi di contenuti generati dall’intelligenza artificiale ogni settimana. In particolare, di recente sono tantissime le immagini generate dall’AI condivise dai gruppi legati a Hezbollah e Hamas per influenzare la narrazione sulla guerra tra Hamas e Israele. “La nostra più grande preoccupazione è che se i terroristi iniziano a usare l’AI generativa per manipolare le immagini su larga scala, questo potrebbe distruggere la soluzione della condivisione dei database di hash. È un rischio enorme”, ha detto a Wired US il direttore della no-profit affiliata alle Nazioni Unite.

In questi mesi i ricercatori di Tech Against Terrorism hanno portato alla luce diversi esempi di abusi da parte degli estremisti. Tra questi, un canale di messaggistica neonazista che condivide immagini generate dall’intelligenza artificiale utilizzando prompt razzisti e antisemiti, che sono stati inseriti in un’app disponibile sul Google Play Store; oppure, esponenti di estrema destra che promuovono una guida che spiega come utilizzare l’AI generativa per creare meme estremisti; o ancora una pubblicazione pro-al-Qaeda che diffonde manifesti di propaganda accompagnati da immagini che molto probabilmente sono state create utilizzando la tecnologia.

Oltre a descrivere la minaccia rappresentata dagli strumenti di AI generativa in grado di modificare le immagini, i ricercatori di Tech Against Terrorism hanno pubblicato anche un rapporto che analizza tutti i modi possibili in cui la tecnologia può aiutare i gruppi estremisti. Tra questi, l’uso di tool di traduzione automatica in grado di tradurre rapidamente la propaganda in più lingue, o l’adozione di strumenti che permettono di creare messaggi personalizzati su larga scala al fine di facilitare gli sforzi di reclutamento online.

La nuova iniziativa di Microsoft

Fortunatamente però non ci sono soltanto risvolti negativi. Lo stesso Hadley, infatti, sostiene che l’intelligenza artificiale offra anche l’opportunità di anticipare le azioni dei gruppi estremisti, preservando così la sicurezza internazionale. “Collaboreremo con Microsoft per capire se, utilizzando il nostro archivio di materiale, sia possibile creare una sorta di sistema di rilevamento basato sull’AI generativa per contrastare la minaccia emergente – ha dichiarato –. Siamo fiduciosi che l’AI generativa possa essere utilizzata per difendersi dagli usi ostili della stessa AI generativa“.