L’intelligenza artificiale è un’arma a doppio taglio per la cybersecurity | Wired Italia

All’ultima Rsa, l’annuale conferenza sulla cybersecurity di San Francisco, nell’aria c’era un senso di inevitabilità. Durante i colloqui e i panel nel tentacolare centro congressi Moscone, tra gli stand e nelle conversazioni estemporanee nei corridoi, c’era la certezza che prima o poi qualcuno avrebbe sollevato il tema dell’intelligenza artificiale (Ai) generativa e del suo possibile impatto sulla sicurezza digitale e gli attacchi informatici. La sensazione non è sfuggita al direttore della cybersecurity dell’Agenzia per la sicurezza nazionale statunitense (Nsa) Rob Joyce.

“Non si può andare in giro per l’Rsa senza parlare di Ai e malware – ha detto Joyce mercoledì 26 aprile durante la sua presentazione annuale, State of the Hack –. Penso che tutti abbiano visto l’esplosione. Non dico che sia già completata, ma si tratta davvero di una tecnologia che cambia le carte in tavola“.

Nuovi pericoli…

Negli ultimi mesi, i chatbot basati su modelli linguistici di grandi dimensioni, come ChatGpt, hanno reso anni di sviluppo e ricerca sull’apprendimento automatico più concreti e accessibili alle persone in tutto il mondo. Ma ci sono domande pratiche su come questi nuovi strumenti saranno manipolati e sfruttati dai attori malintenzionati allo scopo di sviluppare e distribuire malware, alimentare la creazione di disinformazione e contenuti non autentici, o per ampliare le capacità degli aggressori di automatizzare i loro attacchi. Allo stesso tempo, la comunità della sicurezza è ansiosa di sfruttare a suo favore l’Ai generativa per difendere i sistemi informatici. Al momento, tuttavia, siamo ancora in una fase iniziale nello sviluppo della tecnologia, e stabilire con esattezza cosa accadrà in futuro è difficile.

Joyce ha spiegato che l’Nsa prevede che l’Ai generativa dia ulteriore slancio a truffe già efficaci come il phishing. Dal momento che gli attacchi di questo tipo si basano su contenuti convincenti e coinvolgenti per indurre i morti ad aiutare inconsapevolmente gli aggressori, l’intelligenza artificiale generativa può diventare un strumento ovvio da impiegare per creare rapidamente comunicazioni e materiali su misura.

“Il cybercriminale di origine russa che non parla bene l’inglese non invierà più email raffazzonate ai vostri dipendenti – ha detto Joyce –. Ora saranno in inglese perfetto e avranno senso […] Stiamo già vedendo avversari, sia stati nazionali che criminali, che iniziano a sperimentare gli strumenti della generazione di ChatGpt“.