Intelligenza artificiale: i casi in cui è un rischio, secondo il nuovo piano degli Stati Uniti

Tra gli esempi di violazione dei diritti dei cittadini figurano la polizia predittiva, l’AI che può bloccare conversazioni criptate, il software di rilevamento del plagio o delle emozioni, gli algoritmi di selezione degli inquilini e i sistemi che possono influire sull’immigrazione o sulla custodia dei bambini.

Secondo l’ufficio governativo, le agenzie federali utilizzano attualmente più di 700 algoritmi, ma potrebbero essere anche di più, dato che gli inventari per ora forniti dagli apparati istituzionali sono incompleti. Jason Miller, vicepresidente dell’Ufficio di gestione e bilancio, afferma che la bozza del regolamento richiede alle agenzie federali di condividere più informazioni sugli algoritmi che utilizzano: “Ci aspettiamo che nelle settimane e nei mesi a venire miglioreremo le capacità delle agenzie di identificare e rendere conto del loro uso dell’AI“.

Tempi e proroghe

La vicepresidente Kamala Harris ha menzionato il regolamento insieme ad altre iniziative in materia di AI nelle osservazioni rilasciate all’ambasciata statunitense a Londra, in occasione del vertice britannico sulla sicurezza dell’AI. Harris ha affermato che, mentre alcune voci nella definizione delle politiche sull’AI si concentrano sui rischi catastrofici, come il ruolo che l’IA potrebbe avere un giorno nei cyberattacchi o nella creazione di armi biologiche, ci si scorda che i pregiudizi e la disinformazione sono già fortemente amplificati a causa dell’AI, colpendo quotidianamente individui e comunità.

Merve Hickok, autrice di un libro di prossima pubblicazione sulle politiche di utilizzo dell’AI e presidente dell’organizzazione no-profit Center for AI and digital policy, apprezza il fatto che la nota dell’ufficio governativo americano richieda alle agenzie di giustificare l’uso dell’AI e il fatto di assegnare a persone specifiche la responsabilità giuridica degli effetti di questa tecnologia. Secondo Hickok, che è anche docente presso l’Università del Michigan, si tratta di un modo potenzialmente efficace per garantire che l’AI non venga inserita in ogni programma governativo.

Ma la concessione di deroghe potrebbe minare questi meccanismi teme Hickok. “Sarei preoccupata se iniziassimo a vedere le agenzie usare queste deroghe in modo estensivo, soprattutto le forze dell’ordine, la sicurezza interna e la sorveglianza – dice Hickok – Una volta ottenuta la deroga, questa può essere anche prorogata all’infinito“.