Il primo round dei negoziati per l’approvazione finale dell’Ai Act, il pacchetto di regole europee sull’intelligenza artificiale, è andato. E già sono emerse alcune fratture. Specie tra Consiglio e Parlamento europeo. Il primo, voce dei 27 Stati dell’Unione, accarezza l’idea di usare l’intelligenza artificiale per un maggior controllo della società, come già fatto in passato per altri strumenti digitali, dalle grandi banche dati di identità all’uso di droni e tecnologie alle frontiere. Il Parlamento, invece, sull’Ai Act ha alzato, fin dove il compromesso tra le parti politiche lo ha concesso, l’asticella del rigore. Mettendo al bando, per esempio, il riconoscimento facciale o l’uso di algoritmi di polizia predittiva.
I punti di scontro:
La valutazione dei diritti fondamentali
Com’era inevitabile, ora che dalle proposte di Commissione, Consiglio e Parlamento occorre tirare fuori una sintesi, le posizioni degli ultimi due cozzano. Al primo incontro del trilogo (la trattativa a tre), in programma il 18 luglio, la discussione dell’Ai Act è finita in un muro contro muro quando si è arrivati al dibattito sulla valutazione sui diritti fondamentali. Il Parlamento lo vuole. Il Consiglio no. E per ora i negoziati sul punto sono in stallo.
Il nodo del contendere, la valutazione sui diritti fondamentali (fundamental rights assessment) consiste nel “verificare l’impatto su contesti concreti dei sistemi e prevenire ulteriormente dei rischi”, spiega a Wired Brando Benifei, capodelegazione del Partito democratico al Parlamento europeo e relatore dell’Ai Act. E aggiunge: “L’obiettivo della certificazione di conformità, che sta al cuore del regolamento, e di questa valutazione di impatto rivolta agli utilizzatori è costruire fiducia e ridurre i rischi”. Per questo l’europarlamentare annuncia che non intendono rinunciarvi: “Si tratta di un procedura essenziale, possiamo discutere su come migliorarla e renderla più utile”. Di diverso avviso il Consiglio, che al trilogo ha bollato la misura come troppo impegnativa per chi utilizza l’intelligenza artificiale e un costo per le aziende. Spingendo per depennarla dal testo finale.
Sandbox e test degli algoritmi
Altro punto delicato riguarda i test dell’intelligenza artificiale. L’Ai Act prevede il ricorso alle sandbox. Quindi ambienti sicuri entro cui sperimentare le applicazioni degli algoritmi con deroghe al rispetto di tutte le regole del settore, in modo da non rallentare innovazione e ricerca. Il modello della sandbox è già in uso in molti settori della tecnologia, come il fintech. E fin qui c’è concordia tra le parti. Al trilogo, tuttavia, Consiglio e Parlamento si sono scontrati su due proposte collaterali.
La prima è la possibilità di fare test nel mondo reale, uscendo dal perimetro della sandbox. A proporla i governi seduti in Consiglio, che ha trovato un “Parlamento prudente”, dice Benifei, perché “c’è il rischio di violare i diritti delle persone. Se ne può parlare solo con molte salvaguardie”. Secondo punto è adottare le sandbox in tutti gli Stati dell’Unione, senza disparità. La cancellerie, al contrario, vorrebbero mano libera. Il rischio, però, è di muoversi in ordine sparso, creando “squilibri competitivi”, dice Benifei.
I divieti dell’Ai
Se sulle sandbox trovare una mediazione sarà possibile, più duro appare lo scontro sui divieti, oggetto del prossimo trilogo a ottobre. Perché gli Stati spingono per usare l’intelligenza artificiale per meccanismi di sicurezza e di controllo, per l’identificazione biometrica negli spazi pubblici, per forme di polizia predittiva. “È un’idea di sicurezza sbagliata e falsa, per nulla utile a contrastare la criminalità e i problemi sociali e non suffragata dai dati – dice Benifei -. Siamo disponibili a ragionare ma non ad arretrare sul principio”. Peraltro proprio in Parlamento il Partito popolare europeo aveva cercato di proporre emendamenti per annacquare i divieti, poi bocciati. Sono comunque rimaste escluse dalle tutele del pacchetto le persone migranti, che organizzazioni non governative e associazioni per i diritti umani premono perché siano inserite nella versione del trilogo, nonostante il chiaro ostacolo del Consiglio.
Leggi tutto su www.wired.it
di Luca Zorloni www.wired.it 2023-07-28 05:00:00 ,