E il conto è destinato ad aumentare. Nel suo documento programmatico 2023-25, redatto ben prima che i ritardi dell’anno in corso mettessero in discussione i piani, Eu-Lisa considerava di decuplicare gli investimenti su Ees, passando da 1,27 milioni nel 2023 a 12,84 milioni nel 2025. Vis passa in dodici mesi da 13 a 22,5 milioni, per Smbs si arriva nel 2024 a 35 milioni (che poi calano drasticamente a 13,95 nel 2025). Ma il calcolo non teneva conto delle continue frenate.
Hai informazioni riservate su progetti europei di sorveglianza? Scrivici in modo anonimo e sicuro
Questione di privacy
C’è un altro aspetto critico nello sviluppo dei grandi sistemi informatici di Eu-Lisa. Ed è l’uso di dati personali sensibili e di strumenti di intelligenza artificiale per processarli. Il sistema condiviso di biometria Sbms integrerà, stando agli sviluppatori, i dati di “oltre 400 milioni di cittadini di Paesi terzi con le loro impronte digitali e volti” e saranno adoperati algoritmi di riconoscimento facciale per incrociare le informazioni. Etias, per esempio, gestirà in automatico le richieste di accesso. Al momento Eu-Lisa conta di trattare manualmente solo quelle che puzzano, ma siccome nel 2019 in Europa si sono registrati 750 milioni di arrivi internazionali, l’obiettivo di automatizzare anche le pratiche “sospette”, con ovvi risvolti etici. Nel 2020 la posizione dell’agenzia sull’AI era “non una questione di “se”, ma di “quando” e “con quale estensione”“. E di valutare se ricorrere ai dati reali dei cittadini per l’addestramento.
“Sia Ees sia Etias richiedono un certo livello di intelligenza artificiale e automazione – si legge in una ricerca commissionata da Eu-Lisa – e questo avrà un effetto immediato sulle persone. Va considerato che la precisione dei sistemi di AI basati su machine learning dipende da un ricco apparato di data set usati per allenarli e che la qualità dei data set usati per allenare i sistemi di riconoscimento biometrico di Ess determineranno la qualità dei sistemi di AI”. Motivo per cui, suggerisce lo studio, “va fatta una valutazione attenta sul bilanciamento tra protezione dei dati e performance dei sistemi, focalizzandosi sui benefici e sugli svantaggi dell’uso di dati reali per allenare i sistemi di machine learning”.
Se i primi superassero i secondi, almeno sulla carta, i governi seduti nel Consiglio europeo sarebbero pronti a forzare la mano per adoperarli? Da sempre la sicurezza spinge le cancellerie del blocco nelle braccia della sorveglianza biometrica. E la partita più delicata dell’AI Act, il futuro pacchetto di norme di sull’intelligenza artificiale, si gioca proprio su questi aspetti. Insomma, la digitalizzazione dei controlli non è solo questione di tempo e soldi. Alle frontiere dell’Europa si gioca una grossa partita sulla privacy.
Leggi tutto su www.wired.it
di Luca Zorloni www.wired.it 2023-10-16 05:00:00 ,
