Intelligenza artificiale va monitorata nei dispositivi medici

Un gruppo di ricercatori di Stanford ha analizzato le procedure di valutazione alle quali vengono sottoposti gli algoritmi di intelligenza artificiale in campo medico: in molti casi non vengono messi adeguatamente alla prova rispetto ai pericoli che potrebbero comportare

Dopo anni di incubazione durante i quali era difficile prevedere perfino quale sarebbe stato il futuro dell’intelligenza artificiale tra ambulatori e corsie d’ospedale, oggi apprendimento automatico e reti neurali hanno trovato una molteplicità di sbocchi in un numero elevato di applicazioni pratiche e dispositivi medici. Con l’aiuto dell’Ai, macchine a raggi X, ultrasuoni, tac, ecg e parecchi altri strumenti stanno acquisendo una marcia in più nell’identificare nei pazienti condizioni cliniche rilevanti che rischiano invece di sfuggire all’occhio nudo.

Se però da una parte la fiducia riposta in queste tecnologie non potrà fare che bene al progresso della medicina, d’altro canto occorre anche regolamentare queste ultime in modo più stringente rispetto a quanto sta invece avvenendo ora. Il monito arriva da un gruppo di ricercatori di Stanford, che hanno analizzato le procedure di valutazione alle quali vengono sottoposti gli algoritmi di intelligenza artificiale utilizzati in campo medico, concludendo che in parecchi casi questi sistemi non vengono messi adeguatamente alla prova rispetto ai pericoli che il loro utilizzo esteso e diffuso potrebbe comportare.

L’allarme dei ricercatori

Prima di poter essere impiegati per diagnosi e trattamenti, i dispositivi che funzionano sfruttando algoritmi di intelligenza artificiale vengono sottoposti a mesi di controlli atti a verificarne l’efficacia e soprattutto l’assenza di potenziali effetti avversi. Stando allo studio pubblicato dai ricercatori di Stanford, le procedure messe in campo dalla Fda statunitense al riguardo hanno però alcune falle da non trascurare.

Molti dispositivi ad esempio sono stati testati utilizzando solamente dati storici dei pazienti, mentre solo una minima parte è stata messa alla prova al fianco di medici in carne e ossa supportandoli nelle loro decisioni. In altri casi le valutazioni sono avvenute in una o in due uniche località, ovvero con enormi limiti sul campione di pazienti con i quali i dispositivi hanno avuto a che fare per dimostrare il proprio valore.

Valutazioni parziali

Gli algoritmi di Ai non lavorano mai indipendentemente, ma sempre sotto la supervisione di uno specialista; valutarli sulla base di dati storici li mette però a confronto con diagnosi già definitive, e impedisce di comprendere il loro potenziale di funzionamento all’interno del flusso di lavoro di un medico. Capire se un algoritmo predittivo può influenzare negativamente il parere di uno specialista oppure se rischia frequentemente di essere utilizzato in modo errato è un aspetto fondamentale della sua sicurezza, che però stando ai ricercatori di Stanford non viene adeguatamente preso in considerazione negli studi di valutazione.

Il rischio bias

L’altro problema individuato dai ricercatori nasce da un rischio comune a tutti gli algoritmi di Ai, ovvero quello di perpetrare silenziosamente i bias già presenti nei dati con i quali sono stati addestrati. Parecchi software di riconoscimento facciale e vocale si sono dimostrati meno accurati nei confronti di persone di colore e altre comunità meno privilegiate solo perché i dati usati per formarne il funzionamento rappresentavano questi individui in modo sproporzionato rispetto al totale; in ambito medico il rischio è il medesimo, e l’unico modo per prevenirlo è rimanere vigili sul tema. Quando però le valutazioni su questi software vengono condotte in appena uno o due ospedali diventa difficile essere certi che lavorino adeguatamente ovunque nel mondo.

Controlli più rigidi ora, o i nodi verranno al pettine 

Lo studio completo è stato pubblicato su Nature e include altre osservazioni che puntano a un’unica conclusione: l’Ai nasconde un potenziale enorme che va però saputo imbrigliare. Occorre cioè rivedere i criteri utilizzati per valutare i prodotti di questa svolta tecnologica; il rischio altrimenti è che i nodi vengano al pettine troppo tardi, gettando discredito su un intero settore che ha invece le carte in regola per cambiare la storia della medicina.

Occorre soprattutto fare tutto questo ora che il fenomeno sta prendendo velocità: su un totale di oltre 130 dispositivi provvisti di algoritmi di Ai approvati dalla Fda per l’utilizzo in ambito medico, e a circa la metà è stato dato il semaforo verde soltanto nell’ultimo anno. L’entusiasmo intorno all’intero settore è insomma decisamente palpabile, ma occorre cavalcarlo senza lasciarvisi travolgere.