In un ampio documento frutto di 2 anni di consultazioni tenute da un panel di esperti internazionali l’Organizzazione elenca pregi e rischi connessi allo sviluppo dell’intelligenza artificiale nel comparto sanitario. “Come tutte le nuove tecnologie, l’intelligenza artificiale ha un enorme potenziale per migliorare la salute di milioni di persone in tutto il mondo, ma come tutte le tecnologie può anche essere utilizzata in modo improprio e causare danni”.
“L’intelligenza artificiale (IA) può migliorare l’assistenza sanitaria e la medicina in tutto il mondo, ma solo se l’etica e i diritti umani vengono messi al centro della sua progettazione, implementazione e utilizzo”. È questo l’assunto base su cui si basa una nuova guida dell’OMS ‘Etica e governance dell’intelligenza artificiale per la salute’ frutto di 2 anni di consultazioni tenute da un panel di esperti internazionali.
“Come tutte le nuove tecnologie, l’intelligenza artificiale ha un enorme potenziale per migliorare la salute di milioni di persone in tutto il mondo, ma come tutte le tecnologie può anche essere utilizzata in modo improprio e causare danni”, ha affermato il dott. Tedros Adhanom Ghebreyesus, direttore generale dell’Oms. “Questo nuovo importante rapporto fornisce una guida preziosa per i paesi su come massimizzare i benefici dell’IA, riducendo al minimo i suoi rischi ed evitando le sue insidie”.
L’Oms rimarca come “l’intelligenza artificiale può (e in alcuni paesi ad alto reddito è già utilizzata per migliorare la velocità e l’accuratezza della diagnosi e dello screening delle malattie) assistere, rafforzare la ricerca sanitaria e lo sviluppo di farmaci e sostenere diversi interventi di salute pubblica, come la sorveglianza delle malattie, la risposta alle epidemie e la gestione dei sistemi sanitari”.
E ancora nel documento si rimarca come “l’intelligenza artificiale potrebbe anche consentire ai pazienti di assumere un maggiore controllo della propria assistenza sanitaria e comprendere meglio l’evoluzione delle loro esigenze di salute. Potrebbe anche consentire ai paesi poveri e alle comunità rurali, dove i pazienti spesso hanno accesso limitato agli operatori sanitari o ai professionisti medici, di colmare le lacune nell’accesso ai servizi sanitari”.
Tuttavia, il nuovo rapporto dell’OMS mette in guardia contro la “sopravvalutazione dei benefici dell’IA per la salute, specialmente quando ciò avviene a spese degli investimenti e delle strategie fondamentali necessarie per ottenere una copertura sanitaria universale”.
Inoltre il report evidenzia come “le opportunità siano legate sia a sfide che a rischi, tra cui la raccolta e l’utilizzo dei dati sanitari non etici; pregiudizi codificati negli algoritmi e rischi dell’IA per la sicurezza dei pazienti, la sicurezza informatica e l’ambiente. Ad esempio, mentre gli investimenti del settore pubblico e privato nello sviluppo e nella diffusione dell’IA sono fondamentali, l’uso non regolamentato dell’IA potrebbe subordinare i diritti e gli interessi dei pazienti e delle comunità rispetto ai potenti interessi commerciali delle società tecnologiche o agli interessi dei governi nella sorveglianza e controllo sociale”
Il rapporto sottolinea inoltre che i sistemi formati principalmente sui dati raccolti da individui nei paesi ad alto reddito potrebbero non funzionare bene per gli individui in contesti a basso e medio reddito. “I sistemi di – si legge – IA dovrebbero pertanto essere progettati con cura per riflettere la diversità dei contesti socioeconomici e sanitari. Dovrebbero essere accompagnati da formazione in competenze digitali, coinvolgimento della comunità e sensibilizzazione, in particolare per milioni di operatori sanitari che richiederanno l’alfabetizzazione digitale o la riqualificazione se i loro ruoli e funzioni sono automatizzati e che devono fare i conti con macchine che potrebbero mettere in discussione la decisione- fare e l’autonomia di fornitori e pazienti”.
In definitiva per l’Oms “guidati dalle leggi esistenti e dagli obblighi in materia di diritti umani, e da nuove leggi e politiche che sanciscono principi etici, governi, fornitori e progettisti devono collaborare per affrontare le preoccupazioni relative all’etica e ai diritti umani in ogni fase della progettazione, dello sviluppo e dell’implementazione di una tecnologia di intelligenza artificiale”.
E per questo nel documento vengono indicati 6 principi per garantire che l’IA funzioni per l’interesse pubblico in tutti i paesi:
– Proteggere l’autonomia umana: nel contesto dell’assistenza sanitaria, ciò significa che gli esseri umani dovrebbero mantenere il controllo dei sistemi sanitari e delle decisioni mediche; la privacy e la riservatezza dovrebbero essere protette e i pazienti devono fornire un valido consenso informato attraverso adeguati quadri legali per la protezione dei dati.
– Promuovere il benessere e la sicurezza delle persone e l’interesse pubblico. I progettisti di tecnologie di intelligenza artificiale dovrebbero soddisfare i requisiti normativi di sicurezza, accuratezza ed efficacia per casi d’uso o indicazioni ben definiti. Devono essere disponibili misure di controllo della qualità nella pratica e di miglioramento della qualità nell’uso dell’IA.
– Garantire trasparenza, spiegabilità e intelligibilità. La trasparenza richiede che siano pubblicate o documentate informazioni sufficienti prima della progettazione o dell’implementazione di una tecnologia di intelligenza artificiale. Tali informazioni devono essere facilmente accessibili e facilitare una consultazione pubblica e un dibattito significativi su come è progettata la tecnologia e su come dovrebbe o non dovrebbe essere utilizzata.
– Promuovere responsabilità e responsabilità. Sebbene le tecnologie di intelligenza artificiale svolgano compiti specifici, è responsabilità delle parti interessate garantire che vengano utilizzate in condizioni appropriate e da persone adeguatamente formate. Dovrebbero essere disponibili meccanismi efficaci di interrogatorio e di ricorso per individui e gruppi che sono influenzati negativamente da decisioni basate su algoritmi.
– Garantire inclusività ed equità. L’inclusività richiede che l’IA per la salute sia progettata per incoraggiare l’uso e l’accesso più equo possibile, indipendentemente da età, sesso, genere, reddito, razza, etnia, orientamento sessuale, abilità o altre caratteristiche protette dai codici dei diritti umani.
– Promuovere un’IA reattiva e sostenibile. I progettisti, gli sviluppatori e gli utenti dovrebbero valutare in modo continuo e trasparente le applicazioni AI durante l’uso effettivo per determinare se l’IA risponde in modo adeguato e appropriato alle aspettative e ai requisiti. I sistemi di IA dovrebbero anche essere progettati per ridurre al minimo le loro conseguenze ambientali e aumentare l’efficienza energetica. I governi e le aziende dovrebbero affrontare le interruzioni previste sul posto di lavoro, compresa la formazione degli operatori sanitari per adattarsi all’uso dei sistemi di intelligenza artificiale e le potenziali perdite di posti di lavoro dovute all’uso di sistemi automatizzati.
