Uno studio condotto dalla University of California San Francisco (UCSF) e pubblicato su Science il 24 ottobre ha evidenziato come un algoritmo ampiamente utilizzato negli ospedali statunitensi per allocare l’assistenza sanitaria ai pazienti ha sistematicamente discriminato i pazienti neri. L’algoritmo in questione aveva meno probabilità di indirizzare i neri rispetto ai bianchi che erano ugualmente malati a programmi che mirano a migliorare l’assistenza ai pazienti con complesse esigenze mediche. Ospedali e assicuratori usano l’algoritmo per aiutare a gestire le cure di circa 200 milioni di persone negli Stati Uniti ogni anno.

“Questo tipo di studio non è comune, data l’impossibilità dei ricercatori di accedere ai dati sensibili necessari per fare le analisi del caso. Tuttavia, studi più piccoli hanno documentato processi decisionali iniqui e distorti in tutti i settori professionali, dalla giustizia penale all’istruzione passando per l’assistenza sanitaria.” Afferma Milena Gianfrancesco, epidemiologa della UCSF.

Ziad Obermeyer, esperto di machine learning e gestione della sanità presso l’Università della California, Berkeley, ha avuto modo di accorgersi del problema esaminando l’impatto di software che forniscono un supporto alla presa in carico di pazienti con una o più problematiche.

Quando Obermeyer e i suoi colleghi hanno eseguito controlli statistici di routine sui dati ricevuti da un grande ospedale, sono rimasti sorpresi nello scoprire che alle persone che si auto-identificavano come nere erano generalmente assegnati punteggi di rischio più bassi rispetto ai bianchi ugualmente malati. Di conseguenza, i pazienti neri avevano meno probabilità di essere indirizzate ai programmi che forniscono cure più personalizzate.

I ricercatori hanno scoperto che l’algoritmo ha assegnato i punteggi di rischio ai pazienti sulla base dei costi sanitari totali maturati in un anno i perché costi di assistenza sanitaria più elevati sono generalmente associati a maggiori esigenze di salute. Il paziente afro-americano medio nel set di dati utilizzato dagli scienziati aveva costi sanitari generali simili al paziente bianco medio.

Ma uno sguardo più attento ai dati ha rivelato che, in media, i pazienti neri risultano più malati dei pazienti bianchi, con una maggiore prevalenza di condizioni come diabete, anemia, insufficienza renale e ipertensione. Nel loro insieme, i dati hanno mostrato che le cure fornite ai neri costano in media 1.800 USD in meno all’anno rispetto alle cure fornite a una persona bianca con lo stesso numero di problemi di salute cronici.

Gli scienziati ipotizzano che questo accesso ridotto alle cure sia dovuto agli effetti del razzismo sistemico, che vanno dalla sfiducia nei confronti del sistema sanitario alla discriminazione razziale diretta da parte degli operatori sanitari. E poiché l’algoritmo ha assegnato le persone a categorie ad alto rischio sulla base dei costi, questi bias sono stati trasmessi nei risultati: i neri dovevano essere più malati dei bianchi prima di essere inviati per ulteriore aiuto.

Quando Obermeyer e il suo team hanno riferito le loro scoperte agli sviluppatori dell’algoritmo – Optum di Eden Prairie, Minnesota – la società ha ripetuto l’analisi e ha trovato gli stessi risultati. Obermeyer sta lavorando con l’azienda a titolo gratuito per migliorare l’algoritmo.

“Apprezziamo il lavoro dei ricercatori”, ha affermato Optum in una nota. Ma la società ha aggiunto che ha ritenuto fuorvianti le conclusioni dei ricercatori.

A.C.

Fonte: Obermeyer, Z., Powers, B., Vogeli, C. & Mullainathan, S. Science 336, 447–453 (2019).