Kenya, la sanità degli algoritmi: chi decide l’accesso alle cure e chi aiuta i medici

Immagine generata dall'AI

Negli ultimi anni il termine “intelligenza artificiale” è diventato un’etichetta ombrello che tende a ricomprendere fenomeni molto diversi tra loro, con il rischio di produrre semplificazioni concettuali e distorsioni interpretative. In ambito sanitario questa ambiguità è particolarmente evidente: sotto la stessa denominazione rientrano infatti sistemi che operano su livelli profondamente differenti: dalla classificazione socio-economica utilizzata per la governance dell’accesso alle cure fino agli strumenti di supporto clinico progettati per assistere i medici nelle decisioni diagnostiche e terapeutiche. La distinzione non è soltanto tecnica ma riguarda modelli differenti di responsabilità, di distribuzione del potere decisionale e di impatto sui diritti fondamentali. Il caso del Kenya consente di rendere visibile in modo particolarmente chiaro questa differenza. Da un lato, le recenti riforme della Social Health Authority (SHA) introducono sistemi algoritmici di stima del reddito finalizzati a determinare i contributi sanitari dei cittadini; dall’altro, esperienze come il progetto AI Consult sviluppato da Penda Health mostrano l’impiego dell’intelligenza artificiale come copilota clinico integrato nella pratica medica quotidiana. Sotto la stessa etichetta di “AI in sanità” convivono dunque logiche non solo diverse, ma potenzialmente non commensurabili.

L’inchiesta ripresa da Internazionale, pubblicata il 4 maggio dal consorzio di giornalisti formato da Africa Uncensored, Lighthouse Reports e The Guardian, descrive il sistema di riforma sanitaria introdotto in Kenya attraverso la Social Health Authority (SHA), istituita nel 2023 con l’obiettivo di razionalizzare il finanziamento dell’assistenza sanitaria pubblica. Il sistema si basa su un meccanismo di contribuzione differenziata in funzione del reddito stimato dei cittadini. Tuttavia, poiché solo una minoranza della popolazione keniana dispone di redditi formalmente documentati, il modello ricorre a una stima indiretta della ricchezza attraverso un Proxy Means Test (PMT), che utilizza variabili surrogate come le caratteristiche dell’abitazione, il tipo di servizi domestici o il possesso di beni durevoli. Nello specifico, il sistema di calcolo si basa sull'osservazione di indicatori materiali visibili – come la tipologia di materiali edilizi dell'abitazione o il possesso di elettrodomestici – per sopperire all'assenza di dati fiscali certi, introducendo però una rigidità algoritmica che fatica a cogliere le variazioni dinamiche della povertà. Questo approccio, già noto nella letteratura economica dello sviluppo, è stato ampiamente criticato per la sua capacità limitata di rappresentare la reale complessità socio-economica. L’inchiesta evidenzia come, nel caso keniano, tali limiti si traducano in distorsioni significative: le famiglie più povere tendono a essere sovrastimate nei loro livelli di reddito, mentre quelle più ricche risultano talvolta sottostimate: ne deriva un’allocazione iniqua del carico contributivo, con effetti regressivi che finiscono per gravare proprio sui soggetti più vulnerabili.

In questo quadro un elemento rilevante riguarda anche la costruzione discorsiva della vicenda nella comunicazione giornalistica. Il titolo dell’articolo di Internazionale, “Il governo keniano affida la salute all’intelligenza artificiale”, risulta infatti potenzialmente fuorviante rispetto al contenuto effettivo dell’inchiesta, poiché suggerisce un trasferimento di decisioni cliniche o sanitarie a sistemi autonomi di Ai, mentre il nodo centrale riguarda l’utilizzo di strumenti algoritmici all’interno della governance dell’accesso alle risorse sanitarie, in un quadro di precise scelte politiche e istituzionali. La progettazione e l’implementazione del sistema restano infatti riconducibili alla responsabilità del decisore pubblico, mentre l’algoritmo opera come strumento tecnico di supporto alla classificazione. Questa distinzione non è soltanto terminologica, ma incide in modo sostanziale sulla corretta interpretazione del ruolo effettivo delle tecnologie coinvolte, poiché attribuisce alla tecnologia una agency che appartiene invece a scelte istituzionali e politiche.

Se però si confronta il caso SHA con un’altra tipologia di applicazione dell’intelligenza artificiale in ambito sanitario, rappresentata dal progetto AI Consult sviluppato da Penda Health, l’obiettivo si sposta completamente al supporto diretto della pratica clinica. AI Consult, progetto in collaborazione con OpenAI e una rete di cliniche di assistenza primaria a Nairobi, in Kenya, è basato su modelli linguistici avanzati come GPT-4o. In questo caso, la natura e l’impatto del sistema sono stati analizzati in uno studio su quasi 40.000 visite cliniche pubblicato su arXiv, che definisce AI Consult come un sistema di supporto decisionale basato su LLM, integrato nel flusso di lavoro e progettato per ridurre errori clinici senza alterare l’autonomia del medico. Il sistema è progettato come un “copilota clinico” integrato nel flusso di lavoro sanitario: durante la visita medica analizza in tempo reale le informazioni inserite dal medico nella cartella clinica elettronica, segnalando eventuali incongruenze, omissioni o possibili rischi clinici. Il suo comportamento è selettivo: interviene solo quando rileva potenziali criticità, mentre rimane inattivo nei casi di coerenza clinica. Le segnalazioni non hanno valore prescrittivo, ma costituiscono suggerimenti o alert finalizzati a stimolare ulteriori verifiche. In ogni caso la decisione finale resta integralmente nelle mani del medico, che mantiene piena responsabilità diagnostica e terapeutica.

Leggi anche: Tra paure e promesse: perché l’AI ha bisogno di un’immaginazione più inclusiva

Questa architettura è fondamentale per comprendere la natura del progetto. A differenza dei modelli utilizzati per la governance sanitaria descritti nel caso SHA, AI Consult non opera come strumento di allocazione delle risorse o di classificazione sociale, ma come supporto cognitivo in contesto clinico. La sua funzione è quella di ridurre l’errore, non di sostituire il giudizio umano. In termini tecnici, si tratta di un sistema di assistenza decisionale (clinical decision support system), potenziato da modelli linguistici di grandi dimensioni.

I risultati empirici ottenuti nella sperimentazione mostrano una riduzione del 16% degli errori diagnostici e del 13% degli errori terapeutici. Lo studio evidenzia inoltre risultati ancora più marcati nelle fasi preliminari della visita: il sistema ha permesso una riduzione del 32% degli errori nell'anamnesi (history-taking) e del 10% negli errori relativi alle indagini cliniche (investigation). Dati che suggeriscono un impatto potenzialmente significativo soprattutto in contesti sanitari con risorse limitate, dove il carico di lavoro e la variabilità clinica possono aumentare la probabilità di errore.

Il confronto tra i due casi mette in luce una distinzione teorica rilevante. Nel caso SHA, l’uso di modelli algoritmici è orientato alla gestione amministrativa della scarsità, con effetti diretti sull’accesso alle cure e sulla distribuzione dei costi. Nel caso di AI Consult, invece, l’uso dell’intelligenza artificiale è orientato alla qualità del processo clinico, con un impatto mediato sulla sicurezza del paziente. Nel primo caso l’algoritmo agisce “prima” della cura, determinando le condizioni di accesso; nel secondo agisce “dentro” la cura come strumento di supporto. Questa differenza ha implicazioni importanti anche sul piano etico e istituzionale. I sistemi di classificazione socio-economica, quando utilizzati per determinare diritti fondamentali come l’accesso alla sanità, richiedono elevati standard di trasparenza, validazione e accountability politica. I sistemi di supporto clinico, pur non essendo esenti da rischi, operano invece in un contesto in cui la responsabilità professionale resta chiaramente identificata nel medico, riducendo il rischio di delega opaca delle decisioni.

Questa dinamica si inserisce in una questione più ampia che riguarda le modalità con cui l’intelligenza artificiale viene rappresentata nel dibattito pubblico. Come osserva Payal Arora in un’intervista pubblicata su Il Bo Live, dall’eloquente titolo “Tra paure e promesse: perché l’AI ha bisogno di un’immaginazione più inclusiva”, il dibattito sull’AI in Europa e negli Stati Uniti è spesso segnato da una rappresentazione distorta delle tecnologie digitali, che porta a sopravvalutare il ruolo delle macchine e a sottovalutare quello delle persone e delle istituzioni che ne determinano concretamente l’uso. Le ricerche di Payal Arora, confluite nel volume From Pessimism to Promise (MIT Press, 2024) mostrano che internet e intelligenza artificiale non sono percepiti una larga parte della popolazione mondiale come minacce da contenere, ma come strumenti di emancipazione e partecipazione sociale. Questa evidenza empirica si contrappone a una narrazione occidentale che tende a enfatizzare i rischi delle tecnologie digitali più delle loro funzioni infrastrutturali e sociali, contribuendo a una lettura spesso sbilanciata del loro impatto reale.

In conclusione, il caso keniano non può essere letto come un esempio monolitico di “sanità affidata all’intelligenza artificiale”, ma come la coesistenza di due paradigmi distinti: da un lato la governance algoritmica della spesa pubblica sanitaria, con tutte le sue criticità metodologiche e politiche; dall’altro l’emergere di strumenti di intelligenza artificiale come supporto alla pratica clinica, che mostrano invece potenzialità concrete di miglioramento della qualità delle cure. Confondere questi due livelli significa non solo semplificare il dibattito pubblico, ma anche oscurare le condizioni alle quali l’intelligenza artificiale può effettivamente contribuire al miglioramento dei sistemi sanitari.