Un sistema de inteligencia artificial utilizado para predecir cuánto pueden pagar los kenianos por acceso a la atención médica ha elevado sistemáticamente los costos para los pobres, reveló una investigación. El sistema de salud que se implementa en el país, una promesa electoral clave del presidente William Ruto, se lanzó en octubre de 2024 con la intención de reemplazar el antiguo sistema de seguros nacionales de Kenia.

Sistema impulsado por IA busca ampliar acceso, pero carga a pobres

Presentado como “acelerar la transformación digital”, su objetivo era ampliar el acceso a la atención médica para la gran economía informal del país: trabajadores diarios, vendedores ambulantes, agricultores y trabajadores no asalariados que representan el 83 % de la fuerza laboral. “Ningún keniano será dejado atrás”. Dijo Ruto en una multitud en Kericho durante su campaña presidencial de 2023, anunciando que pronto cada ciudadano tendría acceso a atención médica asequible.

Pero su solución ha generado protestas y enojo, ya que ahora los aportes a la salud para millones de personas se calculan mediante una fórmula descrita como “fallida” y que fuentes han señalado que carece casi totalmente de transparencia. Esta solución. Que Ruto ha llamado impulsada por IA, no se basa en los avances recientes en inteligencia artificial que sustentan modelos de lenguaje grandes como ChatGPT, sino que utiliza un algoritmo de aprendizaje automático predictivo.

Sobreestima a hogares pobres, subestima a los ricos

Actualmente, determina los aportes a la salud para millones de personas mediante un proceso de evaluación de capacidad económica. Tras meses de investigación. Periodistas de Africa Uncensored, en colaboración con Lighthouse Reports y el Guardian, pudieron obtener detalles clave de este sistema y auditar cómo funciona. Los resultados revelan que, desde el principio, ha estado sistemáticamente cargando a los kenianos más pobres, sobreestimando sus ingresos, mientras que subestima los de los más ricos.

Cada día, Grace Amani* visita hogares para hacerles preguntas desde lo extraño hasta lo intrusivo. ¿Qué tipo de baño usan? ¿De qué está hecho su techo? ¿Tienen un radio? Ayuda a los ocupantes a responder docenas de estas preguntas – letrina, techo de lámina de hierro, sin radio – en un cuestionario digital en sus teléfonos. Las personas a menudo están confusas; algunas temen estar siendo investigadas.

Cuando el formulario está completo, regresa un número que el algoritmo calcula como la suma que el hogar debe pagar ese año por el seguro médico público. Amani, madre de 10, también es una de las que afirman que el sistema no funciona como debería y castiga a los menos favorecidos. Las personas que registra Amani son algunas de las más pobres de Nairobi, la capital keniana, pero la mayoría enfrenta tarifas que no pueden pagar.

Algoritmo defectuoso genera primas inasumibles

Ha visto familias que luchan por alimentarse cargadas con primas que están más allá de sus posibilidades, muchas enfrentan entre el 10 % y el 20 % de sus escasos ingresos. Amani también ha visto a personas gravemente enfermas que no pueden recibir tratamiento porque no han podido pagar la cantidad que el sistema de IA dice que deben. “La gente muere, la gente sufre”, dijo. Las personas que ve son exactamente las que el gobierno prometió beneficiar más con las reformas sanitarias impulsadas por IA.

A los que ganan menos se les suponía que se les cobraría la prima mínima o que se cubrirían sus costos por completo. “Pensaban que era algo que los ayudaría”, dijo Amani. Desde su lanzamiento, la Autoridad de Salud Social (SHA) ha enfrentado una avalancha de críticas por clasificar erróneamente a las personas y fijar primas inasumibles o incomprensibles.

Los kenianos sin seguro privado que no pagan sus primas SHA corren el riesgo de ser rechazados en las instalaciones de salud o de enfrentar facturas hospitalarias elevadas. Para algunos, esto ha significado que ya no puedan acceder a tratamiento. “La gente muere en casa”, dijo Amani. “Mucha gente no puede ir al hospital. ¿Pagarán SHA, o comprarán comida, o pagarán la pequeña casa en la que viven?”

En redes sociales, los kenianos han inundado las secciones de comentarios con relatos de cargos que no pueden pagar. “De luchar para pagar 500 chelines kenianos [2,90 libras] anteriormente a recibir una factura de 1.030 chelines kenianos”, escribió uno. “Que Dios tenga misericordia de mí”, escribió una madre soltera después de que su contribución mensual se fijara en 3.500 chelines kenianos.

David Khaoya, economista de la salud que asesoró al ministerio de salud de Kenia, dijo que al enfrentar los defectos conocidos de la fórmula de la SHA, se tomó una decisión. Las limitaciones del sistema significaban que podía evaluar correctamente a los hogares pobres o evaluar correctamente a los ricos. Khaoya dijo que el gobierno optó por priorizar evaluar correctamente a los ricos, incluso si eso significaba cargar a los pobres.

“Si identificas a una persona rica como pobre y por lo tanto le pides que pague menos, esta persona nunca admitirá: ‘En realidad debería pagar más'”, dijo. El sistema sanitario algorítmico de Kenia se basa en un problema antiguo del Banco Mundial: la prueba indirecta de medios (PMT), una forma de estimar los ingresos de los pobres basándose en sus posesiones y otras circunstancias de vida, como el número de hijos que tienen o si viven solos.

El PMT ha sido utilizado en programas financiados por el Banco Mundial “en toda África, en toda Asia y el Pacífico”, dijo Stephen Kidd, economista de desarrollo. A menudo se establecía como condición para que un gobierno recibiera un préstamo. En Kenia, esto ha significado desplegar voluntarios gubernamentales como Amani en hogares de todo el país para registrar sus materiales de techo, ganado y niños, y alimentar esos datos en un algoritmo opaco para determinar cuánto ganan y cuánto deben pagar.

La auditoría probó el sistema frente a miles de hogares reales. Para familia tras familia, el sistema sobreestimó sus medios. Para dos agricultores, sus ingresos se predijeron como el doble de lo que realmente ganaban, basándose en el hecho de que tienen electricidad y poseen su casa. Sistemas similares a los construidos por la SHA han sido rápidos