Ein AI-System, das den Einkommensstand der Kenianer für die Bezahlbarkeit der Gesundheitsversorgung prognostiziert, hat systematisch die Kosten für die Armen erhöht, wie eine Untersuchung ergab. Das im Oktober 2024 gestartete Gesundheitssystem, ein zentrales Wahlversprechen von Präsident William Ruto, sollte Kenias veraltete gesetzliche Krankenversicherung ersetzen.

AI-gestütztes System sollte Zugang erweitern, überfordert aber die Armen

Unter dem Motto „Beschleunigung der digitalen Transformation“ sollte das System den Zugang zur Gesundheitsversorgung für Kenias große informelle Wirtschaft erweitern: Tagelöhner, Händler, Landwirte und nicht-salarisierte Arbeitnehmer, die 83 % der Arbeitskraft ausmachen. „Kein Kenianer wird zurückgelassen“, sagte Ruto bei seiner Wahlkampfveranstaltung 2023 in Kericho, wo er ankündigte, dass bald jeder Einwohner Zugang zu erschwinglicher Gesundheitsversorgung haben würde.

Doch seine Lösung löste Proteste und Wut aus, da die Beiträge für Millionen Menschen nun nach einer Formel berechnet werden, die als „fehlerhaft“ beschrieben wird und laut Quellen kaum Transparenz bietet. Ruto bezeichnete seine Lösung als AI-gestützt, doch sie baut nicht auf den neuesten Fortschritten der künstlichen Intelligenz auf, die große Sprachmodelle wie ChatGPT antreiben, stattdessen nutzt sie ein prädiktives Machine-Learning-Algorithmus.

Arme Haushalte werden überschätzt, Reiche unterschätzt

Das System berechnet nun die Gesundheitsbeiträge für Millionen Menschen anhand eines Einkommensprüfverfahrens. Nach monatelanger Recherche konnten Journalisten von Africa Uncensored, in Zusammenarbeit mit Lighthouse Reports und der Guardian, entscheidende Details dieses Systems erlangen und analysieren, wie es funktioniert. Die Erkenntnisse zeigen, dass es von Anfang an systematisch die ärmsten Kenianer überforderte, indem es deren Einkommen überschätzte, während es die Einkünfte der Reichen unterschätzte.

Jeden Tag sitzt Grace Amani* in den Häusern der Menschen, um Fragen zu stellen – von seltsamen bis zu sehr persönlich. Welche Art Toilette benutzen Sie? Wie ist Ihr Dach gebaut? Besitzen Sie einen Radio? Sie hilft den Bewohnern, Dutzende dieser Fragen – wie etwa „Grubenlatrine“, „Wellblechdach“, „kein Radio“ – in einer digitalen Umfrage auf ihren Handys zu beantworten. Viele Menschen sind verwirrt; manche fürchten, unter Verdacht geraten zu haben.

Wenn das Formular abgeschlossen ist, kommt eine Zahl zurück, die der Algorithmus berechnet hat und die den Betrag angibt, den die Haushalte in diesem Jahr für die staatliche Krankenversicherung zahlen müssen. Amani, Mutter von zehn Kindern, gehört zu denen, die behaupten, das System funktioniere nicht wie beabsichtigt und bestraft die am wenigsten privilegierten. Die Menschen, die Amani registriert, gehören zu den Ärmsten in Nairobi, Kenias Hauptstadt, doch die meisten müssen Gebühren zahlen, die sie sich nicht leisten können.

Fehlerhafter Algorithmus führt zu unerschwinglichen Beiträgen

Amani hat gesehen, wie Familien, die sich kaum selbst ernähren können, Prämien zahlen müssen, die weit über ihren Mitteln liegen, viele zwischen 10 % und 20 % ihres geringen Einkommens. Amani hat auch kritisch kranke Menschen gesehen, die keine Behandlung erhalten können, weil sie den Betrag nicht zahlen konnten, den das AI-System vorgibt. „Menschen sterben, Menschen leiden“, sagte sie. Die Menschen, die sie trifft, sind genau diejenigen, für die die Regierung versprochen hat, am meisten von den AI-gestützten Gesundheitsreformen zu profitieren.

Diejenigen mit den niedrigsten Einkünften sollten entweder den geringsten Beitrag zahlen oder ihre Kosten vollständig übernommen werden. „Sie dachten, es sei etwas, das ihnen helfen würde“, sagte Amani. Seit dem Start der Sozialen Gesundheitsbehörde (SHA) wurde sie mit Kritik konfrontiert, da sie Menschen falsifiziert einordnet und unerschwingliche oder unklare Beiträge festlegt.

Kenianer ohne private Versicherung, die ihre SHA-Beiträge nicht zahlen, riskieren, von Gesundheitseinrichtungen abgewiesen zu werden oder mit hohen Krankenhausrechnungen konfrontiert zu werden. Für einige bedeutet das, dass sie keine Behandlung mehr erhalten können. „Menschen sterben zu Hause“, sagte Amani. „Viele können nicht in die Klinik gehen. Zahlen sie SHA, Lebensmittel oder das kleine Haus, in dem sie wohnen?“

Auf sozialen Medien füllten Kenianer die Kommentarbereiche mit Berichten über Gebühren, die sie nicht bezahlen können. „Von der Notwendigkeit, zuvor 500 Kenyanische Schillinge [2,90 GBP] zu zahlen, auf eine Rechnung von 1.030 Kenyanischen Schillingen“, schrieb einer. „Gott erbarme dich über mich“, schrieb eine alleinerziehende Mutter, nachdem ihr monatlicher Beitrag auf 3.500 Kenyanische Schillinge gesetzt wurde.

David Khaoya, ein Gesundheitökonome, der die kenianische Gesundheitsministerium beriet, sagte, dass bei Bekanntwerden der bekannten Mängel im SHA-Modell eine Entscheidung getroffen wurde. Die Systemeinschränkungen bedeuteten, dass entweder arme oder reiche Haushalte korrekt bewertet werden konnten. Khaoya sagte, die Regierung entschied sich, die Reichen korrekt zu bewerten, auch wenn das bedeutete, die Armen zu überfordern.

„Wenn Sie einen Reichen als Armen identifizieren und ihn daher weniger zahlen lassen, wird er nie zugeben: ‚Ich sollte eigentlich mehr zahlen‘“, sagte Khaoya. Das kenianische algorithmische Gesundheitssystem basiert auf einem jahrzehntealten Problem des Weltbank: Proxy Means Testing (PMT), eine Methode zur Schätzung der Einkünfte der Armen anhand ihres Besitzes und anderer Lebensumstände, wie z. B. wie viele Kinder sie haben oder ob sie alleine leben.

PMT wird in Weltbank-finanzierten Programmen „überall in Afrika, überall in Asien und dem pazifischen Raum“ eingesetzt, sagte Stephen Kidd, ein Entwicklungswissenschaftler. Es wurde oft als Bedingung dafür gesetzt, dass ein Staat einen Kredit erhält. In Kenia bedeutete das, dass Regierungsaktivisten wie Amani in Haushalten landesweit registrieren, welche Dachmaterialien, Haustiere und Kinder sie haben, und diese Daten in einen undurchsichtigen Algorithmus eingeben, um zu entscheiden, wie viel sie verdienen und wie viel sie zahlen müssen.

Die Prüfung testete das System an Tausenden echter Haushalte. Bei Familie um Familie überschätzte das System ihre Mittel. Bei zwei Landwirten wurde ihr Einkommen beispielsweise als doppelt so hoch geschätzt, als es tatsächlich war, nur weil sie Strom und ihr eigenes Haus besaßen. Systeme, die dem von der SHA erstellten System ähneln, wurden schnell