Překvapivé zjištění v Keni: Algoritmus pro zdravotní pojištění s AI zvyšuje poplatky nejchudším a zvýhodňuje bohaté

Nový systém zdravotní péče, který byl v Keni spuštěn v říjnu 2024 a který prezident William Ruto sliboval jako klíčový prvek své kampaně, měl zajistit dostupnou péči pro všechny občany, včetně rozsáhlé neformální ekonomiky. Místo toho však vyvolal protesty a nespokojenost.

Nový systém zdravotní péče, který byl v Keni spuštěn v říjnu 2024 a který prezident William Ruto sliboval jako klíčový prvek své kampaně, měl zajistit dostupnou péči pro všechny občany, včetně rozsáhlé neformální ekonomiky. Místo toho však vyvolal protesty a nespokojenost. Vyšetřování provedené organizacemi Africa Uncensored, Lighthouse Reports a Guardian odhalilo, že systém, který je označován jako „AI-poháněný“ (ačkoliv využívá prediktivní strojové učení, nikoli pokročilé modely jako ChatGPT), systematicky zvyšuje náklady na zdravotní pojištění pro nejchudší vrstvy obyvatelstva, zatímco bohatým poplatky podhodnocuje.

Zjištění ukazují, že algoritmus nadhodnocuje příjmy nejchudších Keňanů a podhodnocuje příjmy těch nejbohatších. Grace Amani, která pomáhá s registrací do systému, popisuje, jak jsou rodiny žijící v chudobě nuceny platit poplatky, které tvoří 10 % až 20 % jejich skromných příjmů. Někteří lidé nemohou získat léčbu, což má vážné důsledky, a Grace Amani uvádí, že lidé umírají doma, protože si nemohou dovolit zaplatit pojištění ani léčbu. Vláda přitom slibovala, že právě ti s nejnižšími příjmy budou platit minimální pojistné, nebo jim budou náklady plně hrazeny.

Systém sociálního zdravotního úřadu (SHA) čelí vlně kritiky za chybné zařazování lidí a stanovování nedostupných nebo nesrozumitelných poplatků. Keňané bez soukromého pojištění, kteří nezaplatí pojistné SHA, riskují odepření péče ve zdravotnických zařízeních nebo vysoké nemocniční účty. Na sociálních sítích se objevují četné příběhy lidí, kteří se potýkají s platbami. Zdravotní ekonom David Khaoya, který radil keňskému ministerstvu zdravotnictví, uvedl, že při známých nedostatcích vzorce SHA bylo rozhodnuto upřednostnit přesné hodnocení bohatých domácností, i kdyby to znamenalo předražování chudých.

Kenský algoritmický systém zdravotní péče je založen na metodě „proxy means testing“ (PMT), dlouhodobém problému Světové banky. PMT odhaduje příjmy chudých na základě jejich majetku a životních okolností, jako je typ toalety, střešní krytina nebo vlastnictví rádia. Tato metoda se rozšířila po celém světě, často s podporou Světové banky nebo jiných mezinárodních dárců, s cílem rozšířit státní služby na neformální pracovníky. Výzkumníci však zjistili, že tyto systémy často nepřinášejí očekávané výsledky a dělají značné chyby při kategorizaci populace. Audit kenského systému SHA ukázal, že nadhodnocuje prostředky více než poloviny chudých domácností, zatímco příjmy bohatších domácností podhodnocuje. Stephen Kidd, ekonom zabývající se rozvojem, zdůrazňuje, že chudoba je proměnlivá kategorie a používání faktorů jako železná střecha k odhadu bohatství rodiny je ze své podstaty nepřesné. Tyto algoritmy jsou navíc netransparentní, což snižuje důvěru obyvatel ve vládní služby.