AI detektory bolesti jsou iluze: Proč nemohou objektivně změřit utrpení a jak to ovlivňuje pacienty

S příchodem moderních mozkových skenerů a umělé inteligence (AI) se zdá lákavé vyvinout systém, který by fungoval jako „detektor lži bolesti“. Složité obrazy z mozkových skenerů, které dříve nebylo možné plně pochopit, by nyní mohla AI vyhodnocovat.

S příchodem moderních mozkových skenerů a umělé inteligence (AI) se zdá lákavé vyvinout systém, který by fungoval jako „detektor lži bolesti“. Složité obrazy z mozkových skenerů, které dříve nebylo možné plně pochopit, by nyní mohla AI vyhodnocovat. Dvě studie publikované v časopisech Nature Neuroscience a Nature Medicine naznačovaly, že by to mohl být první krok k takovému detektoru.

V USA se AI nástroje již používají k rozhodování o tom, komu by měly být předepsány opioidy a kdo si bolest pravděpodobně jen předstírá. Článek v technologickém magazínu Wired však odhalil, jak chybný tento systém je a že má tendenci nedůvěřovat určitým skupinám pacientů. To je zásadní problém AI: i když se zdá, že funguje, neřekne vám, jakým způsobem k výsledku dospěla. To činí nadměrnou důvěru v ni nebezpečnou.

Detektor lži bolesti nemůže fungovat ze stejných důvodů, proč nefungují ani běžné detektory lži. Ty neměří, zda lžete, ale zda jste nervózní – a nervózní můžete být i tehdy, když v kritické situaci říkáte pravdu. Podobné je to s měřením bolesti. Bolest způsobuje úzkost, takže jakýkoli mozkový vzorec bolesti bude zároveň vzorcem stresu a často i úzkosti. Tento faktor nelze do detektoru bolesti zahrnout. Při vývoji se testuje na dobrovolnících ve vědeckých studiích (což není příliš stresující), ale v praxi by se používal u pacientů, kterým se roky nevěřilo a kteří vědí, že pokud sken jejich bolest „neprokáže“, nikdo jim už nikdy neuvěří a nedostanou kompenzaci ani dávky (což je extrémně stresující). Vzniká tak začarovaný kruh.

Bolest je osobní a velmi soukromá zkušenost. Závisí na vaší historii s ní a na kontextu, což znamená, že bolest každého člověka je jiná a vaše bolest dnes se může lišit od bolesti zítra. Některá bolest může být dokonce příjemná – pikantní jídlo je zřejmým každodenním příkladem. To znamená, že váš mozkový sken bolesti může vypadat velmi odlišně od skenu někoho jiného. Dokud nezměříme oba, nemůžeme vědět.

Z těchto důvodů Mezinárodní asociace pro studium bolesti (International Association for the Study of Pain) prohlásila detektory lži bolesti za zbytečné. V novém článku v Nature Neuroscience se vědci zabývají technickými a zásadními problémy této myšlenky a vyzývají vědeckou komunitu, aby od ní upustila.

Pokud vám někdo vypráví o své chronické bolesti, odložte veškerou skepsi. Pamatujte, že většina forem chronické bolesti je neviditelná. Například bolesti zad jsou podle Světové zdravotnické organizace největší příčinou invalidity na celém světě a fyzickou příčinu lze jen zřídka najít. Mějte na paměti, že i stroje dělají chyby a že mají stejné stereotypy jako my. To platí zejména pro AI.