Pacienti s rakovinou chtějí ovlivnit AI: Proč je jejich hlas klíčový pro budoucnost onkologie

Mezinárodní tým vědců z Flinders University provedl rozsáhlý přehled studií, který odhalil významný nedostatek v zapojení pacientů s rakovinou, přeživších a pečovatelů do vývoje generativní umělé inteligence (AI) pro onkologii.

Mezinárodní tým vědců z Flinders University provedl rozsáhlý přehled studií, který odhalil významný nedostatek v zapojení pacientů s rakovinou, přeživších a pečovatelů do vývoje generativní umělé inteligence (AI) pro onkologii. Z celkem 2 441 záznamů se pouhých 32 studií zabývalo tím, jak se tito lidé cítí ohledně používání generativní AI v jejich péči.

Zjistilo se, že lidé zasažení rakovinou obecně vnímali generativní AI pozitivně, pokud zlepšovala dostupnost a srozumitelnost zdravotnických informací. Většina studií se však zaměřovala pouze na poskytování informací o rakovině nebo zjednodušování klinických zpráv, což ponechalo mnoho dalších potenciálních využití generativní AI v onkologické péči neprozkoumaných. Doktor Bradley Menz z Flinders University zdůrazňuje, že „navrhovat AI pro pacienty není totéž jako navrhovat ji s nimi.“

Pokud mají tyto nástroje ovlivňovat onkologickou péči, je nezbytné, aby pacienti, přeživší a pečovatelé hráli smysluplnou roli při utváření jejich designu, správy a používání. Přehled také odhalil, že důležité aspekty zapojení do generativní AI, jako je ochota pacientů AI používat, obavy o soukromí, soulad s očekáváními a obeznámenost, byly v předchozích studiích hodnoceny jen přerušovaně. Důvěra v generativní AI často závisela na tom, zda byly její odpovědi personalizované, emocionálně vhodné a vnímané jako přesné.

Výzkum rovněž ukázal značné mezery v tom, na co se vědci lidí zasažených rakovinou ptali. Z 32 studií byly perspektivy odpovědnosti zkoumány pouze ve třech, a žádná studie nehodnotila pohledy na bezpečnost, transparentnost, spravedlnost nebo zachování lidské autonomie. Docent Ashley Hopkins dodává, že „získání perspektiv od pacientů s rakovinou by mohlo pomoci informovat design a implementaci generativní AI, která nejlépe slouží onkologickým pacientům, včetně vylepšeného designu rozhraní, vzdělávání pacientů, procesů souhlasu, integrace do pracovních postupů, správy, monitorování a mechanismů zpětné vazby.“

Vědci doufají, že jejich přehled otevře cestu k podrobnějšímu zkoumání generativní AI v onkologii, včetně toho, jak mohou perspektivy lidí zasažených rakovinou ovlivnit přijetí, zapojení, účinnost a obavy z širších dopadů používání AI.