Budoucnost AI ve zdravotnictví: Návrhy na uvolnění regulací vyvolávají debatu o bezpečnosti pacientů

Administrativa Donalda Trumpa a Roberta F. Kennedyho Jr. navrhuje uvolnění bezpečnostních pravidel pro nástroje umělé inteligence ve zdravotnictví.

Administrativa Donalda Trumpa a Roberta F. Kennedyho Jr. navrhuje uvolnění bezpečnostních pravidel pro nástroje umělé inteligence ve zdravotnictví. Tyto návrhy, které zahrnují zrušení požadavků na uživatelské testování a transparentnost ze strany firem, vyvolávají obavy mezi lékaři a zastánci bezpečnosti pacientů.

Psychoterapeut Paul Boyer z Kaiser Permanente v Oaklandu má s AI ve zdravotnictví osobní zkušenost. Jeho zaměstnavatel zavedl nový software pro psaní poznámek od společnosti Abridge, který má shrnovat návštěvy pacientů. Ačkoli tato technologie u mnoha kliniků zmírňuje administrativní zátěž, Boyer a jeho kolegové ji nepovažují za příliš užitečnou, protože musí počítačem generované poznámky často opravovat. Software podle Boyera nedokáže zachytit klinické nuance ani emoční tón, což je v oblasti duševního zdraví klíčové. Například u manických pacientů je často důležitější, *jak* je něco řečeno, než *co* je řečeno, a s tímto si software zatím neví rady.

Přestože některé studie, například ta publikovaná v Journal of the American Medical Association, ukazují, že lékaři používající tyto produkty ušetří denně více než půl hodiny práce, přetrvávají otázky ohledně kvality systémů. Výzkumníci se obávají, že lékaři nemusí být vždy dostatečně pečliví při odhalování chyb, což by mohlo vést k tomu, že budoucí lékaři budou spoléhat na nepřesné informace. Společnost Abridge uvádí, že své systémy vyhodnocuje v každé fázi nasazení a monitoruje úpravy, hodnocení a zpětnou vazbu od uživatelů.

Raj Ratwani, výzkumník specializující se na interakci lidí s technologiemi z MedStar Health, zdůrazňuje, že v současné době neexistují federální záruky pro ověřování softwaru pro psaní poznámek. Obává se, že navrhovaná pravidla Úřadu národního koordinátora pro zdravotnické IT (ONC) by mohla dále oslabit požadavky na srozumitelnost, snadné používání a transparentnost AI v lékařských záznamech. Nepochopitelné záznamy by mohly zmást kliniky a vést k chybám. Původní požadavky zavedené za Obamovy administrativy, které zahrnovaly testování produktů na lékařích a sestrách a větší transparentnost firem, jsou v nových návrzích zrušeny.

Zastánci návrhů, jako je Tim Hwang z Abridge nebo Ryan Howells z Leavitt Partners, tvrdí, že stará pravidla kladla příliš velkou zátěž na systémy elektronických zdravotních záznamů a že uvolnění požadavků povede k větší inovaci a konkurenci na trhu, který je v současnosti silně konsolidovaný. Kritici však namítají, že návrh je příliš široký a odstraňuje i regulace týkající se bezpečnosti záznamů a ochrany soukromí citlivých lékařských dat. Americká nemocniční asociace (AHA) a Americká vysoká škola lékařů (ACP) varují, že nedostatek transparentnosti by mohl podkopat důvěru kliniků, zvýšit náklady na odpovědnost a narušit vztah mezi pacientem a lékařem.