Umělá inteligence v britských ordinacích: Pacienti odhalují chyby v diagnózách a lécích

Technologie umělé inteligence, která zaznamenává a přepisuje konzultace pacientů s lékaři, může vést k nepřesnostem v názvech léků a diagnózách. Na tuto skutečnost upozornil britský kontrolní orgán Healthwatch England, který varuje před možným ovlivněním bezpečnosti pacientů.

Technologie umělé inteligence, která zaznamenává a přepisuje konzultace pacientů s lékaři, může vést k nepřesnostem v názvech léků a diagnózách. Na tuto skutečnost upozornil britský kontrolní orgán Healthwatch England, který varuje před možným ovlivněním bezpečnosti pacientů. V jednom případě byla žena traumatizována chybnou diagnózou demyelinizace, závažného poškození nervů, kterou AI asistent chybně uvedl v souhrnu její konverzace. Až pacientka, sama zdravotnická profesionálka, zpochybnila záznam, nemocnice jej opravila na „nulovou demyelinizaci“.

Healthwatch England zdůrazňuje, že tyto chyby, často odhalené spíše pacienty než lékaři, mohou přetrvávat v lékařských záznamech a ovlivnit budoucí péči. Další případy zahrnovaly záměnu léků s podobným názvem nebo vynechání informace o nutnosti opakovaného předpisu. Britská vláda přitom ve svém desetiletém zdravotním plánu pro NHS v Anglii počítá s AI asistenty jako s nástrojem, který má „osvobodit personál od byrokracie a administrativy“, aby se mohl více soustředit na pacienty. Znepokojující je také rozhodnutí Agentury pro regulaci léčiv a zdravotnických produktů neklasifikovat AI asistenty jako zdravotnické prostředky, což znamená absenci celostátního dohledu nad jejich bezpečností a účinností.

Lékaři v Anglii již používají 27 různých AI asistentů. Ministři byli upozorněni, že NHS a lékaři by mohli čelit žalobám kvůli chybám způsobeným umělou inteligencí. Dr. Shier Ziser Dawood, praktická lékařka z Londýna, loni v předním lékařském časopise varovala, že AI asistenti mohou být „dvojsečnou zbraní“. Popsala případ, kdy AI asistent uvedl, že pacientovi doporučila „pokračovat v užívání Prozacu“, ačkoli o tomto léku vůbec nemluvila – jde o příklad takzvaných „halucinací“ AI. Potřeba lékařů kontrolovat všechny přepisy kvůli chybám navíc zatím ruší očekávanou časovou úsporu.

Dr. Charlotte Blease, expertka na využití AI ve zdravotnictví z Uppsalské univerzity ve Švédsku, potvrzuje, že umělá inteligence chyby dělá. Její výzkum ukázal, že praktičtí lékaři používající technologii hlasového záznamu se domnívají, že chyby jsou pravděpodobnější při konzultacích s více osobami, s pacienty s komplexní anamnézou a s těmi, jejichž mateřským jazykem není angličtina. Je však důležité si uvědomit, že i lékaři dělají chyby bez AI. Více než polovina z 1 003 dotázaných britských praktických lékařů v jejím loňském průzkumu dokonce věřila, že záznamy pořízené AI jsou přesnější než ty, které vytvořili sami. Healthwatch proto volá po jasných postupech pro hlášení a opravu chyb AI asistentů a zdůrazňuje potřebu dobré komunikace a partnerství s pacienty.