AI v ordinacích: Kanadská zpráva odhaluje, že systémy vytvářejí smyšlené diagnózy v lékařských poznámkách

V posledních dvou až třech letech se v lékařských ordinacích stále častěji setkáváme s umělou inteligencí (AI) ve formě digitálních zapisovatelů. Tyto systémy poslouchají konverzace mezi lékařem a pacientem, přepisují je a strukturovaně ukládají do lékařských záznamů.

V posledních dvou až třech letech se v lékařských ordinacích stále častěji setkáváme s umělou inteligencí (AI) ve formě digitálních zapisovatelů. Tyto systémy poslouchají konverzace mezi lékařem a pacientem, přepisují je a strukturovaně ukládají do lékařských záznamů. Ačkoliv se jedná o slibnou technologii, nedávná zpráva generální auditorky provincie Ontario v Kanadě upozornila na významné nedostatky. Zpráva varuje, že AI zapisovatelé nebyli dostatečně vyhodnoceni a mohou lékařům předkládat smyšlené informace.

Audit, který se zaměřil na dvacet platforem AI zapisovatelů, zjistil, že všechny systémy od schválených dodavatelů vykazovaly během testování nepřesnosti. Mezi ně patřily „halucinace“ (vymyšlené informace), nesprávné údaje nebo chybějící či neúplné informace. Tyto nepřesnosti v lékařských poznámkách by mohly vést k nedostatečným nebo dokonce škodlivým léčebným plánům, což by mohlo mít výrazný dopad na zdraví pacientů.

Ministr pro veřejné a obchodní služby a zakázky Ontaria, Stephen Crawford, sice poznamenal, že zmíněné halucinace byly pozorovány pouze během testování státními regulátory a nebyly zaznamenány při skutečných lékařských návštěvách. Generální auditorka Shelley Spence však zdůraznila, že tyto systémy již používá přibližně 5 000 lékařů po celém Ontariu. Sama Spence uvedla, že požádala svého lékaře, aby po návštěvě zkontroloval přepis její vlastní návštěvy.

Podobné problémy se objevují i jinde. Například systém OpenEvidence ve Spojených státech čelí rostoucí kontrole kvůli halucinacím a neúplným odpovědím. Někteří lékaři pro NBC News uvedli, že OpenEvidence občas vyvozuje příliš silné závěry z lékařských studií s relativně malým vzorkem. Mnoho lékařů sice oceňuje přínos těchto nových nástrojů, ale jejich skutečný výkon v reálných podmínkách a hodnocení lékařskou komunitou po odeznění počátečního nadšení zůstává otázkou.