Umělá inteligence v ordinacích nerozumí pacientům s akcentem, někteří proto vynechávají návštěvu lékaře

Někteří pacienti ve Spojeném království vynechávají návštěvy lékaře, protože umělá inteligence (AI) sloužící jako recepční v jejich ordinacích nerozumí tomu, co říkají.

Někteří pacienti ve Spojeném království vynechávají návštěvy lékaře, protože umělá inteligence (AI) sloužící jako recepční v jejich ordinacích nerozumí tomu, co říkají. Konkrétně se jedná o systém „Emmu“, který je nasazen v několika klinikách v South Yorkshire a má potíže s porozuměním výraznému místnímu akcentu.

Kym Gleeson, manažerka organizace Healthwatch Rotherham, která dohlíží na zdraví a sociální péči, uvedla pro BBC, že systém často nerozumí dotazům lidí kvůli jejich silnému yorskširskému akcentu. Akcenty se v regionu značně liší, což způsobuje frustraci. Jeden pacient si stěžoval, že se mu nikdy nepodařilo s AI domluvit a nakonec to vzdal, aniž by si zarezervoval schůzku.

Tento případ představuje další z mnoha problémů, které se objevují při zavádění umělé inteligence do zdravotnictví. Používání AI pro příjem hovorů a objednávání se stává běžnou praxí v mnoha ordinacích a nemocnicích, přičemž některé systémy dokonce třídí pacienty. Lékaři a sestry často využívají nástroje AI pro klinické poznámky a vyhledávání symptomů. Tyto aplikace se však v reálném světě mohou obrátit proti sobě, například nástroj pro přepisování záznamů v nemocnicích byl přistižen při „halucinování“ detailů o pacientech a odkazování na neexistující léky.

Kliniky argumentují, že používání AI recepčních, jako je Emma od společnosti QuantumLoopAI, jim umožňuje přijímat více hovorů současně a eliminovat čekací doby na telefonu. Ne všichni však považují tuto výměnu za výhodnou. Gleeson pro The Guardian uvedla, že někteří lidé byli tak frustrovaní z neschopnosti navigovat systémem AI, že byli nuceni cestovat zpět do ordinace osobně. Běžná cesta telefonického kontaktu pro ně přestala být pohodlná.

Společnost QuantumLoopAI na to reagovala tvrzením, že její AI je navržena tak, aby rozuměla 17 jazykům kromě angličtiny a je „trénována na širokou škálu akcentů a dialektů“. Mluvčí společnosti dodal, že pokud Emma není schopna porozumět nebo vyřídit požadavek pacienta, hovor je přesměrován na recepční tým. Tento incident nicméně zdůrazňuje, že i přes pokročilé technologie je klíčové zajistit, aby AI nástroje byly skutečně uživatelsky přívětivé a efektivní pro všechny skupiny obyvatel, zejména v citlivých oblastech jako je zdravotnictví.