Studie odhalila: AI chatboti doporučují pacientům s rakovinou neověřené léčby místo chemoterapie

Nová studie odhalila, že populární AI chatboti jako ChatGPT, Gemini a Grok často poskytují problematické nebo dokonce nepřesné zdravotní rady, zejména pokud jde o léčbu rakoviny.

Nová studie odhalila, že populární AI chatboti jako ChatGPT, Gemini a Grok často poskytují problematické nebo dokonce nepřesné zdravotní rady, zejména pokud jde o léčbu rakoviny. Namísto ověřených metod, jako je chemoterapie, doporučují neprokázané alternativy, což může vést k ohrožení životů pacientů.

Zjištění jsou obzvláště znepokojivá, protože desítky milionů lidí již využívají chatboty pro zdravotní poradenství. Studie publikovaná v prestižním časopise BMJ Open ukázala, že polovina odpovědí chatbotů byla označena za „problematické“, přičemž 20 % z nich bylo „vysoce problematických“ – obsahovaly nepřesné informace a prostor pro značnou subjektivní interpretaci. Chatboti často prezentují vědecké a nevědecké tvrzení na stejné úrovni, což výzkumníci označují za „falešnou rovnováhu“. Tento přístup může vést pacienty k tomu, aby se vzdali potřebné lékařské pomoci, varuje hlavní autor studie Nick Tiller.

Vzhledem k tomu, že i nejlepší chatboti (Gemini s 40 % problematických odpovědí) vykazují značné nedostatky, je zřejmé, že jde o systémovou chybu technologie, nikoli o ojedinělé případy. Vědci zdůrazňují, že i 25% šance na potenciálně škodlivou odpověď je nepřijatelně vysoká, zvláště když jedna ze čtyř dospělých osob v USA již AI pro zdravotní rady používá. To podtrhuje naléhavou potřebu zlepšit bezpečnostní mechanismy a spolehlivost AI systémů v citlivých oblastech, jako je zdraví. Pro uživatele je klíčové vždy konzultovat zdravotní problémy s kvalifikovanými lékaři a ověřenými zdroji, namísto slepé důvěry v digitální poradce.