Umělá inteligence v otázkách zdraví: Chatboti poskytují nejednotné informace o riziku rakoviny prsu z alkoholu

Umělá inteligence (AI), zejména generativní AI (GenAI), která vytváří nový obsah na základě naučených vzorů a pohání online chatboty jako ChatGPT, Gemini a Copilot, se stává stále častějším zdrojem informací.

Umělá inteligence (AI), zejména generativní AI (GenAI), která vytváří nový obsah na základě naučených vzorů a pohání online chatboty jako ChatGPT, Gemini a Copilot, se stává stále častějším zdrojem informací. Vzhledem k nízkému povědomí o souvislosti mezi konzumací alkoholu a rizikem rakoviny prsu v USA a rostoucímu využívání chatbotů pro získávání zdravotních informací, se nová studie zaměřila na to, jak GenAI chatboti odpovídají na dotazy týkající se alkoholu a rakoviny prsu.

Zjištění byla představena na 49. výročním vědeckém zasedání Společnosti pro výzkum alkoholu (RSA) v San Antoniu v Texasu a část studie byla publikována v časopise Public Health. Allison Brandt Anbari, odborná asistentka na Sinclair School of Nursing na University of Missouri, zdůraznila, že ačkoli se vztahu mezi rakovinou a alkoholem věnuje více pozornosti, povědomí o něm je stále poměrně nízké, přestože alkohol byl již v roce 1988 označen za karcinogen skupiny 1. Vědci si uvědomovali důležitost získání základního pochopení toho, jaké informace chatboti o tomto tématu poskytují, a měli obavy o jejich přesnost.

Anbari a její kolegové vybrali dotazy týkající se alkoholu a rakoviny prsu z různých webových stránek, jako je Světová zdravotnická organizace (WHO), Centra pro kontrolu a prevenci nemocí (CDC) a Národní nadace pro rakovinu prsu (NBCF). Tyto dotazy byly formulovány mírně odlišně, například „může alkohol způsobit rakovinu prsu“, „proč alkohol způsobuje rakovinu prsu“ a „jak alkohol způsobuje rakovinu prsu“. Tyto tři dotazy byly zadány do 22 různých veřejně dostupných konfigurací chatbotů (např. ChatGPT, Gemini a Copilot), a následně bylo vyhodnoceno 66 vygenerovaných odpovědí.

Studie přinesla tři klíčová zjištění. Zaprvé, výstupy GenAI chatbotů týkající se konzumace alkoholu a rizika rakoviny prsu jsou nekonzistentní jak v obsahu, tak ve stylu prezentace. Mnoho odpovědí například uvádělo, že vědecké poznatky jsou stále složité nebo nepochopené, ačkoli kauzální souvislost mezi alkoholem a rakovinou prsu je dobře prokázaná. Zadruhé, čitelnost odpovědí je na vysokoškolské úrovni a informace jsou vysoce technické, což je nad doporučenou úroveň čtení pro šestou třídu, kterou stanovil Národní institut zdraví. Zatřetí, způsob, jakým jsou GenAI chatboti dotazováni, ovlivňuje podobu a obsah výstupu. To podtrhuje rozdíly mezi zdravotní gramotností, digitální gramotností a gramotností v oblasti zadávání dotazů (prompt literacy).

Tato zjištění představují významný problém pro veřejné zdraví. Je důležité pochopit, že formulace dotazu pro chatbota ovlivňuje generované informace. Zdravotničtí pracovníci a další zainteresované strany by si měli být vědomi této variability a být připraveni řešit neúplné nebo nepřesné informace, které mohou pacienti nebo veřejnost získat od chatbotů.