AI jako terapeut? Nová studie s psychoterapeuty ukazuje silné stránky i rizika chatbotů

Více než třetina psychologů uvádí, že jejich pacienti využívají umělou inteligenci jako dodatečný zdroj podpory duševního zdraví.

Více než třetina psychologů uvádí, že jejich pacienti využívají umělou inteligenci jako dodatečný zdroj podpory duševního zdraví. Vzhledem k tomu, že se stále více lidí obrací na AI pro rady, společnost a pomoc při řešení obtížných situací, vědci se snaží pochopit, co tyto rychle se vyvíjející systémy dokážou – a co ne – v oblasti lidského zdraví a pohody.

Na Univerzitě Jižní Kalifornie (USC) pomáhá na tyto otázky odpovídat Ruishan Liu, odbornice na počítačové vědy a kvantitativní a výpočetní biologii. Její práce zahrnuje využití strojového učení a genomiky k personalizaci léčby rakoviny, navrhování systémů AI pro klinické rozhodování a nejnověji také hodnocení toho, jak přední modely umělé inteligence reagují na otázky týkající se duševního zdraví od skutečných pacientů. Liu zdůrazňuje, že zatímco mnoho výzkumů AI se zaměřuje na to, zda model dokáže generovat působivé odpovědi, její tým se soustředí na to, zda lze AI učinit dostatečně spolehlivou, bezpečnou a užitečnou pro vysoce riziková prostředí, jako je zdravotnictví.

Velké jazykové modely jsou obzvláště slibné pro interakce založené na jazyce, jako je podpora duševního zdraví. Zároveň existuje nedostatek zdrojů duševního zdraví dostupných široké veřejnosti, takže je silná potřeba technologií, které mohou pomoci snížit zátěž poskytovatelů a zvýšit přístup k podpoře. Tradiční nástroje pro hodnocení AI však plně nezachycují to, co je v konverzaci o duševním zdraví důležité. Nejde jen o faktickou správnost, ale také o emoční uvědomění, rozpoznání symptomů a schopnost vést otevřené rozhovory. Proto Liu se svými spolupracovníky provedla studii CounselBench, která zkoumala kvalitu odpovědí jazykových modelů na skutečné otázky pacientů, identifikovala potenciální bezpečnostní rizika a lépe pochopila silné stránky i omezení těchto systémů.

Do studie se zapojilo 100 odborníků na duševní zdraví, z nichž více než 70 % byli licencovaní terapeuti. Ti hodnotili reakce AI na reálné otázky pacientů. Celkově se ukázalo, že současné jazykové modely fungují poměrně dobře, často získávaly vysoké hodnocení za empatii a obecně si vedly dobře v mnoha hodnotících dimenzích. Vysoké celkové hodnocení však nutně neznamenalo nízká bezpečnostní rizika. Klinici identifikovali několik opakujících se obav, včetně přílišné generalizace, omezené personalizace a rad, které by mohly překračovat klinické hranice. Tyto problémy se někdy objevily i v odpovědích, které jinak působily empaticky a užitečně. Klíčovým poznatkem je, že dnešní systémy AI ukazují skutečný potenciál jako nástroje pro podporu duševního zdraví, ale zůstávají důležité otázky ohledně bezpečnosti a vhodného použití.

Výsledky studie budou okamžitě využity k navrhování lepších tréninkových metod, bezpečnostních opatření a protokolů pro nasazení jazykových modelů používaných v podpoře duševního zdraví. Vědci také pokračují v navazujícím výzkumu, například zkoumají, jak modely reagují v náročnějších situacích, kdy jsou klienti rezistentní nebo nespolupracující. Dále se zaměřují na to, jak lze jazykové modely učinit bezpečnějšími a vhodnějšími pro nasazení ve vysoce rizikových prostředích. Liu zdůrazňuje, že mezioborový výzkum je zásadní, protože v takto citlivých oblastech nemůžeme systémy jednoduše nasadit a doufat v to nejlepší. Odborníci z různých oblastí, jako jsou lékaři a počítačoví vědci, musí spolupracovat, aby zajistili, že AI bude nejen efektivní, ale především bezpečná a etická.