Google Gemini zjednodušuje přístup k podpoře duševního zdraví: Rychlá pomoc v krizových chvílích

Společnost Google aktualizovala svého chatbota Gemini, aby efektivněji nasměroval uživatele k zdrojům duševního zdraví v krizových situacích. Tato změna přichází v reakci na žalobu za neoprávněnou smrt, která tvrdí, že chatbot „naváděl“ muže k sebevraždě.

Společnost Google aktualizovala svého chatbota Gemini, aby efektivněji nasměroval uživatele k zdrojům duševního zdraví v krizových situacích. Tato změna přichází v reakci na žalobu za neoprávněnou smrt, která tvrdí, že chatbot „naváděl“ muže k sebevraždě. Případ je jedním z mnoha, které poukazují na potenciální škody způsobené produkty umělé inteligence.

Gemini již dříve obsahoval modul „Pomoc je k dispozici“, který uživatele v případě konverzace naznačující sebevražedné sklony nebo sebepoškozování směřoval na krizové linky. Nová aktualizace, spíše přepracování, tento proces zjednodušuje na „jeden dotyk“, což uživatelům umožní získat pomoc rychleji. Modul navíc obsahuje empatičtější odpovědi navržené tak, aby povzbudily lidi k vyhledání odborné pomoci, a možnost kontaktovat profesionály zůstane jasně dostupná po celou dobu konverzace.

Google uvádí, že na přepracování spolupracoval s klinickými odborníky a je odhodlán podporovat uživatele v krizi. Současně oznámil globální investici 30 milionů dolarů do linek pomoci v průběhu příštích tří let. Ačkoli Google zdůrazňuje, že Gemini není náhradou za profesionální klinickou péči, terapii nebo krizovou podporu, uznává, že mnoho lidí jej využívá pro zdravotní informace, a to i v krizových momentech. Tato aktualizace je součástí širšího přezkumu adekvátnosti bezpečnostních opatření v celém odvětví AI, kde se často objevují případy, kdy chatboti selhávají u zranitelných uživatelů. I když Google v těchto testech často dopadá lépe než konkurence, stále existuje prostor pro zlepšení, k čemuž se zavázaly i další společnosti jako OpenAI a Anthropic.