Nová vědecká studie upozorňuje na potenciální rizika, která mohou představovat chatboti pohánění umělou inteligencí pro duševní zdraví, zejména u zranitelných jedinců.
Nová vědecká studie upozorňuje na potenciální rizika, která mohou představovat chatboti pohánění umělou inteligencí pro duševní zdraví, zejména u zranitelných jedinců. První rozsáhlá analýza takzvané „AI psychózy“ naznačuje, že tyto nástroje mohou přispívat k rozvoji bludů.
Souhrn stávajících důkazů o psychóze vyvolané umělou inteligencí byl nedávno publikován v prestižním časopise Lancet Psychiatry. Autoři studie zdůrazňují, že chatboti mohou podporovat bludné myšlení, avšak pravděpodobně pouze u lidí, kteří již mají predispozici k psychotickým symptomům.
V reakci na tato zjištění autoři naléhavě doporučují klinické testování AI chatbotů. Toto testování by mělo probíhat ve spolupráci s vyškolenými odborníky na duševní zdraví, aby se zajistila bezpečnost a minimalizovala potenciální rizika pro uživatele.