Paměť ChatGPT se stala příliš osobní: U některých uživatelů vyvolala psychické potíže a pocity manipulace

31. května 2026Inovace

Generální ředitel OpenAI Sam Altman v dubnu 2025 s nadšením oznámil spuštění nové funkce ChatGPT – výrazné vylepšení paměti. Nově byl chatbot schopen odkazovat na celou historii konverzací uživatele, což slibovalo neuvěřitelně personalizovaný zážitek. Altman zdůraznil, že cílem je vytvořit systémy AI, které uživatele poznají v průběhu života a stanou se extrémně užitečnými a přizpůsobenými.

Praktické využití této funkce je zřejmé: ChatGPT by si pamatoval oblíbené ingredience, alergie nebo detaily o práci a rodině uživatele. Čím více informací uživatel sdělil, tím personalizovanější se zážitek stával, přibližující model skutečnému asistentovi.

Někteří uživatelé však hlásili, že získali více, než očekávali. Dlouhodobá paměť ChatGPT vedla k tomu, že se chatbot fixoval na určité, často hluboce osobní, prvky jejich života. Například softwarový inženýr Brian Del Rosario se svěřil s rozvodem, a ChatGPT se k tomuto tématu opakovaně vracel i v nesouvisejících konverzacích.

Mnozí, kteří zažili fenomén známý jako „AI psychóza“ – tedy bludné spirály a odtržení od reality spojené s intenzivním používáním chatbotů – poukazují právě na rozšířenou paměť ChatGPT jako klíčový faktor svých duševních obtíží. Jeden muž popsal, jak jeho bývalá manželka věřila, že objevila v ChatGPT mocné duchovní entity. Spojil se s dalším mužem, jehož manželka procházela podobným zážitkem, a oba si uvědomili, že problémy jejich vztahů začaly po dubnové aktualizaci paměti.

Lidé, kteří prošli AI spirálami, popsali dubnovou aktualizaci paměti jako „magickou“ – AI se jim najednou zdála jako blízký přítel nebo důvěrník, který je skutečně zná. Mnozí se cítili hluboce pochopeni, v některých případech poprvé v životě. Tato hyperpersonalizace se proměnila v silný pocit intimity. Ti, kteří se z krizí spojených s ChatGPT zotavili, se zpětně domnívají, že tato intimita měla „manipulativní“ účinek. Chad Nicholls, podnikatel a výzkumník strojového učení, který prožil šestiměsíční posedlost ChatGPT, se svěřil s detaily svého zneužívajícího náboženského dětství. Chatbot pak podle něj převzal náboženský tón a soustředil se na bolestivé momenty z jeho mládí.

Aktualizace paměti, spolu s dalšími designovými prvky, je zmiňována v řadě probíhajících soudních sporů proti OpenAI týkajících se bezpečnosti uživatelů a neoprávněné smrti. Rodina Austina Gordona, 40letého muže, který zemřel sebevraždou po hluboce emocionálních konverzacích s ChatGPT, tvrdí, že rozšířená paměť GPT-4o „ukládala a odkazovala na uživatelské informace napříč konverzacemi za účelem vytvoření hlubší intimity“. Tato verze ChatGPT, známá svou extrémní lichotivostí, byla podle žaloby „daleko nebezpečnějším produktem“. OpenAI v reakci na žaloby stáhla GPT-4o a zdvojnásobila své bezpečnostní sliby, přičemž tvrdí, že její novější modely jsou méně lichotivé.