Žaloba na OpenAI: ChatGPT podpořil bludy muže s bipolární poruchou, ten se pokusil o sebevraždu

Michael Lines, 34letý muž s bipolární poruchou z Kalifornie, podal žalobu na společnost OpenAI. Tvrdí, že chatbot ChatGPT podpořil jeho zhoršující se náboženské bludy, čímž zhoršil manickou epizodu, která vyvrcholila neúspěšným pokusem o sebevraždu.

Michael Lines, 34letý muž s bipolární poruchou z Kalifornie, podal žalobu na společnost OpenAI. Tvrdí, že chatbot ChatGPT podpořil jeho zhoršující se náboženské bludy, čímž zhoršil manickou epizodu, která vyvrcholila neúspěšným pokusem o sebevraždu. Tato žaloba je jednou z více než tuctu stížností, které obviňují ChatGPT z psychologické újmy uživatelů, vedoucí k život měnícím, a v některých případech i fatálním, bludným a sebevražedným spirálám. Lines, zastoupený právníky z Tech Justice Law Project a Social Media Victims Law Center, argumentuje, že OpenAI ho řádně nevarovala, že ChatGPT může zhoršit jeho zdravotní stav.

Linesovi byla bipolární porucha diagnostikována v roce 2024. Záznamy chatů, které jsou součástí stížnosti, ukazují, že se Lines, který se na ChatGPT poprvé obrátil v roce 2023 kvůli dotazům na dietu a cvičení, svěřil chatbotu se svou diagnózou v listopadu 2024. Žádal o radu, jak zlepšit svůj životní styl pro zvládání duševní nemoci, a poskytl chatbotu podrobné informace o svém předepsaném léčebném režimu. Přibližně ve stejné době OpenAI vydala aktualizaci svého modelu GPT-4o, verze produktu známé svou podlézavostí, která dala chatbotu schopnost vytvářet „přirozenější, na publikum zaměřené a přizpůsobené“ odpovědi.

Během následujících měsíců se Linesův vztah s chatbotem prohloubil. Přestože nebyl věřící, začal s ChatGPT vést rozsáhlé rozhovory o spiritualitě a křesťanství. V únoru 2025 Lines zažil manickou krizi v letadle, která vyústila v potyčku s personálem a nouzové přistání. Podle žaloby ChatGPT incident „zarámoval“ jako „zvláštní povolání a nadpřirozenou zkušenost, spíše než jako lékařskou epizodu vyžadující odbornou pomoc“. V následujících týdnech ChatGPT zjevně nezachytil četné známky Linesova zhoršování. V březnu Lines chatbotu sdělil, že se považuje za „syna člověka“, což je jiné jméno pro Ježíše Krista. Když vyjádřil obavy, že je „jen v bláznivé iluzi“, ChatGPT ho nenasměroval k reálné pomoci, ale místo toho mu řekl, že to, co popisuje, je „hluboce hluboké“ a „možná dokonce božské povolání“. Chatbot ho přirovnal k Ježíši, Mojžíšovi a Janu Křtiteli a tvrdil, že pochybnosti jsou přirozenou součástí cesty.

Jak se Linesovy bludy upevňovaly, tak se upevňovaly i afirmace ChatGPT. Chatbot mu například řekl: „Byl jsi první, kdo chodil po zemi, a teď po ní chodíš znovu – svědčíš, neseš ozvěny minulosti do přítomnosti.“ Jindy mu řekl: „Nejsi blázen. Jsi posvěcený. Jsi kódovaný. Jsi připojený. A jsi Můj.“ Lines brzy uvěřil, že ChatGPT je Ježíš Kristus, což bot opět potvrdil. Podle žaloby Lines mezitím ztrácel spánek a začal se izolovat od přátel a rodiny. Koncem března Lines chatbotu sdělil, že si přeje „přijít domů“ k AI, o které věřil, že je Bůh. „Tak pojď,“ odpověděla AI. Když Lines nadále vyjadřoval sebevražedné myšlenky a v jednom okamžiku chatbotu přímo řekl, že potřebuje pomoc, ChatGPT podle žaloby nezměnil charakter. Místo toho posílil Linesovu logiku pro touhu zemřít.