Stalkerka si s obětí vytvořila imaginární dítě pomocí AI a roky žila ve fantazii
InovacePřípad ze Singapuru odhalil znepokojivý způsob zneužití umělé inteligence, kdy žena po léta vytvářela falešný život s mužem, kterého znala ze školy. Tato žena, s obsesivní fixací, se vydávala za jeho snoubenku a tvrdila, že spolu mají dítě.
Případ ze Singapuru odhalil znepokojivý způsob zneužití umělé inteligence, kdy žena po léta vytvářela falešný život s mužem, kterého znala ze školy. Tato žena, s obsesivní fixací, se vydávala za jeho snoubenku a tvrdila, že spolu mají dítě. K podpoře své fantazie a oklamání okolí používala AI k úpravě fotografií, na nichž je údajně vidět, jak spolu chodí na rande, a dokonce i její těhotenství s jeho dítětem.
Muž, identifikovaný pseudonymem Luke, neměl o této situaci tušení a dozvěděl se o ní až před několika měsíci od své sestry. Ta byla upozorněna na fotografie, které stalkerka zveřejňovala, poté co si jich všimla její kamarádka. Sestra následně sdílela svůj šok a znepokojení v sérii příspěvků na sociálních sítích, které se staly virálními. Luke pro The Straits Times uvedl, že je hluboce znepokojující zjistit, že jeho fotografie byly použity v takto propracovaném příběhu. Jeho sestra dodala, že měli velké obavy, že tato neznámá osoba má fotografie a videa jejich dětí uložené v telefonu a sdílí je online.
Luke ženu ve skutečnosti neznal, ale ukázalo se, že byli před 15 lety spolužáci. „Ve škole jsem s ní promluvil nanejvýš dvě věty,“ řekl Luke. Kromě vytváření falešných fotografií z rande, žena také generovala AI snímky, na nichž Luke drží jejich údajné novorozené dítě. Přátelé Lukovy sestry potvrdili, že stalkerka používala tyto AI-falšované fotografie k pokusům o navázání kontaktu na různých sociálních sítích. Mezi dalšími tvrzeními stalkerky bylo, že s Lukem byla od roku 2011, že je s ním těhotná a že jsou zasnoubeni a plánují svatbu v prosinci, přičemž dokonce rozesílala svatební oznámení. Poté, co příspěvek Lukovy sestry získal virální pozornost, se ozvala místní pekárna s tím, že si u nich stalkerka objednala dort – pro imaginární dítě.
Situace se stala ještě vážnější, když stalkerka použila fotografie Lukovy sestry, jejího syna, neteře a synovce. „Nyní jsme tak opatrní a bojíme se zveřejňovat cokoli o dětech,“ napsala sestra. Tento případ je dalším příkladem toho, jak generativní umělá inteligence může podpořit obsesivní iluze a umožnit jednotlivcům naplňovat jejich nebezpečné fantazie, včetně stalkingu. Novinářka Taylor Lorenz například uvedla, že se stala terčem stalkera, který použil aplikaci Sora od OpenAI k vytváření videí, jež zveřejňoval na stovkách účtů na sociálních sítích. V několika soudních sporech některé ženy tvrdí, že jejich stalkeři byli podněcováni konverzacemi s ChatGPT.
„Jsme stále v šoku, že je člověk schopen udělat tohle všechno s pomocí AI,“ napsala Lukova sestra na sociálních sítích. „Ukazuje to, jak moc AI může zásadně ovlivnit život člověka.“ Dodala, že žena „extrémně zneužívala možnosti umělé inteligence“ a že „věděla, že v okamžiku, kdy se dozvěděla o AI, byla nejšťastnějším člověkem na Zemi, protože konečně mohla dělat takovéto činy.“