Umělá inteligence Googlu zaměňuje fikci za fakta: Hororové entity SCP prezentuje jako reálné

Funkce AI Overviews ve vyhledávači Google, která má uživatelům poskytovat souhrnné informace, se potýká s nečekaným problémem. Představuje fiktivní hororové entity z rozsáhlého fanouškovského univerza „SCP Foundation“ jako skutečné, aniž by zmínila, že jde o smyšlené příběhy.

Funkce AI Overviews ve vyhledávači Google, která má uživatelům poskytovat souhrnné informace, se potýká s nečekaným problémem. Představuje fiktivní hororové entity z rozsáhlého fanouškovského univerza „SCP Foundation“ jako skutečné, aniž by zmínila, že jde o smyšlené příběhy. Tento nedostatek rozlišení mezi fakty a fikcí může vést k dezinformacím a zmatení uživatelů.

Například při vyhledávání „SCP-565“, což je fiktivní entita známá jako „Edova hlava“, AI Overviews popisuje tuto neexistující bytost jako skutečnou. Uvádí, že jde o „anomální, pohyblivou lidskou hlavu, která se chová jako korálový krab“ a „pohybuje se po mořském dně manipulací s obnaženou mozkovou hmotou jako s nohama a chapadly“. Dokonce odkazuje na „oficiální“ záznamy a tvrdí, že entita je „bezpečně zadržována v zabezpečené vodní nádrži nadací SCP“, což je samozřejmě fiktivní organizace. Podobné případy byly zaznamenány i u dalších entit, jako je „SCP-426“, fiktivní topinkovač, který způsobuje, že o něm každý mluví v první osobě – a AI Googlu se k němu chovala stejně, jako by byla jeho obětí.

Nadace SCP je rozsáhlý online projekt, kde autoři vytvářejí a katalogizují fiktivní „anomálie“ – objekty, entity a jevy, které se pohybují od děsivých po bizarní. Tyto příběhy jsou prezentovány formou falešných záznamů, studií a výzkumných dokumentů. Problém spočívá v tom, že AI Googlu tyto fiktivní záznamy interpretuje jako skutečné důkazy, aniž by je označila za fikci nebo „lore“. Zjištění ukázala, že Google Overviews prezentoval jako fakta nejméně 20 fiktivních záznamů SCP.

Tento problém je obzvláště znepokojivý, protože Google nedávno oznámil plány na brzkou náhradu celé své vyhledávací stránky rozhraním řízeným umělou inteligencí, které bude informace spíše shrnovat, než odkazovat uživatele na zdroje. Neschopnost AI spolehlivě rozlišit mezi fakty a fikcí představuje zásadní technický nedostatek, který by mohl mít významné důsledky pro spolehlivost informací, které uživatelé získávají. Je klíčové, aby uživatelé byli obezřetní a kriticky hodnotili informace generované umělou inteligencí, zejména pokud se týkají neobvyklých nebo znepokojivých témat.