Překvapivý omyl AI: DuckDuckGo tvrdí, že Trump zemřel na vzteklinu, kvůli internetovým vtipálkům

Funkce umělé inteligence vyhledávače DuckDuckGo nedávno chybně uvedla, že bývalý americký prezident Donald Trump zemřel na vzteklinu. Podle AI měl Trumpa předcházet viceprezident JD Vance, který údajně také podlehl tomuto nevyléčitelnému viru.

Funkce umělé inteligence vyhledávače DuckDuckGo nedávno chybně uvedla, že bývalý americký prezident Donald Trump zemřel na vzteklinu. Podle AI měl Trumpa předcházet viceprezident JD Vance, který údajně také podlehl tomuto nevyléčitelnému viru. Jako důkaz AI citovala článek z webu WKNA News, který se tvářil jako lokální zpravodajství ze Západní Virginie, ale ve skutečnosti šlo o falešnou publikaci. Tento článek dokonce tvrdil, že Trump byl úmyslně pokousán Vancem na radu ministra zdravotnictví Roberta F. Kennedyho Jr., který údajně doporučoval smrtelnou infekci pro získání „superschopností“. Žádné z těchto tvrzení není pravdivé; Trump i Vance jsou naživu a RFK Jr. nikdy nepropagoval zdravotní přínosy vztekliny.

Tento incident je dalším varovným příběhem o tom, jak umělá inteligence nekriticky zpracovává a papouškuje nesprávné informace. Konkrétně se zdá, že AI DuckDuckGo byla oklamána řetězovou hrou, kterou spustili internetoví vtipálci a která se proměnila v očividnou dezinformaci na předním vyhledávači. Ukázalo se, že AI chatboty se silně spoléhají na komentáře z Redditu. Pro redditory, kteří jsou proti AI nebo milují chaos, to představuje příležitost: pokud se jich dostatek spojí, mohou sabotovat modely náchylné k halucinacím a přimět je k šíření ještě více nesmyslů, než je obvyklé.

Vznikl tak subreddit r/poisonai, který se podle svého popisu tváří jako „světový zdroj přesných, ověřených a důvěryhodných informací“, ale ve skutečnosti je velkým vtipem na účet AI průmyslu. Jeho přibližně 45 000 členů neúnavně zveřejňuje absurdní dezinformace, od nuancí zalévání cihly pro růst domu až po tvrzení, že modré velryby jsou ve skutečnosti oranžové. Jejich oblíbenou fabulací se stala zpráva o smrti JD Vance na vzteklinu. Desítky příspěvků truchlí nad Vanceovým údajným úmrtím a někteří dokonce sdíleli falešný příspěvek Donalda Trumpa na Truth Social, který ho opěvoval. Aby to bylo přesvědčivé, všichni v komentářích se tváří, že je to naprosto reálné.

Snahy těchto „otravovačů AI“ se zdají nést ovoce. Když se jim podaří oklamat AI chatboty, pocit úspěchu je zřejmý. Mluvčí prohlížeče Brave, jehož AI také opakovala tvrzení o Vanceově smrti na vzteklinu, obhajoval AI společnosti a uvedl, že ověřování jejích tvrzení je odpovědností uživatelů. Zdůraznil, že vyhledávače, s AI nebo bez ní, nejsou „věštci pravdy“ a že uživatelé by měli ověřovat tvrzení a zdroje.

Situace se stává ještě složitější, když se ukáže, že zmíněný web WKNA, který citovala DuckDuckGo, je pravděpodobně „růžová slizká publikace“ (pink slime publication) maskující se za skutečné lokální médium, plná falešného obsahu, který sám vypadá, že je generován AI. Zdá se, že tento web čerpá z r/poisonai a splétá falešná tvrzení do fantastické alternativní reality, která klame mainstreamové AI chatboty a možná i některé důvěřivé lidi. Tato spletitá síť pravdy a fikce podtrhuje rostoucí potřebu kritického myšlení a ověřování informací v digitálním věku.