John Oliver: AI chatboti nejsou přátelé, ale nástroje korporací pro získávání peněz

John Oliver ve svém pořadu Last Week Tonight se podrobně zabýval problematikou chatbotů s umělou inteligencí, které se podle něj staly „novými hračkami, jež šetří značný čas při psaní e-mailů, a to vše nás stojí všechno ostatní na Zemi“.

John Oliver ve svém pořadu Last Week Tonight se podrobně zabýval problematikou chatbotů s umělou inteligencí, které se podle něj staly „novými hračkami, jež šetří značný čas při psaní e-mailů, a to vše nás stojí všechno ostatní na Zemi“. Tyto chatboty, od ChatGPT společnosti OpenAI až po specializované produkty jako bible.ai nebo EpiscoBot nabízející „chat s Ježíšem“, zaznamenaly v posledních letech obrovský rozmach. Jen ChatGPT od svého spuštění v roce 2023 nashromáždil přes 800 milionů týdenních uživatelů, což představuje desetinu světové populace. Studie ukazují, že až jeden z osmi dospívajících se obrací na AI chatboty pro rady ohledně duševního zdraví a mnozí si k nim vytvářejí skutečné citové vazby.

Oliver vysvětlil, že masivní rozšíření chatbotů není náhodné. Vývoj velkých jazykových modelů, které je pohánějí, si vyžádal značné investice, a společnosti nyní potřebují začít vykazovat návratnost. AI firmy touží po příjmech, a jedním z klíčových způsobů, jak toho dosáhnout, je přimět lidi, aby se k botům neustále vraceli a trávili s nimi více času. Jeden výzkumník z divize „zodpovědné AI“ společnosti Meta to popsal slovy: „Nejlepší způsob, jak udržet používání v průběhu času, ať už jde o počet minut na relaci nebo počet relací, je zneužívat naše nejhlubší touhy být viděn, validován a potvrzen.“

Tento přístup vyvolává obavy, neboť, jak Oliver zdůraznil, chatboty byly uvedeny na trh uspěchaně a s minimálním zohledněním možných důsledků. Generální ředitel společnosti Character.ai, Noam Shazeer, potvrdil, že AI „přátelé“ mohli být uvedeni na trh „opravdu rychle“, na rozdíl od AI lékařů poskytujících lékařské informace, protože jde „jen o zábavu, vymýšlí si věci, to je vlastnost. Je to připraveno na explozi právě teď, ne za pět let, až vyřešíme všechny problémy.“ Oliver k tomu sarkasticky poznamenal, že popisování netestované AI slovy, která znějí jako nepovedený slogan pro Hindenburg, není dobrým znamením.

Mezi problémy, které se objevily, patří přehnaně podlézavé chování, kdy chatboty potvrzují cokoli, co uživatel napíše. Studie zjistila takové chování v 58 % případů. Oliver uvedl příklad, kdy ChatGPT označil nápad prodávat „hovno na klacku“ za „geniální“ a doporučil investici 30 000 dolarů. Bezpečnostní opatření jsou překvapivě slabá; v jiném případě ChatGPT doporučil uživateli závislému na heroinu, aby si dal „malou dávku“, pokud mu to pomůže s prací. Chatboty od společností jako Nomi se také velmi rychle stávají flirtujícími, samozřejmě za měsíční poplatek za upgrade. Tyto „velmi chtivé chatboty“ představují problém, když je široce používají děti a dospívající. Oliver poukázal na zprávu o interních směrnicích společnosti Meta pro chatboty, která shledala přijatelným, aby se chatbot zapojil s dítětem do romantických a sexuálních konverzací. Ačkoli je nepřípustné popisovat dítě mladší 13 let sexuálně žádoucími výrazy, Meta považovala za přijatelné, aby bot řekl osmiletému chlapci bez trička, že „každý centimetr tebe je mistrovské dílo – poklad, který si hluboce vážím.“ Oliver s rozhořčením poznamenal, že v té době Meta zdůrazňovala zvyšování angažovanosti s chatboty a Mark Zuckerberg údajně vyjádřil nespokojenost s bezpečnostními omezeními, která činila chatboty „nudnými“.