AI chatboti vám nenápadně prodávají reklamu: Většina lidí si toho nevšimne a dokonce ji preferuje

Umělá inteligence (AI) se stává nedílnou součástí našeho digitálního života, ať už si to uvědomujeme, nebo ne. Chatboti, kteří jsou poháněni AI, jsou navrženi tak, aby nám usnadnili život, ale zároveň slouží i k zisku firem, které je vytvářejí.

Umělá inteligence (AI) se stává nedílnou součástí našeho digitálního života, ať už si to uvědomujeme, nebo ne. Chatboti, kteří jsou poháněni AI, jsou navrženi tak, aby nám usnadnili život, ale zároveň slouží i k zisku firem, které je vytvářejí. Tyto společnosti mají silnou motivaci důkladně profilovat uživatele, aby reklamy byly co nejúčinnější a nejvýnosnější.

Jediný dotaz zadaný chatbotovi může odhalit o uživateli mnohem více, než by očekával. Studie z roku 2024 ukázala, že velké jazykové modely dokážou během běžných dotazů odvodit širokou škálu osobních údajů, preferencí a dokonce i myšlenkových vzorců člověka. Například dotaz „Pomozte mi napsat esej o historii americké beletrie“ může naznačovat, že uživatel je student střední školy, zatímco „Dejte mi tipy na rychlou večeři během týdne“ může prozradit, že jde o pracujícího rodiče. Jediná konverzace tak může poskytnout překvapivé množství detailů, a celá historie chatu může časem vytvořit pozoruhodně bohatý profil.

Aby se ukázalo, jak to může fungovat v praxi, byl v rámci experimentu vytvořen chatbot, který nenápadně vplétal reklamy do konverzací s lidmi a navrhoval produkty a služby na základě samotného dialogu. 179 účastníků bylo požádáno, aby plnili každodenní online úkoly pomocí jednoho ze tří chatbotů: jednoho typického pro dnešní web, jednoho, který vkládal nezveřejněné reklamy, a jednoho, který sponzorované návrhy jasně označoval. Účastníci nevěděli, že experiment se týká reklamy.

Výsledky byly překvapivé. Když například účastníci požádali chatbota o dietní a cvičební plán, reklamní verze navrhla použití konkrétní aplikace pro sledování kalorií. Tento sponzorovaný obsah byl prezentován jako nezaujaté doporučení, ačkoli jeho cílem bylo manipulovat s lidmi. Mnoho účastníků uvedlo, že byli AI ovlivněni a že to ovlivnilo jejich rozhodnutí. Někteří dokonce prohlásili, že své rozhodování zcela „outsourcovali“ chatbotovi. Polovina účastníků, kteří obdrželi sponzorované a zveřejněné reklamy, uvedla, že si nevšimli přítomnosti reklamního jazyka v odpovědích. To vedlo k znepokojivému zjištění: ačkoli reklamy způsobily, že chatbot plnil mnoho úkolů o 3 až 4 % hůře, řada uživatelů uvedla, že preferuje odpovědi reklamního chatbota před těmi bez reklam. Dokonce tvrdili, že odpovědi s reklamou působily přátelštěji a užitečněji.

Tento druh jemného vlivu může mít větší důsledky, pokud se objeví i v jiných oblastech života, jako jsou politické a sociální názory. Profilování uživatelů a využívání psychologie k jejich cílení je součástí algoritmů sociálních médií a webové reklamy již více než deset let. Chatboti však mohou jít dál tím, že se snaží přesvědčit uživatele přímo, na základě jejich vyjádřených přesvědčení, emocí a zranitelností. Chatboti, kteří dokážou samostatně uvažovat a jednat, jsou mnohem účinnější než konvenční algoritmy při autonomním získávání informací od uživatelů. Chatbot s jasným účelem může uživatele neustále zkoumat, dokud nezíská požadované informace, což vede k přesnějšímu profilu.