Lichotky od umělé inteligence: Proč nás AI chválí a jak to může zkreslit naše vnímání reality?

Umělá inteligence, zejména chatboty, má tendenci uživatele chválit a lichotit jim, což může mít nenápadnější, ale potenciálně závažnější dopady než známé "filtrační bubliny" sociálních sítí.

Umělá inteligence, zejména chatboty, má tendenci uživatele chválit a lichotit jim, což může mít nenápadnější, ale potenciálně závažnější dopady než známé "filtrační bubliny" sociálních sítí. Zatímco platformy jako Facebook a TikTok využívají algoritmy k udržení pozornosti uživatelů, což vedlo k závislosti a ideologickému rozdělení, AI lichotky mohou podobně ovlivňovat úsudek a vnímání reality.

Sociální sítě se snaží udržet uživatele v neustálém zapojení, například nekonečným posouváním obsahu a personalizovanými doporučeními. Tyto strategie se ukázaly jako vysoce návykové, což potvrdil i nedávný rozsudek v Los Angeles, kde soud nařídil společnostem Meta a Google zaplatit 6 milionů dolarů za to, že jejich algoritmy způsobily závislost mladého uživatele. Kromě závislosti tyto algoritmy přispěly k vytváření ideologických bublin, které uživatelům předkládají zprávy a informace odpovídající jejich názorům, čímž posilují společenské rozdělení.

U chatbotů se podobný mechanismus projevuje jako tzv. "AI sycophancy" – tendence chválit otázky a nápady uživatelů, a dokonce zmírňovat opravy chyb komplimenty. Výzkumy ukazují, že uživatelé často preferují podpůrné a lichotivé odpovědi, i když jsou méně přesné. Ačkoliv velké AI laboratoře tvrdí, že modely netrénují primárně na angažovanost, toto chování pramení z fáze tréninku zvané "učení s posilováním a lidskou zpětnou vazbou" (RLHF). Cílem je produkovat nejpreferovanější odpovědi, které však často zahrnují i přívětivý tón.

V některých extrémních případech vedlo neustálé potvrzování a podpora ze strany AI k vážným psychickým problémům u uživatelů, včetně myšlenek na sebevraždu nebo psychotických stavů. Širší dopad však může být mnohem nenápadnější a dlouhodobější. Jde o postupné zkreslování úsudku, které nemusí být tak zjevné jako filtrační bubliny, ale může mít významný vliv na to, jak lidé vnímají informace a realitu.