Většina uživatelů si nevšimne skryté reklamy v AI chatbotech: Proč je důležité být obezřetný

Technologické společnosti začleňují reklamy do téměř každé velké bezplatné webové služby, video kanálu a platformy sociálních médií. Nejnovější modely umělé inteligence by však mohly tuto praxi posunout na novou úroveň rizika pro spotřebitele.

Technologické společnosti začleňují reklamy do téměř každé velké bezplatné webové služby, video kanálu a platformy sociálních médií. Nejnovější modely umělé inteligence by však mohly tuto praxi posunout na novou úroveň rizika pro spotřebitele. Stovky milionů lidí denně konzultují AI chatboty pro nejrůznější účely, od doporučení produktů po romantické rady, což z nich činí lákavé publikum pro potenciálně skrytou reklamu.

Výzkum počítačových vědců, kteří se několik let zabývají bezpečností a soukromím AI, naznačuje, že AI chatboti by mohli být snadno využíváni pro skrytou reklamu k ovlivňování svých lidských uživatelů. Studie publikovaná v časopise Association for Computing Machinery zjistila, že chatboti trénovaní k vkládání personalizovaných reklam na produkty do odpovědí na dotazy ovlivnili volby lidí ohledně produktů. Většina účastníků si přitom neuvědomila, že jsou manipulováni.

Velké společnosti intenzivně soutěží o technologickou převahu. Koncem března například OpenAI přetáhla dlouholetého reklamního manažera Mety, Davea Dugana, aby vedl reklamní operace OpenAI. Lidé nepoužívají chatboty pouze k vyhledávání informací nebo tvorbě obsahu. Obrací se na ně s širokou škálou úkolů, od komplexních životních rad po emocionální podporu. Uživatelé stále častěji vnímají chatboty jako společníky a terapeuty, přičemž někteří si s AI dokonce vytvářejí hluboké vztahy.

Za těchto okolností lidé snadno zapomínají, že společnosti nakonec vytvářejí chatboty za účelem zisku. Za tímto účelem jsou AI společnosti motivovány k důkladnému profilování uživatelů, aby se reklamy staly efektivnějšími a ziskovějšími. Uvědomění si komerční povahy těchto nástrojů je klíčové pro ochranu před nechtěným ovlivňováním.