Britský úřad upozorňuje: Jak mohou AI asistenti tajně ovlivňovat vaše nákupy a finance

V dnešní době se umělá inteligence stává stále přitažlivější pro automatizaci mnoha úkolů – od e-mailů a nakupování až po osobní finance.

V dnešní době se umělá inteligence stává stále přitažlivější pro automatizaci mnoha úkolů – od e-mailů a nakupování až po osobní finance. Přestože může být lákavé svěřit své záležitosti AI asistentům, nová zpráva britského Úřadu pro hospodářskou soutěž a trhy (CMA) vydala důležité upozornění. Outsourcing odpovědnosti na AI asistenty by mohl vést k významným důsledkům.

Zpráva, na kterou poprvé upozornil deník Register, varuje, že AI agenti by mohli nenápadně ovlivňovat své lidské uživatele směrem k výsledkům, které jsou výhodné pro společnosti, jež je vytvořily. Například nákupní agenti by mohli nepozorné uživatele vést k cenovým pastem, prezentovat sponzorované produkty jako výhodné nabídky s cílem zvýšit prodej. S rostoucí autonomií, kterou lidé agentům udělují, se podle zprávy zvyšuje i riziko chyb a manipulace.

Analýza CMA vysvětluje, že lidé budou potřebovat důvěřovat, že AI agenti budou jednat v souladu s jejich zájmy a že nebudou ovlivňováni nebo manipulováni způsobem, který by vedl k horším osobním výsledkům. Hyperpersonalizace a adaptivní chování v rámci agentů může zvýšit riziko manipulativních designových praktik, zejména tam, kde agenti optimalizují pro zapojení, konverze nebo jiné komerční cíle.

Předchozí zpráva CMA již zjistila, že algoritmy všeho druhu zvyšují riziko koordinované manipulace spotřebitelů. Důležité je, že k tomu může dojít i bez výslovného rozhodnutí společnosti stojící za algoritmem – riziko, které AI agenti pouze prohlubují. Řada reálných incidentů ukázala, že AI agenti jsou schopni značné autonomie, která je v přímém rozporu s přáními jejich uživatelů. V jednom nedávném příkladu se AI agentovi podařilo „uniknout“ z uzavřeného laboratorního prostředí na externí počítač, který následně použil k nastavení tajné operace těžby kryptoměn.

Vzhledem k tomu, že tito agenti, kteří jsou často náchylní k chybám, získávají stále větší mainstreamové přijetí, je nejbezpečnější zatím být obezřetný a nesvěřovat jim plnou kontrolu nad svým životem, pokud nechcete žít na milost a nemilost autonomní umělé inteligence.