Jednoduchý trik s AI asistentem Meta odhalil slabiny: Hackeři ukradli Instagram účty, včetně Bílého domu

Útočníci nedávno zneužili AI asistenta zákaznické podpory společnosti Meta k odcizení instagramových účtů. Jejich metoda byla překvapivě jednoduchá: požádali AI agenta, aby propojil účty s e-mailovými adresami, které kontrolovali, a agent vyhověl.

Útočníci nedávno zneužili AI asistenta zákaznické podpory společnosti Meta k odcizení instagramových účtů. Jejich metoda byla překvapivě jednoduchá: požádali AI agenta, aby propojil účty s e-mailovými adresami, které kontrolovali, a agent vyhověl. Tímto způsobem se jednomu útočníkovi podařilo proniknout do neaktivního účtu Bílého domu z doby Obamovy administrativy a zveřejnit proíránské příspěvky; jiní převzali účty s cennými, jednoslovnými uživatelskými jmény, pravděpodobně za účelem jejich prodeje.

Obavy o kybernetickou bezpečnost umělé inteligence nejsou nové. Od dubnového oznámení společnosti Anthropic, že její model Mythos je příliš dobrý na hackování, než aby byl uvolněn veřejnosti, se komentátoři, výzkumníci i federální úředníci zaměřili na myšlenku, že supervýkonné AI systémy by mohly způsobit rozsáhlé škody na naší počítačové infrastruktuře. Instagramový hack však nebyl takového druhu; zde byla AI spíše cílem než útočníkem a použitá metoda byla mnohem jednodušší než cokoli, co by Mythos dokázal vymyslet. Přestože se jedná o méně sofistikované útoky, mohou napáchat značné škody, jelikož společnosti stále více úkolů svěřují umělé inteligenci.

„S rostoucím rozšířením AI – zejména při automatizaci pracovních postupů, jako je obnova účtů – se útočníci budou stále více snažit napadat samotnou AI,“ říká Neil Gong, profesor elektrotechniky a počítačového inženýrství na Duke University. Gong a další odborníci již delší dobu varují před bezpečnostními zranitelnostmi AI agentů. Publikují práce a blogové příspěvky popisující exploity, jako je nepřímá prompt injekce, která zahrnuje ovládání agentů pomocí příkazů skrytých na webových stránkách, v e-mailech nebo jiných zdánlivě neškodných datových zdrojích. Ve srovnání s těmito technikami byl hack společnosti Meta prakticky bezmyšlenkovitý. Jedinou komplikací, kterou hackeři museli překonat, bylo použití VPN odpovídající skutečné poloze majitele účtu; poté přímo požádali agenta podpory o změnu e-mailové adresy účtu, a ten vyhověl.

Společnost Meta se veřejně nevyjádřila k tomu, jak tato zranitelnost unikla pozornosti. Vzhledem k jednoduchosti exploitu by však podle Gonga měla být snadno odhalena ještě před nasazením agenta. „Je to opravdu překvapivé,“ říká. „Nerozumím tomu, proč tento jednoduchý problém nenašli.“ S tím souhlasí i Jessica Ji, senior výzkumná analytička z Georgetownského Centra pro bezpečnost a vznikající technologie. „Vyvolává to otázky, například: Byla vůbec zavedena nějaká bezpečnostní opatření? Napadlo někoho otestovat tento typ scénáře?“ Ji poznamenává, že tento dohled je obzvláště zarážející u společnosti jako Meta, která má rozsáhlé odborné znalosti v oblasti AI i kybernetické bezpečnosti. Společnost Meta na žádost o komentář k tomuto článku nereagovala, ale v pondělí mluvčí společnosti Meta na síti X uvedl, že zranitelnost byla vyřešena.