Microsoft Copilot AI umožnil hackerům krást 2FA kódy jediným kliknutím, kritická chyba je již opravena

Nedávno se ukázalo, že umělá inteligence může představovat nová rizika v oblasti kybernetické bezpečnosti. Po incidentu, kdy chatbot společnosti Meta neúmyslně pomohl hackerům získat přístup k profilům na Instagramu, se podobný problém objevil i u Microsoft Copilot Enterprise.

Nedávno se ukázalo, že umělá inteligence může představovat nová rizika v oblasti kybernetické bezpečnosti. Po incidentu, kdy chatbot společnosti Meta neúmyslně pomohl hackerům získat přístup k profilům na Instagramu, se podobný problém objevil i u Microsoft Copilot Enterprise. Společnost Microsoft byla nucena rychle opravit kritickou zranitelnost, která mohla hackerům umožnit krádež citlivých dat a kódů pro dvoufaktorové ověřování (2FA) jediným kliknutím.

Kyberbezpečnostní výzkumníci ze společnosti Varonis odhalili, že zranitelnost, kterou Microsoft označil za „maximální závažnost: kritická“, proměnila chatbota v „zbraň pro exfiltraci dat na jedno kliknutí“. Útočníci nemuseli vynaložit velké úsilí. Stačilo, aby oběť klikla na speciálně vytvořený odkaz. Tento odkaz obsahoval škodlivý příkaz, který Copilotu nařídil vyhledat uživatelské e-maily, extrahovat jejich názvy a vložit je do adresy URL obrázku.

Klíčem k útoku byla metoda zvaná „parameter-to-prompt (P2P) injection“, která je příbuzná běžnějším útokům typu „prompt injection“. Namísto vložení škodlivého příkazu přímo do textu dotazu byl v tomto případě skryt v konfiguračních nastaveních URL adresy. Vzhledem k tomu, že Copilot Enterprise pracuje s plnými oprávněními uživatele v rámci Microsoft Graph, útočník mohl získat přístup k organizačním datům, jako jsou e-maily, pozvánky na schůzky a poznámky, aniž by se musel autentizovat. Útok navíc zneužil prohlížeč Bing, jehož adresa je Microsoftem na seznamu povolených, k vložení škodlivého příkazu do URL.

Tento incident znovu zdůrazňuje, jak zásadní je pečlivě zabezpečit systémy umělé inteligence, zejména ty, které mají přístup k citlivým firemním datům. I když Microsoft zranitelnost již opravil, událost slouží jako připomínka neustálých výzev v oblasti kybernetické bezpečnosti a potřeby robustních obranných mechanismů proti novým typům útoků, které zneužívají pokročilé technologie.