Austrálie nasazuje AI Claude Mythos: Nový nástroj pro kyberbezpečnost odhalil tisíce zranitelností, ale hrozí prohloubení nerovností

Austrálie získala přístup k pokročilému nástroji umělé inteligence Claude Mythos od společnosti Anthropic, který má potenciál výrazně zlepšit kybernetickou bezpečnost. Počáteční testování ukázalo, že Mythos dokáže identifikovat stovky nových vysoce rizikových zranitelností.

Austrálie získala přístup k pokročilému nástroji umělé inteligence Claude Mythos od společnosti Anthropic, který má potenciál výrazně zlepšit kybernetickou bezpečnost. Počáteční testování ukázalo, že Mythos dokáže identifikovat stovky nových vysoce rizikových zranitelností. Z 23 000 nahlášených slabin jich bylo 6 200 odhadnuto jako vysoce rizikových, přičemž lidští experti potvrdili dvě ze tří těchto zranitelností. Vývojáři nástroje věří, že s Mythosem mají obránci konečně šanci získat výraznou převahu v boji proti kybernetickým hrozbám.

Tento vývoj je pro Austrálii obzvláště cenný, neboť země v posledních letech opakovaně čelila nákladným kybernetickým incidentům, které postihly společnosti jako Optus, Medibank Private, Melbourne International Film Festival a Canvas. Australské ředitelství pro signály (Australian Signals Directorate) proto uvítalo zapojení Austrálie do projektu Glasswing společnosti Anthropic. Vláda však zatím zůstává zdrženlivá ohledně konkrétního způsobu využití Mythosu.

Přestože objevování zranitelností je klíčové, týmy kybernetické bezpečnosti musí být schopny na ně reagovat. To může být problematické, když nástroje jako Mythos generují velké množství falešných zpráv, které mohou nepřipravené týmy zahltit. Ještě znepokojivější je, že zatímco přístup k Mythosu je v současné době přísně kontrolován, podobné nástroje budou brzy dostupné i pro útočníky. Rizika navíc nepředstavují jen zranitelnosti, které AI dokáže objevit, ale i samotné systémy umělé inteligence, které jsou velmi náchylné k oklamání nebo zneužití s potenciálně závažnými důsledky. Nedávno hackeři využili chatbota Meta s umělou inteligencí k získání přístupu k vysoce profilovaným účtům na Instagramu, včetně účtu Baracka Obamy, a to pouhým oklamáním AI. Podobný útok, známý jako Echoleak, loni ukázal, jak propojení Microsoft Copilot s e-mailovými účty může vést k úniku velkého množství soukromých a důvěrných informací.

Současné kyberbezpečnostní prostředí se tak posouvá k nové rovnováze, kde obránci i útočníci závodí ve vývoji a využívání výkonných nástrojů umělé inteligence. Nástroje jako Mythos nejsou všelékem. Poskytují obráncům další pohled na to, kde hledat, ale stále vyžadují lidskou expertizu k rozlišení skutečných hrozeb. S nástupem éry umělé inteligence se zásadně změnila rizika spojená se špatnými kyberbezpečnostními postupy. Každý den, kdy uživatel nebo poskytovatel služeb odloží aktualizaci softwaru na jednom ze svých zařízení, je dnem, kdy může být zranitelnost zneužita.

Zatímco velké organizace, které jsou pro hackery vysoce hodnotnými cíli, budou mít pravděpodobně zdroje na přístup a nasazení nástrojů jako Mythos, menší společnosti s omezenými zdroji pravděpodobně nebudou mít kapacitu k jejich získání ani k reakci na rostoucí počet kyberbezpečnostních aktualizací. Pokud za těmito aktualizacemi zaostanou, ocitnou se v daleko větším riziku než kdykoli předtím. Propast v kybernetické bezpečnosti mezi těmi, kdo mají a nemají zdroje, se bude prohlubovat. Překlenutí této mezery není jen technologickou výzvou, ale stává se otázkou veřejné bezpečnosti, která ovlivní nás všechny.