AI proti AI: Apple, Google a Anthropic spouští Project Glasswing pro obranu před kybernetickými útoky

Přední technologické společnosti, včetně Amazon Web Services, Anthropic, Apple, Google, Microsoft a NVIDIA, se spojily v nové iniciativě nazvané Project Glasswing. Jejím cílem je řešit rychle rostoucí kybernetickou výzvu, kterou představuje pokročilá umělá inteligence.

Přední technologické společnosti, včetně Amazon Web Services, Anthropic, Apple, Google, Microsoft a NVIDIA, se spojily v nové iniciativě nazvané Project Glasswing. Jejím cílem je řešit rychle rostoucí kybernetickou výzvu, kterou představuje pokročilá umělá inteligence. Skupina se zaměřuje na zabezpečení kritických softwarových systémů v době, kdy modely umělé inteligence začínají překonávat většinu lidí v identifikaci a zneužívání softwarových slabých míst.

Spuštění projektu navazuje na interní testování nového modelu Anthropic, Claude Mythos Preview, který prokázal schopnost odhalit tisíce závažných softwarových chyb v široce používaných systémech. Anthropic a jeho partneři upozorňují, že tento model znamená zlomový bod v kybernetické bezpečnosti, neboť již identifikoval vysoce závažné zranitelnosti v hlavních operačních systémech a webových prohlížečích. Firmy varují, že takové schopnosti by se brzy mohly rozšířit i mimo kontrolovaná prostředí, což by mohlo snížit překážky pro kybernetické útoky a zvýšit jejich rozsah a sofistikovanost. Kyberkriminalita již nyní stojí globální ekonomiku stovky miliard dolarů ročně a útoky na nemocnice, infrastrukturu a vládní systémy stále rostou.

Project Glasswing bude umělou inteligenci využívat ofenzivně, ale pro obranné účely. Zúčastněné organizace nasadí model k prohledávání, testování a zabezpečení svých systémů. Iniciativa zahrnuje více než 40 dalších organizací, které udržují kritickou infrastrukturu a open-source software. Anthropic se zavázal poskytnout až 100 milionů dolarů ve formě kreditů za používání, aby podpořil toto úsilí. Práce se zaměří na detekci zranitelností, penetrační testování, zabezpečení koncových bodů a posílení softwaru. Společnosti budou také sdílet poznatky k posílení celoodvětvové obrany.

Projekt odráží rostoucí obavy, že umělá inteligence by mohla naklonit rovnováhu ve prospěch útočníků, pokud se obranné mechanismy nebudou rychle vyvíjet. Anthropic plánuje zveřejnit zjištění do 90 dnů, včetně podrobností o opravených zranitelnostech a získaných poznatcích. Iniciativa zahrnuje také financování open-source bezpečnostních skupin a spolupráci s vládními agenturami. Partneři do budoucna navrhují potřebu širší koordinace a předpokládají vznik potenciálního nezávislého orgánu, který by řídil dlouhodobé standardy kybernetické bezpečnosti v éře umělé inteligence.