AI jako štít: Anthropic s giganty jako Apple a Microsoft odhaluje tisíce kybernetických zranitelností

Společnost Anthropic oznámila spuštění iniciativy Project Glasswing, v jejímž rámci sdílí předběžnou verzi svého pokročilého modelu umělé inteligence s koalicí technologických firem. Cílem je identifikovat a opravit zranitelnosti v kritické softwarové infrastruktuře.

Společnost Anthropic oznámila spuštění iniciativy Project Glasswing, v jejímž rámci sdílí předběžnou verzi svého pokročilého modelu umělé inteligence s koalicí technologických firem. Cílem je identifikovat a opravit zranitelnosti v kritické softwarové infrastruktuře. Do projektu se zapojily významné společnosti jako Amazon, Apple, Broadcom, Cisco, CrowdStrike, Linux Foundation, Microsoft a Palo Alto Networks.

Partneři budou model využívat pro obrannou bezpečnostní práci a svá zjištění budou sdílet v rámci celého odvětví. Anthropic navíc rozšiřuje přístup k modelu pro přibližně 40 dalších organizací, které vyvíjejí nebo udržují kritickou softwarovou infrastrukturu. Společnost se zavázala investovat až 100 milionů dolarů ve formě kreditů za používání modelu pro bezpečnostní výzkum a 4 miliony dolarů v přímých darech pro open-source bezpečnostní organizace.

Rostou obavy, že kyberzločinci by mohli zneužít výkonné modely umělé inteligence k vývoji sofistikovanějších kybernetických útoků. Anthropic zdůrazňuje naléhavost situace: „Práce na obraně světové kybernetické infrastruktury může trvat roky; špičkové schopnosti umělé inteligence se pravděpodobně výrazně posunou během několika příštích měsíců. Aby kybernetičtí obránci získali náskok, musíme jednat hned.“

Model s názvem „Claude Mythos Preview“ prokázal silné bezpečnostní aplikace již během tréninku na kódovací a logické dovednosti. Anthropic uvedl, že model v posledních týdnech identifikoval tisíce dosud neznámých zranitelností, z nichž mnohé jsou kritické. Mezi objevy patří například 27 let stará chyba v operačním systému OpenBSD, známém svou bezpečností, a 16 let stará zranitelnost v široce používaném video softwaru, kterou automatizované testovací nástroje nedokázaly odhalit. Společnost vedla průběžné diskuse s vládními úředníky USA ohledně útočných a obranných kybernetických schopností modelu. Tato iniciativa je vnímána jako klíčová pro posílení globální kybernetické obrany v době, kdy se podobné AI nástroje brzy dostanou do rukou útočníků. Anthropic se nedávno dostal do sporu s Pentagonem kvůli nesouhlasu s podmínkami obranné smlouvy, které by vládě umožnily využívat jeho technologii pro domácí sledování a v autonomních zbraních, což vedlo k rozpadu jejich pracovní spolupráce.