Model Fable 5 překročil hranici: Vláda poprvé zasáhla do vydání AI kvůli národní bezpečnosti

Svět umělé inteligence je plný velkých prohlášení, a tak by se nikdo nemohl divit, kdyby mávl rukou nad dramatem kolem vydání a následného stažení modelu Claude Fable 5 od společnosti Anthropic. Nicméně tato událost je jiná.

Svět umělé inteligence je plný velkých prohlášení, a tak by se nikdo nemohl divit, kdyby mávl rukou nad dramatem kolem vydání a následného stažení modelu Claude Fable 5 od společnosti Anthropic. Nicméně tato událost je jiná. Poprvé vláda zasáhla do vydání konkrétního modelu s odůvodněním, že jeho schopnosti by v nesprávných rukou mohly představovat riziko pro národní bezpečnost. Bez ohledu na to, jak se situace vyvine, incident představuje zlomový bod: modely umělé inteligence dosáhly takové úrovně schopností, že vláda cítí potřebu aktivně se podílet na jejich řízení. To vytváří precedens, který by měl zajímat každého uživatele AI, protože to znamená, že úroveň inteligence, která je k dispozici, nebude jen otázkou nákladů, ale také toho, co je povoleno. Může také záviset na místě bydliště, přijatých pravidlech pro data a na tom, zda vláda nebo dodavatel ponechá model online.

Fable 5 je prvním obecně dostupným modelem v takzvané „Mythos-class“ řadě společnosti Anthropic, která je o úroveň výše než Opus a podle firmy překročila významnou prahovou hodnotu rizika v oblasti kybernetické bezpečnosti a biologie. Fable 5 je verze Mythos s bezpečnostními zábranami, která je údajně bezpečná pro běžné uživatele. Využívá stejný základní model jako Mythos 5, s dodatečnými pojistkami, které mohou blokovat nebo omezovat určité požadavky týkající se kybernetiky, biologie, chemie a vývoje modelů. Zároveň představuje generační krok vpřed od modelů Opus 4.8, Sonnet 4.6 a Haiku 4.5.

Tři dny po vydání, 12. června, vláda nařídila společnosti Anthropic, aby zablokovala Fable 5 a Mythos 5 všem cizím státním příslušníkům, včetně zahraničních zaměstnanců pracujících ve Spojených státech. Anthropic uvedl, že toto rozlišení nemůže spolehlivě vynutit, a proto oba modely globálně deaktivoval. Obavy vlády se údajně soustředily na podezření z prolomení bezpečnostních zábran, které obešlo zábrany Fable v oblasti kybernetické bezpečnosti. Anthropic zpochybnil závažnost zjištění a uvedl, že demonstrace odhalila pouze menší, dříve známé zranitelnosti, které by mohly identifikovat i jiné veřejné modely.

Tento spor stále probíhá. Lídři v oblasti kybernetické bezpečnosti naléhali na vládu, aby nařízení zrušila, s argumentem, že obránci potřebují přístup ke stejným schopnostem a že srovnatelné nástroje jsou již dostupné od amerických a čínských konkurentů. Anthropic se snaží Fable obnovit a modely z jiných laboratoří téměř jistě rychle dosáhnou podobné úrovně. I když se tento konkrétní spor vyřeší, precedens zůstává. Model může být vydán, integrován do pracovních postupů a poté zmizet, protože vláda stanoví hranice pro to, kdo jej smí používat. Pro každého, kdo staví na jediném modelu nebo dodavateli (a „stavět“ může jednoduše znamenat využívat jej v klíčových, strategických případech), je nyní dostupnost součástí kalkulace rizika.