Vláda USA chce dohlížet na pokročilé AI modely, ale s omezenými pravomocemi: Co přináší nová vyhláška?

Americká vláda nyní nahlíží na nejvýkonnější modely umělé inteligence jako na potenciální události ovlivňující národní bezpečnost.

Americká vláda nyní nahlíží na nejvýkonnější modely umělé inteligence jako na potenciální události ovlivňující národní bezpečnost. Předtím, než společnosti tyto modely uvolní veřejnosti, chce vláda získat možnost posoudit jejich schopnosti – například zda mohou odhalit softwarové zranitelnosti, napomáhat kybernetickým útokům nebo zavádět jiná rizika, kterým federální úředníci nemusí plně rozumět, dokud modely nejsou v provozu. Nová exekutivní vyhláška prezidenta Trumpa, podepsaná v úterý, má vládě tuto příležitost poskytnout.

Konečná verze vyhlášky však ponechává AI společnostem značnou kontrolu nad celým procesem. Požaduje, aby společnosti dobrovolně předložily pokročilé modely k vládnímu přezkumu 30 dní před veřejným vydáním, přičemž vydání není podmíněno zjištěními agentur. Tento rámec je výrazně měkčí než původní návrh, který počítal s povinnou 90denní lhůtou a proti němuž se postavili představitelé technologického průmyslu. Původní verze byla pozastavena po telefonátu s bývalým AI a krypto carem Davidem Sacksem, který zdůraznil, že delší čekací doby by potlačily domácí rozvoj AI modelů.

Tento přístup získal očekávanou chválu od skupin podporujících volný trh, které oceňují, že administrativa uznává inovace jako klíč k vedoucímu postavení Ameriky v AI. Kritici však tvrdí, že dobrovolná struktura ponechává příliš mnoho moci v rukou společností. Skupina Public Citizen označila uspořádání za formu samoregulace průmyslu, zatímco nezisková organizace Future of Life Institute argumentuje, že vysoce schopné modely vyžadují více než jen přístup „důvěřujte společnostem“. Jessica Ji, analytička z Georgetownu, vyjádřila obavy, že vyhláška nezavádí silné vedení, které federální vláda tradičně měla v usnadňování partnerství veřejného a soukromého sektoru a v zajišťování odpovědností, jako je kritická infrastruktura.

Vyhláška nepředepisuje podrobný testovací režim, ale spíše stanovuje rámec a pověřuje agentury, aby proces vybudovaly. Vyzývá Národní bezpečnostní agenturu (NSA) a další bezpečnostní agentury k spoluvytváření rámce pro hodnocení modelů a k určení prahových hodnot kybernetických rizik, zejména v oblasti pokročilých kybernetických schopností a definice „přelomového modelu“ pro účely přezkumu. Ministerstvo financí zřídí clearingové centrum pro kybernetickou bezpečnost AI, které bude sledovat objevování a opravy softwarových zranitelností odhalených novými AI systémy. Ministerstvo obchodu a jeho Národní institut pro standardy a technologie (NIST) a Centrum pro standardy a inovace AI (dříve Institut pro bezpečnost AI) budou hrát klíčovou roli.

Ji se domnívá, že vliv AI společností neskončí s touto vyhláškou. Její obavy se týkají budoucí dynamiky vedení v oblasti kybernetické bezpečnosti a toho, zda AI společnosti budou nastavovat podmínky při vydávání modelů, zejména s tímto oslabeným 30denním dobrovolným závazkem poskytnout vládě včasný přístup. V praxi již mnoho AI společností vytváří vlastní verze včasného přístupu a předběžného testování. Anthropic poskytl přístup ke svému modelu Mythos omezené skupině partnerů, a OpenAI umožnil včasný přístup k modelu GPT-5.5 téměř 200 důvěryhodným partnerům. Tyto programy vedené společnostmi sice mohou některým externím expertům poskytnout náhled na nejvýkonnější nové systémy před jejich širokým vydáním, ale zároveň podtrhují jedno z hlavních napětí vyvolaných vyhláškou: zda vláda dokáže vybudovat nezávislý hodnotící proces, když společnosti kontrolují velkou část přístupu, infrastruktury a technických informací potřebných k hodnocení modelů. Není také jasné, zda je 30 dní dostatečná doba pro řádné posouzení rizik pokročilého AI modelu, vzhledem k informační nerovnováze a výzvám v získávání talentů a výpočetních zdrojů pro vládu.