Vzácná shoda: Sam Altman a lídři AI volají po povinném prověřování DNA proti biologickým hrozbám

Přední osobnosti z oblasti umělé inteligence, biotechnologií a národní bezpečnosti naléhavě vyzývají vlády, aby zavedly přísnější povinné prověřování objednávek syntetické DNA.

Přední osobnosti z oblasti umělé inteligence, biotechnologií a národní bezpečnosti naléhavě vyzývají vlády, aby zavedly přísnější povinné prověřování objednávek syntetické DNA. Varují, že rychlý pokrok v umělé inteligenci by mohl výrazně snížit bariéry pro vytváření biologických hrozeb.

V otevřeném dopise výzkumníci a lídři průmyslu vyzvali zákonodárce, aby požadovali povinné prověřování objednávek syntetických nukleových kyselin a také zařízení používaných k jejich výrobě. Signatáři argumentují, že zatímco syntéza DNA umožnila zásadní pokroky v medicíně a výzkumu, představuje také potenciální slabé místo v globální biologické bezpečnosti.

Dopis zdůrazňuje, že schopnost objednávat syntetickou DNA online urychlila vývoj vakcín a podpořila základní výzkum, čímž zpřístupnila možnosti dříve omezené na velké instituce i menším týmům. Zároveň však tato dostupnost byla dlouho uznávána jako potenciální cesta ke zneužití, což vedlo k dobrovolným bezpečnostním opatřením ze strany průmyslových skupin. Signatáři však tvrdí, že stávající dobrovolné systémy již samy o sobě nestačí.

Varují, že umělá inteligence rychle mění rizikovou krajinu. Moderní systémy umělé inteligence již nyní dokáží překonat odborné virology v technicky náročných laboratorních otázkách, což vyvolává obavy, že znalostní bariéry, které historicky bránily špatným aktérům v získávání biologických zbraní, se mohou výrazně oslabit.

Navrhované řešení se zaměřuje na mechanismy prověřování, které již mnoho společností v odvětví genové syntézy používá. Tyto systémy kontrolují objednávky DNA na sekvence vzbuzující obavy a ověřují identitu zákazníka před odesláním materiálů. Dopis také doporučuje uchovávat záznamy o objednávkách a sekvencích, aby se zlepšila dohledatelnost v případě zneužití. Prověřování je podle dopisu jedno z nejlépe pochopených a nejméně rušivých dostupných biosekurnostních opatření, přičemž dohledatelnost by mohla působit jako odstrašující prostředek a zároveň pomáhat při vyšetřování.

Mezi signatáři jsou lídři významných firem v oblasti umělé inteligence, biotechnologických společností, akademických institucí a politických organizací, včetně Sama Altmana, Demise Hassabise, Daria Amodeie a Alexandra Wanga, a také výzkumníci z institucí jako Stanfordova univerzita, MIT a Princeton. Autoři popisují tuto situaci jako vzácný okamžik shody napříč sektory, které se často neshodnou na regulaci. Vyzývají tvůrce politik k rychlému jednání, aby Kongres schválil legislativu v tomto zasedání a státy přijaly sladěné standardy, čímž se předejde roztříštěným regulačním přístupům. Včasná akce by mohla snížit dlouhodobá rizika a zároveň zachovat přínosy syntetické biologie pro medicínu, zemědělství a výzkum.