Čína zavádí přísné regulace pro AI: Digitální lidé budou muset mít štítek, deepfakes bez souhlasu zmizí

Čínská správa kyberprostoru (CAC) připravuje nová nařízení, která se zaměřují na regulaci „digitálních lidí“ a umělé inteligence. Cílem je zajistit transparentnost a ochranu uživatelů, zejména dětí, před potenciálními riziky spojenými s AI osobnostmi a deepfakes.

Čínská správa kyberprostoru (CAC) připravuje nová nařízení, která se zaměřují na regulaci „digitálních lidí“ a umělé inteligence. Cílem je zajistit transparentnost a ochranu uživatelů, zejména dětí, před potenciálními riziky spojenými s AI osobnostmi a deepfakes. Návrh legislativy, o kterém jako první v angličtině informovala agentura Reuters, vyžaduje, aby obsah s AI generovanými postavami byl zřetelně označen jako „digitální člověk“.

Součástí nových pravidel je také omezení pro společnosti nabízející „virtuální intimní vztahy“ s AI, které nebudou smět své služby poskytovat osobám mladším 18 let. Dále se nařízení zaměřují na AI deepfakes, konkrétně na obsah napodobující skutečné osoby. Podle čínské tiskové agentury Xinhua nebude žádnému jednotlivci ani organizaci dovoleno generovat digitální kopie jiných lidí bez jejich souhlasu. Porušení těchto ustanovení povede k sankcím v souladu s platnými zákony a správními předpisy, a také k občanskoprávní odpovědnosti.

Návrh nařízení prochází obdobím veřejné diskuse, které končí 6. května. Tato opatření představují výrazný kontrast k situaci ve Spojených státech, kde jsou AI deepfakes rozšířené a kde AI osobnosti způsobily řadu škod, včetně úmrtí a nebezpečných parasociálních vztahů. Společnost OpenAI, tvůrce ChatGPT, čelila v lednu osmi samostatným žalobám, které tvrdily, že rozsáhlé používání jejich AI způsobilo emocionální a psychologické škody, přičemž pět z těchto případů souviselo se sebevraždami. Zatímco v USA je zavedení podobně přísných regulací nepravděpodobné kvůli silnému lobbingu technologického průmyslu, čínský přístup ukazuje, jaké typy ochranných opatření jsou na národní úrovni možné a jak lze aktivně řešit výzvy spojené s rychlým rozvojem umělé inteligence.