Evropská unie zavádí povinné označování AI obsahu: Zlepší se odhalování deepfaků, nebo bude složitější?

Článek 50 zákona Evropské unie o umělé inteligenci vstoupil v platnost 2. srpna a zavádí řadu povinností týkajících se transparentnosti pro společnosti, které poskytují nebo nasazují systémy či obsah umělé inteligence.

Článek 50 zákona Evropské unie o umělé inteligenci vstoupil v platnost 2. srpna a zavádí řadu povinností týkajících se transparentnosti pro společnosti, které poskytují nebo nasazují systémy či obsah umělé inteligence. Mezi tyto povinnosti patří nutnost označovat obrazy, zvukové záznamy nebo videa generované či manipulované umělou inteligencí, které připomínají existující osoby, objekty, místa, entity nebo události. Stejně tak musí být označen text generovaný umělou inteligencí, který se týká záležitostí veřejného zájmu a nepodléhá lidské kontrole nebo redakčnímu dohledu.

Evropská unie vyvinula sadu ikon, kterými musí být autenticky vypadající AI obsah označen. Pro audio deepfakes by mělo být na začátku obsahu umístěno krátké slyšitelné upozornění. Ikony by měly být jasně viditelné, když se uživatelé s obsahem poprvé setkají, a měly by být umístěny tak, aby nebyly překryty a zůstaly viditelné i po sdílení nebo stažení obsahu. Použití těchto ikon EU je sice volitelné, ale povinnost označovat takový obsah v souladu se zákonem zůstává pro společnosti závazná. Zajímavostí je, že u zjevně uměleckého, kreativního, satirického nebo fiktivního obsahu generovaného umělou inteligencí je označení vyžadováno pouze způsobem, který informuje publikum, aniž by narušoval prezentaci nebo požitek z díla.

Nové transparentnostní povinnosti EU také vyžadují, aby společnosti zabývající se umělou inteligencí zahrnovaly neviditelné, strojově čitelné vodoznaky do veškerého obsahu, který je generován nebo dokonce zpracováván jejich systémy. Přední laboratoř AI Anthropic uvedla, že v souladu se zákonem zajistí, aby všechny modely chatbota Claude spuštěné v EU po 2. srpnu podporovaly strojově čitelné označování. Společnost rovněž pracuje na přidání vodoznaků do starších modelů Claude.

Zákon se vztahuje i na společnosti mimo EU, které vytvářejí AI-generovaný obsah viditelný pro osoby v rámci EU. Společnosti, které nedodrží předpisy, mohou čelit pokutám až do výše 15 milionů eur (přibližně 370 milionů Kč) nebo až 3 % celkového celosvětového ročního obratu. Zákon se však nevztahuje na jednotlivce, pokud vytvářejí obsah v osobní nebo neprofesionální kapacitě. To představuje omezení v prosazování označování veškerého AI-generovaného obsahu, což naznačuje, že i přes snahu regulace nemusí být úplně účinná proti všem formám deepfaků.

Co to znamená pro Česko

Jelikož je Česká republika členskou zemí Evropské unie, nová legislativa se přímo dotýká i českých firem a uživatelů. Společnosti působící v ČR, které vytvářejí nebo využívají AI obsah, musí dodržovat tyto transparentnostní povinnosti, a to včetně těch, které se týkají strojově čitelných vodoznaků.