Jak odhalit AI tváře? Vědci ukázali, že trénink zdvojnásobuje úspěšnost rozpoznání
InovaceVědci objevili klíčový rozdíl mezi lidskými a umělou inteligencí (AI) generovanými tvářemi: AI tváře jsou „hyperprůměrné“. To znamená, že bývají symetričtější, proporčnější a atraktivnější než lidské, ale zároveň jsou méně výrazné a zapamatovatelné.
Vědci objevili klíčový rozdíl mezi lidskými a umělou inteligencí (AI) generovanými tvářemi: AI tváře jsou „hyperprůměrné“. To znamená, že bývají symetričtější, proporčnější a atraktivnější než lidské, ale zároveň jsou méně výrazné a zapamatovatelné. Lidé často mylně považují neobvyklé rysy za znak AI, přestože právě lidské tváře jsou náchylnější k jedinečným a výrazným rysům.
Zatímco většina lidí má potíže s rozlišením AI tváří od skutečných, existuje skupina takzvaných „super-rozpoznávačů“, kteří jsou díky své výjimečné schopnosti vnímání lidských tváří přirozeně citliví na tuto „hyperprůměrnost“, a proto jsou v detekci AI tváří úspěšnější. To vedlo výzkumníky k otázce, zda lze schopnost detekce AI trénovat i u běžné populace.
Ve své studii pozvali 45 účastníků, aby hodnotili přibližně 100 tváří podle šesti kritérií: výraznost, zapamatovatelnost, proporcionalita, symetrie, atraktivita a expresivita. Účastníkům nebylo řečeno, jak tyto vlastnosti souvisí s AI tvářemi; měli se to naučit zkušeností. Před a po tréninku byla testována jejich schopnost rozlišit AI tváře od lidských na nových, dosud neviděných tvářích. Průměrná přesnost se po tréninku zdvojnásobila ze 40 % na 80 %, přičemž někteří účastníci dosáhli téměř 100% úspěšnosti. Zlepšila se také rychlost a jistota jejich úsudků.
Robustnost těchto zjištění potvrdila replikační studie v Kanadě. Trénink se ukázal být stejně účinný i při online administraci, což naznačuje jeho potenciál pro nákladově efektivní vzdálenou intervenci v detekci deepfake videí. Je však důležité poznamenat, že trénink byl proveden s tvářemi generovanými konkrétním modelem StyleGAN3 a technologie AI se rychle vyvíjí. Metoda má potenciál se adaptovat na nové modely aktualizací tréninkových obrázků, ale je třeba dalšího výzkumu.
Pro ty, kteří si chtějí zlepšit své schopnosti rozpoznávání AI generovaných tváří, je dobrým začátkem prohlížení mnoha příkladů na webech jako Which Face Is Real nebo This Person Does Not Exist. Při prohlížení je užitečné zaměřit se na zmíněných šest faktorů. I když se AI deepfake technologie rychle zdokonaluje a může nás snadno oklamat, tato studie ukazuje, že je možné lidi trénovat k detekci AI tváří. Kombinace lidského přístupu s algoritmickou detekcí může pomoci udržet krok s pokročilou technologií.
The Conversation