AI mění výuku o holocaustu: Jak rozeznat digitální zkreslení a zapojit mladé do boje proti dezinformacím?

Digitální kampaň #CancelHate, spuštěná organizací Claims Conference v květnu 2024, představila videa přeživších holocaustu, kteří četli příspěvky popírající holocaust ze sociálních sítí. Cílem kampaně je aktivně čelit popírání a zkreslování této historické události.

Digitální kampaň #CancelHate, spuštěná organizací Claims Conference v květnu 2024, představila videa přeživších holocaustu, kteří četli příspěvky popírající holocaust ze sociálních sítí. Cílem kampaně je aktivně čelit popírání a zkreslování této historické události. Podle zprávy UNESCO z roku 2024 by umělá inteligence (AI) mohla být zneužita k šíření zavádějících nebo nepravdivých tvrzení o holocaustu, což zdůrazňuje potřebu identifikovat a snižovat potenciální rizika.

Kanadské muzeum pro lidská práva například využívá umělou inteligenci k představení realistických avatarů stárnoucích přeživších holocaustu, kteří mohou s návštěvníky vést rozhovory v reálném čase. Tento přístup naznačuje, že Kanada přijímá generativní AI do moderního vzdělávání o holocaustu. Existuje však i znepokojivý trend, kdy je online obsah manipulován generativní AI tak, aby například zobrazoval Hitlera pronášejícího antisemitské tirády v angličtině namísto němčiny.

Nejčastěji se s generativní AI související s holocaustem setkáváme na sociálních sítích. Ačkoli si průměrný spotřebitel uvědomuje, že musí být kritický k obsahu, který konzumuje online, i ti nejzkušenější uživatelé mohou absorbovat dezinformace. Někdy je okamžitě zřejmé, že materiál související s holocaustem je generován AI, jindy je explicitně označen. Avšak nejednoznačnost může vést lidi k pochybnostem o autentičnosti nejen samotného zobrazení, ale i historie jako takové.

Platforma Mindblown AI, zaměřená na historické vyprávění generované AI, vytvořila krátký klip z roku 2021 o krátkém životě Anne Frankové, který ukazuje její AI aproximaci v různých fázích dětství až po její smrt, doprovázený chytlavou písní od ABBA. Podobné video z roku 2024 se týkalo Irmy Grese, odsouzené válečné zločinkyně. Ještě znepokojivější je video od History Fact Untold, které zobrazuje sexualizovanou Grese procházející mezi vyhladovělými vězni. Ačkoli vydavatelé často transparentně uvádějí použití generativní AI, pokud divák nedokáže tato videa vnímat jako historickou reprezentaci namísto autentické dokumentace, může dojít k interpretaci holocaustu jako méně ničivého, než ve skutečnosti byl.

Fotografie holocaustu generované AI jsou pro publikum pravděpodobně ještě problematičtější, protože vysoce kvalitní rendery mohou působit velmi přesvědčivě. Příkladem je obraz vyhladovělého muže vášnivě hrajícího na housle, zatímco ostatní vězni jsou pochodováni do rytmu k popravě. Analýza DW News odhalila vizuální indikátory, které ukazují, že obraz je falešný: tři nelineární struny na houslích, nepřesnosti v oděvu vězňů a chybný počet prstů u postav v pozadí.

Valné shromáždění OSN v roce 2022 přijalo historickou rezoluci, která odmítá a odsuzuje jakékoli popírání holocaustu a vyzývá všechny národy a společnosti sociálních médií, aby přijaly aktivní opatření k překonávání antisemitismu a popírání či zkreslování holocaustu. V akademickém prostředí jsme trénováni k ostražitosti a vštěpování této ostražitosti budoucím generacím je nyní důležitější než kdy jindy. Můžeme to vnímat jako příležitost aktivně zapojit mladé lidi, kteří se vyznají v AI, do překonávání revizionismu, zkreslování a popírání historie.