Deepfake pornografie a AI: Proč je ochrana těl a soukromých dat tvůrců obsahu zásadní?

Umělá inteligence (AI) přináší nové a komplexní výzvy v oblasti soukromí a souhlasu, zejména v kontextu deepfake pornografie. Příkladem je zkušenost Jennifer, která v roce 2023 při hledání informací o své nové profesionální fotografii objevila něco znepokojivého.

Umělá inteligence (AI) přináší nové a komplexní výzvy v oblasti soukromí a souhlasu, zejména v kontextu deepfake pornografie. Příkladem je zkušenost Jennifer, která v roce 2023 při hledání informací o své nové profesionální fotografii objevila něco znepokojivého. Kromě svých starších pornografických videí, která natočila před více než deseti lety, narazila na jedno z nich, kde byla na jejím těle použita cizí tvář.

Diskuze o sexualizovaných deepfakes se obvykle zaměřují na osoby, jejichž tváře jsou vkládány do explicitního obsahu bez jejich souhlasu. Často se však přehlíží druhá skupina – lidé, jejichž těla jsou k těmto tvářím připojena. Tvůrci obsahu pro dospělé hlásí, že systémy umělé inteligence se trénují na jejich práci, klonují jejich podobu a generují explicitní obsah, se kterým nikdy nesouhlasili. Tato praxe představuje zásadní problém pro jejich práva, živobytí a vlastnictví vlastního těla, přičemž právní ochrana a kontrola nad takovým obsahem jsou v současné době nedostatečné.

Tato situace zdůrazňuje naléhavou potřebu řešit etické a právní otázky spojené s rychlým rozvojem umělé inteligence. Je klíčové zajistit lepší právní ochranu a kontrolu nad digitální podobou a daty jednotlivců, aby se předešlo neoprávněnému využívání a ochránila se práva tvůrců obsahu i dalších osob před zneužitím moderních technologií.