Falešný prezident a firemní podvody. Spouští se obojek pro umělou inteligenci

Falešný prezident a firemní podvody. Spouští se obojek pro umělou inteligenci Stát chystá tým pro práci s umělou inteligencí Podvodů s využitím deepfake strmě přibývá a firmy i jednotlivci kvůli nim přicházejí o miliony. Od 2.

Stát chystá tým pro práci s umělou inteligencí

Podvodů s využitím deepfake strmě přibývá a firmy i jednotlivci kvůli nim přicházejí o miliony.

Od 2. srpna proto začíná v EU platit povinné označování obsahu vygenerovaného umělou inteligencí.

Změny zásadně dopadnou i na české e-shopy, které musí zákazníkům nově přiznat komunikaci přes AI chatboty.

Může to vypadat jako historka z pravěkých dějin internetu, ale stará je teprve dva roky. Postava prezidenta Petra Pavla ve falešném videu vybízela k investicím do kryptoměn, policisté pak zaznamenali případy, kdy se lidé nachytali. Regionální deníky přinesly třeba zprávu o ženě z Děčínska, která přišla o jeden a půl milionu korun. Nyní začíná platit povinnost označovat obsah generovaný umělou inteligencí, která má podobné podvody, včetně manipulativních řetězových zpráv, eliminovat.

Takzvané deepfake se valí na naivní uživatele internetu. Jejich počet každoročně roste o stovky procent, v roce 2024 to bylo více než 780 procent, jak uvedla Česká asociace umělé inteligence. Nemusí jít přitom jen o falešné zprávy z krizových zón na Ukrajině nebo v Gaze, podle dat Výzkumné služby Evropského parlamentu (EPRS) se téměř 50 procent firem v Evropě setkalo s pokusem o podvod využívajícím hlasový nebo video deepfake.

Česká AI gigafactory má silného parťáka. Firma konkurující Mikolovovi a Beckovi získala dalších 12 miliard

První velký případ je znám od roku 2019. Ředitel britské dceřiné společnosti energetické firmy obdržel telefonát od muže, jehož hlas, přízvuk i intonace dokonale odpovídaly jeho nadřízenému – generálnímu řediteli mateřské firmy v Německu. Falešný CEO požadoval urgentní převod 220 tisíc eur maďarskému dodavateli během jedné hodiny. Peníze byly odeslány a následně přesunuty do Mexika a dalších neznámých destinací. Jména firem i osob zůstala v anonymitě, na veřejnost se dostala v této podobě ze zprávy pojišťovny, která vyřizovala škodu.

Dost ale historie. Od 2. srpna musí být v EU obsah upravený či generovaný AI označen kvůli AI Actu , který byl schválen v roce 2024. V praxi má věc fungovat tak, že platformy generující například AI obrázky, jako je Midjourney, DALL-E 3, Adobe Firefly nebo ChatGPT, do souboru automaticky zapíší neviditelná metadata a digitální vodoznaky. Když se takový obrázek či video nahraje na sociální sítě, jejich mechanismus jej přečte a označí obsah štítkem.

Odpovědnost je ale na uživateli, protože vyhnout se automatickému označení se dá třeba tím, že využije některou z lokálních platforem, která digitální vodoznaky do AI videí a obrázků neukládá, nebo systém obejde, když vytvoří snímek obrazovky s generovaným obsahem.