AI obsah zaplavuje TikTok: Téměř 60 % videí pro nové uživatele je generováno umělou inteligencí, nejvíce u dětí

AI generovaný obsah, označovaný jako „AI slop“, se stává všudypřítomným na sociálních sítích, kde nekvalitní a někdy až děsivá videa vytvořená umělou inteligencí přehlušují lidské tvůrce napříč platformami. Ani populární platforma TikTok nezůstala ušetřena.

AI generovaný obsah, označovaný jako „AI slop“, se stává všudypřítomným na sociálních sítích, kde nekvalitní a někdy až děsivá videa vytvořená umělou inteligencí přehlušují lidské tvůrce napříč platformami. Ani populární platforma TikTok nezůstala ušetřena. Podle nové zprávy společnosti Kapwing, zabývající se úpravou videí, tvoří téměř 60 procent videí, která se zobrazují novým uživatelům na algoritmické stránce „Pro vás“, právě tento typ obsahu. To je trojnásobně více než u nových uživatelů YouTube.

Tento trend je obzvláště znepokojivý pro nejmladší uživatele platformy. Společnost Kapwing zjistila, že kategorie „Děti“ vykazuje zdaleka nejvyšší hustotu AI obsahu. Například hashtag #cartoonkids se skládal téměř výhradně z AI generovaných videí, přičemž pouze tři ze sta zkontrolovaných videí byla vytvořena člověkem. Ještě horší je, že jakmile účet naznačí algoritmu zájem o AI obsah, začne mu systém servírovat ještě více takových výtvorů.

Zjištění jsou důležitou připomínkou toho, jak rozsáhlým problémem se AI generovaný obsah stal. Odborníci varují, že vystavení mladých, ovlivnitelných myslí „polovičatému a mozek matoucímu AI materiálu“ by mohlo ohrozit jejich mozkový vývoj. Fotorealistické deepfaky navíc usnadňují šíření dezinformací a politické propagandy. Problém se netýká jen TikToku; i platformy jako Facebook a Instagram se mění v „nepoznatelnou pustinu“ plnou absurdních obrázků a znepokojivých videí, s nimiž interagují uživatelé – a pravděpodobně i boti.

Platformy se snaží situaci řešit. TikTok již v listopadu oznámil, že umožní uživatelům nastavit si množství AI generovaného obsahu ve svém feedu. Podle Jade Nester, evropské ředitelky pro veřejnou politiku v oblasti bezpečnosti a soukromí TikToku, si mnozí lidé užívají obsah vytvořený nástroji AI, od digitálního umění po vědecké vysvětlovače, a platforma jim chce dát možnost vidět ho více či méně podle jejich preferencí. YouTube nedávno zavedl změny v označování AI generovaného obsahu v širším úsilí o omezení jeho šíření, ačkoliv to zatím neovlivňuje doporučování videí ani možnost monetizace. Snadné řešení však není zřejmé, jelikož technologie pokročila natolik, že rozlišit realitu od AI výtvorů je stále obtížnější; dokonce i Hany Farid, přední expert na deepfaky, „přestal věřit vlastním očím“.