Stovky expertů kritizují YouTube kvůli AI videím pro děti: Chtějí jasné označení a zákaz na YouTube Kids

Skupiny na ochranu dětí a více než 200 expertů, včetně dětských psychiatrů a pedagogů, vyjádřily vážné obavy ohledně šíření nekvalitních videí generovaných umělou inteligencí (tzv. „AI slop“) na platformách YouTube a YouTube Kids.

Skupiny na ochranu dětí a více než 200 expertů, včetně dětských psychiatrů a pedagogů, vyjádřily vážné obavy ohledně šíření nekvalitních videí generovaných umělou inteligencí (tzv. „AI slop“) na platformách YouTube a YouTube Kids. V dopise adresovaném generálním ředitelům YouTube a Google kritizují tyto videa za to, že poškozují vývoj dětí, zkreslují jejich smysl pro realitu, přetěžují procesy učení a unášejí jejich pozornost, což vede k delšímu času strávenému online a vytěsňuje offline aktivity nezbytné pro zdravý vývoj. Tyto dopady jsou obzvláště výrazné u malých dětí.

Dopis, podepsaný 135 organizacemi včetně Americké federace učitelů, vyzývá YouTube k několika klíčovým krokům. Žádají jasné označování veškerého obsahu generovaného umělou inteligencí a úplný zákaz takového obsahu na YouTube Kids. Dále navrhují zabránit doporučování AI videí uživatelům mladším 18 let a zavést pro rodiče možnost vypnout AI generovaný obsah, i když ho jejich dítě vyhledává. Mnoho z těchto AI videí je rychlých, plných jasných barev, živé hudby a clickbaitových titulků, které mají za cíl upoutat pozornost mladých diváků.

YouTube k situaci uvedl, že má vysoké standardy pro obsah na YouTube Kids, včetně omezení AI generovaného obsahu na malý počet vysoce kvalitních kanálů. Zároveň poskytuje rodičům možnost blokovat kanály. Na celém YouTube platforma upřednostňuje transparentnost ohledně AI obsahu, označuje obsah vytvořený vlastními AI nástroji a vyžaduje od tvůrců, aby zveřejňovali realistický AI obsah. Mluvčí YouTube Boot Bullwinkle dodal, že společnost neustále vyvíjí svůj přístup, aby zůstala aktuální s vývojem ekosystému. YouTube také aktivně pracuje na vývoji štítků pro YouTube Kids.

Skupina Fairplay však namítá, že stávající politika dobrovolného zveřejňování a „extrémně omezená“ definice upraveného a syntetického obsahu znamenají, že děti stále vidí záplavu AI generovaných videí, která nejsou označena. Argumentují také tím, že mnoho dětí, které sledují YouTube videa, ještě neumí číst nebo chápat upozornění na AI obsah, což je ponechává bez ochrany. Kampaň Fairplay přichází krátce poté, co Google investoval milion dolarů do Animaj, AI animačního studia, které vytváří videa pro děti a dosahuje vysoké sledovanosti. Následuje také nedávný rozsudek v soudním procesu o závislosti na sociálních médiích, kde kalifornská porota shledala YouTube odpovědným za to, že navrhl svou platformu tak, aby „zaháčkoval“ mladé uživatele bez ohledu na jejich blaho. Ředitel YouTube Neal Mohan si „řízení AI slopu“ stanovil jako jednu z priorit společnosti pro rok 2026.