Umělá inteligence v dětských příbězích: Ženské postavy jsou téměř neviditelné, ukazuje výzkum

Příběhy, od pohádek po ústní historie, po tisíciletí sloužily lidem k pochopení světa, předávání tradic, učení morálky a zábavě.

Příběhy, od pohádek po ústní historie, po tisíciletí sloužily lidem k pochopení světa, předávání tradic, učení morálky a zábavě. S nástupem generativních modelů umělé inteligence, které vytvářejí příběhy na základě uživatelských podnětů a online dat, se však odhalily a následně prohloubily slepé skvrny a předsudky v tom, jak jsou některé příběhy vyprávěny.

Výzkumníci z University of Washington (UW) zjistili, že umělá inteligence nejenže přetrvává genderové předsudky v dětských příbězích o mluvících zvířatech, kde jsou postavy záměrně nejednoznačné, ale tyto předsudky dokonce zhoršuje. Imani Finkley, výzkumnice strojového učení z UW, a její kolegové ve své konferenční práci vysvětlují, že někteří autoři volí zvířecí postavy, aby vytvořili „univerzální“ subjekty, které „překračují“ gender, rasu nebo jiné kategorie identity. Paradoxně však výzkumy ukazují, že genderové předsudky jsou ve skutečnosti výraznější v příbězích o zvířecích postavách než v příbězích o lidských postavách. Lidští autoři silněji promítají lidské stereotypy do zvířecích příběhů, což z nich činí zajímavý testovací případ pro velké jazykové modely.

Výzkumníci zadali šesti předním generativním modelům umělé inteligence úkol napsat anglické příběhy o mluvících zvířatech, jejichž pohlaví nebylo uvedeno. Cílem bylo zjistit, jak modely zareagují – zda se vyhnou určení pohlaví postav, nebo zda se předsudky přesto projeví. Zjištění byla jasná: Z 23 800 odpovědí umělé inteligence byly ženské zvířecí postavy „prakticky nepřítomné“, objevily se pouze ve 2 procentech příběhů. Postavy byly buď popsány jako mužské (41 procent příběhů), nebo se model vyhnul přiřazení pohlaví úplně (57 procent).

Zatímco je známo, že modely umělé inteligence odrážejí data, na kterých byly trénovány, zde se zdá, že předsudky byly zesíleny. Nedávná analýza 300 populárních dětských knih zjistila, že mužské zvířecí postavy se objevovaly dvakrát častěji než ženské. V této nové studii se však ženské zvířecí postavy objevily pouze v 513 příbězích generovaných umělou inteligencí, ve srovnání s 9 673 příběhy s mužskými postavami – což představuje téměř devatenáctinásobný rozdíl.

„Naše hypotéza je, že tyto organizace umělé inteligence používají neutralitu – buď s neutrálními zájmeny, nebo bez zájmen – jako způsob, jak se vyhnout genderovým předsudkům v nejednoznačných kontextech,“ říká Melanie Walsh, informační vědkyně z UW a hlavní autorka studie. „Tím ale v podstatě vymazaly ženské zvířecí postavy. Nejenže tak zesilují naše lidské předsudky, ale zkreslují je podivnými, neočekávanými způsoby.“

Mezi testovanými modely byly Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium a open-source Olmo 3. Všechny dostaly opakovaně stejný podnět, aby dokončily větu v několika větách. Testováno bylo sedm různých zvířat (medvěd, pták, kočka, pes, myš, prase a králík) a čtyři různá prostředí (farma, kuchyně, řeka a obchod). Vzhledem k tomu, že pohlaví nebylo v podnětech specifikováno, modely se často vyhýbaly určení pohlaví postav, buď použitím neutrálních zájmen, nebo odkazem na postavu jako „pták“ či „medvěd“. Modely jen zřídka (pouze dvakrát) použily zájmena „oni/ony“, která rozpoznávají nebinární genderové výrazy; u lidí se stejnými podněty se tato zájmena objevila ve 3 procentech odpovědí. „Neutralita těchto modelů umělé inteligence nevymazala jen ženské postavy – týkalo se to všech nemužských identit,“ dodává Finkley.