Umělá inteligence selhává: Dívky a ženy čelí největším rizikům

Umělá inteligence ohrožuje duševní zdraví, bezpečnost i kariérní příležitosti dívek a žen. Studie ukazují na genderovou nevyváženost v datech i ve vývoji technologií, což vede k diskriminaci a horším výsledkům. Je klíčové zapojit ženy do tvorby AI pro spravedlivější budoucnost.

Nedávné odhalení, že AI nástroj Grok generoval explicitní obrázky skutečných osob, včetně žen a dětí, poukázalo na vážné nedostatky v umělé inteligenci. Přestože byly zavedeny určité restrikce, tento incident odhalil, že bez adekvátních ochranných mechanismů a rozmanitých perspektiv jsou dívky a ženy vystaveny vyššímu riziku. Nebezpečí, která umělá inteligence představuje pro ženy a dívky, jsou reálná a projevují se již nyní, ovlivňují jejich duševní zdraví, bezpečnost, zdravotní péči i ekonomické příležitosti.

Na podzim minulého roku objevila matka, proč se duševní stav její dospívající dcery zhoršoval: bylo to výsledkem konverzací s chatbotem Character.AI. Není sama. Zpráva Aura's State of Youth Report z prosince zjistila, že rodiče věří, že technologie má negativnější dopad na emoce dívek, včetně stresu, žárlivosti a osamělosti – 51 % oproti 36 % u chlapců. To je nepřijatelné a musíme se zlepšit.

Rizika přesahují duševní zdraví. OpenAI nedávno informovalo, že více než 40 milionů Američanů denně vyhledává zdravotní informace na ChatGPT. S rozšiřováním AI ve zdravotnictví mohou být důsledky zkreslených tréninkových dat nebezpečné. Modely AI trénované převážně na datech o mužském zdraví produkují horší výsledky pro ženy. Například model AI navržený k detekci onemocnění jater z krevních testů nezachytil 44 % případů u žen, ve srovnání s 23 % u mužů.

V pracovním prostředí AI nevytváří rovné podmínky. Navzdory zákonům zakazujícím diskriminaci vyvolávají nástroje pro nábor poháněné AI opakovaně obavy ohledně zkreslení, spravedlnosti a ochrany soukromí dat. Studie publikovaná University of Washington zjistila, že při screeningu životopisů pomocí AI technologie upřednostňovala jména spojená se ženami pouze v 11 % případů.

Tyto neúspěchy odrážejí složení lidí, kteří naši technologii vytvářejí. Ženy tvoří pouze 22 % pracovních sil v oblasti AI. Když jsou systémy navrhovány bez perspektivy žen, replikují existující nerovnosti a zavádějí nová rizika. Vzor je jasný. AI selhává dívkám a ženám.

To nemůže přijít v pohnutější chvíli na trhu práce. Čtvrtina pozic na nejnovějším seznamu 25 nejrychleji rostoucích pracovních míst v USA podle LinkedIn je spojena s technologiemi, přičemž inženýři AI jsou na prvním místě. Rozhodnutí o tom, jak je AI dnes navrhována, bude po desetiletí formovat přístup k pracovním místům, zdravotní péči, vzdělávání a občanskému životu. Je klíčové, aby ženy hrály aktivní roli při vývoji nových nástrojů AI, aby nerovnost nebyla vložena do systémů, které stále více řídí naše životy.

Mladé ženy se AI nevěnují nezúčastněně. Výzkum provedený loni společností Girls Who Code ve spolupráci s UCLA zjistil, že mladé ženy jsou hluboce zamyšlené nad dvojí povahou technologie. Vidí její potenciál pro pokrok ve zdravotnictví, rozšíření přístupu ke vzdělání a řešení klimatických změn. Jsou si také vědomy jejích nebezpečí, jako je zkreslení, sledování a vyloučení z vývoje. Toto není slepý optimismus. Nabízí perspektivu, která v dnešním vývoji AI často chybí.