Umělá inteligence selhává: Dívky a ženy čelí největším rizikům

Nedávné odhalení, že AI nástroj Grok generoval explicitní obrázky skutečných osob, včetně žen a dětí, poukázalo na vážné nedostatky v umělé inteligenci. Přestože byly zavedeny určité restrikce, tento incident odhalil, že bez adekvátních ochranných mechanismů a rozmanitých perspektiv jsou dívky a ženy vystaveny vyššímu riziku. Nebezpečí, která umělá inteligence představuje pro ženy a dívky, jsou reálná a projevují se již nyní, ovlivňují jejich duševní zdraví, bezpečnost, zdravotní péči i ekonomické příležitosti.

Na podzim minulého roku objevila matka, proč se duševní stav její dospívající dcery zhoršoval: bylo to výsledkem konverzací s chatbotem Character.AI. Není sama. Zpráva Aura's State of Youth Report z prosince zjistila, že rodiče věří, že technologie má negativnější dopad na emoce dívek, včetně stresu, žárlivosti a osamělosti – 51 % oproti 36 % u chlapců. To je nepřijatelné a musíme se zlepšit.

Rizika přesahují duševní zdraví. OpenAI nedávno informovalo, že více než 40 milionů Američanů denně vyhledává zdravotní informace na ChatGPT. S rozšiřováním AI ve zdravotnictví mohou být důsledky zkreslených tréninkových dat nebezpečné. Modely AI trénované převážně na datech o mužském zdraví produkují horší výsledky pro ženy. Například model AI navržený k detekci onemocnění jater z krevních testů nezachytil 44 % případů u žen, ve srovnání s 23 % u mužů.

V pracovním prostředí AI nevytváří rovné podmínky. Navzdory zákonům zakazujícím diskriminaci vyvolávají nástroje pro nábor poháněné AI opakovaně obavy ohledně zkreslení, spravedlnosti a ochrany soukromí dat. Studie publikovaná University of Washington zjistila, že při screeningu životopisů pomocí AI technologie upřednostňovala jména spojená se ženami pouze v 11 % případů.

Tyto neúspěchy odrážejí složení lidí, kteří naši technologii vytvářejí. Ženy tvoří pouze 22 % pracovních sil v oblasti AI. Když jsou systémy navrhovány bez perspektivy žen, replikují existující nerovnosti a zavádějí nová rizika. Vzor je jasný. AI selhává dívkám a ženám.

To nemůže přijít v pohnutější chvíli na trhu práce. Čtvrtina pozic na nejnovějším seznamu 25 nejrychleji rostoucích pracovních míst v USA podle LinkedIn je spojena s technologiemi, přičemž inženýři AI jsou na prvním místě. Rozhodnutí o tom, jak je AI dnes navrhována, bude po desetiletí formovat přístup k pracovním místům, zdravotní péči, vzdělávání a občanskému životu. Je klíčové, aby ženy hrály aktivní roli při vývoji nových nástrojů AI, aby nerovnost nebyla vložena do systémů, které stále více řídí naše životy.

Mladé ženy se AI nevěnují nezúčastněně. Výzkum provedený loni společností Girls Who Code ve spolupráci s UCLA zjistil, že mladé ženy jsou hluboce zamyšlené nad dvojí povahou technologie. Vidí její potenciál pro pokrok ve zdravotnictví, rozšíření přístupu ke vzdělání a řešení klimatických změn. Jsou si také vědomy jejích nebezpečí, jako je zkreslení, sledování a vyloučení z vývoje. Toto není slepý optimismus. Nabízí perspektivu, která v dnešním vývoji AI často chybí.

Vytváření technologií je cvičením moci a nese velkou zodpovědnost. Jelikož dívky jsou často nejvíce postiženy selháními AI, musí být zmocněny k tomu, aby pomáhaly vést řešení. Ženy jako absolventka Girls Who Code Trisha Prabhu, která vyvinula nástroj proti šikaně ReThink, jsou toho příkladem. Latanya Sweeney, uznávaná jako jedna z předních myslitelek v oblasti AI, založila Harvard's Public Interest Tech Lab. Jejich úspěchy ukazují potenciál, když ženy vedou ve vývoji technologií.

Pokud chceme bezpečnější a zodpovědnější systémy AI, jsou nezbytné tři kroky.

Za prvé, vzdělávání v oblasti informatiky by mělo integrovat sociální dopad. Kódování nelze učit izolovaně od jeho důsledků. Studenti by se měli učit technické dovednosti spolu s kritickou analýzou toho, jak technologie formuje komunity a životy. Tento přístup přináší výsledky. Například studentka Girls Who Code využila dovednosti, které se naučila, k vytvoření aplikace AIFinTech, která pomáhá imigrantským rodinám spravovat jejich osobní finance.

Za druhé, ženy musí být zastoupeny ve vývoji a správě AI, zejména ty z historicky nedostatečně obsluhovaných komunit. Potřebují místa u stolů, kde jsou systémy AI navrhovány, testovány a regulovány. To znamená zajistit genderovou diverzitu v etických radách pro AI a aby vládní výbory pro AI byly reprezentativní pro demografické skupiny, které jsou nejvíce postiženy.

Konečně, způsob, jakým hodnotíme umělou inteligenci, se musí vyvinout. Dnes se AI hodnotí podle efektivity, přesnosti a ziskovosti. Musíme také hodnotit zdraví, spravedlnost a blahobyt, zejména u dívek a mladých žen. Než bude systém AI nasazen ve vysoce rizikovém prostředí, jako je zdravotnictví, měl by projít testy na genderové zkreslení a prokázat, že neprodukuje rozdílné výsledky. New York City například vyžaduje, aby zaměstnavatelé používající automatizované nástroje pro rozhodování o zaměstnání každoročně podstoupili nezávislý audit zkreslení.

Nemusíme výchozí stav přijímat selhání AI. Jsme svědky dopadu AI na dívky v reálném čase a musíme využít příležitosti ke změně kurzu, dokud se technologie stále formuje. Když dostanou dívky šanci vést v oblasti AI, vybudují bezpečnější systémy nejen pro sebe, ale pro všechny.