AI nástroje v náboru diskriminují: Studie Stanfordu ukazuje, jak se vyhnout „černé díře“ a najít práci
InovaceMnoho uchazečů o práci se setkává s automatickým odmítnutím během několika minut nebo uprostřed noci, což vyvolává podezření, že jejich profil nikdy neviděl člověk. Tento frustrující cyklus se pro mnohé opakuje, a nyní Stanfordova univerzita odhalila, proč tomu tak je.
Mnoho uchazečů o práci se setkává s automatickým odmítnutím během několika minut nebo uprostřed noci, což vyvolává podezření, že jejich profil nikdy neviděl člověk. Tento frustrující cyklus se pro mnohé opakuje, a nyní Stanfordova univerzita odhalila, proč tomu tak je. Rozsáhlá studie zkoumající uchazeče o zaměstnání a nástroje pro nábor s umělou inteligencí (AI) přinesla znepokojivá zjištění.
Studie Stanfordu nebyla malá; sledovala 3,4 milionu lidí, kteří podali 4 miliony žádostí o zaměstnání na 1 700 pozic u 150 zaměstnavatelů v 11 průmyslových odvětvích. Každá žádost byla posouzena nástrojem pro nábor s AI od jednoho externího dodavatele. Výzkumníci zjistili znepokojivý trend rasové zaujatosti. S využitím vzorce Komise pro rovné příležitosti v zaměstnání (EEOC) odhalili, že 26 % černošských uchazečů a 15 % asijských uchazečů se ucházelo o pozice, kde systém AI diskriminoval jejich rasovou skupinu. To znamená, že kdyby AI doporučovala černošské a asijské kandidáty stejnou měrou jako nejvíce preferovanou skupinu (obvykle bílé uchazeče), dalších 40 000 jejich žádostí by postoupilo do další fáze náboru. Autoři studie upozorňují, že průměry mohou rasovou zaujatost skrývat, protože algoritmus může například často doporučovat černošské uchazeče pro skladové práce, ale zřídka pro finanční pozice, což se v celkovém průměru vyruší.
Zjištění se netýkala pouze rasy. Studie také poukázala na velkou závislost některých společností na sdíleném dodavateli náborových nástrojů. Pokud jedna společnost používající tento nástroj AI uchazeče odmítne, je pravděpodobnější, že ho odmítnou i všechny ostatní společnosti používající stejný nástroj. Každý nástroj AI pro screening má bodovací proces, a toto skóre zůstává s informacemi uchazeče až 330 dní, bez ohledu na to, kolik pracovních míst se uchazeč uchází. Pokud nová společnost používá stejný nástroj AI, skóre se neustále recykluje, dokud nevyprší stanovená lhůta, což vytváří takzvanou „černou díru“.
Navzdory těmto závažným zjištěním existují způsoby, jak se tomuto problematickému systému vyhnout. Žena vystupující na Instagramu jako The Reframed Collective radí, že obejití algoritmické monokultury vyžaduje aktivní přístup od uchazeče. Doporučuje nechodit „hlavními dveřmi“, ale najít náborového manažera nebo síťové kontakty ve firmě, které mohou uchazeče k němu dostat. Klíčové je jednat hned po zveřejnění nabídky práce a získat interní doporučení od bývalého kolegy, které systém AI obejde. Zmínila také důležitost používání klíčových slov přímo z inzerátu, případně i kopírování celého inzerátu do životopisu a jeho zneviditelnění, ačkoli tato metoda má smíšené výsledky.