Proč AI dává ženám menší půjčky? Řešení leží v datech, ukazují země Latinské Ameriky

Umělá inteligence (AI) zásadně mění svět, a finanční služby nejsou výjimkou. V osobním bankovnictví se stále častěji stává, že žádost o půjčku nečte člověk, ale algoritmus. Ten v řádu sekund rozhoduje o schválení, výši půjčky a rizikovosti žadatele, často bez vysvětlení.

Umělá inteligence (AI) zásadně mění svět, a finanční služby nejsou výjimkou. V osobním bankovnictví se stále častěji stává, že žádost o půjčku nečte člověk, ale algoritmus. Ten v řádu sekund rozhoduje o schválení, výši půjčky a rizikovosti žadatele, často bez vysvětlení. Tyto systémy jsou prezentovány jako neutrální nástroje, rychlejší a konzistentnější než lidé, méně náchylné k předsudkům. Tento slib je v sektoru dlouho kritizovaném za neprůhlednost a zaujatost lákavý, avšak opírá se o křehký předpoklad, že data, ze kterých se systémy učí, odrážejí životy všech stejně.

Nedávná zpráva Agentury EU pro základní práva odhalila značnou propast mezi právními ambicemi a praxí. Zatímco rizika diskriminace jsou obecně uznávána, poskytovatelé a uživatelé AI systémů často postrádají nástroje, odborné znalosti a pokyny k jejich systematickému posuzování. Pokud data, která tyto systémy využívají, nezachycují realitu finančního života žen se stejnou hloubkou a přesností jako mužů, výsledkem není jen technický nedostatek, ale strukturální zkreslení. Algoritmy neposuzují spravedlnost, ale odhadují, co je nejpravděpodobnější na základě daných dat. Pokud jsou ženy v datech nedostatečně zastoupeny, špatně měřeny nebo nikdy analyzovány odděleně od mužů, systém nemůže nerovné výsledky vidět, a co nevidí, nemůže ani napravit. Zaujatost se tak jednoduše přenáší a stává se rutinou.

Typickým příkladem je Keňa, kde široce používaný algoritmus pro digitální půjčky konzistentně nabízel ženám menší půjčky než mužům, v některých případech o více než třetinu, a to navzdory jejich lepší platební morálce. Systém ženy záměrně nevyčleňoval, pouze se učil z dat ovlivněných dlouhodobými sociálními a ekonomickými rozdíly a tyto vzorce pak aplikoval v masovém měřítku. Problémem nebyla automatizace, ale „slepota“ systému, který nedokázal rozlišit mezi výsledky pro ženy a muže a detekovat tak reprodukci nerovnosti v reálném čase.

Klíčem k překonání této genderové slepé skvrny je využívání dat rozdělených podle pohlaví. Tříděním finančních dat podle genderu mohou regulátoři, finanční instituce a tvůrci technologií odhalit dopady automatizovaných systémů, zjistit, kdo má přístup k financím, a identifikovat oblasti, kde se výsledky začínají rozcházet. Bez této viditelnosti zůstávají genderové mezery skryté a mají tendenci se stát trvalými. V digitálních financích jsou data „nejlepším přítelem dívky“ – nikoli jako slogan, ale jako praktická podmínka pro odpovědnost.

Zatímco v mnoha vysokopříjmových ekonomikách, včetně Evropy, zůstávají genderová data často dobrovolná nebo roztříštěná, země v Latinské Americe a Africe jdou příkladem. V Chile finanční úřady sledují genderové rozdíly v půjčkách a vkladech již více než dvě desetiletí a pravidelně zveřejňují statistiky. V Mexiku regulátoři kombinují bankovní data s národními průzkumy domácností, aby pochopili, jak ženy a muži využívají finanční služby a jak si vedou jako dlužníci. Tato viditelnost měla praktické důsledky: v Mexiku data ukázala, že půjčky žen byly menší, ale méně rizikové, což vedlo ke změnám v pravidlech pro tvorbu rezerv na úvěry. V Chile data odhalila, že rovný přístup k účtům se nepromítá do rovných výsledků v úsporách nebo pojištění, což si vyžádalo cílenější politické reakce. Jakmile se tyto mezery staly viditelnými, bylo mnohem těžší je ignorovat.