Umělá inteligence bude v Británii odhadovat věk žadatelů o azyl: Je připravena na tak citlivé rozhodování?

Britské ministerstvo vnitra plánuje do roku 2027 zavést systém umělé inteligence pro odhad věku žadatelů o azyl. Technologie, kterou vyvíjí společnost Cognitec ve spolupráci s britskou firmou Akhter Computers, projde nejprve zkušebním provozem v Doveru.

Britské ministerstvo vnitra plánuje do roku 2027 zavést systém umělé inteligence pro odhad věku žadatelů o azyl. Technologie, kterou vyvíjí společnost Cognitec ve spolupráci s britskou firmou Akhter Computers, projde nejprve zkušebním provozem v Doveru. Přední algoritmy v této oblasti dosahují průměrné absolutní chyby menší než tři roky, což je výrazně lepší než lidský odhad, který se u neznámých tváří obvykle liší o zhruba osm let.

Navzdory celkové přesnosti se však ukazuje, že se přesnost technologie výrazně snižuje u klíčového věkového rozmezí 16 až 18 let, které je pro rozhodování o azylu zásadní. Data Národního institutu pro standardy a technologie (Nist) také naznačují nižší přesnost u ženských tváří a značné rozdíly v závislosti na geografickém původu. To je obzvláště znepokojivé, protože většina žadatelů o azyl pochází z regionů, které jsou v tréninkových datových sadách nedostatečně zastoupeny. Modely jsou totiž převážně budovány na západních, bělošských a převážně mužských souborech dat, což vede k nižší přesnosti u etnických skupin, které jsou v nich podreprezentovány.

Pro zodpovědné nasazení této technologie je nezbytné splnit tři klíčové podmínky. Přesnost musí být ověřena na skutečné populaci, kterou bude systém posuzovat – tedy na vyčerpaných a potenciálně podvyživených lidech fotografovaných v reálných hraničních podmínkách, nikoli na zobecněných referenčních souborech dat. Dále je nutné transparentně zveřejňovat demografické výsledky, rozdělené podle pohlaví a etnického původu, s jasnými protokoly pro případy, kdy by měly být výsledky zpochybněny. A konečně, záruka „lidského faktoru v rozhodování“, tedy princip, že konečné rozhodnutí učiní vyškolený úředník, a nikoli algoritmus, musí být skutečná a nesmí se stát pouhým razítkem. Nezávislý inspektor ministerstva vnitra již dříve zjistil, že personál v Doveru postrádá adekvátní školení v současných metodách posuzování. Zajištění správného fungování lidské složky je stejně důležité jako samotná technologie. Umělá inteligence sama o sobě nebude neprůstřelným testem, ale při pečlivém, transparentním a odpovědném použití může významně přispět k častějším a správnějším rozhodnutím.