Jihoafrická republika stahuje návrh AI politiky: Falešné zdroje v dokumentu ukazují na klíčovou roli lidského dohledu

Jihoafrický ministr komunikací a digitálních technologií Solly Malatsi stáhl návrh národní politiky pro umělou inteligenci (AI) poté, co se ukázalo, že seznam referencí dokumentu obsahoval fiktivní zdroje.

Jihoafrický ministr komunikací a digitálních technologií Solly Malatsi stáhl návrh národní politiky pro umělou inteligenci (AI) poté, co se ukázalo, že seznam referencí dokumentu obsahoval fiktivní zdroje. Tento krok přichází po interní revizi, která potvrdila chybu objevenou po odhalení neověřitelných odkazů.

Ministr Malatsi zdůraznil, že toto selhání není pouhou technickou záležitostí, ale ohrozilo integritu a důvěryhodnost celého návrhu politiky. Návrh byl schválen kabinetem 25. března a následně 1. dubna, než byl uvolněn k veřejné diskusi s termínem pro připomínky do 10. června. Cílem politiky bylo rozšířit jihoafrický rámec pro AI se zaměřením na zajištění správy, inovací a širokého přínosu umělé inteligence pro společnost.

Úřadující generální ředitelka ministerstva, Omega Shelembe, v předmluvě návrhu uvedla, že rychlý vývoj technologie AI představuje bezprecedentní příležitosti i jedinečné výzvy. Politika měla odrážet závazek země využít transformační sílu AI, s důrazem na etickou správu systémů AI, řešení spravedlnosti, zmírňování předsudků a datovou suverenitu, s ohledem na jihoafrickou socio-politickou krajinu a nutnost napravit historické nerovnosti.

Malatsi označil stažení politiky za širší selhání ministerstva, které podle něj nedosáhlo standardu očekávaného od instituce pověřené vedením jihoafrického digitálního politického prostředí. Nejpravděpodobnějším vysvětlením je, že zdroje generované umělou inteligencí byly zahrnuty bez řádného ověření. Ministr podtrhl, že taková situace je nepřijatelná a zdůrazňuje, proč je bdělý lidský dohled nad používáním umělé inteligence naprosto zásadní. Ministerstvo se hodlá touto záležitostí vážně zabývat a zavede opatření pro řízení důsledků pro ty, kteří jsou zodpovědní za návrh a kontrolu kvality dokumentu.