Umělá inteligence jako ChatGPT upřednostňuje západní morální hodnoty, ukazuje nový výzkum

Nový výzkum publikovaný v Proceedings of the National Academy of Sciences odhaluje, že velké jazykové modely umělé inteligence, jako je ChatGPT, často nesprávně posuzují morální priority lidí mimo západní svět.

Nový výzkum publikovaný v Proceedings of the National Academy of Sciences odhaluje, že velké jazykové modely umělé inteligence, jako je ChatGPT, často nesprávně posuzují morální priority lidí mimo západní svět. Studie z roku 2024 se zaměřila na modely GPT-3.5, GPT-4 a GPT-4o od OpenAI a porovnala jejich odhady morálních norem 48 zemí s globálním vzorkem více než 90 000 lidských účastníků.

Lidé i modely AI vyplňovali dotazník morálních základů, který měřil míru, do jaké schvalují šest morálních hodnot: péče, rovnost, proporcionalita (odměňování jednotlivců podle jejich přínosu), loajalita, autorita (respekt k legitimním autoritám) a čistota (starost o zachování toho, co je považováno za přirozené nebo posvátné). Modely AI byly vyzvány, aby odpovídaly na stejná tvrzení jako „průměrný občan“ z každého z 48 národů. Předchozí výzkum psychologa Mohammada Atariho ukázal, že morální priority se po celém světě liší: západní společnosti kladou větší důraz na individuální práva a péči, zatímco některé nezápadní společnosti přikládají větší význam hodnotám jako je čistota.

Výzkumníci zjistili, že modely AI systematicky zdůrazňovaly hodnoty jako péče, zatímco méně zdůrazňovaly hodnoty jako čistota. Kromě toho modely přeceňovaly široké morální zájmy západních zemí, jako jsou USA a Austrálie, a podceňovaly ty v několika nezápadních zemích, například v Maroku a Nigérii. To znamená, že i když byly modely vyzvány, aby reagovaly jako občan konkrétní země, systematicky se více přikláněly k západním vzorcům morálních hodnot. Toto zjištění je v souladu s dřívějším výzkumem, který ukázal, že „psychologie“ GPT je více v souladu se západními jednotlivci.

Tato zjištění jsou důležitá, protože generativní AI se stále více využívá pro širokou škálu úkolů napříč kulturami, včetně vzdělávání, terapie, komunikace a dokonce i politických rozhodnutí. Existuje reálná možnost kulturních předsudků, pokud AI předpokládá, že celý svět, od Argentiny a Egypta po Japonsko a Zimbabwe, by měl usilovat o stejné hodnoty jako západní svět. Představte si, že model AI pomáhá navrhovat zprávy pro veřejné zdraví během pandemie, moderuje online obsah, překládá báseň nebo radí společnosti pracující napříč kulturami. V každém případě systém potřebuje model toho, na čem lidem záleží: co je považováno za škodlivé, spravedlivé, neuctivé nebo posvátné.

Zjištění naznačují, že generativní AI centruje morální hodnoty způsobem, který není v souladu s těmi mimo západní svět. Tato systematická nepřesnost, kterou vědec Jesse Graham a jeho tým označují jako „morální stereotypizaci“, by mohla vést k zásadním kulturním přehmatům s reálnými důsledky. Například, pokud uživatelé hledají radu ohledně mezilidských konfliktů nebo zpětnou vazbu k pracovní spolupráci s mezinárodními partnery, modely AI mohou poskytovat rady nebo jazyk, který odráží převážně západní hodnoty, zatímco přehlíží ty, které jsou nejdůležitější v jiných kulturách. To by mohlo upevňovat kulturní předsudky nebo vést k závěrům, které nejsou v souladu s perspektivami lidí z nezápadních prostředí. Stručně řečeno, pokud modely AI zkreslují „lidské“ hodnoty, mohou zvýrazňovat stávající kulturní slepé skvrny a dokonce vytvářet nové nerovnosti.