AI nemusí rozdělit společnost: Proč jsou obavy z politické polarizace přehnané

S pronikáním velkých jazykových modelů (LLM) do každodenního života se objevují obavy, že by tato technologie mohla vyvolat masivní politickou polarizaci.

S pronikáním velkých jazykových modelů (LLM) do každodenního života se objevují obavy, že by tato technologie mohla vyvolat masivní politickou polarizaci. Teorie naznačuje, že chatboti mohou být formováni tréninkovými daty a systémovými instrukcemi tak, aby upřednostňovali určité světonázory, a uživatelé, kteří s nimi denně interagují, by mohli tyto předsudky ve velkém měřítku postupně absorbovat. Politolog Brendan Nyhan z Dartmouth College však varuje před předpokladem, že taková budoucnost je nevyhnutelná.

Nyhan zdůrazňuje, že ačkoli jsou LLM výkonné, nemusí ovlivňovat lidi způsobem, jakým očekáváme, nebo dokonce způsobem, jakým jejich tvůrci zamýšlejí. Existuje několik důvodů, proč by politický posun řízený umělou inteligencí mohl být obtížnější, než se zdá. Většina lidí nesleduje politické zprávy podrobně a není jasné, jak často vůbec používají nástroje umělé inteligence pro politické poradenství. A zatímco chatboti mohou znít přesvědčivě a v některých případech podpořili znepokojivé chování, existuje jen málo důkazů, že zásadně přetvářejí základní přesvědčení většiny uživatelů.

Zároveň existuje praktické napětí. Společnosti mohou čelit tlaku na směřování systémů umělé inteligence k určitým názorům, ale zároveň soutěží v kvalitách, jako je přesnost a rozumnost. Je obtížné optimalizovat obojí najednou. Nyhan připomíná nástup éry sociálních médií, kdy po volbách v roce 2016 vznikly vážné obavy, že platformy jako Facebook způsobily politickou polarizaci prostřednictvím zaujatých algoritmů a falešných zpráv. Přesto, o deset let později, sociálněvědní výzkum stále nemá jasno v tom, zda sociální média skutečně měla takový dopad. Studie ukazují, že snížení expozice vůči podobně smýšlejícím zdrojům na sociálních médiích nemělo žádný vliv na polarizaci postojů nebo volební preference lidí. Podobně i studie, které platily lidem za dočasné ukončení používání sociálních médií, měly nanejvýš velmi skromné účinky.

Ačkoli existují obavy, že společnosti s AI mají velkou kontrolu a stávají se informačními trychtýři, Nyhan upozorňuje, že přesvědčovat lidi ve velkém měřítku je mnohem těžší, než se obvykle předpokládá. I když LLM v testech často vykazují mírný posun doleva, což pravděpodobně odráží tréninková data a způsob vývoje, snaha o zlepšení výkonu modelů vede k přesnějším a na důkazech založeným odpovědím. Příkladem je Grok, který se odklonil od špičkových modelů a dokonce se vrací k standardnějším odpovědím (například potvrzujícím realitu změny klimatu), když na něj není vyvíjen tlak na manipulaci s výstupem. To naznačuje, že základní tendence AI směřuje k objektivitě, pokud není aktivně ovlivňována.