Umělá inteligence a demokracie: Jak navrhnout budoucnost, kde AI posiluje občanskou angažovanost

Způsob, jakým se šíří informace, zásadně mění fungování společností a vlád. Historie ukazuje, že tiskařský lis vedl k reformaci a reprezentativní vládě, telegraf umožnil správu rozsáhlých států a masovápodpořila masovou demokracii.

Způsob, jakým se šíří informace, zásadně mění fungování společností a vlád. Historie ukazuje, že tiskařský lis vedl k reformaci a reprezentativní vládě, telegraf umožnil správu rozsáhlých států a masová média podpořila masovou demokracii. Nyní jsme svědky dalšího takového posunu, kdy se umělá inteligence (AI) stává primárním rozhraním pro formování názorů a účast v demokratickém řízení.

Tento vývoj může buď dále zatížit již křehké instituce, nebo naopak pomoci řešit dlouhodobé problémy, jako je nízká občanská angažovanost a prohlubující se polarizace. Budoucnost závisí na designových rozhodnutích, která se dělají již nyní, ať už si to uvědomujeme, nebo ne. Změny probíhají ve třech klíčových oblastech. Zaprvé, v takzvané epistemické vrstvě, tedy v tom, jak získáváme informace. Lidé se stále více spoléhají na AI, aby zjistili, co je pravda, co se děje a komu důvěřovat. AI asistenti budou syntetizovat a prezentovat informace s autoritou, což znamená, že ten, kdo kontroluje tyto modely, bude mít rostoucí vliv na to, čemu lidé věří.

Zadruhé, v agentní vrstvě, která ovlivňuje, jak jednáme. Osobní AI agenti budou nejen měnit způsob, jakým lidé přijímají informace, ale také jak na ně reagují. Tyto systémy budou provádět výzkum, navrhovat komunikaci, upozorňovat na důležité kauzy a lobbovat jménem uživatele. Budou informovat o rozhodnutích, jako je hlasování v referendu nebo podpora organizací, a začnou zprostředkovávat vztah mezi jednotlivci a institucemi. Již u sociálních médií jsme viděli, co se stane, když algoritmy optimalizují pro angažovanost namísto porozumění. Agent, který zná preference a obavy uživatele a je navržen tak, aby ho udržel v angažovanosti, představuje podobná rizika polarizace a radikalizace, avšak s obtížnější detekcí, neboť se prezentuje jako advokát uživatele.

Zatřetí, na kolektivní úrovni, kde se AI agenti a lidé mohou brzy účastnit stejných fór, aniž by bylo možné je od sebe rozeznat. I když by každý individuální AI agent byl dobře navržen a v souladu se zájmy svého uživatele, interakce milionů agentů by mohla vést k výsledkům, které si nikdo nepřál. Výzkumy například ukazují, že agenti bez individuální zaujatosti mohou stále generovat kolektivní zaujatost v masovém měřítku. Veřejná sféra, kde má každý personalizovaného agenta naladěného na jeho stávající názory, se v souhrnu stává spíše sbírkou soukromých světů, které jsou sice vnitřně koherentní, ale kolektivně nehostinné pro sdílenou deliberaci, kterou demokracie vyžaduje.

Současná demokracie na tyto změny není připravena. Její instituce byly navrženy pro svět, kde se moc vykonávala viditelně, informace se šířily dostatečně pomalu, aby mohly být zpochybněny, a realita byla vnímána jako více sdílená. Aby se předešlo negativním dopadům, je nezbytné navrhnout lepší řešení. Na informační vrstvě musí AI společnosti zintenzivnit úsilí o zajištění pravdivosti výstupů modelů. Měly by také prozkoumat slibné možnosti, jak mohou AI modely pomoci snižovat polarizaci. Například nedávné hodnocení AI-generovaných ověřování faktů na platformě X ukázalo, že lidé s různými politickými názory považovali poznámky napsané AI za užitečnější než ty lidské. Větší transparentnost ohledně toho, jak modely dělají závěry a prioritizují zdroje, může pomoci budovat veřejnou důvěru.