Nová studie odhaluje, jak AI roje vytvářejí falešný konsensus a ovlivňují volby po celém světě

Umělá inteligence není jen o chatbotech a generátorech memů. Podle nové studie publikované v prestižním časopise Science může sloužit také jako rozsáhlý zdroj dezinformací, přičemž k jejímu spuštění stačí jediné rozhodnutí.

Umělá inteligence není jen o chatbotech a generátorech memů. Podle nové studie publikované v prestižním časopise Science může sloužit také jako rozsáhlý zdroj dezinformací, přičemž k jejímu spuštění stačí jediné rozhodnutí. Výzkum se zaměřuje na rozsah, v jakém lze AI, konkrétně velké jazykové modely (LLM) a autonomní agenty, využít k manipulaci názorů na celospolečenské úrovni.

Experti upozorňují na specifickou výzvu v podobě takzvaných AI rojů. Jedná se o masivní seskupení autonomních nástrojů umělé inteligence, které dokáží hromadně napodobovat skutečné lidi na internetu a sociálních sítích. Důkazy naznačují, že organizovaná manipulace na sociálních sítích se od roku 2017 rozšířila z 28 zemí na současných 70, a to v zemích od Filipín po Spojené státy. Případy dezinformací řízených umělou inteligencí například během brazilských a irských voleb jasně ukazují, že demokratické instituce již čelí těmto typům rizik, která se podle výzkumníků neustále zdokonalují.

Abstrakt studie varuje, že spojením uvažování velkých jazykových modelů s víceagentními architekturami jsou tyto systémy schopny autonomně koordinovat, infiltrovat komunity a efektivně vytvářet falešný konsensus. Legislativní řešení proti tomuto typu vměšování jsou složitá, například v otázce, zda propagandistické botnety spadají pod svobodu projevu. Některé z těchto sítí AI botů dokonce fungují zcela otevřeně jako ziskové startupy, které získávají miliony od rizikových investorů.

Podmínky pro rozsáhlé dezinformační kampaně vznikly již před příchodem umělé inteligence s nástupem několika nekontrolovatelných platforem sociálních médií. Tyto kampaně měly v minulosti výrazné dopady v reálném světě, jako například genocida Rohingy v Myanmaru, usnadněná platformou Facebook. Již nyní vidíme náznaky toho, jak vypadají dezinformační kampaně s podporou AI v praxi, často ve formě aktérů, kteří podněcují hněv vůči příjemcům sociálních dávek nebo imigrantům. Řešení této situace vyžaduje značnou politickou vůli a komplexní přístup, neboť cesta k tomuto problému byla připravena již před lety.