Němečtí vědci varují: Roje AI mohou zničit demokracii cílenou manipulací nálad

Skupina německých vědců odhalila novou hrozbu pro demokracii. Roje AI agentů by mohly zaplavit komunikační platformy a manipulovat veřejným míněním pomocí psychologického jevu sociálního důkazu, čímž by vytvořily iluzi široké shody.

Schopnosti umělých inteligencí (AI) představují riziko mnoha různými způsoby. Na novou hrozbu pro samotnou podstatu demokracie nyní upozornila skupina německých vědců. Roje AI agentů by podle nich mohly zaplavit komunikační platformy a cíleně měnit náladu v zasažených zemích.

Výzkumníci ze Společnosti Maxe Plancka ve studii pomocí modelu sociálních médií simulovali roje falešných účtů, které pomocí různých taktik ovlivňovaly cílovou on-line komunitu. Jedna taktika se ukázala jako zdaleka nejúčinnější: infiltrace.

Jakmile roje AI infiltrují on-line skupinu, mohou vytvořit iluzi široké veřejné shody ohledně narativů, které jsou naprogramovány propagovat. Tímto způsobem využívají psychologický jev známý jako sociální důkaz, kdy lidé mají přirozenou tendenci snadněji uvěřit něčemu, pokud vnímají, že to říká většina.