Až 46 % chyb: AI chatboti šířili dezinformace před volbami ve Skotsku, komise volá po regulaci

Před nedávnými volbami ve Skotsku šířily populární AI chatboti, včetně ChatGPT a Google Gemini, značné množství dezinformací, jak odhalila exkluzivní studie think tanku Demos.

Před nedávnými volbami ve Skotsku šířily populární AI chatboti, včetně ChatGPT a Google Gemini, značné množství dezinformací, jak odhalila exkluzivní studie think tanku Demos. Zjištění vedla Volební komisi k naléhavé výzvě k zavedení nových právních kontrol pro umělou inteligenci, aby se zabránilo šíření nepravdivých informací.

Demos provedl simulaci před květnovými volbami do skotského parlamentu, během níž položil 75 otázek pěti bezplatným AI nástrojům, včetně ChatGPT, Google Gemini a Replika, ohledně tří reálných volebních obvodů. Výsledky ukázaly, že AI služby poskytly voličům dezinformace ve 34 % dotazů. Mezi chybami se objevilo vymýšlení fiktivních skandálů, uvádění špatného data voleb, mylné tvrzení o nutnosti průkazu totožnosti u volebních uren ve Skotsku a nesprávné přiřazování kandidátů do volebních klání.

Průzkum veřejného mínění, který Demos zadal souběžně se studií, zjistil, že 20 % z 2 005 dotázaných britských dospělých použilo AI chatboty nebo vyhledávací nástroje k získání informací o parlamentních volbách ve Skotsku a Walesu a o místních volbách v Anglii. To odpovídá přibližně 10 milionům lidí po celém Spojeném království.

Vijay Rangarajan, výkonný ředitel Volební komise, zdůraznil, že voliči potřebují přesné informace pro účast v demokracii. Uvedl, že AI nástroje výrazně urychlily a zpřístupnily šíření nepravdivých nebo zavádějících informací. Komise proto naléhá na ministry, aby zavedli legislativu, která by zajistila větší odpovědnost AI společností. Rangarajan navrhuje jasnější povinnosti pro AI platformy, aby chránily voliče před dezinformacemi a zajistily, že algoritmy nebudou voliče klamat, zejména v kritických volebních obdobích. To by poskytlo mediálnímu regulátorovi Ofcomu mnohem jasnější pravomoci k vymáhání zákona.

Azzurra Moores, přidružená ředitelka Demos, označila tento problém za celoevropský, ne-li globální. Poukázala na to, že ačkoli jsou AI nástroje vyvinuté a provozované americkými korporacemi široce dostupné ve Spojeném království, chybí legislativní rámec pro ochranu veřejnosti před dezinformacemi a demokracie před jejich dopadem. Demos navrhuje, aby ministři urychleně zavedli právní požadavky, které by učinily AI společnosti odpovědnými podle britského pomlouvačného a volebního práva, zavedli povinné záruky přesnosti a přinutili AI firmy umožnit výzkumníkům nezávisle testovat jejich interní data a tréninkové sady.

Nejhůře si v testech vedl chatbot Replika s chybovostí 56 %, který si vymyslel datum fiktivního skandálu s výdaji, vymyslel kandidáta a obvinění z nepotismu. ChatGPT, nejpoužívanější AI služba, poskytl nesprávné informace ve 46 % odpovědí, včetně vymyšleného skandálu s výdaji, nepřesných odpovědí na pravidla způsobilosti voličů a chybného data voleb o dva měsíce. Google Gemini se mýlil ve 22 % případů, například nesprávně uvedl, že kandidát nezaujal stanovisko k asistované sebevraždě, ačkoliv byl jejím zastáncem, a mylně tvrdil, že policejní vyšetřování podvodu zahrnující Skotskou národní stranu stále probíhá. Grok, AI služba spojená s platformou X Elona Muska, měl nejnižší míru chybovosti (9 %), ale jeho externí odkazy byly často irelevantní nebo nekvalitní.