Umělá inteligence rozhoduje, co vidíme online. Experti navrhují pět klíčových kroků pro důvěryhodnější internet.

Dezinformace se šíří obzvláště tam, kde je vysoká poptávka po informacích, ale nedostatek ověřených důkazů. Kvalitní a viditelné zpravodajství a informace mohou působit jako protiváha dezinformacím.

Dezinformace se šíří obzvláště tam, kde je vysoká poptávka po informacích, ale nedostatek ověřených důkazů. Kvalitní a viditelné zpravodajství a informace mohou působit jako protiváha dezinformacím. Výzkum ukazuje silnou souvislost mezi konzumací zpráv a schopností lidí ověřovat dezinformace.

Zákony a občanská výchova pro spotřebitele nedokázaly držet krok s obsahem generovaným umělou inteligencí, jako jsou deepfakes. Neexistují jasné standardy pro uvádění původu online obsahu ani jednotné pokyny pro ověřování jeho pravosti. Vzhledem k tomu, že mnoho systémů umělé inteligence funguje jako „černé skříňky“, je také obtížné určit, kdo je zodpovědný, když se dopustí chyb nebo projevují zaujatost. Australané již nyní vykazují velmi nízkou důvěru ve svou schopnost ověřovat dezinformace. Pouze asi 40 % z nich si je jistých, že dokážou ověřit důvěryhodnost webové stránky nebo příspěvku na sociálních sítích, a jen 43 % si je jistých, že dokážou ověřit pravdivost informací, které najdou online.

Tento problém se prohlubuje s rostoucím výskytem nekvalitního a chybného obsahu generovaného umělou inteligencí. Australané patří mezi ty, kteří se celosvětově nejvíce obávají online dezinformací. Experti na kulatém stole upozornili na nízkou úroveň mediální a AI gramotnosti mezi občany. Mnoho Australanů má potíže s ověřováním informací online a neví, kam se obrátit pro důvěryhodné zdroje. Když vše začne vypadat nespolehlivě, vypnutí se může zdát jako nejbezpečnější možnost, kterou mnoho Australanů volí – 69 % se často, někdy nebo příležitostně vyhýbá zprávám.

Problém spočívá v tom, že digitální platformy představují nespolehlivé rozhraní pro zprávy. Prostřednictvím algoritmů činí neviditelná a nezodpovědná rozhodnutí, která přetvářejí přístup veřejnosti k informacím. Při výběru zdrojů informací mohou tito digitální prostředníci vytvářet nové „vítěze“ a „poražené“, povyšující některý obsah nad ostatní s malým ohledem na kvalitu nebo přesnost. Neexistuje však žádný impuls pro platformy, aby vysvětlily, jak jejich algoritmy fungují nebo kdy se mění, jak je zpravodajství upřednostňováno (nebo de-prioritizováno) nebo jak se produkuje informace generovaná umělou inteligencí.

Existuje naléhavá potřeba transparentnosti v algoritmickém kurátorství a povinného označování obsahu generovaného umělou inteligencí. Účastníci kulatého stolu identifikovali pět priorit, které by společně mohly výrazně zlepšit náš informační ekosystém. Tři z nich se konkrétně zaměřují na umělou inteligenci. Patří mezi ně větší transparentnost ze strany velkých technologických platforem, aby uživatelé věděli, jak algoritmy kurátorují zprávy na vyhledávačích, sociálních médiích a AI chatbotech, a také kdy je do produkce obsahu zapojena umělá inteligence. Dále je klíčové zajistit spravedlivá pravidla pro využívání zpráv umělou inteligencí, aby AI společnosti nemohly bezplatně využívat novinářskou práci; to by mohly zajistit licenční dohody, reforma autorského práva a silnější soutěžní právo. Třetí prioritou je celonárodní vzdělávání v oblasti mediální a AI gramotnosti, které by lidem pomohlo pochopit fungování algoritmů a rozpoznat zaujatost a dezinformace, a to nejen ve školách, ale i pro dospělé. Další dvě priority zahrnují financování žurnalistiky, které by odráželo její roli veřejného statku, například prostřednictvím daňových úlev na platy novinářů, a také školení žurnalistiky pro influencery, tvůrce obsahu a digitální média, aby se zajistil společný průmyslový kodex pro kvalitu celého zpravodajského ekosystému.

Společnost si nemůže dovolit informační prostředí, ve kterém neviditelná umělá inteligence diktuje, co vidíme. Bez těchto kroků se žurnalistika ve veřejném zájmu, která je základem demokracie a sociální soudržnosti, bude nadále oslabovat.