Reddit nasazuje AI moderátory: Jak umělá inteligence mění správu online komunit a boj proti spamu?

Platforma Reddit, dlouhodobě spoléhající na dobrovolné moderátory, začíná experimentovat s umělou inteligencí pro správu obsahu.

Platforma Reddit, dlouhodobě spoléhající na dobrovolné moderátory, začíná experimentovat s umělou inteligencí pro správu obsahu. Nový systém nazvaný „Rules Hub“ využívá velké jazykové modely (LLM) k prosazování pravidel v nových subredditech, s cílem pomoci udržet na uzdě rostoucí množství AI spamu.

Společnost věří, že zavedení AI moderátorů zlepší přístupnost a přímočarost platformy a zároveň zachová její jedinečný „lidský“ charakter. Na rozdíl od stávajícího nástroje Automoderator, který se spoléhá na přesné shody klíčových slov, Rules Hub s pomocí LLM dokáže lépe vyhodnocovat záměr příspěvku či komentáře ve vztahu k pravidlům. To by mělo umožnit lepší práci s nuancemi, přirozeným jazykem a okrajovými případy, přičemž kontrola zůstane v rukou lidských moderátorů.

Reakce uživatelů na tuto novinku jsou však smíšené. Někteří se obávají, že nasazení AI k boji proti jiným AI povede k dalšímu zaplavování internetu automaticky generovaným obsahem. Panují pochybnosti o schopnosti umělé inteligence pochopit složité nuance, například v textech písní, což může vést k nesprávným filtracím. Uživatelé vyjadřují obavy, že se Reddit, který byl dosud jedním z posledních útočišť lidmi generovaného obsahu, může v budoucnu stát platformou plnou AI účtů, moderovaných AI boty a diskutujících o AI generovaném obsahu. Tato situace navazuje na dřívější kontroverze, jako byly protesty uživatelů proti novým omezením API, které měly donutit AI společnosti platit za přístup k datům Redditu. Budoucnost vztahu mezi uživateli a moderátory, stejně jako celková kvalita obsahu na platformě, tak zůstává otevřenou otázkou.