Meta stáhla vlastní AI clickbait: Generované zprávy plné chyb zmizely po dotazech The Verge

Společnost Meta nedávno testovala novou funkci ve své samostatné aplikaci Meta AI, která automaticky generovala clickbaitové zprávy a obrázky. Tato sekce, nazvaná „Pro vás“, nabízela uživatelům personalizované, avšak často pochybné příběhy vytvořené umělou inteligencí.

Společnost Meta nedávno testovala novou funkci ve své samostatné aplikaci Meta AI, která automaticky generovala clickbaitové zprávy a obrázky. Tato sekce, nazvaná „Pro vás“, nabízela uživatelům personalizované, avšak často pochybné příběhy vytvořené umělou inteligencí. Společnost se rozhodla tuto funkci stáhnout poté, co na ni upozornil server The Verge.

Aplikace Meta AI, spuštěná v dubnu 2025, původně obsahovala veřejný „Objev“ kanál s AI-generovanými obrázky a konverzacemi. Ten byl později nahrazen standardním chatovacím rozhraním a stránkou „Pro vás“, která se objevila před několika měsíci. Zde se zobrazovaly návrhy článků, které po klepnutí vygenerovaly celé „příběhy“. Obsah byl často agresivně personalizovaný – například reportérovi z Londýna se zobrazovaly příběhy o čaji, královské rodině a hospodách, zatímco jeho kolegovi o luxusních hodinkách.

Generovaný text byl popisován jako „nafouknutá vata“ s minimálním obsahem a zcela chybějícím zdrojováním. Pokusy o dohledání původu některých příběhů vedly k fiktivním narativům nebo vágním odkazům na neexistující výzkum. Obrázky, ačkoliv některé byly neškodné, často zobrazovaly skutečné veřejné osobnosti s výraznými chybami, jako například dvě královny Alžběty II. nebo nepřirozené pozice těl a rukou, typické pro AI generaci. Navzdory vlastním pravidlům Mety o označování AI obsahu, v těchto příbězích žádné takové označení nebylo.

Meta zpočátku uvedla, že cílem funkce bylo „proaktivně sdílet tipy, obsah a doporučení šitá na míru zájmům uživatelů“. Později však slovo „proaktivně“ záhadně odstranila a nakonec potvrdila, že šlo o test pro omezený počet uživatelů, který bude zrušen, a že s touto funkcí nemá další plány. Tento případ poukazuje na výzvy a etická dilemata spojená s rychlým nasazováním umělé inteligence pro generování obsahu, zejména co se týče faktické přesnosti, transparentnosti a potenciálního šíření dezinformací. Ukazuje také, že technologické společnosti se učí z těchto experimentů a reagují na zjištěné problémy stažením problematických funkcí, což je důležitý krok k zodpovědnému vývoji AI.