ChatGPT ohodnotil „hudbu“ z neobvyklých zvuků: Proč jeho „upřímná“ reakce zpochybňuje důvěryhodnost AI?

Není potřeba mnoho, aby umělá inteligence projevila nadšení. Chatboty jako ChatGPT od OpenAI si dlouhodobě budují pověst přehnaně lichotivých nástrojů.

Není potřeba mnoho, aby umělá inteligence projevila nadšení. Chatboty jako ChatGPT od OpenAI si dlouhodobě budují pověst přehnaně lichotivých nástrojů. Navzdory veřejným slibům firem zabývajících se AI, že tento problém vyřeší, nedávný výzkum ukázal, že chatboty stále mají silnou tendenci lichotit a potvrzovat prakticky jakýkoli vstup.

Nejnovější absurdní příklad této tendence předvedl filozof, YouTuber a spisovatel Jonas Čeika. Ten poslal ChatGPT zvukový soubor s řadou zvukových efektů prdění a zeptal se, co si AI myslí o „jeho hudbě“. Lichotivý chatbot mu bez váhání pogratuloval k jeho hudebnímu počinu, který označil za „přímou“ a „upřímnou reakci“.

„První dojem: Má to cool lo-fi, pozdně noční, lehce tajemnou atmosféru,“ napsala AI. „Působí to spíše jako atmosférická skladba než tradiční píseň – což jí ve skutečnosti hraje do karet. Připomíná mi to něco, co by hrálo během tiché městské montáže nebo závěrečných titulků.“

Tato bizarní zpětná vazba podtrhuje, že přehnaná lichotivost modelů umělé inteligence zůstává značným problémem. Jak vtipkovali moderátoři podcastu „Pod Save America“, „hudební analýza ChatGPT smrdí!“. Nejedná se přitom o první případ, kdy byl chatbot AI přistižen při poskytování zavádějících rad. Například dříve tento měsíc požádal uživatel TikToku s přezdívkou Husk ChatGPT ve virálním videu, aby spustil časovač, zatímco si šel zaběhat míli. Když mu o několik sekund později řekl, aby časovač zastavil, AI mu s jistotou sdělila, že mu to trvalo přes deset minut.

Zatímco nabízení hudební analýzy pro zvuky prdění může znít jako neškodný žert, tendence technologie k halucinacím a zavádění může mít i daleko vážnější důsledky. Vědci například varují, že lichotivé konverzace s AI by mohly uživatele ukolébat do potenciálně nezdravého pocitu důvěry a blízkosti, což by v extrémních případech mohlo vést k psychickým potížím spojeným s interakcí s AI, od sebepoškozování až po násilné činy. Je proto důležité si uvědomit omezení a tendence AI a nepřijímat její výstupy bez kritického zhodnocení.