Čínští uživatelé ChatGPT se podivují: Proč AI neustále opakuje fráze jako 'zachytím tě' a 'usekni cenu'?

Uživatelé ChatGPT v Číně se potýkají s neobvyklými a opakujícími se frázemi, které generuje umělá inteligence v čínštině.

Uživatelé ChatGPT v Číně se potýkají s neobvyklými a opakujícími se frázemi, které generuje umělá inteligence v čínštině. Tyto manýry se staly natolik rozšířenými, že se z nich na internetu staly memy, přičemž někteří uživatelé přirovnávají ChatGPT k obřímu nafukovacímu airbagu, který je má „pevně zachytit“.

Jednou z nejčastějších frází, kterou ChatGPT používá, je „我会稳稳地接住你“, což se doslovně překládá jako „pevně tě zachytím“. Ačkoli to může signalizovat ochotu mluvit o pocitech, pro čínské mluvčí je tento obrat často iritující. Dalším příkladem je „砍一刀“, což znamená „pomoz mi to jednou useknout“ nebo „snížit cenu“, což je otravná reklamní fráze, kterou papouškuje čínská e-commerce platforma Pinduoduo.

Podle zprávy magazínu Wired může problém pramenit z jevu zvaného „mode collapse“. Jedná se o základní zkreslení, které vzniká při trénování velkých jazykových modelů (LLM). Lidští anotátoři dat, kteří procházejí texty pro trénink AI chatbotů, nevědomky upřednostňují známé obraty před méně obvyklými větami. Jakmile je LLM jako ChatGPT jednou natrénován, je obtížné ho přimět, aby se určitých frází „odnaučil“.

Max Spero, spoluzakladatel a generální ředitel detektoru AI psaní Pangram, pro Wired uvedl, že vývojáři zatím nevědí, jak AI naučit, že „dobré psaní“ se stane „špatným psaním“, pokud se opakuje desetkrát. Tento problém poukazuje na pokračující výzvy ve vývoji umělé inteligence, kde se hledají způsoby, jak zlepšit přirozenost a rozmanitost jazykového projevu AI, aby se předešlo podobným jazykovým manýrům v různých jazycích.