Fiktivní citace z umělé inteligence zaplavují vědecké práce: Jak rozpoznat 'Frankensteinovy' odkazy?

Když se nástroje umělé inteligence, jako je Chat-GPT, poprvé rozšířily, jejich tendence vytvářet fiktivní citace a reference vedla k rozpakům u vědců a právníků, kteří je nechtěně zařadili do svých prací.

Když se nástroje umělé inteligence, jako je Chat-GPT, poprvé rozšířily, jejich tendence vytvářet fiktivní citace a reference vedla k rozpakům u vědců a právníků, kteří je nechtěně zařadili do svých prací. Tento problém byl sice znepokojivý, ale obvykle se mu dalo předejít pečlivou kontrolou.

Podle zjištění studie Nature, která spolupracovala se společností Grounded AI, se však vědecké práce stále častěji plní halucinacemi, které jsou mnohem obtížněji odhalitelné. Umělá inteligence nyní dokáže generovat fiktivní odkazy s tituly, které odpovídají oblasti studia citovaného autora, se spoluautory, kteří již dříve publikovali společně, a dokonce i s čísly svazků a stránek, které se shodují s údajným časopisem a datem publikace. Výsledkem je „mikrofiktivní“ výzkumná práce, která je zcela uvěřitelná, ale ve skutečnosti neexistuje.

Kathryn Weber-Boer, ředitelka scientometrie v londýnské společnosti Digital Science, uvádí, že v některých případech jsou všechny části referencí ve zveřejněných článcích zcela vymyšlené. Umělá inteligence také generuje fiktivní DOI (digitální identifikátory objektů), a to jak u jinak pravých referencí, tak u těch zcela vymyšlených. Joe Shockman, spoluzakladatel a generální ředitel Grounded AI, nazývá takové odkazy „Frankensteinovými“ citacemi, protože kombinují fragmenty skutečných publikací, čímž vytvářejí něco, co vypadá reálně, ale ve skutečnosti neodkazuje na nic existujícího. Tento vývoj poukazuje na rostoucí potřebu zvýšené ostražitosti a důkladné prověrky v akademickém a vědeckém prostředí, aby se zachovala integrita publikovaných informací.