Prestižní lékařský časopis stáhl studii: AI zkreslila snímek plic pacienta, autoři se brání chybou

Lékařské časopisy se potýkají s rostoucím přívalem nekvalitních prací generovaných umělou inteligencí, což představuje významnou výzvu pro vědeckou komunitu. Tento trend by mohl narušit hodnotu a důvěryhodnost potenciálně život zachraňujícího zdravotnického výzkumu.

Lékařské časopisy se potýkají s rostoucím přívalem nekvalitních prací generovaných umělou inteligencí, což představuje významnou výzvu pro vědeckou komunitu. Tento trend by mohl narušit hodnotu a důvěryhodnost potenciálně život zachraňujícího zdravotnického výzkumu. Články citující neexistující časopisy a studie se stávají běžným jevem, což vyvolává velké obavy mezi těmi, kdo mají za úkol třídit záplavu nových příspěvků.

V nedávném významném incidentu byl renomovaný New England Journal of Medicine (NEJM) nucen stáhnout článek dvou pekingských výzkumníků. Studie pojednávala o muži v Číně, u kterého se po lesním požáru vyvinuly „bronchiální odlitky“ v plicích. Důvodem stažení bylo zjištění, že autoři použili nástroj umělé inteligence k manipulaci s fotografií v článku. Závadná fotografie zobrazovala téměř černé, částicemi zaplněné bronchiální tkáně, které byly kryogenicky odstraněny z plic pacienta. Jednalo se o 87letého muže, který byl přijat na pohotovost po rozsáhlé inhalaci kouře z požáru, což si vyžádalo odstranění bronchiálních tkání zcela ucpaných kouřovými částicemi, což je extrémně nebezpečná překážka dýchacích cest.

Okamžité pochybnosti vyvolala měřicí páska nad tkáněmi na fotografii, jejíž čísla na stupnici následovala nesmyslnou posloupnost – klasický znak použití méně sofistikovaného generátoru obrázků s umělou inteligencí. Autoři incident označili za neopatrnou chybu. Ve své poznámce o stažení uvedli, že „jsme si nebyli vědomi zásad časopisu ohledně manipulace s obrázky a upravili jsme náš příspěvek pomocí nástroje umělé inteligence (AI) k přesunutí pravítka na horní část obrázku.“ Dodali, že si proto přejí stáhnout svůj obrázek a kazuistiku.

Tato událost by měla přimět výzkumníky k zamyšlení. Pokud pouhé přesunutí pravítka vede k takovým problémům způsobeným AI, jaké další manipulace, úmyslné či neúmyslné, unikají pozornosti? Někteří uživatelé sociálních médií také zpochybnili platnost zbytku obrázku, poukazujíce na příliš mnoho segmentů plic staršího pacienta na fotografii, což naznačuje možnost dalších manipulací AI. Autoři poskytli podrobnější vysvětlení, ale odmítli zaslat původní obrázek k porovnání. Uvedli, že pacient byl v kritickém stavu a pravítko bylo umístěno pod úhlem během naléhavého klinického fotografování. Údajně pouze upravili polohu pravítka pro estetiku a čitelnost, bez zásahu do jiného klinického obsahu.

Autoři trvají na tom, že veškeré původní klinické materiály byly poskytnuty redakci NEJM a že jejich úmyslem bylo zajistit plnou autentičnost a sledovatelnost informací. Přiznali, že neměli plné pochopení pro relevantní zásady časopisu, což považují za svou chybu a upřímně se za ni omlouvají. Zdůraznili, že pravítko samotné nebylo generováno AI a že pouze upravili jeho úhel a umístění, přičemž stupnice pravítka je přesná a nepořádek v číslech byl způsoben pouze jejich úpravou polohy.