Astrofyzik Paul Sutter se spálil s AI: Jeho kód byl „desetkrát rychlejší“, ale úplně špatný

Generativní umělá inteligence je známá tím, že její odpovědi zní autoritativně, přesvědčivě a propracovaně, ačkoli mohou být zcela a naprosto chybné.

Generativní umělá inteligence je známá tím, že její odpovědi zní autoritativně, přesvědčivě a propracovaně, ačkoli mohou být zcela a naprosto chybné. Tuto lekci se na vlastní kůži naučil astrofyzik a popularizátor vědy Paul Sutter, který se o svou zkušenost odvážně podělil se světem.

Sutter ve svém článku pro publikaci Nautilus popsal děsivý příběh, který připomíná noční můru. V únoru prezentoval před kolegy aktualizaci svého algoritmu, který slouží k detekci prázdných oblastí mezi galaxiemi, takzvaných voidů. Nová verze měla být „desetkrát rychlejší než ta stará“, disponovala „sofistikovanějším způsobem zpracování složitých dat“ a dokázala „zpracovat stokrát větší průzkumy“. Částečně vznikla díky rozsáhlým konzultacím s umělou inteligencí, která pomáhala psát kód – což Sutter nazval „vibračním kódováním“ a označil za nepostradatelné.

Jen deset minut po zahájení prezentace však jeden z kolegů upozornil, že „něco se nezdá“. Ukázalo se, že způsob, jakým nový algoritmus zpracovával okraje průzkumů, byl „špatný“, přiznal Sutter. Nebyla to překlep ani chybějící citace, ale subtilní, avšak zásadní chyba, která ovlivnila všechna následná data. Sutter se ocitl v nepříjemné situaci před lidmi, kteří mu důvěřovali.

Tento příběh dokonale ilustruje, jak se mnoho uživatelů nástrojů AI, včetně těch v nejvyšších akademických kruzích, vystavuje riziku, aniž by o tom věděli. Vědecký svět je zaplavován nekvalitním a často neupraveným obsahem generovaným AI, což nutí akademiky nést plnou odpovědnost za vše, co publikují – včetně potenciálně trapných „halucinací“ umělé inteligence. Nástroj pro kódování s AI, který Sutter používal, „zní, jako by rozuměl“, ačkoli je „jen sofistikovaným prediktorem dalšího slova“. Sutter přirovnává naši rozsáhlou práci s AI k alchymii a prohlašuje, že se nacházíme v „předchemické éře AI“.

Jak tedy nasadit nástroj, který je někdy chybný, ale vždy příjemný? Jak můžeme AI důvěřovat? Sutterova jednoduchá odpověď zní: „Nedůvěřujte.“ Abychom se dostali k pravdě, musíme pečlivě sledovat řetězec uvažování AI a auditovat každý její výstup. Po svém únorovém přešlapu Sutter slíbil, že nyní pracuje „jinak“ a je připraven okamžitě „nedůvěřovat“ všemu, co AI řekne. Je to varovný příběh, který ukazuje, že i ti nejnadanější myslitelé se mohou snadno nechat zlákat půvabem umělé inteligence. Zajímavostí je, že když byl Sutterův vlastní článek pro Nautilus vložen do nástroje pro detekci AI Pangram, ten určil, že 56 procent textu bylo pravděpodobně napsáno umělou inteligencí.