Velký omyl: Zpráva poradenské firmy KPMG o umělé inteligenci obsahovala smyšlené údaje generované AI

Nedávná zpráva, která měla oslavovat užitečnost umělé inteligence (AI), byla odhalena jako plná nepravdivých tvrzení, jež zjevně pocházela z takzvaných „halucinací“ AI.

Nedávná zpráva, která měla oslavovat užitečnost umělé inteligence (AI), byla odhalena jako plná nepravdivých tvrzení, jež zjevně pocházela z takzvaných „halucinací“ AI. Tento přehmat, který popsaly Financial Times, neúmyslně ukázal jedno z nejvýraznějších rizik spojených s nekritickým nasazováním AI.

Zpráva s názvem „Redefining excellence in the age of agentic AI“ (Přetváření excelence v éře agentní AI) byla vydána v říjnu poradenskou firmou KPMG, jednou z „velké čtyřky“ globálních konzultačních společností. Tato událost se stala nepříjemným odhalením nekritického nadšení pro technologie mezi elitními profesionály. Dokument tvrdil, že řada velkých organizací již mimořádně využívá AI, s hlavním poselstvím, že i ostatní by měli AI nasadit, aby se nestali „dinosaury“ spoléhajícími pouze na lidský mozek.

Konkrétně zpráva uváděla, že globální správce majetku UBS „integruje agenty AI do investičního poradenství, řízení rizik a monitorování souladu“. Dále tvrdila, že Švýcarské federální dráhy (SBB) využívají agenty AI k „plánování, rezervaci a optimalizaci cest na základě preferencí, podmínek v reálném čase a dopadu na uhlíkovou stopu, čímž se SBB stává holistickým koordinátorem mobility“. Také Transport for London údajně používal agenty AI k „předpovídání a řízení dopravních zácp, personalizaci informací pro dojíždějící a koordinaci multimodální dopravy“.

Tyto informace se však ukázaly jako nepravdivé. Startup GPTZero, který se zabývá detekcí AI, upozornil Financial Times na nesrovnalosti. Mluvčí UBS potvrdil, že tvrzení o agentech AI jsou „fakticky nesprávná“. Mluvčí švýcarských drah uvedl, že tvrzení o využití AI „nejsou přesná“, a mluvčí londýnského dopravního systému označil zprávu za „zavádějící“. Původ dalšího nepravdivého tvrzení, že NHS Greater Manchester používá agenty AI k třídění pacientů a předpovídání opětovných hospitalizací, se zdá být výsledkem řetězce chyb, kdy se informace o nástroji AI pro boj s rakovinou plic chybně přenesly na zcela jiné úkoly.

KPMG po upozornění na falešná tvrzení zprávu ze svých webových stránek stáhla. Nicméně škoda již byla způsobena, neboť její závěry již citovaly oborové publikace a významné české noviny. Generální ředitel GPTZero Edward Tian pro Financial Times uvedl, že šíření AI fabulací z poradenské firmy takového kalibru „narušuje důvěryhodnost informací“ a zvyšuje „riziko druhotných halucinací“.

Umělá inteligence vyvolala v mnoha profesních oblastech, včetně poradenských firem, obavy o budoucnost profese. Reakcí firem je často snaha AI co nejrychleji přijmout. Podobné incidenty, kdy se snaha o rychlé nasazení AI nevyplatí, nejsou ojedinělé. Právníci, včetně těch z prestižních právních kanceláří, byli opakovaně přistiženi při předkládání soudních podání plných smyšlených precedenčních případů a chybně přisuzovaných citací, které byly vygenerovány nástrojem AI, což vedlo k napomenutí od soudce. Tyto případy zdůrazňují klíčovou potřebu pečlivého ověřování a kritického přístupu k informacím generovaným umělou inteligencí, aby se předešlo šíření dezinformací a zachovala se důvěryhodnost profesionálních výstupů.