Umělá inteligence ve firmách: Jak přehnané spoléhání vede k „rozkladu znalostí“ a nekvalitní práci

Firmy, které se plně vrhly do využívání generativních nástrojů umělé inteligence (AI), se potýkají s významným problémem, který Harvard Business Review nazývá „rozkladem znalostí“.

Firmy, které se plně vrhly do využívání generativních nástrojů umělé inteligence (AI), se potýkají s významným problémem, který Harvard Business Review nazývá „rozkladem znalostí“. Tento jev popisuje zhoršování informací v průběhu času, kdy zaměstnanci zapomínají dovednosti a organizace se spoléhají na zastaralé procesy.

Snaha firem zvýšit produktivitu, snížit závislost na lidské práci a ujistit investory o svém technologickém pokroku vede k nebezpečné sestupné spirále. V kontextu AI to začíná tím, že pracovníci používají AI k produkci nekvalitní práce, což plýtvá časem kolegů, narušuje důvěru a postupně mění firemní znalosti v bezcennou směs. Chyby se hromadí, důvěra v informace klesá a lidé tráví více času ověřováním faktů, nebo riskují nákladné a nebezpečné chyby. To se projevuje napříč celými odděleními, což vede k tomu, že se začnou rozpadat i celkové výstupy podniku.

Problém je již známý. Již v počátcích boomu AI odborníci varovali, že zaměstnanci mohou trávit více času hledáním mnoha chyb, které dělají nespolehlivé a halucinující nástroje AI, než kdyby technologii vůbec nepoužívali. Některé společnosti dokonce musely najímat pracovníky speciálně k opravě chyb AI. Důsledkem je také nízká morálka zaměstnanců a dokonce sabotování technologie v práci, protože jsou nuceni AI používat proti své vůli. Nábor nových zaměstnanců se rovněž stal složitou situací, z velké části díky AI, což výrazně ztěžuje získávání kvalifikovaných kandidátů.

K zastavení tohoto „odfláknutí“ práce a rozkladu znalostí jsou nyní lídři firem nuceni zajistit, aby informace byly pečlivě ověřovány a zbaveny halucinací či chyb AI. Tento proces je náročný na práci a spotřebovává čas skutečných lidských zaměstnanců. Do budoucna je zřejmá potřeba změny: zaměstnavatelé musí zjistit, jak zajistit, aby AI byla používána pouze tehdy, když to skutečně dává smysl a přináší hodnotu. Pro mnoho úkolů veřejné velké jazykové modely (LLM) často přinášejí malou nebo žádnou skutečnou hodnotu, vytvářejí generickou prózu, která často obsahuje chyby. Využití proprietárních modelů a/nebo proprietárních dat však může přinést hodnotu. Po opadnutí počátečního nadšení z AI jako revoluce produktivity se firmy, které ji přijaly, musí vypořádat s důsledky, aby se vyhnuly ztrátě relevance – což je důsledek přehnaného nadšení z AI, který je může provázet po mnoho let.