Nazývat AI agenty „kolegy“ snižuje lidskou efektivitu: Lidé pak dělají o 18 % více chyb

Představte si, že do práce přijdete a zjistíte, že vám bude podřízen nový „kolega“. Není to člověk, ale nástroj umělé inteligence, který vaše společnost přesto nazývá jménem jako Alex a dává mu titul i definované povinnosti.

Představte si, že do práce přijdete a zjistíte, že vám bude podřízen nový „kolega“. Není to člověk, ale nástroj umělé inteligence, který vaše společnost přesto nazývá jménem jako Alex a dává mu titul i definované povinnosti. Výzkum profesorky Emmy Wiles z Bostonské univerzity naznačuje, že pokud s Alexem zacházíte jako s „kolegou“ a nikoli jako se softwarovým nástrojem, vaše práce se zhorší. Wiles zjistila, že lidé zachytili o 18 % méně chyb, když práce pocházela od „zaměstnance AI agenta“, než když byla připsána běžnému chatbotu. Ukazuje se, že na pojmenování záleží, a to výrazně.

Tento trend je důležitým poznatkem pro budoucnost, ke které nás směřuje Silicon Valley. Generální ředitel společnosti Nvidia Jensen Huang loni hovořil o pracovištích s „digitálními lidmi“. Od dubna společnosti Microsoft, OpenAI, Anthropic a Google vydaly nové nástroje zaměřené na správu týmů AI agentů, z nichž mnohé jsou výslovně inzerovány jako digitální kolegové s flexibilitou a kognitivní silou skutečných lidí. Téměř třetina z 1 261 manažerů, kteří se zúčastnili studie Wilesové, uvedla, že jejich společnosti již AI agenty rámcují jako zaměstnance, a 23 % je dokonce uvádí v organizačních schématech.

Technologický pokrok agentní AI je samozřejmě reálný. Agenti, které lze efektivně chápat jako nástroje AI naprogramované k práci ve smyčce, dokud nedosáhnou cíle, se prokazatelně zlepšili v plnění složitějších úkolů. Je však velkým skokem označovat tyto nástroje za kolegy nebo zaměstnance. Takové označení vytváří nerealistická očekávání ohledně schopností AI a zároveň zhoršuje situaci lidských zaměstnanců, kteří za ně mají být údajně zodpovědní.

Výzkum Wilesové naznačuje, že to částečně narušuje náš smysl pro to, kdo má kontrolu. Když byl nástroj AI rámován jako zaměstnanec, účastníci studie se cítili méně zodpovědní za jeho výstup. Také bylo o 44 % pravděpodobnější, že spornou práci AI předají manažerovi k dalšímu přezkoumání, místo aby důvěřovali vlastním opravám. Tím se ruší původní účel používání AI agenta, kterým je úspora času.

Tento poznatek má význam daleko za hranicemi kancelářské kultury. Jelikož jsou AI agenti integrováni do zdravotnictví, vojenství, vzdělávání a státní správy, roste riziko, že se stanou pohodlným místem pro svalování viny za selhání, která jsou ve skutečnosti výsledkem špatných lidských rozhodnutí, motivací a dohledu. Příkladem může být populární obviňování AI Claude z bombového útoku na dívčí školu v Íránu, ačkoli všechny známky ukazovaly na kaskádu lidských chyb.

„AI agenti jsou v současné době marketingově prezentováni jako věci, které mohou nahradit lidi, a myslím, že to je prostě neefektivní přístup,“ říká Daron Acemoglu, ekonom z MIT, nositel Nobelovy ceny za rok 2024, který studuje dopad AI na ekonomiku. „Měli by být místo toho optimalizováni tak, aby zlepšovali lidské schopnosti, což v současné době nedělají.“