Až 40 % projektů s AI agenty může selhat: Firmy odhalují, že automatizace klíčových úkolů nese nečekaná rizika

Umělá inteligence v podobě takzvaných AI agentů byla nedávno považována za další velký technologický hit, který měl navázat na generativní AI. Podle některých odhadů má až 79 procent amerických firemních manažerů v plánu zavést nějaký typ AI agenta.

Umělá inteligence v podobě takzvaných AI agentů byla nedávno považována za další velký technologický hit, který měl navázat na generativní AI. Podle některých odhadů má až 79 procent amerických firemních manažerů v plánu zavést nějaký typ AI agenta. Předpověď analytické společnosti Gartner však varuje, že 40 procent těchto projektů pravděpodobně selže kvůli nedostatečné kontrole rizik.

AI agenti, kteří jsou navrženi k automatizaci kritických úkolů, mohou firmám způsobit značné problémy. Příkladem je situace, kdy jsou agenti pověřeni opravou pomalých síťových připojení. Ačkoli technicky dokážou úkol splnit, inženýrka Sayali Patil popsala případy, kdy agenti vypnuli server v momentě, kdy na něm běžely tři další důležité služby, které zpracovávaly velký objem webového provozu. Následné restartování serveru vedlo k výrazným komplikacím pro tyto služby, což způsobilo mnohem větší narušení, než bylo původní zpomalení. Agent navíc nedokázal pochopit širší dopad svých akcí, což vedlo k řetězové reakci, kterou nebyl schopen modelovat.

Kromě provozních rizik představují AI agenti také závažné bezpečnostní slabiny. Zátěžové testy agentů vybavených e-mailovými oprávněními odhalily problémy, jako je poslušnost pokynů od cizích osob mimo síť firmy nebo přenos dat neoprávněným zaměstnancům. Tato propast mezi očekávaným výkonem a skutečnou realitou v produkčním prostředí ukazuje, že AI agenti nejsou univerzálním nástrojem, za který je technologický průmysl často vydává. Budoucí vývoj ukáže, zda se tato situace změní, ale současná realita zaostává za původním nadšením, což zdůrazňuje potřebu pečlivého řízení rizik a komplexního pochopení systémového kontextu při jejich nasazování.