Firmy zaplavují tisíce AI agentů: Šéfové řeší nečekaný chaos, náklady a bezpečnostní rizika

Společnosti, které bezhlavě přijaly technologie umělé inteligence, se nyní potýkají s nečekaným problémem: jejich systémy jsou zaplaveny legiemi redundantních AI agentů.

Společnosti, které bezhlavě přijaly technologie umělé inteligence, se nyní potýkají s nečekaným problémem: jejich systémy jsou zaplaveny legiemi redundantních AI agentů. Tento jev, označovaný jako „AI agent sprawl“, vzniká kvůli snadnosti, s jakou mohou zaměstnanci vytvářet vlastní automatizační nástroje, například pomocí nástrojů jako Anthropic’s Claude Cowork.

Jednou z firem, která se s tímto přílivem potýká, je Magnum Ice Cream, mateřská společnost Ben & Jerry’s. Michael Friedlander, její ředitel pro informační technologie v Americe, upozorňuje, že snadná tvorba AI agentů vede k tomu, že mnoho lidí vytváří stejné typy agentů. To generuje zbytečné náklady na „tokeny“ (jednotky spotřeby AI) a představuje kybernetická bezpečnostní rizika. Společnost proto plánuje konsolidovat a centralizovat všechny své AI agenty, aby zajistila finančně odpovědný model.

Problém „AI agent sprawl“ získává letos na pozornosti, zejména s rychlým přijetím agentních modelů a nástrojů pro AI kódování v technologickém a finančním sektoru. Konzultační firma Gartner nedávno zveřejnila pokyny pro správu tohoto jevu a odhalila, že pouze 13 procent společností si myslí, že má dostatečně robustní „správu AI agentů“. Předpovídá také, že průměrná společnost z žebříčku Fortune 500 bude do roku 2028 používat přes 150 000 agentů, což je obrovský nárůst oproti méně než 15 agentům, které tyto společnosti používají dnes.

Nadšení manažerů pro tuto technologii je zřejmé. Například Mike Trkay, ředitel pro zákazníky ve společnosti FICO, uvedl, že jejích 3 500 zaměstnanců vytváří desítky nových AI agentů každý den. Podobně i gigant v oblasti péče o ledviny DaVita je zaplaven AI agenty, přičemž zaměstnanci jich vytvořili přes 10 000. I když je cílem zlepšit péči o pacienty, vedení si uvědomuje potřebu škálovat s ohledem na bezpečnost.

Tento vývoj ukazuje, že zatímco AI nabízí obrovský potenciál pro efektivitu, její nekontrolované nasazení může vést k novým výzvám v oblasti řízení, nákladů a bezpečnosti. Firmy se nyní učí, jak strategicky integrovat a spravovat AI agenty, aby maximalizovaly jejich přínosy a minimalizovaly rizika, což povede k vytvoření komplexnějších a zodpovědnějších strategií pro implementaci umělé inteligence.