Miliardové účty za AI: Firmy se učí, jak efektivně řídit nečekané náklady na umělou inteligenci

Mnoho firem se v honbě za umělou inteligencí vrhlo do jejího zavádění bez hlubšího pochopení souvisejících nákladů. Zaměstnanci byli často povzbuzováni k maximálnímu využívání AI nástrojů, avšak nyní se ukazuje, že tato svoboda má svou cenu.

Mnoho firem se v honbě za umělou inteligencí vrhlo do jejího zavádění bez hlubšího pochopení souvisejících nákladů. Zaměstnanci byli často povzbuzováni k maximálnímu využívání AI nástrojů, avšak nyní se ukazuje, že tato svoboda má svou cenu. Podle dosud nezveřejněného průzkumu společnosti KPMG, o kterém informoval The Wall Street Journal, má pouze čtvrtina firem komplexní přehled o tom, kolik je umělá inteligence stojí. Zhruba polovina má jen částečný přehled a pětina firem nemá žádnou viditelnost, nebo se s realitou setká až po obdržení měsíčního vyúčtování.

Jedním z hlavních problémů je obtížné stanovení přesných nákladů na AI. Základní jednotka využití AI, tzv. token, je neobvyklá pro rozpočtování. Token představuje fragment textu, kódu nebo dat zpracovaný modelem při čtení dotazu nebo generování odpovědi, ale nelze jej jednoduše převést na počet slov. Některé tokeny mohou být modelem uloženy do mezipaměti a nejsou účtovány znovu, zatímco jiné musí být zpracovány jako nové. Tato nejistota se často vyjasní až s koncem měsíce, kdy dorazí faktura. Když se to vynásobí počtem jednotlivých zaměstnanců ve firmě, není divu, že finanční ředitelé čelí závratným účtům. KPMG spolupracuje s firmami, které vyčerpaly roční rozpočty na tokeny a cloudové služby během několika měsíců. Jeden klient dokonce zaznamenal šestinásobný nárůst spotřeby tokenů. Axios minulý měsíc uvedl, že klient jednoho AI konzultanta utratil půl miliardy dolarů za jediný měsíc poté, co nezavedl limity na používání licencí Claude pro zaměstnance.

Profesor analytiky Sam Ransbotham z Boston College's Carroll School of Management poukazuje na to, že lidé dostávají obrovské účty, protože ti, kdo produkt používají, nejsou ti, kdo za něj platí, což vždy vede k problémům. Situaci zhoršuje i posun od fáze „all you can eat“ v cenotvorbě AI, neboť dodavatelé se snaží pokrýt obrovské náklady na poskytování přístupu k výkonným modelům. Na rozdíl od tradičního softwaru jako služby (SaaS), který se roky účtuje na základě počtu uživatelů nebo licencí, je cenotvorba AI odlišná a méně předvídatelná.

Myšlenka, že AI je pro podnikání revoluční, podporovaná vedením firem, také vytváří pokřivené motivace. Amazon nedávno zrušil interní žebříček využití AI poté, co se zaměstnanci snažili zlepšit svá skóre zbytečnými aktivitami, například zadáváním AI agentům nesmyslné úkoly. Profesor účetnictví a financí Baruch Lev z New York University Stern School of Business zdůrazňuje, že firmy potřebují dvě měřítka: kolik AI se používá a jaký přínos toto použití generuje. Bez obou je návratnost investic převážně jen odhadem. „Neexistuje žádný zdroj, jakkoli prospěšný, který byste měli využívat na maximum,“ říká Lev.