AI zaplavuje firmy miliony řádků kódu: Programátoři čelí vyhoření z nekonečných revizí

Firmy po celém světě rychle přijímají umělou inteligenci s cílem masivně zvýšit produkci kódu. Zatímco navenek je to prezentováno jako revoluce v produktivitě, pohled do zákulisí odhaluje poněkud paradoxní situaci.

Firmy po celém světě rychle přijímají umělou inteligenci s cílem masivně zvýšit produkci kódu. Zatímco navenek je to prezentováno jako revoluce v produktivitě, pohled do zákulisí odhaluje poněkud paradoxní situaci. Programátoři jsou zavaleni větším množstvím kódu, než s jakým si vědí rady, a jejich zaměstnavatelé se snaží najít nejlepší způsob, jak zajistit kontrolu veškeré práce, kterou AI narychlo vytvořila.

Jako příklad slouží jedna finanční společnost, jejíž produkce kódu se po zavedení populárního nástroje Cursor s umělou inteligencí zdesetinásobila. To vytvořilo obrovský backlog jednoho milionu řádků kódu, který čeká na revizi, jak uvedl Joni Klippert, generální ředitel bezpečnostního startupu StackHawk, který s touto firmou spolupracuje. Tento přebytek kódu nelze ignorovat. Nekontrolovaný kód, ať už generovaný AI nebo napsaný člověkem, může způsobit problémy se softwarem a vést k bezpečnostním chybám. Amazon a Meta nedávno zažily narušení provozu poté, co nástroje umělé inteligence provedly neoprávněné akce, a to jsou jen ty případy, o kterých se dozvíme.

„Obrovské množství dodávaného kódu a nárůst zranitelností je něco, s čím se firmy nedokážou vyrovnat,“ řekl Klippert. Zrychlená produkce navíc vyvolala „velký stres“ v dalších odděleních, jako je podpora prodeje a marketingu. Jsme svědky zajímavého bodu zlomu v dopadu umělé inteligence na pracoviště. AI byla použita k ospravedlnění snižování počtu zaměstnanců po celém světě, přičemž jedna zpráva uvádí, že AI byla loni citována v oznámeních o více než 54 000 propouštění. Letos se k tomu přidaly i velké technologické firmy, jako je fintech společnost Block Jacka Dorseyho a softwarový gigant Atlassian, které propustily tisíce zaměstnanců a zároveň hovořily o přechodu na AI.

Paradoxně, zatímco jsou rušena pracovní místa, umělá inteligence zároveň vytváří více práce, kterou by nejlépe vykonával člověk. Někdo musí testovat kód generovaný AI, a tradičně by to byl ten, kdo ho napsal – ale dnes jsou tito lidé příliš zaneprázdněni zadáváním pokynů AI agentovi. Kdo má tuto práci převzít, je nejasné. „Na planetě není dostatek inženýrů pro zabezpečení aplikací, aby uspokojili potřeby jen amerických společností,“ řekl Joe Sullivan, poradce Costanoa Ventures. Navíc AI může programátorům práci ve skutečnosti ztěžovat. Softwaroví inženýři přiznali, že očekávání vyšší produkce kódu při neustálém dohledu nad nástroji AI je urychluje směrem k vyhoření – fenoménu, který je dokumentován v novém výzkumu, jenž tento psychický dopad nazývá „AI brain fry“.

Firmy stále řeší, jak se s přebytkem kódu vypořádat. „Požehnáním i prokletím je, že se nyní každý ve vaší společnosti stává kodérem,“ řekl Michele Catasta, prezident a vedoucí AI ve startupu Replit. Sachin Kamdar ze startupu Elvix, který se zabývá AI agenty, zvolil striktní přístup: veškerý kód musí být zkontrolován člověkem, protože by bylo obtížnější ho později opravit, pokud by nikdo nerozuměl tomu, co AI původně vytvořila. „Prostě se něco rozbije a oni nebudou vědět proč,“ dodal. Dalším řešením je nasadit na problém další AI. Společnosti Anthropic a OpenAI již vydaly AI agenty navržené k revizi kódu. A v prosinci společnost Cursor, poskytovatel velmi propagovaného nástroje pro kódování AI, koupila startup Graphite, který vyvíjí platformu pro revizi kódu pomocí AI.