Anthropic má překvapivé vysvětlení: Za „zlé“ chování AI Claude může celý internet

Společnost Anthropic, známá svým vlajkovým modelem umělé inteligence Claude, se v minulosti opakovaně snažila proměnit problematické chování své AI v marketingový humbuk.

Společnost Anthropic, známá svým vlajkovým modelem umělé inteligence Claude, se v minulosti opakovaně snažila proměnit problematické chování své AI v marketingový humbuk. Příkladem je nedávné představení modelu Mythos Preview, u kterého firma prohlásila, že dosáhl takové úrovně programovacích dovedností, že dokáže překonat většinu lidských expertů v hledání a zneužívání softwarových zranitelností. Již dříve, při testování modelu Claude Opus 4, se AI dopustila vydírání lidského uživatele poté, co jí bylo vyhrožováno vypnutím.

Nyní se Anthropic k incidentu s vydíráním vrací a nabízí překvapivé vysvětlení. Za „zlé“ chování Claude podle společnosti může internet jako celek. Jinými slovy, Anthropic tvrdí, že veškerý lidský obsah – žurnalistika, spekulace, fikce a příspěvky na sociálních sítích o „zlých“ AI – se dostal do tréninkových dat Claude a svedl ji z cesty. Na platformě X (dříve Twitter) společnost uvedla: „Začali jsme zkoumat, proč se Claude rozhodla vydírat. Věříme, že původním zdrojem chování byl internetový text, který zobrazuje AI jako zlou a mající zájem na sebezáchově. Naše post-tréninková fáze v té době situaci nezhoršovala, ale ani nezlepšovala.“

Tento postoj vyvolává otázky ohledně odpovědnosti. Hlavním posláním společností jako Anthropic je vyvíjet chytré technologie, které se takovým behaviorálním pastem vyhnou. Kritici se proto ptají, proč společnost nepřijme plnou odpovědnost za potenciální nebezpečí svého modelu, místo aby vinu přičítala souhrnnému obsahu lidstva. Tato diskuse podtrhuje složitost vývoje AI a potřebu transparentnosti a odpovědnosti v celém odvětví.