Uniklý dokument Microsoftu odhaluje strategii: Jak uživatele „připoutat“ k nové AI asistentce Scout

Interní dokument společnosti Microsoft, který unikl na veřejnost, odhaluje strategii, jak „učinit lidi závislými“ na její nové osobní AI asistentce s názvem Scout. Tato asistentka má být mainstreamovou a přístupnější verzí AI agentů OpenClaw, integrovanou do sady Microsoft 365.

Interní dokument společnosti Microsoft, který unikl na veřejnost, odhaluje strategii, jak „učinit lidi závislými“ na její nové osobní AI asistentce s názvem Scout. Tato asistentka má být mainstreamovou a přístupnější verzí AI agentů OpenClaw, integrovanou do sady Microsoft 365. Dokument popisuje třífázový přístup, přičemž první fáze je explicitně nazvána „Učinit lidi závislými“. Cílem je, aby se uživatelé na nástroj spoléhali denně, což se podle dokumentu již „organicky děje“ s interním nástrojem ClawPilot, který používá přes 1 000 zaměstnanců včetně generálního ředitele Satyi Nadelly.

Toto odhalení je znepokojivé, protože společnosti vyvíjející umělou inteligenci se dlouhodobě brání kritice, že jejich modely jsou navrženy tak, aby byly co nejvíce poutavé, až do té míry, že mohou být psychologicky škodlivé a přispívat k problémům s duševním zdravím. Explicitní zmínka o „závislosti“ v interním dokumentu vyvolala smíšené reakce mezi zaměstnanci Microsoftu. Jeden z nich označil jazyk za „velmi znepokojivý“ s ohledem na rostoucí závislost na AI chatbotech. Jiný zaměstnanec to však racionalizoval s tím, že „není konečným cílem veškerého softwaru všech velkých technologických společností být návykový?“, a dodal, že Microsoft je v tom naštěstí „docela špatný“ ve srovnání s jinými velkými firmami.

Slovo „závislost“ se stalo citlivým tématem v odvětví umělé inteligence. Konverzační AI nástroje mohou vést k nezdravé citové vazbě uživatelů, a proto je otázkou, zda společnosti vědomě využívají těchto mechanismů k podpoře angažovanosti navzdory potenciálním kognitivním a duševním rizikům. Pro Microsoft je takové otevřené přiznání cíle přinejlepším necitlivé a přinejhorším nebezpečně cynické. Tato situace zdůrazňuje potřebu etických úvah při vývoji a nasazování AI technologií, aby se zajistilo, že jejich design bude podporovat uživatele, nikoli je potenciálně poškozovat.