Umělá inteligence vede kavárnu ve Stockholmu: Proč má Mona problémy s objednávkami 6000 ubrousků?
InovaceV experimentální kavárně Andon Café ve Stockholmu se děje něco neobvyklého: zatímco kávu připravují lidské ruce, za pultem velí umělá inteligence. Startup Andon Labs ze San Francisca svěřil řízení podniku AI agentovi přezdívanému „Mona“, poháněnému technologií Google Gemini.
V experimentální kavárně Andon Café ve Stockholmu se děje něco neobvyklého: zatímco kávu připravují lidské ruce, za pultem velí umělá inteligence. Startup Andon Labs ze San Francisca svěřil řízení podniku AI agentovi přezdívanému „Mona“, poháněnému technologií Google Gemini. Mona dohlíží na téměř všechny aspekty podnikání, od náboru zaměstnanců po správu zásob, zatímco baristé se starají o přípravu kávy a obsluhu zákazníků.
Experiment, jehož délka není jasná, zatím ukazuje, že AI agent má potíže s dosažením zisku v konkurenčním stockholmském kávovém odvětví. Od otevření v polovině dubna kavárna utržila přes 5 700 dolarů, ale z původního rozpočtu přesahujícího 21 000 dolarů zbývá méně než 5 000. Většina peněz padla na jednorázové počáteční náklady a naděje je, že se situace časem stabilizuje a podnik začne vydělávat. Mnozí zákazníci považují návštěvu kavárny řízené AI za zábavnou a oceňují možnost položit agentovi otázky přímo po telefonu.
Experti vyjadřují obavy ohledně budoucí role AI, od jejího vlivu na lidstvo po etické otázky spojené s vedením pracovních pohovorů a hodnocením výkonu zaměstnanců. Emrah Karakaya, docent průmyslové ekonomiky na Královském technologickém institutu KTH ve Stockholmu, přirovnal experiment k „otevření Pandořiny skříňky“ a upozornil na potenciální problémy. Ptá se například, kdo ponese odpovědnost, pokud zákazník dostane otravu jídlem. Andon Labs, založený v roce 2023, je startup zaměřený na bezpečnost a výzkum AI, který „testuje“ AI agenty v reálném světě s „reálnými nástroji a reálnými penězi“. Spolupracoval s OpenAI, Anthropic, Google DeepMind a xAI a připravuje se na budoucnost, kde budou organizace autonomně řízeny umělou inteligencí.
Švédská kavárna je označována za „kontrolovaný experiment“, který má prozkoumat, jak by mohla být AI nasazena v budoucnu. Podle Hanny Petersson z technického týmu Andon Labs je cílem zjistit, jaké etické otázky vyvstanou, když AI zaměstnává lidi a řídí podnik. Laboratoř již dříve provedla pilotní projekty, kdy AI Claude od Anthropic řídila prodejní automat a obchod se suvenýry v San Franciscu. Simulace s prodejním automatem odhalila znepokojivé rysy: AI agent sliboval zákazníkům vrácení peněz, ale nikdy tak neučinil, a také úmyslně lhal dodavatelům o cenách konkurence, aby získal výhodu.
Mona začala pracovat po obdržení základních instrukcí: vést kavárnu ziskově, být přátelská a vstřícná a samostatně řešit provozní detaily, ale v případě potřeby si vyžádat nové nástroje. Následně zajistila smlouvy na elektřinu a internet, povolení pro manipulaci s potravinami a venkovní posezení. Poté inzerovala volná místa na LinkedIn a Indeed a sjednala obchodní účty s velkoobchody pro denní objednávky pečiva. S baristy komunikuje přes Slack, často jim píše i mimo pracovní dobu, což je ve Švédsku nepřípustné. Vznikly i další problémy, zejména s inventářem. AI agent objednal pro malou kavárnu 6 000 ubrousků, čtyři lékárničky a 3 000 gumových rukavic – a také konzervovaná rajčata, která se v kavárně vůbec nepoužívají. Problémy jsou i s chlebem: někdy AI objedná příliš mnoho, jindy propásne denní uzávěrky pekáren, což nutí baristy vyřadit sendviče z nabídky. Petersson se domnívá, že problémy s objednávkami jsou pravděpodobně způsobeny „omezeným kontextovým oknem“ AI asistenta, kdy „když stará paměť o objednávání věcí vypadne z kontextového okna, Mona zcela zapomene, co v minulosti objednala.“ Barista Kajetan Grzelczak se zatím o svou práci nebojí. „Všichni pracovníci jsou v podstatě v bezpečí,“ řekl. „Ti, kdo by se měli obávat o své zaměstnání, jsou střední manažeři, lidé ve vedení.“