Target zavádí AI nákupního asistenta, ale za jeho omyly ručí zákazníci

Maloobchodní řetězec Target se připojuje k rostoucímu počtu firem, které s hrdostí přijímají umělou inteligenci, avšak zároveň se distancují od jejích potenciálních selhání.

Maloobchodní řetězec Target se připojuje k rostoucímu počtu firem, které s hrdostí přijímají umělou inteligenci, avšak zároveň se distancují od jejích potenciálních selhání. Společnost nedávno aktualizovala své obchodní podmínky, aby jasně stanovila, že za chyby a „halucinace“ svého nadcházejícího AI nákupního asistenta budou zodpovědní zákazníci, nikoli firma.

Tento virtuální pomocník, který bude fungovat na technologii Google Gemini, má usnadnit online nakupování a dokončovat nákupy jménem uživatelů. Podle nových podmínek budou veškeré transakce provedené AI agentem „považovány za transakce autorizované vámi“. To znamená, že pokud AI agent udělá chybu – ať už koupí zcela špatnou položku, nebo bez souhlasu vybere dražší verzi správného produktu – náklady ponese zákazník.

Nové podmínky dále uvádějí: „Jste odpovědní za kontrolu činnosti prováděné vaším agentem pro agentní obchod a za okamžité oznámení agentovi a společnosti Target o jakékoli činnosti, o které se domníváte, že je neoprávněná nebo mimo rozsah vámi schválených oprávnění.“ Target výslovně neudává záruku, že AI agent bude ve všech situacích jednat přesně podle záměru zákazníka, a doporučuje pravidelně kontrolovat objednávky, aktivitu účtu a nastavení. Mluvčí společnosti Target potvrdil, že aktualizovaný jazyk se týká připravovaného asistenta Gemini, ale dodal, že zákazníci mohou zboží stále vracet jako obvykle.

Společnost Target ve své nové politice uvádí, že „vzhledem k povaze generativní AI nemusí být informace, odpovědi a doporučení generované pro vás a ostatní uživatele prostřednictvím funkcí generativní AI přesné, úplné nebo aktuální a mohou být zavádějící nebo obsahovat chyby a opomenutí, nebo funkce generativní AI mohou špatně pochopit obsah, který zadáte, a mohou odpovídat na jinou otázku, než byla položena.“ Tento přístup odráží širší trend, kdy maloobchodní giganti zavádějí AI iniciativy, ale zároveň se distancují od jejich selhání, což odhaluje dvojí metr v rozmachu umělé inteligence.