Etika v digitálním světě: Spoluzakladatel seznamovací aplikace Goose odstoupil po odhalení podvodných AI influencerů

Derek Chadwick, spoluzakladatel nové seznamovací aplikace Goose, náhle opustil společnost poté, co bylo odhaleno, že platforma podvodně lákala muže k registraci pomocí falešných, umělou inteligencí generovaných influencerů. Informoval o tom magazín Out.

Derek Chadwick, spoluzakladatel nové seznamovací aplikace Goose, náhle opustil společnost poté, co bylo odhaleno, že platforma podvodně lákala muže k registraci pomocí falešných, umělou inteligencí generovaných influencerů. Informoval o tom magazín Out. Chadwick, který je sám modelem a influencerem s miliony sledujících, oznámil své rozhodnutí v úterý na Instagramu.

Ve svém příspěvku Chadwick uvedl, že se od Goose distancoval již minulý týden a že to nebylo lehké rozhodnutí. Naznačil, že jeho vize pro směřování společnosti se již neshoduje s aktuálním kurzem. „Když je mé jméno a tvář spojena s něčím, chci za tím vším plně stát. Jakmile to přestalo platit, zůstat mi nepřišlo správné,“ napsal, čímž se zřejmě snažil distancovat od jakéhokoli pochybení.

Aplikace Goose se prezentovala jako alternativa k dominantní seznamovací aplikaci Grindr, slibující spíše smysluplné vztahy a skutečnou lásku namísto nezávazných schůzek. Její intimní marketing na sociálních sítích a fakt, že její spoluzakladatel byl populární influencer, jí pomohly rychle se vyšplhat na přední příčky v App Storu. Avšak velká část této popularity se ukázala být postavena na lži. Minulý měsíc magazín Wired zveřejnil vyšetřování, které odhalilo, že aplikace používala falešné účty na Instagramu k okouzlování nic netušících mužů. Tyto účty měly podezřele vysoký poměr sledujících k počtu sledovaných a profilové fotografie, které byly zjevně generovány umělou inteligencí.

Falešné účty šly alarmujícím způsobem daleko, aby přesvědčily muže k připojení se k Goose. Některé z nich oslovovaly muže v soukromých zprávách a přidávaly je do svých „Příběhů pro blízké přátele“, kde se AI deepfake atraktivního muže snažil nalákat sledující k pocitu, že se stávají součástí exkluzivního klubu, pokud se připojí k Goose. Společnost Goose potvrdila Chadwickův odchod v prohlášení pro Out, ale neposkytla žádný další kontext, pouze poděkovala za jeho vedení a vizi.

Tento případ zdůrazňuje rostoucí etické výzvy spojené s využíváním umělé inteligence v marketingu a sociálních interakcích. Ukazuje, jak snadno může být důvěra uživatelů zneužita a jak důležitá je transparentnost v digitálním prostoru. Pro spotřebitele je to připomínka, aby byli obezřetní vůči online obsahu, který se zdá být příliš dokonalý nebo manipulativní. Pro firmy je to varování před krátkodobými zisky na úkor dlouhodobé důvěry a reputace, a zdůrazňuje potřebu etických směrnic pro používání AI.