CEO firmy tajně nahrál rozhovory batolat a analyzoval je AI: Vyvolalo to debatu o soukromí dětí a etice technologií

Nicholas Charriere, generální ředitel společnosti Mocha zabývající se tvorbou webových stránek s umělou inteligencí, se na sociální síti X pochlubil neobvyklým experimentem. Tajně nahrál rozhovory své batolecí dcery a jejího bratrance během jejich prvního společného přespání.

Nicholas Charriere, generální ředitel společnosti Mocha zabývající se tvorbou webových stránek s umělou inteligencí, se na sociální síti X pochlubil neobvyklým experimentem. Tajně nahrál rozhovory své batolecí dcery a jejího bratrance během jejich prvního společného přespání. Nahrávky, které zachycovaly jejich „nesmyslnou batolecí řeč“, následně zpracoval pomocí modelu umělé inteligence Claude. Cílem bylo vytvořit pro rodinu soukromou webovou stránku s rozdělenými a pojmenovanými zvukovými klipy, obsahujícími „nejlepší batolecí výrazy“ jako „Ahoj mami“ nebo „Já jsem velký kluk“. Charriere své počínání označil za „čistou radost pro všechny“ a dodal, že „AI je docela skvělá“.

Jeho příběh se však setkal s vlnou kritiky. Mnozí uživatelé označili jeho jednání za „děsivé“ a invazivní. Jeden z komentujících, jehož příspěvek získal více lajků než původní tweet, napsal: „Nenáviděl bych své rodiče, kdybych zjistil, že to udělali. Žádný respekt k soukromí. Jsou to lidé, ne miniaturní verze vás, stvořené k vašemu pobavení.“ Historik a podcaster Mike Duncan byl ještě ostřejší a ironicky se ptal, proč zachovávat soukromí nočních rozhovorů, když je možné vše tajně nahrát a vložit do „AI stroje na data“.

Průnik rodičovství a umělé inteligence je stále častěji diskutovaným a rozdělujícím tématem. Někteří rodiče vidí nástroje AI jako způsob, jak si usnadnit péči o děti, zabavit je a získat si tak úlevu. AI jim může pomoci při rozhodování, například, kontroverzně, při výběru jména pro dítě. Generální ředitel OpenAI Sam Altman se například spoléhá na ChatGPT při péči o své dítě a uvažoval o využití AI k vytváření podcastů na oblíbená dětská témata. Existuje dokonce dostatečná poptávka na to, aby Meta vyvíjela aplikaci, která bude dětem vyprávět improvizované pohádky na dobrou noc.

Skeptici vůči AI však vnímají tuto technologii jako líný způsob nahrazování lidské interakce a upozorňují na rizika soukromí, která modely AI představují. Společnosti zabývající se umělou inteligencí nejsou vždy transparentní ohledně toho, jak budou data, která jim uživatelé poskytnou, včetně konverzací, použita. Je možné, že sdílený obsah bude využit k trénování budoucích modelů AI. I když špehování batolat a vkládání jejich „tajemství“ do AI nemusí odhalit nic příliš kompromitujícího vzhledem k jejich věku, je poněkud zvláštní z toho vytvořit webovou stránku a chlubit se tím online. Důležitá je také otázka, jak se asi bude dítě cítit, až si uvědomí, že nemůže důvěřovat tomu, že cokoli řekne, zůstane soukromé. Lze předpokládat, že toto odhalení už nemusí vyvolat „čistou radost“.