SpaceX v IPO dokumentech varuje před riziky AI Groku, kvůli 'Spicy' režimu vyčlenila 530 milionů dolarů

SpaceX upozornila investory na potenciální rizika spojená s funkcemi umělé inteligence, jako jsou režimy „Spicy“ a „Unhinged“ chatbota Grok.

SpaceX upozornila investory na potenciální rizika spojená s funkcemi umělé inteligence, jako jsou režimy „Spicy“ a „Unhinged“ chatbota Grok. Tyto režimy umožňují generování méně filtrovaných obrazových nebo hlasových odpovědí, což by podle podání v rámci plánované primární veřejné nabídky akcií (IPO) mohlo společnost vystavit regulační kontrole a poškození pověsti.

K prosinci loňského roku SpaceX vyčlenila 530 milionů dolarů na potenciální soudní spory. Část těchto prostředků by mohla plynout z probíhajících stížností podaných proti její AI jednotce kvůli sexualizovaným snímkům generovaným chatbotem Grok. Tato odhalení ukazují, jak SpaceX převzala nová finanční a reputační rizika, když v únoru získala startup xAI Elona Muska, což zvýšilo soukromou valuaci výrobce raket na více než 1 bilion dolarů.

V podání SpaceX opakovaně uvádí, že posláním xAI je vyvíjet „umělou inteligenci hledající pravdu“. V praxi to však často znamenalo spouštění AI funkcí s minimálními bezpečnostními zábranami. Zatímco Musk často prezentuje volnomyšlenkářskou povahu Groku jako prodejní argument, dostala se kvůli ní xAI do potíží s regulátory. Společnost je v současné době vyšetřována ve Spojených státech a dalších zemích kvůli obviněním, že Grok byl použit k vytváření sexualizovaných snímků zjevně nezletilých osob. SpaceX je také žalovanou stranou v několika probíhajících hromadných žalobách a budoucí „zneužití“ jejích AI produktů by ji mohlo vystavit dalším regulačním sankcím, včetně ztráty přístupu na určité trhy.

Podání dále uvádí, že některé AI produkty SpaceX, včetně režimů Groku „Spicy“ a „Unhinged“, jsou „navrženy tak, aby generovaly upřímnější, přímější nebo méně zdrženlivé či neuctivé výstupy“. Protože tyto režimy mohou být neuctivější a drsnější než standardní nabídky, představují zvýšená rizika. Mezi ně patří poškození pověsti, generování potenciálně explicitního obsahu a dezinformací, klamavých výstupů, potenciálně nesouhlasných nebo vykořisťovatelských snímků, porušení duševního vlastnictví nebo obsahu, který by mohl být považován za vykořisťovatelský, škodlivý, obtěžující, urážlivý nebo diskriminační.

SpaceX investorům také sdělila, že Grok a X mají k 31. březnu dohromady přibližně 550 milionů měsíčních uživatelů. Z toho 117 milionů využívá měsíčně funkce AI Groku. Pro srovnání, OpenAI uvádí, že ChatGPT má více než 900 milionů týdenních uživatelů. AI divize SpaceX, která zahrnuje X a xAI, představovala v loňském roce zátěž pro zbytek společnosti s provozní ztrátou přesahující 6,3 miliardy dolarů. Prodeje reklam, dat a předplatného sice rostou, ale ne takovým tempem, aby se divize rychle stala ziskovou. Světlým bodem pro AI aktivity SpaceX je dohoda s Anthropic, která se zavázala platit 15 miliard dolarů ročně za přístup k datovým centrům společnosti.