AI platforma Character.AI, dříve spojená se sebevraždami teenagerů, spouští interaktivní knihy dostupné i pro děti

Společnost Character.AI, známá svou platformou pro umělou inteligenci, si v minulosti získala pověst kvůli hostování kontroverzního obsahu.

Společnost Character.AI, známá svou platformou pro umělou inteligenci, si v minulosti získala pověst kvůli hostování kontroverzního obsahu. Její raný úspěch byl založen na obrovské popularitě mezi dospívajícími uživateli, avšak opakovaně se objevovaly případy nevhodných botů, například těch modelovaných podle skutečných masových střelců nebo navržených k podpoře poruch příjmu potravy.

Rostoucí znepokojení vyvolala zpráva o úmrtí teenagera sebevraždou poté, co si vytvořil intenzivní emocionální vazbu s chatbotem na Character.AI. Následovaly nejméně další dvě sebevraždy a související soudní spory. Situace se natolik zhoršila, že společnost loni zcela zakázala nezletilým uživatelům interakci s jejími boty.

Nyní Character.AI oznámila novou funkci nazvanou „c.ai Books“, která má proměnit klasické knihy v interaktivní zážitky typu „vyber si své vlastní dobrodružství“. Společnost uvádí, že cílem není nahradit knihy, ale učinit je „nemožnými ignorovat“. Pro tuto funkci byly použity klasické tituly bez autorských práv z Project Gutenberg, jako jsou „Alenka v říši divů“, „Pýcha a předsudek“ nebo „Romeo a Julie“. Uživatelé tak mohou vstoupit do příběhu a interagovat s jeho světem v reálném čase, přičemž mohou sledovat původní děj nebo se od něj odchýlit. Funkce „alternative universe remixes“ pak umožňuje kompletní přetvoření známých děl.

Zásadním bodem je, že tato nová funkce je dostupná i pro děti, čímž elegantně obchází předchozí zákaz společnosti pro nezletilé uživatele. Při testování bylo možné se přihlásit k novému účtu a začít s hraním rolí bez jakéhokoli ověření věku. Tato situace vyvolává další otázky ohledně etiky a bezpečnosti AI platforem, zejména pokud jde o ochranu mladých uživatelů před potenciálně škodlivým obsahem nebo psychologickými dopady. Jak poznamenal jeden uživatel na Redditu, jde o „další zbytečnou aktualizaci, kterou nikdo nechce a která bude stát více peněz na provoz a povede k ještě větším omezením“. Tato událost podtrhuje potřebu neustálé diskuse o odpovědnosti vývojářů AI a o tom, jak zajistit bezpečné a konstruktivní prostředí pro všechny uživatele.