ChatGPT nově chrání uživatele: Funkce „Důvěryhodný kontakt“ upozorní blízké na obavy o bezpečí

OpenAI představuje novou volitelnou bezpečnostní funkci pro ChatGPT s názvem „Důvěryhodný kontakt“, která umožní dospělým uživatelům určit nouzový kontakt pro případ obav o jejich duševní zdraví a bezpečnost.

OpenAI představuje novou volitelnou bezpečnostní funkci pro ChatGPT s názvem „Důvěryhodný kontakt“, která umožní dospělým uživatelům určit nouzový kontakt pro případ obav o jejich duševní zdraví a bezpečnost. Přátelé, rodinní příslušníci nebo pečovatelé, kteří budou označeni jako „Důvěryhodný kontakt“, obdrží upozornění, pokud systémy OpenAI detekují, že uživatel mohl s chatbotem diskutovat o tématech jako sebepoškozování nebo sebevražda.

Tato funkce je založena na jednoduchém, odborníky ověřeném předpokladu: když se někdo ocitne v krizi, spojení s osobou, kterou zná a které důvěřuje, může zásadně pomoci. Představuje tak další vrstvu podpory vedle již dostupných lokalizovaných linek pomoci v ChatGPT. Aktivace funkce je dobrovolná; dospělí uživatelé (starší 18 let celosvětově, nebo 19 let v Jižní Koreji) mohou přidat kontaktní údaje jiné dospělé osoby do nastavení svého účtu ChatGPT. Důvěryhodný kontakt musí pozvánku přijmout do jednoho týdne. Uživatelé mohou svůj kontakt kdykoli odebrat nebo upravit, a stejně tak se může Důvěryhodný kontakt z této role sám odhlásit.

OpenAI zdůrazňuje, že zasílané upozornění je záměrně omezené a nebude sdílet detaily chatu ani přepisy konverzací s Důvěryhodným kontaktem. Pokud automatizované systémy OpenAI detekují, že uživatel hovoří o sebepoškozování, ChatGPT nejprve uživatele povzbudí, aby se obrátil na svůj Důvěryhodný kontakt, a informuje ho, že kontakt může být upozorněn. Následně malý tým speciálně vyškolených lidí situaci posoudí. Pokud se konverzace vyhodnotí jako vážná bezpečnostní obava, ChatGPT odešle Důvěryhodnému kontaktu stručný e-mail, textovou zprávu nebo oznámení přímo v aplikaci ChatGPT. Tato novinka navazuje na funkci nouzového kontaktu, která byla zavedena v září spolu s rodičovskou kontrolou, a to po tragické události, kdy si šestnáctiletý mladík vzal život po měsících svěřování se ChatGPT. Podobnou funkci, která upozorňuje rodiče, pokud jejich děti opakovaně vyhledávají témata sebepoškozování, zavedla také společnost Meta pro Instagram.