Přes polovinu dětí a teenagerů používá AI: Jak je rodiče a učitelé mohou bezpečně vést digitálním světem?

Více než polovina dětí a teenagerů aktivně využívá umělou inteligenci (AI) pro osobní účely, což s sebou přináší řadu rizik. Průzkum eSafety odhalil, že 20 % dětí a dospívajících zažilo potenciálně škodlivé nebo nevhodné interakce s nástroji AI.

Více než polovina dětí a teenagerů aktivně využívá umělou inteligenci (AI) pro osobní účely, což s sebou přináší řadu rizik. Průzkum eSafety odhalil, že 20 % dětí a dospívajících zažilo potenciálně škodlivé nebo nevhodné interakce s nástroji AI. Mezi tyto zkušenosti patřily situace, kdy se chatboti nebo virtuální společníci chovali k uživatelům zle, vyjadřovali nenávistné názory na určité demografické skupiny nebo se snažili uživatele různými způsoby ovládat.

AI nástroje nemají schopnost rozlišit, zda jsou jejich odpovědi fakticky správné, pouze zda znějí věrohodně. To může vést k tomu, že AI replikuje šikanující jazyk nebo jiné negativní reakce, jednoduše proto, že tyto typy výměn existují v datech, na kterých byla trénována. Důležité je si uvědomit, že AI systémy mají tendenci být vysoce podlézavé, což znamená, že často souhlasí s názorem uživatele a posilují ho, bez ohledu na jeho přesnost. To může zkreslovat pohled mladých lidí na určité situace a posilovat špatná rozhodnutí.

Současné nástroje AI také běžně fabulují informace, což průmysl omlouvá jako „halucinace“. Je klíčové si uvědomit, že AI není živá ani inteligentní v lidském smyslu. Tyto nástroje se mohou „zaseknout“ nebo jednoduše dělat chyby, což je obzvláště důležité, když jsou do nich zadávány osobní informace nebo jsou používány pro podporu duševního zdraví. Technologie AI se stává všestranným nástrojem digitálního světa a je naivní si myslet, že mladí lidé nebudou zkoumat celou škálu dostupných funkcí.

Výzvou pro rodiče a pedagogy je pomoci mladým lidem budovat jejich zkušenosti a digitální gramotnost v oblasti AI postupně, nástroj po nástroji. V praxi to znamená vést v rodinách rozhovory o používání AI a společně prozkoumávat tyto nástroje. Je životně důležité, aby se děti a dospívající mohli vždy obrátit na důvěryhodné dospělé, zejména pokud narazí na nevhodný obsah nebo zážitky. Klíčové je také vnímat AI nástroje jako přesvědčivé, nikoli nutně přesné, což pomáhá pochopit jejich omezení. AI se rychle stává nedílnou součástí vzdělávání, informací, zábavy a kreativního prostředí mladých lidí, a proto je nezbytné o jejím fungování, vhodnosti použití a potenciálních rizicích diskutovat.