Umělá inteligence a nová nerovnost: Kdo bude mít přístup k lidskému kontaktu a kdo jen k algoritmům?
InovaceVelké jazykové modely umělé inteligence (AI) jsou dnes schopny produkovat plynulé a emočně citlivé odpovědi. Vědci se proto ptají, co to znamená v praxi, když stroje začnou nahrazovat lidské vztahy, skrze které lidé prožívají péči, uznání a důstojnost.
Velké jazykové modely umělé inteligence (AI) jsou dnes schopny produkovat plynulé a emočně citlivé odpovědi. Vědci se proto ptají, co to znamená v praxi, když stroje začnou nahrazovat lidské vztahy, skrze které lidé prožívají péči, uznání a důstojnost. Jedním z rizik je vznik nové formy nerovnosti, kterou někteří experti nazývají „vztahový apartheid“.
Tento termín popisuje společenský a technologický vzorec, kdy se přístup k smysluplnému lidskému kontaktu stává nerovnoměrně rozděleným. Zatímco někteří lidé se setkávají s jinými lidmi, jiní jsou spravováni systémy. Nejedná se o apartheid v historickém právním smyslu, ale spíše o varování, jak se staré nerovnosti mohou znovu objevit v nových digitálních formách.
Simulovaná péče se liší od sdíleného života. Chatbot sice může reagovat vřele na osamělého studenta, frustrovaného zákazníka nebo pacienta hledajícího ujištění, a to s překvapivě lidským tónem. Může si pamatovat detaily konverzace a přizpůsobit tón uživateli. Avšak zdání vztahu není totéž co skutečný vztah. Chatbot nesdílí život dané osoby, nemůže být zranitelný, nemůže nést morální břemeno ani být proměněn setkáním. Lidské vztahy jsou složité, protože zahrnují vzájemné riziko, zklamání, odpuštění a snahu o nápravu. AI často nabízí odezvu bez vzájemného odporu, který je součástí lidských vztahů, což může vést k očekávání vztahů bez nutné práce na nich.
Ne každá interakce s AI je škodlivá. Nástroje AI mohou pomáhat lidem najít informace, lépe psát, rychleji se učit a získávat služby. Při opatrném používání může AI dokonce vytvořit více prostoru pro lidskou péči, namísto aby ji nahrazovala. Nebezpečí však nastává, když je AI používána jako náhrada lidské přítomnosti v oblastech, kde je uznání důležité.
Nerovnost se projevuje i v tom, kdo získává lidskou pozornost. Příkladem je zákaznický servis, kde jsou lidé stále častěji směrováni přes chatboty, než se dostanou k lidskému operátorovi. To sice může snížit náklady a zrychlit řešení jednoduchých dotazů, ale zároveň vytváří systém, kde někteří zákazníci dostávají lidskou pozornost, zatímco jiní jsou odkázáni na automatizovanou interakci. Podobná situace se může objevit ve zdravotnictví, vzdělávání a sociální podpoře, kde AI nástroje mohou normalizovat situaci, kdy se s již znevýhodněnými lidmi stále častěji baví stroje namísto lidí. V zemích s vysokou nerovností, jako je Jihoafrická republika, se tak staré rozdíly v příjmech, vzdělání nebo jazyce mohou objevit v nových digitálních formách. Problémem není jen přesnost odpovědí strojů, ale hlubší otázka, zda někteří lidé nebudou připraveni o druh setkání, skrze které je potvrzována jejich důstojnost.