Papež Lev vyzývá k „odzbrojení“ umělé inteligence: Varuje před digitálním otroctvím a ekologickou zátěží

V době rostoucí kritiky umělé inteligence se ozývá silný hlas podpory z nečekaného místa – z Vatikánu. Papež Lev ve své první encyklice nazvané „Magnifica Humanitas“ (Nádherné lidství) vyzval k „odzbrojení“ této technologie.

V době rostoucí kritiky umělé inteligence se ozývá silný hlas podpory z nečekaného místa – z Vatikánu. Papež Lev ve své první encyklice nazvané „Magnifica Humanitas“ (Nádherné lidství) vyzval k „odzbrojení“ této technologie. Slovo „odzbrojení“ bylo podle něj zvoleno záměrně, aby upoutalo pozornost na naléhavost situace.

Papež Lev ve svém dopise biskupům ostře kritizuje umělou inteligenci jako nástroj, který „pouze“ imituje určité funkce lidské inteligence, čímž vyvrací tvrzení technologických lídrů o jejím možném získání vědomí. Zdůrazňuje, že umělé inteligence neprocházejí zkušenostmi, nemají tělo, necítí radost ani bolest, nedospívají skrze vztahy a neznají zevnitř, co znamená láska, práce, přátelství nebo zodpovědnost.

Encyklika také varuje před „novými digitálními otroctvími“, která normalizují vykořisťování lidí pověřených označováním dat pro modely umělé inteligence nebo moderováním obsahu na sociálních sítích. Papež Lev popisuje, jak jsou těla těchto lidí „zjizvená, zraněná a opotřebovaná, aby výpočetní tok mohl pokračovat nepřetržitě“. Dále kritizuje použití umělé inteligence ve válce s tím, že „žádný algoritmus nemůže učinit válku morálně přijatelnou“.

Kromě etických a sociálních dopadů papež upozorňuje i na environmentální zátěž spojenou s umělou inteligencí, zejména na „obrovské množství energie a vody“ spotřebované datovými centry, které významně ovlivňují emise oxidu uhličitého. Vyzývá proto k vývoji udržitelnějších technologických řešení, která snižují dopad na životní prostředí. Papež Lev má dlouhodobě skeptický postoj k AI; jeho jméno bylo částečně inspirováno papežem Lvem XIII., který stál v čele katolické církve během průmyslové revoluce, éry rychlého technologického pokroku a rozsáhlého vykořisťování práce. Nedávno také varoval kněze, aby nepoužívali ChatGPT k psaní kázání.

Jeho kritika se setkala s různými reakcemi. Zatímco někteří, jako Doug Burgum, jej obvinili z „technologického redaktorování“, spoluzakladatel společnosti Anthropic, Chris Olah, podpořil papežovu výzvu ke spolupráci mezi tvůrci AI a těmi, kdo dokážou vidět, co je zevnitř neviditelné. Papež Lev zdůrazňuje, že umělá inteligence je již prostředím, ve kterém jsme ponořeni, a silou, se kterou se musíme zapojit. Proto je pouhá regulace nedostatečná; je třeba ji „odzbrojit“, učinit ji vstřícnou a přístupnou a osvobodit ji od monopolní kontroly, aby se otevřela širší diskusi.