Papež Lev XIV. vydal první encykliku: Umělá inteligence je morální výzva, která musí sloužit lidstvu

Papež Lev XIV. prohlásil umělou inteligenci za jednu z určujících morálních výzev naší doby ve své první encyklice nazvané Magnifica Humanitas (Nádherné lidství).

Papež Lev XIV. nedávno vydal dlouho očekávanou encykliku o umělé inteligenci, která nese název „Magnifica Humanitas: O ochraně lidské osoby v době umělé inteligence“. Dokument, který je považován za vysoce důležitý učební text Vatikánu, si klade za cíl jasně vymezit základní rozdíly mezi lidmi a stroji a zároveň varuje před nebezpečím, pokud by umělá inteligence byla kontrolována a distribuována malou skupinou lidí. Papež odsoudil „kulturu moci“, která pohání závod v oblasti AI, a poukázal na úzký okruh bohatých investorů a technologických společností, jež v současnosti řídí vývoj a distribuci této technologie.

Obavy papeže se odrážejí v širší náboženské debatě o umělé inteligenci, která se v posledních letech objevila napříč různými náboženskými tradicemi. Náboženští vůdci a učenci z křesťanství, judaismu, islámu a buddhismu se zabývají širokou škálou témat, od kázání psaných umělou inteligencí a chatbotů-teologů až po dopad technologie na práci, dezinformace, válčení a životní prostředí. Zatímco některé komunity přijaly nástroje AI pro výzkum, překlady a náboženské vzdělávání, mnoho vůdců zdůrazňuje, že stroje nemohou nahradit božskou inspiraci, morální úsudek ani lidský vztah k víře. Sám papež Lev XIV. nedávno varoval kněze před používáním AI k přípravě kázání s argumentem, že umělá inteligence „nikdy nebude schopna sdílet víru“.

Reakce v komunitě výzkumníků AI na encykliku „Magnifica Humanitas“ je převážně pozitivní. Chris Olah, jeden z výzkumníků, který se podílel na formování myšlenek encykliky, uvedl, že tato otázka „jasně přesahuje informatiku“. Podle něj je strojové vybavení dílem matematiky, programování a vědy, ale volba charakteru AI a její interakce se světem jsou otázkami pro humanitní vědy, náboženství, filozofii a společnost jako celek. S papežovým varováním, že AI bude odrážet hodnoty lidí a institucí, které ji kontrolují, souhlasil i autor a systémový architekt Daniel Jefferies, který varoval před „digitálními oligarchy“. S jeho názorem se ztotožnil i průkopník AI a držitel Turingovy ceny Yann LeCun. Další držitel Turingovy ceny, Yoshua Bengio, vyjádřil obavu z potenciálně destruktivní síly AI a zdůraznil, že „stejně jako jaderná energie, musí být AI ve službách všech a pro společné dobro. Rozhodnutí o technologii nesmí být nikdy oddělena od svědomí a odpovědnosti.“

Ne všichni v komunitě AI však souhlasí s vatikánským pohledem na to, co AI je nebo čím se může stát. Encyklika ostře rozlišuje mezi systémy AI a lidskými bytostmi, argumentuje, že stroje nemohou mít vědomí, morálku ani prožitou zkušenost. Komentátor AI Zvi Mowshowitz s tímto předpokladem nesouhlasil a uvedl, že „ústřední tvrzení, v němž papež Lev popírá, že AI může myslet nebo být myslí, je chybné“. Podle něj bez pochopení toho, čeho je AI schopna, se dokument efektivně zabývá pouze „relativně všedními nebezpečími a změnami AI“. Analytik a spisovatel v oblasti AI politiky Dean Ball se domnívá, že by se církev měla zaměřit na to, jak pomoci lidem prosperovat s dalším vývojem AI, spíše než na pocity AI. David Sacks, bývalý „AI car“ prezidenta Donalda Trumpa, vyjádřil obavy z toho, že by vláda získala širokou pravomoc nad AI, což by mohlo vést k cenzuře, dohledu a sociální kontrole. Zdůraznil, že „nejstarší otázky lidské povahy a autority nezmizí v éře AI. Stávají se nově relevantními.“ Sacksův názor podpořili i další významné osobnosti, například generální ředitel Hugging Face Clem Delangue, který označil „koncentraci“ za největší riziko AI, a kognitivní vědec Gary Marcus, který varoval před ponecháním „nevoleným soukromým společnostem možnosti cenzurovat, sledovat a kontrolovat občany.“ Trumpova administrativa, ovlivněná osobnostmi jako Sacks a Marc Andreessen, se snažila udržet AI průmysl bez vládního dohledu a regulace, přičemž většina z této skupiny se k papežově encyklice zatím nevyjádřila. Tato debata zdůrazňuje potřebu širšího dialogu o etických a společenských dopadech umělé inteligence a o tom, kdo by měl nést odpovědnost za její budoucí směřování.