Encyklika Lva XIV.: Umělá inteligence má sloužit lidstvu, nikoli moci nemnohých

„Magnifica humanitas“ – první encyklika papeže Lva XIV. je věnována sociálnímu učení církve v éře umělé inteligence. Podepsána byla symbolicky v den 135. výročí encykliky Lva XIII. „Rerum novarum“. Papež v ní vyzývá, abychom střežili „velkolepé lidstvo, v němž přebývá Bůh“, skrze úsilí o pravdu, důstojnost práce, sociální spravedlnost a pokoj.

„Velkolepé lidstvo stvořené Bohem dnes stojí před rozhodující volbou: postavit novou babylonskou věž, nebo vybudovat město, kde Bůh a lidstvo žijí společně.“ Úvodní slova první encykliky Lva XIV. Magnifica humanitas, vybízející k ochraně člověka a lidství v éře umělé inteligence, shrnují její základní důvody a účel. Encykliku, která byla zveřejněna dnes, v pondělí 25. května, podepsal papež 15. května, v den 135. výročí vyhlášení encykliky Rerum novarum Lva XIII. Navazuje v ní na odkaz svého předchůdce a představuje sociální encykliku, která se zabývá jednou z hlavních výzev naší současnosti – umělou inteligencí.

Encyklika Magnifica humanitas je rozdělená do pěti kapitol. Vychází z předpokladu, že technologie není „silou člověku nepřátelskou“ (4) ani není „sama o sobě zlem“ (9). Na druhou stranu však „není neutrální, protože přebírá tvář toho, kdo ji vymýšlí, financuje, reguluje a používá“. Odtud také papežova výzva „budovat v dobrém“ a „zůstat lidmi“, v duchu logiky odvážné spoluzodpovědnosti a společenství.

První kapitola – Dynamické myšlení věrné evangeliu – představuje přehled sociálního učení církve (SUC) v nedávném magisteriu a v dokumentech II. vatikánského koncilu a poukazuje na její „dynamický charakter“ (17). SUC není „příručkou obsahující zásady a normy, kterými se máme řídit“, ale spíše „teologií společenství v dějinách“ (27), která orientuje výklad událostí ve světle evangelia. Ve druhé kapitole Lev XIV. vyjmenovává Základy a principy sociálního učení církve: na prvním místě jmenuje důstojnost člověka, stvořeného k Božímu obrazu a podobě; nedotknutelnost lidských práv, včetně práva na život „od početí až do jeho přirozeného konce“; uznání práv menšin, se zvláštním důrazem na práva žen, kde požaduje, aby jejich hlas byl skutečně slyšen a aby byly doceněny (57).

Právo národů na existenci a vlastní identitu

Pokud jde o zásady SUC, Lev XIV. jich uvádí pět: první je společné dobro, „společenská forma důstojnosti přiznané každému“ (59). Na jednom bodě papež obzvláště trvá: „Prosazování společného dobra nelze nikdy oddělit od respektu k právu národů na existenci, na zachování vlastní identity a na to, aby svou jedinečností přispívaly k rodině národů“. V důsledku toho „je jakýkoli pokus nebo projekt likvidace či podrobení národa hluboce nemorální, a proto nepřijatelný“ (64).

Technologie nesmí být v rukou úzké skupiny lidí

Druhý princip se týká univerzálního určení hmotných statků. Zde i v dalších bodech encykliky Lev XIV. zdůrazňuje, že technologie nemají být soustředěny do rukou úzké skupiny lidí, aby se neprohlubovala propast mezi těmi, kdo jsou do digitální revoluce zahrnuti, a těmi, kteří jsou z ní vyloučeni (67). Z toho vyplývají třetí a čtvrtý princip, a to subsidiarita (68) – která si žádá překonání paternalismu a asistencialismu ve prospěch společné odpovědnosti – a solidarita (73), „princip a ctnost“, jež je protikladem lhostejnosti.

Sociální spravedlnost

Pátým principem SUC je sociální spravedlnost. V digitálním věku musí být všem zaručen spravedlivý přístup k příležitostem, je třeba chránit nejzranitelnější, bojovat proti nenávisti a dezinformacím a podrobit využívání technologií veřejné kontrole. Lev XIV. v této oblasti označuje za vizitku společnosti způsob, jakým nakládá s migranty, kde se ukazuje, „zda je idea spravedlnosti vedena strachem, nebo bratrstvím“. Papež vyzývá jednak k zachování „práva na naději“ pro ty, kdo jsou nuceni odejít, a to zajištěním bezpečných a legálních cest, důstojného přijetí a integrace; jednak k prosazování „práva zůstat“ ve své zemi v pokoji a bezpečí, a to skrze řešení „hlubokých příčin“ migrace (81). Pět výše uvedených principů vztahuje papež také na církev, kterou vybízí ke „zkoumání svědomí“, k naslouchání obětem zneužívání, ať už jde o zneužívání duchovní, ekonomické, institucionální, sexuální, mocenské nebo zneužívání svědomí, neboť to „je nedílnou součástí cesty ke spravedlnosti, která zahrnuje uznání škody, spravedlivou nápravu a prevenci“ (89).

Etický kodex pro AI

Třetí kapitola – Technika a nadvláda. Velikost člověka před přísliby AI – zdůrazňuje, že k AI je třeba přistupovat ostražitě, zachovávat jasnost ohledně odpovědnosti za všechny její kroky (accountability) a zaměřit se na vhodné politiky a právní rámce, nezávislý dohled a vzdělávání uživatelů. Především je zapotřebí etický kodex, který se řídí kritérii sdílené sociální spravedlnosti, protože „nemáme potřebu morálnější AI, pokud o této morálce rozhoduje jen malá skupina lidí“ (107). Nesmíme opomenout ani dopad nových technologií na životní prostředí, jelikož vyžadují velké množství energie a vody (101).

Odzbrojit AI

Je třeba „odzbrojit AI“ – pokračuje Lev XIV. – aby se vymanila z logiky vojenské, ekonomické a kognitivní soutěže; aby se prolomila rovnocennost kladená mezi technickou moc a právo vládnout; aby se vymanila z monopolů a zabránilo se tomu, aby ovládala člověka.

Velký prostor je věnován kritice transhumanismu a posthumanismu, které interpretují pokrok jako překonání lidských limitů. Limit však není vadou, kterou je třeba odstranit, ale konstitutivní dimenzí člověka, neboť právě ve křehkosti a konečnosti dozrává vztah a otevřenost k Bohu a druhému. Když se tedy dovolí, aby se technologie rozvíjela na úkor odstraňování lidských limitů, dochází k „úpadku srdce“. Lidstvo, jakkoli je velkolepé a zraněné zároveň, „nesmí být nahrazeno ani překonáno“. Technologie může zmírnit jeho utrpení a otevřít mu nové možnosti, ale nesmí popírat to, co je mu vlastní: „schopnost vztahu a lásky“ (126). V případě umělé inteligence není skutečnou alternativou volba mezi nadšením a strachem, ale mezi dvěma různými způsoby práce na pokroku: buď ve službě člověku a národům, nebo ve službě logice moci (129).

Ekologie komunikace

Ve čtvrté kapitole – Střežit lidskost procházející proměnou. Pravda, práce, svoboda – encyklika vyzývá k „ekologii komunikace“ založené na pravdě. Papež žádá transparentnost ohledně výběru obsahu, ochrany osobních údajů, seriózní žurnalistiky založené na argumentaci a ověřování, žádá nové povědomí o „správném a kritickém“ používání AI, integraci znalostí. Transparentní a loajální komunikace se vyžaduje také ze strany církve, zejména v případech nespravedlnosti a zneužívání. Akcent je kladen také na výzvu k novém spojenectví v oblasti vzdělání, aby u mladých lidí neuhasla „touha klást otázky“ kvůli dokonalým strojům, které činí lidské myšlení zbytečným (140). Lev XIV. dále žádá, aby škola byla místem, kde se učí „hledat a milovat pravdu“ (147).

Důstojnost práce

V rámci „čtvrté průmyslové revoluci“, kterou představuje digitální transformace, pak papež zdůrazňuje význam ochrany důstojnosti práce, skrze navrhování systémů, které se zaměřují na člověka, a nikoli pouze na výkon. Technologie může jistě zbavit člověka namáhavých nebo repetitivních úkolů, ale nesmí vést k nezaměstnanosti ve jménu snižování nákladů a zvyšování zisku. V tomto smyslu encyklika zmiňuje také obnovu odborových organizací.

Mír a rozvoj

Papež tedy poukazuje na nutnost přestat považovat HDP za měřítko stupně rozvoje jednotlivých zemí. Za relevantní kritéria považuje důstojnost práce, sdílenou prosperitu, snižování nerovností a ochranu životního prostředí. Finance pro finance nejsou totiž totéž do finance určené na rozvoj (159–160).

V duchu svatého Pavla VI. encyklika zdůrazňuje vzájemnou závislost míru a rozvoje, přičemž se volá po mezinárodní spolupráci schopné definovat společné strategie zejména ve prospěch nejzranitelnějších zemí a skupin, protože prosperita přispívá k míru „pouze tehdy, je-li rozšířená, inkluzivní a udržitelná“ (163).

Silně zaznívá také odkaz na rodinu, založenou na stabilním svazku muže a ženy. Encyklika ji charakterizuje jako „primární společenské dobro“, „základní a nenahraditelnou buňku každého společenského uspořádání“ (165), kterou je třeba podporovat i prostřednictvím politiky zaměstnanosti garantující stabilitu a lidské tempo a která chrání sociální schopnost „budovat budoucnost“.

„Architektura viditelnosti“

A konečně téma lidské svobody: V době, kdy jsou digitální platformy navrženy tak, aby zabíraly čas uživatelů a využívaly jejich zranitelnosti, je třeba posílit vnitřní svobodu každého člověka a čelit také riziku sociální kontroly vyplývající z masivního hromadění dat a používání algoritmických systémů. Profilování, předvídání a usměrňování lidského chování je totiž „novou mocí“ (171), která hrozí diskriminací nejslabších. Papež pranýřuje zejména „architekturu viditelnosti“, která šíří pouze to, co je viditelné, a v tomto smyslu formuje názory.

Nové formy otroctví a nový kolonialismus

Umělá inteligence vytváří rovněž nové formy otroctví, jako je otroctví „znetvořených, zmrzačených a vyčerpaných těl“ (173) těch, kteří pracují na těžbě „vzácných surovin“ nezbytných pro tuto technologii. Boj proti novým formám otroctví je proto další „rozhodující zkouškou pro etické rozlišování“ v rámci digitální transformace. Lev XIV. zdůrazňuje, že církev opakuje své rozhodné odsouzení „každé formy otroctví, obchodu s lidmi a jejich komodifikace“. Zároveň papež „upřímně prosí o odpuštění“ za zpoždění, s nímž církev v minulosti odsoudila „metlu otroctví“ (174–176). Encyklika se zmiňuje také o „nových vzácných surovinách moci“, tedy o životně důležitých informacích – například v oblasti zdravotnictví a demografie – používaných k řízení ekonomických strategií: Jde totiž o dosud neznámou tvář kolonialismu, která mění lidské životy ve využitelné informace a činí z digitálního prostředí „prostor pro vykořisťování“ (178–179).

Překonání teorie „spravedlivé války“

V páté kapitole – Kultura moci a civilizace lásky – Lev XIV. pojednává o válce. „Digitální revoluce mění gramatiku konfliktů.“ Bez etického přístupu budou rozhodnutí o životě a smrti lidí stále více neosobní a užití síly bude považováno za „možnost, která je pohotově k dispozici a která je proveditelná“ (182–183). V základu všeho je „kultura moci“, která považuje válku za normální a rehabilituje ji jako „nástroj mezinárodní politiky“, čímž podporuje zbrojení. Na veřejné mínění dnes působí také polarizující mediální narativy, stejně jako „znepokojivá ztráta historické paměti“, která vede k absenci dlouhodobé vize (191). V důsledku toho mír již dnes není chápán jako úkol, který je třeba vzít na sebe, ale jako přestávka mezi konflikty. Proto Lev XIV. zdůrazňuje, že – s výjimkou práva na legitimní obranu v nejužším slova smyslu – je třeba překonat teorii „spravedlivé války“ a podporovat napříště dialog, diplomacii a odpuštění (192).

Žádný algoritmus nečiní válku morálně přijatelnou

Papež Prevost neopomíjí pranýřovat růst zbrojního průmyslu, závod ve zbrojení v oblasti jaderných zbraní, výskyt nových ozbrojených aktérů – včetně džihádistů –, kteří usilují o udržování konfliktů jako zdroje moci a zisku. Výrazně zaznívá varování před používáním zbraní spojených s umělou inteligencí, protože „neexistuje žádný algoritmus, který by mohl učinit válku morálně přijatelnou“. Je zapotřebí stanovit přísná etická omezení, sdílená na mezinárodní úrovni, založená na osobní odpovědnosti a ochraně civilistů, protože „každá technologie, která usnadňuje úder, v němž není vidět tvář druhého, snižuje morální práh konfliktu“ (199).

Krize multilateralismu

Kultura moci pramení také z krize multilateralismu a z nástupu „chaotického a konfliktního multipolarismu“ (201). Sílu práva nahrazuje právo silnějšího; logika moci převládá nad budováním míru a instituce, které vznikly k ochraně společného osudu národů, jsou nyní oslabeny. V tomto kontextu papež vybízí k „hlubokým reformám“ OSN, které by překonaly současnou krizi hodnot ve prospěch společného dobra (226).

Civilizace lásky

Křesťan je povolán reagovat na kulturu moci budováním „civilizace lásky“. Stojí před volbou, zda podpoří logiku síly, nebo bude střežit pokoj. Papež uvádí pět „linií odpovědnosti“: odzbrojit slova tím, že se říká pravda; budovat mír ve spravedlnosti; přijmout perspektivu obětí a zaujmout stanovisko, protože existují konflikty, v nichž „není správné zůstat neutrální“; pěstovat „zdravý realismus“, který hledá cesty k míru proveditelné skutky, nejen slovy. A konečně obnovit dialog přechodem od kultury moci ke kultuře vyjednávání. Rozhodující je také „dialog mezi náboženstvími“, který je nositelem poselství pokoje: „Kdo používá Boží jméno k ospravedlnění terorismu, násilí nebo války, zrazuje jeho tvář,“ varuje Lev XIV. (223).

Velkolepé lidstvo

Na závěr encykliky papež vyzývá věřící, aby nové technologie využívali ve světle evangelia a následovali „cestu střízlivého a náročného křesťanského života“. Aby i v době umělé inteligence mohli všichni svědčit o „kráse velkolepého lidstva, v němž přebývá Bůh“.

překlad článku – jb –

překlad celého znění encykliky se připravuje