Lev XIV.: Patero zásadních etických témat umělé inteligence

Papežská akademie pro život spolu s Institutem pro budoucnost života pořádají interdisciplinární setkání s tématem „Budoucnost AI: Dialog mezi Vatikánem a vědeckým světem o rozvoji a uplatnění inteligentních technologií“. Jeho účastníky v pátek 30. října přijal papež Lev XIV., který jim svěřil pět klíčových podnětů k dalšímu rozpracování.

Lev XIV. poděkoval účastníkům konference za pestrost podnětů z nejrůznějších částí světa i za pozornost, kterou fenoménu umělé inteligence věnují. „Papežská akademie pro život si je velmi dobře vědoma rizik, která vyvstávají, kdykoli je ohrožena lidská důstojnost,“ vyjádřil papež Lev své ocenění pro činnost této instituce. Připomněl projev papeže Františka ke světovým leaderům v rámci skupiny G7 i vlastní encykliku Magnifica humanitas. Přítomným i veřejnosti nabídl pět zásadních bodů k úvaze.

Na prvním místě se papež zamyslel nad budoucím vývojem AI: „Budoucnost umělé inteligence není předem daná. Je to technologie vyvinutá lidskými bytostmi, proto její budoucnost závisí na rozhodnutích, která my lidé učiníme. (…) Rozhodující otázka není „co AI dokáže“, nýbrž „k jakému účelu má sloužit“. Ti, kdo vidí její vývoj jen jako závod, který musí vyhrát, riskují, že se zaměří jen na cílovou čáru a zapomenou na ty, co zůstali vzadu.“

Člověk má právo na lidské zacházení

Druhým tématem byla reálná a zdánlivá lidskost. Lev XIV. zdůraznil, že produkty techniky a technologie, které necítí radost ani bolest, nedozrávají ve vztazích a nemají vlastní zkušenost s láskou, přátelstvím či odpovědností, nejsou osoby, nýbrž nástroje, a odmítl snahu přiznat systémům AI legální práva či postavení: „Takový přístup s sebou nese riziko, že zatemní lidskou odpovědnost a ponechá trpící napospas entitě bez tváře.“

Odpovědnost samotná je třetím důležitým bodem k úvaze. „Určitá rozhodnutí nikdy nesmějí být delegována. Člověk, který se ocitne na seznamu cílů nebo v databázi hraniční kontroly, je vystaven nebezpečí, že bude redukován jen na souhrn dat. Rozhodnutí, která zasahují lidský život, svobodu a užití síly, musí vždy zůstat pod účinnou, informovanou a zodpovědnou lidskou kontrolou.“ Proto také papež připomněl svou výzvu vůči zástupcům států v Ženevě stran zákazu autonomních smrtonosných zbraní.

Žádná technologie nemůže být mimo lidský dosah

Nové technologie také nesmějí zůstat samy sobě cílem či nástrojem prospěchu jen několika málo privilegovaných lidí. Proto je čtvrtým papežovým impulzem otázka společného dobra: principy solidarity a spoluúčasti v rámci celého světového společenství musí zajistit rovný přístup a podíl na přínosu těchto technologií, na prvním místě těm nejpotřebnějším

Na pátém místě stojí podle Lva XIV. výzva: jak uvedené požadavky a etické principy uvést do praxe, resp. jak je zajistit na mezinárodní scéně: „To, co nyní nutně potřebujeme, jsou zvlášť účinné mezinárodní instituce, které budou moci chránit celosvětové společné dobro. Z toho vyplývá naléhavá potřeba sdílených standardů, nezávislé kontroly a zřetelné mechanismy přičitatelnosti, aby mohla být rozhodnutí ohledně rozvoje a užívání AI podrobena kontrole, v případě potřeby i přehodnocena, a spojena s přiměřenými prostředky pro nápravu jakékoli škody.“

Tato témata svěřil papež Lev účastníkům konference „v duchu dialogu a sdílené odpovědnosti za společné dobro“. K jejich úsilí jim udělil požehnání.