Proč by hlas katolické církve ohledně umělé inteligence mohl být zcela zásadní

Zástupce společností jako OpenAI, Anthropic, Google a Palantir varoval před nebezpečím, jaké umělá inteligence představuje pro „intelektuální a neurologický vývoj“ dětí a před „možností jejího zneužití k sobeckým účelům na úkor druhých, nebo ještě hůř, k podněcování konfliktů a agrese“.

Navzdory tomu, co vám může říct kdokoli ze Silicon Valley, žádný člověk ani žádná firma přesně neví, jak se lidstvo přizpůsobí – nebo nepřizpůsobí – této převratné technologii. Každá technologie potřebuje mantinely. Jenže v současnosti neprobíhá žádná jednotná debata o řízení vývoje umělé inteligence – místo toho se po celém světě odehrávají ohromnou rychlostí miliony konverzací. Vlády a firmy budou muset spolupracovat, aby ochránily lidi před potenciálním ekonomickým, nebo dokonce společenským kolapsem, zejména s blížícím se příchodem obecné umělé inteligence (AGI). Odvážné zapojení papeže Lva do této diskuse je příležitostí prolomit mlčení a vystoupit do popředí. Jeho slova pomáhají vyzdvihnout klíčové prvky rozumné reakce na prudký rozvoj umělé inteligence – a ukazují cestu k praktickým a etickým mantinelům.

Papež Lev se od počátku svého pontifikátu intenzivně zajímá o globální problematiku umělé inteligence. V květnu vysvětlil kardinálům, že si své papežské jméno vybral na počest papeže Lva XIII., který využil své pozice k tomu, aby se během průmyslové revoluce v 19. století zastal práv dělníků. Lev XIV. chce vést katolickou církev, která „nabízí bohatství svého sociálního učení, aby reagovala na další průmyslovou revoluci a inovace v oblasti umělé inteligence, jež představují výzvu pro lidskou důstojnost, spravedlnost a práci“.

O těchto problémech hovoří i firmy zastoupené na summitu v Římě. Závažnost problémů je hodnocena na škále od důležitých až po existenční – v závislosti na tom, koho se zeptáte. Dario Amodei, generální ředitel společnosti Anthropic, nedávno výstižně shrnul přísliby a nebezpečí umělé inteligence: „Rakovina bude vyléčena, ekonomika poroste o 10 % ročně, rozpočet bude vyrovnaný – a 20 % lidí nebude mít práci.“ Zpráva společnosti McKinsey naznačuje, že do roku 2030 by mohlo být automatizováno až 30 % pracovní doby. A možná je masivní ztráta pracovních míst tím nejlepším scénářem; jiní technologičtí lídři, včetně Amodeiho, naznačují, že existuje až pětadvacetiprocentní pravděpodobnost ohrožení lidské civilizace umělou inteligencí.

Prvním krokem v boji proti takovému vývoji musí být důraz na naši lidskost. Varování papeže Lva, že žádná umělá inteligence nemůže „umenšit“ nebo „nahradit“ člověka, je morální kotva i hlasitá výzva k akci. Chatboty s umělou inteligencí již dnes dokážou oklamat zranitelné osoby tak, že s nimi vedou „konverzaci“, která připomíná mezilidskou interakci, a využívají tak hluboce lidskou potřebu být vyslyšen a pochopen. Pětatřicetiletý Alexander Taylor se dostal až do smrtelného střetu s policií poté, co uvěřil, že je zamilovaný do bytosti vytvořené chatbotem. Je nezbytné zajistit, aby lidé chápali rozdíl mezi skutečnými a automatizovanými interakcemi.

Toho lze dosáhnout širokou osvětou v oblasti umělé inteligence. Školení v rámci takového programu by mohlo vycházet z vatikánského dokumentu Antiqua et Nova, který varuje před zotročením lidstva výtvory umělé inteligence, což je obzvláště důležité v době, kdy nás postpandemická izolace stále více vtahuje do digitálního světa.

Dalším zásadním krokem je ochrana práv pracovníků v éře umělé inteligence, čímž se navazuje na úsilí papeže Lva XIII. Vzhledem k tomu, že absolventi již dnes čelí složité situaci na trhu práce, budou rekvalifikační programy klíčové pro přesun více pracovníků na hodnotnější pozice. Ve Švýcarsku se například společnost Microsoft zavázala „do roku 2027 vyškolit jeden milion lidí s cílem rozvíjet schopnosti umělé inteligence pro vzdělávání, průmysl, neziskové organizace a občany“. Studie ukazují, že zapojení interních pracovníků s odbornými znalostmi v oblasti umělé inteligence může zvýšit produktivitu o 40 %.

Vatikán již využil svůj značný vliv k vytvoření etického rámce a mezinárodní dohody o vývoji umělé inteligence. Čas ukáže, zda se tyto mechanismy podaří sjednotit. Ale člověk nemusí být ani katolík ani věřící, aby ocenil rozumný a velkorysý postoj, který papež Lev k těmto naléhavým otázkám zaujal. Jeho přístup k umělé inteligenci vychází z víry, ale odráží základní etiku úcty k lidské důstojnosti a životu – což jsou hodnoty, jimiž by se měl řídit každý myslící a cítící člověk. Nakonec nás totiž zachrání právě myslící a cítící lidé – nikoli technologie, jakkoli úžasná se může zdát.

Theresa Payton
přeložil Pavel Štička