Папа Лъв XIV обяви изкуствения интелект за едно от определящите морални предизвикателства на нашето време в първата си енциклика: официално писмо, предназначено да насочва моралната, социалната и богословската мисъл. Озаглавена „Magnifica Humanitas“ („Великолепното човечество“), тя твърди, че технологиите трябва да служат на човечеството, а не да концентрират власт или да отслабват човешкото достойнство.
Той я представи във Ватикана заедно с разработчика на изкуствен интелект Кристофър Олах, съосновател на Anthropic, който призна, че компании като неговата се нуждаят от морално ръководство, за да се предпазят от „стимули и ограничения, които понякога могат да противоречат на правилното постъпване“.
„Технологията не е просто инструмент. Когато се превърне в стандарт, по който се оценява всичко, тя започва да диктува кое е важно и кое може да бъде изхвърлено, свеждайки творението до обект на експлоатация, а човешките същества до обикновени зъбни колелца в система, насочена към все по-голяма ефективност“, се казва в отвореното писмо от приблизително 42 300 думи.
В него се предупреждава, че изкуственият интелект никога не е наистина неутрален, а „приема характеристиките на тези, които го разработват, финансират, регулират и използват“. И се призовава за етичен надзор, социална справедливост, защита на работниците, отговорно управление и мир.
Автоматизирана война
Енцикликата критикува използването на изкуствен интелект във войната, призовавайки за налагане на „най-строгите етични ограничения“ върху оръжията, разработени с помощта на изкуствен интелект.
Тъй като правителствата инвестират сериозно в автономни военни технологии и отбранителни системи, подпомагани от изкуствен интелект, нарастващата лекота на тяхното разполагане прави войната по-вероятна и по-малко подвластна на човешки контрол, предупреждава папата. Това нарушава принципа, че въоръжената сила трябва да се използва само като последна мярка в случаи на законна самозащита.
Писмото също така критикува нарастващата концентрация на технологична мощ и системите, които свеждат хората до данни или икономически функции. То насърчава това, което нарича „цивилизация на любовта“, съсредоточена върху човешкото достойнство, солидарността, истината, състраданието и общото благо.
Отговорът на папа Лъв на революцията на изкуствения интелект умишлено препраща към отговора на неговия предшественик папа Лъв XIII на проблемите на индустриалната революция, Rerum Novarum („За новите неща“), през 1891 г. Въпреки че Magnifica Humanitas е публикувана на 25 май 2026 г., тя е символично датирана на 15 май, датата на Rerum Novarum.
От индустриалната революция до революцията на изкуствения интелект
Енцикликата не е обикновено папско изявление. Традиционно адресирана до епископите и по-широкия католически свят, тя е един от най-авторитетните учебни документи на католическата църква.
Папата вече няма пряката политическа власт, която папството е имало през 19 век. Но папското учение все още носи морална тежест в глобалната католическа мрежа от училища, университети, благотворителни организации, болници и обществени организации.
Ватиканът не може да регулира изкуствения интелект. Той не може да пише стандарти за безопасност, да контролира центровете за данни или да принуждава компаниите да разкриват как работят системите им. Но може да помогне за оформянето на моралните условия на дебата. Повече от век католическото социално учение е влияело на обществените спорове за работата, неравенството, бедността, човешкото достойнство и етичните граници на икономическата власт.
Въпреки че папите са издавали енциклики много преди модерната епоха, Rerum Novarum прави социалните енциклики глобално влиятелни.
Тя се противопоставя на експлоататорските условия на труд, нарастващото неравенство и конфликтите между работници и работодатели. Папа Лъв XIII защитава правата на работниците и твърди, че богатството носи социални отговорности. Той критикува както неограничения капитализъм, така и революционния социализъм.
Документът повлиява на дебатите за трудовите права и икономическата справедливост далеч отвъд църквата. В Австралия през 1907 г. съдия Х. Б. Хигинс се позовава на Rerum Novarum, когато установява принципи за справедливо заплащане, осигуряващо прехрана.
Енцикликата на папа Лъв XIV се опитва да направи за ерата на изкуствения интелект това, което Rerum Novarum прави за индустриалната епоха: да осигури морална рамка за технологична трансформация, преобразяваща работата, властта и човешките взаимоотношения.
Човешкото достойнство в ерата на алгоритмите
Папа Лъв XIV твърди, че човешките права не се предоставят от правителства или корпорации: те произтичат от присъщото достойнство на всеки човек. Технологиите трябва да служат на човечеството, а не да свеждат хората до данни, икономически единици или проблеми с оптимизацията.
Той надгражда критиката на папа Франциск към тенденцията да се оставя логиката на ефективност, контрол и печалба единствено да оформя личните, социалните и икономическите решения в неговата енциклика от 2015 г. Тя също предупреждава за рисковете от технологиите.
Папа Лъв XIV твърди, че моралната отговорност не може да бъде прехвърлена върху автоматизирани системи, независимо колко сложни стават те. Той също така отхвърля трансхуманистичните идеи, че човешките ограничения трябва да бъдат технологично преодолени, като твърди, че уязвимостта, зависимостта и несъвършенството са от съществено значение за това да бъдеш човек. Взаимоотношенията, грижата, солидарността и състраданието не са слабости.
„Човечеството процъфтява не въпреки ограниченията, а често чрез тях.“
В цялата енциклика се проявява контраст между „култура на властта“ и „цивилизация на любовта“. Едната третира технологиите предимно като инструмент за господство и контрол. Другата поставя човешкото достойнство, справедливостта и грижата в центъра на социалния живот.
Защо това е важно
Значението на Magnifica Humanitas се крие в способността ѝ да оформя обществения разговор и моралното въображение. Моралните рамки са важни. Те влияят върху това, от което се страхуват обществата, какво толерират, какво защитават – и какво отказват да жертват.
Правителствата инвестират във възможности за изкуствен интелект, като същевременно разработват рамки за прозрачност, отчетност и безопасно внедряване. Предприятията бързо внедряват инструменти с изкуствен интелект. Училищата и университетите преосмислят оценяването, авторството и обучението. От работниците се иска да се адаптират към системи, които не са проектирали и често не могат да оспорят. А гражданите все повече биват управлявани, оценявани и насочени към автоматизирани системи, които може би никога няма да видят.
Намесата на папа Лъв XIV напомня, че централният въпрос не е дали изкуственият интелект ще бъде мощен: той вече е. Въпросът е дали тази сила ще бъде отговорна за човешкото достойнство.
Бъдещето на изкуствения интелект няма да се решава само в лаборатории, заседателни зали или парламенти. То ще се решава и от моралните граници, които обществата са готови да поставят. Енцикликата на папа Лъв XIV е опит да се очертаят тези граници.
The Conversation/превод: SafeNews
