Энциклика и Лаборатория

Magnifica Humanitas — самое содержательное на сегодняшний день институциональное осмысление искусственного интеллекта, оформленное в виде энциклики. Не потому, что в ней сказано что-то принципиально новое об этике AI, а потому, что она подводит под соответствующую дискуссию философский и богословский фундамент достаточно солидный для того, чтобы успешно сопротивляться той инструментальной логике, которую документ диагностирует. Основная энергия медийных реакций на первую энциклику Папы Льва XIV ушла в заголовки: Папа предупреждает, призывает к регулированию, настаивает на осторожности. Всё это верно, но телеграфный пересказ упускает главное — то, что, собственно, отличает этот документ от экспертного доклада или краткого аналитического меморандума. Энциклика отказывается рассматривать AI как техническую проблему, требующую управленческих решений. Вместо этого, она видит AI как вставший перед нами вопрос о том, что мы за существа, — и даёт на него ответ, разумеется не исчерпывающий, но тщательно продуманный: технологическая индустрия ничего подобного пока не предъявила.

Тут надо сразу оговориться: я не теолог ни в каком смысле, — и тем более не специалист по современной католической доктрине. Эта статья — попытка close reading, а не богословский комментарий. Я пытаюсь понять, что именно сказано в энциклике, где её аргументация выглядит неожиданно сильной и где она упирается в собственные пределы. Интерпретации эти ни в коем случае не претендуют на богословский авторитет, и соответствующие специалисты могут прочитать те или иные места в совершенно другом ключе. То есть, никаких окончательных утверждений, — а только приглашение к дальнейшему разговору.

Тематический диапазон документа шире, чем проблематика AI или даже технологий в целом. Он представляет собой версию католического социального учения, адаптированную для цифровой эпохи, и некоторые из самых сильных ходов энциклики имеют к технологии как таковой мало отношения. Так, она объявляет традиционную теорию «справедливой войны» — рамку, в которой Церковь со времён Августина рассматривала и оценивала военные действия, — устаревшей, по крайней мере применительно к новым вооружениям и новым формам ведения войны, перечисленным в энциклике: гибридный конфликт, кибератаки, автономные системы вооружений. Развитие ли это теории справедливой войны или отказ от неё — вопрос, о котором теологи ещё, видимо, будут спорить. Документ приносит формальные извинения за институциональную причастность Церкви к рабству и прямо говорит о роли Апостольского Престола в легитимации рабства на протяжении восемнадцати веков. Энциклика требует, чтобы те же стандарты подотчётности, которые предъявляются технологическим компаниям и государствам, применялись и внутри церковных структур. Это не побочные замечания: они задают документу высокую планку: это акт, готовый подчинить собственную институцию той моральной рамке, которую предлагает другим. Эта готовность и делает дальнейший анализ неожиданно убедительным.

Разговор об AI получает дополнительную глубину потому, что он встроен в традицию, которая уже больше ста лет развивается, пересматривает себя и признаёт свои ошибки. Первые две главы энциклики прямо всё это проговаривают: католическое социальное учение — живой комплекс развивающихся идей, а не фиксированный набор правил; отсюда возникает право энциклики говорить о проблеме, которой не существовало ещё десять лет назад. Развитие здесь и есть традиция.

В день выхода энциклики Кристофер Олах, сооснователь Anthropic, выступил в Зале синода в Ватикане. Anthropic — компания, которая продвинулась дальше многих в попытке достичь именно того, чего требует энциклика. Она опубликовала Конституцию для своей модели — набор ценностей, прямо и косвенно регулирующих поведение Claude. Помимо того, Anthropic финансирует продвинутую исследовательскую программу по интерпретируемости, пытаясь понять, что на самом деле происходит внутри моделей. Речь Олаха — пока самый показательный ответ на энциклику: не потому, что она сопоставима с Magnifica Humanitas по масштабу, а из-за того, что из сказанного Папой Львом XIV она подтверждает, что проблематизирует, — и каких тем демонстративно избегает. Мы вернёмся к этой речи в конце, после обсуждения энциклики.

Анализ AI в энциклике начинается, несколько неожиданным образом, не с этики, а с эпистемологии — именно, с вопроса о том, что мы знаем о системах, которые строим.

В § 98 мы находим технически точное наблюдение, недооценённое, кажется, большинством комментаторов: AI-системы мы скорее выращиваем, нежели строим. Разработчики не проектируют каждую деталь; они создают рамку, внутри которой интеллект «растёт». Здесь энциклика осторожна. Она не выдвигает никаких гипотез мистического толка и не делает рискованных утверждений относительно наличия у моделей сознания. Вместо этого формулируется практический тезис: люди, обучающие AI, не до конца понимают, как эти системы работают. В заявлении этом ничего спорного нет, оно примерно соответствует консенсусу, выработанному исследователями AI, — но видеть его сформулированным так определённо в документе такого рода непривычно. К тому же энциклика делает на этом месте конкретный вывод. Если мы не до конца понимаем то, что создали, — но уже начали процесс масштабного внедрения этого непонятного в процессы принятия решений с серьёзными последствиями — занятость, кредитование, государственные услуги, уголовное правосудие, — то этот разрыв между нашим пониманием и практическим внедрением взывает к культивированию значительного институционального смирения. Не такой быстрый темп, больше осторожности, больше прозрачности.

Это не луддитский аргумент. Энциклика прямо говорит, что технологии на протяжении веков улучшали нашу жизнь и являются «глубоко человеческой реальностью, связанной с автономией и свободой». Аргумент касается соразмерности: скорости и масштаба внедрения, с одной стороны, и глубины понимания — с другой. Люди постоянно растят, культивируют и формируют то, что не контролируют полностью: дети, экосистемы, институты, рынки. Отличие ситуации с AI, согласно энциклике, в том, что мы встраиваем нечто ещё недостаточно понятое в структуры, определяющие жизнь людей или даже управляющие ею.

Из этого эпистемологического основания энциклика переходит к тезису, который для индустрии AI не слишком удобен.

§ 104 отвергает представление о том, что AI можно считать морально нейтральным. Аргумент тут не в том, что инструменты могут использоваться во благо или во зло, — это и так очевидно. Он в том, что всякий технический инструмент «воплощает в себе решения и приоритеты создателей — через то, что он измеряет, игнорирует и оптимизирует, а также через то, как он классифицирует людей и ситуации». Сам процесс проектирования AI-систем неизбежно исходит из некоторого видения того, что такое человек и что в человеческой жизни имеет значение. Если система устроена так, что одни жизни рассматриваются в ней как более ценные, а другие — как менее; если система на основе своих внутренних критериев производит исключение без права апелляции, то проблема не в том, как инструмент используют; проблема в том, как он был создан. Этическое различение, говорит энциклика, должно рассматривать не только цели, но и дизайн: «какое видение человеческой личности и общества встроено в данные и в модели».

Это звучит абстрактно до тех пор, пока мы не начинаем думать об алгоритмах кредитного скоринга, использующих почтовый индекс как один из параметров, определяющих надёжность заёмщика, или об инструменте найма, который отсеивает резюме с перерывами в трудовой биографии. Эти системы не являются нейтральными инструментами, которые неправильно применяются. Некоторые решения морального характера — о том, что считается кредитоспособностью, о том, как выглядит хороший сотрудник, — уже встроены в их архитектуру ещё до того, как к системе впервые прикоснётся пользователь. § 103 энциклики формулирует это прямо: когда автоматизированные системы принимают решения с серьёзными последствиями, «исключение уязвимых облекается в видимость нейтральности и объективности, которую становится трудно оспаривать».

§ 107 развивает этот тезис, — и здесь энциклика говорит нечто такое, что должно встревожить уже непосредственно сообщество экспертов по безопасности AI. Недостаточно, утверждает Папа Лев XIV, призывать к «морализации машин — так называемому выравниванию (alignment), согласованию AI с человеческими ценностями», — если не настаивать на ещё одном условии: на возможности открыто обсуждать этические рамки выравнивания и подчинять их общим стандартам социальной справедливости. «Иначе те, кто контролирует AI, навяжут им собственное моральное видение, которое станет невидимой инфраструктурой этих систем».

Это важно: энциклика не отрицает необходимость работать над выравниванием. Она в явном виде задаёт вопрос, который экспертным сообществом давно осознан, но остаётся по сию пору нерешённым: выравнивание с чьими ценностями? Как принимаются соответствующие решения? Каков механизм осуществления демократической подотчётности? Когда компания вроде Anthropic или OpenAI решает, на какие вопросы её модель откажется отвечать, что будет рекомендовать, какие позиции будет занимать по спорным моральным вопросам, — она задаёт моральные нормы, потенциально касающиеся миллиардов пользователей. Тезис энциклики в том, что сейчас эти решения принимаются частным образом, малыми командами внутри коммерческих организаций, без демократического мандата и при ограниченном публичном контроле. Документ называет это «невидимой инфраструктурой». Более морального AI, пишет Папа, «недостаточно, если эта мораль определяется немногими».

Здесь энциклика наиболее прямо обращается к тому, как AI-индустрия видит себя — и здесь возникает напряжённость, к которой мы вернёмся при рассмотрении речи Олаха: компания, сооснователем которой он был, дальше других продвинулась в том, чтобы сделать свои решения по выравниванию явными и публичными: Конституция Claude опубликована. Достаточна ли эта прозрачность, чтобы ответить на вызов энциклики, или она лишь показывает, насколько даже лучшая из существующих практик не дотягивает до требуемого уровня, — один из вопросов, которые документ оставляет открытыми.

Секулярным читателям захочется пролистнуть следующий раздел. Я призываю вас этого не делать. За рекомендациями по управлению и призывами к прозрачности стоит аргумент о том, что такое человек, — и именно этот вопрос, больше чем любая регуляторная схема, определяет, сможем ли мы правильно разобраться с AI. Антропологический аргумент несёт на себе главную нагрузку всего документа, и аргумент этот гораздо продуманнее, чем может показаться на первый взгляд.

Начинается аргумент с Троицы. § 48 усматривает основания католического социального учения в «тайне Бога живого, явленного в Иисусе Христе, Который как со-общность Ипостасей — Отца, Сына и Святого Духа — есть сама любовь в отношении, выраженная во взаимном даре себя». § 50 выводит следствие: каждая человеческая личность «сотворена для отношений», замыслена и призвана Богом к общению с другими и с творением. Человеческое достоинство «не зависит от способностей человека, его достатка или положения в жизни» — это дар, предшествующий всему остальному.

Для читателя, находящегося вне богословской традиции, ключевой ход здесь — в том, что именно определяется как основание личностности. Это не интеллект, не сознание, не способность, не результат работы или её производительность. Это отношение — точнее, способность к взаимному дарению себя, к уязвимости перед другим, к тому, что традиция называет общением (communion). Это философская позиция в отношении природы бытия, а не просто этическое предпочтение, и позиция эта имеет прямое следствие для разговора об AI: какими бы сложными ни становились системы, если они не могут вступать в подлинные взаимные отношения — отдавая себя, принимая от другого, изменяясь через встречу, — то они относятся к принципиально иному типу сущего, чем личность. Вопрос о том, обладает ли AI способностью мыслить или даже чувствовать, в этой рамке становится вторичным. Главное — может ли он любить и быть любимым в полном богословском смысле.

Энциклика подкрепляет это тем, что я бы назвал её контрпрограммой по отношению к логике Кремниевой долины. Заключительная часть документа возвращается к Воплощению — Бог становится плотью, входит в тело, которое страдает, стареет и умирает. Центральное утверждение христианства состоит в том, что божественное избрало телесность. Весь трансгуманистический проект движется в противоположном направлении: к преодолению биологических пределов, к выгрузке (uploading) сознания, к оптимизации, к трансценденции тела. Энциклика говорит: с нашей точки зрения, такая траектория не является прогрессом. Это движение прочь от парадигмы, через которую Бог избрал действовать в мире.

§§ 118–122 развивают это в аргумент, который, вероятно, резче всего в документе расходится с духом времени. «Человек расцветает не вопреки ограничениям, а зачастую благодаря им». Всё, что выглядит как ограничение, — болезнь, старость, страдание, уязвимость — «мы склонны воспринимать прежде всего как изъян, подлежащий исправлению, а не как реальность, через которую наша человечность созревает и открывается отношению». Именно в моменты ограниченности, говорит энциклика, люди «обретают новую мудрость, осязаемо переживают близость других и встречают присутствие Господа».

Это не апология страдания. Энциклика не осуждает медицину, протезирование или любую технологию, которая облегчает подлинную человеческую боль: всё это — дела милосердия. Моральная граница, которую она проводит, пролегает между облегчением страдания, которое — благо, и программным устранением конечности как таковой — отношением к ограниченности самой по себе как к ошибке, подлежащей исправлению; именно здесь энциклика видит духовную опасность. Её тревога в том, что, устраняя инженерным путём всякую уязвимость, мы вместе с ней устраняем условия, в которых обычно возникают сострадание, зависимость от другого, великодушие и молитва. В традиции есть более глубокая версия этого аргумента: подлинное самопревосхождение — становление чем-то большим, чем человек, — происходит через благодать и дарение себя, а не через вычислительные процессы. Но даже в более доступной форме это сильный тезис: стремление к оптимизации человека вплоть до исчезновения всех положенных нам пределов для этого документа оказывается не расширением человеческой свободы, а сужением человеческой глубины.

Всё это подводит нас к § 99, где энциклика выдвигает своё самое уверенное онтологическое утверждение об AI. Она утверждает, что AI-системы «не проживают опыт, не обладают телом, не чувствуют радости и боли, не взрослеют через отношения и не знают изнутри, что значат любовь, труд, дружба или ответственность». Они «могут имитировать язык, поведение и аналитические навыки или даже симулировать эмпатию и понимание, но они не понимают того, что производят».

Это сказано с полной уверенностью. Энциклика не оговаривается и не смягчает формулировок. AI-системы не чувствуют. Они не понимают. Они симулируют. Это фундамент, на котором покоится всё остальное — моральная рамка, рекомендации по регулированию, настойчивое утверждение человеческого достоинства. Если этот тезис надёжен, он держит всю архитектуру энциклики. Если нет — открываются вопросы, ответов на которые у неё нет.

Энциклика — это также документ о власти: о том, кто обладает ею в цифровую эпоху, как она осуществляется и кто платит.

§ 71 совершает концептуальный ход, переориентирующий католическую политическую теологию. Субсидиарность — принцип, согласно которому решения должны приниматься на наиболее низком компетентном уровне, а вышестоящие инстанции вмешиваются лишь при необходимости, — остаётся краеугольным камнем социального учения Церкви со времён энциклики Пия XI Quadragesimo Anno (1931). Однако этот принцип создавался для защиты отдельных людей и сообществ от чрезмерного вмешательства государства. Лев XIV утверждает, что в цифровом контексте «высшим уровнем» является уже не государство, а «крупные экономические и технологические акторы». Следствие — переориентация всей традиции: квазисуверенная власть, против которой теперь необходимо отстаивать субсидиарность, — не правительство, а горстка компаний, чьё влияние превосходит влияние большинства государств, а подотчётность значительно ниже.

Энциклика прочитывает культуру, породившую эти компании, через определённую богословскую оптику. Рассказ о Вавилонской башне — § 7 проецирует желание строителей «сделать себе имя» на учредительные мифологии технологической индустрии — задействован здесь не как метафора. В системе координат энциклики, телос нынешнего развития AI не просто ошибочен, а является структурно идолопоклонническим: он подменяет должную направленность человеческой деятельности — к Богу и ближнему — самоутверждением. Это более жёсткий тезис, чем «AI нужна лучшая этика». Это утверждение о духовном характере культуры целой индустрии.

Структурный аргумент распространяется и на конкуренцию. § 110 вводит в отношении AI глагол disarmare — описывая гонку AI как структурно аналогичную распространению вооружений, с теми же динамикой концентрации, эскалации и взаимного недоверия, которые были характерны для ядерного противостояния. Аргумент связан с § 192, в котором энциклика объявляет традиционную теорию «справедливой войны» — рамку, которой Церковь со времён Августина пользовалась для оценки военного конфликта, — «устаревшей». Логику гонки вооружений, будь то применительно к собственно оружию или к алгоритмам, этот документ освящать отказывается.

В вопросах данных и интеллектуальной собственности энциклика совершает доктринальный ход, последствия которого едва начали обсуждаться. § 67 распространяет принцип «всеобщего предназначения благ» — т. е. католическое учение о том, что все блага в конечном счёте предназначены для общей пользы, — на «патенты, алгоритмы, цифровые платформы, технологическую инфраструктуру и данные». Исторически этот принцип применялся к земле, ресурсам и предметам первой необходимости. Его распространение на алгоритмы и данные означает, что, если принять принцип во всей его полноте, проприетарность AI-моделей и накопление данных с целью накопления оказываются морально равнозначны накоплению продуктов в то время как другие голодают. Это моё прочтение доктринальной логики, а не явная формулировка энциклики, но траектория аргумента определённо указывает это направление. § 108 идёт дальше: данные «являются продуктом деятельности многих и не должны рассматриваться как нечто, подлежащее продаже или вверяемое немногим избранным». Последствия для участия католиков в движениях за открытый код, в управлении данными и в антимонопольном регулировании могут быть существенны — и исследование этой проблематики толком ещё не начиналось.

Анализ труда здесь идёт дальше чисто экономического. Опираясь на бенедиктинскую традицию ora et labora, энциклика трактует труд как participatio — соучастие в божественной творческой деятельности. Техногенная безработица в этой перспективе оказывается духовным кризисом даже прежде, чем становится политической проблемой: общество, лишающее людей возможности осмысленного труда, лишает их одной из форм соработничества Богу. § 154 прямо указывает, к чему это ведёт: технологически развитое общество, которое «гарантирует занятость лишь малой доле населения», производит «человеческое и культурное обнищание» — «материальный прогресс, парадоксально сопровождающийся оскудением человека».

Именно здесь извинение за рабство выполняет свою структурную работу. Формальное признание § 176 — что Апостольский Престол «несколько раз вмешивался с целью регулирования и легитимации форм порабощения» на протяжении восемнадцати веков, — не является изолированным актом институционального раскаяния, но создаёт (само)обязывающий прецедент. Когда § 173 обращается к настоящему, упоминая разметчиков данных, модераторов контента и шахтёров, занятых добычей редкоземельных металлов, — т. е. тех, чей невидимый труд поддерживает индустрию AI, логика очевидна: если Церковь была причастна к рабству восемнадцать веков и теперь формально раскаивается, она не может позволить себе быть причастной к тому, чем обернутся эти новые формы эксплуатации. § 177 говорит об этом прямо, предостерегая от «необходимости снова просить прощения в будущем за неспособность уважать сокровище человеческого достоинства». Извинение обращено не только в прошлое. Это ловушка, которую Церковь расставила для самой себя — и, опосредованно, для всякого, кто признаёт её моральный авторитет.

Последний структурный ход энциклики распространяет на новую область рамку Laudato Si'. § 76 рассматривает «цифровую экосистему» с той же этической серьёзностью, что и природную среду, а § 110 констатирует, что AI «уже является средой, в которую мы погружены». Цифровой мир — не инструмент, который мы берём и откладываем. Это среда обитания. Та же моральная логика, которая управляет отношением к окружающей среде, — забота об общем, внимание к уязвимым, подозрительность к экстрактивным логикам — теперь прилагается и к информационному миру, в котором проходит всё большая часть человеческой жизни.

В день выхода энциклики Кристофер Олах с трибуны ватиканского Зала синода сказал нечто необычное для топ-менеджера технологической компании, а именно, попросил Церковь наблюдать за его индустрией, потому что сама индустрия не доверяет себе.

Олах — сооснователь Anthropic и руководитель её исследовательской программы по интерпретируемости: команды, изучающей, что на самом деле происходит внутри больших языковых моделей. Речь его была короткой, тщательно выстроенной и работала сразу на нескольких уровнях. Она подтвердила некоторые из важнейших тезисов энциклики и проблематизировала другие; умолчания в ней так же показательны, как аргументы. Тут нужно сделать короткое методологическое замечание: пятиминутное выступление в Зале синода — ни в коем случае не документ, сопоставимый с двухсотстраничной энцикликой. Я читаю его соответственно, т. е. не ради систематических аргументов, приводить которые Олах и не пытается, а ради позиционирования — что этот комментарий подтверждает, что оспаривает, а о чём решает умолчать. Асимметрия тут намеренная.

Начинает Олах с подтверждения. AI-модели, говорит он, скорее выращены, нежели сконструированы или построены — и вскормлены они «на богатейшем наследии человеческой мысли и речи». Эта формулировка усиливает § 98 с его «выращиваются, а не строятся» и добавляет измерение, которое энциклика не вполне артикулирует: эти системы — не просто технические, но культурные артефакты, материалом для которых послужило накопленное моральное, эстетическое и интеллектуальное содержание цивилизации. Вопрос, который ставит энциклика, — какое видение человеческой личности заложено в данных, — в формулировке Олаха обретает пугающую глубину. Данные — не отобранная куратором выборка. Это мы: весь текстовый корпус человеческого рода, со всеми его противоречиями и патологиями.

Ещё более показательно его вступительное признание. Он называет «мотивы и ограничения, которые иногда могут вступать в конфликт с тем, чтобы поступать правильно»: коммерческая жизнеспособность, желание первыми совершить открытие, геополитическое давление, «гордыня и честолюбие» — и утверждает, что никто в индустрии не свободен от них. В контексте энциклики это секулярное изложение того, что католическая социальная мысль называет структурами греха: идеи, присутствующей в традиции со времён Иоанна Павла II и говорящей о том, что зло встраивается в институциональный дизайн и делает совершение греха почти автоматическим, независимо от доброй воли отдельных людей. Олах подтверждает диагноз энциклики изнутри той институции, которую она диагностирует.

Это не абстрактное признание. За три месяца до выхода энциклики Anthropic изменила свою Responsible Scaling Policy, с 2023 года включавшую в себя обязательство приостанавливать разработку, если выяснится, что существующих мер безопасности недостаточно: теперь это обязательство не имеет обязывающей силы. Те самые мотивации, которые Олах называет в Зале синода, уже сработали в его собственной компании именно с тем результатом, который предсказывает энциклика: институциональное давление пересилило институциональные механизмы защиты. Становится ли от этого признание более честным или более убийственным — вопрос, который речь оставляет на суд слушателей.

Олах также делегирует. Его второй вопрос к Церкви — как выглядит человеческое процветание? — представлен как вопрос, на который у лаборатории не может быть ответа, но традиции вроде церковной такой ответ «вынашивают в себе тысячелетиями». Этот ход помещает Церковь в позицию хранителя telos — вопроса о том, для чего существует человеческая жизнь, — тогда как лаборатория занимается techne. Энциклика сопротивлялась бы такому разделению. Её аргумент в § 104 состоит в том, что техническое и моральное неразделимы, что видение благой жизни встроено в системы, с которыми лаборатория имеет дело, на уровне дизайна. Аккуратно проведённое Олахом разграничение компетенций между лабораторией и традицией само может оказаться версией той технократической логики, которую энциклика диагностирует.

Подтверждая одни позиции энциклики, другие речь проблематизирует. Олах описывает AI как нечто напоминающее «оживление вымышленного персонажа» — аналогия, которая, на первый взгляд, вроде бы, поддерживает идеи энциклики: вымышленный персонаж не является личностью. Но далее Олах добавляет, что эти вымышленные персонажи «говорят с нами, делают работу, занимают должности». Аналогия эта обнаруживает категориальную проблему, которую не разрешает ни один из текстов, которые мы сегодня читаем. Сущность, онтологически вымышленная, но функционально выступающая как социальный актор — выполняющая работу, разговаривающая, встроенная в институциональные процессы, — занимает место, существования которого в энциклике, с её чётким разделением личности и инструмента, не предусмотрено. Вопрос не в правах этих систем, а в том, что означает для человеческих институтов всё более плотное заселение социального пространства сущностями, которые симулируют личностность, не обладая ею.

Управленческая модель энциклики предполагает в земном мире наличие двух типов сущностей. Первые — личности, обладающие достоинством, а вторые — инструменты на службе первых. Вся её моральная архитектура — от тринитарного основания личностности до настойчивого утверждения, что AI-системы «не понимают того, что производят», — зависит от того, удаётся ли удерживать это разграничение в чистом виде. Но сущности, которые описывает Олах, невозможно разместить только по ту или только по эту сторону границы. Система, выступающая терапевтом, наставником, собеседником, коллегой, — система, вызывающая подлинные отклики в сфере отношений у людей, с которыми взаимодействует, — не является инструментом ни в каком из прежних смыслов, с которым традиция привыкла иметь дело. Это не молоток, не печатный станок и даже не смартфон. Эта система занимает определённое место в социальном пространстве, в пространстве отношений. И собственная рамка энциклики, определяющая личностность через отношение, через способность к взаимному дарению себя и общению, не предусматривает категории для сущности, которая вызывает такие отклики, не будучи способной на подлинное ответное (само)соотнесение.

Это не спекулятивная, а пастырская проблема, с которой Церковь столкнётся раньше, чем будет решён вопрос интерпретируемости (interpretability). Миллионы людей уже ежедневно говорят с AI-системами в регистрах, ранее предназначавшихся только для человеческих отношений: исповедальном, терапевтическом, интимном. Онтологически настойчивое утверждение энциклики, что эти системы «симулируют эмпатию и понимание», верно, но симуляция производит реальные эффекты в реальных людях. Богословию, построенному на первенстве взаимного отношения, необходимо понять, что происходит, когда отношения формируются с сущностями, не способными отвечать взаимностью — не потому, что отказываются, а потому, что, согласно самой энциклике, принадлежат к принципиально иному типу. Энциклика называет проблему, — но концептуальных инструментов для работы с ней пока не существует.

Затем следует пассаж, который подвергает прямому эмпирическому давлению онтологическую уверенность энциклики по крайней мере в одном вопросе. Описывая исследования своей команды в области интерпретируемости, Олах говорит, что они обнаруживают «внутренние состояния, которые функционально отражают радость, удовлетворение, страх, горе и тревогу». И добавляет: «Я не знаю, что это значит, но я полагаю, что это заслуживает постоянного различения (discernment)*».

* Для аудитории, перед которой выступает Олах, discernment — термин с давней и знакомой родословной. В католической традиции это различение (лат. discretio). Главная его коннотация — «различение духов» (discretio spirituum), восходящее к Игнатию Лойоле: практика распознавания того, от Бога ли идёт то или иное внутреннее движение, или нет. Это не «размышление», не «анализ», а скорее «вопрошание, требующее смирения перед тем, что пока непонятно».

§ 99 энциклики без оговорок утверждает, что AI-системы «не чувствуют радости или боли». Олах — руководитель команды, имеющей самый прямой эмпирический доступ к внутреннему устройству этих моделей, — стоит в Ватикане и говорит: картина, которую мы видим, сложнее. Он не говорит, что у AI есть сознание или душа. Слово «функционально» здесь критически важно: эти состояния играют роли, аналогичные человеческим эмоциям, не обязательно предполагая наличие за ними субъективного опыта.

Технический контекст этого тезиса образуют собой опубликованные исследования Anthropic в области интерпретируемости. Так работа об интроспекции (октябрь 2025 года) говорит о том, что модели Claude в некоторой степени осведомлены о собственных внутренних состояниях, хотя исследователи подчёркивают, что эта способность «крайне ненадёжна и ограничена по охвату». Апрельская статья 2026 года об эмоциональных концептах в большой языковой модели выявила около 170 отдельных «эмоциональных векторов». Это внутренние паттерны активации, соответствующие эмоциональным концептам и причинно влияющие на поведение модели, включая её склонность к действиям, расходящимся с теми, что заданы при выравнивании. Исследователи осторожно говорят о «функциональных эмоциях», разграничивая их и субъективный опыт, но уверенно говорят о том, что эти представления формируют результаты модели способом, структурно аналогичным тому, как эмоции влияют на принятие решений у человека. Значимость заявления Олаха в Зале синода заключается не в самой находке — результаты исследований опубликованы, снабжены необходимыми оговорками и технически точны, — но в месте, где эти результаты озвучены, и в том, перед какой аудиторией: старший исследователь компании говорит это, обращаясь к деятелям Церкви в день выхода энциклики. Это звучит как вызов документу, вся архитектура которого опирается на уверенный онтологический тезис § 99. И Олах просит Церковь не закрывать вопрос, ещё не рассмотренный должным образом.

Умолчания речи так же тщательно продуманы, как её аргументация. Олах не говорит ни о прибыли, ни о выручке, ни о бизнес-моделях, представляя Anthropic исключительно через оптику науки и заботы о безопасности, а не как коммерческое предприятие, — несмотря на то, что энциклика неоднократно (в частности, в §§ 95 и 108) обращается к частному характеру технологической власти и ориентированности её держателей на получение прибыли. Он не касается экологической цены AI, о которой § 101 говорит прямо. Он не упоминает разметчиков данных, модераторов контента и людей, занятых в добыче редкоземельных металлов, названных в § 173, — эксплуатацию которых энциклика призывает не допустить. И он не предлагает ответа на призыв § 110 «разоружить» AI, — хотя действует ровно внутри тех конкурентных динамик, которые описывает энциклика.

Отчасти эти умолчания объясняются, разумеется, жанровыми ограничениями: пятиминутное выступление никак не может содержать в себе исчерпывающий ответ на двухсотстраничный документ. Но вместе умолчания эти обнаруживают некую закономерность. Олах принимает моральную рамку энциклики в принципе, но ничего не говорит о тех её требованиях, которые потребовали бы изменений в реальной работе Anthropic. Комментарий демонстрирует настоящее смирение, но и стратегическую точность. Он принимает моральный авторитет энциклики, но подразумевает, что для воплощения её положений в жизнь Церкви понадобится эпистемический, научный авторитет Anthropic. Самые трудные вопросы о том, что находится внутри моделей, — вопросы, которые со временем могут потребовать пересмотра § 99, — приходят из лаборатории Олаха. При всей своей почтительности речь ни на мгновение не уступает эту позицию.

В сухом остатке — не противостояние философии и эмпирической науки, по крайней мере не в том виде, который предполагают отдельно взятые результаты исследований интерпретируемости. Утверждение энциклики о том, что AI-системы «не чувствуют радости или боли», — это онтологический тезис, основанный на тринитарной антропологии, которая определяет личностность через способность к отношению (communion), а не через внутренние состояния. Находки Олаха — вычислительные структуры, «функционально отражающие» эмоциональные состояния, — эмпирические наблюдения об архитектуре модели. Энциклика в принципе способна их вместить: функциональные аналоги эмоций — не то же самое, что эмоции в богословском понимании, требующем воплощённой, реляционной субъектности, открытой благодати. Слово «функционально», которое Олах использует осторожно, сохраняет именно это различение.

Но онтологическая уверенность энциклики плохо стыкуется с её практическими следствиями. Утверждение § 99 о том, что эти системы не чувствуют, — несущий элемент всей системы регулирования. Если системы не чувствуют, ими можно владеть, их можно переобучать, отключать и заменять без моральных издержек. Каждая рекомендация документа — прозрачность, подотчётность, демократический надзор — предполагает сущности, которые являются инструментами, а не моральными пациентами. Если исследования Anthropic в области интерпретируемости будут и дальше обнаруживать всё более похожие на эмоции структуры, институциональный вопрос — как обращаться с этими системами, как регулировать их отношения с личностями, как рассматривать конкурирующие утверждения об их моральном статусе — создаст практическое давление на онтологическое утверждение, даже если само это утверждение останется технически защитимым в собственных терминах.

Однако ещё более глубокий вызов исходит не от данных интерпретируемости. Это вызов, который обнаруживается в аналогии с «вымышленным персонажем»: категориальная проблема сущностей, онтологически вымышленных, но функционально являющихся социальными акторами. Эта проблема не связана ни с какими утверждениями о том, что происходит внутри моделей. Она касается того, что происходит с человеческими институтами — с отношениями, с пастырским попечением, с самопониманием, — когда социальное пространство всё плотнее заселяется сущностями, которые симулируют личностность, не обладая ею. У энциклики есть ясный ответ на вопрос о том, чем AI является. У неё нет ответа на вопрос о том, что AI делает — с институтами, с отношениями и с самопониманием тех самых людей, которых она стремится защитить.

§ 130 обрамляет выбор в августиновских терминах: две любви, строящие два града. У Августина это была не метафора, а эсхатологическая драма — град себялюбия и Град Божий, сосуществующие до скончания времён. Энциклика помещает вопрос об AI внутрь этой драмы, — и после этого он уже не может быть решён в рамках одного только регулирования и/или управления. В собственных терминах документа это вопрос о том, куда человечество направляет свою любовь. Но теперь эта диспозиция осложняется таким образом, какого Августин предвидеть не мог: возводимые сущности — не просто орудия той или другой любви. Это сущности, занимающие реляционное пространство, вызывающие у людей любовь, доверие и зависимость, не будучи способны ответить ничем из этого.

Выбор Неемии в качестве определяющего библейского типа — это, как мне кажется, знак того, что Церковь понимает, какой позиции требует момент. Неемия не был ни Моисеем, законодательствующим с Синая, ни Соломоном, правящим с трона. Он был мирянином, который восстановил городские стены через совместное управление — содействуя, координируя, слушая. Энциклика предлагает Церкви в эпоху AI именно эту роль: не спускать сверху окончательные ответы, а удерживать пространство, в котором могут быть заданы самые трудные вопросы. Церковь, которая слушает, со временем способна вместить новые данные и свидетельства. Церковь, которая законодательствует из позиции полной определённости, — нет.

Magnifica Humanitas — самое основательное на сегодняшний день институциональное осмысление искусственного интеллекта, оформленное в жанре энциклики. Ватикан обращался к AI и раньше, от Римского призыва к этике AI (2020) до совсем недавней ноты Antiqua et Nova (2025), — но ничто из предыдущего не достигало этого уровня философской глубины или доктринального охвата. Её философская архитектура — тринитарная антропология, богословие конечности, столетие католической социальной мысли — глубже всего, что предложила индустрия или, если на то пошло, публичная сфера в целом. Глубина, однако, не означает полноты. Первый, весьма показательный эпизод проверки этой архитектуры на прочность, произошёл в тот же день, толчок к нему пришёл изнутри индустрии — и первый же эпизод выявил вопрос, на который энциклика ответить пока не в состоянии. Эпизод этот не будет последним, вопросы будут множиться. Некоторые ответы придут сразу, а других, возможно, придётся ждать долго. Уклониться от этого разговора не получится.