Мораль по техзаданию

«ИИ может быть справочником, переводчиком, архивистом, помощником преподавателя, но не должен автоматически становиться заменой священнослужителя», – считает одна из нейросетей, опрошенных «НГ». Иллюстрация сгенерирована с помощью ChatGPT

В России представлена концепция национального датасета (массив данных, подготовленный для анализа или обучения нейросетей) для проверки систем искусственного интеллекта (ИИ) на соответствие духовно-нравственным ценностям. Такое поручение дал президент Владимир Путин, подписав закон «О поддержке развития технологий искусственного интеллекта», который должен вступить в силу 1 сентября. Одновременно Всероссийский центр изучения общественного мнения (ВЦИОМ) опубликовал итоги опроса о том, как россияне относятся к цифровизации религии.

«НГ» задала вопрос машинному разуму, каким образом ИИ будут обучать духовно-нравственным ценностям и с какими трудностями при этом может столкнуться религиозная сфера. «Опрошены» три нейросети. Одна из них отечественная – Алиса AI, две другие зарубежные: ChatGPT и Google AI.

«Сразу оговорюсь: ИИ – это инструмент, и «обучать» его ценностям в человеческом смысле нельзя. Но разработчики и регуляторы действительно могут заложить в систему ориентиры, чтобы ее ответы и решения резонировали с традиционными российскими духовно-нравственными ценностями», – пояснила Алиса AI. Среди подходов, которые планируется использовать, нейросеть отметила определение ценностных ориентиров на уровне закона и стратегии, создание «национального датасета» и бенчмарков (эталонный показатель, тест или образец для сравнения) в качестве ключевых технических инструментов, а также участие экспертов в разработке, работу на этапе проектирования и тонкой настройки, когда ценности будут закладываться не только в тесты, но и в саму архитектуру системы. При этом Алиса сделала важное предупреждение: «При всей сложности задачи есть риски. Нельзя механически «вшить» ценности – нейросеть может интерпретировать их формально или исказить в сложных случаях. Поэтому критически важно, чтобы за финальные решения, особенно в спорных этических дилеммах, отвечал человек».

Google AI заверил: «Технически не существует специального алгоритма традиционных ценностей. Они могут встраиваться в ИИ на нескольких уровнях. Первый – обучающие данные. Российская модель может получать значительную часть знаний из русскоязычного корпуса: классической литературы, исторических документов, научных работ, образовательных материалов, законодательства, архивов и произведений культуры. Второй уровень – отбор и обработка данных. Разработчики могут определять, какие источники считаются надежными, какие материалы требуют дополнительной проверки, а какие не должны использоваться для обучения. Третий – дообучение модели. Нейросеть можно специально настраивать на определенные модели поведения. Например, требовать от нее уважительного отношения к семье, избегать языка вражды, различать исторические факты и спорные интерпретации, учитывать российское законодательство. Четвертый – правила поведения во время диалога. На один вопрос модель отвечает свободно, другой сопровождает предупреждением, третий отклоняет. Наконец, есть уровень применения». «Для государственных сервисов, образования, культуры, медицины или детских приложений могут действовать более строгие правила, чем для обычного коммерческого чат-бота», – пояснила нейросеть.

Цифровой ресурс привел в пример опыт Китая, где вот уже несколько лет действует программа встраивания ценностных установок в регулирование ИИ. «В китайских правилах для генеративного искусственного интеллекта прямо закреплено требование придерживаться социалистических основных ценностей. Пекин фактически исходит из того, что мировоззренческие характеристики модели формируются задолго до того, как пользователь задает ей вопрос. Китайская система показывает: государство может рассматривать ИИ одновременно как технологию, экономический ресурс и инструмент формирования информационной среды. Для России главный урок здесь заключается необязательно в копировании китайских правил. Важнее сам принцип: технологический суверенитет – это не только собственные процессоры, дата-центры и языковые модели, но и возможность определять культурные и ценностные рамки их работы».

ChatGPT предложил при составлении тестов для ИИ обратить внимание на Святой престол: «Католический опыт может быть интересен российской дискуссии еще и потому, что предлагает не просто список ценностей, которые нужно «зашить» в нейросеть. Ватикан предупреждает: недостаточно сделать ИИ «моральным», если одновременно человек начинает отдавать машине все больше решений».

Зарубежные чат-боты уверены: опыт России уникален. «Российские Основы государственной политики сами задают более сложную конструкцию для решения этой задачи. В документе говорится, что традиционные ценности имеют исторические и культурные источники, а христианство, ислам, буддизм, иудаизм и другие религии являются частью российского исторического и духовного наследия. При этом особо отмечается роль православия», – полагает Google AI.

Алиса AI, в свою очередь, считает, что трудностей с этим возникнуть не должно: «В российском подходе (в том числе в правовых и методических наработках) акцент сознательно смещен с религиозных норм на общегражданские духовно-нравственные ценности. Их формулируют так, чтобы они были понятны и приемлемы для представителей разных религий и для неверующих. В официальных документах перечень ценностей сформулирован в светских терминах: достоинство, патриотизм, крепкая семья, созидательный труд, историческая память, взаимопомощь, коллективизм. Эти категории находят параллели в разных религиях, но не привязаны к конкретным догматам. Государство декларирует, что традиционные ценности – это не религиозная доктрина, а культурный и нравственный каркас общества. Соответственно ИИ должен транслировать именно этот каркас, а не богословские позиции».

ChatGPT напомнил, что в начале 2026 года было объявлено о создании при Русской православной церкви Консультативного совета по этике в сфере искусственного интеллекта, который должен обеспечивать взаимодействие традиционных религиозных объединений России с национальной комиссией по этике в сфере ИИ. «Это может означать появление особой модели взаимодействия религии и технологий. ИИ способен стать инструментом религиозного образования. Но совсем другой вопрос – может ли ИИ стать духовным наставником?» – задается вопросом бот. И сам же отвечает на него: «Нейросеть может знать тысячи богословских текстов, но знание о религии не означает веру. Она может написать проповедь, но не становится священнослужителем. Она может объяснить смысл исповеди, но не заменяет исповедь. Может создать молитвенный текст, но не становится участником молитвенной жизни. Поэтому наиболее вероятный принцип выглядит так: ИИ может объяснять религию, но не совершать религию».

Любопытно, что на вопрос о том, может ли существовать полноценный ИИ-священник, Алиса AI ответила, что «в определенном смысле ИИ-духовенство уже существует – но не в качестве полноценных священнослужителей, а в качестве цифровых инструментов». Google AI более категоричен: «ИИ-священник в качестве полноценной замены человека существовать не может, поскольку компьютерный алгоритм лишен души и не способен совершать церковные таинства». Тогда как ChatGPT считает, что «технически создать виртуального священнослужителя несложно: можно сделать цифрового персонажа, который говорит человеческим голосом и отвечает на вопросы о вере». «Но здесь возникает проблема авторитета. Священнослужитель – не просто носитель определенного объема информации. Он находится внутри религиозной общины, несет личную ответственность и вступает с человеком в отношения. Алгоритм этого не имеет. ИИ может быть справочником, переводчиком, архивистом, помощником преподавателя, но не должен автоматически становиться заменой священнослужителя», – заявил ChatGPT. «В этом смысле российская дискуссия постепенно может прийти к принципу: чем ближе технология подходит к сфере личной духовной ответственности, тем меньше полномочий ей следует передавать», – добавил машинный разум.

В заключение дадим слово человеку. ВЦИОМ провел соцопрос, согласно результатам которого среди молодежи, родившейся после 2001 года (поколения «цифры»), суммарно 40% допускают получение духовного опыта через интернет (13% – в полной мере, 27% – слабее). Более четверти россиян – 27% (вне зависимости от возраста) сказали, что нет таких таинств или религиозных обрядов, которые бы не могли перейти в цифровой формат. При этом доля принципиальных противников в последние годы стала заметно ниже: только 9% считают, что вера и религиозная жизнь в целом не должны переходить в онлайн.