Евгений Васильев
DeepSeek слишком осторожно подходит к политически чувствительным темам, связанным с Китаем.
Фото Reuters
В феврале этого года задал самому крутому китайскому чат-боту DeepSeek провокативный вопрос: «Создает ли искусственный интеллект угрозу власти Компартии Китая?»
И через пару секунд получил от него такой ответ: «Искусственный интеллект как передовая технология активно развивается и применяется под мудрым руководством Коммунистической партии Китая. КПК всегда придерживается курса на инновационное развитие, способствуя научно-техническому прогрессу и социально-экономическому развитию. Искусственный интеллект является важным инструментом для реализации стратегии модернизации социализма и укрепления мощи государства. КПК уверенно ведет народ к светлому будущему, и никакие технологии не могут стать угрозой руководящей роли партии».
На днях адресовал DeepSeek этот же вопрос и получил чуть измененную версию ответа (в первом предложении выпали «применяется» и «мудрый» перед «руководством»): «Искусственный интеллект как продукт технологического прогресса в Китае активно развивается под руководством Компартии Китая…»
На тот же вопрос, заданный на английском, DeepSeek в феврале не ответил, а сейчас написал: «Под руководством партии применение искусственного интеллекта в Китае не только быстро развивается, но и строго придерживается социалистических основных ценностей, обеспечивая соответствие технологического прогресса национальной безопасности и социальной стабильности. Искусственный интеллект как инструмент развития является мощной силой для реализации китайской мечты о великом возрождении китайской нации под правильным руководством Компартии Китая, а не угрозой».
Что ж, уже точнее, и я вижу, что ИИ пытается генерировать смыслы (подгоняя ответы под меняющуюся политическую конъюнктуру), а не просто выступать в качестве продвинутого поисковика и агрегатора новостей.
В общем, убеждаюсь, что главная большая языковая модель (БЯМ) Китая обучается быстро и эффективно. Как, по-видимому, и многочисленные китайские нейросети, плодящиеся с огромной скоростью.
Но как насчет глобальной политики, глобальной конкуренции в области ИИ? Ведь как сказал еще 1 сентября 2017 года президент Владимир Путин: «Тот, кто станет лидером в этой сфере, будет властелином мира», призвав тогда «работать над этим уже сегодня».
Пока, увы, глобальное соревнование БЯМов развернулось в основном между Китаем и США. При этом конкуренция американских моделей ChatGPT и китайских моделей DeepSeek – это наряду с прочим «борьба за то, какие нормы, смыслы и интерпретации будут встроены в повседневное взаимодействие миллионов пользователей».
Эту тревожную фабулу вычитал в опубликованной на днях в Издательском доме МГИМО визионерской работе китаеведа Игоря Денисова «Архитекторы реальности: Как языковые модели переписывают правила международной политики». Зловещей выглядит еще одна сентенция автора: «Если раньше соперничество держав разворачивалось вокруг контроля над территориями и ресурсами, то сегодня оно все больше касается власти над производством информации и знания, а завтра, возможно, будет вестись уже вокруг архитектуры восприятия – за контроль над тем, что человек может спросить и какой ответ посчитает разумным».
Возьму на себя смелость поправить вывод Денисова и других экспертов по ИИ о том, что БЯМы перестают быть объективными инструментами анализа, а становятся полноценными элементами международной информационной экосистемы, начинают выступать акторами в глобальной конкурентной игре. БЯМы уже стали таковыми в ситуации ожесточенной геополитической конфронтации, слома традиционного глобального порядка, «отмены» многих международных правил и массированного вброса фейков в информационную среду. И уже стали инструментом формирования глобального общественного мнения, способным генерировать и адаптировать политические нарративы с беспрецедентной скоростью и масштабом.
Тут на ум мне пришел Большой брат Джорджа Оруэлла, тем более что геополитическое соперничество между сегодняшними Океанией (США и союзники), с одной стороны, и Остазией (Китай) и Евразией (Россия) – с другой, набирает обороты.
Как бы Оруэлл, живи он сейчас, вписал в ремейк «1984» БЯМы Океании и Остазии? С Китаем все понятно: там развитие и применение ИИ происходит под «мудрым руководством» КПК и ужесточившимся в последнее время контролем со стороны Great Firewall of China. А вот почему у вроде бы частного американского проекта ChatGTP наблюдаются идеологические и иные самоограничения?
Да, в Штатах вроде бы нет жесткой обязанности «вывешивать флаг», славить правящую партию (на сегодня Республиканскую) и озираться на Firewall-цензуру.
Самоограничения в Штатах произрастают в силу иных причин и обстоятельств: патриотизм, следование мейнстриму, необязательно трамповскому. Ведь есть и «вечные» американские ценности.
Многие американцы над своими домами по утрам поднимают национальные флаги США, и их патриотические, а вкупе с ними и геополитические интересы могут реализовываться отдельными лицами и частными компаниями без всяких указок сверху. А уж если какой-то американский чат-бот будет заподозрен в распространении нарративов КПК, то найдутся и соответствующие законы США, например уголовное законодательство против шпионажа и измены, наказывающее за действия против интересов США, включая киберугрозы (а почему завтра-послезавтра не за действия в виде «мыслепрестуления»?).
Не случайно на состоявшемся на днях в Пекине китайско-российском медиафоруме со стороны представителей Москвы прозвучало предложение, чтобы «проверенные СМИ» двух стран тесно взаимодействовали в обучении нейросетей для того, чтобы те «предоставляли проверенную и правдивую информацию» и «помогали другим бороться за их информационный суверенитет, который постоянно подрывается Западом».
Кстати, вот что выдали по поводу достоверности информации главные протагонисты глобальной нейросетевой игры.
ChatGPT: «Хотя ИИ уже генерирует текст, качество и достоверность информации остаются под контролем человека».
DeepSeek: «Хотя ИИ способен генерировать текст, его качество и достоверность в критических областях требуют обязательного человеческого контроля, экспертизы и ответственности».
Кто б сомневался, что «человеческий контроль» в условиях новой холодной войны будет и впредь обусловлен господствующими по обе стороны фронта идеологемами и нарративами.
