Юрий Юдин
Наполеон Бонапарт, признанный военный гений, роль информационных технологий своего времени все же недооценил.
Жан-Батист Дебре. Наполеон выступает с речью перед войсками в Абенсберге. 1810. Версаль
Вторжение нейросетей в человеческую жизнь растет буквально из месяца в месяц. Сегодня мы рассмотрим ряд публикаций, примущественно в отечественной прессе, освещающих тему искусственного интеллекта (ИИ) в философском, военно-политическом и военно-техническом аспектах. Одни из этих публикаций претендуют на концептуальную глубину, другие дают конкретные примеры применения ИИ в военном деле, включая конфликт на Украине.
ДЕМОН-САМОУЧКА
Политолог Андрей Кортунов в статье «На пути к ИИ – пришествие демона Лапласа» (сайт РСМД) вспоминает мысленный эксперимент французского математика Пьера-Симона Лапласа начала XIX века.
Вообразим существо, получающее полную информацию о положении и скорости каждой частицы во Вселенной. Такое существо (его окрестили «демоном Лапласа») сможет восстановить всю историю мироздания и предсказать все его дальнейшее развитие, для него не останется непознанных тайн.
В ХХ веке Альберт Эйнштейн косвенно поддержал Лапласа, заявив, что «Бог не играет в кости»: законы мироздания должны объединяться в «теорию всего», имеющую универсальную объяснительную и предсказательную силу.
Но сторонники свободы воли не сдавались. И обрели поддержку в виде квантовой механики с ее «принципом неопределенности». Этот принцип получил развитие в ряде фундаментальных исследований. Демон Лапласа оказался изгнанным из микромира. А значит, и в макромире ему делать нечего.
При этом никто не мог вообразить, что демон Лапласа способен материализоваться в физической реальности. Во-первых, невозможно собрать всю информацию обо всей Вселенной (особенно если исходить из постулата, что Вселенная бесконечна). Во-вторых, невозможно обработать и систематизировать такой объем данных. А уж обе задачи сразу под силу только Господу Богу монотеистов, который, как известно, и всеведущ и всемогущ.
Но если редуцировать задачу до одной планеты и человечества на ней, да к тому же снизить требования к предсказательной силе, демон Лапласа уже не покажется умозрительной конструкцией. Всемирная Сеть создает принципиальные возможности знать «все и обо всем» в любой момент времени. А технологии ИИ позволяют обработать «колоссальный улов разнородных данных». При этом белковый интеллект сегодня нельзя напрямую подсоединить к интернету, а ИИ – можно. Это и создает его демоническое могущество.
Классический демон Лапласа был безучастным наблюдателем. ИИ уже сегодня представляет собой активную силу. Нейросети используются в маркетинге и журналистике, в детективной и медицинской практике, в финансовых операциях и политических технологиях. Но самые широкие горизонты для ИИ, по мнению автора, открываются в разведке – коммерческой, военной, научно-технической и т.п.
Что ограничивало эффективность разведки? Нехватка достоверной информации и отсутствие алгоритмов обработки и верификации данных. Борьба разведок шла по линии, разделяющей информацию и дезинформацию, факты и домыслы, утверждения и допущения. И человеческий опыт и интуиция тут часто решали все. ИИ, помноженный на интернет, может решить обе задачи и сделать разведку точной наукой. Значение человеческого фактора снижается, романтика Штирлица и Джеймса Бонда уходит в прошлое, разведка превращается в битву технологий.
(В теоретическом плане на это можно возразить, что человечество на своей планете – не замкнутая система, Земля получает информацию извне и отдает ее вовне (хотя бы в виде излучения). А значит, объем данных об этой системе в каждый отдельный момент будет неполон и ущербен. Так что ИИ оказывается незадачливым демиургом, который не в силах создать камень, который сам не сможет поднять.
А в практическом отношении – сражающиеся на разных сторонах нейросети будут не только постигать вражеские тайны, но и непрерывно вырабатывать дезинформацию. Так что разведка просто переносится в иную технологическую сферу, только и всего.)
НА БОГА, КОНЕЧНО, НУЖНО НАДЕЯТЬСЯ
«Кто владеет информацией, тот владеет миром». Авторство этой фразы, продолжает Кортунов, приписывают Натану Ротшильду. А сказана она была в ту же эпоху, когда Лаплас породил своего демона. Ротшильд первым в Лондоне узнал о поражении Наполеона при Ватерлоо 18 июня 1815 года. И за один день заработал на Лондонской бирже 40 млн фунтов стерлингов, что лишь немного уступало военному бюджету Британской империи за этот год. Ротшильд получил этот инсайт с голубиной почтой – самой оперативной связью того времени. Он не мог знать, как перемещался на поле боя каждый солдат или офицер, какова была траектория каждого снаряда или пули. Ротшильду было достаточно бинарного («да – нет») знания результатов сражения.
(Заметим, что Ротшильд оказался дальновиднее Бонапарта по части разведки. Наполеона при встрече с Лапласом заинтересовал только один вопрос: а где же в его построениях место для Бога? Лаплас, по легенде, ответил: «Сир, я не нуждался в этой гипотезе». Наполеон одержал уже немало побед и имел основания верить, что само Провидение направляет его стратегию. А вопрос прагматического использования идеи Лапласа ему в голову не пришел – хотя Наполеон знал толк в финансах и не мог не понимать значения связи и разведки.)
А теперь представьте устройства для обработки неограниченно больших информационных массивов, продолжает автор. Бескрайнее информационное поле обрабатывается уже не мотыгой, но высокопроизводительным комбайном. «Нейросеть не пропускает ни одного колоска, не теряет из виду ни одного зерна, обеспечивая идеальную сохранность урожая. Ныне Ротшильд мог бы рассчитывать не только на ответ, кто победил при Ватерлоо, но и на точные данные о потерях сторон, о сохранившихся резервах, о позициях подразделений... Наличие такой информации... позволило бы прогнозировать дальнейший ход кампании 1815 года и даже будущее Европы после Наполеоновских войн».
(Тут настораживает обилие метафор. Поле жатвы нечувствительно превращается в поле боя, а пейзаж после битвы – в поляну мировой истории и футуристических прогнозов. На подобных эффектах основано зловещее очарование Апокалипсиса. Между тем на каждом поле (по-военному, на каждом театре) свои законы. Сельского тракториста можно выучить на механика-водителя танка, но прилежный игрок в морской бой вряд ли станет крупным флотоводцем. Не говоря уж о том, что прагматик Ротшильд просто счел бы такое изобилие сведений ненужным – хотя сумел бы извлечь выгоду из многих конкретных сюжетов.)
Представьте себе устройства, которые взламывают любые системы защиты информации и скоро сделают бессмысленным любое ее кодирование, настаивает Кортунов. Приоритеты разведки сместятся в сторону проникновения в изолированные от интернета информационные системы, а приоритеты контрразведки – в пресечение такого проникновения. «Гонка разведок все больше превращается из поединка разведчиков и контрразведчиков в битву ИИ. Страны, располагающие современными нейросетями, получают значительные преимущества. А это значит, что попытки ввести мораторий на разработку новых систем ИИ или договориться о правилах его использования обречены на неудачу».
(Все это очень интересно, но не надо забывать, что чем система технически изощренней, тем она уязвимей. Один ядерный взрыв (точнее, вызванный им электромагнитный импульс) обнуляет и интернет, и нейросети. Демон-самоучка оскорбленно удаляется. А если таких взрывов будет много – планета остается во власти крыс, тараканов и голых землекопов (это такие подземные зверьки, необычайно стойкие к радиации). У них, конечно, тоже есть своя разведка – но это уже совсем другая история.)
«ТУМАН, ТУМАН, СЕДАЯ ПЕЛЕНА…»
Никита Соловьев на том же сайте выступает со статьей «Опасные последствия применения технологий ИИ в военном деле».
По словам Ли Кайфу, главы китайской компании Sinovation Ventures, технологии ИИ стали «третьей революцией в вооружении» после пороха и ядерного оружия. При этом на Западе устоялась практика: для многих средств военного назначения на основе ИИ сначала разрабатываются гражданские прототипы и затем уже адаптируются для военных нужд, что позволяет экономить время и деньги.
Пример – разработка американской корпорацией Palantir Technologies программ для анализа данных и разведработы. Предоставленный Украине комплекс Palantir AI направлен на устранение «тумана войны». Он включает защищенный канал связи для обмена разведданными; доступ к объединенной базе спутниковых снимков; вычисление расположения войск противника и т.п. Обратная сторона этой системы – «возможность использования данной технологии в связи с ее универсальностью» для нарушения международных гуманитарных норм.
В 2014 году Palantir Technologies разработала для Агентства национальной безопасности (АНБ) США систему доступа к электронным письмам, записям телефонных звонков, текстовым сообщениям и данным с камер наблюдения. В 2011 году Palantir Technologies противостояла проекту WikiLeaks, проводила кибератаки и кампании дезинформации, чтобы дискредитировать Джулиана Ассанжа.
Еще один пример. «Выступая в Конгрессе США, – пишет Соловьев, – бывший исполнительный директор Primer Technologies Шон Гурли заявил, что ИИ способен увеличить эффективность операций Министерства обороны США, а выделение 5% от всего американского оборонного бюджета на ИИ может предоставить Вашингтону значительное преимущество перед такими противниками, как Москва и Пекин». Как заявляют в Primer Technologies, их решения удовлетворяют потребность в «ситуационной осведомленности», которая включает стратегический анализ, обнаружение угроз, информационных операций, извлечение и анализ аудиозаписей, обучение и развертывание моделей ИИ. Алгоритмы ИИ от Primer AI были конкретизированы для нужд Украины и бесплатно предоставлены Киеву решения таких задач, как перехват и сбор аудиоданных; нейтрализация посторонних шумов в эфире; расшифровка и перевод русской речи; выделение ключевых фраз, относящихся к ситуации на поле боя; распознавание упомянутых в речи объектов, идентификация лиц, организаций и местоположений; составление отчета на основе обработанных данных.
Американская компания Clearview АI известна с 2020 года, когда ее основатель Хоан Тон-Та сделался героем скандала. Программное решение Clearview AI «представляет собой наиболее яркий пример неоднозначного отношения общества к технологии ИИ». Программа занимается биометрической идентификацией человека по фото на основе базы данных, полученных в основном из социальных сетей. В 2020-м стало известно о гигантском масштабе незаконного использования ею персональных данных. В число пользователей программы входили 2200 структур в 27 странах – в том числе ФБР, Министерство юстиции США, крупные банки, ретейлеры, операторы мобильной связи.
На Украине программа Clearview AI применялась для идентификации погибших российских военнослужащих с целью выявления их родственников и оказания на них психологического давления. Сотрудничество Clearview АI с силовыми структурами может привести к внедрению технологии в летальное вооружение нового поколения, способное избирательно подходить к ликвидации целей, что, в свою очередь, может вызвать угрозу создания нового вида оружия массового уничтожения.
В целом применение ИИ пока что находится в «серой зоне» международного законодательства по информационной безопасности, заключает Никита Соловьев. Вот оно как: локальный «туман войны» с помощью ИИ, возможно, и разгоняется, но видимость в глобальных «серых зонах» только ухудшается. Впору выводить общий закон сохранения «тумана войны» в природе (по аналогии с физическими законами сохранения энергии, импульса и пр.).
ДЛЯ ВСЕХ СОЛОМКИ НЕ ПОДСТЕЛИШЬ
У шахматистов, как у домохозяек, есть понятие «домашние заготовки». (Прежде всего дебютные, хотя были гроссмейстеры, которые блестяще играли эндшпили.) И разрабатывать эти заготовки сегодня в 100% случаев помогает компьютер. Но это не значит, что соперник во время партии не сумеет найти верный ответ прямо за доской. Или что игрок, применивший новинку, не перепутает порядок ходов. Может также вмешаться фактор цейтнота, то есть нехватки времени. Словом, в ходе партии может случиться столько неожиданностей, что никакой ИИ не предусмотрит.
На протяжении первых месяцев спецоперации России на Украине все эксперты дружно подчеркивали преимущество украинской стороны по части связи и разведки. Постепенно, однако, оно было практически ликвидировано – люди учились на собственных ошибках едва ли не быстрее, чем нейросети.
Свою роль сыграли и асимметричные решения. Преимущества ВСУ по части связи и дистанционного управления дронами компенсировались российским превосходством по части радиоэлектронной борьбы. Точно так же преимущества по части дальнобойной артиллерии нивелируются простой нехваткой снарядов и плотностью огня противника.
Кроме того, военные эксперты столь же дружно отмечают, что в украинском конфликте неожиданно большую роль играют традиционные виды оружия (та же артиллерия). Сказываются и преимущества России по части всеобщей мобилизации (экономической, технологической, психологической, идеологической). Что касается конкретно ИИ – его решения основаны на стереотипах, так что асимметричные и парадоксальные ходы вполне способны поставить его в тупик. Кстати, именно о позиционном тупике недавно рассуждал главнокомандующий ВСУ Валерий Залужный – видимо, грустно вспоминая былые украинские преимущества, основанные на западных технологиях. И если какое-то чудо-оружие изменит ситуацию на фронте в пользу одной из сторон, то выдумает его не ИИ.
|
|
«Возьмите космические ложки...» Манипулировать сетевым сообществом или группой клиентов ИИ так же легко, как группой детского сада. Кадр из фильма « Джентльмены удачи». 1971 |
Два патриарха американской политики, 100-летний Генри Киссинджер и 83-летний Грэм Аллисон, выступили в журнале Foreign Affairs со статьей «Путь к ограничению военного применения ИИ».
«В текущих предложениях о способах сдерживания ИИ можно услышать множество отголосков прошлого. Требование миллиардера Илона Маска о шестимесячной паузе в разработке ИИ, предложение исследователя ИИ Элиезера Юдковски о его запрещении и требование психолога Гэри Маркуса о том, чтобы он контролировался неким глобальным управляющим органом, повторяют провалившиеся предложения ядерной эпохи. Каждое из них потребует от ведущих государств подчинить свой суверенитет наднациональным структурам. Никогда в истории ни одна великая держава, опасаясь, что конкурент может применить новую технологию, не отказывалась от разработки этой технологии для себя».
Далее соавторы разворачивают аналогию между ИИ и ядерным оружием (ЯО). Важно признать их существенные различия. Развитие ЯО направлялось национальными правительствами, разработки ИИ ведут частные компании, которые склонны недооценивать национальные интересы. Продукты ЯО были физическими объектами и поддавались подсчетам. Эволюция ИИ происходит в умах, его развертывание трудно наблюдать. ЯО осязаемо, ИИ умозрителен. ИИ развивается со скоростью, которая исключает долгие переговоры. Контроль над ЯО вырабатывался десятилетиями. Ограничения для ИИ должны быть установлены еще «до того, как машины начнут ставить свои собственные цели». Это требует новых международных отношений.
Пока США еще только создают систему управления ИИ, пора «начать серьезные разговоры» с другой сверхдержавой. «Национальные лидеры Китая в технологическом секторе – Baidu (ведущая поисковая система страны), ByteDance (создатель TikTok), Tencent (создатель WeChat) и Alibaba (лидер в области электронной коммерции) – создают собственные системы – аналоги ChatGPT. И хотя Китай по-прежнему отстает в технологиях производства полупроводников, он обладает всем необходимым для продвижения вперед в ближайшем будущем».
Но большая часть статьи все же посвящена «урокам ядерной эпохи». По этой части соавторам есть что вспомнить – и рецепты они предлагают старые. «Если Байден, Си и другие мировые лидеры начнут действовать уже сейчас, чтобы противостоять вызовам ИИ, так же решительно, как это делали их предшественники в борьбе с ядерными угрозами… добьются ли они такого же успеха? Глядя на растущую поляризацию мирового сообщества, трудно быть оптимистом. Тем не менее тот факт, что мы отметили 78-летие мира между ядерными державами, должен вдохновить всех».
(Интересно, что патриархи уверены: проблему контроля над ИИ должны решать Китай и США. Хотя революционные открытия по части ИИ могут быть сделаны в любой развитой стране. Скажем, в эпоху Великих географических открытий прорывные технологии в морском деле (новые типы парусных судов, системы картографирования и навигации) родились в маленькой Голландии. И благодаря им она стала лидером морской торговли и крупной колониальной державой.)
ДИКТАТУРА СТЕРЕОТИПА
Григорий Ревзин, искусствовед и архитектурный критик, публикует в «Коммерсантъ-Weekend» цикл статей об утопиях. Недавняя статья называется «Абсолют стереотипа. ИИ как утопия современности».
Утопии оперируют одним и тем же набором идей. «Герой заснул, проснулся в будущем, а там все то же: ответ на вопрос, как достичь единства людей во имя высшего блага». Предлагали рецепты устранения противоречий, выделяя три главных их источника – собственность, секс и власть. По части собственности предлагалось равенство, по части секса – внешний контроль для целей евгеники, по части власти – «правление тех, кто к этому предрасположен, во благо всех». Но равенство собственности упирается в вопрос, хватит ли на всех ресурсов («предлагались проекты устранения конкуренции, но там, где ее устраняли, ничего не хватало ни для кого»). Секс – дело интимное: контроль тут неэффективен. «И никак не удается выделить тех, кто способен править во благо».
Впрочем, израильский историк и футуролог Ной Харари, автор бестселлера «Homo Deus. Краткая история будущего», рисует картину взаимодействия человека с Сетью и ИИ, при котором утопические вопросы получают внятные ответы. Нетрудно выбрать людей, готовых править для общего блага: ИИ легко оценит эффективность каждого кандидата. Проблемы с сексом тоже ерунда – ИИ найдет каждому оптимального партнера как по части постельной гармонии, так и в рассуждении генетической совместимости. А «равенство в собственности окажется проблемой различия в доходах – Сеть сама повысит или уменьшит ваши доходы в рамках баланса стабильности общества». Причем все эти процессы уже запущены, речь идет только о масштабах внедрения.
Тут Ревзин приходит к ключевому постулату. ИИ – это интеллект стереотипов. «Он вычисляет стереотипный ответ на вопрос для некой группы людей, причем группа определяется по вопросу, который вы задали. И если вопрос стереотипный, ответ на него опирается на анализ огромной базы данных и окажется приемлемым для огромной группы людей». По мнению самого ИИ (автор задавал ему этот вопрос), «стереотипное мышление – это когда ты убежден в истинности стереотипного суждения и испытываешь с ним эмоциональную связь». Очень удобно для построения утопии.
«Люди не хотят жить, как им предписывают. Они не хотят, чтобы государство контролировало их доходы, секс, профессию, устанавливало им единство и вело их к благой цели. Они хотят сохранять свободу». Но стереотипные ответы ИИ не имеют отношения к свободе или несвободе. ИИ не рождает мыслей и не имеет убеждений. Его задача – оказывать справочную помощь и предоставлять информацию на основе уже имеющихся данных. Люди решают конкретные вопросы: какой фильм посмотреть, куда поехать в отпуск, с кем закрутить роман. И принимают стереотипные (для своей группы) ответы как стратегии собственного поведения. Так общество незаметно для себя движется к утопическому идеалу.
Интернет сегодня – актуальная форма Бога, заключает Ревзин. Он вездесущ и всеведущ. Он помогает снискать хлеб насущный и отыскать любовь земную и небесную. Он исцеляет и намекает на перспективы бессмертия. Он соединяет всех. «Построение идеального общества стало инженерной проблемой и решается в автоматическом режиме».
«СЕГОДНЯ ЗАВТРАК В СТАРШЕЙ ГРУППЕ ОТМЕНЯЕТСЯ»
Власть стереотипа и диктатура банальности и впрямь велика. На этом основан успех популярных блогеров и прочих инфоцыган. Приятно прочесть или услышать набор идей и суждений, которые ты надергал с миру по нитке, но усвоил так прочно, что считаешь своими собственными, просто не умеешь изложить их так же гладко.
Между тем в делении общества на группы, над которыми властвуют предписанные стереотипы, нет ничего нового. Эти группы – сословия, классы, цеха, корпорации, конфессии. И у всех имеется сословная честь, классовые предрассудки, цеховые правила, корпоративная солидарность, религиозная нетерпимость. Причем стереотипы, действительные для одной группы, не властны над другой. Более того, развитая культура усложняется механически – и количество групп со своими стереотипами в ней постоянно растет. (Развитие интернета как нельзя лучше это доказывает.) В развитой и изощренной культуре крупных и влиятельных групп – что протестантских церквей в США. А летучие и маргинальные группировки, секты и сетевые сообщества и исчислить невозможно.
При этом группой нетрудно манипулировать. Как в фильме «Джентльмены удачи»: «Сегодня завтрак в детском саду отменяется! Мы совершим полет на космической ракете на Марс. Командором назначается Игорек... Возьмите в руки космические ложки!»
Но всегда отыщутся индивидуумы, которых тошнит от банальных блогеров и модных штанов, от дурацких блокбастеров и политических манипуляций. Именно они и выдумывают нечто новое, ломающее стереотипы.
И ВСЕ-ТАКИ ОНО РАБОТАЕТ
Но мы удалились слишком далеко от военной сферы. Полковник Г. Яблоков («Зарубежное военное обозрение», 2023, № 10) в статье «Развитие военных технологий ИИ в Великобритании» приводит ряд примеров, как нейросети сегодня работают в конкретных образцах вооружений.
Многоцелевой сухопутный дрон «Викинг», снабженный ИИ, предназначен для доставки грузов в районы боевых действий, для разведки и поиска самодельных взрывных устройств. В ходе испытаний «Викинг» сам формировал маршрут, преодолевал препятствия, менял траекторию движения в зависимости от условий местности и текущей обстановки. Испытание признано успешным. «Викинг» примут на вооружение в 2025 году.
Автономный катер «Пасифик-24» используется в борьбе с морским пиратством и контрабандой, в пограничном контроле и охране судов. На испытании в октябре 2021 года катер выполнял патрулирование, обнаружение и идентификацию целей в автономном режиме с передачей данных на КП, удаленный на 16 км. По завершении испытаний аналогичными системами ИИ планируют оснастить авианосцы, патрульные корабли и др.
В статье рассказывается также о внедрении нейросетей в БПЛА малого размера, но по этой части Британия не является законодателем мод.
В целом революция в военном деле с пришествием ИИ еще не стала очевидностью. Но поскольку все к ней готовятся, то ее непременно накличут. В психологии это называется «эффект Пигмалиона». Но это уже другой сюжет.
Константин Ремчуков 