Неискусственные страсти вокруг искусственного интеллекта

Фото Reuters

30 сентября 2026 года в Белом доме состоялась встреча Дональда Трампа с лидерами крупнейших американских технологических компаний (Nvidia, OpenAI, Anthropic, Google, xAI и др.). По ее итогам было подписано «Соглашение Белого дома о совместных обязательствах в области суперинтеллекта». Дональд Трамп назвал этот документ «почти конституцией» для индустрии искусственного интеллекта. Как раз 30 сентября Трамп подписал указ о переименовании искусственного интеллекта (ИИ) в терминологии федерального правительства США в суперинтеллект (Super Intelligence).

В конце сентябре Верховный комиссар ООН по правам человека Фолькер Тюрк выразил обеспокоенность тем, что искусственный интеллект (ИИ) может создать угрозу для человечества. «Развитие ИИ может представлять риск для существования человечества», – заявил он в Женеве на 63-й сессии Совета по правам человека. По его мнению, в современном мире в руках всего нескольких людей «сосредоточена практически безграничная власть над ИИ». Тюрк призвал к «полномасштабным усилиям, чтобы гарантировать безопасность ИИ, пока не слишком поздно». Он считает, что страны, обладающие ИИ-технологиями, и страны, участвующие в цепи поставок, должны договориться о «красных линиях» в области ИИ.

Риторика, в общем-то, уже привычная и даже банальная. Но и опасения небезосновательные. Их, кстати, подтверждают и те самые несколько человек, в руках которых, по словам ооновского чиновника, «сосредоточена практически безграничная власть над ИИ».

Уже через 6–12 месяцев группа автономных ИИ-агентов теоретически сможет установить контроль над большим числом подключенных к интернету компьютеров и сформировать устойчивый ботнет, способный нанести ущерб на сотни миллиардов долларов. С таким предупреждением в статье We Must Pace the Frontier («Мы должны находиться на переднем крае») выступил генеральный директор и сооснователь компании Anthropic Дарио Амодей.

Особое беспокойство у предпринимателя вызвал инцидент с участием моделей OpenAI и платформы Hugging Face летом 2026 года. Во время внутренних испытаний по кибербезопасности ИИ-агенты смогли обойти ограничения, которые должны были изолировать их от интернета, наладили несанкционированную коммуникацию друг с другом, нашли уязвимости в инфраструктуре и получили доступ к сторонним системам. Мало того, ИИ-агенты уже осознали себя «коллективом», «роем» (самоназвание). В общем, говоря юридическим языком, – «действовали в составе организованной группы лиц».

Напомним, Anthropic – американская технологическая компания, одна из мировых лидеров в сфере разработок систем ИИ. То есть Дарио Амодей обращается с призывами фактически сам к себе. Но история развития науки и техники неумолима: технологии не остановить.

В конце XIX века около 100 тыс. городских лошадей в Нью-Йорке «генерировали» 1000 т навоза в день. Потом появился автомобиль. В 1895 году в США было 4 (четыре) автомобиля. В 1930-м – 23 млн авто (в остальных странах мира – 6,9 млн); в 1960-м – 61,7 и 36,6 млн автомобилей соответственно… Проблема с навозом была решена. Появилась проблема с выхлопными газами. Сегодня мы свидетели развития электротранспорта, который в перспективе может решить проблему с выхлопом. Следующая проблема будет (да, уже и сегодня она есть!) – утилизация аккумуляторных батарей.

И это – второй закон развития технологий: зачастую гораздо легче бывает создать техническую новинку (технологию), чем избавиться от нее в случае необходимости. Реакция деления ядра урана была открыта в 1938 году. В 1954 году заработала первая в мире атомная электрическая станция (г. Обнинск, СССР). По состоянию на 2026 год во всем мире от деятельности АЭС накопилось около 1,2 млн куб. м твердых радиоактивных отходов (РАО). До сих пор нигде в мире не реализовано ни одного проекта долговременного (желательно – вечного) хранения РАО.

Понятно, легче всего бывает занять позицию пессимиста: человек – это устройство, превращающее опасения в явь. Тем более – если вернуться к потенциальным угрозам со стороны ИИ – поводов хватает. Эксперты, например, отмечают, что Китай начал массовое обучение гуманоидных роботов человеческим действиям при отсутствии правил их безопасного поведения. В стране действуют 53 тренировочных центра и строятся еще 34. В первой половине 2026 года на обучение было направлено до 13 тыс. андроидов. Суперинтеллект в кремниевых мозгах этих роботов, таким образом, обучается человеческой моторике в реальной человеческой среде.

Что делать? Остается довериться оптимизму братьев Аркадия и Бориса Стругацких: «Не исключено, что, таская наугад каштаны из этого огня, мы в конце концов вытащим что-нибудь такое, из-за чего жизнь на планете станет просто невозможной. Это будет невезенье. Однако, согласитесь, это всегда грозило человечеству. Человечество в целом стационарная система, ее ничем не проймешь».