Бунт технической реальности

Жизнь требует создания таких концепций, которые позволили бы рассматривать человека и машину с единой позиции. Жан Тэнгели. Смертельный наездник. Фото из каталога выставки Жана Тэнгели в Москве, 1990

«Человек, преобразуя природу, осуществляет сознательно поставленную цель. Машина – лишь «слепой исполнитель» человеческой воли, орудие его труда. Бесспорно также, что процессы, протекающие в технических устройствах (как бы совершенны они ни были), качественно отличаются от психических процессов, свойственных человеку».

На первый взгляд основатель инженерной психологии в нашей стране Борис Ломов, которому и принадлежат приведенные выше слова (они взяты из книги Ломова «Человек и техника», 1966), кажется абсолютно прав. Действительно, ну не может же техника обладать собственными «мозгами», волей и сознанием и действовать в соответствии с этими волей и своим пониманием той или иной ситуации…

Однако, например, профессор кибернетики Университета Рдеинга (Великобритания) Кевин Уорвик подчеркивает: «Сознание, осознанность собственного существования вообще трудно определить… И мы не можем однозначно утверждать, что машины не осознают своего существования…»

Все чаще и чаще складывается жутковатое впечатление, что техника, созданная человеком для каких-то своих, сугубо прагматических целей, начинает жить – именно жить, а не функционировать! – по собственным правилам и законам. Человеку остается в лучшем случае роль внешнего наблюдателя за этой насыщенной, сложной, непонятной технической жизнью.

Взять хотя бы тот же Интернет. До сих пор неизвестен сам тип физической динамики, которому подчиняются возникновение и эволюция таких сложных сетевых структур. По мнению некоторых экспертов, мы являемся свидетелями рождения глобальной иерархически организующейся системы – Интернет. Это исключительно интересно: наблюдать, как она эволюционирует, хотя и понятно, что в конце концов все это есть результат деятельности человека. Несколько шокирует, что подобные иерархические системы могут возникать и без участия живого, вполне самопроизвольно.

Повторяю, роль наблюдателя – это еще в лучшем случае. А в худшем – человек становится жертвой техногенных систем...

8 ноября 2008 года на российской атомной подводной лодке «Нерпа» несанкционированно сработала система пожаротушения. Отсек, в котором находились люди, автоматически был загерметизирован, и в него стал поступать газ фреон. Это вещество быстро вытесняет кислород и гасит пламя. В результате 20 человек задохнулись.

25 августа 2010 года в подмосковном Подольске несанкционированно сработала автоматическая газифицированная система пожаротушения в офисе одного из банков. Двери были заблокированы, несколько десятков человек оказались отрезанными от внешнего мира. Одна женщина задохнулась.

30 сентября 2010 года аналогичный инцидент произошел в Национальной библиотеке Украины в Киеве – несанкционированное срабатывание газовой системы пожаротушения. Два человека задохнулись.

В августе 2017 года было распространено официальное заявление: «Роструд обеспокоен резким ростом числа несчастных случаев во время работ в водопроводных, канализационных и газовых колодцах по всей России – с начала года жертвами стали 27 человек… Только за семь месяцев текущего <2017> года произошло 11 несчастных случаев, в результате которых погибли 27 человек. При этом за весь прошлый год количество погибших составляло 17 человек, в 2015-м – 14, в 2014-м – 10». Тогда Роструд приводил несколько примеров подобных трагических происшествий. Вот один из них. 22 июня (sic!) в Москве в канализационном колодце были обнаружены тела пяти мужчин, которые скончались при выполнении работ по откачиванию жидкости в канализационном коллекторе. Cмерть наступила в результате отравления газами и летучими компонентами, которые выделяются в канализации…

Можно сказать, что это случайность, трагический, но все же банальный сбой системы. Но с той же вероятностью можно утверждать, что это намеренный, осознанный сбой системы.

Тот же Ломов отмечал: «…Современная наука находит много аналогий между человеком и машиной. Более того, жизнь требует создания таких концепций, которые позволили бы рассматривать человека и машину с единой позиции». И это почти не метафора. Достаточно вспомнить, что при описании характеристик человека психологи часто используют терминологию из радиотехники и электроники: человек рассматривается как «частотный фильтр», как «линейный низкочастотный усилитель», как «устройство, превращающее опасения в явь» и т.п.

Другими словами, человек становится просто элементом кибернетической схемы. Причем самым ненадежным, медленным элементом. Существуют экспертные оценки, согласно которым на долю человека приходится 20–30% всех отказов сложных систем. Вот система и «лечится» самовыжиганием наименее надежных элементов.

Отсюда – один шаг до вполне фантастической, казалось бы, гипотезы: система сознательно устраивает «глюки», чтобы потом руками и мозгами человека совершенствоваться. Об этом еще в 2000 году писал журнал «Компьютер»: «С точки зрения машины это выглядит как взаимодействие с окружающей средой, которая часто враждебна (привносит элементы хаоса), но в то же время необходима для развития».

Если продолжить эту логику, то одним из признаков, по которым мы опознаем самозарождение искусственного разума, фактически станет появление большого количества нетривиальных ошибок в Сети. Вообще разум в таком случае можно определить как очень нетривиальную ошибку. «Мы не должны утверждать, будто машины лишены интеллекта, – настаивает профессор Уорвик, – их интеллект просто может принципиально отличаться от нашего».

Но еще в 1964 году немецкий философ Георг Клаус отмечал: «Кибернетический мир машин спаяет созидающее человечество в коллектив четко мыслящих естествоиспытателей и математиков… Мир машин будущего в общественном и техническом отношениях будет освобожден от его прежних ограничений… Машины не будут больше приспосабливаться к человеку постольку, поскольку они уже не отражают и не содержат в себе его недостаточность. Кроме того, на широких участках они станут – благодаря самостоятельно производимому ими оптимированию своих процессов – машинным воплощением естественных принципов, которые в частностях человеку знать совсем необязательно. Это значит, что машины в процессе собственного оптимирования будут в своем свойстве обучающихся систем не только самостоятельно находить новые пути для достижения целей, поставленных им человеком, но и раскрывать при этом новые закономерности в природе». Дух захватывает от такой перспективы!

Каков прогноз? Лично мне нравится ироничный оптимизм Аркадия и Бориса Стругацких, которые в своем знаменитом романе «Пикник на обочине» вложили в уста одного из героев такой вариант сценария: «Конечно, не исключено, что, таская наугад каштаны из этого огня, мы в конце концов вытащим что-нибудь такое, из-за чего жизнь на планете станет просто невозможной. Это будет невезенье. Однако, согласитесь, это всегда грозило человечеству... Я, видите ли, давно уже отвык рассуждать о человечестве в целом. Человечество в целом – слишком стационарная система, ее ничем не проймешь».