"Бунт машин" теоретически все-таки возможен

Фото Ethan Miller/Getty Images

Если бы у человека было другое тело и другие органы чувств, у него была бы и другая физика, и даже другая математика. Питер Пауль Рубенс. Союз Земли и Воды. Ок. 1618. Государственный Эрмитаж

Я ждал, что хоть какое-нибудь СМИ откликнется на день рождения основоположника кибернетики Норберта Винера (26 ноября 1894 года, США), но даже и поисковая система на слово «Винер» выдает Ирину Винер, тренера и супругу Алишера Усманова. А ведь когда-то общество не упускало повода порассуждать, может ли машина мыслить. Похоже, оно уже решило, что если уж машина начала обыгрывать в шахматы гроссмейстеров, то она определенно умнее человека.

Так ли это? Ум измеряется многими параметрами, и по некоторым из них – объем памяти, быстродействие – компьютер с самого начала неизмеримо превосходит человека. Но назначение ума – добывать новую информацию о мире и строить на ее основании прогностически точные модели реальных явлений, а не только манипулировать уже добытой информацией по заданным человеком алгоритмам, что лишь и делают даже самые продвинутые вычислительные машины.

Иными словами, все, что может сделать машина, это записать по-новому уже известные знания, записать в явном виде то, что в ней содержалось с самого начала в скрытой форме. А добывать поистине новую информацию могут лишь какие-то органы чувств или измерительные приборы. Такие приборы уже давно подключаются к электронному мозгу, и он уже давно умеет на звуковые, световые и прочие сигналы реагировать «разумно», то есть так, как ему приказывает человеческий разум. А если такого приказа не будет, компьютер не сможет даже отличить важную информацию от неважной.

Каждый из нас знает, как невыносимы бывают люди, у которых иерархия важного и неважного не совпадает с нашей. Мы, например, начинаем рассказывать, как мы ехали в трамвае, а какой-то хулиган запустил камнем в окно; мы ждем реакции потрясения, а этот истязатель спрашивает:

– На каком трамвае вы ехали?

– Какая разница! Ну, на седьмом. Но вы представляете, мальчику рассекло лоб, и он…

– А куда вы ехали на седьмом?

– Да не все ли равно! Ну, на улицу Васькина. Так у мальчика все пальто залило…

– На Васькина лучше ехать на одиннадцатом.

Человек, не умеющий различать важное и неважное, ничего не может рассказать, не утопая в бессмысленных подробностях. Он начинает перечислять, какого было цвета пальто на его собеседнике, сколько на нем было пуговиц, какая в это время стояла погода…

Но что позволяет нам различать важное и неважное, значительное и незначительное? Это прежде всего наше тело: оно считает значительным все, что причиняет ему страдание, – голод, холод, боль, – это и заставляет нас принимать всевозможные меры, чтобы ослабить или вовсе избежать боли и дискомфорта. Так возникают цели, желания, а наш интеллект – слуга этих желаний. Если бы у нас не было тела, интеллект не мог бы создать и науку. Он бы даже не мог классифицировать предметы на большие и маленькие, далекие и близкие, мягкие и твердые, горячие и холодные, тяжелые и легкие, красные и белые, кислые и сладкие – все, с чего и начинается наука.

Конечно, для нас важны и удовольствия, но все-таки высшие из удовольствий – это прекращения страданий, и почти все сигналы нашего тела – это сигналы боли, то есть опасности: тут жмет, там трет, а откуда-то тянет гарью…

Впрочем, боль бывает не только физической, но и душевной. Наша психика тоже разделяет мягкое и твердое обращение, горячий и холодный прием, и если бы у нас не было тела, то не было бы и ни малейшей возможности понять, что общего между мягкой подушкой и мягким обращением, между теплой ванной и теплым приемом. Практически все слова, означающие психические процессы и эксцессы, суть метафоры эксцессов физических: человек вскипел, взорвался, остыл…

Искусственному интеллекту, лишенному тела и психики, никогда не понять этих выражений и не обрести желаний и целей, которые только и порождают всякую интеллектуальную деятельность. Так что опасаться, что электронный мозг восстанет против человека, что уже давно клубится в фантастике, – примерно то же самое, что опасаться, как бы трактор не восстал против тракториста. Разумеется, из-за ошибок в программе или из-за сбоев электронный мозг может направить ракету или автомобиль против «хозяев», но это будет обычная авария, а не восстание. Если угодно, восстание хаоса против порядка, но никак не восстание одного порядка против другого.

Таким образом, превосходство человека над искусственным интеллектом заключается в том, что тело человека непрестанно поставляет ему новую информацию из внешнего мира и подсказывает эвристические аналогии из мира физического. Интеллекту без тела было бы мыслить не о чем и незачем.

Именно опыт общения с круглыми предметами подсказывает человеку образ идеального круга, необходимость считать овец или людей порождает понятие числа. Если бы человек не имел опыта обращения с очень маленькими камешками, ему бы не пришла в голову модель материальной точки, а без наблюдений за волнами не родилось бы и представления об электромагнитных колебаниях.

Короче говоря, если бы у человека было другое тело и другие органы чувств, у него была бы и другая физика, и даже другая математика. Если бы, скажем, человеческий мозг принадлежал полипу, не имеющему ни средств передвижения, ни осязания, а воспринимающему мир лишь при помощи запахов, то у него не возникло бы представления ни о пространстве, ни о времени, ни о числе.

Так что можно придумывать искусственному интеллекту различные тела с различными органами чувств и различными потребностями и получать все новые и новые модели мироздания, которые будут не лучше и не хуже друг друга. Обсуждать можно лишь то, какие из них будут лучше способствовать адаптации тела искусственного интеллекта.

Философы размышляют и о том, что союз с искусственным интеллектом способен перевести человека на новую ступень эволюции, но человек перейдет на другую ступень эволюции лишь тогда, когда изменится его ДНК. Чему искусственный интеллект вполне способен помочь, без него уже и сегодня была бы невозможна расшифровка человеческого генома. А человек наверняка когда-нибудь захочет поуправлять своим наследственным веществом – отрастить себе третью руку, да мало ли что еще. Байрон когда-то сетовал, почему Господь дал ему целых 32 зуба и всего один… То есть не дал и прочих членов в соразмерности.

Здесь есть о чем пофантазировать, однако и тут искусственный интеллект обслуживает человеческие прихоти. Но чтобы обрести собственные желания, ему необходимо тело, способное испытывать боль и бороться за выживание.

А что если в результате внутренней эволюции у самого искусственного интеллекта появится сознание? Такого быть не может. Образ себя даже и у человека возникает в результате общения с другими людьми, лишь через посредство этих зеркал человек и создает представление о себе.

Но если бы у искусственного интеллекта все-таки появилось сознание, привело бы это к конфликту с людьми или, наоборот, к сотрудничеству? К конфликтам, равно как и к сотрудничеству, приводит не наличие сознания, а наличие несовпадающих либо совпадающих интересов. Интересы же порождаются телом, а не интеллектом.

Тем не менее некий «бунт машин» теоретически все-таки возможен.

Теоретически вполне возможно создать устройство, способное искать себе «пропитание» – энергетические источники. И нет ничего невозможного в том, что такие устройства начнут успешно конкурировать с людьми в борьбе за эти ресурсы. Они могут и самих людей посчитать такими ресурсами. Но мне кажется, что люди уничтожат себя раньше, чем за них примутся машины.   

Санкт-Петербург