Техносингулярность становится технорелигией – 2

Рэй Курцвейл прогнозирует экспоненциальный рост скорости технологических инноваций, который приведет к парадигмальным сдвигам. Иллюстрация Pixabay

Для начала зафиксируем. Наступление технологической сингулярности в 2045 году – это всего лишь гипотеза Рэя Курцвейла, представляющая собой последовательность из пяти его прогнозов.

Прогноз № 1. К середине 2020-х прогресс в IT позволит создать оборудование и программное обеспечение, позволяющие эмулировать на компьютере интеллект человека.

Прогноз № 2. К концу 2020-х компьютер пройдет тест Тьюринга – тест на способность машины демонстрировать интеллектуальное поведение, эквивалентное или не отличимое от поведения человека. Иными словами, к концу 2020-х будет создан сильный искусственный интеллект (ИИ).

Прогноз № 3. В течение 2030-х сильный ИИ овладеет всем, что знают и умеют люди, а затем, намного превзойдя по уровню интеллекта все человечество, сильный ИИ превратится в супер-ИИ.

Прогноз № 4. С наступлением 2040-х биологический интеллект сольется с машинным, произойдет загрузка мышления людей в виртуальные облака, гибридное небиологическое мышление достигнет не представимого для биологического мышления уровня.

Прогноз № 5. К 2045 году произойдет полное слияние людей и машин, на Земле появится новый бессмертный вид (живых существ?) – совершенный носитель интеллекта.

Все это и ознаменует наступление технологической сингулярности.

Гипотеза Курцвейла

Оспаривать саму возможность наступления техносингулярности в 2045 году бессмысленно. Это всего лишь последнее звено в цепочке прогнозов Курцвейла. Нужно разбираться с обоснованностью всей этой цепочки. Но как?

Ведь все пять его прогнозов основаны не на результатах расчетов, не на экспериментах с имитационными моделями и не являются следствием какой-либо экспериментально проверенной теории. Каждый из этих прогнозов либо следствие одного из исходных посылов гипотезы, либо продукт дедуктивного рассуждения: цепочки логических выводов из этих исходных посылов.

Исходные посылы в основе прогнозов Рэя Курцвейла весьма многочисленны (в его книге их перечислено аж 37). Но ключевыми из них являются лишь три:

1. Экспоненциальный рост скорости технологических инноваций (примерно вдвое каждое десятилетие), приводящий к аналогичному ускорению парадигмальных сдвигов (фазовых переходов) биологической, социальной и технологической эволюции;

2. Экспоненциальный рост основных показателей, характеризующих прогресс IT: примерно вдвое каждый год;

3. Экспоненциальный рост основных показателей прогресса в сканировании мозга: временное и пространственное разрешение, а также полоса пропускания, – примерно вдвое каждый год.

В подтверждение этих посылов Курцвейл приводит десятки графиков. Они демонстрируют разнообразные прошлые тренды. Некоторые из них экстраполированы в будущее, хотя и существуют сомнения, что характер развития экстраполируемых процессов будет продолжаться и дальше в том же темпе. Но поскольку никаких обоснований такой экстраполяции Курцвейлом не приводится, то и спорить здесь не о чем. И мнение за обоснованность экстраполяции, и мнение против – всего лишь субъективные предположения, которые пока никто не может подкрепить никакими экспериментально проверенными теориями.

Но вот с логическим выводом о наступлении технологической сингулярности в 2045 году, якобы вытекающим из этих посылов, – полный провал.

Звенья, не соединенные в цепь

Цепочка логического обоснования гипотезы получается короткая – всего три логических звена.

Звено 1. Очередной парадигмальный сдвиг произойдет в 2029 году.

Это следует из расчета даты очередного парадигмального сдвига при продолжении временного ряда событий – обобщение работ 15 известных исследователей (от Карла Сагана до Теодора Модиса), проанализировавших разные последовательности ключевых эволюционных событий и выявивших единый, очевидный тренд.

Этот тренд – постоянное ускорение эволюции, выражающееся в плавном сокращении интервалов времени между кластерами главных биосферных событий (парадигмальных сдвигов).

Последние три зафиксированные Модисом канонические вехи в обобщенном временном ряду событий таковы: 1900 год – современная физика, радио, электричество, автомобиль, аэроплан; 1950 год – структура ДНК, транзистор, ядерная энергия, Вторая мировая война, холодная война, спутник; 1995 год – интернет, расшифровка генома человека.

Если продолжить временной ряд в будущее, то, как пишет Модис в работе The Limits of Complexity and Change, на которую ссылается и Курцвейл, следующая каноническая веха приходится на 2038 год. Однако вместо этой указанной Модисом даты Курцвейл, будто следуя принципу «артиллерийской вилки», называет две другие: одну на несколько лет раньше, другую – позже 2038 года:

– 2029 год – когда ИИ пройдет тест Тьюринга;

– 2045 год – когда наступит технологическая сингулярность.

Каким образом был рассчитан 2029 год, Курцвейл не уточняет. Об истоках второй даты «артиллерийской вилки», 2045 года, будет рассказано в третьем звене логического вывода Курцвейла.

Звено 2. Сильный ИИ появится в 2029 году.

Это следует из анализа трендов экспоненциального роста основных показателей прогресса IT и прогресса в сканировании мозга. Это позволит к концу 2020-х определить структуру связей нейронов мозга с точностью, позволяющей ее эмуляцию программным путем.

Звено 3. В 2045 году появится супер-ИИ, что и приведет к технологической сингулярности.

Логика данного умозаключения, по-видимому, такова: наступление технологической сингулярности произойдет в 2045-м, поскольку «небиологический интеллект, созданный в том же году, станет в миллиард раз мощнее, чем весь человеческий интеллект сегодня» (The Singularity Is Near: When Humans Transcend Biology). В частности, в 2045 году, предполагает Курцвейл, компьютер стоимостью в 1000 долл. сравнится по вычислительной мощности (производительности) с суммарной вычислительной мощностью мозга всех живущих на Земле людей.

Объединяя все три логических звена в единый логический вывод, Рэй Курцвейл формулирует его итог: в силу того, что в 2045 году компьютерный интеллект будет в миллиард раз мощнее, чем сегодняшний интеллект всего человечества, наступит технологическая сингулярность.

Конечно, можно было бы сказать, что убедительность логики Курцвейла примерно та же, что и в известной формуле Ленина: «Учение Маркса всесильно, потому что оно верно». Но это было бы повторением схемы доказательства, использованной самим Курцвейлом. А нам хотелось бы получить доказуемое и проверяемое опровержение его гипотезы.

Непредсказуемая сингулярность

Если коротко, то несостоятельность логического вывода Курцвейла определяется несостоятельностью всех трех его звеньев.

Звено 1. Очередной парадигмальный сдвиг произойдет в 2029 году.

Это утверждение несостоятельно по нескольким причинам. Первая из них сильно напоминает старый анекдот: «Почему взвод не стрелял? Во-первых, не было патронов…» В нашем случае причина аналогичная. Почему прогноз сингулярности в 2029 году не верен? Во-первых, сингулярность непредсказуема.

Профильные исследователи обычно комментируют непредсказуемость сингулярности двумя способами.

Согласно прогнозам Рэя Курцвейла, в 2045 году небиологический интеллект станет в миллиард раз мощнее, чем весь человеческий интеллект сегодня.  Иллюстрация Pixabay

Последние три зафиксированные Модисом канонические вехи (см. выше) датируются 1900, 1950 и 1995 годами. Расчет экспоненциального прогноза событий в продолжение этих трех дат показывает, что очередная каноническая веха (или парадигмальный сдвиг по Курцвейлу) приходится на конец 2008 года (1995 + 13,4). Следующая за ней эпохальная дата – примерно конец 2015 года (1995 + 13,4 + 6,3). И еще одна – примерно конец 2018 года (1995 + 13,4 + 6,3 + 3).

Но ничего подобного в реальности не произошло. Конечно, были многочисленные научные достижения. Но ни одно из них несопоставимо по важности с такими разработками, как электроэнергетика, атомная энергетика, транзистор, открытие структуры ДНК или интернет, резко и мгновенно отразившиеся на жизни общества.

Здесь самое время отметить удивительный терминологический конфуз Курцвейла. В этой связи вспоминается Остап Бендер, «позорно назвавший ферзя королевой», получив мат в партии с любителем из города Васюки.

Вот и Курцвейл «позорно» называет ведущую к сингулярности кривую экспонентой, заявляя при этом: «Экспоненциальный рост – это особенность любого эволюционного процесса, важнейшим примером которого является развитие технологий». Как мы уже отмечали в предыдущей статье (см. «НГ-наука» от 08.04.20), проблема здесь в том, что график канонических вех, приводимый Курцвейлом в книге «Сингулярность уже близка», демонстрирует вовсе не экспоненциальное ускорение эволюции. Ускорение экспоненциального типа действительно является распространенным для многих природных и социально-экономических процессов. Но при таком ускорении в принципе не бывает точки сингулярности. Зато она бывает при ускорении функции по гиперболическому закону, когда гипербола устремляется в бесконечность при Х, стремящемуся к нулю.

Расчетная дата сингулярности может быть любой. Всё упирается в субъективность выбора «фазовых переходов». Датировка точки сингулярности временного ряда событий, аппроксимируемого гиперболой, сильно зависит от характеристик этого ряда. Субъективно формируя ряд событий, можно получить для точки сингулярности почти любую дату: хоть 2029 год, хоть 2529 год, а можно и 1729 год или вообще до нашей эры.

Резюме таково. Не существует единого объективного и всеобъемлющего ряда важнейших событий для всех типов земной эволюции (от биосферной до социальной и технологической). И как следствие, не существует не зависящей от «настоящего времени» наблюдателя точки сингулярности, единой для всех типов эволюции.

ИИ – это еще далеко не мозг

Звено 2. Сильный ИИ появится в 2029 году.

Это утверждение несостоятельно в силу того, что все три предположения, на которых Курцвейл построил доказательство истинности 2-го звена, не соответствуют действительности.

Утверждение о том, что прогресс IT позволит к концу 2020-х построить компьютер, обладающий вычислительной мощностью мозга человека, сегодня не имеет под собой никаких оснований.

Современной науке неизвестна вычислительная мощность мозга человека, поскольку неизвестно даже, основана ли работа мозга исключительно на вычислениях. А если все же так, то неизвестен принцип и способы осуществления вычислений мозгом. И даже если мы когда-то это узнаем, то потом еще предстоит понять, что за архитектура позволяет биологической системе, называемой нами мозгом, работать в соответствии с неизвестным пока принципом, реализуя неизвестные пока способы вычислений.

Утверждение о том, что прогресс в сканировании мозга позволит к концу 2020-х определить структуру связей нейронов мозга с точностью, позволяющей ее эмуляцию программным путем, сегодня также не имеет под собой никаких оснований. Подобное знание никоим образом не позволит реализовать программную эмуляцию работы мозга. Современной науке неизвестен даже полный состав и типология всех логических и запоминающих элементов мозга. Кроме того, неизвестно, состоит ли мозг исключительно из логических и запоминающих элементов.

А что значит – сильный ИИ? Ведь и для этого понятия нет не то что формального, а просто более-менее общепринятого определения.

Так что хоть по науке, хоть просто по здравому смыслу, но утверждение Рэя Курцвела, являющееся 2-м звеном логического вывода гипотезы технологической сингулярности, такая же спекуляция, как и 1-е звено.

Доллары и операции в секунду

Звено 3. В 2045 году появится супер-ИИ, что и приведет к технологической сингулярности.

Для доказательства несостоятельности этого утверждения не требуется ничего, ибо лежащий в его основе расчет Курцвейла, – очевидная спекуляция. Расчет Курцвейла (если это вообще можно назвать расчетом), приведенный в его книге «Сингулярность уже рядом», таков.

В начале 2030-х годов за 1000 долл. можно будет купить компьютер, обладающий производительностью 1017 операций в секунду. А с учетом развития интегральных схем специального назначения (ASIC) и распределенных вычислений в интернете за 1000 долл. можно будет приобрести компьютер производительностью даже в 1020 операций/с.

Сегодня мы тратим в год на вычисления более 1011 (100 млрд долл.). А к 2030 году, по консервативной оценке, эта сумма вырастет до 1012 (1 трлн долл.). Следовательно, в начале 2030-х мир будет обладать годовой вычислительной производительностью небиологических (компьютерных) вычислений примерно 1026–1029 операций в секунду. Это примерно соответствует нашей оценке способности всего живого биологического человеческого интеллекта.

Иными словами, в начале 2030-х годовая производительность небиологических (компьютерных) вычислений примерно сравняется с вычислительной производительностью всего человечества. А еще через несколько лет, к середине 2040-х, за 1000 долл. можно будет купить компьютер, обладающий производительностью около 1026 операций/с. Следовательно, годовая производительность небиологических (компьютерных) вычислений, которую можно будет купить за 1 трлн долл., будет в миллиард раз выше вычислительной мощности всего сегодняшнего человечества.

Из вышеизложенного Курцвейл делает вывод: «Я установил дату сингулярности – наступления глубокой и подрывной трансформации человеческих возможностей – в 2045 году. Небиологический интеллект, созданный в этом году, будет в миллиард раз мощнее, чем весь человеческий интеллект сегодня».

Что тут добавишь? Бывают самореализующиеся пророчества, а бывают саморазоблачающиеся доказательства. И это, по-моему, замечательный пример последнего.

Здесь изумительно все. От взятых с потолка цифр (например, вычислительная производительность мозга человека 1016 операций/с) до логики, смешивающей в «салате из коня с рябчиком» доллары с операциями в секунду, годовую вычислительную производительность компьютеров с вычислительной производительностью в секунду мозга человека и человечества, уровень интеллекта с числом операций в секунду.

Судите сами, как оценивать достоверность этого «расчета».

Мне же остается констатировать, что и для 3-го звена имеем то же, что и для первых двух, – это чистая спекуляция.

Обобщение всех вышеизложенных аргументов приводит нас к выводу о недостоверности и необоснованности гипотезы техносингулярности Рэя Курцвейла, поскольку недостоверны все три ключевых положения, составляющие звенья ее логического вывода. Его гипотеза не является научно обоснованной, а выводы, делаемые Курцвейлом на ее основе, безусловно ошибочны.

Все доказательства недостоверности гипотезы Курцвейла, представленные нами выше, не являются чем-то новым для специалистов в этой области. И мы не претендуем даже на один-единственный лавровый лист в качестве приза за опровержение мифа о техносингулярности. Все уже опровергнуто до нас авторитетными исследователями. Мы лишь попытались обобщить их соображения в единую, по возможности стройную и понятную для непрофессионалов картину. С тем, чтобы любой из читателей, не имеющих специальной подготовки, мог самостоятельно пройтись по всем фактам и, проанализировав все звенья логического вывода гипотезы Курцвейла, самому прийти к выводу, что эта гипотеза – полнейший фейк.

Экспонента о двух концах

Но может, что-то изменилось в позиции Курцвейла за прошедшие с опубликования книги «Сингулярность уже близка» 14 лет?

Ведь вышли десятки новых научных работ весьма заслуженных авторов, в которых не просто высказываются сомнения в состоятельности гипотезы техносингулярности, а достоверно показана ее несостоятельность. И такие уважаемые авторы, как Г.Д. Снукс, А.Д. Панов, А.В. Коротаев, Т. Модис (мы специально называем здесь имена лишь тех авторов, с работами которых Р. Курцвейл точно знаком), формулируют свое негативное отношение к техносингулярности примерно так: «Технологическая сингулярность – чистая спекуляция, основанная на гипотезе о возможности создания так называемого сильного искусственного интеллекта» (формулировка А.Д. Панова).

Однако позиция Курцвейла не меняется. Единственное изменение с его стороны состояло в том, что теперь он полагает, будто сингулярность не просто близка, а еще ближе, чем он думал 14 лет назад. Что это означает в конкретных датах, Рэй Курцвейл обещает открыть миру в июне 2020 года, когда планируется выход его новой книги The Singularity is Nearer («Сингулярность еще ближе»).

Куда больше за прошедшие 14 лет изменилась реакция аудитории на прогнозы Курцвейла. В конце нулевых слушатели внимали его прогнозам как гениальным пророчествам. Теперь же преобладает скептическое восприятие.

Орен Эциони, директор Института искусственного интеллекта Аллена (детище соучредителя Microsoft Пола Аллена), предостерегая от ажиотажа по поводу сверхчеловеческого ИИ, высказывается довольно едко: «Экспоненты очень важны. Если мы экстраполируем экспоненты, мы можем быть экспоненциально неправы».

Роберт Дж. Маркс, директор Центра естественного и искусственного интеллекта Уолтера Брэдли, предложил историческую аналогию заявлениям Курвейла. Одной из целей алхимии было создание «гомункула» – искусственного человека, способного думать за нас. Но по мере того, как мы начинали лучше понимать природу, подобные занятия лишь дискредитировали алхимию. «Я полагаю, что сингулярность останется в истории, подобно гомункулу», – заключил Роберт Дж. Маркс.

Миф или мошенничество? Хотелось бы надеяться, что прочитавших эту статью не требуется дальше убеждать, что гипотеза техносингулярности – грандиозный миф. Причем именно миф, а не банальный фейк. Ибо для простого фейка эта гипотеза слишком масштабна, слишком долгоиграюща и слишком дорога в смысле ставок на кону большого бизнеса и большой политики.

Причина того, что мир водят за нос, прогнозируя создание сильного ИИ в ближайшие 20 лет, ясна и понятна. Делается это потому, что более близкие прогнозы создания сильного ИИ генерируют больше финансирования для бизнеса и науки; позволяют политикам пугать общество возможностью «отстать в ИИ гонке», что рождает новые бюджеты и их новые «распилы»; лучше привлекают внимание читателей во всех медиа.

Так что же получается: Рэй Курцвейл и многие его последователи-техносингуляристы поголовно сознательно лгут? Не берусь выносить однозначный приговор. В логике Нассима Талеба – «Если вы видите мошенничество и не говорите, что это мошенничество, то вы – мошенник» – это чистой воды мошенничество. В логике Скотта Александра, считающего, что «понятия «ложь» и «мошенничество» в научных дискуссиях становятся все менее применимы», – не совсем.

Осталось уточнить, на мой взгляд, самый важный момент.

Силиконовая долина религий

Буквально на наших глазах техносингулярность превращается из скрытого (неосознаваемого) человечеством мифа в новую технорелигию. Прав автор международного бестселлера «Sapiens: Краткая история человечества», израильский военный историк-медиевист Юваль Ной Харари: «Люди движимы общими, часто скрытыми (неосознаваемыми) вымыслами».

Многие из этих вымыслов лежат в основе концепций, организующих общество: таких как стоимость доллара или авторитет национальных государств. Самые фундаментальные из таких вымыслов существовали тысячелетиями в форме главных религий человечества.

Но ведь и вымышленная техносингулярность – обретение жизни без старости и болезней, а может быть, и без смерти, путем слияния человека с супер-ИИ – за полтора десятилетия практически уже стала глобальным мировым мифом. Ни одна религия не смогла навеять единый образ будущего для всего человечества. А техносингулярность уже смогла.

«Современному обществу не удалось распространить новые религии за пределы культов личности или ниш саентологии. Но по мере развития цифрового и виртуального миров это должно измениться. XXI век закладывает основу для нового типа широко распространенной веры – основанных на технологиях религий, – пишет директор-основатель Hub Culture Group Стэн Сталнакер. – Технологии сегодня распространены и гранулированы. Они охватывают наше мировоззрение, и люди адаптируют их в свои духовные представления. Интернет действует как ускоритель этих сил, обеспечивая быстрое перекрестное опыление и мутации. Этот скользкий путь трансмутации обеспечивает новый направляющий рельс для превращения технологий в новый культ или религию, или по крайней мере в их компонент».

Тот же Юваль Ной Харари подчеркивает: «Силиконовая долина – это место, откуда берутся самые важные религиозные идеи современности». В качестве примеров таких религиозных идей Харари называет:

датаизм – религию данных, утверждающую, что люди выполнили свою космическую задачу и теперь должны передать факел прогресса совершенно новым видам сущностей;

техногуманизм, призванный помочь нам решить многие из сегодняшних проблем, сделав людей менее зависимыми от иррациональных инстинктов, убеждений и логических заблуждений, став более похожими на ИИ – объективными, беспристрастными, основанными на фактах и управляемыми данными.

Еще один пример новой технорелигии называет Сталнакер – «дополненная осознанность», способная помочь разрушить наше восприятие границ между нами и нашей целью, виртуальной или реальной.

Все три названные претендента на статус новых технорелигий вполне реальны. Однако и Харари, и Сталнакер, на мой взгляд, не видят главного претендента – технорелигии техносингулярности. Еще в начале первого тысячелетия до н.э. «Заратустра положил начало новому времени, предсказав абсолютный конец света. После решительного боя между силами света и тьмы и Страшного суда над всеми когда-либо жившими наступит вечная жизнь без голода, жажды, насилия, рождения и смерти. Герой победит дракона в последний раз, хаос отступит раз и навсегда, и лишь добро пребудет вовеки».

Эта «вечная жизнь без голода, жажды, насилия, рождения и смерти» в той или иной форме вошла непременным элементом эсхатологии большинства мировых религий, дошедших до наших дней.

И вот спустя 2+ тыс. лет, пройдя через «Великое разочарование» (Great Disappointment) и серию «Великих пробуждений» (Great Awakenings), человечество обретает новую техноверу. И Рэй Курцвейл – «силиконовый пророк» техномилленаризма – обещает, что грядущая фундаментальная трансформация общества, после которой все изменится, не может не быть совсем близко.

Если так, это проясняет возможную судьбу мифа техносингулярности.

Подобно традиционным религиозным догмам, техносингулярность, оставаясь скрытым (неосознанным) мифом, так и будет оставаться «пока несбывшимся» пророчеством, оказывая огромное влияние и на мировую правящую элиту, и на образ будущего для большинства. И тогда конкретные даты – хоть 2045-й, хоть 2245-й – станут уже не важны.

А Рэя Курцвейла, названного Wall Street Journal «the restless genius» (перевод на ваш выбор: от «беспокойный гений» до «суетливый умник»), со временем назовут «кремниевым пророком Рэем».