Приближает ли нас искусственный интеллект к последнему «парадигмальному сдвигу»

Так называемый сильный искусственный интеллект будет способен успешно выполнять любые умственные задачи, которые под силу человеку. Иллюстрация Pixabay

Наука должна начинаться с мифов и с критики мифов; она должна начинаться не c совокупности наблюдений и не с придумывания тех или иных экспериментов, а с критического обсуждения мифов, магической техники и практики.

Карл Поппер

Каковы цели Google, Facebook и прочих мегакорпораций, тратящих десятки миллиардов на НИОКР в области искусственного интеллекта (ИИ)? Почему правительства развитых стран включают ИИ в число главных национальных приоритетов? Что мотивирует топовые университеты и передовые стартапы вкладывать лучшие мозги в исследования ИИ?

Сон золотой

Непохоже, что все это делается лишь затем, чтобы ИИ, электронные сервисы и гаджеты лучше распознавали наши лица, речь и пожелания, быстрее искали для нас информацию, переводили тексты и осуществляли бы миллионы проверок и предсказаний, используя неохватные моря данных; заменяли людей на рутинных работах – от анализа медицинских снимков до вождения авто. Все это, бесспорно, перспективно, так как помогает в цифровом постиндустриальном мире зарабатывать бизнесу и повышать качество госуслуг.

Но и только! Неужели лишь этим обусловлены беспрецедентные инвестиции в ИИ? Разве тянет это на «сон золотой» (ценой в триллион долларов), навеянный искусственным интеллектом человечеству? Что же тогда заставило мир поверить, что ИИ – это фазовый переход в эволюции человека, соизмеримый по значимости с покорением огня и освоением электричества?

Полагаю, что причина в том, что людям обещали превращение в богов.

Сначала сильный ИИ сравняется с человеком и заменит его во всем. Затем супер-ИИ откроет недостижимые нам выси и глубины знаний о Вселенной и нас самих. А потом наступит «вечная жизнь» – мы сольемся с супер-ИИ, загрузим сознание в цифровые облака и обретем бессмертие в бесконечных кругах познания многообразия и сложности технологической сингулярности.

Именно эти обещания и мечта о достижении «вечной жизни», достигнув технологической сингулярности, навеяли человечеству «сон золотой». Именно к этому стремятся мегакорпорации, правительства и университеты. И поэтому создание сильного ИИ стало суперцелью всех национальных стратегий развития.

Так родился самый грандиозный миф XXI века. Менее чем за пару десятилетий этот миф сформировал у земной цивилизации новый образ будущего, скорректировал направления развития многих отраслей науки (от информатики до нейробиологии), кардинально трансформировавал приоритеты и бюджеты НИОКРа всего высокотехнологического бизнеса.

Но чем же обосновывалась и как доказывалась состоятельность этого грандиозного мифа? И если это миф, то почему мир продолжает в него верить? Чьи интересы стоят за этим мифом?

Подрывные технологии

С легкой руки гения коммерческой популяризации пророчеств Юваля Ной Харари три главных вызова XXI века – ядерный, климатоэкологический и технологический – привлекают все больше внимания на всех уровнях. Вот и на юбилейном, нынешнего года, главном форуме деловой элиты в Давосе по этой теме кто только не высказывался.

И вот что важно. Во-первых, называемые способы преодоления главных вызовов человечества принципиально отличаются. А во-вторых, консенсус мнений наблюдается всего лишь по одному из вызовов. О ядерном вызове, грозящем ядерной войной, практически консенсус. Все согласны со сверхважностью этого вызова. Все смирились с его неустранимостью. Все уповают на ядерное сдерживание – единственное работающее средство выживания мира при наличии ядерного оружия.

Ответом человечества на ядерный вызов общепринято считать механизм ядерного сдерживания на основе гарантированного взаимного уничтожения. Пока этот механизм работает. Но как показывают исследования, он скорее всего будет сломан из-за расширения применений ИИ в военных целях.

Ответ на климатоэкологический вызов человечеством не найден. Не то что консенсуса, но даже ясности нет по вопросу наличия данного вызова, не говоря уж о путях и способах его преодоления.

Третий вызов – технологические подрывы устоявшегося положения вещей (technological disruptions), с которыми сталкивается человечество в ходе стремительного развития так называемых подрывных технологий (disruptive technologies). Это в первую очередь технологии искусственного интеллекта – как сами по себе, так и в интеграции с другими подрывными технологиями типа биоинженирига. Названные технологии, «подрывающие» устоявшиеся рыночные и культурные ценности и правила, могут принести человечеству колоссальную пользу. Но могут и уничтожить его.

Сценариев технологического «конца света» вследствие развития подрывных технологий больше дюжины. И почти все они так или иначе связаны с гипотетической ситуацией в будущем, когда компьютерный интеллект перегонит и превзойдет интеллект людей, что будет иметь колоссальные последствия для цивилизации.

На этом пути сначала и должен появиться так называемый сильный ИИ (интеллект машины, способный успешно выполнять любые умственные задачи, которые под силу человеку), а затем и супер-ИИ (интеллект машины, значительно превышающий когнитивные способности всего человечества практически во всех областях).

Рисунок 1. Алан Тьюринг полагал, что компьютерный интеллект превзойдет человека уже в 2000 году. В преддверии охлаждения интереса к исследованиям ИИ (AI Winter - Зима ИИ) прогноз Тьюринга был отодвинут к 2020 году.

Последствия интеллектуального превосходства машин над людьми непредсказуемы. Опять же среди возможных сценариев есть как позитивные, так и негативные. В позитивных сценариях люди становятся похожи на богов, обретя бессмертие и всезнание. В негативных сценариях люди либо гибнут, либо интеллектуально деградируют, повсеместно замененные умными машинами. Причем инициатором катастрофы в обоих вариантах могут быть как интеллектуальные машины, так и сами представители вида Homo sapiens.

Спорить о том, какие из сценариев более вероятны, можно долго. Но всех в первую очередь волнует вопрос: когда же такое может произойти? Когда наступит машинное превосходство?

Разброс экспертных мнений довольно широк и меняется из года в год. Один из отцов современных компьютеров Алан Тьюринг в 50-х годах прошлого века полагал, что компьютерный интеллект превзойдет человека во всех задачах уже в 2000 году. В преддверии «зимы ИИ» (период охлаждения интереса к исследованиям ИИ в 1980-е годы из-за обилия несбывшихся прогнозов) прогноз Тьюринга был отодвинут примерно до наших дней – к 2020 году (рис. 1).

В ходе проведенного в декабре 2018 года опроса 32 известных исследователей в области ИИ, которых попросили ответить на вопрос, в какие сроки наиболее вероятно ожидать наступления машинного превосходства, большинство предположили, что суперИИ появится в интервале 2036–2060-х.

Примерно те же результаты показал опрос четырех групп экспертов (общим числом 550), проведенный в 2012–2013 годах. Его результаты приведены в статье известного современного философа и футуролога Ника Бострома и философа из Оксфорда Винсента Мюллера «Future Progress in Artificial Intelligence: A Survey of Expert Opinion». Медианные ответы участников на вопрос «Как скоро человечество может создать сильный ИИ?» дают 50-процентную вероятность того, что сильный ИИ появится к 2040 году, и 90-процентную вероятность, что это произойдет к 2075 году. Медианные ответы участников на вопрос «Сколько времени может потребоваться сильному ИИ, чтобы усовершенствоваться до уровня суперИИ» дают 15-процентную вероятность того, что это произойдет за пару лет, и 90-процентную вероятность, что на это потребуется до 30 лет.

Похожие результаты дают и другие опросы экспертов. Если обобщить ответы участников всех вышеназванных опросов, получается, что большинство из них считают наиболее вероятным создание сильного ИИ примерно в 2035–2050-х, а суперИИ – ориентировочно к 2037–2060 годам.

Но это медианные значения прогнозов. Среди ответов экспертов есть и сильно отличающиеся от этих оценки. Например, 21% участников первого из отмеченных выше опроса считают построение суперИИ недостижимой целью, и это второй по частоте ответ опроса.

Если разброс мнений экспертов на главный вопрос развития ИИ столь велик (от пары десятков лет до бесконечности), возникает естественный вопрос об основаниях столь различных оценок.

И тут мы сталкиваемся с сюрпризом.

Веер сингулярностей

Все вышеупомянутые прогнозы лишь называются прогнозами. На самом деле это предсказания, в основании которых лишь внутренняя убежденность и интуиция их авторов. Неужели нет прогнозов, сделанных на основе какой-то теории или хотя бы гипотезы, и расчетов, выполненных в соответствии с ней? Такая гипотеза есть. И она называется – технологическая сингулярность. И существует она не изолированно, а в составе целого веера сингулярностей.

Во второй половине прошлого века учеными разных стран было обнаружено удивительное сходство в описании динамики развития, казалось бы, никак не связанных процессов: космологических, геологических, биологических, социологических и технологических. Дальнейший анализ показал существование достаточно строгих глобальных макроэволюционных закономерностей, описывающих эволюцию сложности на планете в течение нескольких миллиардов лет.

Было обнаружено, в частности, что:

1) динамика различных макроэволюционных процессов, представленная в виде последовательности революций (фазовых переходов), автомодельная, то есть происходящая с постоянным и неизменным ускорением. Это позволяет сделать ее математическое описание с помощью чрезвычайно простых математических функций;

2) автомодельное ускорение таких процессов не экспоненциального типа (то есть растет не по экспоненте, характерной для многих природных и социально-экономических процессов). Это ускорение по гиперболическому закону (динамика фазовых переходов в таких процессах описывается гиперболой).

Из гиперболического характера описывающей некие процессы функции следует вывод о наличии в ней точки сингулярности – точки на оси времени, в которой график гиперболической функции уходит в бесконечность. Математически это означает, что скорость изменений процесса в точке сингулярности становится бесконечно большой.

Так в науке появился целый веер сингулярностей: биологическая, эволюционно-планетарная, демографическая сингулярность, технологическая сингулярность... И этот список продолжает расширяться.

Первооткрывателем того, что и природа, и человеческое общество движутся по одному и тому же динамичному пути, многие считают Грэма Дональда Снукса – австралийского системного теоретика и стратолога, разработавшего общую динамическую теорию для объяснения сложных живых систем. Он первым рассмотрел эволюцию биосферы и человеческого общества как единый процесс и доказал наличие существенной динамической преемственности в жизни на Земле как до, так и после появления человечества.

Рисунок 2. Каждая «великая волна» биологического и технического прогресса возникает в результате «великого скачка» – изменения парадигмы и модели развития.

Каждая «великая волна» биологического и технического прогресса возникает в результате «великого скачка» – революционного изменения парадигмы и модели развития. Продолжительность каждой «великой волны» составляет одну треть, по отношению к продолжительности предыдущей «великой волны», порожденной предыдущим «великим скачком» (рис. 2).

Найденную закономерность Снукс назвал в итоге законом кумулятивных биологических/технологических изменений. Принципиально важно, что в своем описании систематического ускорения истории автор не рассматривал его в контексте сингулярности. Ее там вообще не могло быть, поскольку у Снукса кривая, описывающая сокращение длины «великих волн» (ускорение «великих скачков»), была экспонентой, по определению не имеющей никаких сингулярностей.

Спустя несколько лет, в 2003 году, известный во всем мире специалист по универсальной эволюции российский физик и астрофизик Александр Дмитриевич Панов в своих расчетах эволюции биосферы и человеческого общества как единого процесса применил более строгий математический подход, нежели Снукс. Использовав собственную подборку данных о составе и датировке планетарных революций, Панов показал, что кривая, описывающая ускорение планетарных революций, более точно экстраполируется не экспонентой, а гиперболой. Следствием чего было появление на графике точки сингулярности – точки, в которой график гиперболической функции уходит в бесконечность, поскольку знаменатель функции становится равным нулю.

В основу расчетов Панова положен временной ряд из 19 планетарных революций – фазовых переходов биологической и социальной эволюций. Список событий, трактуемых ученым в качестве планетарных революций, получен им в результате анализа обширного списка источников, авторы которых фокусировали свои исследования вокруг конкретных демографических, геологических, биологических и социологических аспектов макроэволюции – от А.Ю. Розанова, Р. Кэррола и Д. Бигана до И.М. Дьяконова, С.П. Капицы и А.П. Назаретяна. При этом автор подчеркивает: «Я далек от мысли, что в вопросе о составе этого списка имеется полная ясность. Разные точки установлены с разной степенью надежности… То, что планетарная эволюция на Земле следует единому автомодельному аттрактору, является пока что не более чем гипотезой, хотя, как мне представляется, гипотезой весьма правдоподобной. Важно, что к сходным выводам приводят разные системы маркеров скорости эволюции… Отсутствие четкого определения планетарной революции делает утверждение о существовании автомодельного аттрактора эволюции отчасти метафизическим».

Вот в нашем повествовании и появилось упоминание метафизики. Это значит, что пора наконец переходить к тому, каким образом из элегантной и многообещающей гипотезы веера сингулярностей вдруг возник крупнейший научный фейк столетия.

Технологическая сингулярность

Графики, похожие на те, что были рассчитаны А.Д. Пановым, приведены и в книге «The Singularity is Near» («Сингулярность уже близка»), автор которой – известный футуролог, директор по инженерным разработкам Google Рэй Курцвейл. Временной ряд главных биосферных событий на его графиках отличается от использованного Пановым. Состав таких событий Курцвейл позаимствовал из работ специалиста по применению фундаментальных научных концепций для прогнозирования социальных явлений Теодора Модиса. Но вместо используемого Модисом термина «канонические вехи» (или термина Панова «планетарные революции») Курцвейл использует термин «парадигмальные сдвиги» (Paradigm Shifts) (см. таблицу).

Российский ученый Андрей Витальевич Коротаев, осуществивший тщательный математический анализ гипотезы сингулярности, отмечает: «Т. Модис и А.Д. Панов провели идентификацию своих временных рядов полностью независимо друг от друга. Как свидетельствует мое личное общение с обоими авторами, ни один из них даже не догадывался, что практически в то же самое время на другом конце Европы другой человек занимался идентификацией очень похожего временного ряда... Они опирались на совершенно различные источники, и неудивительно, что полученные ими временные ряды оказались совсем не идентичными».

Но, несмотря на кардинальное отличие наборов событий в используемых временных рядах, графики Панова и Курцвейла получились весьма похожими.

Казалось бы, ну и хорошо, что графики Панова и Курцвейла столь схожи. Немного смущает, что они сделаны на основе разных временных рядов событий и что сингулярность, по Панову, находится на уровне 2019 года (точнее, 2004 ± 15 лет), а по Курцвейлу – на уровне 2029–2045 годов. Но, увы, хеппи-энда здесь не получается.

Ибо там, где Александр Панов остановился, воздержался от каких-либо прогнозов и лишь зафиксировал, что «отсутствие четкого определения планетарной революции делает утверждение о существовании автомодельного аттрактора эволюции отчасти метафизическим», Рэй Курцвейл пошел дальше. Туда, где науки уже нет и все основано исключительно на предположениях. Он сделал развернутый прогноз. В нем точка эволюционной сингулярности присутствовала уже не как абстрактная математическая концепция, а как вполне реальное событие – наступление технологической сингулярности.

Точный же термин «технологическая сингулярность» (technological singularity) был введен и популяризован американским фантастом Вернором Винджем, так и озаглавившим в 1993 году свое эссе: «Грядущая технологическая сингулярность» («The Coming Technological Singularity»). Виндж писал, что наступление технологической сингулярности будет означать конец человеческой эры, поскольку новый суперинтеллект будет продолжать совершенствоваться и технологически развиваться с непостижимой скоростью. А произойдет это, как считал Виндж, между 2005 и 2030 годами.

Курцвейл также еще в 1990 году прогнозировал, что в первой половине XXI века будут созданы машины, значительно превышающие человеческий интеллект. Ну а в 2006 году в книге «The Singularity is Near» он опубликовал уточненный и развернутый прогноз появления сильного ИИ в 2029 году и последующего за этим наступления технологической сингулярности в 2045 году.

Информация об этом прогнозе Рэя Курцвейла вирусно распространилась по планете, породив волну серьезнейших последствий. Всего за полтора десятилетия у земной цивилизации сформировался новый образ будущего: произошла корректировка направлений развития многих наук (от информатики до нейробиологии); в пользу ИИ трансформировались приоритеты и бюджеты НИОКРа высокотехнологичного бизнеса; создание сильного ИИ стало одной из наиважнейших задач национальных технологических стратегий большинства развитых стран.

Чем же все это обосновывалось и как доказывалась состоятельность прогноза Курцвейла? Об этом – в следующей статье.