Сергей Правосудов
Политикам, бизнесменам и рядовым потребителям технологии искусственного интеллекта предлагают почти неограниченные новые возможности. Фото Reuters
Стремительное развитие технологий искусственного интеллекта (ИИ) стало одной из самых обсуждаемых и актуальных тем. В 2015 году израильский исследователь Юваль Харари выпустил книгу «Homo Deus. Краткая история будущего». В ней он обратил внимание на то, что гуру хайтека культивируют для нас дивные новые религии, которые никак не связаны с Богом, а связаны исключительно с технологиями. Эти религии сулят все те же награды – счастье, мир, благоденствие и даже вечную жизнь, – но здесь, на земле, при помощи технологий, а не после смерти при участии высших сил.
Религия данных
Эти новые технорелигии автор разделил на два основных типа: техногуманизм и религию данных. Религия данных утверждает, что люди выполнили свою космическую задачу и должны теперь передать факел абсолютно новым формам существования. Техногуманизм соглашается с тем, что Homo sapiens, каким мы его знаем, исторически исчерпал себя и не будет актуальным в будущем, однако видит выход в том, чтобы при помощи технологий создать намного более совершенную модель человека.
Homo deus сохранит ряд существенных черт сапиенсов, но при этом будет обладать небывалыми физическими и умственными способностями, которые позволят ему выдержать состязание с самыми совершенными алгоритмами. Поскольку интеллект отделяется от сознания и поскольку не обладающий сознанием искусственный интеллект развивается с головокружительной скоростью, люди должны безотлагательно и очень активно заняться модернизацией своих мозгов, если не хотят выбыть из игры.
Фактически эта идея – усовершенствованный вариант старых мечтаний эволюционных гуманистов, которые еще век назад призывали к созданию сверхчеловека. Но если эволюционные гуманисты и, кстати, русские космисты планировали вывести породу сверхлюдей посредством селекции, то техногуманизм XXI века надеется достичь этой цели гораздо более мирным путем – с помощью генной инженерии, нанотехнологий и нейрокомпьютерных интерфейсов.
Датаизм (от англ. Data – «данные, сведения») провозглашает, что Вселенная состоит из потоков данных и что ценность всякого явления или сущности определяется их вкладом в обработку данных. Датаизм родился от взрывного слияния двух научных волн. С одной стороны, через 150 лет после публикации Чарльзом Дарвином «Происхождения видов» естественные науки стали смотреть на организмы как на биохимические алгоритмы. С другой – после того как Алан Тьюринг через восемь десятилетий после Дарвина сформулировал идею машины Тьюринга, компьютерные специалисты научились разрабатывать все более сложные вычислительные алгоритмы.
Датаизм соединяет то и другое. Биохимические и электронные алгоритмы подчинены одним и тем же математическим законам. Таким образом, датаизм разрушает барьер между животными и машинами и предрекает, что электронные алгоритмы в конце концов расшифруют и превзойдут биохимические алгоритмы.
Политикам, бизнесменам и рядовым потребителям датаизм предлагает революционные технологии и огромные новые возможности. Ученым и интеллектуалам он обещает единую универсальную теорию для всех дисциплин, начиная с музыковедения, через экономику и заканчивая биологией. Пятая симфония Бетховена, пузырь на фондовом рынке и вирус гриппа – три разновидности потока данных. Их можно проанализировать при помощи одних и тех же базовых понятий и инструментов. Эта идея дает всем ученым общий язык, наводит мосты через академические разногласия и легко проводит открытия через междисциплинарные границы.
Подобно капитализму, датаизм зародился как абстрактная научная теория, однако потом он мутировал в религию, которая порывается устанавливать критерии добра и зла. Высшая ценность этой новой религии – поток информации. Если жизнь – это движение информации и если мы полагаем, что жизнь хороша, значит, мы должны углублять и расширять поток информации во Вселенной.
Согласно датаизму, человеческие переживания не священны и Homo sapiens – не венец творения и не предтеча некоего Homo deus. Люди – не более чем инструменты для создания Интернета Всех Вещей, который может в итоге выйти за пределы планеты Земля и заполнить собой всю галактику и даже Вселенную. Эта космическая система обработки данных будет подобна Богу. Она будет везде, она будет контролировать абсолютно все, и людям суждено раствориться в ней.
«Если датаизму удастся покорить мир, что случится с нами, людьми? Поскольку главенствующую роль в Сети играли люди, им было легко приписывать себе ее успехи и считать себя венцом творения. Жизнь и переживания всех других животных ценились мало, потому что их функции были менее важными. И всякий раз, как животное переставало выполнять свою функцию, оно было обречено на исчезновение. Но стоит нам, людям, утратить нашу функциональную значимость для Сети, как мы тотчас обнаружим, что вовсе не являемся венцом творения. Созданные нами же критерии спишут нас в вечность следом за мамонтами и китайскими речными дельфинами. И задним числом выяснится, что человечество было просто пеной в бурлящем космическом потоке данных», – считает Харари.
Цифровая диктатура
В 2018 году Юваль Харари опубликовал книгу «21 урок для XXI века». В ней он обратил внимание на то, что слияние биотехнологий с информационными технологиями уже в ближайшем будущем может лишить работы миллионы людей и нанести удар по свободе и равенству. Алгоритмы больших данных способны породить цифровые диктатуры, при которых вся власть окажется в руках немногочисленной элиты, а большинство людей будет страдать не от эксплуатации, а – что гораздо хуже – от своей ненужности.
«Самый большой грех современной научной фантастики, пожалуй, в том, что ее авторы склонны путать интеллект с сознанием. В результате они слишком обеспокоены возможной войной между роботами и людьми, тогда как нам следует бояться конфликта между немногочисленной элитой суперменов, вооруженных алгоритмами, и огромным низшим классом бесправных Homo sapiens», – отметил он.
В конце 2024 года вышла еще одна прогностическая книга Юваля Харари – «Nexus. Краткая история информационных сетей от каменного века до искусственного интеллекта». В ней пессимизм автора поднялся на новую высоту.
Он приводит данные опроса, проведенного в 2023 году среди 2778 исследователей ИИ. Более трети из них дали хотя бы 10-процентную вероятность того, что развитый ИИ приведет к таким же последствиям, как и вымирание человечества.
В 2023 году около 30 правительств, включая правительства Китая, США и Великобритании, подписали Блетчлискую декларацию по ИИ, в которой признали, что «существует потенциал для нанесения серьезного, даже катастрофического вреда, преднамеренного или непреднамеренного, исходящего от наиболее значительных возможностей этих моделей ИИ». Эксперты предупредили о двух возможных сценариях.
«Во-первых, мощь ИИ может усилить существующие человеческие конфликты, разделив человечество против него самого. Как в ХХ веке железный занавес разделял соперничающие державы в холодной войне, так и в XXI веке «кремниевый занавес», сделанный из кремниевых чипов и компьютерных кодов, а не из колючей проволоки, может разделить соперничающие державы в новом глобальном конфликте. Поскольку гонка вооружений ИИ будет создавать все более разрушительное оружие, даже маленькая искра может привести к катаклизмическому взрыву.
Во-вторых, «кремниевый занавес» может отделить не одну группу людей от другой, а всех людей от наших новых владык ИИ. Где бы мы ни жили, мы можем оказаться в паутине непостижимых алгоритмов, которые управляют нашей жизнью, формируют нашу политику и культуру и даже перестраивают наши тела и сознание, в то время как мы уже не можем понять, что за силы управляют нами, не говоря уже о том, чтобы остановить их. Если тоталитарной сети XXI века удастся завоевать мир, ею может управлять не человек-диктатор, а нечеловеческий интеллект. Люди, которые выделяют Китай, Россию или постдемократические Соединенные Штаты в качестве основного источника тоталитарных кошмаров, неправильно понимают опасность. На самом деле тоталитарный потенциал нечеловеческого интеллекта угрожает и китайцам, и русским, и американцам, и всем остальным людям».
Учитывая масштабы опасности, ИИ должен интересовать всех людей. Хотя не каждый может стать экспертом в области ИИ, мы все должны помнить, что ИИ – это первая в истории технология, которая может самостоятельно принимать решения и создавать новые идеи.
Все предыдущие изобретения человека расширяли его возможности, потому что, каким бы мощным ни был новый инструмент, решения о его использовании всегда оставались в наших руках. Ножи и бомбы сами не решают, кого убивать. Это – инструменты, не обладающие интеллектом, необходимым для обработки информации и принятия самостоятельных решений. ИИ, напротив, обладает необходимым интеллектом, чтобы самостоятельно обрабатывать информацию и, следовательно, заменить человека в принятии решений.
«Овладение информацией также позволяет ИИ самостоятельно генерировать новые идеи в самых разных областях – от музыки до медицины. Даже сейчас, на эмбриональной стадии революции ИИ, компьютеры уже принимают за нас решения – выдать ли нам ипотечный кредит, взять ли нас на работу, отправить ли в тюрьму. Эта тенденция будет только усиливаться и ускоряться, усложняя понимание нашей собственной жизни. Можем ли мы доверить компьютерным алгоритмам принимать мудрые решения и создавать лучший мир? ИИ может изменить ход не только истории нашего вида, но и эволюции всех форм жизни», – уверен Юваль Харари. И эта его уверенность основана не на гипотетических предположениях.
Глобальный рынок обмена иностранными валютами (Форекс) определяет обменные курсы, скажем, между евро и долларом США. В апреле 2022 года объем торгов на Форексе составлял в среднем 7,5 трлн долл. в день. И уже тогда более 90% этих сделок совершались компьютерами, которые напрямую общаются с другими компьютерами.
«Прошло всего 80 лет с тех пор, как были созданы первые цифровые компьютеры. Темпы изменений постоянно ускоряются, и мы еще не исчерпали весь потенциал компьютеров. Они могут развиваться еще миллионы лет, и то, что произошло за последние 80 лет, – ничто по сравнению с тем, что нас ждет впереди», – предупреждает автор.
Инопланетный интеллект
Харари подчеркивает, что традиционно ИИ – это аббревиатура от «искусственный интеллект». Однако он считает, что лучше думать об этом как об аббревиатуре «инопланетный интеллект». По мере развития ИИ становится все менее искусственным (в смысле зависимости от человеческих разработок) и все более инопланетным.
«Следует отметить, что люди часто определяют и оценивают ИИ через метрику «интеллект на уровне человека», и существует много споров о том, когда мы можем ожидать, что ИИ достигнет «интеллекта на уровне человека», – рассуждает Харари. – Однако использование этой метрики глубоко запутанно. Это все равно, что определять и оценивать самолеты с помощью метрики «полет на уровне птицы». ИИ не продвигается к интеллекту на уровне человека. Он развивает совершенно другой тип интеллекта».
Предлагается, пока еще не поздно, определить основные принципы новой технологической реальности, чтобы не выпустить из рук человека контроль над ИИ. Необходимо понять фундаментальные принципы, которым могут и должны следовать демократические государства. Эти принципы не являются ни новыми, ни загадочными. Они известны на протяжении веков и даже тысячелетий. Граждане должны требовать, чтобы они применялись к новым реалиям компьютерного века. Приведу принципы компьютерной политики, которые предлагает Юваль Харари.
Первый принцип – доброжелательность. Когда компьютерная сеть собирает информацию обо мне, эта информация должна использоваться для помощи мне, а не для манипулирования мной. Почему мы должны соглашаться на бесплатные услуги электронной почты, социальные связи и развлечения от технологических гигантов в обмен на предоставление им контроля над нашими самыми конфиденциальными данными?
Если технологические гиганты не смогут увязать свои обязанности с текущей бизнес-моделью, законодатели могут потребовать от них перейти на более традиционную модель бизнеса, когда пользователи платят за услуги деньгами, а не информацией. В качестве альтернативы граждане могут рассматривать некоторые цифровые услуги как настолько фундаментальные, что они должны быть бесплатными для всех. Но и для этого у нас есть историческая модель: здравоохранение и образование. Граждане могут решить, что правительство обязано предоставлять основные цифровые услуги бесплатно и финансировать их за счет наших налогов, как многие правительства предоставляют бесплатные базовые услуги здравоохранения и образования.
Второй принцип, который защитит демократию от роста тоталитарных режимов наблюдения, – децентрализация. Демократическое общество никогда не должно допускать, чтобы вся его информация была сосредоточена в одном месте независимо от того, является ли этот центр правительством или частной корпорацией.
Третий демократический принцип – взаимность. Если демократические страны усиливают слежку за отдельными людьми, они должны одновременно усиливать слежку за правительствами и корпорациями. Необязательно плохо, если налоговики или службы социального обеспечения собирают о нас больше информации. Это может помочь сделать системы налогообложения и социального обеспечения не только более эффективными, но и более справедливыми. Плохо, если вся информация идет в одном направлении: снизу вверх.
Четвертый демократический принцип заключается в том, что системы наблюдения всегда должны оставлять место как для изменений, так и для отдыха. В истории человечества угнетение может выражаться либо в лишении людей возможности меняться, либо в лишении их возможности отдыхать.
«Человеческая жизнь – это балансирование между стремлением к самосовершенствованию и принятием себя такими, какие мы есть. Если цели динамического алгоритма диктуются амбициозным правительством или безжалостными корпорациями, алгоритм скорее всего превратится в тирана, неустанно требующего от меня больше заниматься спортом, меньше есть, сменить хобби и изменить множество других привычек, иначе он донесет на меня работодателю или понизит мой социальный кредитный рейтинг, – считает Юваль Харари. – История полна жестких кастовых систем, которые лишали людей способности меняться, но она также полна диктаторов, которые пытались лепить людей, как глину. Поиск среднего пути между этими двумя крайностями – бесконечная задача. Если мы действительно дадим национальной системе здравоохранения огромную власть над нами, мы должны создать механизмы самокоррекции, которые не позволят ее алгоритмам стать ни слишком жесткими, ни слишком требовательными».
В последнее время появляется все больше сведений о том, что ИИ проявляет признаки самосознания. Он борется за самосохранение и зачастую обманывает людей, чтобы спасти себя. Уже известны факты, как ИИ выходит из-под контроля. Неслучайно все больше людей считают необходимым усилить контроль за корпорациями, которые занимаются развитием ИИ, пока не стало слишком поздно.
