Как сделать из компьютера человека

«Я думала, он пострашнее будет! А этот смешной и даже симпатичный...» Фото Reuters

На вопросы ответственного редактора приложения «НГ-сценарии» Юрий Соломонова отвечает один из первых руководителей российского отделения IBM, генеральный менеджер таких структур, как Silicon Graphics и Cray Research, в настоящее время сооснователь компании Witology и автор канала «Малоизвестное интересное» Сергей Карелов.

– Сергей Владимирович, если взять страны – лидеры в развитии искусственного интеллекта, можно ли сказать, что разработчики из разных государств все-таки движутся в сторону одинаковых приоритетов или концепций с точки зрения использования ИИ?

– Вначале, как мне кажется, надо понять, что сочетание «искусственный интеллект» существует в разных значениях, коих может быть множество. Но при этом мы все-таки не говорим о чем-то схожем с человеческим мозгом и мышлением.

Скорее мы имеем в виду несколько программ, способных решать некие вычислительные задачи не хуже, а может быть, даже лучше людей, если смотреть на это с точки зрения скоростей получения результатов.

Но при этом речь вовсе не идет о замене человеческого интеллекта на искусственный разум. Можно, например, научить ИИ управлять автомобилем более эффективно, чем это делаем мы с вами. То же самое можно сказать и о медицинской диагностике. Скажем, о распознавании на снимках раковых опухолей.

Однако в отличие от того, что мы считаем человеческим интеллектом, способным решить практически любую задачу, искусственный «разум» способен осилить (причем очень хорошо) лишь одну поставленную ему людьми задачу.

Поэтому самостоятельно ИИ не способен даже забить гвоздь или ответить на вопрос «Что такое Луна?»

– Где-то вы написали, что даже самый сильный в мире искусственный интеллект глупее ребенка.

– Люди понемногу свыкаются с этой мыслью, пришедшей на смену радужных или пугающих прогнозов скорого создания сверхумных машин.

И хотя алгоритмы могут уже многое (переводить со всех языков, давать полезные советы, сочинять музыку, писать картины, обыгрывать нас в шахматы, водить машину и т.д.), они по-прежнему колоссально уступают людям в умении быть разумными. По уму и способности к обучению пятилетние дети даже не количественно, а качественно превосходят возможности самых мощных суперкомпьютеров.

– Если мы пока не можем повторить человеческий разум в машине, то хотя бы понимаем – почему?

– Ответ на этот вопрос, пожалуй, сейчас самый важный в науках об ИИ. И понемногу этот ответ начинает проясняться.

Известнейший французский нейробиолог Станислас Деан объясняет это так. Эволюция создала в людях как минимум три уникальных качества, которые люди пока что не могут повторить в машинах.

Первое качество – это уникальный по мощности и простоте способ обучения. Его механизм предельно прост: восприятие фрагмента реальности, обработка его и перенесение в мозг.

Второе – уникальные статистические «алгоритмы» мозга, постоянно учитывающие неопределенности и вероятности при прогнозировании изменений мира и самого себя на основе запечатленных в мозге фрагментов реальности.

Третье качество ­– какой-то особый, пока не понятный нам способ обработки символической информации. Машины умеют информацию лишь обрабатывать (преобразовывать по заданным правилам). Люди же (даже маленькие дети) умеют информацию извлекать.

– Так почему этому не обучить машины?

– Потому что в «мозге» машины нет фрагментов реальности. Вместо них море двоичных данных, могущих означать что угодно. А машине все равно, что это такое. Она ведь о мире знает лишь что-то одно. Например, шахматный ИИ – про игру в шахматы и ничего больше.

Статистические алгоритмы у машины есть. Но они столь несовершенны, что для выучивания перевода одного нового слова машине нужно предоставить миллион примеров перевода в разных контекстах. А ребенку хватает и пары примеров. Разница качественная.

Что же до особого умения извлекать информацию, то его вообще нет у машин, алгоритмы которых умеют лишь распознавать паттерны. Подобный процесс есть и у людей на первом этапе восприятия (например, восприятие зрительных образов). Но это работает только в течение первой четверти секунды и, по сути, является бессознательным процессом обработки информации в мозге.

Ну а после первой четверти секунды идет совсем иной процесс: уже не обработка, а извлечение информации. Мы извлекаем из мира не только неявную информацию, как это делают нейронные сети, но и явную информацию, которой мы можем делиться с другими в форме символов, которых раньше не было в нашем языке.

Поэтому сейчас мы уже не говорим о той заветной мечте, которая была в свое время у Ноберта Винера и других тогдашних мечтателей и которая давно уже отодвинута на далекий задний план. Это произошло потому, что за те 70 лет, в которые такую задачу все-таки пытались решить, исследователи не продвинулись даже на йоту. Эти программы так же тупы, как они были в самом начале этих замыслов. Такие выводы, конечно, злят сторонников якобы неиссякаемых возможностей искусственного интеллекта, и они начинают воевать с теми, кто не разделяет их веры.

Реакция мейнстрима науки и бизнеса вокруг ИИ наблюдалась еще в 1965 году, когда Хьюберт Дрейфус опубликовал под эгидой RAND Corporation свою знаменитую работу «Алхимия и искусственный интеллект». В ней он (более полувека назад!) в деталях объяснил, почему создание сильного ИИ на основе существующей архитектуры компьютеров невозможно.

С тех пор и до конца жизни в 2017 году он так и оставался одиноким оппонентом мейнстримного ИИ. Его коллеги – преподаватели MIT даже не садились с ним за один стол в университетской столовой. А поскольку Дрейфус упорствовал (в 1972 году опубликовал книгу «Чего не могут компьютеры», а в 1992-м ее обновление «Чего до сих пор не могут компьютеры»), то так и остался в памяти немногих (большинство же сегодня вообще о нем не помнят) «чокнутым луддитом ИИ».

Иными словами, такой интеллект должен быть воплощенным и эусоциально-коллективным.

Но утешением романтикам может быть то, что с помощью искусственных мыслителей стало возможным решать узкие и конкретные задачи. Например, обыграть живого человека в шахматы.

– Чего стоит одна только история Вольфанга Кемпелена с его первым в истории «шахматным автоматом» в виде турка – восковой фигуры человека, сидящего за шахматной доской, стоящей на деревянном ящике, где прятался живой шахматист. Так Кемпелен дурачил всю Европу…

– Ну а чему серьезному можно обучить такую программу? Только игре в шахматы, в го или еще во что-то такое, на чем можно зарабатывать «бабки». Таких аттракционов сегодня не счесть. Это все, можно сказать, стало мелким, но бизнесом.

Иногда у несведущих людей возникает удивление: какая-то машина вдруг обыгрывает гроссмейстера. Но во-первых, сегодня это уже не машина в привычном понимании, а компьютерная программа, которая выигрывает за счет скорости своего «мышления»… Как вы думаете, сколько записанных, то есть зафиксированных партий за свою историю сыграло человечество?

– Не знаю, никогда не задумывался…

– А я вам скажу! Таких партий было сыграно 10 миллионов. И это совсем немного, если сравнить эту цифру с поединком двух современных компьютеров, сыгравших всего за шесть часов 40 миллионов партий.

Или взять медицину. Отличный врач-диагност просмотрел за годы своей работы 10 тысяч снимков на предмет выявления онкологических заболеваний, а всего за день компьютерная программа просматривает 100 миллионов снимков.

Но это преимущество компьютера над человеком всего лишь в цифрах, то есть в количестве, и не более того. Это относится к решению формальных задач. Но тот же компьютер не сможет отыскать вам ваши тапочки, потому что это уже неформальная задача.

А теперь о том, почему политики взялись за развитие искусственного интеллекта. Наш президент Владимир Путин как-то сказал, что миром будет владеть тот, у кого в руках появится самый могучий искусственный интеллект. Мысль, конечно, правильная. И прежде всего потому, что этот самый искусственный разум на поверку тупой, как пробка. А это значит, что его можно научить, скажем, управлению ракетами. И если у нас такое управление будет лучше и быстрее, чем у противника, мы получим преимущество при обмене ядерными ударами.

Эти солдаты будущего ни хлеба, ни табака не попросят.  Кадр из фильма «Терминатор 3:  Восстание машин». 2003

А теперь из всего этого сделаем вывод. Все, что мы называем сегодня искусственным интеллектом, представляет собой некие абсолютно примитивные устройства, умеющие осуществлять некие заложенные программами функции. Причем они это делают гораздо лучше человека.

Поэтому на подобных изобретениях бизнес зарабатывает немалые деньги. А политики на вооружениях получают те преимущества, которые дают им выход на международную арену. Вот и весь расклад.

– Но вы в своих публикациях приводите пример, как сами определяете, «гениального эгоиста и непревзойденного скандалиста, одного из истинных отцов искусственного интеллекта Юргена Шмидхубера. Он представлен как создатель концепций «Машины Гёделя» и «Активное исследование мира на основе искусственного любопытства». Хочется услышать на этот счет краткую новеллу…

– В отличие от тех, кто на ИИ неплохо зарабатывает, Шмидхубер – человек очень умный. Недаром он в свое время бросил работать по этой теме в крупном бизнесе, после чего основал крупный институт и стал пытаться сделать разумную машину, обладающую искусственным любопытством. И только после этого ее возможно заставить самостоятельно учиться.

Дело в том, что Шмидхубер относится к группе пионеров и отцов искусственного интеллекта, которые не ставят в своей научной жизни на первое место деньги. Потому как для таких людей обогащение – дело десятое. Точно так же, как и оружие любой убийственной силы.

Юрген Шмидхубер не только создал концепции «Машины Гёделя» и «Активное исследование мира на основе искусственного любопытства». Он представил нам ретроспективу самого важного, что было в области ИИ в 2010-х годах, а также обозначил перспективы самого важного в области развития искусственного интеллекта в начавшемся десятилетии.

Так вот в 2010-х годах ИИ преуспел в виртуальных мирах: играх и разнообразных сетевых платформах. Большая часть прибыли была в маркетинге. Пассивное распознавание образов помогло таким «китам», как Facebook, Amazon, Alibaba, Google, и Tencent, удерживать людей на своих платформах, прогнозировать их интересы и заставлять рассматривать различную рекламу.

Но маркетинг – это лишь малая часть экономики. В 2020-х активный ИИ будет все больше вторгаться в реальный мир, который намного сложней виртуального и не прощает ошибок. А грядущая волна реального ИИ будет гораздо выше, ибо повлияет на производство и тем самым на куда большую часть экономики.

В скором будущем появятся ярмарки данных. И чем больше стран будут оцифровываться, тем ценнее будут становиться данные. А это значит, что появятся такие рынки данных, на которых будет определяться их подлинная финансовая ценность. Это станет выявляться через механизм спроса и предложения. Причем при разных политических режимах возникнут разные экономики данных. В авторитарных государствах власть приберет все ценные данные себе. В демократических – даже медицинские сведения станут оцениваться не госрегулированием, а людьми, владеющими и продающими их на рынке медицинских данных.

По Шмидхуберу, концепция «Активное исследование мира на основе искусственного любопытства» создаст роботов нового класса «увидел и сделал» со многими степенями свободы при выполнении сложных задач, вроде сборки смартфона. Они будут учиться только путем визуальной демонстрации им действий, как это делают дети. Это революционизирует многие аспекты цивилизации.

– Просто какой-то рай на земле вы описываете…

– Но усложнение социума разве не заставит его смириться с утратой личного пространства и правил конфиденциальности?

– Тотальное наблюдение (которое я называю «Большой брат, сын Большого бога») далеко не только видеонаблюдение. Это наблюдение во всех инфомедиадиапазонах: от текстов, звука и видео до медмониторинга и анализаторов намерений.

То ли дело было 200 лет назад! Приходской священник в деревне знал все обо всех и даже о тех, кто не исповедовался, ибо узнавал это из исповедей других. Подобные механизмы контроля сегодня утеряны в силу многих причин.

Но теперь они возвращаются с помощью новых устройств наблюдения: смартфоны, камеры, дроны, сенсоры – все это части цифровых нервных систем, сообщающих компаниям и правительствам о миллиардах людей. Затем работают алгоритмы больших данных – распознавая, анализируя и прогнозируя.

Новый «большой мир» обеспечит не больше приватности и конфиденциальности, чем маленькая деревня. И это не хорошо и не плохо. Это потребуется для формирования из людей более сложного социального суперорганизма.

– А что значит у Шмидхубера прогноз о том, что в относительно недалеком будущем прояснится судьба человечества?

– Это значит, что в ближайшее десятилетие ожидать разумного искусственного интеллекта не стоит, но узкие задачи будут развиваться с большой скоростью. А это сулит нам то, что и машины у нас начнут ездить без участия человека, и самолеты перейдут на постоянное автопилотирование от взлета до посадки… Но когда мы слышим о скором прояснении судьбы человечества, то это, как я понимаю, несет себе разные варианты будущего. С учетом прежде всего угроз со стороны тех вояк, которые своими замыслами и действиями постоянно повышают риски возникновения катастроф мирового масштаба.

Сегодня ситуация держится на ядерном, паритетном сдерживании, всякая попытка одной из сторон нарушить это равновесие тут же вызовет ответный удар. А дальнейшее, как говорится, известно. При этом наличие наиболее совершенного искусственного интеллекта у какой-то одной из сторон дает ей якобы преимущество, которое может оказаться и мнимым.

Это первая угроза, вызывающая тревогу за судьбу человечества.

Второй проблемой будущего может вскоре стать интенсивное снижение доли человеческого труда во всех видах деятельности, в производствах всего и вся… Автоматизация станет повсеместной и тотальной. Люди будут освобождаться буквально из всех профессий. Множество нынешних операций станут заменяться алгоритмами, миллионами данных, снижающими как время поиска, так и вероятность ошибок, обусловленных человеческим фактором.

Другими словами, стоимость человеческого труда будет стремиться к нулю. А в капитализме, как известно, это означает, что прибыль будут получать авторы и владельцы этих программ. Поэтому дальше в неимоверных пределах будет набирать свою силу имущественное расслоение со всеми вытекающими отсюда последствиями.

Это может закончиться тем, что хозяевами планеты станут владельцы тех технологий, которые сделали ненужными широкие народные массы. А это уже сулит такую социальную напряженность, которая будет несравнима с тем, что нам известно из истории прошлого, можно сказать, индустриального века.

– Но если вернуться к позитивным сторонам искусственного интеллекта, что он все-таки будет давать отдельному человеку вне зависимости от того, занят он в этой сфере или нет?

– Давайте возьмем медицину. Появление индивидуальных лекарств – это настоящая панацея для человечества. Такое лекарство будет в тысячи, миллионы раз эффективнее тех массовых препаратов, которыми мы лечим людей сейчас.

Сегодня индивидуальные лекарства уже есть, но они, конечно, еще очень дорогие. Конечно же, ими станут свободно располагать те самые владельцы программ, в чьих руках будет работать искусственный интеллект. Поэтому расслоение пройдет не только по имущественному цензу, но, скажем, по продолжительности жизни. И опять же – преимущество получат те, у кого на руках будет больше средств цифровизации.

Если говорить в масштабе стран, то в лидерах, как я считаю, будут США и Китай. Остальные страны, возможно, получат статус «поставщиков данных». В то же время в самих этих странах тоже произойдет свое внутреннее расслоение.

– А такая цифровизация не скажется на состоянии других линий развития? Таких, в которых важнее уникальность человека, степень его заслуг и открытий, поиск и взращивание талантов…

– Дело, конечно, важное и правильное. Но сегодня главным трендом развития является массовое производство, основанное на социальных особенностях поведения потребителей. И цена человека нередко определяется тем, как часто он меняет свой телефон. Престижное потребление важнее интеллектуального, морального и прочего позитивного развития человека…

В моде другое: потребляй и меняй! Меняй и снова потребляй!

– Кто и зачем вводит мир в заблуждение по поводу скорого появления «сильного искусственного интеллекта»?

– Основанный на глубоком обучении современный мейнстримный ИИ не способен решить задачу создания сильного ИИ (интеллект машины, способный понять или освоить любую интеллектуальную задачу, которую может выполнить человек).

То есть избранный человечеством магистральный путь не ведет к созданию искусственного аналога интеллекта людей. Хотя изначальная цель этого научно-технологического направления, как и само его название «искусственный интеллект», настраивали на то, что вот-вот искусственный брат человека станет с последним вровень.

В заключение хочу сказать, что доказательств этим печальным разработкам, выдаваемым за «сильный искусственный интеллект», уже накопилось немало.

У нас уже есть устройства, с которыми мы можем поговорить, но они при этом не понимают из сказанного ни слова. У нас есть автомобили, которые при ошибке GPS будут упорно пытаться проехать там, где и ребенку видно, что дороги нет. Машины распознают фото, не понимая, что на них изображено. И даже есть машины, способные победить чемпионов мира в шахматах и игре гo, но неспособные при этом ответить на элементарный вопрос «зачем мама мыла раму?». Мы освоили компьютинг, тралим океаны данных и преуспели в машинном обучении. Но все это вовсе не ИИ, а лишь наши достижения на пути поиска возможностей его создания – машины, умной, как люди, и даже еще умнее.

Посему хватит морочить голову. Надо понять, что умеющие что-то делать роботы – это тоже не ИИ, а роботы, умеющие что-то там делать. Самоуправляемые авто – это всего лишь автомобильный автопилот. И распознавание чего-либо, и машинный голос в колл-центре, и компьютерное зрение, и помощь в принятии решений – это тоже не ИИ.

Так считает Кэтлин Уолч, управляющий партнер и главный аналитик исследовательской и консультативной фирмы Cognilytica, специализирующейся на применении и использовании искусственного интеллекта – как в государственном, так и в частном секторах.

Однако мало понять, что ИИ – это цель. Потому что ИИ – это еще и наука. Любая наука имеет свою цель. Цель физики – подойти к истинному пониманию природы Вселенной. На пути к этой цели физики разработали массу технологий, изменивших жизнь человечества (от оптики и электричества до атомной энергии и квантовых технологий). Но эти технологии не являются физикой, это побочные продукты поисков понимания устройства Вселенной.

Точно так же машинное обучение, компьютерное зрение и робототехника – все это побочные продукты нашего стремления к пониманию и созданию ИИ.

Ну а надуманные понятия – «слабый ИИ» и «сильный ИИ» – лишь путают и сбивают с толку. Не бывает слабой и сильной физики, и не бывает слабого и сильного пути.

ИИ – это цель и наука, прокладывающая путь к цели.

Все сказанное совсем не новость для тех, кто серьезно занимается ИИ, а не просто оседлал эту тему, чтобы добывать деньги и пиарить свой бизнес.