К чему приводят игры в имитацию мозга

Профессор Виктор Финн: «Чтобы оправдать применение искусственного интеллекта для имитации и усиления познавательной деятельности, нужно иметь возможность распознавания закономерностей».  Фото Андрея Ваганова

– Виктор Константинович, при обсуждении специфики проблематики искусственного интеллекта (ИИ) приходится уточнять само понятие интеллекта как некоторого процесса, характеризующегося определенными способностями, которые затем могут быть реализованы частично в автоматическом режиме, а частично – в интерактивном. Сводить проблематику ИИ лишь к машинному обучению, к нейронным сетям было бы большой методологической ошибкой. Это ваша позиция?..

– Да. Главный продукт ИИ – это интеллектуальные системы. Говорить об искусственном интеллекте как таковом нет смысла.

– А о чем тогда можно говорить?

– Надо говорить о теоретических основаниях и конкретных реализациях. А это системы искусственного интеллекта, которые реализуют те или иные процедуры, интеллектуальные системы, интеллектуальные роботы.

Системы искусственного интеллекта широко распространены, и часто их считают главным продуктом. Что на самом деле неверно.

– Почему?

– Реализация основных интеллектуальных способностей в интерактивном и автоматическом режиме, собственно, и будет имитацией и усилением человеческого интеллекта. А отдельные процедуры – это полезные компьютерные системы. Да, мы их называем системами ИИ, но не следует думать, что это и есть главный результат этого направления. Об этом в 1969 году в своей основополагающей статье говорили создатель искусственного интеллекта Джон Маккарти вместе со своим коллегой Джоном Хейесом: без понимания природы интеллекта развитие исследований ИИ непродуктивно. А для этого надо уточнить два аспекта. Один, по Маккарти, это эпистемология (рассмотрение проблем представления знаний, использование знаний для решения задач). Второй аспект – собственно эвристики: какие эвристики необходимы, чтобы решались задачи на уровне человека или на уровне, превосходящем интеллектуальные возможности человека.

Важная идея: результатом исследований в области искусственного интеллекта должны быть усилители умственных способностей человека. Об этом когда-то писал Уильям Росс Эшби в книге «Введение в кибернетику». Она была издана в СССР в 1959 году с предисловием академика Андрея Николаевича Колмогорова. На фоне тогдашнего увлечения кибернетикой он отмечал, что реализация целесообразного поведения тем не менее без человека невозможна. Кибернетические системы – это помощь человеку, но целесообразность поведения задается только творческой личностью. Это не моделируемо.

– И книга Эшби замечательная, и комментарий академика Колмогорова. Но это человеческие суждения, экспериментально и теоретически не доказанные…

– Как раз то, о чем мы говорим сейчас, в некотором смысле – я не скажу «доказано», поскольку доказательство это особая процедура, – обосновано. Дело в том, что в сфере проблематики ИИ есть три аспекта:

– представление знаний;

– рассуждения;

– алгоритмическая и компьютерная реализация применения рассуждений к знаниям.

– Тогда возникает вопрос: что значит «использование знаний»? Каков формальный аппарат при описании процедур использования знаний?

– Действительно, думать, что мы можем обрабатывать данные любыми процедурами, это еще не значит, что мы занимаемся проблематикой искусственного интеллекта. Эта проблематика связана с рациональным принятием решений. А рациональное принятие решений может быть реализовано только в результате интеллектуального процесса, о котором мы говорим. То есть с использованием каких-то интеллектуальных способностей. Некоторые из них реализуются в автоматическом режиме, а некоторые – только в интерактивном. И это связано с тем, что само понятие интеллекта достаточно сложное. Тот, который интересен для проблематики ИИ, – теоретический интеллект: система знаний, набор интеллектуальных способностей и, наконец, высшие психические функции, каковыми являются интенция, инициатива, воображение, рефлексия, интуиция.

Совершенно очевидно, что эти важные психические функции могут лишь поддерживаться, но они не могут быть формализованы. В этом особенность человеческого интеллекта.

– Но есть же люди, которые в силу разных обстоятельств лишены некоторых, а может быть, и всех перечисленных вами психических функций. Например, не все могут похвалиться своей интуицией. Почему в таком случае мы не можем предположить, что ИИ – это особый интеллект? Это как два вида Homo sapiens: человек разумный и человек разумный неандертальский. Кстати, может быть, видов Homo одновременно на нашей планете существовало и больше. Сейчас остался один… Так и с искусственным интеллектом: будет несколько видов интеллекта.

– Дело сводится вот к чему. Мы описываем процесс взаимодействия мыслительного состояния и познавательной деятельности. И это можно достаточно точно охарактеризовать. Мыслительный процесс – это интенция (формирование вопросов, императивов, целей, установок), подбор посылок, релевантных целей рассуждения, собственно рассуждение и рефлексия. Этот процесс используется для того, чтобы из знаний извлекать нечто новое. А процесс получения нового знания, то есть познавательный процесс, тоже подразделяется на определенные этапы: анализ данных, предсказание, объяснение, порождение устойчивых закономерностей и, наконец, принятие результата, что нетривиально. Эти обстоятельства инвариантны. При любом получении новых знаний мыслительный процесс руководит познавательным процессом. А вместе они образуют интеллектуальный процесс, то есть реализацию теоретического интеллекта. На базе высших психических функций. Отсюда, кстати, следует, что методы искусственного интеллекта востребованы особенно там, где знания слабоформализованы, а данные могут быть структурированы. Такой естественной областью являются науки о жизни и социальном поведении. В том числе медицина и экология.

Когда возникала кибернетика, идея искусственного интеллекта еще не была господствующей.  Фото Романа Смирнова

– Во-первых, анализ клинических данных для постановки диагноза. Во-вторых, на основании проделанных курсов лечения и их обзора можно выяснять оптимальные способы лечения. Еще одна задача – прогнозирование осложнений при хирургических операциях. То есть на основании изучения опыта мы можем формировать группы риска. Очень важное направление – обнаружение эмпирических закономерностей в клинических данных.

Понятно, что для медицины крайне существенна открытость, поэтому медицина – идеальная область для применения искусственного интеллекта. Я могу привести очень любопытный пример использования ИИ в медицине – нашу работу с Московским клиническим научным центром имени А.С. Логинова. Мы создали систему на основе разработанного нами ДСМ-метода автоматизированной поддержки исследований, которая для больных с хроническим панкреатитом в состоянии предсказывать, будет ли у них развиваться сахарный диабет. Это как раз и есть формирование группы риска. Следовательно, это движение в сторону профилактики.

Интеллектуальные системы могут формировать типологию, анализируя базы данных историй болезни (персонализация). И наконец, интеллектуальные системы могут порождать гипотезы, а это не что иное, как прогнозирование. То есть три П современной медицины: профилактика, персонализация, прогнозирование.

– Предположим идеальный случай: ИИ создан. И даже тогда искусственный интеллект все равно будет оставаться младшим братом естественного?

– Нехорошая метафора. По одной простой причине. С одной стороны, результаты ИИ – это в некотором смысле имитация мыслительной и познавательной деятельности; а с другой – усиления, которыми человек не обладает. Усиления за счет совершенных компьютерных технологий. То, о чем говорил Эшби: требуется создавать усилители умственных способностей. Когда возникала кибернетика, идея искусственного интеллекта еще не господствовала. Следующий этап – использование техники для познавательной деятельности, вот это проблематика ИИ.

Я могу без большой натяжки сказать, что конец ХХ века – это торжество следующих научных направлений: квантовая механика, космические исследования, молекулярная биология и генетика, возникновение компьютерной цивилизации на базе computer science и ее вершина – проблематика искусственного интеллекта. Томас Кун про это не говорил, но это тоже была научная революция. (Томас Кун (1922–1996), выдающийся историк и философ науки. Его теория научных революций как смены парадигм стала фундаментом современной методологии и философии науки. Главный труд – «Структура научных революций» (1962). – А.В.).

Посмотрите. Мы имели аппарат исследования природы, отчасти человеческого поведения (в социологии и психиатрии). Но мы не имели аппарата исследования человеческого познания. И вот во второй половине ХХ века произошли такие изменения в культуре, которые дали возможность появиться проблематике ИИ. Я имею в виду появление математической логики и теории алгоритмов, без которых не было бы общего представления о процедурах, о вычислимости и ограничениях возможностей формализации.

Всегда, когда развивается какая-то наука, у нее должны быть модельные примеры, на основании которых она свои идеи не только совершенствует, но и в какой-то мере верифицирует. Грубо говоря, генетика не возникла бы без мухи-дрозофилы, а теория условных рефлексов – без павловской собаки. Искусственный интеллект, как направление, которое проникает в познавательную деятельность человека и ее поддерживает, не может развиваться достаточно успешно, если он не в состоянии усиливать и имитировать исследования. Исследование в данном случае – это и есть муха-дрозофила и павловская собака. Если компьютерная система в состоянии поддерживать исследование, она себя оправдает.

Но мы должны понимать, что не каждое исследование может быть поддержано компьютерной системой.

– Это древняя проблема: как отделить одно от другого, зерна от плевел…

– Имея в виду проблематику ИИ, можно так сформулировать: исследование есть решение проблем посредством метода, выраженного в языке, в котором имеются дискриптивная и аргументативная функции; а результатом применения метода будет порождение эмпирических закономерностей и возможность фальсификации результата.

Критерием демаркации, по Карлу Попперу, отличающим знание научное от ненаучного, было условие их, знаний, фальсифицируемости (опровергаемости). В нашем случае этого недостаточно. Для того чтобы оправдать применение методов искусственного интеллекта для имитации и усиления познавательной деятельности человека, нужно иметь возможность распознавания закономерностей. И это сразу же нас приводит к выводу, что мы должны иметь дело с открытыми данными. Ведь исследование – это всегда возможность расширить наши данные, верифицировать результаты и проверить прогнозирование с помощью наших гипотез. То есть если мы имеем дело с закрытыми данными, которые мы не можем расширять, значит, это не исследование...

– Простите, но ведь исследование в том и состоит, чтобы добывать новые данные.

– Разумеется. Но, как мы с вами говорили, главный продукт искусственного интеллекта – это партнерская человеко-машинная система. То есть поддержка исследований, и она не всегда сводится к полной реализации исследования. Это симбиоз: взаимодействие человека и машины. Вы имеете данные, вы эти данные расширяете; на основании анализа результатов вы видите, что вам этих данных недостаточно и в интерактивном режиме понимаете, используя свои высшие психические функции, в каком направлении вам надо расширять данные. У вас формируется запрос на дальнейшее расширение данных, и это дает вам впоследствии возможность порождать закономерности. То есть, в сущности, обнаружить новые знания.

– Это то, что вы называете когнитивным подходом к анализу данных?

– В общем, да. Это явление человеческой когнитивности. Теоретический интеллект, повторю снова, – это система знаний, интеллектуальных способностей и высших психических функций. Взаимодействие этих компонентов дает нам возможность реализовать с помощью мыслительного процесса, руководящего познавательным процессом, получение новых знаний.

– Вы говорите «база фактов», «база знаний». Но это напоминает просто семантическую игру. Чем знание отличается от факта?

– Очень существенно отличается! Дело в том, что мы не можем сформулировать определение «знание вообще». Но мы можем дать определение понятию «знание в компьютерной системе». Сначала – знание нулевого уровня: элементы базы фактов (факт представляется элементарными высказываниями).

Знания первого уровня – логические комбинации знания нулевого уровня с известными логическими связками.

Знания второго уровня – это представление процедур (процедурные знания) и гипотезы, полученные с применением процедур.

Знания третьего уровня: аксиомы открытых теорий, дескриптивные аксиомы и аксиомы структуры данных.

Знания четвертого уровня – обнаруженные эмпирические закономерности, те, которые мы получили, расширяя базы фактов и применяя наши процедуры.

Все это в совокупности и есть определение знания в компьютерной системе.

– Факт – это статика, знание – это динамика…

– Эта метафора годится. В результате мы имеем логические связи и некоторую универсализацию. Если мы распознаем сохранение некоторых гипотез и наших предсказаний, значит, они носят более универсальный характер. По крайней мере универсальный относительно набора наших данных. В итоге мы получаем открытую теорию: мы к нашим исходным данным добавили обнаруженные с помощью правдоподобных рассуждений эмпирические закономерности. Это и есть результат нашего рационального поведения.

– А кстати, что такое рациональное поведение?

– Рациональное поведение – это применение рассуждений, соответствующих эвристик, выдвижение гипотез, их верификация и их принятие. А принятие полученных результатов тоже нетривиальная вещь.

– В чем нетривиальность? Теорема доказана. Почему я могу ее не принять?

– Принятие теорем просто в том смысле, что оно совершается посредством доказательства (хотя доказательство само по себе может быть сложным). А когда мы имеем массивы эмпирических данных, то возникает довольно сложная ситуация. Ведь мы предполагаем относительно этой предметной области, что в ней есть детерминации, – некоторые причины вызывают соответствующие эффекты. Но эти гипотезы о причинах могут быть определены операционально и обнаружены посредством сходств положительных фактов, причем эти сходства не содержатся в отрицательных фактах. Само сходство вызывает повторяемость.

– Дух захватывает, когда начинаешь задумываться, в каком нечетком мире мы живем!..

– Ну, что делать. Во всяком случае, у нас появляется возможность определить причинность операционально; разные виды причинности упорядоченны. Следовательно, для каждого вида причинности вы можете получать соответствующие открытые теории. А дальше возникает соблазн объединять эти теории. Но объединять вы их можете тогда и только тогда, когда они непротиворечивы. Процедура установления непротиворечивости возникает с необходимостью.

– Казалось бы, мы с вами начали в нашей серии интервью говорить о каких-то конкретных вещах – нейросети, Big Data, – а в итоге переходим к вещам глубокого философского содержания…

– А куда деваться? Если мы хотим имитировать и усиливать познавательную деятельность человека, без этого не обойтись.