Как заставить робота быть человеком

Создатели «Borgy&Bes» (слева направо): Валерий Карпов, Михаил Бурцев, Дарья Пархоменко, Томас Фойерштайн. Фото предоставлено пресс-службой Laboratoria Art&Science Foundation

Laboratoria Art&Science Foundation, основанная Дарьей Пархоменко в 2008 году, отмечать 10-летие будет в октябре большой выставкой «Daemons in the Machine» в Московском музее современного искусства. Пока о взаимодействии искусства и науки говорили на одноименной конференции с подзаголовком «Предвосхищая искусственный интеллект», а еще показали в Британской высшей школе дизайна работу «Borgy&Bes». 

Роботизированная нейроинсталляция – результат сотрудничества австрийского художника Томаса Фойерштайна с лабораторией робототехники Курчатовского института и с лабораторией нейронных сетей и глубокого обучения Физтеха – вот такую длинную преамбулу нужно озвучить перед тем, как наблюдать за разговором двух машин. Надо добавить, что люди им пока мешают, но это тестовый режим, зрители смогут увидеть «Borgy&Bes» на осенней выставке.

В темной комнате минимум «реквизита» – впрочем, можно сказать, и что его очень много. Компьютеры, провода и главные герои – Borgy и Bes, две здоровенные лампы, очень напоминающие те, что бывают в операционных, но двигающиеся и разговаривающие между собой.

На презентации не звучало отсылок к опере Гершвина «Порги и Бесс», а говорили о том, что Томас Фойерштайн любит Достоевского и современные технологии – с этими последними давно и работает. Сейчас для художника важны «Бесы» (и, в частности, герой романа – инженер Кириллов) и daemons, слово, которым, как говорят в связи с грядущей осенней выставкой, называют «рутинные цифровые процессы в операционных системах» и которое «выдает актуальное отношение к технологиям, окрашенное чертами анимизма и фетишизма». Кроме того, Borgy и Bes – и в этом они подобны попавшим в лавину новостного потока людям – «одержимы демонами сетевых голосов». 

Их диалог строится на новостном потоке из Всемирной паутины, и во время презентации речь шла о политических новостях. «Что же такое было вчера, если США рассматривают возможность создания космических улиц?» – заявил президент Дональд Трамп. Например, так. Или так: «Стало известно, что Министерство юстиции включило в список нежелательных лиц организации...» Или так: «Подозреваемый в причастности к террористической организации N покинул Россию и попросил убежища в Финляндии».

Герои жужжат, светят друг другу в «лицо» и говорят почти замогильными голосами, едва-едва, но интонируя свою речь, так что новостные сводки в этом виде производят разом устрашающий и почти комический эффект. Машины не всегда отвечают «в такт», и пока, как говорят участники сделавшей их команды, люди – особенно когда много народу (в машинах есть датчики присутствия, определяющие положение зрителей и их речевые потоки) – машинам скорее мешают сфокусироваться.

Вариации – и, надо думать, наши предпочтения – в разных значениях слова «демон». Томас Фойерштайн рассуждает о XIX веке и сегодняшней эпохе гаджетов, о коммуникации. Демон – дух, в том числе и научный дух.

Чего хотели «лирики» и как им в этом произведении science art помогают «физики», рассказывали специалист по нейронным сетям, руководитель проекта iPavlov Михаил Бурцев (Физтех) и руководитель лаборатории робототехники Курчатовского института Валерий Карпов. Михаил Бурцев говорит, что художник хотел, чтобы машины обсуждали новости языком Достоевского, это касается и стиля обсуждения. Кроме того, в процессе обработки новостей анализируется их тональность – положительная/отрицательная, – чтобы задать машине поведенческую реакцию.

Валерий Карпов прокомментировал «НГ», что в связи с этими лампами речь идет об аниматронном комплексе. «Аниматроника – не робототехника в чистом виде, а область в технике, занимающаяся оживлением каких-то вещей. Запрос на то, чтобы эти лампы вели себя неким узнаваемым образом, исходит от художника, – сказал он. – В данном случае работают пять программ, и главный вопрос в том, как запустить их таким образом, чтобы они действовали осмысленно... Художнику (для машин. – «НГ») нужна потребность в испуге, поиске, разговоре и т.д., а нам, разработчикам, для этих машин – потребность в отдыхе». Для согласования этих программ между собой необходима сложная система управления, похожая на поведение живого организма. 

По словам Карпова, «стабилизация поведения машины решается красивым механизмом, который называется «эмоциональной апробацией», – это математическая модель». Эмоции – это внутренний механизм, и суть его, как и в живом организме, определяется тем, что ему нужно, и тем, что у него есть для достижения цели. То же самое происходит и в машине. К примеру, она устала, а от нее хотят какой-то реакции (в «разговор» она включается благодаря наличию сенсора). Она «начинает накапливать отрицательную эмоцию» и в конце концов может заснуть настолько крепко, что просто так ее уже не разбудить. «Эта система управления – не специально для лампы придуманная, а та же самая, что мы используем для управления роботами, просто перечень потребностей задан другой», – говорит он.

На вопрос, могут ли Borgy и Bes беседовать связно или в систему заложен некий логический сбой, создающий эффект от произведения, Валерий Карпов ответил, что «и без сбоев система работает очень разнообразно». Просто каждое сообщение (их передает лаборатория Михаила Бурцева. – «НГ») оценивается по разным параметрам, в частности в машины заложен параметр усталости. «Если сообщение распознано как неинтересное, то «собеседник» – вторая лампа – может просто заснуть. Впрочем, отлаживать поведение всегда тяжело», – резюмировал он.

«Как же мы будем жить в будущем, когда машины смогут иметь свое мнение?» – говорила на презентации Дарья Пархоменко. «Borgy&Bes» – работа и об этом, о том, какие ответы художники и ученые дают на вопросы эпохи. Пока, повторимся, человек этим машинам мешает, но к осени они заговорят по-другому. В древности появилось выражение deus ex machina, современность отвечает по-своему: daemons ex machina.