Российская наука берет на вооружение цифровые мозги

По опросам Высшей школы экономики (ВШЭ), 85% российских ученых уже применяют искусственный интеллект (ИИ) в своей работе. Однако внедрение инновационных технологий в практику еще не делает тех, кто ими пользуется, по умолчанию тоже инноваторами. Ученые становятся пользователями чужих, чаще зарубежных, разработок, помогающих автоматизировать рутинные процессы или завуалировать незнание иностранных языков – удобно, но недостаточно для научного прорыва. Опросы пока не выявили значимого влияния ИИ-технологий на конечные результаты научных исследований в России.

Доля российских ученых, использующих разные виды генеративного ИИ, в % от опрошенных исследователей, сообщивших, что они работают с нейросетями.  Источник: ВШЭ

Об этом свидетельствует онлайн-опрос, проведенный в мае Институтом статистических исследований и экономики знаний ВШЭ среди примерно 1,2 тыс. ученых, работающих в вузах и научно-исследовательских институтах.

Выяснилось, что примерно 85% российских ученых уже применяют на практике ИИ-технологии. Массовое распространение среди ученых получили модели генеративного ИИ – нейросети, способные создавать контент (текст, изображение, аудио, видео) на основе обучения на больших объемах данных.

Наибольшим спросом у российских исследователей пользуются универсальные ИИ-сервисы и чат-боты. К ним обращаются почти три четверти опрошенных ученых, освоивших генеративный ИИ. Подавляющее большинство из них используют зарубежные решения (88%), около половины – отечественные (51%); сумма превышает 100%, так как многие работают сразу с несколькими сервисами.

Возрастная дифференциация выражена слабо. Среди респондентов в возрасте до 44 лет с ИИ работают около 90%. В возрастных группах от 45 до 69 лет эта доля составляет от 83 до 86%. Среди ученых 70 лет и старше к ИИ обращаются 71% опрошенных, что тоже внушительно.

Масштабы использования генеративного ИИ зависят от специализации. В лидерах оказались социальные науки: уровень проникновения ИИ 89%. В технических, медицинских и естественных науках показатель тоже высок – от 84 до 87%. Несколько ниже уровень проникновения среди исследователей в гуманитарной сфере и  сельскохозяйственных науках ­– около 76–77%.

Для абсолютного большинства российских ученых знакомство с ИИ – новый опыт: каждый второй опрошенный пользователь ИИ-сервисов начал применять их один-два года назад, еще почти 30% – менее года назад.

Но генеративные ИИ-сервисы уже стали частью регулярной исследовательской практики. Более двух третей пользователей обращаются к генеративному ИИ не реже одного раза в неделю, а ежедневно с ИИ работают более трети.

В рамках опроса респондентам предлагался перечень из задач, с которыми современный ученый сталкивается на разных этапах исследования. 

Наиболее востребованными направлениями оказались разведывательный, подготовительный сбор информации, поиск и подбор научной литературы (составление библиографии) и перевод текстов с русского на иностранные языки – для решения всех этих задач сейчас применяют ИИ более 50% опрошенных ученых, использующих нейросети.

Также ИИ-сервисы часто помогают ученым улучшать написанный текст и переводить необходимые материалы с иностранных языков на русский – чуть меньше 50% упоминаний.

Помимо этого, треть ученых, которые опираются на помощь ИИ, используют эти технологии, чтобы устраивать почти на равных с искусственным интеллектом мозговые штурмы, генерировать исследовательские идеи, затем обсуждать эти идеи, а также чтобы подготавливать презентации, учебные материалы к образовательным курсам, составлять экзаменационные задания, писать научные статьи, редактировать их.

Каждый пятый ученый – пользователь ИИ пытается с его помощью генерировать или дорабатывать программный код – для анализа данных или создания визуализаций.

Однако массовое внедрение инновационных технологий в практику еще не делает всех, кто ими пользуется, по умолчанию поголовно инноваторами.

Оценки учеными влияния ИИ-сервисов на качество получаемых ими научных результатов оказались противоречивыми. «Позитивную связь наблюдают 42%, ее отсутствие – 47%. Это позволяет предположить, что генеративный ИИ пока остается вспомогательным инструментом, который повышает эффективность отдельных этапов работы ученого, не оказывая при этом существенного воздействия на конечные результаты научных исследований», – сделали вывод эксперты ВШЭ.

И даже если не ждать сенсационных открытий и прорывов, примечательно, что ИИ-технологии не помогают российским ученым в том числе просто увеличить число публикаций в отечественных или зарубежных научных журналах.

Несмотря на помощь ИИ в поиске и обобщении научной информации, подготовке черновиков, их редактировании, около 60% пользователей не отмечают заметных изменений в собственной публикационной активности.

Таким образом, опрос выявил, что ИИ-сервисы позволяют российским ученым автоматизировать часть рутинных процессов, завуалировать, как можно полагать, незнание иностранных языков, скинуть бюрократическую нагрузку, бумажную волокиту – все это удобно, в чем-то полезно, но для научного прорыва недостаточно. С тем же успехом раньше можно было бы хвастаться опытом работы с интернет-поисковиком или онлайн-переводчиком.

Хотя цифра 85%, демонстрирующая высокий уровень проникновения ИИ-технологий, безусловно, будет красиво выглядеть в докладах о цифровой трансформации отечественной науки. 

При этом стоит учитывать и методологическую сторону: исследование проведено в формате онлайн-опроса, ответы основаны на самооценке респондентов. Ученые, активно применяющие ИИ, вероятно, охотнее участвуют в подобных исследованиях, обратил внимание руководитель направления Президентской академии Бинятов Мурад Бахтияр оглы.

Опрошенные «НГ» эксперты призвали не ставить знак равенства между охватом, доступностью технологии и научной эффективностью. «Реальный эффект следует оценивать по сокращению времени исследований, качеству публикаций, количеству патентов и внедренных разработок», – считает ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов.

«Высокий процент вовлеченности в какую-либо технологическую повестку не гарантирует реального научно-технического результата. Если под «использованием ИИ» понимается главным образом перевод текста, оформление статьи или подготовка презентации, то это скорее повышение операционной эффективности, чем технологический прорыв», – пояснила ведущий инженер-аналитик лаборатории ИИ компании «Газинформсервис» Ирина Меженева. 

По ее словам, такой показатель может хорошо выглядеть в отчетности, но он не отвечает на главный вопрос: создаются ли новые методы, модели, научные школы и прикладные решения мирового уровня. «Реальная ценность от искусственного интеллекта в науке – не количество пользователей, а качество задач, которые он помогает решать», – уточнил директор компании CDO Global Андрей Кондратьев.

«Международная дискуссия об ИИ в науке развивается именно в этом направлении: количество пользователей постепенно уступает место вопросу о том, какие исследовательские задачи прежде были недоступны и стали решаемыми благодаря искусственному интеллекту», – подтвердил Бинятов Мурад Бахтияр оглы.

Но вне зависимости от поставленных исследовательских задач и эффективности использования российскими учеными ИИ, риски, связанные с ИИ-технологиями, все актуальнее.

Один из таких рисков очевиден – галлюцинации. «ИИ способен выдавать недостоверную информацию или несуществующие факты. Поэтому любые результаты его работы необходимо проверять», – напомнил замруководителя Т1 ИИ Сергей Карпович.

В этом смысле показателен недавний скандал, случившийся в российском книгоиздательском бизнесе после выхода в свет научно-популярной книги, которая знакомила читателей с «мифологией» одного американского писателя. В этой книге были обнаружены следы использования нейросетей, вплоть до фактологических ошибок, внедрения в текст несуществующих цитат, отсылок к выдуманным исследованиям, переводчикам и т.д. Издательство признало проблему.

Сбор информации и проверка гипотез – большая и трудоемкая часть исследовательского процесса. «ИИ позволяет быстрее увидеть массив данных, сопоставить источники, протестировать предположения и понять, в какую сторону двигаться дальше», – перечислила плюсы руководитель департамента цифровых решений агентства «Полилог» Людмила Богатырева.

«Но есть и обратная сторона: те же технологии могут ускорить не только качественные исследования, но и псевдоисследования. С их помощью можно быстро сгенерировать текст, имитацию анализа или выводы без достаточной доказательной базы», – предупредила о минусах Богатырева.

Помимо галлюцинаций эксперты упоминают опасность искажений. При работе с одним и тем же пользователем нейросеть начинает под него подстраиваться. Помимо этого меняется и само исследовательское поведение.

«Генеративный ИИ может усиливать уже существующую точку зрения ученого, создавая иллюзию ее убедительности, а также формировать привычку быстрее соглашаться с готовыми интерпретациями и реже искать альтернативные объяснения», – описала проблему руководитель AI-студии 1331 Мария Лопухина.

Есть и другие риски. В частности, правовые и технические: они возникают при использовании иностранных ИИ-сервисов. 

Как рассказал «НГ» Кондратьев, на потребительских тарифах, предполагающих относительно свободное (бесплатное или за небольшую сумму) использование зарубежных нейросетей, провайдеры по умолчанию вправе брать все входящие данные для дообучения своих моделей. И российское авторское право здесь не защита.

А тарифы, гарантирующие, что загруженные в нейросеть данные не станут основой для обучения зарубежной нейросети, недоступны российским юридическим лицам из-за санкций. «Это означает, что российские ученые работают именно на тех тарифах, где риск максимален», – пояснил эксперт.

Другими словами, когда исследователь загружает, например, в публичный ChatGPT черновик научной статьи, массив экспериментальных данных или описание методики, он фактически передает неопубликованную интеллектуальную собственность иностранной компании.

И хорошо если эта конфиденциальная информация «растворится» в обезличенном массиве, но также не исключено, что ее удастся вычленить на выходе с помощью специальных промптов (запросов к нейросети). А ведь речь может идти в том числе о сведениях, которые имеют отношение к гостайне или ноу-хау.

«Для организаций, работающих с закрытыми темами или коммерчески чувствительными разработками, это создает риски утраты приоритета и интеллектуальной собственности, а без инструментов контроля и мониторинга таких утечек организация зачастую узнает о них постфактум», – пояснил технический директор компании «Стахановец» Сергей Щербаков.

Примечательно также, что, по замечанию Кондратьева, уязвимости, связанные с авторским правом, возникают и при использовании отечественных ИИ-сервисов.

Кроме того, зависимость от зарубежной цифровой инфраструктуры опасна тем, что доступ к ней может быть в любой момент ограничен по любым причинам, предупредил научный сотрудник лаборатории математического моделирования экономических процессов Института Гайдара Дени Сугаипов: «Зависимость от внешних сервисов, не имеющих отечественных аналогов, создает уязвимость для непрерывной научной работы».  

«Высокая зависимость от зарубежных платформ делает исследовательский процесс чувствительным к изменениям условий доступа, стоимости и политики поставщиков технологий», – согласился Селиверстов. Поэтому, по его словам, важно сочетать использование генеративного ИИ с внутренними регламентами по защите данных, обязательной экспертной верификацией результатов и развитием отечественных специализированных решений.

Критика, однако, не означает, что от технологии следует отказаться. Как сказал «НГ» замначальника управления цифровой трансформации Российского экономического университета им. Г.В. Плеханова Павел Терелянский, сейчас мы обрели новый инструмент работы с массивами информации, который ее автоматически фильтрует, консолидирует и упорядочивает, или, иначе говоря, реферирует. Предыдущим инструментом был автоматический поиск по оцифрованным массивам – это различные поисковики.

«Кто сейчас сидит в пыльных библиотеках? Практически никто. Вся информация поставляется поисковиком по клику, это уже привычное и неотъемлемое поведение ученого. Следующий этап – использование рефератов. Этот этап произошел, – констатировал Терелянский. – В скором времени будет невозможно что-то делать без таких инструментов».