Австралийских госслужащих подсадят на нейросети

В Австралии в течение полугода проводился эксперимент по использованию ИИ-чата Copilot в работе правительства. Фото Reuters

Первой страной мира, легализующей применение искусственного интеллекта (ИИ) в работе всего госаппарата, а не только отдельных учреждений, станет Австралия, следует из слов австралийского министра финансов Кэти Галлахер. Так правительство хочет облегчить работу госслужащих и повысить ее эффективность. В обществе тем временем выражаются вполне закономерные опасения относительно безопасности использования ИИ. Свеж в памяти скандал Robodebt, когда автоматизация процесса расчета долгов привела к серьезным ошибкам, из-за чего пострадало почти полмиллиона австралийцев.

Министр финансов Австралии 12 ноября на выставке инноваций в Канберре объявила о скором создании группы по внедрению технологий искусственного интеллекта под названием AI Delivery, или, сокращенно, AID. Она будет представлять собой группу экспертов, целью которой станет подготовка сотрудников государственных агентств к использованию ИИ. «Ожидается, что все руководители высшего звена будут грамотны в использовании ИИ и подадут пример для демонстрации его возможностей и стимулирования внедрения в ходе консультаций», – сказала Галлахер. Предполагается, что госслужащие смогут таким образом подготавливать официальные документы и писать черновики материалов для кабинета министров.

Сейчас технологии на базе ИИ активно внедряются в поисковые системы, офисные приложения, позволяющие создавать и упорядочивать информацию (Excel, Word, PowerPoint), другое программное обеспечение и оборудование. Так появляется возможность более эффективно работать с данными и успевать обрабатывать больше информации, чем если бы человек делал это «вручную».

В Австралии обязанность по цифровизации государственных услуг возложена на Агентство цифровой трансформации (Digital Transformation Agency). Оно консультирует правительство страны по вопросам «реализации и мониторинга общегосударственных стратегий, политик и стандартов для инвестиций в цифровые и информационно-коммуникационные технологии».

В течение шести месяцев в правительстве проводился эксперимент по использованию Microsoft Copilot. Это помощник с искусственным интеллектом в виде чат-бота (наподобие нейросетей ChatGPT, DeepSeek, GigaChat), который может упростить пользователям работу со стандартным пакетом программ Microsoft Office. Участники эксперимента отметили, что использование Copilot в работе повысило их производительность. Около 69% заявили, что это помогло им работать быстрее, а 61% отметили, что это повысило качество их работы. При всем при этом они отмечали и «неточности» в ответах ИИ. Многим приходилось вносить значительные правки в то, что было сгенерировано Copilot. Показательным стало то, что участники эксперимента получали доступ к той информации, которая должна была быть конфиденциальна для них. Связано это было с тем, что их к внедрению технологии недостаточно подготовили, поэтому они нередко неосторожно обращались с информацией. Также сохраняется и риск утечек данных «вовне» и их попадания в руки частных компаний, которые создают генеративные ИИ. В частности, для решения этой проблемы и планируется создание группы AID, которая будет просвещать госслужащих в сфере безопасного использования новейших технологий.

Большинство опасностей вызвано тем, что на слуху у австралийцев так называемый скандал Robodebt (составное от слов «robot» – «робот» и «debt» – «долг»). В 2015 году была запущена новая система подсчета долгов жителей страны, которая предполагала заменить ручной расчет и выдачу уведомлений о задолженностях на автоматическое взыскание долгов. В результате пяти лет работы Robodebt пострадали 443 тыс. человек и правительство было вынуждено выплатить 1,8 млрд австралийских долларов жертвам новой схемы. В ноябре 2019 года программа прекратила действовать. Придя к власти в 2022 году, правительство премьер-министра Энтони Альбанезе первым делом инициировало создание комиссии по расследованию Robodebt. Доклад по итогам ее работы был представлен в июле 2023 года. В нем программа была названа «дорогостоящим провалом государственного управления как в человеческом, так и в экономическом плане».

После неудачного опыта предшественников по передаче части обязанностей человека машинам на действующем правительстве лежит двойная ответственность. Однако Альбанезе это, по-видимому, не пугает. Он и его сторонники планируют разработать собственную программу на базе ИИ под названием GovAI Chat. Ее повсеместное внедрение ожидается уже в первой половине 2026 года. Кроме того, будет разработано и руководство для госслужащих, которое расскажет, как работать с общедоступными платформами вроде ChatGPT для обработки правительственной информации вплоть до уровня данных с ограниченным доступом (для служебного пользования). Правительство всех критиков своих планов по осовремениванию работы государственного управления успокаивает: внедрение ИИ не направлено на замену сотрудников. В то же время в случае успеха работа австралийских государственных ведомств может стать более эффективной, а сама страна станет первой в мире, где технологии на базе ИИ официально будут использоваться госслужащими.