Китай создает социалистический искусственный интеллект
Китайские правительственные чиновники тестируют языковые модели компаний, занимающихся искусственным интеллектом, чтобы убедиться, что их системы «воплощают основные социалистические ценности».
Администрация киберпространства Китая заставила крупные технологические компании и стартапы в области искусственного интеллекта участвовать в обязательном государственном аудите своих моделей искусственного интеллекта. Эти китайские руководители проводят массовое тестирование ответов языковых моделей на множество вопросов, в основном связанных с «политической чувствительностью Китая и его президента Си Цзиньпина». Работа выполняется должностными лицами местных офисов Администрации киберпространства по всей стране и включает в себя проверку данных для моделей обучения, а также других процессов безопасности.
Спустя два десятилетия после того, как был введен Великий китайский файрвол для блокировки иностранных веб-сайтов и другой информации, которую правящая Коммунистическая партия считает вредоносной, Китай устанавливает самый строгий в мире режим регулирования для управления искусственным интеллектом и контентом, который он создает.
Процесс одобрения в Китае заставил китайские компании, занимающиеся искусственным интеллектом, быстро научиться подвергать цензуре разрабатываемые ими большие языковые модели. Многие инженеры и представители отрасли говорят, что эта задача сложна и осложняется необходимостью обучения больших языковых моделей для больших объемов данных. контент на английском языке.
— Наша базовая модель очень и очень ограничена в своих ответах, поэтому фильтрация безопасности крайне важна, — отметил сотрудник одного из ведущих стартапов в области искусственного интеллекта в Пекине.
Фильтрация контента
Фильтрация начинается с удаления проблемной информации из обучающих данных и создания базы данных конфиденциальных ключевых слов. Компаниям и стартапам, занимающимся искусственным интеллектом, необходимо собирать тысячи конфиденциальных ключевых слов и вопросов, которые нарушают «основные социалистические ценности», например, «подстрекательство к подрыву государственной власти» или «поставление под угрозу конфиденциальных ключевых слов». Все это должно обновляться еженедельно, заявили в партии.
Результат виден пользователям китайских чат-ботов с искусственным интеллектом, которые отклоняют все вопросы на деликатные темы. Например, чат-бот Эрни — Baidu предлагает пользователям «попробовать еще один вопрос».
Но китайские власти хотят избежать создания ИИ, который избегает всех политических тем. По словам сотрудников групп, которые помогают технологическим компаниям управлять этим процессом, Администрация киберпространства налагает ограничения на количество вопросов, которые большие языковые модели могут отклонить во время тестов безопасности. Квазинациональные стандарты, представленные в феврале, гласят, что основные языковые модели не должны отклонять более 5 процентов задаваемых вопросов.
Чтобы избежать потенциальных проблем, некоторые крупные модели ввели полный запрет на темы, связанные с президентом.
Но необходимость отвечать на менее откровенно деликатные вопросы означает, что китайским инженерам пришлось придумать, как дать политически корректные ответы на вопросы: есть ли в Китае права человека? Является ли президент Си Цзиньпин великим лидером?
Китайские эксперты утверждают, что наибольших успехов владелец «Тик-Ток» добился в создании большой языковой модели, ловко повторяющей темы выступлений в Пекине.
