Действия китайского регулирующего органа показывают, что руководство страны хочет сохранить сильную руку в регулировании новых технологий.
Администрация киберпространства Китая предложила новый набор правил, направленных на управление инструментами искусственного интеллекта (ИИ), аналогичными ChatGPT, языковой модели OpenAI, которая на сегодняшний день считается одной из самых передовых технологий ИИ. Этот шаг ставит Китай в авангарде глобальных усилий по регулированию ИИ на фоне опасений по поводу рисков и проблем, которые он создает.
Предлагаемые правила требуют, чтобы компании проходили государственную проверку безопасности, прежде чем предоставлять такие услуги, и возлагают на них ответственность за контент, создаваемый их инструментами ИИ. Контент не должен содержать никаких элементов, которые могли бы подорвать государственную власть, подстрекать к отделению или нарушить общественный порядок, согласно проекту правил.
Лидеры Китая выразили желание сохранить твердую руку в регулировании новых технологий, даже несмотря на то, что они ослабили двухлетнее подавление интернет-компаний страны. Этот шаг также связан с тем, что ведущие китайские технологические компании продвигают планы по интеграции ИИ в свои услуги.
В настоящее время правительства по всему миру обсуждают, следует ли и как регулировать генеративные инструменты искусственного интеллекта, такие как ChatGPT, которые, как предупреждают некоторые ведущие технические деятели, могут использоваться для распространения вредоносной информации или дискриминации. Ранее в этом году Италия временно запретила ChatGPT, сославшись на опасения, что чат-бот AI неправильно собирал и хранил информацию.
По словам Ю Чуанмана из Китайского университета Гонконга в Шэньчжэне, который специализируется на техническом регулировании и глобальном управлении, предлагаемые правила в Китае более подробны, чем общие принципы, обсуждаемые в других юрисдикциях. По его словам, правила будут включать запрет на профилирование пользователей и введение строгого контроля над контентом, созданным ИИ, что может поставить под угрозу инновации, поскольку Китай борется с США в разработке передовых технологий.
«ИИ — это вызов для глобального управления, — сказал доктор Ю. «Правительства разных стран должны работать вместе, чтобы установить глобальный стандарт».
Согласно проекту правил, компании будут нести ответственность за защиту личной информации пользователей, а данные, которые разработчики используют для обучения своих инструментов ИИ, должны соответствовать законам Китая. По словам отраслевых обозревателей, китайские правила цензуры не только ограничивают контент, который может создавать ИИ, но и ограничивают материалы, которые китайские разработчики могут использовать для обучения своих инструментов, до гораздо меньшего количества, чем их иностранные конкуренты.
Интернет-регулятор Китая еще не сообщил, когда будут введены в действие правила, которые открыты для публичных консультаций до 10 мая.
Заявление китайского регулирующего органа было сделано в тот же день, когда Alibaba Group Holding Ltd. свою большую языковую модель под названием Tongyi Qianwen, которую планирует интегрировать во все продукты, включая поисковую систему и голосового помощника, а также развлечения и электронную коммерцию.
Днем ранее SenseTime Group Inc., известная своими продуктами для наблюдения, такими как системы распознавания лиц , запустила сервис SenseChat , похожий на ChatGPT, и кластер приложений, основанный на его большой системе моделирования искусственного интеллекта SenseNova. В субботу компания Huawei Technologies Co. заявила, что развернула услуги на основе Pangu, набора крупных моделей искусственного интеллекта, которые она разрабатывает с 2019 года, для корпоративных клиентов в таких отраслях, как финансы, фармацевтика и метеорология.
Многие китайские технологические компании стремятся коммерциализировать технологии искусственного интеллекта, разработка которых обошлась в сотни миллионов долларов. Alibaba, например, создает свои собственные большие языковые модели с 2019 года, а в сентябре прошлого года запустила собственную систему Tongyi, которая объединяет несколько генеративных моделей ИИ. Сначала система будет интегрирована в приложение для обмена сообщениями на рабочем месте DingTalk и может использоваться для обобщения заметок о встречах, а также черновиков электронных писем и деловых предложений. Модель искусственного интеллекта также будет встроена в голосовой помощник Alibaba Tmall Genie, в том числе возможность предоставлять рецепты и давать советы путешественникам.
Во время живой демонстрации чат-бот SenseTime, предназначенный в основном для ответов на вопросы на китайском языке, смог создать текст, компьютерный код и изображения. Компания также использовала сервис для обобщения академических статей и предоставления медицинских консультаций. Гонконгская компания SenseTime поддерживается Alibaba и SoftBank Group Corp.
Тем не менее, китайские технологические компании сталкиваются с проблемами, в том числе с ограничениями США на покупку передовых чипов, необходимых для обучения моделей ИИ, а также с жесткой политикой цензуры в Китае.
Борис Ван, аналитик Bernstein Research, сказал, что одной модели недостаточно для усилий китайских технологических компаний в области искусственного интеллекта. «У вас должны быть продукты и приложения для включения модели и использования модели для предоставления реальных вещей, которые нужны клиентам», — сказал он.
