Китай разработает первый в мире обязательный стандарт безопасности для ИИ-агентов.

Мы внимательно следим за тем, как формируются правила игры на рынке искусственного интеллекта, и у нас на горизонте появилась историческая новость из Китая. Государственный комитет по стандартизации КНР официально утвердил к исполнению план разработки обязательного национального стандарта «Основные требования к безопасности применения ИИ-агентов» (номер плана: 20263116-Q-252).

Подчеркнем, что аналогов такому документу в мире пока нет. Этот национальный стандарт станет первым обязательным регламентом, посвященным безопасности именно ИИ-агентов. Его включение в план разработки закрывает международный пробел в области обязательных требований для сферы публичных услуг и является стратегической мерой по совершенствованию системы комплексного управления ИИ в Китае.

Стандарт находится в ведении Канцелярии Центральной комиссии по кибербезопасности и информатизации. Головными разработчиками выступают China Mobile, Китайский научно-исследовательский институт стандартизации электронной техники (CESI) и Национальный центр координации реагирования на CNCERT/CC.

Почему стандарт нужен именно сейчас

Индустриализация ИИ-агентов ускоряется всесторонне, а темпы обновления технологий превосходят ожидания. При этом фундаментальная логика безопасности претерпела коренное изменение. Риски вышли за рамки традиционного уровня вывода контента и распространились на уровень автономных действий. Утечка информации, потеря контроля над правами доступа, злоупотребление инструментами и отклонение от заданного намерения все чаще представляют реальные угрозы.

Крупнейшие экономики мира одна за другой принимают правила управления, а соперничество в сфере технологий и стандартов неуклонно нарастает. Разработка единого обязательного стандарта в этих условиях своевременна.

Роль China Mobile

China Mobile опирается на многолетний технологический задел в трех областях: сети связи, вычислительная инфраструктура и ИИ. Компания выстроила систему безопасности, охватывающую полный жизненный цикл задач ИИ-агента. Успешное включение стандарта в план разработки означает, что компетенции China Mobile в области управления безопасностью ИИ вышли на ведущий уровень в стране.

Что будет регулировать стандарт

Документ ориентирован на продукты и сервисы на базе ИИ-агентов, доступные широкой публике. Он выстроен вокруг задачи предотвращения ключевых рисков безопасности и неукоснительного соблюдения минимально допустимого уровня защиты. Стандарт создает законодательную основу для последующего отраслевого регулирования, допуска на рынок и технической оценки, а также оставляет разумное пространство для технологических инноваций и практического внедрения.

План разработки выступает инструментом перспективного государственного управления, сочетающим развитие и безопасность. Он задает ориентир для предотвращения системных рисков в отрасли ИИ-агентов, обеспечения минимально допустимого уровня кибербезопасности и защиты данных, а также закладывает основу для формирования безопасной, надежной и управляемой отраслевой экосистемы ИИ. Одновременно это важный шаг к глубокому участию Китая в глобальном управлении ИИ, продвижению китайского подхода и укреплению позиций страны в выработке международных правил для сферы ИИ-агентов.

Взгляд с позиции информационной безопасности

С точки зрения кибербезопасности значение этого стандарта в том, что он впервые в формате обязательного национального технического стандарта закрепляет требования безопасности, адресованные именно автономным действиям ИИ-агентов, а не только генерируемому контенту. В периметр проверяемых требований теперь входят:

• идентификация и управление системными привилегиями;
• безопасный вызов инструментов;
• сбор и использование данных;
• ручное вмешательство при рискованных операциях;
• защита ввода-вывода;
• логирование и динамический мониторинг;
• блокировка аномалий и аварийная остановка.

Таким образом, Китай закрепляет за собой роль нормативного ориентира. При масштабировании китайских агентных платформ за рубеж национальная модель соответствия может стать экспортным отраслевым стандартом.