Эксперты: ИИ-агенты требуют перехода к архитектуре «активного иммунитета».

На 14-й Конференции по интернет-безопасности ведущие китайские эксперты обсудили фундаментальный сдвиг в ландшафте киберугроз, вызванный эволюцией искусственного интеллекта от просто больших языковых моделей к автономным ИИ-агентам.

Заместитель председателя Интернет-общества Китая и экс-главный инженер Министерства промышленности и информатизации КНР Чжао Чжиго отметил, что наделение систем способностью к самостоятельному восприятию среды, принятию решений и исполнению задач кардинально меняет природу рисков. На смену предсказуемым «техническим сбоям» приходит масштабная угроза «потери контроля над решениями».

Внедрение агентов в такие критически важные сектора, как финансы, производство и энергетика, означает, что любая угроза безопасности может спровоцировать мгновенную цепную реакцию в различных отраслях. Почётный председатель конференции, академик Китайской инженерной академии У Хэцюань подчеркнул, что кибератаки нового типа характеризуются кластерной координацией и способностью к самообучению. Рои автономных агентов могут осуществлять кибератаки одновременно с множества векторов, сводя на нет эффективность традиционных методов пассивной защиты.

Новая технологическая парадигма требует радикального пересмотра концепции цифровой обороны. Основатель корпорации 360 Group и председатель конференции Чжоу Хунъи охарактеризовал влияние ИИ на отрасль кибербезопасности как «сокрушительный асимметричный удар», приведя в пример специализированную ИИ-модель Mythos. Её возможности по автоматическому поиску уязвимостей и построению цепочек атак увеличили скорость обнаружения уязвимостей на два порядка (в 100 раз), снизив затраты злоумышленников менее чем до одной тысячной.

Вице-президент Китайского общества искусственного интеллекта и академик Чжао Чуньцзян пояснил, что риски теперь охватывают четыре уровня: данные, алгоритмические модели, приложения и базовую инфраструктуру. В ответ на эти вызовы академик У Хэцюань призвал индустрию отказаться от реактивного «тушения пожаров» и перейти к архитектуре «активного иммунитета». Подход предполагает создание адаптивного защитного фреймворка, наделенного собственными ИИ-механизмами для превентивного прогнозирования, обнаружения и блокировки атак на всех этапах жизненного цикла еще до их полномасштабного развертывания.

Вендоры должны перейти от продажи стандартных коробочных продуктов (таких как брандмауэры) к предоставлению комплексных услуг по управлению защитой интеллектуальных систем.

Согласно прогнозам аналитической компании International Data Corporation (IDC), объем рынка кибербезопасности Китая превысит 80 млрд юаней к 2026 году при среднегодовом росте 8,9% (в период с 2024 по 2029 год). 360 Group прямо на конференции дала старт вручению сертификатов преподавателям курса инженеров ИИ-агентов (ADE) и совместно со своим благотворительным фондом учредила профильную стипендию для талантов.

В завершение Чжао Чжиго подчеркнул критическую важность скорейшей разработки отраслевых стандартов оценки рисков, классификации ИИ-агентов и четкого разграничения ответственности, а также призвал к активному международному сотрудничеству в формировании глобальных правил управления безопасностью искусственного интеллекта.