Positive Technologies выпустила LLM Firewall для защиты ИИ-агентов от хакеров.
Positive Technologies выпустила LLM Firewall, который предотвращает кибератаки на ИИ-агентов и корпоративные нейросети.
Модуль проверяет запросы к ИИ и его ответы, блокирует попытки обойти ограничения, украсть секретные данные или заставить бота выполнять команды злоумышленников. Вредоносные инструкции могут скрываться в обычных документах.
Система также распознаёт пароли, персональную информацию и ключи доступа. Новинка доступна в облачном WAF PT AF Cloud и скоро появится в on-prem PT AF PRO.
Ещё новости:
