Orion soft создал StarGuard AI: платформа для безопасного внедрения нейросетей в бизнес.
Orion soft разработал платформу для безопасной работы с AI.
Использование генеративного ИИ в корпоративной среде формирует новые ИБ-риски. По данным независимого исследования «К2 Кибербезопасности» и «Лаборатории Касперского», искусственный интеллект уже влияет на непрерывность бизнеса и почти половина (43%) корпораций заявляют, что недоступность ИИ-сервисов приведет к потерям (32% — к умеренным, 11% — к критическим).
StarGuard AI от Orion soft выступает в роли reverse proxy-шлюза между пользователями, корпоративными системами и языковыми моделями. Решение помогает компаниям безопасно встроить ИИ в рабочие процессы: контролировать, кто и какие модели использует, какие данные отправляются в LLM и какие ответы возвращаются пользователям.
StarGuard AI анализирует каждый запрос и ответ с помощью многослойной системы детекции, включающей ML-модели для выявления чувствительных данных, а также LLM-детекторы контекста, jailbreak- и prompt-инъекций. Платформа помогает блокировать токсичный, запрещенный или нецелевой контент в AI-чатах, HR-ассистентах, сервисах поддержки и корпоративных помощниках. Тем самым, снижает репутационные риски во внутренних и клиентских AI-сервисах.
Решение позволяет подключать через единый шлюз облачные и локальные LLM, включая ChatGPT, Claude, DeepSeek, GigaChat, YandexGPT, а также любые локальные модели. Подробнее тут.
Ещё новости:
