OpenAI раскрыла кампанию дистилляции: 16 000 запросов за два дня.
Мы собрали главное из заявления OpenAI о масштабной кампании дистилляции.
Компания заметила массовые попытки извлечь скрытые рассуждения своих моделей. На пике за два дня было отправлено 16 000 таких запросов с более чем 4 000 аккаунтов.
OpenAI не утверждает, что за этим стояла Moonshot. Однако основной кластер активности компания связывает с разработчиками Kimi и рассматривает происходящее как попытку дистилляции своих моделей.
Какие меры приняла OpenAI
- Закрыла возможность переносить зашифрованные блоки между пользователями и рабочими пространствами.
- Усилила проверки аккаунтов.
- Добавила отдельную защиту от вывода скрытых рассуждений.
Итогами расследования также поделились с другими AI-лабораториями и властями.
https://openai.com/index/disrupting-a-coordinated-model-distillation-campaign/
Ещё новости:
