Anthropic представила FlashProve: криптографическое доказательство используемой нейросети.
Мы изучили новую разработку Anthropic: компания представила FlashProve, систему, которая позволяет криптографически проверить, что ответ действительно получен от заявленной модели. Раньше при обращении к API пользователь фактически верил провайдеру на слово: заявленную модель могли незаметно подменить другой.
В основе FlashProve лежат zkSNARKs. Провайдер создаёт доказательство вычислений, а пользователь может проверить его без доступа к весам модели.
На модели Llama 4 Maverick с 400 млрд параметров FlashProve генерирует доказательства со скоростью около 110 токенов в секунду на одной NVIDIA H100.
Существенный недостаток технологии в том, что создание доказательств требует в 70–95 раз больше GPU-времени, чем обычный инференс через vLLM. При этом сама проверка выполняется на CPU.
Разработчики опубликовали код, описание протокола и формальные доказательства на Lean. Пока это исследовательский прототип, но технология может пригодиться при независимом тестировании LLM, работе через API-посредников и проверке того, что модель не была подменена.
Важно, что FlashProve подтверждает происхождение ответа, а не его достоверность.
Исследование опубликовано на сайте Anthropic: исследование Anthropic.
Ещё новости:
