Как vLLM использует cache_salt для разделения KV-кэша.
Разница задержек на общем сервере vLLM может выдать, что определённый префикс уже есть в кэше. Для разделения кэша между группами доверия предусмотрен параметр cache_salt.
Соль из запроса входит в хеш первого блока. Переиспользовать KV-блоки смогут запросы с той же солью. Так можно разрешить общий кэш внутри одной группы и отделить её от остальных.
В vLLM v1 этот механизм изолирует prefix cache. Он не заменяет управление доступом к самому API.
