PT-2026-106269 · Vllm · Vllm
CVSS v3.1
6.5
Média
| Vetor | AV:N/AC:L/PR:L/UI:N/S:U/C:N/I:N/A:H |
Nome do Software Vulnerável e Versões Afetadas
vLLM versões anteriores a 0.30.0
Description
Falhas em requisições de saída estruturada podem ignorar a validação de escopo da requisição e atingir o caminho de erro fatal do
EngineCore, permitindo que requisições comuns de geração restrita encerrem o motor compartilhado e causem a negação de serviço para todos os locatários simultâneos e subsequentes. Isso ocorre devido à ausência de um limite de exceção por requisição no processamento de gramática e tokens de saída estruturada.Os detalhes técnicos incluem três caminhos de falha distintos:
- Uma incompatibilidade de backend no
StructuredOutputManagerpode fazer com que uma exceção de compilação de gramática seja relançada durante a promoção do escalonador, derrubando o motor. Isso afeta o backend padrãoauto. - No modo de decodificação especulativa
ngram gpu, valores de preenchimento-1podem ser passados para a funçãovalidate tokens()no backendguidance. O correspondente nativo não consegue converter esse valor negativo para um tipo de token sem sinal, disparando umOverflowErrorfatal. - O frontend em Rust pode aceitar strings vazias em
structured outputs.jsonoustructured outputs.grammarque o frontend em Python rejeitaria, permitindo que esses valores vazios cheguem ao motor e marquem oEngineCorecomo morto.
Recommendations
Atualize o vLLM para a versão 0.30.0.
Como mitigação temporária, evite usar o backend
guidance em combinação com a decodificação especulativa ngram gpu.
Restrinja o uso do frontend em Rust ou garanta que os parâmetros structured outputs.json e structured outputs.grammar não sejam enviados como strings vazias.Correção
RCE
Improper Handling of Exceptional Conditions
Encontrou algum problema na descrição? Tem algo a acrescentar? Fique à vontade para nos escrever 👾
Identificadores relacionados
Produtos afetados
Vllm