Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

EAGLE-4

Rascunhos de decodificação especulativa e um harness que se ajusta sozinho para SGLang, vLLM e TokenSpeed, sob licença de código disponível.

Análise de ReviewRamble editors · Atualizado

Ver no GitHub Grátis

Compartilhe esta página:XLinkedInFacebookRedditWhatsAppE-mail

Nossa nota

3.9/5

EAGLE-4 é a publicação de decodificação especulativa com as medições mais cuidadosas que já lemos, com requisições individuais 3,42 vezes mais rápidas no SGLang, mas cobre um único modelo público, compensa sobretudo com pouca concorrência e vem com uma licença que pesa a partir de US$ 20 milhões de receita.

O que é EAGLE-4?

EAGLE-4 acelera o serviço de grandes modelos de linguagem com decodificação especulativa: um pequeno modelo de rascunho propõe vários tokens e o modelo alvo os confere numa só passada, então a saída é a mesma que o alvo produziria sozinho. Este repositório traz o eagle-harness, o pacote que liga os rascunhos do EAGLE-4 ao SGLang, ao vLLM e ao TokenSpeed e decide até onde especular com base em custos medidos na sua máquina, de modo que as árvores de rascunho encolhem conforme o lote cresce.

Quem publica é a Eagle AI Corp, que diz que o trabalho se baseia em EAGLE, EAGLE-2 e EAGLE-3. O primeiro rascunho público é para o Qwen3.8-27B. O repositório foi criado em 20 de outubro de 2026, tem cerca de 1.221 estrelas, oferece imagens Docker e wheels e lançou a v0.1.5 em 1 de novembro de 2026. É de código disponível, não de código aberto.

EAGLE-4 vale a pena?

A decodificação especulativa costuma ajudar um servidor tranquilo e atrapalhar um servidor cheio: gerar tokens de rascunho gasta processamento que um lote cheio preferiria usar em trabalho real. A resposta do EAGLE-4 é um harness que mede custos ao vivo no seu hardware e dimensiona cada árvore de rascunho para o lote atual, para que você possa deixar a especulação ligada. Em quatro GPUs NVIDIA B300 com Qwen3.8-27B, a matriz de suporte mostra o SGLang a 3,42 vezes a decodificação comum com uma requisição, 2,09 com 8 simultâneas e 1,39 com 64; o vLLM a 2,83, 1,72 e 1,14; o TokenSpeed a 3,09, 2,02 e 1,41. Numa AMD MI355X, o SGLang foi 2,07 vezes mais rápido com 8 requisições e 1,56 com 32.

A documentação é incomumente franca sobre onde os ganhos acabam. A página de limites conhecidos diz que o comando de início rápido do SGLang no README volta à decodificação comum sob carga alta e mediu 1,00 vez com 64, 128 e 256 requisições simultâneas numa B300. Uma receita separada para carga alta em quatro GPUs acompanha a decodificação comum até 512 requisições. vLLM e TokenSpeed ainda não voltam à decodificação comum e podem ficar mais lentos do que sem especulação acima de 64 requisições, então a documentação manda desligá-la nesse caso. A correção é verificada por uma regra fp32 em vez de presumida, e a página lista os prompts em que as saídas divergem.

O escopo é estreito. Os resultados medidos cobrem um único par público de alvo e rascunho, Qwen3.8-27B, além do Nemotron 3.5 Super, em B300 e MI355X; outras arquiteturas, configurações multinó e paralelismo de pipeline aparecem como ainda em qualificação. O início rápido baixa cerca de 62 GB e exige um driver CUDA 13, e a instalação via pip fixa uma versão modificada do SGLang tirada do índice de wheels da própria Eagle.

A licença é a decisão de verdade. A Eagle 4 Source-Available License permite uso comercial só abaixo de US$ 20 milhões de receita agregada em qualquer período de 12 meses, proíbe de vez ofertas concorrentes e considera clonar ou fazer fork como aceite. A Eagle AI Corp também controla como as contribuições aceitas são licenciadas. As opções de decodificação especulativa embutidas no próprio SGLang e no vLLM não trazem nenhuma dessas condições.

Onde ele se destaca

  • Um engenheiro de inferência numa startup com um assistente de código sobre o Qwen3.8-27B

    Cortar a latência por requisição para usuários individuais sem mudar as respostas

    Sirva o SGLang com o rascunho do EAGLE-4 e o harness; a matriz de suporte mostra 3,42 vezes a decodificação comum com uma requisição em quatro B300. Grátis enquanto a empresa ficar abaixo de US$ 20 milhões de receita.

  • Uma equipe de plataforma com tráfego em rajadas em AMD MI355X

    Acelerar as horas tranquilas sem atrasar os picos

    Siga o guia da AMD; o SGLang mediu 2,07 vezes com 8 requisições e 1,56 com 32 numa MI355X. Use a receita de carga alta para que os períodos cheios voltem à decodificação comum.

  • Uma pesquisadora comparando métodos de decodificação especulativa

    Medir um novo rascunho contra uma referência medida

    Reproduza os comandos da matriz de suporte com o cliente SPEED-Bench a temperatura 0, aquecendo o servidor antes, porque as primeiras requisições compilam kernels e medem custos.

Antes de decidir

Configuração
Rode a imagem Docker publicada do SGLang, ou instale o eagle-harness via pip com a versão fixada do SGLang no Python 3.12 (exige o CUDA toolkit e um compilador C++). A primeira inicialização baixa cerca de 62 GB e compila kernels.
Integrações
Motores SGLang, vLLM e TokenSpeed; chat completions compatíveis com OpenAI a partir do motor; rascunhos no Hugging Face sob EAGLE-Corp; versões ROCm para AMD MI355X.
Dados e privacidade
Roda inteiro nas suas próprias GPUs; nenhum serviço hospedado participa. O exemplo de Docker publica a porta 30000 só em 127.0.0.1, e o início rápido não define chave de API, então adicione uma antes de expor o servidor.
Custo em escala
Sem taxa abaixo do limite da licença; empresas com mais de US$ 20 milhões de receita em 12 meses, ou que ofereçam produto concorrente, precisam de um acordo comercial cujo preço não é publicado.
Limites
Medido só em B300 e MI355X; multinó e paralelismo de pipeline ainda não qualificados; vLLM e TokenSpeed podem ficar mais lentos que a decodificação comum acima de 64 requisições simultâneas; o modo determinístico desliga a especulação sob carga alta.

O que é bom

  • Árvores de rascunho dimensionadas por custos medidos ao vivo, então a especulação pode ficar ligada
  • Requisições individuais até 3,42 vezes mais rápidas com saída igual à do alvo
  • Matriz de suporte publicada com tokens/s, checagens de correção e método
  • Funciona com SGLang, vLLM e TokenSpeed, em NVIDIA e AMD

O que não é

  • Código disponível: uso comercial limitado a US$ 20 milhões de receita, sem ofertas concorrentes
  • Os ganhos caem para cerca de 1,1 a 1,4 vez com 64 requisições simultâneas
  • Um único modelo de rascunho público no lançamento; outros hardwares ainda não qualificados
  • Fixa versões modificadas dos motores tiradas do índice de wheels da Eagle

Ideal para

Equipes abaixo do limite de receita da licença que servem o Qwen3.8-27B em GPUs B300 ou MI355X com concorrência baixa a moderada.

Alternativas ao EAGLE-4

EAGLE-4: perguntas frequentes

EAGLE-4 vale a pena?
EAGLE-4 é a publicação de decodificação especulativa com as medições mais cuidadosas que já lemos, com requisições individuais 3,42 vezes mais rápidas no SGLang, mas cobre um único modelo público, compensa sobretudo com pouca concorrência e vem com uma licença que pesa a partir de US$ 20 milhões de receita. Damos nota 3.9 de 5.
Quanto custa EAGLE-4?
Uso gratuito sob a Eagle 4 Source-Available License para organizações com menos de US$ 20 milhões de receita em qualquer período de 12 meses e que não ofereçam produto concorrente; acima disso, uma licença comercial à parte com preço não publicado.
Quais são as desvantagens de EAGLE-4?
Código disponível: uso comercial limitado a US$ 20 milhões de receita, sem ofertas concorrentes; os ganhos caem para cerca de 1,1 a 1,4 vez com 64 requisições simultâneas; um único modelo de rascunho público no lançamento; outros hardwares ainda não qualificados; fixa versões modificadas dos motores tiradas do índice de wheels da Eagle.
Para quem EAGLE-4 é indicado?
Equipes abaixo do limite de receita da licença que servem o Qwen3.8-27B em GPUs B300 ou MI355X com concorrência baixa a moderada.
Quanto custa EAGLE-4 para uma equipe ou em produção?
Sem taxa abaixo do limite da licença; empresas com mais de US$ 20 milhões de receita em 12 meses, ou que ofereçam produto concorrente, precisam de um acordo comercial cujo preço não é publicado.
EAGLE-4 é seguro para dados da empresa?
Roda inteiro nas suas próprias GPUs; nenhum serviço hospedado participa. O exemplo de Docker publica a porta 30000 só em 127.0.0.1, e o início rápido não define chave de API, então adicione uma antes de expor o servidor.
Quais são as melhores alternativas ao EAGLE-4?
As alternativas mais próximas que analisamos são SGLang, vLLM e TensorRT-LLM.

Respostas verificadas em 21 de nov. de 2026.