Pular para o conteúdo
ReviewRamble

A newsletter semanal

IA, analisada, na sua caixa de entrada.

  • Novas análises de ferramentas, modelos, servidores MCP e repositórios, com o veredicto logo no início
  • Preços e notas reconferidos quando algo muda
  • Novos artigos de análise assim que são publicados

Modelos, agentes, servidores MCP e as ferramentas que realmente valem seu tempo.

Um e-mail por semana. Cancele pelo link em qualquer edição. Como usamos seu e-mail

Agent Lightning

Treinador de RL da Microsoft Research que melhora um agente existente atuando como proxy das chamadas ao modelo, sem mudar o código do agente.

Análise de ReviewRamble editors · Atualizado

Ver no GitHub Código aberto

Nossa nota

3.9/5

O Agent Lightning tem a ideia certa para RL de agentes, treinar por um proxy em vez de reescrever o agente, mas exige uma pilha de GPUs de data center e uma equipe capaz de operá-la.

O que é Agent Lightning?

O Agent Lightning treina com aprendizado por reforço o modelo por trás de um agente enquanto o agente mantém suas próprias ferramentas, prompts e fluxo de controle. Você aponta a base URL compatível com OpenAI do agente para o gateway do Agent Lightning; o gateway encaminha cada chamada a um servidor vLLM e registra os ids de tokens do prompt e da resposta e as log probabilities. O agente informa uma recompensa ao fim de cada execução, e um treinador baseado no verl transforma essas execuções registradas em atualizações da política, com GRPO entre os algoritmos suportados.

A versão 1.0, lançada em agosto de 2026 com um relatório técnico, foi uma reescrita completa em três partes: o gateway, um controlador de rollouts que inicia agentes como processos locais ou Jobs do Kubernetes, e o treinador. O projeto é Python com licença MIT, tem cerca de 18.900 estrelas no GitHub e lançou a 1.0.3 em 3 de novembro de 2026. O README afirma ter cerca de 3.500 linhas de código. O exemplo principal leva o Qwen3.5-9B de 41,8% para 56,4% no SWE-bench Verified com 6K amostras de treino, e um exemplo de mistura de especialistas leva o Qwen3.5-35B-A3B de 47,8% para 61,6% com 1,8K; ambos são números da própria Microsoft em 4× GPUs B200.

Agent Lightning vale a pena?

A maioria dos frameworks de RL para agentes pede que você reconstrua o agente dentro do loop deles, e então o agente treinado não é bem o que você coloca em produção. O desenho de proxy do Agent Lightning evita isso: qualquer coisa que fale com um endpoint compatível com OpenAI pode ser treinada como está, e como o gateway registra os ids de tokens na origem, ele contorna o desvio de retokenização sobre o qual a equipe escreveu com o projeto vLLM em 2025. Os exemplos cobrem matemática com AutoGen e ferramentas MCP, busca, um agente geral em sandbox e um agente de programação treinado com os testes de um repositório.

Os resultados publicados em programação são fortes para modelos pequenos: 14,6 pontos no SWE-bench Verified para um modelo de 9B é um ganho real, se for reproduzido. Mas são números dos próprios autores, e não encontramos replicação independente. As notas de versão mostram engenharia constante, com a 1.0.3 adicionando rollouts em INT8 e corrigindo bugs de precisão nas recompensas.

O porém: o código é leve, mas a pilha não. Ela exige CUDA 12.9 ou 13.0, uma combinação fixada de verl, vLLM e torch e uma compilação do flash-attention que, segundo a documentação, leva de 10 a 30 minutos. O quick start pede uma A100, o modo Minikube pelo menos 64 GB de memória e os exemplos de programação 4× B200 mais uma segunda máquina para o Kubernetes. Por padrão, as execuções enviam logs e trajetórias ao Weights & Biases. O gateway escuta em todas as interfaces e sua chave bearer é vazia por padrão, o que desativa a autenticação com apenas um aviso, então defina uma antes de rodar em uma rede compartilhada. A versão 1.0 também substituiu a API anterior, então tutoriais de 2025 descrevem outro framework.

Nossa opinião: o Agent Lightning é uma bancada de treino, não uma biblioteca que se adiciona numa sexta-feira à tarde. Vale a pena quando você já tem um agente, uma recompensa confiável e GPUs sobrando; sem isso, ajuste de prompts e avaliações vêm primeiro.

Onde ele se destaca

  • Uma equipe de ML aplicado com um agente de programação interno sobre um modelo aberto

    Aumentar a taxa de acerto nos testes dos nossos próprios repositórios

    Empacotar os repositórios como imagens, deixar o controlador rodar cada tentativa como um Job do Kubernetes que executa os testes e informa uma recompensa, e treinar com a receita do agente de programação. A execução de referência da Microsoft usou 4× GPUs B200.

  • Uma pesquisadora com uma A100

    Testar RL de agentes em um modelo pequeno antes de pedir um cluster

    Rodar o exemplo Calc-X, que treina o Qwen2.5-1.5B-Instruct com AutoGen e uma calculadora MCP pelo controlador local, e acompanhar a curva de recompensa no Weights & Biases.

  • Uma startup com um agente de busca construído sobre um framework de agentes

    Treinar o modelo na nossa própria tarefa sem reescrever o agente

    Apontar a base URL do modelo do agente para o caminho de rollout do gateway, adicionar um envio de recompensa ao fim de cada execução e deixar o treinador coletar rollouts e atualizar um modelo auto-hospedado.

Antes de decidir

Configuração
Clone o repositório, rode `uv sync` e depois `scripts/setup_verl.sh 0.8.0 cu130` para instalar a pilha fixada de verl, vLLM e torch e compilar o flash-attention (de 10 a 30 minutos); faça login no Weights & Biases antes da primeira execução.
Integrações
verl e vLLM para treino e inferência, Megatron para o exemplo MoE, Kubernetes ou processos locais para os rollouts, Weights & Biases para logs e qualquer agente que chame uma API compatível com OpenAI, como o AutoGen.
Dados e privacidade
Auto-hospedado; prompts, respostas e recompensas ficam armazenados no gateway e são enviados ao Weights & Biases por padrão. O gateway escuta em 0.0.0.0 e sua chave é vazia por padrão, o que desativa a autenticação. Licença MIT.
Custo em escala
Software gratuito; o custo é tempo de GPU, de uma A100 80GB para o Calc-X a 4× A100 para o exemplo de sandbox e 4× B200 para os agentes de programação. Os tempos de execução não são publicados para todos os exemplos.
Limites
Apenas CUDA 12.9 ou 13.0; o runner local não é suportado no Windows nativo; o modo Minikube precisa de pelo menos 64 GB de memória; cerca de 116 issues abertas na última verificação.

O que é bom

  • Treina agentes existentes por um proxy compatível com OpenAI, sem reescrita
  • Registra ids de tokens no gateway, evitando o desvio de retokenização
  • Roda rollouts como Jobs do Kubernetes sem serviço de sandbox pago
  • Exemplos completos, de matemática em uma GPU a agentes de programação no SWE-bench

O que não é

  • Exige GPUs NVIDIA de data center e uma pilha CUDA fixada e frágil
  • A autenticação do gateway fica desligada até você definir uma chave
  • Os ganhos em benchmarks são autodeclarados
  • A reescrita 1.0 quebrou a API e os tutoriais anteriores

Ideal para

Equipes de ML com GPUs e uma recompensa mensurável que querem ajustar o modelo de um agente que já usam, sem portá-lo para um framework de treino.

Alternativas ao Agent Lightning

Agent Lightning: perguntas frequentes

Agent Lightning vale a pena?
O Agent Lightning tem a ideia certa para RL de agentes, treinar por um proxy em vez de reescrever o agente, mas exige uma pilha de GPUs de data center e uma equipe capaz de operá-la. Damos nota 3.9 de 5.
Quanto custa Agent Lightning?
Gratuito e open source (MIT); o treino exige suas próprias GPUs NVIDIA, a partir de uma A100 80GB para o menor exemplo.
Quais são as desvantagens de Agent Lightning?
Exige GPUs NVIDIA de data center e uma pilha CUDA fixada e frágil; a autenticação do gateway fica desligada até você definir uma chave; os ganhos em benchmarks são autodeclarados; a reescrita 1.0 quebrou a API e os tutoriais anteriores.
Para quem Agent Lightning é indicado?
Equipes de ML com GPUs e uma recompensa mensurável que querem ajustar o modelo de um agente que já usam, sem portá-lo para um framework de treino.
Quanto custa Agent Lightning para uma equipe ou em produção?
Software gratuito; o custo é tempo de GPU, de uma A100 80GB para o Calc-X a 4× A100 para o exemplo de sandbox e 4× B200 para os agentes de programação. Os tempos de execução não são publicados para todos os exemplos.
Agent Lightning é seguro para dados da empresa?
Auto-hospedado; prompts, respostas e recompensas ficam armazenados no gateway e são enviados ao Weights & Biases por padrão. O gateway escuta em 0.0.0.0 e sua chave é vazia por padrão, o que desativa a autenticação. Licença MIT.
Quais são as melhores alternativas ao Agent Lightning?
As alternativas mais próximas que analisamos são TRL, Unsloth e LlamaFactory.

Respostas verificadas em 13 de nov. de 2026.