Qu’est-ce que EAGLE-4 ?
EAGLE-4 accélère le service des grands modèles de langage par décodage spéculatif : un petit modèle brouillon propose plusieurs tokens et le modèle cible les vérifie en une seule passe, si bien que la sortie est identique à celle de la cible seule. Ce dépôt contient eagle-harness, le paquet qui branche les brouillons EAGLE-4 sur SGLang, vLLM et TokenSpeed et décide jusqu'où spéculer à partir de coûts mesurés sur votre machine, de sorte que les arbres de brouillon rétrécissent quand le lot grossit.
Il est publié par Eagle AI Corp, qui dit s'appuyer sur EAGLE, EAGLE-2 et EAGLE-3. Le premier brouillon public vise Qwen3.8-27B. Le dépôt a été créé le 20 octobre 2026, compte environ 1 221 étoiles, fournit des images Docker et des wheels, et a publié la v0.1.5 le 1er novembre 2026. Il est source-available, pas open source.
EAGLE-4 vaut-il le coup ?
Le décodage spéculatif aide d'ordinaire un serveur calme et pénalise un serveur chargé : rédiger des tokens consomme un calcul qu'un lot plein préférerait consacrer au vrai travail. La réponse d'EAGLE-4 est un harnais qui mesure les coûts en direct sur votre matériel et dimensionne chaque arbre de brouillon selon le lot courant, pour que vous puissiez laisser la spéculation activée. Sur quatre GPU NVIDIA B300 avec Qwen3.8-27B, la matrice de support donne pour SGLang 3,42 fois le décodage normal pour une requête, 2,09 à 8 simultanées et 1,39 à 64 ; pour vLLM 2,83, 1,72 et 1,14 ; pour TokenSpeed 3,09, 2,02 et 1,41. Sur une AMD MI355X, SGLang a été 2,07 fois plus rapide à 8 requêtes et 1,56 à 32.
La documentation est d'une franchise rare sur l'endroit où les gains s'arrêtent. La page des limites connues indique que la commande de démarrage rapide SGLang du README revient au décodage normal sous forte charge et a mesuré 1,00 fois à 64, 128 et 256 requêtes simultanées sur une B300. Une recette distincte pour forte charge sur quatre GPU tient le rythme du décodage normal jusqu'à 512 requêtes. vLLM et TokenSpeed ne basculent pas encore vers le décodage normal et peuvent être plus lents que sans spéculation au-delà de 64 requêtes : la documentation conseille de la couper dans ce cas. La justesse est vérifiée selon une règle fp32 plutôt que supposée, et la page liste les prompts où les sorties divergent.
Le périmètre est étroit. Les mesures couvrent une seule paire publique cible et brouillon, Qwen3.8-27B, plus Nemotron 3.5 Super, sur B300 et MI355X ; les autres architectures, le multi-nœud et le parallélisme de pipeline sont annoncés comme encore en qualification. Le démarrage rapide télécharge environ 62 Go et exige un pilote CUDA 13, et l'installation par pip fige une version modifiée de SGLang tirée de l'index de wheels d'Eagle.
La licence est la vraie décision. L'Eagle 4 Source-Available License n'autorise l'usage commercial qu'en dessous de 20 millions de dollars US de chiffre d'affaires cumulé sur toute période de 12 mois, interdit purement et simplement les offres concurrentes et considère un clonage ou un fork comme une acceptation. Eagle AI Corp contrôle aussi la licence des contributions acceptées. Les options de décodage spéculatif intégrées à SGLang et vLLM eux-mêmes n'imposent aucune de ces conditions.
Là où il fait la différence
Un ingénieur inférence dans une start-up qui sert un assistant de code sur Qwen3.8-27B
Réduire la latence par requête pour un utilisateur isolé sans changer les réponses
Servez SGLang avec le brouillon EAGLE-4 et le harnais ; la matrice de support montre 3,42 fois le décodage normal pour une requête sur quatre B300. Gratuit tant que l'entreprise reste sous 20 millions de dollars US de chiffre d'affaires.
Une équipe plateforme au trafic irrégulier sur AMD MI355X
Accélérer les heures creuses sans ralentir les pics
Suivez le guide AMD ; SGLang a mesuré 2,07 fois à 8 requêtes et 1,56 à 32 sur une MI355X. Appliquez la recette forte charge pour que les périodes chargées reviennent au décodage normal.
Une chercheuse qui compare des méthodes de décodage spéculatif
Évaluer un nouveau brouillon face à une référence mesurée
Reproduisez les commandes de la matrice de support avec le client SPEED-Bench à température 0, en chauffant d'abord le serveur, car les premières requêtes compilent des kernels et mesurent les coûts.
Avant de vous engager
- Mise en route
- Lancer l'image Docker SGLang publiée, ou installer eagle-harness par pip avec la version figée de SGLang sous Python 3.12 (CUDA toolkit et compilateur C++ requis). Le premier démarrage télécharge environ 62 Go et compile des kernels.
- Intégrations
- Moteurs SGLang, vLLM et TokenSpeed ; chat completions compatibles OpenAI depuis le moteur ; brouillons sur Hugging Face sous EAGLE-Corp ; versions ROCm pour AMD MI355X.
- Données et confidentialité
- Tout tourne sur vos propres GPU ; aucun service hébergé n'intervient. L'exemple Docker publie le port 30000 sur 127.0.0.1 uniquement, et le démarrage rapide ne définit aucune clé d'API : ajoutez-en une avant d'exposer le serveur.
- Coût à grande échelle
- Aucun frais sous le seuil de la licence ; les entreprises au-delà de 20 millions de dollars US de chiffre d'affaires sur 12 mois, ou proposant un produit concurrent, doivent signer un accord commercial dont le prix n'est pas publié.
- Limites
- Mesuré sur B300 et MI355X seulement ; multi-nœud et parallélisme de pipeline pas encore qualifiés ; vLLM et TokenSpeed peuvent être plus lents que le décodage normal au-delà de 64 requêtes simultanées ; le mode déterministe coupe la spéculation sous forte charge.
Les points forts
- Arbres de brouillon dimensionnés d'après des coûts mesurés en direct : la spéculation peut rester activée
- Requêtes isolées jusqu'à 3,42 fois plus rapides, avec une sortie identique à la cible
- Matrice de support publiée avec tokens/s, contrôles de justesse et méthode
- Fonctionne avec SGLang, vLLM et TokenSpeed, sur NVIDIA et AMD
Les points faibles
- Source-available : usage commercial plafonné à 20 millions de dollars US de chiffre d'affaires, pas d'offre concurrente
- Les gains tombent à environ 1,1 à 1,4 fois à 64 requêtes simultanées
- Un seul modèle brouillon public au lancement ; autres matériels pas encore qualifiés
- Fige des versions modifiées des moteurs tirées de l'index de wheels d'Eagle
Idéal pour
Équipes sous le seuil de chiffre d'affaires de la licence qui servent Qwen3.8-27B sur GPU B300 ou MI355X à concurrence faible ou modérée.
Alternatives à EAGLE-4
EAGLE-4 : questions fréquentes
- EAGLE-4 vaut-il le coup ?
- EAGLE-4 est la publication de décodage spéculatif la plus soigneusement mesurée que nous ayons lue, avec des requêtes isolées 3,42 fois plus rapides sur SGLang, mais elle couvre un seul modèle public, rapporte surtout à faible concurrence et s'accompagne d'une licence qui mord dès 20 millions de dollars US de chiffre d'affaires. Nous lui donnons 3.9 sur 5.
- Combien coûte EAGLE-4 ?
- Utilisation gratuite sous l'Eagle 4 Source-Available License pour les organisations de moins de 20 millions de dollars US de chiffre d'affaires sur toute période de 12 mois et sans produit concurrent ; au-delà, une licence commerciale distincte au prix non publié.
- Quels sont les inconvénients de EAGLE-4 ?
- Source-available : usage commercial plafonné à 20 millions de dollars US de chiffre d'affaires, pas d'offre concurrente; les gains tombent à environ 1,1 à 1,4 fois à 64 requêtes simultanées; un seul modèle brouillon public au lancement ; autres matériels pas encore qualifiés; fige des versions modifiées des moteurs tirées de l'index de wheels d'Eagle.
- À qui s’adresse EAGLE-4 ?
- Équipes sous le seuil de chiffre d'affaires de la licence qui servent Qwen3.8-27B sur GPU B300 ou MI355X à concurrence faible ou modérée.
- Combien coûte EAGLE-4 pour une équipe ou en production ?
- Aucun frais sous le seuil de la licence ; les entreprises au-delà de 20 millions de dollars US de chiffre d'affaires sur 12 mois, ou proposant un produit concurrent, doivent signer un accord commercial dont le prix n'est pas publié.
- EAGLE-4 est-il sûr pour les données de l’entreprise ?
- Tout tourne sur vos propres GPU ; aucun service hébergé n'intervient. L'exemple Docker publie le port 30000 sur 127.0.0.1 uniquement, et le démarrage rapide ne définit aucune clé d'API : ajoutez-en une avant d'exposer le serveur.
- Quelles sont les meilleures alternatives à EAGLE-4 ?
- Les alternatives les plus proches que nous avons testées sont SGLang, vLLM et TensorRT-LLM.
Réponses vérifiées le 21 nov. 2026.