Aller au contenu
ReviewRamble

La lettre hebdomadaire

L’IA, évaluée, dans votre boîte mail.

  • Les nouveaux tests d’outils, de modèles, de serveurs MCP et de dépôts, avec le verdict en premier
  • Les prix et les notes revérifiés quand quelque chose change
  • Les nouvelles analyses dès leur publication

Modèles, agents, serveurs MCP et les outils qui méritent vraiment votre temps.

Un e-mail par semaine. Désinscrivez-vous avec le lien présent dans chaque lettre. Comment nous utilisons votre e-mail

Actualités et recherche IA

Actualités ·

L'analyse des poids suggère que des modèles chinois de pointe ont démarré sur Blackwell

Will DePue, d'Unemployment Labs, a rapproché les motifs de nombres aléatoires laissés dans des poids publiés de l'organisation du GPU qui les a créés. Il relève des empreintes Blackwell dans DeepSeek-V4-Flash et V4-Pro, Kimi K3 et K3.1-Pro, MiniMax-M3 et Ling-3.1-flash d'Ant, alors que les versions précédentes correspondent à Hopper. La méthode a concordé dans les 24 cas où le matériel était connu.

Certains des meilleurs modèles ouverts chinois semblent avoir été construits sur des puces Nvidia qui ne peuvent pas être exportées légalement vers la Chine sans licence. C'est la conclusion d'une analyse médico-légale de Will DePue, d'Unemployment Labs, qui déduit le matériel des poids publiés eux-mêmes. Pour qui utilise des modèles DeepSeek, Kimi ou MiniMax, rien ne change dans les modèles, mais la méthode est nouvelle et les implications politiques sont fortes.

La technique est astucieuse et vérifiable. Avant l'entraînement, les poids d'un modèle sont remplis de valeurs initiales pseudo-aléatoires. Dans PyTorch sur GPU Nvidia, la disposition de ces nombres dépend du nombre d'unités de calcul de la puce : 132 sur les puces Hopper comme les H100, H200 et H800, 148 sur les Blackwell B200 et B300, et 152 sur les GB200 et GB300. Certains poids, comme ceux de jetons jamais rencontrés à l'entraînement, survivent presque intacts, si bien qu'une recherche parmi les graines et les dispositions permet de retrouver l'arrangement initial. DeepSeek réutilise une même graine, 953049583, d'une génération à l'autre. Reproduite sur une B300 physique, la méthode a retrouvé 461 des 469 lignes sélectionnées de DeepSeek-V4-Flash, dont 445 bit pour bit.

Les résultats portent sur six modèles de quatre laboratoires. DeepSeek-V4-Flash et MiniMax-M3 correspondent à la disposition à 148 unités ; DeepSeek-V4-Pro, Kimi K3, Kimi K3.1-Pro et Ling-3.1-flash d'Ant Group à celle à 152. Les modèles antérieurs des mêmes laboratoires se lisent comme Hopper. La méthode concorde avec les 24 cas où un développeur avait publiquement nommé son matériel, et la preuve la plus forte pour chaque modèle va de 49 à 1 385 sigma, bien au-dessus des quelque 8 sigma attendus par hasard sur environ 6 000 milliards de combinaisons testées. Des estimations sommaires situent les plus gros entraînements à environ 4 500 et 3 000 GPU Blackwell.

Pour les modèles que nous évaluons, dont DeepSeek V4 Pro, Kimi K3 et MiniMax M3, cela ne change rien à leurs performances. Cela affaiblit en revanche le récit selon lequel les laboratoires chinois auraient atteint la pointe avec des puces anciennes ou nationales seulement, et montre que des poids ouverts peuvent révéler sur leur origine plus que ne le souhaitent leurs auteurs.

L'auteur est prudent sur les limites, et les lecteurs devraient l'être aussi. L'empreinte montre où les poids ont été initialisés, pas forcément où l'entraînement a eu lieu. Elle ne dit pas où se trouvaient les puces, à qui elles appartenaient ni si une loi a été enfreinte, car de la capacité Blackwell se loue hors de Chine. Une AMD MI300X configurée de façon particulière peut imiter ces dispositions ; cette hypothèse n'a été écartée que pour DeepSeek-V4-Flash. Les estimations du nombre de GPU reposent sur des hypothèses dont l'auteur dit ne pas être sûr, et le travail n'a pas été relu par des pairs.

Notre avis : Une technique astucieuse et vérifiable, au code public, qui transforme le débat sur les contrôles à l'export en éléments de preuve. Elle montre où les poids initiaux ont été créés, pas où l'entraînement a eu lieu ni si une loi a été enfreinte, et elle n'a pas été évaluée de façon indépendante.

Nos tests :DeepSeek-V4-ProKimi K3MiniMax-M3

Source : Hacker News

Autres articles