Faire tourner un modèle d'IA ouvert sur son propre Mac suppose en général d'installer une application tierce et d'apprendre quel modèle tient dans combien de mémoire. Une fuite laisse penser qu'Apple veut simplifier tout cela. Selon 9to5Mac, l'informateur Aaron Perris a trouvé la trace d'une application Apple appelée Harbor, qui transforme un Mac en serveur d'inférence d'IA privé et peut relier plusieurs Mac pour faire tourner des modèles trop gros pour une seule machine.
La description publiée par Perris est précise. Harbor exécute des modèles à poids ouverts en local sur Apple silicon, et le texte insiste sur le fait que vos données ne quittent jamais votre matériel et que rien n'atteint le cloud. On parcourt, télécharge et charge les modèles depuis l'application, qui se charge de leur gestion. La fonction la plus intéressante est le regroupement : reliez deux Mac ou plus en Thunderbolt 5, et Harbor met en commun leur mémoire unifiée en une seule ressource, soit pour faire tourner un modèle plus grand que ce qu'un ordinateur peut contenir, soit pour servir davantage de requêtes simultanées. L'installation est décrite comme automatique, sans configuration manuelle ni ligne de commande. L'application serait en préversion privée sous la marque Claris, la filiale logicielle d'Apple.
Apple entrerait ainsi en concurrence directe avec des outils que nous évaluons. LM Studio et Ollama permettent déjà aux utilisateurs de Mac de télécharger et de lancer des modèles ouverts en quelques clics ou une commande, et tous deux proposent un serveur local appelable par d'autres applications. Une grande partie de la vitesse sur Mac vient de MLX, le cadre open source d'apprentissage automatique d'Apple, qu'utilisent beaucoup de ces applications. Harbor apporterait la finition maison et surtout un regroupement simple de plusieurs Mac, qui exige aujourd'hui des montages d'amateur et un peu de patience.
Le moment s'y prête. 9to5Mac note que les Mac sont devenus plus populaires cette année, en partie comme machines pour faire tourner des modèles en local sur un Mac Studio ou un Mac mini. Un Mac doté d'une grande mémoire unifiée est l'un des rares ordinateurs grand public capables d'accueillir un gros modèle, et en relier deux ou trois revient moins cher, pour gagner de la mémoire, qu'une baie de GPU de centre de données.
Les réserves sont celles de toute fuite. Apple n'a pas annoncé Harbor, la description vient d'un seul message, et les préversions privées ne débouchent pas toujours sur un lancement. On ne sait rien du prix, des Mac compatibles, des modèles proposés ni de la vitesse réelle de l'inférence en grappe. Thunderbolt 5 réserve en outre le regroupement aux Mac récents et haut de gamme.