Rodar um modelo de IA aberto no próprio Mac normalmente significa instalar um app de terceiros e aprender qual modelo cabe em quanta memória. Um vazamento sugere que a Apple quer simplificar bastante isso. Segundo o 9to5Mac, o vazador Aaron Perris encontrou indícios de um app da Apple chamado Harbor, que transforma um Mac num servidor privado de inferência de IA e pode ligar vários Macs para rodar modelos grandes demais para uma só máquina.
A descrição publicada por Perris é específica. O Harbor roda modelos de pesos abertos localmente no Apple silicon, e o texto ressalta que seus dados nunca saem do seu hardware e nada chega à nuvem. Você procura, baixa e carrega modelos dentro do próprio app, e o Harbor cuida da gestão deles. O recurso mais interessante é o agrupamento: conecte dois ou mais Macs por Thunderbolt 5 e o Harbor junta a memória unificada deles num único recurso, seja para rodar um modelo maior do que cabe em um computador, seja para atender mais pedidos ao mesmo tempo. A configuração é descrita como automática, sem ajuste manual nem linha de comando. Segundo os relatos, está em prévia privada sob a Claris, subsidiária de software da Apple.
Isso colocaria a Apple em concorrência direta com ferramentas que avaliamos. O LM Studio e o Ollama já deixam usuários de Mac baixar e rodar modelos abertos com poucos cliques ou um comando, e ambos oferecem um servidor local que outros apps podem chamar. Boa parte da velocidade nos Macs vem do MLX, o framework de aprendizado de máquina de código aberto da própria Apple, usado por muitos desses apps. O que o Harbor acrescentaria é o acabamento da própria Apple e, sobretudo, um agrupamento fácil de vários Macs, que hoje exige montagens de entusiasta e alguma paciência.
O momento faz sentido. O 9to5Mac observa que os Macs ficaram mais populares neste ano, em parte como máquinas para rodar modelos localmente num Mac Studio ou Mac mini. Um Mac com bastante memória unificada é um dos poucos computadores de consumo capazes de comportar um modelo grande, e ligar dois ou três deles é um caminho mais barato para ter mais memória do que um rack de GPUs de data center.
As ressalvas são as de qualquer vazamento. A Apple não anunciou o Harbor, a descrição vem de um único post e prévias privadas nem sempre chegam ao público. Não se sabe nada sobre preço, quais Macs serão compatíveis, quais modelos serão oferecidos ou quão rápida será na prática a inferência em grupo. O Thunderbolt 5 também limita o agrupamento a Macs recentes e mais caros.