O que é Moshi?
Moshi é o modelo de diálogo de fala para fala da Kyutai, junto com o código para rodá-lo. Diferente de um pipeline que transcreve, pensa e depois fala, o Moshi ouve e fala ao mesmo tempo: modela o seu fluxo de áudio e o dele juntos com um transformer de 7B parâmetros e um fluxo de texto paralelo que ele chama de monólogo interior. Seu codec Mimi comprime áudio de 24 kHz para 12,5 quadros por segundo a 1,1 kbps.
O repositório tem três pilhas de inferência: PyTorch para pesquisa, MLX para Mac e iPhone e Rust com CUDA ou Metal para produção, além do cliente web da demo moshi.chat. Ele traz duas vozes, Moshiko e Moshika, e o mesmo código roda a tradução de fala Hibiki da Kyutai e seus modelos de fala para texto e texto para fala em streaming.
O código Python e o cliente web têm licença MIT e o backend em Rust, Apache 2.0; os pesos são CC-BY 4.0. O repositório tem cerca de 11.500 estrelas no GitHub, o pacote moshi chegou à 0.2.13 no PyPI em fevereiro de 2026 e o último commit é de 16 de maio de 2026.
Moshi vale a pena?
A latência do Moshi é o motivo para olhar para ele. A Kyutai coloca o piso teórico em 160 ms (um quadro Mimi de 80 ms mais 80 ms de atraso acústico) e mede cerca de 200 ms de ponta a ponta em uma GPU L4. Como modela os dois interlocutores ao mesmo tempo, ele pode ser interrompido e pode falar enquanto você fala, algo que pipelines que encadeiam reconhecimento de fala, um modelo de linguagem e síntese de voz precisam imitar com detecção de atividade de voz.
O modelo por trás não mudou desde 2024. Ele só fala inglês, o FAQ diz que mudar sua voz ou personalidade exigiria fine-tuning, e os dados de pré-treino não serão publicados. As versões MLX e Rust param depois de cerca de 5 minutos de conversa porque usam um buffer fixo; a versão PyTorch continua, mas a Kyutai diz que isso foi pouco testado e que a qualidade provavelmente cai.
O hardware é a barreira prática. A pilha PyTorch não tem quantização e pede uma GPU de 24 GB; o backend em Rust roda em int8 com CUDA, uma placa de 12 GB só funciona com um contorno tirado do rastreador de issues, e com 8 GB não é possível. No Mac, o caminho é MLX com pesos de 4 bits; a Kyutai relata que descer abaixo de 4 bits arruína a qualidade e não espera que rode em um M1.
Os padrões de implantação merecem leitura atenta. O servidor PyTorch escuta em localhost, porta 8998, sem autenticação no código, enquanto a configuração de exemplo do backend em Rust se liga a 0.0.0.0 com um certificado autoassinado, acessível pela rede. A opção --gradio-tunnel publica uma URL pública roteada pelos EUA que, segundo a Kyutai, pode somar até 500 ms a partir da Europa. Um agente de voz em produção vai responder melhor com um pipeline em torno de um modelo de linguagem mais forte; o Moshi é a referência para pesquisa full-duplex e para quem for construir o próximo.
Onde ele se destaca
Uma pesquisadora de fala em um laboratório universitário
Estudar a troca de turnos e as interrupções no diálogo falado
Rode o servidor PyTorch em uma GPU de 24 GB e registre os dois fluxos de áudio junto com o texto de monólogo interior que o Moshi prevê. Os pesos abertos e o relatório técnico no arXiv dão uma referência citável, e o código é gratuito sob MIT.
Um engenheiro de interfaces de voz em uma start-up de robótica de consumo
Sentir o que uma conversa interrompível de menos de um segundo faz por um produto antes de construí-lo
Compile o backend em Rust com CUDA, inicie com config-q8.json para pesos int8 e abra a interface web na porta 8998. Trate como protótipo: só inglês, persona fixa e sessões que terminam depois de cerca de 5 minutos.
Um desenvolvedor Mac explorando voz no próprio dispositivo
Testar um modelo de fala para fala sem conta de nuvem
Faça pip install moshi_mlx no Python 3.12 e rode python -m moshi_mlx.local -q 4 em Apple silicon. A Kyutai testou em um MacBook Pro M3; o cliente de linha de comando não tem cancelamento de eco, então use a interface web ou fones de ouvido.
Antes de decidir
- Configuração
- pip install moshi (Python 3.10 ou mais recente, 3.12 recomendado); depois, python -m moshi.server baixa os pesos do Hugging Face e serve uma interface web em localhost:8998. O backend em Rust precisa do toolchain do Rust e de CUDA com nvcc, ou Metal no macOS; o Docker Compose funciona com CUDA.
- Integrações
- Uma interface web, clientes de linha de comando em Python e Rust e uma demo em Gradio compartilham um mesmo protocolo de streaming; o rustymimi oferece bindings Python para o codec Mimi; a mesma pilha roda o Hibiki e os modelos de fala para texto e texto para fala em streaming da Kyutai.
- Dados e privacidade
- Auto-hospedado, então o áudio fica na sua máquina, a menos que você ative --gradio-tunnel, que expõe o servidor por uma URL pública roteada pelos EUA. A configuração de exemplo do Rust se liga a 0.0.0.0:8998 com um certificado autoassinado, e o servidor PyTorch não tem login. Os pesos são CC-BY 4.0, que exige atribuição.
- Custo em escala
- Código e pesos são gratuitos; o custo é tempo de GPU, de uma placa de 24 GB para PyTorch a uma implantação em Rust int8 com CUDA. A Kyutai não publica quantas conversas simultâneas uma GPU aguenta.
- Limites
- Só inglês, 24 GB de VRAM para PyTorch, sessões de cerca de 5 minutos em MLX e Rust, sem suporte oficial a Windows e sem publicação do conjunto de dados de pré-treino.
O que é bom
- Cerca de 200 ms de latência de ponta a ponta em uma GPU L4
- Full-duplex: ouve enquanto fala e lida com interrupções
- Pilhas PyTorch, MLX e Rust, mais um cliente web pronto
- Pesos abertos sob CC-BY 4.0; código sob MIT e Apache 2.0
O que não é
- Só inglês; uma voz ou persona nova exige fine-tuning
- GPU de 24 GB para PyTorch; placas de 8 GB não rodam
- Sessões em MLX e Rust param depois de cerca de 5 minutos
- O modelo não mudou desde o lançamento em 2024
Ideal para
Pesquisadores de fala e engenheiros de interfaces de voz que querem estudar ou estender um modelo de diálogo falado full-duplex nas próprias GPUs.
Alternativas ao Moshi
Moshi: perguntas frequentes
- Moshi vale a pena?
- O Moshi ainda mostra como é um modelo de voz realmente conversacional, mas um modelo de 2024, só em inglês e que pede uma GPU de 24 GB, é uma plataforma de pesquisa, não um agente de voz para colocar em produção. Damos nota 3.6 de 5.
- Quanto custa Moshi?
- Gratuito: código sob MIT e Apache 2.0, pesos sob CC-BY 4.0. Sem edição paga.
- Quais são as desvantagens de Moshi?
- Só inglês; uma voz ou persona nova exige fine-tuning; gPU de 24 GB para PyTorch; placas de 8 GB não rodam; sessões em MLX e Rust param depois de cerca de 5 minutos; o modelo não mudou desde o lançamento em 2024.
- Para quem Moshi é indicado?
- Pesquisadores de fala e engenheiros de interfaces de voz que querem estudar ou estender um modelo de diálogo falado full-duplex nas próprias GPUs.
- Quanto custa Moshi para uma equipe ou em produção?
- Código e pesos são gratuitos; o custo é tempo de GPU, de uma placa de 24 GB para PyTorch a uma implantação em Rust int8 com CUDA. A Kyutai não publica quantas conversas simultâneas uma GPU aguenta.
- Moshi é seguro para dados da empresa?
- Auto-hospedado, então o áudio fica na sua máquina, a menos que você ative --gradio-tunnel, que expõe o servidor por uma URL pública roteada pelos EUA. A configuração de exemplo do Rust se liga a 0.0.0.0:8998 com um certificado autoassinado, e o servidor PyTorch não tem login. Os pesos são CC-BY 4.0, que exige atribuição.
- Quais são as melhores alternativas ao Moshi?
- As alternativas mais próximas que analisamos são VibeVoice e audio.cpp.
Respostas verificadas em 14 de nov. de 2026.