Was ist Laya MCP Server?
Laya ist ein 'System One'-Entscheidungsmodell mit offenen Gewichten von Convai Innovations: Statt Text zu erzeugen, beantwortet es typisierte Fragen (eine Option wählen, auf einer Skala bewerten oder eine Ja/Nein-Wahrscheinlichkeit) zu einem Stück Text oder JSON in einem einzigen Forward Pass. Das Python-Paket Laya bringt einen optionalen MCP-Server mit, installiert mit pip install "laya[mcp]" und gestartet als laya-mcp-server, sodass ein Agent diese Entscheidungen als Tools aufrufen kann.
Der Server stellt zehn Tools bereit: laya_predict, laya_predict_batch, laya_predict_long, laya_route, laya_route_batch, laya_decide, laya_shortlist, laya_tournament, laya_preset und laya_status. laya_decide nimmt ein JSON-Schema und liefert Werte, die dazu passen; laya_shortlist und laya_tournament grenzen Auswahlen mit mehr als etwa 20 Optionen ein, mit denen das Basismodell schlecht umgeht. Er läuft über stdio und lädt die englischen (421M Parameter) und mehrsprachigen (322M) Checkpoints auf deiner eigenen CPU oder GPU oder verweist über LAYA_BASE_URL auf einen gemeinsamen laya-serve-HTTP-Server.
Das Repository hat rund 34.000 GitHub-Sterne, wurde am 18. September 2026 angelegt und hatte bis Version 0.4.13 am 21. Oktober 2026 schon 46 Releases ausgeliefert. Code und Gewichte stehen unter Apache 2.0.
Laya MCP Server installieren
pip install "laya[mcp]" && laya-mcp-serverLohnt sich Laya MCP Server?
Layas MCP-Server ist der einzige vom Anbieter selbst gebaute MCP-Server, den wir für ein System One-Modell gefunden haben, dessen Gewichte du selbst betreiben kannst, und darauf beruht sein ganzes Argument. Jede Entscheidung bleibt auf deinem Rechner, es gibt keine Rechnung pro Token, und die README misst für eine einzelne Frage 32,8 ms auf einer T4-GPU, gegenüber den 236 bis 276 ms, die von ihr zitierte Benchmarks Dritter für TypeSafes gehostetes Jev gemessen haben.
Das Toolset ist vollständiger als jeder Jev-Wrapper, den wir gelesen haben. Batch-Tools gruppieren Anfragen nach Checkpoint und teilen sich Forward Passes; die README hat einen Batch-Aufruf mit 16 Tickets auf Apple-GPUs als 2,1- bis 2,3-mal schneller gemessen als 16 Einzelaufrufe, ohne gekippte Entscheidungen. Shortlist- und Tournament-Tools gibt es, weil das Optionsbudget des Modells jenseits von etwa 20 Labels zusammenbricht: Auf Banking77 meldet die README für Laya 0,425 über alle 77 Labels, gegenüber 0,870 von Dritten für Jev auf 72.
Die Maintainer sind ungewöhnlich offen, und ihren Abschnitt 'Honest limits' solltest du vor der Installation lesen. Die ausgelieferten Basis-Checkpoints erreichen auf ihrem eigenen Benchmark für typisierte Entscheidungen 0,362 und 0,352, knapp über einer Zufallsbaseline von 0,318 und unter der Mehrheitsklassen-Baseline von 0,461; die Schlagzeilenzahl 0,766 stammt von einem Checkpoint, der auf dem Trainings-Split dieses Benchmarks feinabgestimmt wurde. Die README nennt Laya 'a fast base to specialise, not a zero-shot decision engine' und dokumentiert verneinte Kündigungsanfragen, die als Kündigungen eingestuft wurden, eine davon mit einer Wahrscheinlichkeit von 0,9998. Beide Checkpoints sind übermäßig selbstsicher, bis du Temperaturen auf deinen eigenen Daten anpasst.
Die praktischen Kosten sind PyTorch, rund 2,3 GB für alle drei Checkpoints und ausschließlich stdio. Wer ein Modell über mehrere Sitzungen teilen will, muss laya-serve separat betreiben, und in diesem Modus verschwinden die Shortlist- und Tournament-Tools. Jeder Benchmark, der Laya und Jev vergleicht, stammt aus dem Laya-Repository, und seine Jev-Zahlen sind Werte Dritter, die die Autoren nicht selbst gemessen haben. Der Geschwindigkeitsvorsprung ist also der bessere Beleg als die Genauigkeitstabelle.
Wo es sich lohnt
Support-Engineering-Team einer europäischen Bank mit 5.000 Tickets am Tag
Tickets in die richtige Warteschlange leiten, ohne Kundentext an einen US-Anbieter zu schicken
Auf einigen tausend gelabelten alten Tickets feinabstimmen, Temperaturen anpassen und dann den Agenten laya_route_batch aufrufen lassen. Bei 103 bis 332 Fragen pro Sekunde im Batch auf einer T4 deckt eine einzige GPU das Tagesvolumen um ein Vielfaches ab, ohne Gebühr pro Aufruf.
Entwickler, der einem lokalen Coding-Agenten auf dem Laptop Leitplanken gibt
Riskante Prompts und Tool-Aufrufe offline markieren
laya-mcp-server mit LAYA_DEVICE=cpu ausführen und laya_preset für den Prompt-Guardrail-Workflow nutzen. Rechne auf der CPU mit etwa 190 bis 460 ms pro Frage und validiere mit eigenen Beispielen, denn Basis-Checkpoints liegen zero-shot nahe am Zufall.
ML-Leiterin in einem SaaS-Unternehmen mit 40 Leuten
Die Rechnung einer gehosteten Klassifikations-API durch selbst gehostete Entscheidungen ersetzen
Einen laya-serve auf einer gemeinsamen GPU-Maschine betreiben und den MCP-Client jedes Entwicklers mit LAYA_BASE_URL und LAYA_API_KEY darauf richten. Die gehostete Rechnung fällt weg, aber Shortlist- und Tournament-Tools sind in diesem Modus nicht verfügbar.
Bevor du dich festlegst
- Einrichtung
- pip install "laya[mcp]", dann laya-mcp-server, konfiguriert als stdio-Befehl in Claude Desktop, Cursor oder OpenClaw. Der erste Start lädt Checkpoints von Hugging Face herunter (rund 2,3 GB für alle drei); danach antworten vorgeladene Checkpoints sofort.
- Integrationen
- Zehn Tools: laya_predict, laya_predict_batch, laya_predict_long, laya_route, laya_route_batch, laya_decide, laya_shortlist, laya_tournament, laya_preset und laya_status. Alle sind reine Leseentscheidungen über den Text, den du übergibst; keines greift auf externe Systeme zu.
- Daten und Datenschutz
- Alles läuft auf deiner Hardware; nach dem Download der Gewichte verlassen keine Eingaben den Rechner. Ein gemeinsamer laya-serve nutzt einen Bearer-Schlüssel (LAYA_API_KEY). Code und Gewichte stehen unter Apache 2.0, ohne Umsatzgrenzen.
- Kosten im großen Maßstab
- Keine Gebühren pro Aufruf. Die README misst 32,8 ms pro Frage auf einer T4 und 103 bis 332 Fragen pro Sekunde im Batch; auf der CPU sind es etwa 193 bis 464 ms pro Frage. Fine-Tuning ist auf zwei Kaggle-T4s oder Apple Silicon dokumentiert.
- Grenzen
- Basis-Checkpoints erreichen bis zum Fine-Tuning 0,362 und 0,352 gegenüber einer Zufallsbaseline von 0,318; jenseits von etwa 20 Optionen bricht die Genauigkeit ohne Shortlisting ein; der englische Checkpoint nimmt 512 Tokens und scheitert an nicht lateinischen Schriften. Nur stdio, und Shortlist- und Tournament-Tools sind über einen gemeinsamen Server nicht verfügbar.
Was gut ist
- Offene Gewichte unter Apache 2.0; läuft vollständig offline
- Zehn Tools, darunter Batch-, Langdokument- und schemagesteuerte Entscheidungen
- Laut README rund 33 ms pro Frage auf einer T4
- Leitet über 100 Sprachen automatisch an einen mehrsprachigen Checkpoint
- Sehr aktiv: 46 Releases in den ersten fünf Wochen
Was nicht
- Basis-Checkpoints liegen bei typisierten Entscheidungen bis zum Fine-Tuning nahe am Zufall
- Die Genauigkeit fällt jenseits von etwa 20 Optionen ohne Shortlisting stark ab
- Braucht PyTorch und rund 2,3 GB an Checkpoints
- Alle vergleichenden Benchmarks stammen vom Projekt selbst
Am besten für
Teams mit gelabelten Beispielen und Daten, die auf der eigenen Hardware bleiben müssen, und die schnelle Routing-, Triage- oder Schutzentscheidungen in einem Agenten wollen.
Alternativen zu Laya MCP Server
Laya MCP Server: häufige Fragen
- Lohnt sich Laya MCP Server?
- Typisierte Entscheidungen, die deine Hardware nie verlassen und pro Aufruf nichts kosten, von einem Modell, das laut seinen eigenen Autoren Fine-Tuning braucht, bevor du ihm vertraust. Wir bewerten es mit 4.2 von 5.
- Was kostet Laya MCP Server?
- Kostenlos und Open Source (Apache 2.0, Code und Gewichte). Du bezahlst nur die Hardware, auf der es läuft.
- Welche Nachteile hat Laya MCP Server?
- Basis-Checkpoints liegen bei typisierten Entscheidungen bis zum Fine-Tuning nahe am Zufall; Die Genauigkeit fällt jenseits von etwa 20 Optionen ohne Shortlisting stark ab; Braucht PyTorch und rund 2,3 GB an Checkpoints; Alle vergleichenden Benchmarks stammen vom Projekt selbst.
- Für wen eignet sich Laya MCP Server?
- Teams mit gelabelten Beispielen und Daten, die auf der eigenen Hardware bleiben müssen, und die schnelle Routing-, Triage- oder Schutzentscheidungen in einem Agenten wollen.
- Was kostet Laya MCP Server für ein Team oder im Produktivbetrieb?
- Keine Gebühren pro Aufruf. Die README misst 32,8 ms pro Frage auf einer T4 und 103 bis 332 Fragen pro Sekunde im Batch; auf der CPU sind es etwa 193 bis 464 ms pro Frage. Fine-Tuning ist auf zwei Kaggle-T4s oder Apple Silicon dokumentiert.
- Ist Laya MCP Server sicher für Firmendaten?
- Alles läuft auf deiner Hardware; nach dem Download der Gewichte verlassen keine Eingaben den Rechner. Ein gemeinsamer laya-serve nutzt einen Bearer-Schlüssel (LAYA_API_KEY). Code und Gewichte stehen unter Apache 2.0, ohne Umsatzgrenzen.
- Was sind die besten Alternativen zu Laya MCP Server?
- Die nächsten Alternativen, die wir getestet haben, sind Jev MCP, System One Connector und Jev on Viorant.
Antworten geprüft am 23. Okt. 2026.