Zum Inhalt springen
ReviewRamble

Der wöchentliche Brief

KI im Test, in deinem Postfach.

  • Neue Tests von Tools, Modellen, MCP-Servern und Repos, mit dem Urteil vorneweg
  • Neu geprüfte Preise und Bewertungen, wenn sich etwas ändert
  • Neue Analysen, sobald sie erscheinen

Modelle, Agenten, MCP-Server und die Tools, die deine Zeit wirklich wert sind.

Eine E-Mail pro Woche. Abmelden kannst du dich über den Link in jedem Brief. Wie wir deine E-Mail-Adresse nutzen

KI-News & Forschung

News ·

Tethers BotPsy-0.8B ist ein winziger lokaler Assistent, der Werkzeuge nutzt

Das QVAC-Team von Tether AI Research hat BotPsy-0.8B veröffentlicht, aufgebaut auf Qwen3.5-0.8B und nachtrainiert, um lokal Werkzeuge für Aufgaben wie Suche, Reisen, Kalender und E-Mail zu nutzen. Es erreicht im Schnitt 45.0 über sechs Tool-Benchmarks gegenüber 24.7 beim Basismodell, liegt bei Wissenstests aber hinter Qwen3.5-2B. Die Gewichte sind in bf16, Q8 und Q4 gelistet, auch als GGUF für llama.cpp.

Die meisten KI-Assistenten, die für dich handeln können, also buchen, suchen oder Nachrichten senden, laufen auf fremden Servern. Tether AI Research, Teil des vor allem für den Stablecoin Tether bekannten Unternehmens, hat BotPsy veröffentlicht, ein Modell mit 0.8 Milliarden Parametern, das Werkzeuge auf dem eigenen Handy oder Laptop aufrufen soll. Es ist klein genug, um fast überall zu laufen, und die interessante Behauptung lautet, dass es bei den trainierten Agentenaufgaben Modelle schlägt, die mehr als doppelt so groß sind.

BotPsy basiert auf Qwen3.5-0.8B und wird in vier Stufen trainiert: überwachtes Feintuning mit Werkzeuggesprächen, Destillation aus drei spezialisierten Lehrermodellen mit 4B Parametern und zwei Runden Verstärkungslernen mit regelbasiert geprüften Belohnungen. Ziel ist ein persönlicher Assistent für einfache Aufgaben bei Suche, Reisen, Einkauf, Geräteeinstellungen, Dateien, Kalender und E-Mail. Tether will die Gewichte offen unter Apache 2.0 in bf16, Q8 und Q4 veröffentlichen, als Safetensors und GGUF-Dateien für das eigene QVAC SDK und für llama.cpp, das wir besprechen.

Die gemeldeten Fortschritte sind für die Größe beachtlich. Auf BFCL v4, einem Standardtest für Werkzeugaufrufe, steigt der Wert von 23,4 beim Basismodell auf 44,0, auf ACEBench von 30,1 auf 58,7 und auf tau-bench von 23,2 auf 51,5. Es schlägt auch das 2,5-mal größere Qwen3.5-2B-Think bei fünf von sechs Agenten-Benchmarks und verliert nur bei Claw-Eval mit 48,9 zu 46,5. Zwei Details zählen im Alltag. Bei Tests, ob es ablehnt, wenn kein passendes Werkzeug existiert, erreicht es 86,1, den besten Wert der getesteten Modelle. Und es denkt effizienter: Endlosschleifen auf IFBench sinken von 22,9% auf 1,4%.

Für alle, die sich für private, offline nutzbare Assistenten interessieren, ist das ein nützlicher Datenpunkt. Ein so kleines Modell läuft über llama.cpp, Ollama oder LM Studio auf gewöhnlicher Hardware, und lokale Werkzeugaufrufe bedeuten, dass Kalender und Nachrichten das Gerät nicht verlassen müssen. Der Preis ist Wissen: BotPsy soll Fakten nachschlagen statt sie zu kennen, und Qwen3.5-2B-Think schneidet beim Allgemeinwissen weiterhin deutlich besser ab.

Die Grenzen benennt Tether selbst. Alle Benchmarks sind eigene Läufe. Das Modell ist schwach bei mehrstufiger Recherche, mit 15 Punkten bei komplexen Informationsaufgaben, und auf Hindi und Russisch viel schlechter als auf Englisch. Red-Teaming fand weiterhin in 21% der Fälle unsichere Antworten. Tether sagt, es sei nicht für Entscheidungen über Geld, Gesundheit oder persönliche Daten gedacht, und die Lizenzformulierung beschränkt es auf Forschung und Bildung.

Unser Fazit: Ein Modell unter einer Milliarde Parametern, das einfache Werkzeugaufrufe auf dem Handy erledigt, hält persönliche Daten aus der Cloud, darum geht es. Die Entwickler raten von Aufgaben mit Geld, Gesundheit oder persönlichen Daten ab, und 21% unsichere Antworten im Red-Teaming stützen diese Vorsicht.

Unsere Testberichte:llama.cpp

Quelle: Hugging Face

Weitere Artikel