IBM hat ein Update seiner Granite-Switch-Modelle veröffentlicht, das es wie einen Software-Patch nummeriert, und genau diese Nummerierung ist der Punkt. Granite Switch 4.1.1 kam gut eine Woche nach 4.1, ist voll rückwärtskompatibel und erfordert keine Migration. Für Unternehmen, die jede Modelländerung neu testen und freigeben müssen, ist ein Update, das das Hauptmodell unangetastet lässt, viel billiger zu übernehmen als eine neue Version.
Granite Switch ist IBMs modularer Aufbau: ein Basismodell mit einer Reihe kleiner Adapter, jeder für eine Aufgabe trainiert, die sich bei Bedarf über einen einzigen gehosteten Endpunkt zuschalten lassen. Version 4.1 erschien in den Größen 8B und 30B und brachte einen allgemeinen Entscheidungsadapter, einen Adapter für Sicherheitsprüfungen und ein schnelles Spracherkennungsmodell mit. Weil die Adapter darauf ausgelegt sind, die zwischengespeicherte Arbeit des Basismodells wiederzuverwenden, belegt das ganze Paket laut IBM ungefähr so viel GPU-Speicher wie das Basismodell allein, und derselbe Endpunkt kann Chat-Anfragen, Ja-Nein-Entscheidungen und Transkriptionen bedienen.
Der Patch ändert zwei Teile. Die Sprachkomponente ist nun Granite Speech 5.0 TurboCTC, ein Transkriptionsmodell mit 470M Parametern, das mehrsprachig geworden ist und Satzzeichen sowie Großschreibung ergänzt, sodass Transkripte ohne Aufräumschritt direkt an ein anderes Modell gehen können. Laut IBMs Modellkarte verbessert die mehrsprachige Version auch die durchschnittliche englische Wortfehlerrate leicht, von 5,78% auf 5,51%. Die zweite Änderung ist ein überarbeiteter Entscheidungsadapter, der laut IBM auf dem Testset des Jev Decision Index besser abschneidet. Das 30B-Basismodell wurde nicht neu trainiert.
Das passt zu einem breiteren Muster kleiner, spezialisierter Modelle um einen stabilen Kern und kommt den vorsichtigen Unternehmenskunden entgegen, die unsere Besprechung der Granite-4.2-Familie als IBMs Publikum ausmacht. Wer Transkriptionsoptionen vergleicht, sollte beachten, dass dieses TurboCTC-Modell ein kleineres, schnelleres Geschwister von Granite Speech 5.0 ist, das wir separat besprechen. IBM kündigt ein Adapter SDK und Anleitungen an, damit andere Entwickler eigene Adapter bauen und versionieren können.
Es gibt Lücken. IBM nennt keine Zahlen für den überarbeiteten Entscheidungsadapter, die Verbesserung ist also eine Behauptung, kein Ergebnis, das sich schon prüfen ließe. Auch die Sprachenzahl ist widersprüchlich: Der Ankündigungsbeitrag spricht von 10 Sprachen, die Modellkarte nennt sieben, Englisch, Französisch, Deutsch, Spanisch, Portugiesisch, Italienisch und Japanisch. Teams, die auf eine bestimmte Sprache angewiesen sind, sollten sie vor dem Update testen. Und das Versprechen, dass sich Adapter ohne Nebenwirkungen austauschen lassen, ist erst belegt, wenn Dritte eigene veröffentlichen.