IBM ha publicado una actualización de sus modelos Granite Switch que numera como un parche de software, y esa numeración es justo lo importante. Granite Switch 4.1.1 llegó poco más de una semana después de 4.1, es totalmente compatible con la versión anterior y no requiere migración. Para las empresas que tienen que volver a probar y aprobar cada cambio de modelo, una actualización que deja intacto el modelo principal es mucho más barata de aceptar que una versión nueva.
Granite Switch es el diseño modular de IBM: un modelo base con un conjunto de adaptadores pequeños, cada uno entrenado para una tarea, que se activan según haga falta desde un único endpoint alojado. La versión 4.1 llegó en tamaños 8B y 30B e incluía un adaptador de decisiones general, un adaptador de filtrado de seguridad y un modelo rápido de reconocimiento de voz. Como los adaptadores están hechos para reutilizar el trabajo que el modelo base ya tiene en caché, IBM afirma que el conjunto ocupa más o menos la misma memoria de GPU que el modelo base solo, y el mismo endpoint puede atender peticiones de chat, decisiones de sí o no y transcripciones.
El parche cambia dos piezas. El componente de voz pasa a ser Granite Speech 5.0 TurboCTC, un modelo de transcripción de 470M parámetros que ahora es multilingüe y añade puntuación y mayúsculas, de modo que las transcripciones pueden pasar directamente a otro modelo sin un paso de limpieza. La ficha del modelo de IBM indica que la versión multilingüe también mejora ligeramente la tasa media de error por palabra en inglés, del 5,78% al 5,51%. El segundo cambio es un adaptador de decisiones revisado que, según IBM, puntúa mejor en el conjunto de prueba del Jev Decision Index. El modelo base de 30B no se ha vuelto a entrenar.
Esto encaja con una tendencia más amplia de modelos pequeños y especializados alrededor de un núcleo estable, y conviene a los compradores empresariales prudentes que nuestro análisis de la familia Granite 4.2 identifica como el público de IBM. Quien compare opciones de transcripción debe tener en cuenta que este modelo TurboCTC es un hermano más pequeño y rápido de Granite Speech 5.0, que analizamos por separado. IBM dice que prepara un Adapter SDK y tutoriales para que otros desarrolladores puedan crear y versionar sus propios adaptadores.
Hay lagunas. IBM no da cifras del adaptador de decisiones revisado, así que su mejora es una afirmación, no un resultado que nadie pueda comprobar todavía. El número de idiomas tampoco cuadra: el anuncio habla de 10 idiomas, mientras que la ficha del modelo enumera siete, inglés, francés, alemán, español, portugués, italiano y japonés. Los equipos que dependan de un idioma concreto deberían probarlo antes de actualizar. Y la promesa de que los adaptadores se pueden cambiar sin efectos secundarios solo quedará demostrada cuando terceros empiecen a publicar los suyos.