IBM이 Granite Switch 모델 업데이트를 소프트웨어 패치처럼 번호를 붙여 내놓았는데, 바로 그 번호 매기는 방식이 핵심입니다. Granite Switch 4.1.1은 4.1이 나온 지 일주일 남짓 만에 나왔고, 하위 호환성을 완전히 유지하며 마이그레이션도 필요 없습니다. 모델이 바뀔 때마다 다시 테스트하고 승인을 받아야 하는 기업에는 본체 모델을 건드리지 않는 업데이트가 새 릴리스보다 훨씬 받아들이기 쉽습니다.
Granite Switch는 IBM의 모듈형 설계입니다. 기본 모델 하나에 각각 특정 작업용으로 학습한 작은 어댑터 여러 개를 붙이고, 호스팅된 엔드포인트 하나에서 필요할 때마다 켜서 씁니다. 4.1 버전은 8B와 30B 크기로 나왔고, 범용 결정 어댑터, 안전성 검사 어댑터, 빠른 음성 인식 모델이 함께 들어 있었습니다. 어댑터가 기본 모델이 캐시해 둔 작업을 재사용하도록 만들어졌기 때문에, IBM은 전체 묶음이 기본 모델 하나와 거의 같은 GPU 메모리를 차지하며 같은 엔드포인트에서 채팅 요청, 예/아니요 결정, 받아쓰기를 모두 처리할 수 있다고 말합니다.
이번 패치는 두 부분을 바꿉니다. 음성 구성 요소는 이제 Granite Speech 5.0 TurboCTC입니다. 470M 파라미터 받아쓰기 모델로, 다국어를 지원하게 되었고 문장 부호와 대문자도 넣어 주기 때문에 정리 단계 없이 받아쓴 내용을 바로 다른 모델로 넘길 수 있습니다. IBM의 모델 카드에 따르면 다국어 버전은 영어 평균 단어 오류율도 5.78%에서 5.51%로 조금 낮췄습니다. 두 번째 변경은 개정된 결정 어댑터로, IBM은 Jev Decision Index 테스트 세트에서 점수가 올랐다고 밝힙니다. 30B 기본 모델은 다시 학습하지 않았습니다.
이는 안정적인 핵심 모델 주위에 작고 전문화된 모델을 두는 더 넓은 흐름과 맞닿아 있으며, 저희의 Granite 4.2 제품군 리뷰가 IBM의 주요 고객으로 꼽은 신중한 기업 구매자에게 잘 맞습니다. 받아쓰기 도구를 비교하는 독자라면 이 TurboCTC 모 델이 저희가 따로 리뷰하는 Granite Speech 5.0의 더 작고 빠른 형제 모델이라는 점을 기억해 두십시오. IBM은 다른 개발자들이 자신만의 어댑터를 만들고 버전을 관리할 수 있도록 Adapter SDK와 튜토리얼을 준비하고 있다고 말합니다.
빈틈도 있습니다. IBM은 개정된 결정 어댑터의 수치를 공개하지 않았으므로, 그 개선은 아직 누구도 확인할 수 없는 주장일 뿐입니다. 지원 언어 수도 엇갈립니다. 발표 글은 10개 언어라고 하지만, 모델 카드에는 영어, 프랑스어, 독일어, 스페인어, 포르투갈어, 이탈리아어, 일본어의 7개 언어만 나와 있습니다. 특정 언어에 의존하는 팀은 업데이트 전에 직접 시험해 봐야 합니다. 그리고 어댑터를 부작용 없이 바꿔 끼울 수 있다는 약속은 외부 개발자들이 자신의 어댑터를 내놓기 시작해야 비로소 입증될 것입니다.