Mistral의 대표 모델을 이제 기업이 내려받아 자체 하드웨어에서 돌릴 수 있습니다. Hugging Face의 Mistral Large 4 출 시 글은 이것이 실제로 무엇을 뜻하는지 설명합니다. 파라미터는 약 1조 개이며 그중 토큰마다 약 49B가 활성화되고, 컨텍스트 창은 1M 토큰이며, 이미지 입력을 받고, Transformers, vLLM, llama.cpp에서 첫날부터 지원됩니다. 특히 보안 팀에는 동작을 완전히 직접 통제할 수 있는 몇 안 되는 강력한 모델 중 하나입니다.
설계는 두 가지 희소성을 결합합니다. 라우터가 토큰마다 128개 전문가 중 4개를 고르고, 항상 실행되는 공유 전문가 하나가 더해집니다. 또 어텐션 인덱서가 전체 컨텍스트를 읽는 대신 쿼리마다 최대 2,048개의 이전 위치를 골라냅니다. 이미지는 1.6B 규모의 Pixtral 인코더가 처리합니다. 10월 29일 기준으로 Artificial Analysis Intelligence Index에서 오픈 웨이트 모델 중 5위였습니다. 공개된 코딩 점수로는 DeepSWE v1.1에서 61.7%, Terminal-Bench 4에서 28.3%가 있습니다.
가장 두드러진 분야는 사이버 보안입니다. 이 모델은 보안 대회에서 가져온 Cybench 과제 40개 중 93%를 풀었고, 오픈소스 소프트웨어의 실제 취약점을 재현한 뒤 패치하는 시험에서 82%를 기록했습니다. Mistral은 여러 폐쇄형 최첨단 모델이 시도 자체를 거부하는 탓에 이 시험에서 거의 0점을 받는다고 말합니다. 여기서 오픈 웨이트의 장점은 실용적입니다. 방어하는 쪽은 공급업체의 필터가 사고 대응을 막거나, 사고 한가운데서 API가 끊기는 상황을 감당할 수 없습니다. 출시 글은 또 이 모델이 유해한 사이버 요청을 다른 어떤 오픈 웨이트 모델보다 평균적으로 더 자주 거부한다고 밝힙니다.
실행하는 일은 여전히 만만치 않습니다. 2비트로 양자화한 버전은 512 GB 메모리를 갖춘 Apple M3 Ultra 한 대에 들어가며, Hugging Face는 여기서 초당 약 15토큰의 출력을 측정했습니다. Hugging Face가 미리 준비한 호스팅 구성은 Nvidia H200 GPU 8개를 씁니다. 저희의 Mistral Large 4 리뷰는 독립적인 시험에서 이 모델이 여전히 대형 오픈 모델 가운데 중간 수준이라고 지적하며, 이제 API 가격이 Mistral Medium 3.5보다 싸져서 작은 모델을 고를 이유가 줄었습니다.
이 모델을 바탕으로 무언가를 만들기 전에 주의할 점이 두 가지 있습니다. 라이선스는 서비스형 모델 사용을 제한하는 수정된 MIT 라이선스이므로, 호스팅 접근을 판매하려는 기업은 별도 계약이 필요합니다. 그리고 추론 기능은 끌 수 없습니다. 추론 강도는 low부터 high까지이며 none을 요청하면 기본값인 high로 돌아가므로, 단순한 작업에도 지연과 비용이 늘어납니다. 글에 나온 벤치마크 수치는 대부분 Mistral이 제공한 것이고, Hugging Face가 측정한 긴 컨텍스트 속도는 크게 떨어져 워크스테이션 GPU 4개에서 매우 긴 컨텍스트일 때 초당 약 3토큰이었습니다.