본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

AI 뉴스와 연구

뉴스 ·

Reflection, 501B 규모의 오픈 웨이트 코딩 모델 Beam 공개

미국 연구소 Reflection의 첫 모델 Beam은 매개변수 501B, 토큰당 23B가 활성화되는 Mixture-of-Experts 모델로, 컨텍스트 창은 1M 토큰이고 라이선스는 Apache 2.0입니다. 코딩과 에이전트 작업을 겨냥했으며 BF16, FP8, NVFP4로 제공되고 Rust 기반 실행 환경이 함께 나오며, Transformers, vLLM, SGLang이 첫날부터 지원합니다.

미국의 새 AI 연구소 Reflection이 첫 모델을 내놓았습니다. 크기도 크고 조건도 너그럽습니다. Beam은 매개변수 501B 가운데 토큰마다 23B가 활성화되는 전문가 혼합 모델로, 1M 토큰의 컨텍스트 창을 갖추고 상업적 사용과 수정을 허용하는 Apache 2.0 라이선스로 공개됐습니다. 코딩과 에이전트 작업용으로 만들었으며, 다른 회사의 API 뒤가 아니라 자기 하드웨어에서 최전선급 모델을 돌리고 싶은 팀을 겨냥합니다.

Hugging Face의 설명은 설계를 이례적으로 자세히 보여 줍니다. 모델은 52개 층으로, 대부분은 직전 512토큰만 보는 슬라이딩 윈도 어텐션을 쓰고 9개 층이 전체 맥락을 봅니다. 덕분에 긴 맥락에 필요한 메모리가 단순한 설계의 약 6분의 1로 줄어듭니다. 49개 층마다 전문가 256개가 있고 토큰마다 그중 8개가 돌아가며, DeepSeek-V3를 본뜬 라우터가 이를 고릅니다. 추론은 대화 차례를 넘어 유지될 수 있고, 추론 강도는 low부터 max까지 다섯 단계이며, 도구 호출은 전용 문법을 씁니다. Beam은 첫날부터 Transformers, vLLM, SGLang에서 지원되고, Reflection이 Rust로 쓴 자체 오픈 소스 실행 환경이 함께 제공되며, 미세 조정과 강화 학습 방법도 담겨 있습니다.

현실적인 장벽은 하드웨어입니다. BF16 체크포인트는 약 1 TB입니다. NVFP4 버전은 이를 약 280 GB로 줄이며, Hugging Face는 Nvidia B200 GPU 두 장에 여유가 거의 없이 들어간다며 네 장을 계획하라고 권합니다. NVFP4는 Blackwell 칩에서만 그대로 돌아가므로 더 오래된 H200 환경은 FP8 체크포인트가 필요하고, vLLM 예시는 H200 GPU 16장에서 전체 모델을 서빙합니다. 대부분의 팀에게는 용량을 빌리거나 Hugging Face가 제공하는 호스팅 공급자를 쓴다는 뜻입니다.

진짜 소식은 이 규모에서 제약이 적은 라이선스가 붙었다는 점입니다. 대형 오픈 웨이트 모델 상당수는 상업적 사용이나 사용자 수에 제한을 두지만, Apache 2.0은 개인 정보나 통제 때문에 직접 호스팅해야 하는 기업의 고민을 없애 줍니다. 같은 주에 나온 Meta의 Muse Spark Open과 함께, 미국 연구소들이 오픈 웨이트 최상위권에서 다시 경쟁하고 있다는 증거입니다. 저희는 Beam을 이 모델이 지원하는 서빙 도구 vLLM, SGLang과 함께 리뷰합니다.

빠진 것은 최전선 모델만큼 코딩을 잘한다는 독립적인 증거입니다. 글의 벤치마크 결과는 Reflection이 제공한 것이고, 새 연구소의 첫 모델이라 실적도 없습니다. Reflection은 Beam으로 만든 최고의 프로젝트에 10,000달러 상당의 Hub 크레디트를 주겠다고 해, 초기 커뮤니티 시험이 이어질 것입니다. 독립적인 코딩 벤치마크가 나오기 전까지 Beam은 자체 호스팅을 위한 유망한 선택지이지, 주요 폐쇄형 모델의 대안으로 확인된 것은 아닙니다.

결론: 이 규모에서 허용적인 라이선스는 직접 호스팅해야 하는 팀에게 좋은 소식이지만, 하드웨어를 감당할 수 있는 곳은 많지 않습니다. 최첨단 대안으로 보기 전에 코딩 성능 주장은 독립 벤치마크로 확인해야 합니다.

관련 리뷰:BeamvLLMSGLang

출처: Hugging Face

다른 기사