본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

모델 가중치(Model weights)

모델 가중치(model weights)는 신경망 안에서 학습 중에 정해지는 숫자로, 입력을 출력으로 바꾸는 방식을 결정합니다. 체크포인트는 이 가중치를 담은 저장 파일 또는 파일 묶음입니다.

다른 이름: weights, checkpoint, parameters file

작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식

신경망은 레이어로 이루어진 고정된 구조이며, 가중치는 그 레이어 안의 값입니다. 학습은 모델의 출력이 좋아질 때까지 이 값을 조정합니다. 연구소가 "가중치를 공개했다"고 하면, 그 숫자를 내려받아 모델을 직접 실행할 수 있다는 뜻입니다. 가중치의 개수가 모델의 파라미터 수입니다.

체크포인트에 담기는 것

PyTorch에서 가중치는 각 레이어를 해당 텐서에 대응시키는 딕셔너리인 state_dict에 들어 있습니다. 체크포인트는 이를 저장하며, 학습을 재개할 수 있도록 옵티마이저 상태를 함께 저장하기도 합니다. Hugging Face의 모델 파일은 보통 여러 샤드로 나뉘어 있고, 아키텍처를 설명하는 설정 파일과 토크나이저가 함께 제공됩니다. 맞는 아키텍처 코드와 토크나이저가 없으면 가중치만으로는 실행되지 않습니다.

형식

흔한 형식으로는 PyTorch의 pickle 기반 파일, Safetensors, llama.cpp 같은 로컬 실행기용 GGUF, 그리고 ONNX가 있습니다. 형식은 안전성, 로딩 속도, 읽을 수 있는 도구에 영향을 줍니다.

크기와 정밀도

파일 크기는 대략 파라미터 수 곱하기 가중치당 바이트입니다. 가중치를 더 낮은 정밀도로 저장하거나 양자화를 적용하면 파일과 실행에 필요한 메모리가 줄어들며, 품질은 다소 떨어집니다.

가중치와 오픈소스

가중치가 있다고 모든 것이 있는 것은 아닙니다. 오픈 웨이트 모델은 학습 데이터나 코드 없이, 제한이 있는 라이선스로 제공될 수 있습니다. Open Source Initiative의 정의는 파라미터를 공유해야 할 여러 요소 중 하나로만 봅니다.

관련 용어

오픈 웨이트 모델(Open-weight model)
오픈 웨이트 모델(open-weight model)은 학습된 가중치가 공개되어 누구나 내려받아 실행할 수 있는 모델입니다. 학습 코드나 전체 학습 데이터가 빠진 경우가 많아 반드시 오픈소스인 것은 아닙니다.
Safetensors
Safetensors는 Hugging Face가 만든 모델 가중치 저장용 파일 형식입니다. Python pickle 파일과 달리 불러올 때 숨겨진 코드가 실행될 수 없으며, 개별 텐서를 메모리 매핑으로 빠르게 불러올 수 있습니다.
모델 파라미터(Model parameters)
모델 파라미터(model parameters)는 신경망이 학습 중에 익히는 숫자로, 대부분 가중치입니다. 70억을 7B로 쓰는 파라미터 수는 모델 크기를 나타내는 일반적인 약칭입니다.
GGUF
GGUF는 모델의 가중치, 토크나이저, 메타데이터를 파일 하나에 저장하는 바이너리 파일 형식으로, llama.cpp 같은 GGML 기반 도구에서 빠르게 불러와 로컬 추론을 하도록 만들어졌으며 흔히 양자화된 형태로 쓰입니다.
수치 정밀도(FP16, BF16, FP8)
수치 정밀도(numeric precision)는 모델의 가중치를 저장하고 연산을 수행하는 데 쓰는 숫자 형식으로, FP32, FP16, BF16, FP8, INT4 등이 있습니다. 숫자당 비트가 적을수록 메모리가 줄고 추론이 빨라지지만, 정확도가 떨어질 위험이 있습니다.
모델 라이선스(Model license)
모델 라이선스(model license)는 모델의 가중치, 그리고 경우에 따라 코드와 데이터를 사용, 변경, 공유할 수 있는 법적 조건입니다. 허용적인 오픈 라이선스부터 비상업용 또는 자체 제한 라이선스까지 다양합니다.

출처