수치 정밀도(FP16, BF16, FP8)
수치 정밀도(numeric precision)는 모델의 가중치를 저장하고 연산을 수행하는 데 쓰는 숫자 형식으로, FP32, FP16, BF16, FP8, INT4 등이 있습니다. 숫자당 비트가 적을수록 메모리가 줄고 추론이 빨라지지만, 정확도가 떨어질 위험이 있습니다.
다른 이름: FP8, BF16, FP16, FP4, INT8, INT4, FP32, bfloat16
작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식
모델의 모든 가중치는 숫자이며, 그 숫자의 형식이 모델이 차지하는 메모리를 정합니다. 16비트 형식은 가중치당 2바이트, 8비트 형식은 1바이트, 4비트 형식은 0.5바이트를 씁니다. 그래서 모델이 VRAM에 들어가는지 따질 때 가장 먼저 확인할 것이 정밀도입니다. GPU 계산기가 이 계산을 대신 해 줍니다.
흔한 형식
FP32는 완전한 단정밀도로, 주로 학습에 쓰입니다. FP16은 크기를 절반으로 줄이지만 표현 범위가 좁아 아주 크거나 작은 값은 오버플로가 날 수 있습니다. BF16(bfloat16, Google에서 설계)은 FP32와 같은 지수 비트 8개를 유지하고 대신 가수 비트를 줄이므로, FP32의 범위를 가지면서 세밀함은 덜합니다. 그래서 현대 모델의 학습과 서빙에서 일반적인 기본값입니다.
FP8은 1바이트까지 내려갑니다. FP8 표준은 두 가지 변형을 정의합니다. 정밀도가 더 높은 E4M3와 범위가 더 넓은 E5M2입니다. 최근 데이터 센터 GPU는 FP8을 기본 지원합니다. 최신 하드웨어에서는 FP4 형식이 더 나아갑니다.
INT8과 INT4는 정수 형식입니다. 가중치를 소수의 정수 집합과 스케일 계수로 대응시킵니다. 실무에서 양자화라고 하면 대개 이것을 뜻하며, GGUF 같은 파일이 로컬 사용을 위해 저장하는 것도 이것입니다.
장단점
정밀도를 낮추면 메모리를 아끼고 초당 토큰 수가 늘어나는 경우가 많지만, 한 단계 내려갈 때마다 정보가 조금씩 사라집니다. 영향은 모델과 방법에 따라 다릅니다. 8비트는 대개 원본에 가깝지만, 4비트 이하는 추론이나 긴 컨텍스트 작업을 해칠 수 있습니다. 하드웨어 지원도 중요합니다. GPU가 기본으로 연산하지 못하는 형식은 실행 중에 변환될 수 있어 속도 이득이 거의 없을 수 있습니다.
관련 용어
- 양자화(Quantization)
- 양자화(quantization)는 모델의 가중치, 그리고 경우에 따라 활성값을 16비트 대신 8비트나 4비트처럼 더 적은 비트로 저장하는 기법입니다. 모델에 필요한 메모리가 줄고 더 빨리 실행되는 경우가 많지만, 정확도가 다소 떨어집니다.
- VRAM
- VRAM은 그래픽 카드의 메모리입니다. AI 작업에서는 모델 가중치, KV cache, 작업 데이터를 담으며, 모델이 VRAM에 들어가느냐가 보통 실행에 필요한 GPU를 결정합니다.
- GGUF
- GGUF는 모델의 가중치, 토크나이저, 메타데이터를 파일 하나에 저장하는 바이너리 파일 형식으로, llama.cpp 같은 GGML 기반 도구에서 빠르게 불러와 로컬 추론을 하도록 만들어졌으며 흔히 양자화된 형태로 쓰입니다.
- 모델 가중치(Model weights)
- 모델 가중치(model weights)는 신경망 안에서 학습 중에 정해지는 숫자로, 입력을 출력으로 바꾸는 방식을 결정합니다. 체크포인트는 이 가중치를 담은 저장 파일 또는 파일 묶음입니다.
- GPU
- GPU(graphics processing unit)는 많은 계산을 병렬로 실행하도록 만든, 작은 코어가 많은 프로세서입니다. 행렬 연산 속도 덕분에 AI 모델을 학습하고 실행하는 표준 하드웨어가 되었습니다.