본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

통합 메모리(Unified memory)

통합 메모리(unified memory)는 CPU와 GPU가 각자 메모리를 갖는 대신 하나의 메모리 풀을 공유하는 설계입니다. Apple Silicon Mac과 비슷한 칩에서는 로컬 AI 모델이 시스템 RAM 대부분을 GPU 메모리로 쓸 수 있게 해 줍니다.

다른 이름: Apple Silicon memory, unified memory architecture, UMA

작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식

일반적인 PC에서 GPU는 CPU가 쓰는 시스템 RAM과 별개인 자체 VRAM을 갖습니다. 모델이 빠르게 돌아가려면 VRAM에 들어가야 하는데, 소비자용 그래픽 카드의 VRAM은 컴퓨터의 RAM보다 훨씬 적습니다. 통합 메모리는 이 분리를 없앱니다. 칩 위의 CPU, GPU, 기타 프로세서가 풀 사이의 복사 없이 같은 메모리를 읽습니다.

로컬 AI에 중요한 이유

Apple은 2020년 M1 칩으로 Mac에 통합 메모리를 도입했습니다. 통합 메모리가 넉넉한 Mac은 원래라면 GPU 여러 장이 필요한 모델을 불러올 수 있어, 대형 로컬 LLM을 실행하는 인기 있는 선택지가 되었습니다. Apple의 MLX 프레임워크는 이 설계를 위해 작성되었으며, llama.cpp, Ollama, LM Studio 모두 여기서 돌아갑니다.

한계

용량이 속도는 아닙니다. 통합 메모리는 보통 고급 외장 GPU의 VRAM보다 대역폭이 낮고, 대형 모델의 생성 속도는 주로 대역폭에 묶여 있으므로, 모델이 들어가더라도 초당 토큰 수가 낮을 수 있습니다. GPU 코어도 데이터 센터 카드보다 느려서 긴 프롬프트에서 차이가 드러납니다. 운영체제가 메모리 일부를 자신을 위해 남겨 두므로 전부를 모델이 쓸 수는 없습니다. 메모리는 구매 시점에 고정되며 업그레이드할 수 없습니다.

CPU 오프로딩과의 비교

CPU 오프로딩은 메모리가 분리된 장비에서 쓰는 우회책입니다. VRAM에 들어가지 않는 레이어를 RAM에 두고 더 느리게 실행합니다. 통합 메모리는 설계상 그런 분리를 피합니다.

관련 용어

VRAM
VRAM은 그래픽 카드의 메모리입니다. AI 작업에서는 모델 가중치, KV cache, 작업 데이터를 담으며, 모델이 VRAM에 들어가느냐가 보통 실행에 필요한 GPU를 결정합니다.
로컬 LLM(Local LLM)
로컬 LLM(Local LLM)은 제공업체의 클라우드 API가 아니라 자신의 컴퓨터, 휴대폰, 서버에서 실행하는 언어 모델입니다. 프롬프트와 데이터가 자신의 하드웨어에 남고, 인터넷 연결 없이도 작동합니다.
CPU 오프로딩
CPU 오프로딩(CPU offloading)은 GPU 메모리에 다 들어가지 않는 모델의 일부 층을 시스템 RAM이나 디스크에 두고 나머지에 GPU를 써서 모델을 실행하는 방법입니다. 모델은 돌아가지만 더 느립니다.
GPU
GPU(graphics processing unit)는 많은 계산을 병렬로 실행하도록 만든, 작은 코어가 많은 프로세서입니다. 행렬 연산 속도 덕분에 AI 모델을 학습하고 실행하는 표준 하드웨어가 되었습니다.
초당 토큰 수(Tokens per second)
초당 토큰 수(tokens per second, tok/s)는 언어 모델이 출력을 얼마나 빨리 만드는지 측정합니다. 응답 하나가 스트리밍되는 속도인 사용자별 기준, 또는 모든 동시 요청의 출력 합계인 시스템 기준으로 표시합니다.

출처