본문으로 건너뛰기
ReviewRamble

주간 브리프

AI 리뷰를 받은편지함으로.

  • 도구, 모델, MCP 서버, 저장소의 새 리뷰(결론부터)
  • 변경이 있을 때 다시 확인한 가격과 평점
  • 새로 발행된 분석 글

모델, 에이전트, MCP 서버, 그리고 정말 시간을 들일 만한 도구.

일주일에 한 통입니다. 각 브리프의 링크로 구독을 해지할 수 있습니다. 이메일 사용 방식

대규모 언어 모델

대규모 언어 모델(LLM, large language model)은 수십억 개의 매개변수를 가진 신경망으로, 대량의 텍스트로 다음 토큰을 예측하도록 학습되어 글쓰기, 질문 답변, 요약, 지시 따르기를 할 수 있습니다.

다른 이름: LLM, LLMs

작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식

LLM은 채팅 어시스턴트, 코딩 에이전트, AI 제품 대부분의 텍스트 기능을 움직이는 엔진입니다. 텍스트를 보내면 토큰을 하나씩 내며 텍스트를 돌려줍니다.

작동 방식

현재의 LLM은 거의 모두 트랜스포머 구조를 씁니다. 사전 학습 동안 매우 큰 텍스트 말뭉치를 읽고, 앞선 모든 것으로부터 다음 토큰을 예측하는 법을 배웁니다. 이 단순한 목표가 번역하고, 질문에 답하고, 코드를 쓸 수 있는 모델을 만듭니다. 미세 조정과 RLHF 같은 추가 학습이 원래의 모델을 지시를 따르는 어시스턴트로 바꿉니다.

"대규모"의 뜻

정해진 기준은 없습니다. 2020년에 발표된 GPT-3는 1750억(175 billion) 개의 매개변수를 가졌고, 이 이름은 그 규모 이상의 모델에 붙게 되었습니다. 매개변수가 수십억 개 정도인 모델은 보통 소형 언어 모델이라고 부릅니다.

한계

LLM은 지식 컷오프까지의 학습 데이터에 있던 것만 알고, 거짓을 유창하게 말할 수 있습니다. 또 컨텍스트 윈도에 들어가는 것만 봅니다. 개발자들은 보통 원래 출력을 그대로 믿기보다 모델 주변에 검색, 도구, 점검을 더합니다. 현재 모델들은 모델 디렉터리에서 비교하십시오.

관련 용어

토큰(LLM)
토큰(LLM token)은 언어 모델이 읽고 쓰는 텍스트의 기본 단위로, 보통 단어, 단어의 일부, 문장 부호, 바이트 하나입니다. 가격, 속도, 컨텍스트 한도는 모두 토큰 단위로 계산합니다.
트랜스포머(아키텍처)
트랜스포머(transformer)는 2017년에 소개된 신경망 아키텍처로, 순환 대신 어텐션으로 시퀀스를 처리합니다. 현재 거의 모든 대규모 언어 모델과 많은 이미지 및 오디오 모델의 바탕입니다.
소형 언어 모델(Small language model)
소형 언어 모델(small language model, SLM)은 파라미터가 비교적 적은, 보통 수십억 개 이하인 언어 모델로, 대형 모델보다 낮은 비용으로 노트북, 휴대폰, GPU 한 장에서 실행하도록 만들어집니다.
사전 학습(Pretraining)
사전 학습(pretraining)은 모델 학습의 첫 단계이자 가장 큰 단계로, 작업별 튜닝에 앞서 레이블이 없는 매우 큰 데이터셋에서 보통 다음 토큰을 예측하는 방식으로 일반적인 패턴을 익힙니다.
컨텍스트 윈도
컨텍스트 윈도(context window)는 언어 모델이 한 번에 고려할 수 있는 텍스트의 최대량으로, 토큰 단위로 셉니다. 시스템 프롬프트, 대화, 문서, 도구 결과, 모델이 쓰는 응답이 모두 포함됩니다.
환각(AI)
환각(hallucination)은 AI 모델의 출력이 유창하고 자신감 있게 들리지만 거짓이거나, 출처의 뒷받침이 없거나, 지어낸 것인 경우를 말합니다. 꾸며 낸 인용, 발언, 통계, API 함수 등이 그 예입니다.

출처