벤치마크 오염
벤치마크 오염(benchmark contamination)은 모델이 학습 중에 벤치마크의 시험 문제나 답을 본 경우를 말합니다. 그러면 그 벤치마크 점수가 같은 종류의 새로운 문제를 다루는 실력을 부풀려 보여 줍니다.
다른 이름: data contamination, test-set leakage
작성 Divya Sharma · 2026년 11월 15일 확인 · 리뷰 방식
대형 모델은 웹을 대규모로 수집한 데이터로 학습하고, 벤치마크는 웹에 있습니다. 논문, GitHub 저장소, 포럼 글, 블로그 해설에 실려 있습니다. 시험 문항은 누구도 의도하지 않았는데 학습 데이터에 들어갈 수 있습니다. 그러면 답을 외운 모델이 벤치마크가 측정하려는 능력 없이도 좋은 점수를 낼 수 있습니다.
왜 중요한가
Sainz 등은 최악의 경우를 벤치마크의 시험 분할로 학습한 모델을 같은 벤치마크로 평가하는 것이라고 설명합니다. 이들은 측정하기 어렵기 때문에 문제의 규모가 알려져 있지 않으며, 오염은 성능을 과대평가하게 하고 연구에서는 잘못된 결론으로 이어진다고 주장합니다. 개발자에게 이는 화제가 된 AI 벤치마크 점수가 자신의 작업으로 그대로 이어지지 않을 수 있다는 뜻입니다.
징후와 점검
경고 신호로는 모델이 일부만 준 프롬프트에서 시험 문제를 글자 그대로 재현하는 경우, 비슷한 난이도의 새 벤치마크보다 오래된 벤치마크에서 점수가 훨씬 높은 경우, 질문을 살짝 바꿔 쓰면 점수가 급락하는 경우가 있습니다. 연구소와 연구자들은 학습 데이터에서 겹치는 텍스트를 찾고, 모델의 지식 컷오프 이전과 이후에 공개된 문항의 결과를 비교하고, 비공개 보류 시험 세트를 유지합니다.
벤치마크의 대응
새로운 벤치마크는 시험 세트의 일부를 숨기거나, 시간 이 지나면서 문제를 바꾸거나, 시험 대상 모델보다 나중에 만들어진 자료에서 과제를 가져옵니다. 사람의 선호를 기반으로 한 리더보드는 사용자에게서 받은 새 프롬프트를 쓰므로 고정된 시험 세트 문제는 피하지만 다른 편향이 생깁니다.
실용적인 방어책은 언제나 같습니다. 모델이 볼 수 없었던 데이터로 직접 LLM 평가를 실행하십시오.
관련 용어
- AI 벤치마크
- AI 벤치마크(AI benchmark)는 합의된 채점 방법을 갖춘 고정된 공개 과제 모음으로, 같은 시험으로 모델을 비교하는 데 씁니다. 해결한 코딩 이슈, 맞힌 시험 문제, 여러 데이터셋에 걸친 검색 품질 등을 잽니다.
- AI 학습 데이터
- AI 학습 데이터(AI training data)는 웹 텍스트, 코드, 이미지, 녹취록, 레이블이 붙은 쌍처럼 모델이 학습하는 예시의 모음입니다. 그 규모, 품질, 구성, 라이선스가 모델이 할 수 있는 일과 실패하는 지점을 결정합니다.
- 지식 컷오프
- 지식 컷오프(knowledge cutoff)는 그 이후로 모델이 정보를 거의 또는 전혀 갖지 않는 날짜입니다. 학습 데이터가 대략 그 무렵까지 수집되었기 때문입니다. 그 이후의 사건은 프롬프트에 주지 않는 한 모델이 알지 못합니다.
- 리더보드(AI)
- AI 리더보드(leaderboard)는 하나 이상의 벤치마크 점수나 사람의 선호 투표로 모델의 순위를 매긴 공개 표로, 새 모델이 시험될 때마다 갱신되어 독자가 모델을 나란히 비교할 수 있게 합니다.
- LLM 평가
- LLM 평가(LLM evaluation)는 흔히 evals라고 부르며, 모델이나 AI 애플리케이션을 테스트 사례 모음에 실행하고 정해진 기준에 따라 코드, 사람, 다른 모델로 출력을 채점해 작업 수행 능력을 측정하는 것입니다.