2026년 추천 LLMOps 및 AI 평가 플랫폼

저희가 리뷰한 LLMOps 및 AI 평가 플랫폼 6개 중 현재 추천은 Braintrust, LangSmith 및 Arize AX입니다. 각 제품을 저희 평점순으로 정렬하고 가격, 평가 요약, 추천 대상을 적었습니다.

작성: Andrew Miller · 2026년 11월 2일 업데이트 · 리뷰 방법

순위 산정 방법: 각 제품의 가격, 문서, 정책, 그리고 독립 벤치마크가 있으면 그것까지 바탕으로 한 리뷰의 5점 만점 평점순으로 정렬합니다. 모든 정보는 리뷰에 적힌 날짜에 확인했습니다. 제휴 수수료는 받지 않습니다.

1. 1
   

   Braintrust

   Braintrust는 마지막 변경이 제품을 더 좋게 만들었는지가 가장 어려운 질문인 팀을 위한 도구입니다. 사람이 아니라 데이터로 과금하므로 큰 팀에는 맞고, 로그를 많이 남기는 에이전트에는 아픕니다.

   추천 대상: 호스팅 추적과 함께 평가 중심 개발을 원하고 관리형 서비스에 기꺼이 돈을 내는 제품팀.

   가격: Starter 무료(데이터 1 GB, 점수 10k, 모델 크레딧 $10, 14일 보관, 사용자 무제한. 이후 GB당 $4, 점수 1,000개당 $2.50). Pro 월 $249(5 GB, 점수 50k, 모델 크레딧 $100, 30일 보관. 이후 GB당 $3, 점수 1,000개당 $1.50). Enterprise 맞춤, SAML, BAA, 자체 호스팅 데이터 플레인 포함. 자격을 갖춘 스타트업은 6~12개월 동안 Pro 무료.

   Braintrust 리뷰 읽기
   4.3/5
2. 2
   

   LangSmith

   LangSmith는 LangGraph 에이전트를 위한 가장 깊고 성숙한 추적과 평가를 갖췄으며, 예산이 큰 소규모 팀에 유리한 가격으로 좌석 단위로 팝니다.

   추천 대상: LangChain이나 LangGraph로 운영 에이전트를 만들며 호스팅 추적, 평가, 배포를 한 업체에서 원하는 팀.

   가격: Developer 무료(좌석 1개, 월 기본 트레이스 5,000개). Plus 좌석당 월 $39(기본 트레이스 10,000개, 이후 종량제, 소형 서버리스 배포 1개). Enterprise 맞춤 견적, 하이브리드나 자체 호스팅 옵션. 기본 트레이스 14일, 확장 트레이스 180일 보관.

   LangSmith 리뷰 읽기
   4.2/5
3. 3
   

   Arize AX

   Arize AX는 개방형 계측 위에서 본격적인 에이전트 추적과 평가를 제공합니다. 다만 저렴한 요금제는 금방 바닥나고, 로드맵은 이제 Dynatrace의 손에 있습니다.

   추천 대상: 운영 중인 에이전트에 개방적이고 이식 가능한 계측 기반의 호스팅 추적과 평가를 원하며, Enterprise 계약을 협상할 수 있는 엔지니어링 팀.

   가격: AX Free $0(월 25,000 스팬, 1 GB, 15일 보관). AX Pro 월 $50(50,000 스팬, 10 GB, 30일 보관). Enterprise는 맞춤형으로 SSO, HIPAA, 자체 호스팅 포함. 모든 요금제에서 사용자 수 무제한.

   Arize AX 리뷰 읽기
   4.1/5
4. 4
   

   Datadog LLM Observability

   회사가 이미 Datadog에서 살고 있다면 에이전트를 지켜보기에 합리적인 곳입니다. 모델 호출당 과금도 처음 보기보다 공정합니다.

   추천 대상: 이미 Datadog을 운영하며 에이전트 트레이스를 서비스 및 인프라 모니터링 옆에 두고 싶은 엔지니어링 팀.

   가격: Free는 월 40K LLM 스팬까지, 15일 보관. Pro는 100K LLM 스팬에 연간 월 $160, 월간 $200, 온디맨드 $240부터. 이후 10K LLM 스팬당 $3.50(연간), $4.20(월간), $5(온디맨드). 보관 애드온은 30, 60, 90일에 대해 월 10K 스팬당 $6.50, $8, $9로 표시. LLM 스팬만 청구.

   Datadog LLM Observability 리뷰 읽기
   4.0/5
5. 5
   

   Lakera Guard (Check Point AI Guardrails)

   Lakera Guard는 API 호출 하나로 더할 수 있는 문서화가 잘된 프롬프트 인젝션 필터이지만, 월 10,000건을 넘으면 Check Point 기업 영업팀과 협상하게 됩니다.

   추천 대상: 자체 분류기를 운영하지 않고 챗봇과 에이전트 앞에 프롬프트 인젝션과 데이터 유출용 관리형 검사를 두고 싶은 팀.

   가격: Community 무료: 월 10,000건 요청, 8k 토큰 프롬프트, SaaS만. Enterprise 견적제: 유연한 사용량, SaaS 또는 자체 호스팅, SSO, RBAC, SIEM 연동. 무료 등급 외에는 공개 가격이 없습니다.

   Lakera Guard (Check Point AI Guardrails) 리뷰 읽기
   4.0/5
6. 6
   

   Splunk Agent Observability

   Galileo의 작은 판정 모델 덕분에 모든 에이전트 대화를 싸게 채점할 수 있지만, Splunk 아래에서는 영업 상담이 앞에 놓인 기업용 구매가 되었습니다.

   추천 대상: 모든 에이전트 대화를 채점하고 런타임에 위험한 행동을 막고 싶은, 이미 Splunk Observability를 쓰는 대규모 조직.

   가격: Agent Observability는 연간 결제로 연 1.2M span당 월 $100부터이며, 연 Luna 토큰 500M개와 Luna 파인튜닝 5회가 포함됩니다. 추가 Luna 토큰과 더 긴 보관은 견적제입니다. Splunk Observability Cloud Free Edition(최대 15호스트, 만료 없음)에 에이전트 추적이 포함됩니다. Galileo의 예전 Free(월 5,000트레이스)와 Pro(연간 결제 월 $100, 50,000트레이스) 요금제는 더 이상 공개되지 않습니다.

   Splunk Agent Observability 리뷰 읽기
   3.7/5