MIT 라이선스의 무료 오픈소스이며, 별도 상용 라이선스를 따르는 enterprise/ 폴더는 예외입니다. Enterprise는 별도 견적이며 30일 무료 체험 키를 제공합니다.
MIT의 무료 오픈소스입니다. 호스팅 요금제: Developer 무료(월 10,000개 기록 로그, 로그 보존 3일), Production 월 $49(100,000개 로그, 이후 100,000개당 $9), Enterprise 별도 견적.
추천 대상
자체 인프라에서 많은 개발자에게 여러 모델 제공업체에 대한 통제된 접근을 제공해야 하는 플랫폼팀.
가벼운 라우팅 계층을 원하는 엣지 런타임 팀, 또는 이미 Palo Alto 보안 제품을 사는 기업.
언어와 런타임
Python 프록시와 SDK, Docker, Helm, Terraform
Node, Bun, Docker 또는 Cloudflare Workers에서 TypeScript
지원 범위 주장
100개 이상의 제공업체
README 기준 1,600개 이상의 모델
예산과 지출 추적
무료 빌드에 가상 키, 예산, 속도 제한
오픈소스 게이트웨이가 아닌 호스팅 플랜에
라이선스
MIT, 단 enterprise/ 폴더는 상업용 라이선스
MIT, enterprise 폴더 없음
최신 릴리스
2026년 10월 25일 v1.106.4
2026년 1월 12일 v1.15.2
유료 옵션
요청 시 가격이 정해지는 Enterprise, 30일 체험 키
로그 100,000건에 월 $49인 호스팅 Production, Enterprise는 맞춤형
소유 회사
BerriAI
2026년 5월 29일부터 Palo Alto Networks
보안 이력
2026년 3월 오염된 PyPI 릴리스, 올해 권고 17건
2025년 12월 중간 심각도 SSRF 권고 1건
둘 다 여러 제공업체를 폴백과 재시도가 있는 하나의 OpenAI 스타일 API 뒤에 두는 MIT 라이선스 게이트웨이입니다. LiteLLM은 오픈소스 빌드에 가상 키, 예산, 지출 추적이 있는 Python 프록시입니다. Portkey는 Cloudflare Workers 같은 엣지 런타임에서 실행되는 작은 TypeScript 라우터지만, 로그, 예산, 분석은 호스팅 플랜에 두며, 저장소는 2026년 5월 이후 조용합니다.
한때 이 둘은 누구나 떠올리는 오픈소스 게이트웨이였고, 이제 둘 사이의 격차는 기능보다 유지 관리에 있습니다. LiteLLM은 2026년 10월 25일 v1.106.4를 릴리스했고 GitHub 스타가 약 62,000개입니다. 스타가 약 13,300개인 Portkey의 게이트웨이는 1월 12일 v1.15.2가 마지막 릴리스이며, 기본 브랜치는 Palo Alto Networks가 Portkey 인수를 마무리하기 나흘 전인 5월 25일 이후 바뀌지 않았습니다. 엔터프라이즈 게이트웨이를 오픈소스로 합치려던 Gateway 2.0 브랜치는 3월 이후 멈춰 있습니다.
두 제품은 오픈소스의 경계도 다른 곳에 긋습니다. LiteLLM의 무료 빌드는 가상 키를 발급하고, 키, 사용자, 팀별로 지출을 추적하고, 예산을 강제하는데, 이것이 플랫폼팀이 게이트웨이를 운영하는 주된 이유입니다. Portkey의 오픈소스 빌드는 하나의 JSON 설정으로 라우팅, 재시도, 폴백을 하고, 로그, 시맨틱 캐싱, 분석, 그리고 미리 만든 가드레일 대부분은 호스팅 제품에 있습니다. 호스팅 제품은 로그 100,000건에 월 $49, 추가 100,000건마다 $9로 시작 비용이 낮지만, 요청 로그가 이제 Prisma AIRS로 판매되는 업체에 보관된다는 뜻입니다.
Portkey에는 실질적인 기술적 장점이 하나 남아 있습니다. 작은 TypeScript 코어는 Python 프록시가 돌 수 없는 Cloudflare Workers에서 실행되며, README는 LiteLLM의 P95 8 ms에 비해 추가 지연 시간이 1 ms 미만이라고 주장합니다. 두 수치 모두 각 프로젝트 자체의 것입니다. 보안 이력도 더 가볍습니다. 2026년 LiteLLM의 권고 17건과 3월 PyPI 릴리스에 대한 공급망 공격에 비해 중간 심각도 SSRF 권고 1건입니다. 그 차이의 일부는 올해 각 프로젝트가 출시한 코드의 양을 반영합니다.
오늘 선택하는 팀에게 다음 달 모델을 지원할 쪽은 LiteLLM입니다. 9개월 동안 릴리스가 없는 Portkey 게이트웨이는 그 이후 추가된 제공업체에 패스스루가 필요할 수 있습니다. Palo Alto가 Gateway 2.0을 오픈소스로 출시하면 비교가 달라질 것이며, Portkey의 릴리스 페이지에서 지켜볼 만한 신호가 바로 그것입니다.
무엇을 선택해야 합니까?
리뷰를 바탕으로 정리한, 각각이 가장 잘하는 작업입니다.
LiteLLM에 맞는 사람
엔지니어 300명에게 OpenAI, Anthropic, Bedrock 접근 권한을 주는 플랫폼팀
팀별로 예산이 있는 키를 발급하고 팀별 지출 보고하기
Postgres와 Redis를 갖춘 Kubernetes에서 프록시를 실행하고, 각 팀에 예산이 걸린 가상 키를 주며, 재무팀에 키, 사용자, 팀별 지출을 제공합니다. 오픈소스 빌드에서는 무료이며, 관리 UI의 SSO에는 엔터프라이즈 라이선스가 필요합니다.
LLM 기반 제품의 가동 시간을 책임지는 SRE
한 배포의 성능이 떨어지면 Azure OpenAI에서 OpenAI로 장애 조치하기
두 배포를 하나의 모델 그룹에 넣고 라우터에서 폴백과 재시도를 설정합니다. 대가는 네트워크 한 단계 추가와 모든 제공업체 키를 쥔 구성 요소입니다. 따라서 -stable 이미지를 고정하고 cosign 서명을 검증합니다.
규제를 받는 핀테크의 엔지니어링 책임자
자체 호스팅 오픈소스 LiteLLM과 엔터프라이즈 라이선스 중에서 고르기
Enterprise는 별도 견적이며 30일 자체 호스팅 체험 키를 제공하고, SSO, SCIM, 감사 로그, Sev 0 대응 1시간 목표를 더합니다. 어느 쪽이든 패치에 쓸 시간을 확보해야 합니다. 2026년에 치명적 보안 권고가 4건 나왔습니다.
Portkey AI Gateway에 맞는 사람
Cloudflare Workers에서 앱을 돌리는 개발자
OpenAI와 Anthropic을 자동 대체 경로가 있는 엔드포인트 하나 뒤에 두기
게이트웨이를 Workers에 배포하고 설정에 대체 경로를 기술합니다. Workers 사용료 외에는 비용이 없습니다. 1월 이후 릴리스가 없으므로 아주 새로운 모델은 네이티브 제공자 대신 패스스루가 필요할 수 있습니다.
프로덕션 LLM 기능을 가진 엔지니어 다섯 명의 스타트업
관측 스택을 운영하지 않고 요청 로그와 비용 대시보드 얻기
월 $49의 호스팅 Production은 로그 보존 30일로 요청 100,000건을 기록합니다. 월 100만 건이면 청구액은 $49에 $9 추가 묶음 아홉 개를 더한 약 $130입니다.
이미 Prisma AIRS를 쓰는 기업의 보안팀
직원이 닿을 수 있는 모델과 에이전트를 중앙에서 관리하기
Enterprise나 Prisma AIRS 조건은 별도 견적입니다. Enterprise에는 SSO, SOC 2 Type 2, GDPR, 맞춤 BAA를 갖춘 HIPAA, VPC 배포가 표시됩니다.
LiteLLM, Portkey AI Gateway 가격 비교
LiteLLM
MIT 라이선스의 무료 오픈소스이며, 별도 상용 라이선스를 따르는 enterprise/ 폴더는 예외입니다. Enterprise는 별도 견적이며 30일 무료 체험 키를 제공합니다.
Portkey AI Gateway
Portkey AI Gateway 플랜
Open source
FreeMIT
Developer
Free월 10,000개 기록 로그, 로그 보존 3일
Production
$49/month100,000개 로그, 이후 100,000개당 $9
Enterprise
Custom
장단점
LiteLLM
좋은 점
OpenAI 형식으로 100개 이상의 제공업체 지원
무료 빌드에 가상 키, 예 산, 폴백 포함
12시간 부하 테스트를 거친 cosign 서명 -stable 이미지
AWS와 GCP용 Terraform 모듈
아쉬운 점
2026년 보안 권고 17건, 그중 치명적 4건
2026년 3월 오염된 PyPI 릴리스
문서상 오픈 코어 경계가 불분명함
Enterprise 가격 비공개
Portkey AI Gateway
좋은 점
엔터프라이즈 폴더 없는 MIT 라이선스
Cloudflare Workers에서 도는 작은 TypeScript 핵심
대체 경로, 재시도, 조건부 라우팅을 설정 하나로
월 $49부터의 호스팅 로그
아쉬운 점
2026년 1월 이후 릴리스 없음, 2.0 브랜치는 3월 이후 멈춤
로드맵을 이제 Palo Alto Networks가 정함
캐시, 분석, 대부분의 가드레일은 호스팅 전용
SSO와 규정 준수 인증은 Enterprise에만
도입 전 확인할 점
LiteLLM vs Portkey AI Gateway: 설정, 연동, 데이터, 비용, 제한
주제
LiteLLM
Portkey AI Gateway
설정
uv tool install 'litellm[proxy]' 후 litellm --model gpt-4o를 실행하면 포트 4000에서 로컬 프록시가 돌아갑니다. 운영 환경에서는 Docker 이미지, Helm 차트, 또는 AWS(ECS Fargate, Aurora, ElastiCache)와 GCP(Cloud Run, Cloud SQL)용 Terraform 모듈을 씁니다.
100개 이상의 제공업체에 걸친 OpenAI 호환 /chat/completions, /responses, /embeddings, /messages, /batches 등, Langfuse, MLflow, Helicone 등으로의 로깅, MCP와 A2A 게이트웨이, 프록시 없이도 동작하는 Python SDK를 제공합니다.
README에 따르면 1,600개 이상의 모델 앞에 OpenAI 방식 API. 라우팅과 가드레일 훅을 위한 설정. 호스팅 제품은 MCP 게이트웨이, 프롬프트 관리, 분석을 더합니다.
데이터와 개인정보
자체 호스팅이므로 프롬프트는 설정한 제공업체로만 갑니다. 운영 가이드에는 BerriAI로 보내는 텔레메트리 언급이 없습니다. 프록시는 키, 지출 로그, 선택적으로 프롬프트를 사용자의 Postgres에 보관합니다. 2026년에 보안 권고 17건이 공개되었고 그중 4건이 치명적입니다.
자체 호스팅하면 요청은 사용자의 인스턴스만 거칩니다. 호스팅 로그는 Developer 3일, Production 30일, Enterprise는 맞춤 기간 보관되며, SOC 2 Type 2, GDPR, HIPAA는 Enterprise에 표시됩니다. 중간 심각도 SSRF 권고 한 건(2025년 12월).
대규모 사용 시 비용
문 서는 워커 하나에 vCPU 1개와 4 GiB를 잡으므로, 워커 8개 노드에는 vCPU 8개와 32 GiB가 필요합니다. 인스턴스를 둘 이상 돌리면 Postgres와 Redis 7도 필요합니다. Enterprise 가격은 문의해야 합니다.
오픈소스는 무료입니다. 호스팅 Production은 100,000개 로그에 월 $49와 추가 100,000개당 $9이므로 요청 100만 건이면 월 약 $130입니다. 비교표는 Production을 300만 건으로 제한하며, 그 이상은 Enterprise 별도 가격입니다.
제한
열린 이슈와 풀 리퀘스트 5,748개. 며칠마다 나오는 릴리스로 업그레이드가 잦습니다. Postgres 연결 풀은 인스턴스와 워커별로 크기를 정해야 합니다. Rust 게이트웨이는 아직 베타입니다.
2026년 1월 12일 이후 릴리스 없음, 5월 25일 이후 커밋 없음. 열린 이슈 307개. 의미 기반 캐시와 분석은 오픈소스 빌드에 없음.
자주 묻는 질문
LiteLLM, Portkey AI Gateway보다 낫습니까?
그 위에 무언가를 만들 쪽은 LiteLLM입니다. 며칠마다 릴리스하고 무료 빌드에 예산 기능을 넣었지만, Portkey의 오픈소스 게이트웨이는 1월 이후 릴리스가 없고 이제 Palo Alto Networks 소유입니다. 5점 만점 기준으로 LiteLLM 4.3점, Portkey AI Gateway 3.7점으로 평가합니다.
LiteLLM, 언제 선택해야 합니까?
여러 팀이 제공업체 키를 공유하고, 팀별 예산, 지출 보고서, 직접 운영하는 폴백이 필요하며, 활발히 관리되는 프로젝트를 원한다면 LiteLLM을 고르십시오.
Portkey AI Gateway, 언제 선택해야 합니까?
Cloudflare Workers나 다른 엣지 런타임에서 가벼운 라우터가 필요하거나, 이미 Palo Alto의 Prisma AIRS를 구매하고 호스팅 버전을 원한다면 Portkey의 게이트웨이를 고르십시오.
LiteLLM, Portkey AI Gateway의 가격은 얼마입니까?
LiteLLM: MIT 라이선스의 무료 오픈소스이며, 별도 상용 라이선스를 따르는 enterprise/ 폴더는 예외입니다. Enterprise는 별도 견적이며 30일 무료 체험 키를 제공합니다. Portkey AI Gateway: MIT의 무료 오픈소스입니다. 호스팅 요금제: Developer 무료(월 10,000개 기록 로그, 로그 보존 3일), Production 월 $49(100,000개 로그, 이후 100,000개당 $9), Enterprise 별도 견적.
