ERNIE 5.5 Flash Base의 개요
ERNIE 5.5 Flash Base는 Baidu의 사전학습 베이스 모델로, 2026년 10월 Hugging Face에 공개되었습니다. 희소 mixture-of-experts로, 총 2800억 파라미터에 토큰당 약 140억이 활성화되며 43개 층으로 이뤄지고, 각 MoE 층은 512개 라우팅 전문가를 두고 상위 10개에 공유 1개를 더해 고릅니다. 혼합 FP8로 33.5조 토큰을 처음부터 학습했고, 가중치는 FP8과 BF16 둘 다로 공개됩니다.
이것은 베이스 모델이지 챗 모델이 아니 라서 completions 엔드포인트로 제공되며 지시 튜닝도 정렬도 받지 않았습니다. 텍스트만 다룹니다. 학습 시 최대 컨텍스트는 131,072 토큰(128K)이었고, 공개된 설정은 파인튜닝과 추론용으로 최대 1,048,576(1M)까지 켭니다. 가중치에는 표준 오픈 소스 라이선스가 아니라 Baidu 자체의 ERNIE 5.5 Flash Base Model License Agreement가 붙습니다.
ERNIE 5.5 Flash Base, 쓸 만한 가치가 있습니까?
베이스 모델은 제품이 아니라 원자재이고, 이것의 알맞은 독자는 남의 사전학습 위에 학습을 쌓는 팀입니다. ERNIE 5.5 Flash Base는 좋은 원자재입니다. Baidu의 벤치마크 표에서 비교군인 DeepSeek-V4-Flash-Base, Hy3-preview-Base, MiMo-V2.5-Base를 대부분의 항목에서 앞섭니다. MMLU에서 93.3 대 (가장 가까운 것의) 89.4, MMLU-Pro에서 78.4 대 69.2, 그리고 베이스 모델치고 강한 코딩 점수로 HumanEval+ 82.3, LiveCodeBench 40.1입니다.
효율이 "Flash"라는 이름의 뜻입니다. 2800억 파라미터 중 140억을 토큰당 활성화하므로 140억 규모 모델처럼 계산하면서 2800억의 지식 저장소를 끌어오며, 투기적 디코딩 기능을 넣어 속도를 노립니다. 사전학습하거나 학습을 이어 가는 팀에는 이 비율이 큰 모델을 감당할 만하게 만듭니다.
점수는 Baidu가 고른 베이스 모델에 대해 측정한 Baidu 자체 것으로 읽으십시오. 여기에는 SWE-bench나 에이전트형 테스트가 없습니다. 베이스 모델은 튜닝 없이 그런 것을 못 하기 때문이고, 비교 대상은 대부분이 매일 쓰는 지시 모델이 아니라 최근의 다른 베이스 체크포인트입니다.
주의할 점: 두 가지 제약이 관심 대상을 좁힙니다. 텍스트 전용이고, 라이선스가 Apache나 MIT가 아니라 Baidu 자체 ERNIE 5.5 Flash Base 계약이라 흔한 관대함 가정이 통하지 않으며, 그 위에 무언가를 짓기 전에 조항을 읽어야 합니다. 그저 유능한 챗 모델을 원하는 대부분의 독자는 지시 튜닝된 ERNIE나 아예 다른 모델을 봐야 합니다.
결론: 자체 모델을 파인튜닝하고 출발점으로 빠르고 지식 있는 베이스를 원한다면, 이것은 DeepSeek와 Qwen의 베이스와 함께 최종 후보에 들 만합니다. 대화하거나 API로 부를 것을 원한다면 이것은 스택의 잘못된 층입니다.
제 역할을 하는 곳
도메인 특화 모델을 만드는 연구소
0부터 사전학습하는 대신 강한 범용 베이스에서 시작하기
자체 코퍼스로 BF16 가중치를 파인튜닝합니다. 활성 140억 설계라 학습과 서빙 비용이 2800억보다 140억 모델에 가깝습니다. 표준 오픈 소스 라이선스가 아니니 먼저 Baidu 라이선스를 읽으십시오.
롱 컨텍스트 기능을 더하는 ML 팀
아주 긴 창까지 늘릴 수 있는 베이스를 이어서 학습하기
공개된 설정은 사전학습에 쓴 131,072를 넘어 파인튜닝과 추론용으로 최대 1,048,576 토큰까지 켭니다. 베이스 아키텍처를 바꾸지 않고 긴 문서 작업에 맞게 적응할 수 있습니다.
오픈 베이스 모델을 비용으로 평가하는 엔지니어
활성 파라미터당 지식과 코딩 품질 비교하기
MMLU 93.3과 HumanEval+ 82.3을 비슷한 활성 파라미터 예산의 DeepSeek-V4-Flash-Base, Qwen 베이스와 견주되, 이것이 베이스 체크포인트에 대한 Baidu 자체 측정값임을 기억하십시오.
도입 전 확인할 점
- 설정
- 가중치는 FP8과 BF16으로 Hugging Face에 있고, 챗 튜닝이 없어 completions 엔드포인트로 제공됩니다. 쓰기 전에 파인튜닝이 전제입니다. 설정은 최대 1M 토큰 컨텍스트를 켭니다.
- 연동
- 베이스 모델의 표준 서빙과 파인튜닝 도구. 지시, 도구 호출, 에이전트 기능은 기본으로 없습니다. 입출력은 텍스트만입니다.
- 데이터와 개인정보
- Baidu의 ERNIE 5.5 Flash Base Model License Agreement v1.0의 오픈 웨이트로, 로컬에서 실행하거나 파인튜닝하면 데이터가 본인 하드웨어에 남습니다. 라이선스가 자체이므로 상업적 사용 전에 조항을 확인하십시오.
- 대규모 사용 시 비용
- 라이선스료는 없지만 비용은 2800억 파라미터 MoE의 메모리와 연산입니다. 토큰당 활성 140억이라 요청당 연산이 전체 크기보다 훨씬 낮게 유지됩니다.
- 제한
- 정렬이 없는 베이스 모델, 텍스트 전용, Apache나 MIT가 아닌 자체 라이선스, 벤치마크는 Baidu가 고른 베이스 모델에 대한 Baidu 자체 것입니다.
좋은 점
- 베이스 모델 비교군을 대부분의 테스트에서 선도
- 총 2800억 중 활성 140억이 서빙 비용을 낮게 유지
- 베이스 모델치고 강한 코딩 점수(HumanEval+ 82.3)
- FP8과 BF16 양쪽 가중치, 투기적 디코딩 내장
아쉬운 점
- 지시 튜닝도 정렬도 없는 베이스 모델
- Apache나 MIT가 아니라 Baidu 자체 라이선스
- 텍스트 전용, 비전이나 에이전트형 용도 없음
- 모든 벤치마크를 Baidu가 고른 베이스 모델에 대해 실행
추천 대상
자체 모델을 사전학습하거나 파인튜닝하며, 바로 쓰는 챗 모델이 아니라 빠르고 지식 있는 mixture-of-experts 베이스를 원하는 팀에 맞습니다.
ERNIE 5.5 Flash Base 대안
ERNIE 5.5 Flash Base: 자주 묻는 질문
- ERNIE 5.5 Flash Base, 쓸 만한 가치가 있습니까?
- Baidu 자체 표에서 같은 체급의 선두에 서는 강한 사전학습 베이스 모델로, API를 부르기보다 자체 모델을 파인튜닝하는 팀에 주로 유용합니 다. 평점은 5점 만점에 4.0점입니다.
- ERNIE 5.5 Flash Base의 가격은 얼마입니까?
- Baidu 자체 ERNIE 5.5 Flash Base 라이선스의 무료 가중치입니다. 베이스 모델의 호스팅 가격은 없고, 실행이나 파인튜닝용 GPU를 냅니다.
- ERNIE 5.5 Flash Base의 단점은 무엇입니까?
- 지시 튜닝도 정렬도 없는 베이스 모델; Apache나 MIT가 아니라 Baidu 자체 라이선스; 텍스트 전용, 비전이나 에이전트형 용도 없음; 모든 벤치마크를 Baidu가 고른 베이스 모델에 대해 실행.
- ERNIE 5.5 Flash Base에 적합한 사람은 누구입니까?
- 자체 모델을 사전학습하거나 파인튜닝하며, 바로 쓰는 챗 모델이 아니라 빠르고 지식 있는 mixture-of-experts 베이스를 원하는 팀에 맞습니다.
- 팀이나 프로덕션 환경에서 ERNIE 5.5 Flash Base의 비용은 얼마입니까?
- 라이선스료는 없지만 비용은 2800억 파라미터 MoE의 메모리와 연산입니다. 토큰당 활성 140억이라 요청당 연산이 전체 크기보다 훨씬 낮게 유지됩니다.
- ERNIE 5.5 Flash Base에 회사 데이터를 맡겨도 안전합니까?
- Baidu의 ERNIE 5.5 Flash Base Model License Agreement v1.0의 오픈 웨이트로, 로컬에서 실행하거나 파인튜닝하면 데이터가 본인 하드웨어에 남습니다. 라이선스가 자체이므로 상업적 사용 전에 조항을 확인하십시오.
- ERNIE 5.5 Flash Base의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 ERNIE 5.1, DeepSeek-V4.1-Flash 및 Qwen3.6입니다.
답변 확인일: 2026년 11월 14일.
ERNIE 5.5 Flash Base 개발사입니까? 이 평점을 사이트에 표시하십시오
