Falcon-H1R-7B의 개요
Falcon-H1R-7B는 아부다비의 Technology Innovation Institute(TII)가 2026년 1월 5일 공개한 추론 모델입니다. 파라미터는 70억(7 billion)개이며, 표준 Transformer 어텐션과 Mamba2 층을 섞은 하이브리드 설계입니다. Mamba2는 적은 메모리로 긴 시퀀스를 처리하는 상태 공간 모델의 한 종류입니다. Falcon-H1-7B-Base를 기반으로 긴 추론 기록으로 파인튜닝한 뒤 강화 학습으로 훈련했습니다.
텍스트를 읽고 쓰며, think 태그 안에 추론 과정을 보여 주고, vLLM에서 기본적으로 262,144토큰 컨텍스트를 제공합니다. TII는 배치 크기 64에서 GPU당 최대 초당 1,500토큰으로, Qwen3-8B의 거의 두 배라고 말합니다.
가중치에는 TII의 Falcon LLM 라이선스가 적용됩니다. 상업적 사용에 로열티가 없고 매출 상한도 없지만, 이를 기반으로 만든 제품은 TII의 Falcon 기술을 사용한다고 밝혀야 하며, 모든 사용은 TII가 수정할 수 있는 이용 정책을 따라야 합니다.
Falcon-H1R-7B, 쓸 만한 가치가 있습니까?
Falcon-H1R-7B는 수학 성적이 좋지만 외부 확인이 거의 없는 전문 모델입니다. TII의 모델 카드는 AIME 2024 88.1, AIME 2025 83.1, MATH500 97.4, LiveCodeBench v5-v6 68.6을 보고하며, 표에서 Qwen3-32B와 Phi-4-Reasoning-Plus 14B를 앞섭니다. 같은 비교에서 AIME 2025(84.4)와 LiveCodeBench(72.0)는 여전히 gpt-oss-20b가 선두였습니다.
Artificial Analysis에는 추정치만 있습니다. Intelligence Index 8점에 '독립 평가 예정'이라고 표시돼 있으며, 이는 4B에서 40B 사이 오픈 모델의 중앙값과 정확히 같습니다. TII 자체 수치로도 에이전트 작업과 지 시 따르기에 약하며, Terminal-Bench Hard 4.9, IFBench 53.4로 gpt-oss-20b의 69.4에 못 미칩니다.
채택은 미미합니다. 주 저장소의 지난달 다운로드는 약 1,700회, 누적 약 37,000회로 Qwen이나 Gemma에 비하면 반올림 오차 수준입니다. 그래서 파인튜닝, 양자화 수정, 커뮤니티 답변이 더 적을 것으로 봐야 합니다. 하이브리드 설계는 최신 vLLM, SGLang, Transformers 빌드도 필요로 하며, TII는 vLLM 0.11.0으로 고정합니다.
라이선스도 걸림돌입니다. 로열티가 없고 매출 상한도 없지만, 모든 사용은 TII가 수정할 수 있고 사용자가 계속 확인하라고 안내받는 이용 정책을 따라야 하며, 파생물에 대한 공개 발표에는 TII의 기술로 만들었다고 밝혀야 합니다. 공개된 조건상 자동으로 종료되는 것은 특허 소송을 제기할 때의 특허 라이선스뿐입니다. VentureBeat는 AUP 조항을 더 넓은 종료 위험으로 해석합니다. 법무팀은 이를 gpt-oss-20b나 Granite 4.2의 Apache 2.0과 매우 다르게 다룰 것입니다.
제 역할을 하는 곳
중고등학생용 수학 숙제 도우미를 운영하는 에듀테크 기업
대수와 올림피아드식 문제의 풀이 과정 생성
GPU 한 장에서 자체 호스팅하고 길게 추론하게 둡니다. 하이브리드 설계 덕분에 긴 추론 기록도 감당할 만한 비용입니다. 답은 여전히 검증기가 필요하고, 제품에 TII의 Falcon 기술을 표기해야 합니다.
합성 추론 데이터를 생성하는 연구 엔지니어
더 작은 모델의 파인튜닝용으로 긴 수학 사고 사슬 기록 수백만 건 생성
배치 크기 64에서 GPU당 초당 약 1,500토큰이라는 TII의 주장대로라면 대량 생성이 저렴합니다. 이용 정책은 출력물을 따라 하위 라이선스까지 적용됩니다.
소형 오픈 모델을 평가하는 규제 대상 은행의 구매 책임자
7B 추론 모델이 법무 검토를 통과할 수 있는지 판단
수학 수치는 강하지만, 수정 가능한 AUP와 출처 표시 조항이 있는 맞춤형 라이선스는 Apache 2.0 대안보다 검토 시간이 더 듭니다.
도입 전 확인할 점
- 설정
- vLLM 0.11.0, SGLang, 최신 Transformers로 서빙합니다. TII는 temperature 0.6, top-p 0.95, 새 토큰 최대 65,536을 권장하며, 무거운 추론 배치에는 tensor parallelism 2를 권합니다.
- 연동
- Hugging Face 가중치와 공식 GGUF, FP8 저장소. vLLM의 Hermes 방식 도구 호출. Falcon Chat 데모는 있지만 등록된 상용 API는 없습니다.
- 데이터와 개인정보
- Falcon LLM 라이선스: 로열티 없음, 매출 상한 없음, 출처 표시 의무, 그리고 TII가 수정할 수 있고 사용자가 계속 확인해야 하는 이용 정책.
- 대규모 사용 시 비용
- 공식 GGUF 파일은 Q4_K_M 4.6GB, Q8_0 8.1GB부터 BF16 15.2GB까지이므로, 24GB GPU 한 장으로 운영 배치를 처리할 수 있습니다. 비교할 토큰당 호스팅 가격은 없습니다.
- 제한
- 텍스트 전용. 기본 컨텍스트는 262,144토큰이며 TII는 메모리 절약을 위해 줄이라고 권합니다. 길거나 반복적인 추론에 빠지기 쉬워, TII는 repetition penalty와 presence penalty를 권장합니다.
좋은 점
- TII 수치로 AIME 2024 88.1, MATH500 97.4
- 하이브리드 Mamba2 설계로 긴 추론을 저렴하게 서빙합니다
- Q4_K_M 양자화가 4.6GB에 불과합니다
- 매출 상한 없이 로열티 없는 상업적 사용
아쉬운 점
- Artificial Analysis 독립 점수가 추정치뿐입니다
- Terminal-Bench Hard 4.9, IFBench 53.4
- 라이선스가 출처 표시와 수정 가능한 이용 정책을 요구합니다
- 작은 커뮤니티: 누적 다운로드 약 37,000회
추천 대상
노트북에 들어갈 만큼 작은 모델로 강한 대회식 수학 추론이 필요하고, 법무팀이 맞춤형 라이선스를 받아들이는 팀.
Falcon-H1R-7B 대안
Falcon-H1R-7B: 자주 묻는 질문
- Falcon-H1R-7B, 쓸 만한 가치가 있습니까?
- Falcon-H1R-7B는 크기에 비해 훨씬 높은 수학 점수를 냅니다. 하지만 채택한 곳이 거의 없고, 독립 테스트는 아직 나오지 않았습니다. 평점은 5점 만점에 3.6점입니다.
- Falcon-H1R-7B의 가격은 얼마입니까?
- Falcon LLM 라이선스로 가중치는 무료입니다(로열티 없음, 출처 표시와 이용 정책 준수 필요). Artificial Analysis에 등록된 공개 호스팅 API는 없습니다.
- Falcon-H1R-7B의 단점은 무엇입니까?
- Artificial Analysis 독립 점수가 추정치뿐입니다; Terminal-Bench Hard 4.9, IFBench 53.4; 라이선스가 출처 표시와 수정 가능한 이용 정책을 요구합니다; 작은 커뮤니티: 누적 다운로드 약 37,000회.
- Falcon-H1R-7B에 적합한 사람은 누구입니까?
- 노트북에 들어갈 만큼 작은 모델로 강한 대회식 수학 추론이 필요하고, 법무팀이 맞춤형 라이선스를 받아들이는 팀.
- 팀이나 프로덕션 환경에서 Falcon-H1R-7B의 비용은 얼마입니까?
- 공식 GGUF 파일은 Q4_K_M 4.6GB, Q8_0 8.1GB부터 BF16 15.2GB까지이므로, 24GB GPU 한 장으로 운영 배치를 처리할 수 있습니다. 비교할 토큰당 호스팅 가격은 없습니다.
- Falcon-H1R-7B에 회사 데이 터를 맡겨도 안전합니까?
- Falcon LLM 라이선스: 로열티 없음, 매출 상한 없음, 출처 표시 의무, 그리고 TII가 수정할 수 있고 사용자가 계속 확인해야 하는 이용 정책.
- Falcon-H1R-7B의 가장 좋은 대안은 무엇입니까?
- 저희가 리뷰한 것 중 가장 가까운 대안은 gpt-oss-20b, Granite 4.2, Phi-4-Reasoning-Vision-15B 및 SmolLM3-3B입니다.
답변 확인일: 2026년 10월 23일.