XHToken/Spark-X2.6-4B · Hugging Face

Hugging Face 모델 카드의 앞부분을 기준으로 옮겼어요. 벤치마크는 이미지라 수치는 옮기지 못했어요.

무엇인가

Spark-X2.5가 나온 지 한 달 남짓 만에 나온 후속작이에요. 기기 안(on-device) 배포를 위한 작고 범용적인 언어 모델 제품군의 최신 세대라고 소개해요. 영어와 중국어를 지원하고, 라이선스는 Apache 2.0이에요. 이 저장소에는 Transformers 형식의 후학습 모델 가중치와 설정이 들어 있어요.

무엇이 바뀌었나

• 아키텍처는 Spark-X2.5-4B와 똑같고, 성능 향상은 개선한 후학습에서 나왔다고 해요.
• 코딩, 에이전트, 긴 문맥, 다국어, 추론 능력이 크게 좋아졌다고 주장해요.
• 복잡한 도구 사용, 다단계 계획, 소프트웨어 엔지니어링 작업에서 비슷한 크기의 오픈소스 모델 가운데 최고 수준이고, 몇몇 벤치마크에서는 9B 모델과 맞먹거나 앞선다고 해요.
• 생각 예산 조절: none, low, high 세 단계로 추론 품질, 지연 시간, 비용을 맞출 수 있어요.

추론 효율

Qwen3.5-4B, Gemma-E4B 같은 비슷한 온디바이스 모델과 비슷하거나 더 나은 추론 효율을 낸다고 해요.

쓰는 법

transformers==4.57.1을 설치하고 trust_remote_code=True로 불러와요. vLLM, SGLang, Docker Model Runner 예시도 카드에 있어요. 성능 주장은 개발사 자체 평가 기준이에요.