inclusionAI/Ling-3.0-flash-Sante · Hugging Face

Hugging Face 모델 카드 README의 앞부분(소개, 특징, 평가 설정, 빠른 시작)을 기준으로 옮겼어요. 평가 결과는 이미지로만 있어 수치는 옮기지 못했어요.

어떤 모델인가요

Ling-3.0-flash-Sante는 InclusionAI가 Ling-3.0-flash 위에 만든 헬스케어 특화 모델이에요. 이름은 '건강'을 뜻하는 프랑스어 *santé*에서 왔어요.

• 총 124B 파라미터, 토큰당 5.1B 활성
• 의학적 추론, 헬스케어 연구, 딥 리서치, 도구를 쓰는 워크플로를 겨냥하면서 Ling-3.0-flash의 범용 능력은 유지했대요.
• 가중치는 Hugging Face와 ModelScope에 공개됐어요.

중요: Ling-3.0-flash-Sante는 연구용 모델이지 의료 기기가 아니에요. 출력이 불완전하거나 틀릴 수 있으니 전문가의 의료 조언, 진단, 치료를 대신해선 안 돼요. 중요한 용도에는 자격 있는 사람의 검토, 독립 검증, 관련 개인정보·보안·의료 규제 준수가 필요해요.

특징

• 헬스케어 능력: 전문 의료 업무, 복잡한 의학 추론, 의학 지식, 의료 안전 벤치마크에서 좋은 성적을 냈다고 해요.
• 규모 대비 효율: Kimi Delta Attention(KDA), gated MLA, sparse MoE 층을 섞은 하이브리드 선형 MoE 구조예요.
• 긴 컨텍스트: 학습을 256K 토큰까지 늘려 긴 문서 분석, 근거 종합, 다단계 리서치를 지원해요.
• 의료 QA를 넘어서: 딥 리서치, 도구 워크플로, 멀티 에이전트 협업까지 염두에 뒀어요.
• 네이티브 추론과 도구 사용: thinking 모드가 기본으로 켜져 있고, 호환 서빙 프레임워크에서 도구 호출을 지원해요.

평가 설정

전문 헬스케어 업무, 의학 지식·안전, 복잡한 추론, 딥 리서치, 멀티 에이전트, 도구 에이전트 벤치마크로 평가했어요. 기본 temperature=1.0, top_p=0.95이고 비교 모델은 모두 최고 추론 수준으로 맞췄대요. AFUMED-Drug는 약물 금기 정확도, AFUSAFE-MedSCE는 의료 응답의 전반적 안전성을 봐요. BrowseComp는 최대 1,000턴, 멀티 에이전트 설정에서는 작업당 최대 64개 서브에이전트를 띄우는 자체 하네스를 썼어요.

실행

SGLang의 Ling-3.0 호환 이미지로 141GB급 GPU 4장(또는 4-GPU Blackwell 노드)에서 256K 컨텍스트 OpenAI 호환 서버를 띄우는 예시를 줘요. H100·H800 같은 80GB GPU에서는 --tp 8을 쓰라고 해요.