nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B model family released (base, NVFP4, BF16, and LiLiCorr speculative decoding)

Hugging Face 모델 페이지가 채팅 템플릿 코드로 가득해서, 같은 저장소의 README 원문을 읽고 옮겼어요. 설명·요약·벤치마크 표 일부까지만 읽어 partial로 표시해요. Reddit의 원래 게시물 제목은 "모델 패밀리 공개"였어요.

무엇인가

NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-BF16은 Nemotron 3.5 Super VL의 전체 정밀도 버전이에요. 추론, 코딩, 도구 사용, 문서 이해, 영상 이해를 위한 비전-언어 모델이에요. BF16 가중치는 커스터마이징, 도메인 적응, 전체 정밀도 평가용이고, 최적화 배포에는 NVFP4 버전을 쓰라고 안내해요(DGX Spark나 데이터센터 GPU용). 상업·비상업 용도 모두 쓸 수 있어요.

요약 사양

• 파라미터: 총 120B(활성 12B)
• 구조: Mamba-2, MoE, 어텐션 층을 섞은 하이브리드 + C-RADIO 비전 인코더와 비전-언어 커넥터
• 컨텍스트: 최대 1M 토큰
• 입출력: 텍스트·이미지·영상 입력, 텍스트 출력
• 배포: 4× H100 또는 2× GB200
• 추측 디코딩: 네이티브 Multi-Token Prediction(MTP)
• 추론 모드: off, on(medium), on 세 단계. medium은 토큰을 덜 쓰지만 정확도가 떨어질 수 있어요.
• 권장 샘플링: 텍스트 temperature 1.0·top_p 0.95, 비전 temperature 0.6·top_p 0.95
• 라이선스: OpenMDW-1.1

벤치마크 일부(Nemotron 3.5 Super / Qwen3.5-122B-A10B)

• GPQA-Diamond: 89.52 / 86.7
• HLE(텍스트): 31.79 / 24.2
• LiveCodeBench v6: 88.22 / 76.7
• APEX shortlist: 88.36 / 54.7
• GraphWalks: 89.71 / 86.1
• AA-Omniscience 환각률: 30.0 / 84.5(낮을수록 좋음)
• BrowseComp: 78 / 58.1
• SWE-bench Verified: 71.10 / 71.9
• MMLU-ProX: 76.91 / 83.2

표에는 Qwen3.8-Flash-Next, DeepSeek-V4-Flash, Nemotron 3 Ultra, Inkling-Small, GLM-5.3-Flash도 있어요. 이들과 비교하면 GraphWalks와 환각률에서는 강하지만, LiveCodeBench, SWE-bench, tau2/tau3, BrowseComp 등에서는 Qwen3.8-Flash-Next·DeepSeek-V4-Flash·GLM-5.3-Flash가 더 높은 항목이 많아요.

같은 날 X에서 Artificial Analysis는 이 모델이 Intelligence Index 26점으로 미국 오픈웨이트 모델 중 선두가 됐다고 밝혔어요(전작 Nemotron 3 Super는 13점).