Qwen Flash Next potential SOTA Q2 nobody talks about

Reddit r/LocalLLaMA 게시물은 API 키 없이 본문을 직접 읽을 수 없어 RSS 발췌로 옮겼어요. 본문 비교 이미지 3장은 보지 못해 partial이에요. 개인 사용 후기라 객관적 벤치마크는 아니에요.

무엇을 말하나

저비트 양자화 이야기가 나오면 다들 Unsloth와 ISTA-lab만 말하는데, 1인 제작자 Agantai의 GYRO 시리즈(Hugging Face agentionai/Qwen3.8-Flash-Next-Gyro-GGUF)는 아무도 언급하지 않는다는 문제 제기예요. 제작자는 ISTA 양자화보다 KLD와 top-1 일치율이 좋으면서 크기는 더 작고, 루프 저항이 강하다고 주장해요. 작성자는 처음엔 과감한 주장과 1인 제작이라 망설였지만 용량 절약이 아까워 직접 시험했대요.

시험 환경

| 항목 | 설정 | |---|---| | 엔진 | Strata의 GYRO 포크 | | 양자화 | GYRO-M(비전은 ISTA IQ3_XXS에서 가져옴) | | 컨텍스트 | 200k, KV 캐시 k8v4 | | 에이전트 | Pi agent | | 샘플링 | temp 1.0, top_p 0.95, top_k 20, min_p 0.05, thinking xhigh |

사용 후기

• 루프: 3일 동안 한 번도 반복 루프에 빠지지 않았고, 가장 긴 자율 작업은 2~3시간이었대요.
• 도구 호출: 대체로 안정적이지만 러시아어·우크라이나어 같은 키릴 문자 텍스트 편집을 가끔 망쳤어요. ISTA q2보다는 안정적, ISTA q3보다는 덜 안정적이라는 인상이에요.
• 맥락 유지: 처음 목표를 잃지 않고 지시 수행도 안정적이었대요.
• 속도: ISTA 2비트 양자화만큼 빨라요.
• "자전거 타는 펠리컨 복셀 3D 월드" 프롬프트로 ISTA IQ3XXS, IQ2XS, GYRO-M 결과 이미지를 비교했어요.

결론으로 작성자는 훨씬 작으면서 ISTA q3 수준이라는 강한 신호가 있다며, 혼자서도 전담 팀을 이길 수 있다고 제작자를 치켜세웠어요.