10 tok/s Deepseek V4.1 Flash 8K with Strata on a 5090 with 64GB DDR5 Ram

Reddit이 자동 수집을 막아 RSS 피드에 실린 본문을 기준으로 옮겼어요. 원문은 스크린샷 한 장과 몇 문장짜리 짧은 후기이고, 스크린샷 속 수치는 읽지 못했어요.

후기 내용

작성자 u/DeMischi가 자기 PC에서 DeepSeek V4.1 Flash를 돌려 본 결과를 공유했어요.

• 장비: RTX 5090, Lexar 4TB NVMe, DDR5 RAM 64GB, 운영체제는 Windows 10이에요.
• 실행 도구: Strata, 컨텍스트 8K
• 속도: 제목 기준 초당 약 10토큰이에요.

작성자의 평가

• 아쉽게도 이 속도라면 전기료를 내는 것보다 API를 쓰는 게 더 싸대요.
• 비슷한 구성에서 속도가 궁금한 사람에게 참고가 되라고 올렸대요.
• 그래도 자기 PC에서 돌아간다는 것 자체가 신난다고 했어요.

같은 날 r/LocalLLaMA에는 ISTA DASLab의 DeepSeek-V4.1-Flash 저비트 양자화 공개 글도 함께 올라왔어요.