Reddit에서 화제 · github.com · 2026-10-08

ggml-cuda: assign four GDN state columns per warp by SongXiaoXi · Pull Request #30087 · ggml-org/llama.cpp

OIYO 한국어 요약

llama.cpp의 CUDA 백엔드에서 GDN 상태 열을 워프당 4개씩 맡기도록 바꾼 PR(#30087)이에요. 레딧 글쓴이는 Qwen 3.x의 프롬프트 처리 속도가 또 빨라졌다고 소개해요. 함께 올린 측정값에서 pp512는 3075.24→3243.60 t/s(+5.5%), pp4096은 3059.87→3221.08 t/s(+5.3%)로 늘었고, 토큰 생성(tg128)은 47.62→47.67 t/s로 거의 그대로였어요.

원문을 읽지 못해 Reddit 소개글을 바탕으로 요약했어요.

원문 읽기 Reddit 토론 같은 날 모아보기

OIYO는 원문을 그대로 옮기지 않아요. 요약과 본문 번역은 큐레이션 목적이며, 사실·인용은 원문 출처를 따라요.