Vibecoding your own inference engine is easy they said

Reddit이 자동 수집을 막아(OAuth 키 없음, Wayback 스냅샷 없음) RSS 피드에 실린 본문을 기준으로 옮겼어요. 댓글과 글에 달린 이미지·영상은 읽지 못했어요.

제목: "직접 추론 엔진을 바이브 코딩하는 건 쉽다더니"

작성자 u/CodeMichaelD가 올린 짧은 하소연 글이에요. 본문 전체는 두 문장 정도예요.

본문

여러분, 그냥 llama.cpp를 clone하세요. 진짜예요.

작성자가 만든 것은 이런 구조래요.

• GGUF Q4 양자화 모델을
• WebGL2에 내장된 연산 버퍼로 페이징해서 넣고
• GLSL 셰이더로
• HTML 안에서 바로 돌려요.

그리고 토크나이저와 어휘(vocab) 처리는 끝없는 디버깅 지옥의 일부일 뿐이라고 덧붙여요. 브라우저 안에서 추론 엔진을 직접 만드는 일이 생각보다 훨씬 어렵다는, 제목과 반대되는 경험담이에요.