커뮤니티해외
오픈소스 MACaQ 기법, Unsloth GGUF 대비 우수한 양자화 품질 기록
원제 · Open-source method (MACaQ) beats Unsloth GGUFs!
r/LocalLLaMA오늘 10위
Qwen3-4B 모델 테스트에서 MACaQ 방식이 Unsloth 대비 23.5% 낮은 KL 발산 수치를 보이며 높은 품질을 나타냈다.
한국어 요약 · 원문 제목과 발췌를 AI 가 옮긴 것으로, 정확한 내용은 원문에서 확인해 주세요.
Some results for those using GGUFs and llama.cpp: GGUF quality: MACaQ vs. Unsloth and Bartowski Qwen3-4B (IQ4_XS) Quantization GGUF size Mean KL ↓ MACaQ 2.260 GB 0.02804 Bartowski 2.271 GB 0.03443…
원문의 저작권은 r/LocalLLaMA에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.