llama.cpp: Add FP8 KV-cache

#Meta · Llama

이 소식은 제목과 출처만 제공됩니다. 자세한 내용은 원문에서 확인하실 수 있습니다.

원문의 저작권은 r/LocalLLaMA에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.