논문해외
소형 로컬 언어 모델의 가중치 정밀도와 선택지 순서 평균화 간 예산 배분 연구
원제 · Bits or permutations? Spending a fixed inference budget on weight precision or on option-order averaging in small local language models
HF Daily Papers
적은 비트로 가중치를 저장하는 방식과 선택지 순서 평균화 방식 중 한정된 추론 예산에서 더 효율적인 방안을 연구한다.
한국어 요약 · 원문 제목과 발췌를 AI 가 옮긴 것으로, 정확한 내용은 원문에서 확인해 주세요.
Local language models can save memory by storing weights in fewer bits, and they can reduce sensitivity to the order of answer options by averaging a few reorderings.
원문의 저작권은 HF Daily Papers에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.