논문해외
LLM 사후 학습에서 가중치 삭제의 놀라운 효과
원제 · The Surprising Effectiveness of Deleting Weights in LLM Post-Training
HF Daily Papers
사전 학습된 LLM 가중치의 0.05% 미만을 0으로 만드는 것만으로 사후 학습 영역 전체에서 전체 파인 튜닝(FFT) 수준의 성능을 달성할 수 있음이 확인되었다.
한국어 요약 · 원문 제목과 발췌를 AI 가 옮긴 것으로, 정확한 내용은 원문에서 확인해 주세요.
How little of a pretrained large language model (LLM) has to change for it to acquire new capabilities?
원문의 저작권은 HF Daily Papers에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.