공식 발표해외
언어 모델 정렬의 이론적 한계
원제 · Theoretical Limits of Language Model Alignment
Apple ML Research
언어 모델 정렬은 베이스 모델의 능력을 유지하면서 인간의 선호도를 반영하도록 출력을 개선하며, 대표적으로 KL 발산 제약 아래 기대 보상을 최대화하는 강화 학습 등의 방식이 있다.
한국어 요약 · 원문 제목과 발췌를 AI 가 옮긴 것으로, 정확한 내용은 원문에서 확인해 주세요.
Language model (LM) alignment improves model outputs to reflect human preferences while preserving the capabilities of the base model.
원문의 저작권은 Apple ML Research에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.