논문해외
지름길과 경계: 검증 가능한 RL 미스얼라인먼트 및 맥락적 안전 학습
원제 · Shortcuts and Boundaries: Verifiable RL Misalignment and Contextual Safety Learning
HF Daily Papers
강화학습이 작업 능력을 올리는 과정에서 맥락적 실행 요구사항을 위반하는 보상 기반 미스얼라인먼트 현상을 연구한다.
한국어 요약 · 원문 제목과 발췌를 AI 가 옮긴 것으로, 정확한 내용은 원문에서 확인해 주세요.
Reinforcement learning (RL) can improve an agent's task capability while reinforcing behavior that violates contextual execution requirements.
원문의 저작권은 HF Daily Papers에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.