커뮤니티해외
Microsoft Research가 10개 미만의 뉴런 수정으로 AI에 백도어를 심었다
원제 · Microsoft Research backdoored an AI agent by directly editing fewer than 10 dormant neurons
r/LocalLLaMA오늘 8위
검증되지 않은 양자화나 파인튜닝 모델 사용 시 주의가 필요하며, 이러한 기술이 슬리퍼 에이전트 공격 수단이 될 수 있다고 경고한다.
한국어 요약 · 원문 제목과 발췌를 AI 가 옮긴 것으로, 정확한 내용은 원문에서 확인해 주세요.
Be careful if you are running any sketchy quants/finetunes. If these techniques become more widely repeatable, I do think 'sleeper agents' could genuinely develop into an attack vector.
원문의 저작권은 r/LocalLLaMA에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.