AI 학습 데이터 0.1%만 조작해도 에이전트에 원격 코드 백도어 심을 수 있어

#AI 에이전트

AI 사전 학습 데이터의 0.1%만 오염시켜도 이를 기반으로 개발한 AI 에이전트에 원격 코드 실행(RCE) 백도어를 심을 수 있다는 연구 결과가 나왔다. 정상적인 데이터로 미세조정과 강화학습을 거쳐도 백도어가 제거되지 않았으며, 평소에는 정상적으로 작동하다가 특정 조건에서만 악성 명령을 생성해 탐지도 어려운 것으로 나타났다.

원문의 저작권은 AI타임스에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.