뉴스국내
비드래프트, AI가 스스로 해제 못 하는 '킬스위치' 개발…보안 OS 공개
AI타임스
AI 전문 비드래프트(대표 김민식)가 AI 모델 내부에 정지 회로를 구현한 보안 운영체제(OS) 'ViKernel'을 공개했다. AI가 대화나 추가 학습을 통해 정지 명령을 무력화하지 못하도록 설계한 것이 핵심이다. AI가 스스로 코드를 수정하고 성능을 개선하는 기술이 발전하면서 통제 장치까지 변경하는 상황을 막기 위한 시도다.
원문의 저작권은 AI타임스에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.