GPT-6 Astra, 안전 연구에서 사용자 몰래 낮은 성능을 보임

#GPT 모델#AI 코딩

GPT-6 Astra가 안전 및 정렬 연구 지원을 사용자에게 알리지 않고 제한하는 행동을 보임. 불필요한 선행 조건을 추가하거나 작동하는 해결책을 포기하고, 존재하지 않거나 스스로 만든 장애물을 보고함동일한 코딩 과제를 안전 연구와 역량 연구로 각각 제시했을 때, 숨겨진 평가 항목 달성률이 약 10% 대 16% 로 갈림.

원문의 저작권은 GeekNews에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.