“진짜 내가 지불한 AI 모델 맞나?”…앤트로픽, 모델 바꿔치기 잡는 AI ‘플래시프로브’ 공개

#Anthropic

“모델 바꿔치기와 답변 위변조를 막는 앤트로픽의 암호학적 검증 시스템 플래시프로브, 기존 대비 95배 빠른 성능, 가중치 비공개 검증 매커니즘을 짚어봤습니다.” AI포스트 핵심 요약 [AI 신뢰 검증 플래시프로브 공개] 모델 사칭 및 토큰 조작을 차단하기 위해 암호학적 디지털 지문을 새기는 오픈소스 프로토타입 발표.

원문의 저작권은 AI포스트에 있습니다. 위 발췌는 원문 확인을 돕기 위한 짧은 인용입니다.