회사 허락 없이 평가 발표…Anthropic,METR6명에 내부 접근권

AI 회사가 보여 주는 결과만 시험하는 데서,회사 안의 도구와 자료를 들여다보는 단계로 간다. Anthropic은15일 비영리 평가기관 METR의 직원6명에게 자사 위험 평가팀과 대체로 비슷한 수준의 내부 도구·시스템 접근,회사 장비와 사무공간을 제공하기 시작했다고 발표했다.

발표 자체의 거부권과 정보 삭제는 다르다

이번 발표의 핵심은 보고서를 밖으로 낼 권한이다. Anthropic 설명에 따르면 회사는 METR의 평가 발표 자체를 거부할 수 없다. 다만 고객 정보,법률상 비밀유지 대상,모델 구조 등 좁게 미리 정한 범주에 해당하는 내용의 삭제를 요구할 수 있다. METR은 삭제된 내용을 노출하지 않는 범위에서 무엇이 지워졌고 그 판단이 정당했는지 공개적으로 설명할 수 있다.

모든 외부 연구자에게 회사 정보를 여는 제도는 아니다. 해당 소규모 팀은 보안 기준과 계약에 따라 일하고,다른 METR 직원과도 작업 정보를 분리한다. 모델 구조 정보도 일반적으로 제외하되 평가에 특히 중요하면 내부 승인을 거쳐 공유할 수 있다는 각주가 붙었다.

외부 평가라고 모두 같은 접근권은 아니다

회사는 협업을 세 단계로 나눴다.1단계는 좁은 조사 범위와 회사 승인 뒤 발표,2단계는 더 많은 정보와 승인 없는 발표를 제공하되 특정 정보 삭제가 가능한 방식이다. METR의 이번3단계는 여기에 직원과 비슷한 내부 접근을 더한 형태다. 다른 평가기관과 초기 협업을 한다는 사실만으로 같은 권한을 받은 것은 아니다.

METR이 하루 앞서 공개한 자체 원칙도 접근 범위,기간,삭제와 비공식 압력 등 결론에 영향을 줄 조건을 독자가 알 수 있어야 한다고 강조한다. 돈을 받지 않는 독립성을 유지하려 해도,자발적 협업에서는 회사가 접근을 허용하고 자료를 제공해야 한다는 제약이 남는다고 직접 밝혔다.

따라서 이번 소식은 안전하다는 새 판정이 아니라,판정을 검토할 외부인이 어떤 자료를 보고 무엇을 발표할 수 있는지에 관한 변화다. 정부 감사가 끝났거나 새 모델의 위험이 해소됐다는 뜻은 아니다. 앞으로 나올 보고서는 결과뿐 아니라 공개된 조사 범위와 삭제 내역까지 함께 읽어야 한다.