🇺🇸 METR의 Anthropic Summer 2025 Pilot Sabotage Risk Report 외부 검토 요약 (2025.10.28)
METR는 Anthropic의 Claude Opus 4 및 4.1 모델에 대한 내부 및 외부 사용으로 인한 '사보타주 위험'이 상당히 낮지만 무시할 수 없는 수준이라고 주장하는 보고서를 검토했습니다. 검토 과정에서 추가 비공개 증거를 확보하고 보고서와 검토 내용을 여러 차례 수정했습니다. 검토 결과는 다음과 같습니다:
- 증거 및 논리의 명확성: 보고서의 증거 제시는 대체로 명확하고 충분히 완전했습니다. - 분석의 엄격성: 보고서의 논리는 대체로 명확하나, 특정 주장(Opus 4가 복잡한 작업의 추론을 숨길 수 없다는 주장)의 정밀성이 부족하다고 판단했습니다. 이로 인해 모델의 편향된 행동 가능성에 대한 결론이 과도하게 확신에 찬 것으로 보입니다. - 불일치 사항: 보고서의 핵심 주장에 대해, Opus 4가 잠재적으로 중요한 편향된 추론을 수행할 수 있다는 견해로 인해 전체 결론에 대한 신뢰성이 약간 감소했습니다. 그러나 이전 모델들의 경험과 Opus 4의 제한된 능력을 고려할 때, 이는 여전히 낮은 사보타주 위험으로 평가됩니다. - 위험 감소 제안: 사건 추적, 추가 테스트 실행, 훈련 데이터 필터링 등에 대한 구체적인 제안을 제시했습니다.
전반적으로 METR은 Anthropic과 마찬가지로 Claude Opus 4 및 4.1 모델의 치명적 사보타주 위험이 낮다고 동의하며, 보고서의 적용 범위 내 다른 모델들에도 동일하게 적용된다고 봅니다.