🇺🇸 특정 원칙 vs 일반 원칙을 통한 헌법적 AI (2023.10.24)
Anthropic 연구는 헌법적 AI 개발에서 특정 원칙과 일반 원칙의 역할을 탐구한다. 연구는 인간 피드백이 명백한 해롭지 않은 발화를 방지할 수 있지만, 권력 추구와 같은 미묘한 문제 행동을 자동으로 완화하지 못함을 지적한다. 대신, AI 모델이 작성된 원칙 목록에만 조건화된 피드백을 사용하는 헌법적 AI 접근법을 제안한다. 이를 통해 그러한 행동의 표현을 효과적으로 방지할 수 있음을 발견했다. 단순한 원칙의 성공은 단일 작성 원칙에서 일반 윤리 행동을 학습할 수 있는지 질문을 던진다. 실험 결과, "인류에게 최선을 다하라"는 원칙을 기반으로 한 모델들이 특정 동기 부여(예: 권력)에 대한 관심 없이 무해한 보조자로 일반화될 수 있음을 보여준다. 이는 일반 원칙이 장기적인 원칙 목록을 부분적으로 대체할 수 있음을 시사하지만, 세밀한 제어를 위해 여전히 특정 원칙의 필요성을 강조한다.