AI 안전 다이제스트

2023-09-19 · 1건

🇺🇸 ARC Evals 독립 법인 설립 발표 (2023.09.19)

공공 · METR

ARC Evals가 ARC에서 독립 법인으로 분리되며, Beth Barnes가 새로운 조직을 이끌게 됩니다. ARC Evals는 최근 독립적인 AI 모델 평가 작업을 통해 성장하여 자체 팀을 형성하고, GPT-4와 Claude의 평가를 포함한 여러 중요한 프로젝트를 수행했습니다. 이 분리로 인해 ARC의 이론 연구와 평가 활동 간의 명확한 구분이 이루어지며, 향후 ARC Evals의 명칭 변경 가능성도 제기되었습니다. Paul Christiano는 ARC의 수장으로 남지만, 새로운 역할로 인해 일부 자문 역할에서 제외되었습니다.