🇺🇸 Anthropic 연구팀의 해석 가능성 확장 기술의 엔지니어링 과제 (2024.6.13)
Anthropic의 연구팀은 해석 가능성 연구를 훨씬 더 큰 AI 모델로 확장하는 과정에서 직면한 기술적 엔지니어링 도전 과제를 논의합니다. 특히, 모델의 내부 작동 원리를 이해하는 데 중요한 진전을 이룬 'Towards Monosemanticity'와 'Scaling Monosemanticity' 논문을 통해 대규모 모델인 Claude 3 Sonnet에서 수백만 개의 "특징"을 발견했습니다. 이러한 진전을 지속하기 위해서는 더 많은 엔지니어의 참여가 필요하다는 점을 강조합니다.
주요 엔지니어링 문제 두 가지를 소개합니다: 1. 분산 셔플(Distributed Shuffle): 모델 활성화 데이터를 셔플하여 모델이 순서에 의존하는 패턴을 학습하지 않도록 하는 과정에서, 데이터 규모가 커져 메모리를 초과하는 문제를 해결하기 위한 분산 셔플 기법을 개발했습니다. 2. 특징 시각화 파이프라인(Feature Visualization Pipeline): 수백만 개의 특징에 대한 데이터를 효율적으로 생성하고 처리하기 위한 분산 시스템 문제를 해결했습니다. 이를 통해 사용자가 개별 특징에서 가장 강하게 활성화되는 토큰을 볼 수 있게 했습니다.
이러한 엔지니어링 노력은 해석 가능성과 AI 안전성 연구의 주요 장벽 중 하나임을 강조하며, 유연하게 다양한 분야에서 일할 수 있는 제너럴리스트 엔지니어를 찾고 있습니다.