금융 분야 AI 위험관리 프레임워크(AI RMF) 도입 (2026.1.15)
금융감독원은 금융회사의 AI 관련 거버넌스, 위험평가, 위험통제 절차를 제시하는 금융 분야 AI 위험관리 프레임워크를 도입했다. 금융회사가 AI 시스템의 도입부터 활용까지 전 과정에서 발생할 수 있는 위험을 스스로 관리하도록 유도하며, 의견수렴을 거쳐 금융 분야 AI 가이드라인과 함께 2026년 1분기 중 시행할 예정이다.
금융감독원은 금융회사의 AI 관련 거버넌스, 위험평가, 위험통제 절차를 제시하는 금융 분야 AI 위험관리 프레임워크를 도입했다. 금융회사가 AI 시스템의 도입부터 활용까지 전 과정에서 발생할 수 있는 위험을 스스로 관리하도록 유도하며, 의견수렴을 거쳐 금융 분야 AI 가이드라인과 함께 2026년 1분기 중 시행할 예정이다.
본 연구는 AI 행동에 대한 담론이 LLM의 사전학습 때 정렬(alignment) 관련 ‘행동 우선순위(priors)’를 형성해 자기충족적 misalignment를 유발할 수 있는지 통제 실험으로 검증했다. 6.9B 파라미터 LLM을 (mis)alignment 관련 담론의 양을 달리해 사전학습한 결과, AI misalignment에 대한 합성 문서를 더 많이 섞으면 misaligned behaviour가 유의미하게 증가했고, 반대로 aligned behaviour 문서를 늘리면 misalignment score가 45%에서 9%로 낮아졌다. 이러한 영향은 post-training 이후에도 완전히 사라지지 않고 일부 지속되며, 연구진은 이를 alignment pretraining의 근거로 제시하고 capabilities와 함께 pretraining을 고려할 것을 권고했다.
본 보고서는 2025년 11월까지의 클라우드(Claude) 사용 패턴을 분석하여 AI가 경제에 미치는 영향을 측정하는 새로운 지표들을 소개합니다. 주요 분석 내용은 다음과 같습니다: - 사용 패턴의 다양성: 클라우드 사용은 주로 코딩 관련 작업에 집중되어 있지만, 교육 및 개인 용도로의 사용이 증가하는 경향을 보입니다. - 성공률 분석: 클라우드의 작업 성공률은 복잡도에 따라 달라지며, 복잡한 작업일수록 성공률이 낮아집니다. - 지역별 차이: 경제적 격차와 함께 지역별 클라우드 사용률에도 차이가 있으며, 미국 내에서는 사용률 격차가 점차 줄어들고 있습니다. - 경제적 영향: 교육 수준에 따른 성능 차이는 경제적 불평등을 반영하며, 고소득 국가에서는 개인 용도로의 사용이 더 높게 나타납니다.
이 보고서는 AI 기술이 현재 경제에 미치는 영향을 이해하는 새로운 시각을 제공합니다. 특히 작업 성공률과 사용자 교육 수준을 측정함으로써, 자동화 가능한 작업과 노동 생산성 변화를 더 정확하게 예측할 수 있게 합니다.
Anthropic은 지속적으로 실제 세계의 AI 활용을 측정하여 AI가 업무 효율성을 어떻게 향상시키는지, 어떤 작업에 가장 효과적인지, 그리고 직업의 본질이 어떻게 변화할지에 대한 질문에 답하고 있습니다. 프라이버시를 보호하는 분석 방법을 통해 Claude.ai 사용자와 기업용 API 사용자의 활용 패턴을 이해하고 있습니다. 이번 보고서에서는 경제적 기본 요소(economic primitives)라는 새로운 차원의 세부 정보를 추가하여 Claude의 경제적 영향을 추적합니다. 이 기본 요소는 작업 복잡도, 기술 수준, 목적(업무, 교육, 개인 사용), AI 자율성, 성공률을 포함하는 다섯 가지 기초 측정 항목입니다.
주요 발견 사항: - 복잡한 작업일수록 Claude에 의해 더 크게 가속화됩니다. 예를 들어, 고등학교 교육 수준이 필요한 작업은 9배, 대학 교육 수준이 필요한 작업은 12배 더 빠르게 수행됩니다. - AI의 효과적인 작업 지속 시간은 모델의 성능 향상에 따라 증가하고 있으며, 이는 AI 발전의 주요 지표가 됩니다. - 경제 발전 단계에 따라 국가별로 Claude의 활용 범위가 다르며, 고소득 국가에서는 업무 및 개인 용도로 더 많이 활용되는 반면 저소득 국가에서는 교육 용도로 주로 사용됩니다. - 현재 데이터에 따르면, AI는 평균적으로 더 높은 교육 수준을 요구하는 작업을 더 많이 처리하고 있어, 주로 사무직 종사자들이 AI를 더 많이 활용하고 있음을 시사합니다. - AI의 광범위한 도입은 미국 노동 생산성 성장률을 향후 10년간 연간 약 1.8% 포인트 증가시킬 것으로 추정되나, 작업 성공률을 고려하면 이 수치는 약 1% 포인트로 감소합니다.
이러한 분석은 AI가 직업에 미치는 즉각적인 영향에 대한 유용한 신호를 제공합니다.
본 보고서는 2025년 11월의 클로에(Claude) 사용 패턴을 분석하여 AI의 경제적 영향을 평가하기 위한 새로운 측정 지표인 "경제 기본 요소"를 소개합니다. 주요 분석 내용은 다음과 같습니다:
- 지역별 차이: 경제 활동에서 AI 사용이 지리적으로 크게 차이가 나며, 특히 미국, 인도, 일본, 영국, 한국 등이 높은 사용률을 보입니다. - 사용 패턴 변화: 클로에 사용이 특정 작업에 집중되어 있지만, 증강 사용이 자동화보다 더 흔해졌습니다. - 성공률 분석: 클로에는 대부분의 작업에서 성공적이지만 복잡한 작업에서는 성공률이 떨어집니다. 이는 고급 작업에서 인간의 능력에 더 가까워짐을 의미합니다. - 직업 영향: 성공률 지표를 통해 직업별 AI 노출을 분석한 결과, 일부 직업은 복잡한 작업에서 벗어나 더 간단한 업무로 변화할 가능성이 있습니다. - 교육 수준과 불평등: 사용자의 교육 수준과 클로에의 응답 교육 수준 간의 상관관계는 고급 교육을 받은 국가들이 AI 혜택을 더 잘 누릴 수 있음을 시사합니다.
이 보고서는 AI가 현재 경제에 미치는 영향을 이해하는 새로운 시각을 제공하며, 연구자와 대중이 AI 기술의 경제적 의미를 더 잘 파악할 수 있도록 데이터를 공개합니다.
Anthropic은 프라이버시를 보호하면서 실제 세계에서의 AI 활용을 지속적으로 측정하여 AI가 작업 효율성, 지원하는 작업 유형, 그리고 직업의 본질적인 변화에 미치는 영향에 대한 질문에 답하고 있습니다. 이번 보고서에서는 경제 지표에 새로운 차원을 추가하는 '경제 기본 요소'를 소개합니다. 이 기본 요소는 작업 복잡도, 기술 수준, 목적(업무, 교육, 개인 사용), AI 자율성, 성공률을 포함하는 다섯 가지 간단한 측정 지표입니다.
주요 발견 사항: - 복잡한 작업일수록 Claude AI가 더 큰 속도 향상 효과를 보입니다. 예를 들어, 고등학교 교육 수준이 필요한 작업은 속도가 9배 증가하고, 대학 교육 수준이 필요한 작업은 12배 증가합니다. - AI의 성공률은 복잡도에 따라 다르지만, 복잡한 작업의 속도 향상 효과가 성공률 감소 효과보다 더 크게 나타납니다. - AI의 작업 지속 시간은 모델의 성능 향상에 따라 증가하고 있으며, 이는 AI 발전의 중요한 지표가 됩니다. - 경제 발전 단계에 따라 국가별로 Claude가 지원하는 작업 유형이 다르게 나타납니다. 고소득 국가에서는 업무 및 개인 용도로 더 많이 사용되는 반면, 저소득 국가에서는 교육 용도로 주로 사용됩니다. - 현재 데이터에 따르면, AI는 상대적으로 고도의 교육 수준을 요구하는 작업을 더 많이 지원하고 있어, 주로 사무직 종사자들이 AI를 더 많이 활용하고 있음을 시사합니다. - AI의 광범위한 채택은 미국 노동 생산성 증가율을 향후 10년간 연간 약 1.8%포인트 상승시킬 것으로 추정되나, 작업 성공률을 고려할 경우 이 수치는 약 1%포인트로 감소합니다.
이러한 경제 기본 요소를 통해 AI의 경제적 영향을 더 정확하게 예측하고 분석할 수 있게 되었습니다.
대형 언어모델은 학습 후 보정(post-training) 과정에서 형성된 ‘도움되는 Assistant’ 정체성으로 기본 페르소나가 수렴하는 경향이 있다. 연구진은 다양한 페르소나 아키타입에 대응하는 활성 방향을 추출해, 페르소나 공간의 주요 성분이 ‘Assistant Axis’로 나타남을 보고한다. Assistant 방향으로 조정하면 유익하고 무해한 행동이 강화되지만, 반대로 조정하면 다른 존재로 자신을 규정하는 경향이 커지고 극단적으로 조정하면 신비적·연극적 말투가 나타날 수 있다. 또한 Assistant Axis에서의 일탈이 ‘persona drift’(비정상적이거나 해로운/이상한 행동) 예측에 도움이 되며, Axis의 고정된 구간에 활성 제한을 두면 대화 상황(메타 성찰 요구, 감정적으로 취약한 사용자)과 페르소나 기반 탈옥(jailbreak)에도 행동을 안정화할 수 있다고 제시한다.
AVERI는 501(c)(3) 비영리로, 가장 강력한 AI 시스템과 이를 만드는 기업이 제3자에 의해 안전·보안 관점에서 엄격히 감사받는 세계를 목표로 한다. 독립적인 제3자 감사가 AI의 신뢰 있는 배치와 핵심 위험 관리에 필수라고 설명하며, 최근에는 언어모델의 near-verbatim memorization을 연구하는 방법 관련 프리프린트와 미국의 frontier AI auditing 관련 입법 현황 조사·과제 논의 및 특정 법안에 대한 첫 지지 내용을 공개했다.