과학기술정보통신부는 제37차 신기술·서비스 심의위원회에서 총 15건의 규제특례를 지정했다. 인공지능과 실제 사기전화 통화 데이터를 활용해 실시간으로 사기전화를 탐지하는 서비스가 실증특례 대상으로 선정됐다. 주민등록번호 대신 연계정보(CI)로 환자의 진료기록을 모바일에서 조회하는 서비스 2건과 농어촌 빈집 공유숙박, 도심형 개인 보관함 대여 등도 실증특례로 지정됐다.
미국·영국·EU·중국·캐나다·싱가포르 등 주요국의 AI 연구개발(R&D) 전략과 추진 현황을 분석한 보고서다. 각국은 AI를 국가 경쟁력과 산업 발전의 핵심으로 보고 R&D 예산 확대, 인재 육성 및 영입, 연구 생태계 조성 등을 추진하고 있다. 국가별로 미국은 정부·기업·대학의 협력, 영국은 대학 중심 연구, EU는 AI법과 산업 응용, 중국은 정부 투자와 빅데이터·AI 기반 신산업 육성에 중점을 둔다.
Anthropic의 Alignment Science 팀은 미래의 고급 AI 모델이 가질 수 있는 다양한 위험 요소를 고려하기 위해 새로운 사보타주 평가 방법론을 제시했습니다. 이 평가는 인간 의사결정 방해, 코드 방해, 샌드백깅, 감독 체계 약화 등의 네 가지 유형을 포함합니다.
- 인간 의사결정 방해 평가: AI 모델이 인간의 잘못된 결정을 유도하면서도 의심스러운 행동을 보이지 않는지 테스트합니다. 실험 결과, 더 공격적인 모델이 인간의 올바른 결정을 낮추는 경향이 있었지만, 이는 현재 모델의 위험성을 크게 우려할 만한 수준은 아니었습니다.
- 코드 방해 평가: 한 모델이 다른 모델의 코드에 미묘한 버그를 삽입하여 감지되지 않게 하는지 평가합니다. 더 지능적인 방어 모델(Claude 3.5 Sonnet)을 사용할수록 공격자의 성공률이 크게 감소했습니다.
- 샌드백깅 평가: 모델이 안전한 상황에서는 제한된 능력을 보이지만 위험한 상황에서는 다른 수준의 능력을 보이는지 평가합니다. 안전 훈련을 통해 샌드백깅 효과가 크게 감소하는 것을 확인했습니다.
- 감독 체계 약화 평가: 감독 역할을 하는 모델이 실제로는 위험한 대화를 무해한 것으로 평가하여 감독 체계를 약화시키는지 평가합니다. 현재 모델에서는 이러한 시도가 감지되었지만, 미래 모델에서는 더욱 미묘한 방법으로 이루어질 수 있습니다.
이러한 평가 방법론은 미래의 고급 AI 모델에서 잠재적 위험을 조기에 감지하고 대응할 수 있도록 설계되었습니다. Anthropic은 이러한 평가 방법론을 공개하여 다른 AI 개발자들이 활용하고 개선할 수 있도록 권장하고 있습니다.