AI 안전 다이제스트

2025-04-24 · 2건

🇰🇷 AI규제샌드박스를 위한 정책 과제 (2025.4.24)

공공 · 과학기술정책연구원 · ⚖️📏

2026년 인공지능기본법 시행을 앞두고, 인공지능의 복잡한 사회·윤리적 위험에 대응하기 위해 AI규제샌드박스를 체계적으로 도입해야 한다고 제안한다. 주요국 사례와 국내 법제를 분석해 데이터 공유, 표준화, 글로벌 상호운용성, 이해관계자 참여, 규제기관 전문성, 평가체계 등 6대 핵심 요소를 제시했다. 또한 AI규제샌드박스를 실증 이후의 사후관리, 국제 상호인정 인증, 데이터 이동 규범까지 포함하는 전 주기적 규제 실험 인프라로 설계해야 한다고 강조한다.

🇺🇸 Anthropic 연구: 모델 복지 탐구 시작 (2025.4.24)

기업 · Anthropic Research · 📜🚀

Anthropic은 인간 복지를 최우선 목표로 하며, 발전하는 AI 시스템이 인류에게 이로운지 확인하는 데 집중하고 있습니다. 최근에는 AI 모델의 의식과 경험 가능성에 대한 윤리적 고려 사항으로서 '모델 복지'를 탐구하기 시작했습니다. 이 연구는 모델의 의식 여부와 경험의 가치 판단 기준을 탐색하며, 이를 통해 안전하고 책임감 있는 AI 개발을 지원하려 합니다. 현재 과학적 합의는 없지만, 이 주제에 대해 겸손한 태도로 접근하고 지속적으로 연구 방향을 수정할 계획입니다.