AI 안전 다이제스트

2025-10-24 · 3건

🇰🇷 제80차 UN 총회의 글로벌 AI 거버넌스 논의와 시사점 (2025.10.24)

공공 · 대외경제정책연구원 · 📜🛡️

제80차 UN 총회에서는 신뢰성 있고 책임 있는 AI 활용을 위한 글로벌 AI 거버넌스 구축을 논의하고, 글로벌 다이얼로그와 국제과학패널 출범 등 협력 기반을 마련했다. 각국은 자율무기, 디지털 격차와 디지털 식민주의, AI 규제 등 안보·포용성 문제를 다뤘지만, 주요국 간 이견으로 단기간 내 실행력 있는 거버넌스 체계 수립에는 한계가 확인됐다. 한국에는 UN 논의에 적극 참여하고 AI 중견국 및 글로벌 사우스와 협력해 선진국과 개발도상국 간 가교 역할을 강화할 필요가 제시됐다.

미스트랄 AI, 기업용 프로덕션 AI 플랫폼 ‘AI Studio’ 공개 (2025.10.24)

기업 · 미스트랄 AI

미스트랄 AI가 기업의 AI 프로토타입을 평가·배포·운영 단계로 전환하도록 지원하는 AI Studio를 공개했다. 플랫폼은 Observability, Agent Runtime, AI Registry를 중심으로 사용량 추적, 평가와 피드백 수집, 버전·계보 관리, 거버넌스 및 재현 가능한 에이전트 실행을 제공한다. 하이브리드·전용·자체 호스팅 배포를 지원하며, 기업은 비공개 베타에 신청할 수 있다.