🇰🇷 국가인공지능전략위원회, 교육·보안·지역 전담반 구성·운영 (2025.9.24)
국가인공지능전략위원회는 2025년 9월 23일 교육·보안·지역 등 3개 분야 전담반(TF)을 구성했다. 전담반은 기존 분과위원과 새 전문가가 참여해 대한민국 인공지능 실행계획(AI액션플랜) 수립과 주요 정책 논의를 지원한다. 지역 TF는 지방시대위원회와 협력해 지역 기반 인공지능 사업과 정책 현안을 다룬다.
국가인공지능전략위원회는 2025년 9월 23일 교육·보안·지역 등 3개 분야 전담반(TF)을 구성했다. 전담반은 기존 분과위원과 새 전문가가 참여해 대한민국 인공지능 실행계획(AI액션플랜) 수립과 주요 정책 논의를 지원한다. 지역 TF는 지방시대위원회와 협력해 지역 기반 인공지능 사업과 정책 현안을 다룬다.
arXiv 제출: 2025.8.11, 최종 수정(v2): 2025.9.24
백악관의 2023년 AI 자발적 8개 약속을 기준으로, 기업들이 공개한 행동을 채점해 이행 수준을 비교한 연구다. 16개 기업의 평균 점수는 53%였고 최고점 기업(OpenAI)은 83%로 나타났으며, 특히 model weight security 약속은 평균 17%로 성과가 가장 낮았다(16개 중 11개 기업은 0%). 연구진은 기업이 공개 약속을 할 때 이를 어떻게 충족하는지 사전적으로 공개하고, 그 내용이 검증 가능해야 한다고 제안한다.
범용 AI 관련 AI Act 적용은 2025.8.2부터 시작, 집행 가능 시점은 신규 모델 1년 후·기존 모델 2년 후이며, 회원국·집행위 승인 후 서명 사업자는 AI Act 의무 준수 입증에 활용 가능
유럽 집행위원회는 13명의 독립 전문가가 이해관계자 1,000여 명의 의견을 반영해 마련한 범용 AI Code of Practice 최종본을 받았다고 밝혔다. 이 자발적 도구는 AI Act의 범용 AI 규정 준수를 돕기 위한 것으로, 투명성·저작권(모든 제공자 대상)과 안전·보안(일부 고성능 모델 제공자 대상)으로 구성된다. 회원국과 집행위가 승인하고 사업자가 자발적으로 서명하면 코드 준수를 통해 관련 의무를 입증할 수 있으며, 다른 방식 대비 행정 부담을 줄이고 법적 확실성을 높일 수 있다고 설명했다.
캘리포니아 주 의회가 첨단 인공지능의 투명성 법안인 SB-53을 9월 17일 통과시켜 개빈 뉴섬 주지사에게 송부했다. 법안은 첨단 AI 개발업체에 재앙적 위험 평가와 완화 조치를 담은 framework 및 투명성 보고서 공개, 중대 안전사고 보고, 내부 고발자 보호 등을 요구하며, 위반 시 건당 최대 100만 달러의 민사 제재를 허용한다. 뉴섬 주지사는 10월 12일까지 서명 여부를 결정하며, 서명될 경우 캘리포니아는 재앙적 위험을 규제하는 첫 미국 주가 된다.
Concordia AI는 2025년 1~7월 국제 AI 안전·거버넌스 조정, 중국·싱가포르 AI 안전 분석, 국제 보고서 작성과 정책 협의에 참여했다고 밝혔다. 프랑스·상하이·싱가포르 등에서 AI 안전 회의와 워크숍을 개최하고, AI와 생명과학의 융합에 따른 biosecurity 위험 및 첨단 AI의 오용·통제 상실 위험을 다뤘다. 또한 중국의 국가·산업 AI 안전 표준 개발에 기여하고, Shanghai AI Lab과 중국 최초의 포괄적 범용 AI 심각 위험 관리 프레임워크를 공동 발표했으며, 관련 기업과 정책 담당자에게 위험 관리 자문을 제공했다.