AI 안전 다이제스트

2024-12-30 · 3건

🇺🇸🇨🇳 글로벌 인공지능 군사혁신과 미래 전쟁: 주요 군사강국의 전략·거버넌스·기술 생태계 (2024.12.30)

공공 · 국회미래연구원 · 📜🛡️

보고서는 미국·러시아·중국·인도·영국·이스라엘과 NATO의 인공지능 군사혁신 전략, 군구조 개혁, 기술혁신 생태계, 인재양성 및 윤리 문제를 비교·분석한다. 주요국이 인공지능을 미래 안보의 핵심 과제로 인식하고 군사전략과 기술, 인재양성에 대한 투자를 확대하고 있다고 평가한다. 한국에는 중장기 인공지능 군사혁신 전략 수립과 함께 군구조 개혁, 민군 파트너십, 국방AI 인재양성, 국제협력 및 AI 군사화 관련 윤리·글로벌 규범 주도가 필요하다고 제안한다.

🇰🇷 아동·청소년 대상 AI 디지털 성범죄 감시체계 강화방안 (2024.12.30)

공공 · 서울연구원 · 📜🧒

서울연구원은 아동·청소년 대상 디지털 성범죄의 증가에 대응하기 위한 AI 기반 감시체계 강화방안을 분석한 보고서를 발표했다. 2021년 7월 서울시 조사에서 초·중·고생의 21.3%가 채팅이나 SNS를 통한 디지털 성범죄를 경험한 것으로 나타났으며, 안면인식·객체탐지·광학문자인식 등을 활용한 신속한 탐지와 대응이 필요하다고 제시했다. 데이터셋 구축과 딥러닝 모델 최적화 등 기술적 과제를 해결하기 위해 정책 개선, 인식 교육 강화, 국제 협력이 필요하다고 밝혔다.

🇰🇷 인공지능 채용 가이드라인(안) 개발 (2024.12.30)

공공 · 한국노동연구원 · 📋

한국노동연구원은 인공지능 채용의 공정성과 투명성을 확보하기 위한 가이드라인(안)을 모색한 보고서를 발표했다. 인공지능은 채용 비용을 줄이고 평가의 객관성을 높일 수 있지만, 학습된 편견과 불투명한 판단 과정으로 인해 차별과 신뢰 저하를 초래할 우려가 있다. 보고서는 기업이 인공지능 활용 사실을 구직자에게 알리고 동의권과 알 권리를 보장하며, 사전 편향성 감사와 사후 영향평가를 실시하고 가능한 경우 채용 결과를 피드백하도록 권고한다.