AI 안전 다이제스트

2025-11-11 · 3건

AI 혁신과 개인정보 보호, 공존의 해법 — AI 개발 데이터 수요에 대응한 개인정보 보호법 개편 방안 (2025.11.11)

공공 · 국회입법조사처 · ⚖️

우리나라는 기술·산업적으로 활용할 수 있는 데이터가 풍부하지만, 개인정보 보호법이 경직적으로 운영돼 AI 개발을 위한 데이터 활용에 어려움이 있다. 특히 인터넷에 공개된 개인정보와 기존 수집 데이터의 재활용을 뒷받침할 법적 근거가 부족해 AI 학습용 데이터 확보가 제한된다. 국회입법조사처는 변화한 기술 환경에 맞춰 법을 유연하게 개편하고 개인정보 보호와 데이터 활용의 균형을 마련할 필요가 있다고 제안했다.

Concordia AI, 프런티어 AI 위험 모니터링 플랫폼의 10가지 핵심 분석 (2025.11.11)

공공 · Concordia AI · 🤖🧪

Concordia AI는 15개 주요 개발사의 모델을 사이버 공격, 생물학, 화학, 통제 상실 등 4개 위험 영역에서 추적하는 플랫폼과 2025년 3분기 보고서를 공개했다. 최근 1년간 네 영역의 누적 최대 Risk Index는 각각 사이버 31%, 생물학 38%, 화학 17%, 통제 상실 50% 상승했으며, 추론 모델은 비추론 모델보다 능력이 높지만 안전성 개선은 뚜렷하지 않았다. 생물학·사이버 분야의 능력은 인간 전문가 수준을 일부 넘어섰지만, 유해 생물학 질의 거부율이 80%를 넘는 모델은 일부에 그쳤고, 대부분 모델의 jailbreaking 방어와 정직성도 부족했다. 플랫폼은 향후 AI 에이전트·멀티모달 모델과 대규모 설득 위험을 포함하고, 벤치마크와 다국어 범위를 확대할 계획이다.