인공지능 환경에서의 아동·청소년 권리보장을 위한 국회 정책토론회 (2026.8.31)
초록우산은 인공지능 환경이 아동·청소년의 삶에 미치는 영향을 살펴보고 권리 보장 방안을 논의하는 국회 정책토론회를 개최한다. 토론회에서는 아동·청소년이 AI를 안전하고 건강하게 활용할 수 있도록 필요한 정책과 제도적 지원 방안을 논의할 예정이다.
초록우산은 인공지능 환경이 아동·청소년의 삶에 미치는 영향을 살펴보고 권리 보장 방안을 논의하는 국회 정책토론회를 개최한다. 토론회에서는 아동·청소년이 AI를 안전하고 건강하게 활용할 수 있도록 필요한 정책과 제도적 지원 방안을 논의할 예정이다.
Apart Research는 5,000편 이상의 AI alignment 연구 논문을 Claude 3.5로 주제·하위 주제별 클러스터링하고, 논문 간 의미적 관계를 인터랙티브 지식 그래프로 시각화하는 오픈소스 도구를 소개했다. 이 도구는 연구 영역별 요약과 시각적 탐색 기능을 제공하며, 향후 Alignment Forum 게시물 통합, 시각화 개선, 클러스터링 고도화, 자동 업데이트를 추진할 예정이다.
Modeling Cooperation은 연구자와 정책 담당자가 AI 경쟁에서 안전 유인이 유지되거나 약화되는 조건을 직접 탐색할 수 있도록 인터랙티브 도구를 제공한다. 도구에는 안전 지식과 성능 간 상충을 분석하는 Safety-Performance Tradeoff 앱, 시간에 따른 경쟁을 다루는 Baseline 앱, 정적 AI 경쟁을 모델링하는 Racing to the Precipice 앱이 포함된다. 사용자는 매개변수와 전략적 가정을 조정하고 결과를 시각적으로 비교할 수 있으며, 기술 개요에서는 도구의 신뢰성·조합 가능성·장기 유지보수 방식을 설명한다.
유엔과 국제적십자위원회(ICRC)는 자율무기체계가 인간을 자율적으로 표적화하는 도덕적 한계선에 가까워졌다며 각국에 금지와 제한을 도입하라고 촉구했다. 양측은 해당 무기가 아직 개발 중이며 전장 배치가 확인되지는 않았지만, 민간인 보호를 위한 규제가 시급하다고 밝혔다. 오는 11월 제네바에서 열릴 재래식무기협약 회의가 법적 구속력 있는 규칙 마련을 위한 가장 현실적인 경로가 될 수 있다고 설명했다.
항공 스타트업 에어빌리티가 최대 8대의 요격기를 협력하여 여러 드론을 동시에 대응하는 AI 요격 시스템을 개발 중이다. 이 시스템은 드론의 위협도를 AI가 판단하고 요격기들에 표적을 자동 배분하여 효율적으로 대응한다. 정부의 지원을 받아 3년간 30억 원을 투자받아 실증 연구를 진행할 예정이며, 향후 방산뿐 아니라 원전, 공항 등 주요 시설 보호에도 적용될 계획이다.
이 프로그램은 사이버 보안 및 머신러닝 전문가들을 대상으로 하는 5일간의 집중 교육으로, 빠르게 진화하는 Frontier AI 시스템의 보안 문제를 탐구하고 해결하는 능력을 키웁니다. 참가자들은 모델 공격과 방어 기술을 배우며, 실제 사례 연구와 실습을 통해 AI 보안 분야에서의 기여 방안을 이해하게 됩니다. 교육은 싱가포르에서 진행되며, 비용은 전액 자선 기금으로 지원되어 참가자들에게 부담이 되지 않습니다. 신청은 2026년 8월 6일까지 가능합니다.