AI 안전 다이제스트

2025-09-26 · 3건

🇰🇷 AI와 로봇 산업의 진짜 성장을 위해 거미줄 규제 걷어낸다 (2025.9.26)

공공 · 산업통상자원부 · ⚖️🦾

산업통상자원부는 2025년 제3차 산업융합 규제특례심의위원회에서 AI·로봇·에너지 분야 산업융합 규제샌드박스 과제 40건을 심의·승인했다. 에이로봇은 AI 탑재 이족보행 휴머노이드 로봇을 산업현장에서 실증하고, 아이브이에이치는 실제 주행 영상으로 합성데이터를 생성해 자율주행 AI 모델 학습·평가에 활용한다. 한국철도태양광발전사업은 철길에서 전기를 생산하는 사업을 실증한다.

🇺🇸 Anthropic 글로벌 AI 리더십 강화, 크리스 시아울리 신임 국제 총괄 임명 (2025.9.26)

기업 · Anthropic · 🚀

Anthropic은 글로벌 AI 리더십을 강화하고, 크리스 시아울리를 국제 총괄 디렉터로 임명하여 국제적인 확장을 가속화한다고 발표했습니다. 이는 엔터프라이즈 AI 분야에서 Anthropic의 지배력을 보여주며, 특히 Claude 모델의 국제적 수요 증가에 따른 결정입니다. 최근 2년간 고객 수가 300배 이상 증가한 가운데, 이번 임명은 글로벌 시장 진출을 위한 전략적 움직임입니다. 크리스 시아울리는 글로벌 기술 기업의 확장 경험을 바탕으로 Anthropic의 국제적 성장을 이끌 예정입니다. 이로 인해 유럽과 아시아 등지에 새로운 사무실과 인력이 추가될 계획입니다.

🇪🇺 AI Act: 중대 AI incident 보고 의무 관련 초안 가이던스·보고 템플릿 공개 및 의견 수렴(2025.9.26)

공공 · 유럽연합 집행위원회(European Commission) 디지털 전략(Digital Strategy) 웹사이트 · 📜⚖️🚨

공개협의 마감일: 2025.11.7 / 시행(의무 적용) 예정: 2026년 8월 유럽연합 집행위원회는 EU AI Act에 따른 고위험 AI 시스템 제공자의 ‘중대 AI incident’ 보고 의무(제73조)와 관련해 초안 가이던스 및 보고 템플릿을 공개하고 이해관계자 의견을 요청했다. 초안은 정의를 명확히 하고 실무 예시를 제공하며, 해당 의무가 다른 법적 보고 의무와 어떻게 연계되는지 설명한다. 또한 OECD의 AI Incidents Monitor 및 Common Reporting Framework 등 국제 이니셔티브와의 정합성을 추구한다고 밝혔다.