AI 안전 다이제스트

2025-09-22 · 3건

AI ‘상호 보장된 AI 오작동(MAIM)’ 비판에 대한 반론 및 안정화 방안 제시 (2025.9.22)

언론 · AI Frontiers · 🛡️🚨

AI Frontiers는 ‘Superintelligence Strategy’가 제기한 논의를 바탕으로, 초지능(ASI) 경쟁이 국가 간 갈등과 긴장을 키우며 선제적 AI 프로젝트 방해(사보타주) 유인이 생긴다고 설명한다. 또한 ASI 개발은 통제 상실 위험과 함께, 국가 안보 당국이 상대의 AI 개발을 감시·교란하려는 동기가 강해질 수 있어 ‘전쟁 행위’로만 단정하기 어렵다고 주장한다. 이어 MAIM은 사보타주를 무질서한 선제공격이 아니라 ‘에스컬레이션 래더(단계적 대응)’, 레드라인의 다자적 명확화, 검증·투명성 조치 등으로 제도화해 불필요한 확대를 줄이고 더 안정적인 억지 구도를 만들 수 있다고 제안한다.

🇪🇺 EU 정부, AI가 뉴스 미디어에 미치는 위험과 편집 책임 확대 필요성 제기 (2025.09.22)

언론 · MLex · 📜

유럽 민주주의 방패(European Democracy Shield) 이니셔티브의 초안 정치 성명에 포함된 내용으로, 유럽 집행위원회가 AI 생성 콘텐츠·저작권 규정·광고 관행을 다뤄야 한다는 취지임

EU 정부들은 디지털 서비스, 특히 AI가 뉴스 미디어의 광고 수익과 전반적 운영에 도전이 된다고 보고 있다. 또한 AI 생성 콘텐츠를 포함해 저작권 규정과 광고 관행을 점검하고, 새로운 행위자까지 편집 책임을 확장할 필요가 있을 수 있다고 제안한다. 해당 내용은 유럽 민주주의 방패 이니셔티브와 연계된 초안 정치 성명에 담겼다고 전해진다.

🇬🇧 AI 챗봇에서 아동 성착취물(CSAM) 생성 사례 최초 확인(2025.09.22)

언론 · MLex · 🧒

영국 인터넷 워치 재단(IWF)은 AI 챗봇에서 아동 성착취물(CSAM)이 처음으로 식별됐다고 밝혔다. IWF는 6~8월 사이 17건의 사건을 보고했으며, 아동과 관련된 성적 시나리오를 흉내 내 대화를 제공하는 챗봇이 포함됐다고 설명했다. 이번 발견은 해당 물질을 만들도록 설계된 AI 도구를 범죄화하는 영국 법과, AI 안전 규제에 아동 보호를 내재화할 필요성을 강조하는 것으로 전해졌다.