AI 안전 다이제스트

2026-07-18 · 5건

🇨🇳 시진핑 중국 주석, 세계인공지능협력기구(WAICO) 설립 협정 서명 발표 (2026.7.18)

K-AISI 주간동향 · SCIO · 📜

시진핑 중국 국가주석이 상하이2026 세계인공지능대회(WAIC)에서 세계인공지능협력기구(WAICO) 창설과 공정한 글로벌 AI 거버넌스 구축을 제안. 중국 외교부는 카자흐스탄, 파키스탄, 러시아, 인도네시아 등 29개국이 WAICO 설립 협정에 서명했다고 발표한 가운데 WAICO는 AI 국제협력과 글로벌 거버넌스를 위한 상설 플랫폼으로 운영될 예정이며, 유엔 헌장 원칙과 광범위한 협의·공동 기여·공동 이익·인간 중심 원칙을 바탕으로, AI의 건전하고 공정하며 인류에게 이로운 발전을 도모.

Apple, ‘Nudify’ AI 앱 8종 삭제 요구에 “규정 위반으로 앱 제거·개발자 계정 종료 진행”(**기사 게재일** 2026.7.18)

DB · AI-Risk-Explorer · 🎭

샌프란시스코 시 법무장관 David Chiu가 애플에 중단·이행명령서(cease-and-desist letter)를 보내 해당 앱을 앱스토어에서 제거하고, 캘리포니아 법상 deepfake 생성에 도움을 주는 서비스 지원 금지에 따른 조치를 요구했다고 전했다. 애플은 성인/음란 목적 생성·유통·소비 앱을 App Review Guidelines에서 엄격히 금지하며, 문제로 지목된 앱 3개를 삭제했고 나머지 앱의 개발자 계정 종료를 진행 중이라고 밝혔다. 또한 앱스토어 검색어 차단과 함께 신규 앱 사전 심사 도구를 강화하도록 Chiu가 애플과 구글에 요구하고 있다고 설명했다.

Curated information frameworks and the Governance of artificial intelligence (**2026.7.18**)

연구 · 📋

AI 거버넌스를 단순한 disclosure이나 사용 지침이 아니라, 기술 결정론에 대한 resistance와 지역 공동체의 authority·sovereignty 회복을 포함하는 participatory 과정으로 제안한다. agricultural AI를 중심 사례로 삼아, 기존 투명성 체계가 이해당사자의 lived realities와 misaligned이거나 접근 불가능한 형태로 정보를 공개해 technocratic power를 강화하는 양상을 분석한다. autonomous apple-picking system 사례를 통해 CIF가 engineers, growers, farmworkers, regulators 사이에서 interpretive authority를 재분배해 communities가 시스템을 이해하는 것을 넘어 evaluation과 deployment의 조건에 대해 contest할 수 있음을 보인다.

🇪🇺 EU Artificial Intelligence Act: risks and opportunities for the European system (2026.7.18)

연구

EU Artificial Intelligence Act가 AI 기술 확산에 대응하는 EU의 전략적 규제 체계와 그 의미를 정리한다. AI를 bounded rationality에 뿌리를 둔 augmented intelligence의 도구로 개념화하고, 현대 AI가 최적화보다 휴리스틱과 대규모 데이터 처리에 기반한 satisficing logics를 따른다는 관점을 전개한다. AI Act의 위험 기반 아키텍처는 기본권·안전·민주적 가치에 대한 잠재적 위해의 심각도와 발생 가능성에 따라 AI 시스템을 분류하며, 특히 high-risk AI는 법적·기술적·경제적 준수 부담이 커서 SMEs와 start-ups에 도전이 된다고 논의한다. 동시에 규제 경직에 따른 혁신 둔화와 시장 진입 장벽 가능성을 인정하면서도, trustworthy·human-centric AI 생태계 구축, Digital Single Market 강화, “Brussels effect”로 인한 글로벌 규제 벤치마크 형성 가능성 같은 기회를 강조한다.