AI 안전 다이제스트

2026-06-13 · 10건

GLM-5.2 (Zhipu AI) (2026.6.13)

기업 · DemandSphere · 🔓🚀

Reasoning · Open · 1000K ctx · $1.4/M · $4.4/M

GPQA 91.2% · AIME 99.2%

753B MoE / 40B active. SWE-Bench Pro 62.1% (up from GLM-5.1's 58.4%), beating GPT-5.5 (58.6%). Terminal-Bench 2.1 81.0% (82.7% best harness), AIME 2026 99.2%, GPQA Diamond 91.2%, HLE 54.7% with tools, MCP-Atlas 76.8%. Selectable reasoning effort (High/Max). 1M context, up to 131K output. Open-weight, MIT license. API $1.40/$4.40 per 1M tokens (cached input $0.26); GLM Coding Plan from ~$10/mo.

🇪🇺 유럽 AI Office, 생성형 AI 투명성 Code of Practice 서명 요청(2026.6.13)

공공 · 유럽연합 집행위원회 디지털전략(EC Digital Strategy) · 📋🔬

2026.6.22 정보 세션, 서명 명단은 2026.7 공개, AI Act의 AI-generated content 표시·라벨링 의무 적용은 2026.8.2 유럽연합 집행위원회 AI Office는 생성형 AI의 제공자와 배포자가 AI-generated content 투명성 Code of Practice에 서명해 AI Act의 투명성 의무(제50조 2항·4항)를 준수하겠다는 의사를 밝히도록 요청했다. 서명자는 향후 코드 준수 여부를 모니터링하는 방식의 집행이 이뤄지며, 예측 가능성과 법적 확실성, 행정 부담 감소를 기대할 수 있다고 설명했다. 서명자는 2026년 7월에 공개 등재되며, 2026년 8월 2일 AI Act의 표시·라벨링 의무 적용에 앞서 관련 절차를 진행할 수 있다.

🇪🇺 AI법상 ‘고위험’ AI 시스템 분류 초안 지침에 대한 명확성·예시 유용성 의견수렴(2026.6.13)

공공 · 유럽연합 집행위원회(European Commission) 디지털 전략(Digital Strategy) · ⚖️📋

문의수집 일정: 2026.5.19 개시, 2026.7.23 마감(기존 6주→4주 연장). 고위험 규정 적용은 stand-alone 2027.12, 제품 내 내장형 2028.8로 연기; 최종 지침은 2026년 말 채택 예정.

유럽연합 집행위원회는 AI Act상 고위험 AI 시스템 분류를 돕기 위한 ‘초안 지침’의 명확성과 예시의 유용성에 대해 이해관계자 의견을 수집한다. 지침은 제공자·운영자 및 시장감시 당국이 해당 AI 시스템이 고위험으로 분류되는지 판단할 때의 근거(관련 AI Act 조항)와 분야·사용사례별 실무 예시를 제공한다. 또한 당초 2026.6.23까지였던 마감일을 4주 연장해 2026.7.23까지 온라인 설문을 통해 의견을 제출받으며, 최종 지침은 2026년 말 채택 계획이다.

🇪🇺 Call for participants: Workshop—GPAI 모델의 systemic risk 외부평가자 independence·자격 요건 논의 (**기사·공고 게재일** 2026.6.13)

공공 · 유럽연합 집행위원회(디지털 전략) AI Office · ⚖️📋🧪

유럽연합 집행위원회 AI Office는 GPAI(범용 목적 AI) 모델의 systemic risk 평가를 위해 외부 evaluators가 갖춰야 할 independence 및 qualification requirements에 대한 전문가 의견을 요청했다. 워크숍은 2026년 7월 15일 온라인으로 열리며, GPAI Code of Practice 및 AI Act 체계에서 외부평가의 신뢰성과 신뢰도 확보를 위한 요건 개발에 반영할 계획이다. 참여는 관련 전문성을 가진 개인/기관을 대상으로 하며, GPAI 모델과 systemic risk에 대한 고품질 평가 경험(예: red teaming, uplift studies, white-box 평가 등)이나 systemic risk 평가에 초점을 둔 AI 거버넌스 관련 성과가 선정 기준에 포함된다.

🇪🇺 AI Act 생성형 AI 표시·라벨링 준수를 위한 ‘Code of Practice on marking and labelling of AI-generated content’(2026.6.13)

공공 · 유럽연합 집행위원회 디지털 전략(GD 인공지능) 웹페이지 · ⚖️📋🎭

AI Act 제50조 투명성 의무는 2026.8.2부터 적용되며, 위 자율적 실행강령(10 June 2026 공개)은 부호화·탐지(제공자) 및 딥페이크/AI 생성·조작 텍스트·공개물 라벨링(배포자)을 회원국 전반에서 일관되게 적용하도록 돕는다고 밝힌다. 이 강령은 AI Office의 촉진 하에 독립 전문가들이 다자 이해관계자 과정으로 마련했으며, 서명자는 강령의 조치를 통해 법적 의무 준수를 입증하는 데 활용할 수 있다. 다만 다른 방식으로 준수하려는 경우 조치의 적정성은 각 시장감시 당국이 개별 평가하며, 서명자들은 시행을 위해 Signatory Taskforces에서 관행을 공유한다. 또한 작업그룹 1(제공자)과 2(배포자) 중심으로 기계 판독 가능한 표시·탐지와 딥페이크 및 공공관심사 관련 AI 생성/조작 텍스트의 공개·인간 검토 여부 등을 다룬다고 설명한다.

🇪🇺🇺🇸 생성형 AI 거버넌스: 불확실성 하에서의 규제 옵션과 위험·국가별·국제 논의 정리 (**2026.6.13**)

공공 · 스탠퍼드대학교(Stanford University) 사이버 정책·FSI(Cyber Policy) 산하 자료 · ⚖️📋🧪🎭

생성형 AI의 사회·경제적 영향이 빠르게 확산되었지만, 정부 정책과 규제는 기술 발전 속도를 따라가지 못해 다양한 법안과 제안이 세계 각지에서 나오고 있음을 설명한다. 보고서는 위험을 완전히 예측한 뒤 움직이기 어렵기 때문에, 정부가 지금 당장 적용 가능한 규제·거버넌스 옵션을 모아 이해관계자 간 정보 공유와 모범사례 수립을 촉진하려는 목적을 밝힌다. 기술 리스크로는 합성 이미지 기반 허위정보, 음성 모방 사기, 차별·편향, jailbreaking 취약성과 챗봇의 부정확한 응답 등이 언급되며, 업계 자율적 표준·관행과 함께 EU AI Act의 위험 등급별 의무, 미국의 행정명령·주(州)별 입법, 국제기구의 비구속 프레임워크 및 국제 조약·가이드라인(예: 유럽평의회 국제 AI 조약, UN·UNESCO 논의) 등 규제 접근이 비교된다.

CVE 기반 소프트웨어·하드웨어 취약점(Cyber Vulnerabilities) 추세를 2020년 이후부터 분석 제공 (2026.6.13)

공공 · Epoch AI · 🔒

2020년 이후의 CVE 공개 레코드를 cve.org 데이터로 집계해 취약점 발표일 기준으로 시각화하고, CVSS 점수(0~10)를 None/Low/Medium/High/Critical로 구분해 심각도 분포를 제공한다. 또한 CNA(CVE Numbering Authority)별 보고 건수를 ‘주요 CNAs’ 중심으로 나누고 그 외는 Other로 묶으며, CNA들의 보고 관행 차이로 연도별 변동(예: Linux의 CNA 전환 이후 증가)이 발생할 수 있다고 설명한다. Claude Mythos Preview(2026.4.7 발표) 및 OpenAI의 GPT-5.5·GPT-5.5-cyber 관련 주장과 같은 사건이 보고량 변동과 연관될 수 있다는 취지의 설명도 포함된다.

🇨🇳🇪🇺 AI 경쟁력 하락 우려: DeepSeek R1 등 효율 경쟁에도 유럽은 제약과 투자 격차에 불안(2026.6.13)

DB · AI-Risk-Explorer · 🚀

브뤼셀에서는 중국 DeepSeek의 모델 R1이 “적은 자원으로도 성능 있는 AI를 만들 수 있다”는 기대를 불러일으켰지만, 역수출 통제와 컴퓨트(compute) 제약 등으로 곧 한계에 부딪힐 수 있다는 신중론도 함께 제기됐다. 반면 미국은 R1과 직후의 OpenAI o3-mini 같은 진전으로 투자를 계속하며 유럽의 반응이 제한적이라고 묘사된다. 한편 인물은 실리콘밸리에서 ‘코드 작성 자동화’와 AGI에 대한 확신이 강한 분위기를 접했으나, 유럽 정책 환경에서 그 주장이 현실적으로 전달되기 어렵다고 느낀다.

Cooperative AI 9번째 세미나, AGI 시대 ‘자동화된 감시(automated oversight)’로 대의민주 책임성 확보 논의 (2026.6.13)

기타 · Cooperative AI Foundation (cooperativeai.com) · 🤖

2026.6.16(UTC) 16:00~17:00 세미나 진행, “This seminar has now finished” Cooperative AI는 AI 에이전트가 기관 운영에 관여할 때 인간이 개별적으로 검토하기 어려워지는 문제를 제기했다. 사람들이 이메일·문서 등에서 남기는 증거 기반의 책임성은 에이전트 로그와 model calls로 이동할 가능성이 있으며, 이를 자동으로 읽고 특정 약속을 시험한 뒤 서명된 판정과 위반 시 인권/규제기관/공중으로의 에스컬레이션을 제공하는 체계가 필요하다고 설명했다. 또한 이러한 아키텍처를 전방(frontier) AI 연구소뿐 아니라 정부와 기업에도 적용할 수 있다고 제안했다.

🇨🇳 베이징 AI Safety Residency(2026.6.13) 참가 안내(지원·비자·일정·역할)

기타 · docs.google.com

베이징 AI Safety Residency는 2026년 9월 중순부터 약 3개월(기본값) 체류를 전제로 하며, 적합한 후보에 한해 더 긴 방문도 가능하다고 안내한다. 연구는 대체로 self-directed이며, 대부분의 연구자는 중국에서 컨퍼런스·저널 제출 논문 협업과 함께 레지던시 종료 시 연구 요약 발표, 장기적으로는 최소 1개 public output을 요구받는다. 접수는 2026.6.5~6.30이며, F visa(academic research exchange)로 진행되고 항공·주거와 여행보험이 제공되고, stipend은 USD로 외부 계좌에 지급된다. 운영은 Andrew Yao 교수가 주도하고 Xu Wei 교수 및 Soren Mindermann 박사와 함께하며, Safe AI Forum(SAIF)이 비영리로 지원·중개 역할을 한다.