CAISI는 Z.ai(구 Zhipu AI)가 2026년 6월 16일 공개한 오픈웨이트 모델 GLM-5.2에 대해 7월 8일까지 평가를 완료했으며, 7월 17일 결과를 공개했다. 평가에 따르면 GLM-5.2는 출시 당시 오픈웨이트 모델 중 가장 높은 역량일 가능성이 크고, 전반적 성능은 2025년 12월 공개된 GPT-5.2와 유사하다고 했다. 사이버 역량은 2026년 2월 공개된 Opus 4.6와 유사했으며, 세이프가드/보안 성능은 혼합적이지만 agent hijacking 및 jailbreaking 공격에 대해서는 다른 평가 대상 PRC 오픈웨이트 모델보다 더 견고할 수 있다고 밝혔다. 다만 오픈웨이트 모델의 세이프가드는 self-hosted 환경에서 우회될 수 있다고 설명했다.
중국 상하이에서 개최된 2026 세계인공지능대회(WAIC) 및 글로벌 AI 거버넌스 고위급 회의에 100여 개국이 참여하여 의장성명을 채택. 본 의장성명은 AI를 새로운 글로벌 거버넌스 의제로 규정하고, 발전과 안전, 혁신과 거버넌스의 균형을 바탕으로 사람 중심·공정·포용·협력 원칙을 강조하며, 국제사회가 AI 거버넌스를 위해 연대와 협력을 강화하고, AI의 혜택을 폭넓게 공유하는 동시에 글로벌 차원의 공동 규범과 거버넌스 체계를 마련해야 한다고 촉구.
EU 집행위는 7번째 연례 Rule of Law Report를 발표해 EU 전 회원국과 후보국(알바니아, 몬테네그로, 북마케도니아, 세르비아)의 법치 현황을 평가했다. 보고서는 독립적인 사법체계, 반부패 체계, 자유롭고 다원적인 언론, 견제와 균형이 시민 권리 보호와 공공기관·민주주의에 대한 신뢰를 뒷받침한다고 밝혔다. 주요 내용으로는 European Media Freedom Act(EMFA)와 연계한 언론 관련 법·제도 정비, 언론인 안전 강화, SLAPP(공익참여 반대 목적의 소송) 대응과 anti-SLAPP Directive 이행 지원, 공영방송·미디어 규제기관의 안정성은 개선되었으나 언론시장 집중과 공영방송의 편집 독립성 우려가 지속된 점이 제시됐다.
중국의 사이버공간 관리국(CAC)이 글로벌 협력 이니셔티브를 발표하여 다양한 기업의 인공지능 에이전트 간 상호 운용성과 신뢰성을 강화하려 한다. 이 이니셔티브는 에이전트 간의 상호 인식과 통신을 가능하게 함으로써 글로벌 디지털 경제의 통합을 촉진하고, 지능 격차를 방지하려는 목표를 가지고 있다. 특히 개발도상국을 대상으로 하며, 중국 내 규제 프레임워크를 기반으로 국제 표준을 설정하고자 한다. 주요 내용으로는 공동 연구를 통한 혁신 촉진, 국제 표준의 상호 인정, 공동 인프라 구축, 실제 사례 적용 가속화, 산업 협력 강화, 안전 기준 준수, 데이터 보호 강화, 자원 공유를 통한 격차 해소, 다양한 문화 존중 등이 포함된다. 이는 인공지능 에이전트 생태계의 공정하고 포괄적인 발전을 목표로 한다.
중국 대통령 시진핑은 WAIC 2026에서 글로벌 AI 통치 체계 구축을 위한 네 가지 제안을 발표했습니다. 첫째, 혁신과 발전을 촉진하기 위해 개방성과 상호 이익 협력을 강조했습니다. 둘째, AI의 안전성과 통제 가능성을 강화하기 위해 위험 인식을 강화하는 것이 중요하다고 말했습니다. 셋째, 문명 간 상호 이해와 다양성 존중을 촉구했습니다. 넷째, 글로벌 통치 개선을 위해 연대와 협력을 강조했습니다. 시진핑은 중국이 AI 개발과 통치에서 국제적 협력을 통해 인류의 복지를 증진시키는 데 기여할 것이라고 약속했습니다. 향후 5년간 중국은 개발도상국을 위한 AI 교육 프로그램 5,000개 자리 제공 등 다양한 협력 방안을 추진할 계획입니다.
문서는 Moonshot의 Kimi K3가 우수한 모델이지만 최첨단 수준은 아니며, 중국이 당분간 오픈 웨이트 모델을 공개하더라도 위험한 사이버 역량에 도달하면 공개를 제한할 가능성이 크다고 분석한다. 미국에는 오픈 웨이트 경쟁력을 유지하되 경쟁을 불필요하게 가속하지 말고, 중국의 모델 증류와 미국산 반도체 사용을 겨냥한 수출통제를 강화하라고 제안한다. 이와 함께 뉴욕주의 50MW 초과 데이터센터 건설 1년 유예, 중국 대상 AI 칩 수출통제 법안의 미국 국방수권법 포함 추진, 미국·중국 간 AI 위험 역량 확산 방지 협정 필요성 등을 전한다.
AI 정보통은 7월 16일 15시 기준으로 해외 주요 AI·사이버 관련 이슈를 정리해 공유했다. 여기에는 White House의 GOLD EAGLE 사이버보안 취약점 조정 이니셔티브, OECD의 ‘Artificial intelligence and open finance’ 관련 정책 시사점, OpenAI의 GPT-Red(자기개선 기반 견고성 연구) 및 European Commission(AI Office)의 EU 경쟁력·주권·안보 관점의 프론티어 AI 전문가 분석 보도가 포함된다. 또한 각 발표가 향후 규제·정책·보안 전략과 어떻게 연결되는지 요약해 소개했다.
Jeff Bezos와 Elon Musk가 우주 기반 인터넷의 주도권을 놓고 경쟁하는 상황과 중국이 20만 개의 위성 발사를 신청한 배경을 다룬다. 또한 AI deepfake로 수감된 여성, 스마트 안경으로 촬영된 성적 영상, ChatGPT를 활용한 이메일 자동화도 소개한다.
시진핑 중국 국가주석은 상하이 세계 AI 컨퍼런스에서 개도국을 대상으로 향후 5년간 AI 훈련·세미나 기회 5,000회를 제공하겠다고 밝혔다. 또한 ASEAN, 아랍연맹, 아프리카연합, BRICS 등과의 AI 협력을 확대하고 ‘people-centered’ 방식의 AI 거버넌스를 제시했다. 시진핑은 AI가 secure and controllable하며 항상 human control 아래 있어야 하고, AI 분야에서 국가안보 개념을 과도하게 확장하거나 한 나라의 안보를 다른 나라보다 우선시해서는 안 된다고 경고했다.
AI-optimized 조직에서 자동화 ROI만으로 의사결정을 하면 장기적 조직 위험을 놓친다는 점을 형식적 프로토콜로 다룹니다. tacit knowledge erosion, resilience reduction, regulatory exposure, socio-institutional capital degradation의 4가지 시스템 리스크를 5개 게이트의 순차 의사결정 프로토콜 PHP-AIO로 역할(role) 단위에서 정량화하고, 감사 가능한 자동화 결정을 산출합니다. 또한 역할 단위 결정을 다단계 과정에 누적하는 자동화-debt 측도 ρ(P)를 정의하며, 이 경고가 “regulator-mandated human-in-the-loop anchor”로만 중화된다고 제시합니다. 시뮬레이션용 대표 내부 역할 프로필에서 표준 비용-편익 분석이 모두 automate로 귀결하는 후보들에 대해 PHP-AIO는 automate/augment/hybrid/preserve로 서로 다른 결론을 내리고, 게이트 결정은 4개 대표 사례 중 3개에서 적어도 +14%의 상향 교란에도 견고하다고 보고합니다.
이 논문은 LLM이 콘텐츠를 humor로 바꾸는 과정 자체가 숨은 안전 위험을 만들 수 있는지 벤치마킹한다. 30,000개 이상의 real-world agent interaction 기록과 45명의 stand-up comedian 데이터를 사용해 humorization 중에 안전 문제가 발생하는 양상을 탐색하고, 이를 평가하기 위한 HumorSafe 프레임워크와 HumorPIA 공격을 제안한다. 5종 frontier LLM에서 humorization 동안 stereotypes와 toxicity가 유발될 수 있음을 보이며, HumorPIA는 겉으로는 safe humorous refusal처럼 보이면서도 harmful 내용을 covert하게 주입해 탐지를 회피한다. HumorPIA는 toxicity를 3.14× 증가시키면서 defense 설정 하에서도 apparent safety rate 97.8%를 유지한다.
책임 있는 AI(RAI)의 내부 절차는 늘었지만, 실제로 신뢰할 만한 결과를 외부에서 검증·비교할 수 있는 신호가 부족하다는 문제를 제기한다. 시장이 신뢰성 있는 시스템과 겉보기 모방을 구분하지 못하고, 평가는 deployed sociotechnical system의 outcomes가 아니라 모델·출력을 중심으로 이뤄지며, 측정 생태계는 harm 회피 증명에 치우쳐 benefit 입증이 약하다고 정리한다. 기존 AI 거버넌스 도구를 보건·지속가능성·보안의 certification 체계와 비교했을 때, governance baseline·독립 검증된 positive-outcome evidence·시장 신호를 단일 프레임으로 통합한 사례가 없다고 결론낸다. 따라서 독립적·outcome-oriented certification을 보완적 연결 계층으로 제안하며, regulation과 내부 거버넌스가 제공하는 기준을 “measurable, comparable, commercially rewarded”로 만들 수 있다고 주장한다.
요약불가
LLM 워터마크가 법정에서 쓰일 만큼 신뢰할 수 있는 ‘디지털 포렌식 증거’로서 준비성이 있는지 실증적으로 검증한다. KGW, Unigram, SynthID-Text(MarkLLM 구현) 3가지 방법을 meaning-preserving paraphrase(법적으로 현실적인 우회 공격)로 평가하고, Daubert admissibility 및 NIST SP 800-86 디지털 포렌식 절차에 맞춘 Forensic Readiness Score(FRS) 60점·12기준 프레임워크를 적용했다. 결과로 paraphrasing 후 조건부 워터마크 제거가 KGW와 Unigram은 846개 유효 실행 전부에서 100%였고, SynthID도 98.3%로 거의 제거되었다. 공격 전 false-negative rate는 KGW 70%, Unigram 83%, SynthID 80%로 높았으며, Daubert 5개 요인 중 어느 방법도 2개를 초과하지 못했다(참고로 refused=거절, complied=순응, unclear=판정 불확실). 마지막으로 SynthID가 세 방법 중 가장 높았지만(패러프레이즈 후 남는 탐지 비율 1.7%) 나머지 지표들이 전반적 증거 준비성 기준을 충족시키지 못했다.
세 연구가 서로 다른 AI safety capability thresholds를 공통 기준으로 맞추는 방법론을 제안한다. 오용(misuse) 위험(사이버·생물)에서는 expected harm을 핵심 primitive로 두고 risk channels과 model release conditions을 반영하는 명시적 risk-modeling 방식으로 harmonized threshold를 도출한다. 자동화된 AI R&D 위험에서는 expected harm 대신 관측된 AI progress의 속도(진전률)를 기반으로 threshold를 제안한다. 또한 기존 연구 대비 실증적 공백과 한계를 확장해 정리한다.
요약불가
AI 시스템이 시간이 지나도 충분히 trustworthy한지, 변화가 허용 가능한지, 그리고 그 판단을 투명하고 contestable하게 문서화하는 방법을 다루는 경량 방법론을 제안한다. 신뢰성(trustworthiness) 수준을 거버넌스 맥락에 상대적인 다차원 프로토콜로 형식화하고, trustworthiness profiles로부터 interpretable rules 형태로 수준을 학습시키는 프레임워크와, 이를 설계·배치 후 모니터링·재평가·보고에 연결하는 lifecycle 거버넌스 절차를 제시한다. proof-of-concept로 decision trees를 사용해 explicit trustworthiness plateaus, readable level transitions를 산출하며, boundary margins와 profile drift의 두 가지 lifecycle diagnostics를 제안한다. 합성(synthetic) AI lifecycle trace(분해(degradation), shocks, 업데이트, 이질적 모니터링 주기, 시스템 비교)에서 변경 추적과 거버넌스 관련 변화의 evidential basis 문서화를 보여준다.