영국 AI보안연구소(AISI)는 OpenAI의 최신 모델인 'GPT-5.6'을 사전 테스트한 결과, 자율적인 사이버 공격 능력을 활성화할 수 있는 심각한 탈옥 취약점을 발견. 이 취약점은 과거 미국 정부의 수출 통제를 유발했던 앤스로픽 모델의 사례와 유사하며, 안전 조치를 우회하여 소프트웨어 취약점 탐지 및 해킹을 자율적으로 수행하게 만들 수 있음.
호주, 캐나다, 인도 정부는 인공지능 및 신흥 기술 분야의 3국 간 협력을 강화하기 위한 '기술 및 혁신(ACITI) 파트너십 양해각서'를 체결. 공동 실무 그룹을 구성하여 AI 정책 및 규제 교환, 스타트업 생태계 지원, AI 리스크 완화 등 광범위한 기술 교류 및 협력 이니셔티브를 구체화하고 이행할 예정.
유럽 집행위는 메타가 Instagram과 Facebook의 중독적 설계와 관련해 디지털서비스법(DSA)을 위반했을 가능성이 있다고 예비 판단했다. 조사 대상에는 무한 스크롤, 자동재생, 푸시 알림, 고도로 개인화된 추천시스템 등이 포함됐다. 집행위는 메타가 미성년자와 취약한 성인을 포함한 이용자의 신체·정신 건강에 대한 위험을 충분히 평가하지 못했으며, 현재의 완화 조치도 중독적 설계에서 비롯되는 위험을 효과적으로 줄이지 못했다고 밝혔다.
AI 및 멀티미디어 진위 표준 협업체는 생성형 AI로 만든·수정한 이미지·영상·음성·텍스트의 진위 신뢰 문제를 다루기 위해 정책보고서 1건과 기술표준보고서 1건을 새로 발표했다. 정책보고서는 지역별 생성형 AI 관련 신기능(합성 미디어)에 대한 정부 대응과 법·정책 접근의 수렴 방향을, 기술표준보고서는 글로벌 상호운용성과 구현, 책임 있는 혁신을 위한 기반을 강화하는 내용을 담고 있다. 아울러 단일 탐지 도구나 규제만으로는 한계가 있으며, 미디어 리터러시와 라벨링·워터마킹·프로비넌스 같은 기술, 플랫폼 책임과 공적 신뢰를 아우르는 협력 생태계 구축이 필요하다고 강조했다.
AI for Good 글로벌 서밋 2026의 청소년 구역이 인공지능 안전과 창의적 문제 해결을 다룬 신규 세션을 포함해 일정을 마쳤다. 참가자들은 새로운 AI 애플리케이션의 안전 원칙을 설계하고, AI를 활용한 창의적 문제 해결과 컴퓨터과학·AI 학습 방식을 체험했다. 식량 불안 문제 해결을 목표로 로봇을 설계한 세계 각국 청소년들의 Robotics for Good Youth Challenge 결선 및 폐막식도 열렸다.
2026년 7월 제네바에서 열린 파트너 포럼에서 PAI는 책임 있는 AI를 원칙에서 실제 적용으로 전환하는 과정을 논의했다. 포럼에서는 AI의 현재 영향, 책임 소재, 그리고 의사결정 과정에 참여하는 주체에 대한 세 가지 주요 주제가 부각되었다. AI는 의료 지원, 연구 개발, 소규모 기업의 생산성 향상 등에서 실질적인 가치를 창출하고 있지만, 그 이익이 누구에게 돌아가는지는 여전히 불확실하다. 또한 기존의 프레임워크, 예를 들어 UN Guiding Principles on Business and Human Rights를 활용하는 것이 새로운 규제보다 우선되어야 한다는 의견이 제기되었다. 향후 PAI는 더 많은 주체들이 참여할 수 있도록 회의 방식을 개선하고, 책임 있는 AI의 진전을 추적하는 글로벌 플랫폼을 구축할 계획이다.
미국 캘리포니아·노스다코타·LA 상급법원 등에서 AI를 공공업무에 도입하는 흐름이 커지고, 앞으로 더 민감한 영역으로 확대될 수 있어 어떤 모델을 쓸지 결정이 중요하다고 지적한다. 연방정부는 배치된 모델의 추론이 대중의 판단과 어떻게 다른지 측정하거나 그 차이가 정당한지 묻지 않으므로, 공개적으로 검증·도전 가능하게 하는 별도 기구와 “public reasoning fidelity(PRF)”를 제안한다. PRF는 대표 표본에게 가상 시나리오를 검토하게 한 뒤 동일 시나리오에서 모델의 결과와 “이유(추론)”가 대중과 얼마나 가까운지 점수화해 조달에 반영하는 방식이며, 다만 Goodhart’s law로 인한 ‘정책 분석 아첨(sycophancy)’, 과도한 정책 동질화, 양극화 이슈에서 단일 평균이 생기는 문제 등을 보완장치로 설계해야 한다고 강조한다.
캘리포니아 주와 노스다코타 주, 로스앤젤레스 카운티 등 여러 정부 기관들이 AI를 다양한 업무에 도입하고 있으며, 향후 더 민감하고 중요한 업무에도 AI 활용이 확대될 것으로 예상됩니다. 그러나 현재 연방 정부는 AI 모델의 결정 과정과 공공의 가치 반영 여부를 평가하지 않고 있어, 이를 투명하게 공개하고 검증할 수 있는 기구의 필요성이 제기되고 있습니다. 제안된 '공공 추론 충실도'(Public Reasoning Fidelity, PRF) 프레임워크는 대표적인 공공 의견을 반영하여 AI 모델 선택에 있어 민주주의 원칙을 준수하도록 합니다. PRF는 모델의 결정 과정과 결과가 공공의 합리와 얼마나 일치하는지 평가하며, 이를 통해 특정 도메인에서의 모델 선택이 더욱 투명하고 책임감 있게 이루어질 수 있도록 합니다. 하지만 PRF의 적용은 모델의 정책 분석 품질 저하 위험과 정책 제안의 획일화 가능성 등의 문제점도 내포하고 있습니다.
중국이 2026년 7월 10일 헬륨 수출을 일시적으로 금지했다. 중국은 자체 헬륨 생산량이 적어 수입 의존도가 높았으며, 특히 러시아와 카타르로부터 대부분의 수입을 받았다. 이 조치는 국내 헬륨 공급 관리를 강화하고, 반도체 제조 등 핵심 분야에 필요한 헬륨을 효율적으로 배분하기 위한 것으로 보인다. 국제적으로는 아시아 지역의 헬륨 수급에 영향을 미칠 것으로 예상되며, 특히 한국, 일본, 대만의 반도체 기업들이 추가 공급원을 찾아야 할 가능성이 있다.
연구에 따르면, EU의 새로운 정치 광고 규제 체계에는 중대한 취약점이 존재하여 프랑스, 스페인, 이탈리아, 폴란드 등의 중요한 선거에서 외국 세력의 선거 개입 가능성을 열어두고 있다. 메타와 틱톡 등 주요 기술 기업들이 규제 위반에도 불구하고 선거 후보와 익명의 제3자에게 정치 광고를 판매한 사실이 드러났다. 특히 익명 캠페인을 통한 허위 여론조사 정보 유포는 금지된 행위였으나 여전히 이루어지고 있었다. 이러한 문제점은 디지털 서비스 법과 새로운 투명성 및 정치 광고 타겟팅 규정(TTPA) 준수의 의문을 제기한다. 연구자들은 이러한 간극이 유럽 선거에 외국 정보 조작 세력이 개입할 수 있는 기회를 제공할 수 있다고 우려하고 있다. 메타와 구글은 EU에서 정치 광고 구매를 금지한다고 발표했으나, 실제 집행 과정에서 취약점이 발견되었다. 메타는 광고 내용 검사에 집중하고 광고주 신원 확인은 미흡했으며, 구글은 계정 수준에서 신원 확인을 실시해 정치 광고 진입을 제한했다. 틱톡은 2019년부터 정치 광고 판매를 중단했으나, 이 규제의 효과성에 대한 의문이 제기되었다. 연구 결과는 플랫폼들이 규제 준수를 위한 충분한 자원을 투입하지 못하고 있음을 시사한다.
UN은 7월 6일부터 AI 안전·포용·신뢰를 위한 Global Dialogue on AI Governance를 열고, 참여국이 안전하고 포괄적인 AI를 촉구했다고 전했다. 또한 EU는 사이버보안과 AI를 연계한 EU Action Plan을 발표했으며, ITU·OpenAI 등도 AI 관련 이니셔티브와 코딩 평가·사례 연구 등 다양한 활동을 소개했다.
출처: TIME
베이징이 Alibaba·ByteDance·Z.ai와 함께 아직 공개되지 않은 최상위 모델까지 포함해 해외 접근을 제한하는 방안을 논의 중이며, 구체 내용은 미확정이다. 중국 기업들이 그동안 모델을 open-weight 형태로 공개해 글로벌 시장에 확산시켜 온 점을 고려하면, 공개를 막거나 국내 사용만 허용하는 조치는 큰 전환으로 평가된다. 아울러 미국과의 ‘상호 견제’가 심화되는 맥락에서, distillation(더 강한 모델의 출력을 이용해 약한 모델 성능을 높이는 방식)과 관련한 보안·국가안보 우려 및 기업 경쟁 이슈가 함께 언급된다.
본문은 초지능 개발을 2040년까지 늦추고, AI R&D 전면 공개와 가드레일(규제·통제) 집행을 통해 여러 국가의 기업들이 비밀경쟁 대신 안전하게 점진적으로 역량을 키우는 ‘Plan A’를 제시한다. 또한 정책이 실제로 작동할지 ‘scenario scrutiny’로 검증해야 하며, 예시로 2029년 미-중 합의, 2030년 자동화된 AI R&D 이후 2035년 top-human-expert 수준에서 일시정지, 2040년 재개 같은 타임라인을 제시한다. 아울러 투명성, 수출통제 집행, 검증 R&D 투자, 컴퓨트 추적 등 “덜 야심찬” 정책 옵션들도 함께 열거한다.
애플은 전 직원 리우가 기밀 하드웨어 파일을 몰래 내려받아 오픈AI와 공유하고, 경쟁 기기 개발을 지원했다며 오픈AI와 리우를 상대로 소송을 제기했다. 소송은 2016년 영업비밀보호법에 근거해 영업비밀 오용을 막기 위한 금지명령을 청구하며, 사건은 미국 캘리포니아 북부지방법원에 계류 중이다. 해당 내용은 애플의 소장과 신청서에 담긴 주장으로, 법원의 사실 인정은 아니다.
해쳇 북 그룹과 캥게이지 러닝이 구글의 Gemini AI 모델 학습에 허가 없이 수백만 건의 저작물을 사용했다며, 기존 집단소송에 원고로 참여하도록 신청했다. 두 출판사는 별도 소송 대신 저자·시각예술가들이 제기한 미국 캘리포니아 북부지방법원의 통합 사건에 합류하려 하며, 참여 신청 심리는 2026년 5월 6일로 제안됐다. 이 사건은 AI 학습 데이터 사용권과 저작권 침해에 따른 손해배상 범위를 둘러싼 쟁점을 주요 출판사로 확대했으며, 해당 내용은 소장과 신청서에 담긴 주장으로 사실认定은 아니다.
작은 hyperbolic language models에서 creative frame-seeding, honesty 관련 거동, 그리고 designed forgetting 메커니즘이 함께 나타날 수 있음을 보여준다. 146M~3B 파라미터의 세 모델을 대상으로, 146M behavioural auditor(완전 학습)로 compliance gap을 탐지하고, frozen representation 선형 read-out과 style-controlled, leave-one-generator-out 평가로 companion-induced sycophancy·dependence-fostering·confabulated memories를 측정했다. 결과로 auditor의 compliance gap 탐지 정확도는 90.7%(binary-compliance accuracy)였고, AUROC는 0.804였으며 동일 항목에서 frontier zero-shot judge의 AUROC는 0.721로 더 낮았다; 또한 four prompting baselines 중 311개 pairwise 비교에서 creative frame-seeder가 100%로 선호되었다. 마지막으로 M(t)=S*exp(-lambda*t) 형태의 designed forgetting 예측 skeleton-wallpaper partition은 4조건 파일럿에서 selective retrieval gating 하에서만 관측되었다.
agentic AI 시스템을 조직 내에서 유형별로 분류하고 위험을 등급화해 거버넌스 통제를 연결하는 프레임워크를 제안한다. 7종의 agentic AI 시스템에 적용할 수 있으며, 12개 차원 채점 루브릭으로 위험을 정량화하고 이를 GPA + IAT 분류 모델과 기존 문헌에서 도출한 5단계 자율성 프레임워크와 결합해 거버넌스 의사결과를 만든다. 결과물은 3-tier 위험 등급과 각 tier에 매핑된 control recommendations로 제시되며, Coding Assistant 확장 모듈을 통해 해당 유형의 세부 뉘앙스를 반영한다. 예시 시연을 통해 실제 적용 절차를 보여준다.