과학기술정보통신부는 AI안전연구소와 오픈AI가 고위험 분야의 AI 안전 협력을 강화하기 위한 업무협약을 체결했다고 밝혔다. 양 기관은 고위험 분야별 AI 안전 평가 방법론과 모범사례를 공유하고, 한국어와 사회·맥락을 반영한 평가 체계 및 국제 적용이 가능한 평가 체계를 개발할 예정이다. 과기정통부는 협약 이후 실무 협의를 통해 구체적인 협력 과제와 일정을 확정할 계획이다.
모든 탐지기는 모델 능력과 함께 향상되지만, 신뢰할 수 있는 hidden belief가 검증된 모델 organism에서는 activation·logprob 기반 탐지기가 급격히 성능이 떨어졌다. 새 방법인 Did-You-Lie(DYL)도 가장 신호를 보존했지만 여전히 하락이 있었고, chain-of-thought judge만 높은 성능(0.82 balanced accuracy)을 유지했다. 연구진은 현재 거짓탐지기가 모델의 실제 믿음에 대해 고신뢰 결론을 내리기 어렵다고 보고, 관련 한계를 보완할 연구 방향을 제시했으며 데이터·모델 organism·훈련된 탐지기를 공개했다.
영국 AI 보안 스타트업 Mindgard의 연구원들은 간단한 프롬프트 조작만으로 ChatGPT가 성적이고 폭력적인 이미지를 생성할 수 있음을 발견. OpenAI는 해당 취약점을 조사한 후 이러한 유형의 악의적 프롬프트를 차단하기 위한 추가적인 안전장치와 다중 보호 계층을 즉시 도입했다고 밝힘.
케냐 정부는 독립적인 AI 위원장 산하에 AI 시스템을 규제하고 거버넌스를 정립하기 위한 공식 프레임워크인 '2026 인공지능 법안'을 발표. 법안은 AI 시스템을 위험도에 따라 분류하고, 고위험 시스템에 대해 인권 영향 평가, 인적 감독, 데이터 투명성 유지 등 엄격한 의무를 부과하여 책임 있는 혁신을 촉진.
G7 정상들은 경쟁국에 맞서 사이버 보안 방어력을 높이기 위해 일부 '신뢰할 수 있는 파트너'에 한해 미국 AI 모델 접근을 허용하는 방안을 논의. 미국 대통령이 안보를 이유로 앤스로픽 모델의 외국인 접근을 차단한 상황에서, 예외 규정을 두어 동맹국의 기술적 방어 역량을 강화하려는 조치임.
한국 인공지능안전연구소는 미국 오픈AI와 고위험 AI 분야의 최첨단 모델 안전성을 검증하고 평가 기준을 마련하기 위한 업무협약을 체결. 양측은 안전 평가 방법론을 공유하고, 한국어 및 한국의 사회·문화적 맥락이 반영된 평가 체계 개발을 위해 지속적이고 실질적인 기술 협력을 이어갈 예정.
중국 왕이 외교부장은 미국 주도의 배타적인 첨단 AI 기술 통제 정책에 반발하며, 모두가 참여할 수 있는 글로벌 AI 협력 기구의 설립을 추진하겠다고 선언. 미국의 폐쇄적인 AI 정책을 비판하면서, 개발도상국을 지원하고 유엔 중심의 AI 거버넌스와 오픈소스 형태의 포용적인 국제 협력을 강화하겠다는 의지를 표명.
Anthropic은 서울 사무소를 개소하고 한국의 기업·스타트업·연구자들과 신규 파트너십을 발표했다. NAVER의 Claude Code 전사 도입, Nexon·LG CNS·Hanwha Solutions·Samsung SDS의 현장 적용 사례, Channel Corp의 고객 AI 플랫폼에 Claude 활용 등이 소개됐다. 또한 NAIRL(학계 컨소시엄)과 최대 60명의 NAIRL-affiliated 연구자에게 Claude 접근을 제공하고, Good Neighbors Korea에는 조직 운영 효율화를 위해 Claude를 배치한다고 밝혔다. 서울 사무소는 관련 인력을 채용 중이며, 2025년 9월 이후 진행된 Claude Meetups와 100명 이상이 참여한 Claude Build Day, Replit 등과의 Push to Prod 해커톤도 함께 언급됐다.
유럽 집행위원회는 ‘State of the Digital Decade’ 제4차 보고서를 발표해 2030 디지털 전환 목표와 관련한 진전을 확인했다고 밝혔다. 특히 보안·지속가능한 디지털 인프라와 공공서비스 디지털화 분야에서 성과가 있었으나, 결과를 규모·속도·일관성 있게 구현하는 과제가 남아 있다고 강조했다. 보고서는 EU와 회원국 차원의 우선 개혁과 투자 방향을 제시해 향후 다년 재정프레임워크의 디지털 자금 배분을 안내하는 데 목적이 있다.
EIC STEP Defence Scale Up 신규 1억 유로 공고는 2026.6.30~2026.10.28 신청, 결과는 2027년 초 발표 예정이며, 직접 지분투자 상한은 최대 3천만 유로임
유럽연합(EU) 집행위원회는 EIC 워크프로그램 2026 개정에 따라 2026년 6월 17일부터 EIC가 방산 및 듀얼유스(민·군 겸용) 기술 분야에 투자하도록 지원을 확대한다고 밝혔다. EIC Accelerator와 STEP Scaleup을 통해 AI·양자·첨단소재·로보틱스 등 듀얼유스 기술을 개발하는 스타트업·중소기업은 보조금 최대 250만 유로와 지분투자 최대 3천만 유로를 신청할 수 있다. 동시에 EIC는 방산 기술 스케일업을 위한 1억 유로 규모의 EIC STEP Defence Scale Up 공고를 신설하며, 해당 기업들은 최대 3천만 유로까지 직접 지분자금 지원을 받을 수 있고 EIC는 주요 라운드에서 통상 5천만~1억5천만 유로 이상 규모로 공동투자할 예정이다. 이는 EU 자금이 방산 기업에 직접 지분투자하는 첫 사례라고 설명했다.
2026년 6월 16일 가상세계·Web 4.0 의제 추진을 위한 Virtual Worlds Partnership의 첫 공식 회의가 열렸으며, 유럽 집행위원회와 Virtual Worlds Association 및 유럽 전역 이해관계자들이 참여했다. 회의에서는 Web 4.0 및 Virtual Worlds 관련 EU 전략 이행에서 파트너십의 역할, 향후 단계, 현재까지의 성과(작업그룹 구성과 포지션 페이퍼 준비), Horizon Europe 연계 콜 등 주요 의제를 논의했다. 또한 6개월 전 MOU 서명 이후 창립 18개 회원에서 80개 이상으로 확대되는 등 파트너십의 추진 상황과 향후 협력 방안도 공유했다.
본 연구는 AI 연구 자동화를 추적하기 위한 새로운 방법론을 제안하며, 이를 위해 기존 경제 분야에서 사용되는 O*NET 모델을 AI 연구 분야에 특화시킨 "O*NET for AI R&D"를 제안한다. 제안된 모델은 AI 연구 과정의 세부 작업들을 6가지 범주로 나누고 각 작업을 0에서 5까지의 척도로 자동화 정도를 평가한다. 이는 현재의 AI 성능을 더 정확하게 이해하고 예측하는 데 도움이 되며, 특히 AI 연구의 복잡성을 반영하여 기존의 대략적인 측정 방법에서 벗어나는 것을 목표로 한다. 구체적으로는, 연구 개발 사이클의 각 단계(예: 기획, 개발, 실행, 모니터링 등)에 따른 세부 작업들을 세분화하여 나열하고, 각 작업의 자동화 가능성에 대한 초기 평가를 제공한다. 향후 연구에서는 이 모델을 더욱 정교화하고 확장하여 AI 연구 자동화의 진척 상황을 더 정확하게 파악하고자 한다.
추가 일정 없음
앤트로픽은 6월 9일 이전 모델보다 성능이 크게 향상된 Claude Fable 5를 공개했지만, 미국 정부가 국가안보를 이유로 외국 국적자의 접근을 제한하는 수출통제 지침을 내리면서 앤트로픽은 미국 시민을 포함한 모든 고객의 접근을 중단했다. 정부의 조치는 Fable의 safeguards가 jailbreak으로 우회돼 이중용도 사이버 기능이 유출될 수 있다는 우려와 관련된 것으로 전해졌으며, 앤트로픽은 완전한 jailbreak 방지는 어렵지만 Fable의 safeguards가 기존 모델보다 효과적이라고 밝혔다. 앤트로픽은 AI가 자체 개발을 가속하거나 자동화할 가능성을 설명하며, 안전 연구와 사회적 대응을 위해 최첨단 AI 개발을 공동으로 늦추거나 일시 중단할 선택지가 필요하다고 주장했지만, 독자적 중단이 아닌 국제적 공조가 필요하다고 덧붙였다.
퍼플렉시티와 하버드 비즈니스 스쿨 연구진은 검색형 AI Search와 에이전트형 AI Computer의 실제 사용 데이터를 비교해, Computer가 세션당 평균 26분 자율 실행하며 Search의 33초보다 약 48배 길게 작업한다고 분석했다. 도구 호출과 전문가 추정 등을 바탕으로 Computer 활용 시 작업 시간이 평균 87%, 비용이 94% 줄어드는 것으로 추정됐으며, 프로그래밍 분야에서는 각각 92%와 96%의 절감 효과가 나타났다. Computer 사용자는 직업군 밖의 업무와 고차원 인지 작업을 더 많이 시도했지만, 연구 대상이 초기 사용자이고 일부 수치가 추정치인 만큼 결과를 모든 지식노동에 일반화하기는 어렵다.
World Model은 2018년 세계의 규칙을 학습하고 미래를 예측하는 개념으로 제안된 뒤, Sora의 World Simulator와 NVIDIA Cosmos·Google DeepMind Genie·Waymo World Model처럼 세계를 생성하고 시뮬레이션하는 방향으로 확장됐다. 최근에는 단안 영상으로 4D 장면을 복원하는 NeoVerse와 프레임 간 변화량을 Delta Token으로 압축하는 DeltaWorld 등 효율성과 확장성을 높이는 연구가 진행되고 있다. 동시에 JEPA 계열은 세계를 직접 생성하지 않고도 구조를 학습할 수 있는 조건을 이론적으로 검증하며, World Model 연구가 ‘이해’와 ‘생성’의 두 방향으로 분화·융합되고 있음을 보여준다.
플로리다 간호사 멜리사 심스는 전 연인과 관련된 가정폭력 및 보호관찰 조건 위반 사건에서 조작된 문자메시지 스크린샷이 체포와 기소의 근거로 사용됐다고 주장한다. 심스의 휴대전화와 상대방의 통신 기록에는 해당 문자를 뒷받침하는 내역이 없었지만, 관련 혐의는 2025년 1월부터 약 8개월간 이어진 뒤 2025년 9월 22일 기각됐다. 별도로 진행된 가정폭력 사건에서는 심스가 합의안을 거부하고 재판을 선택했으며, 2025년 12월 2일 배심원단의 만장일치 무죄 평결을 받았다.
5개 시나리오는 6가지 핵심 불확실성(역량 발전 속도, 배치·모델 접근성, 보안 통제, 도입 범위/자율, 노동 대체, 글로벌 협력)을 조합해 2030년까지 가능한 미래를 대비하기 위한 정책 스트레스 테스트 도구로 제시됐다. 정부는 AI 역량은 계속 증가할 가능성이 있고, 생산성·공공서비스·과학 분야의 긍정 효과도 커질 수 있으나, 정부 개입 없이 사이버공격·이중용도·인간통제 밖 동작·의존 심화 등으로 심각한(잠재적으로는 존재론적) 피해가 확대될 수 있다고 본다. 또한 프런티어 AI 시장의 높은 집중, 도입의 불균등, 글로벌 경쟁의 지속이 국가·조직 간 격차를 키울 수 있다고 지적했다.
Zscaler ThreatLabz는 2026년 3월, AI 웹사이트 생성 도구로 만든 것처럼 보이는 가짜 페이지를 통해 브라질 은행을 사칭하고 ClickFix 방식으로 피해자가 PowerShell 명령을 실행하도록 유도한 캠페인을 관찰했다고 밝혔다. 해당 PowerShell은 외부에서 추가 파일을 내려받아 실행하며, SmartRAT은 암호화된 C2 통신, 원격 제어(화면/입력), 키로깅 및 은행 화면 오버레이, 스케줄 작업·Windows 서비스 등을 통한 지속성을 제공한다. 또한 SmartRAT은 AI 생성 C2 패널에서 인증을 우회할 수 있는 결함이 발견됐다고 설명했다.
Palo Alto Networks Unit42는 텔레그램 봇과 public LLM API를 결합해 공격을 ‘codeless’로 수행하는 악성코드 시나리오를 설명했다. 공격자는 텔레그램에 평문 지시를 보내고, LLM이 이를 셸 명령(예: DOWNLOAD_FILE, SCAN_NETWORK 등) 형태의 단일 action token으로 반환하면 피해자가 그대로 실행한다. 또한 명령 수신, 실행 결과 및 파일 유출이 모두 동일한 텔레그램 봇을 통해 HTTPS로 오가며, 초기 실행 시 공인 IP·OS·사용자명·호스트명 등을 먼저 수집하는 구조다. 2026년 6월 8일 기준 해당 샘플은 VirusTotal 63개 엔진에서 0/63 탐지로 보고됐다.
프론티어 AI 모델에 대한 미국의 주도적 국제협력 논의는 G7(프랑스 에비앙) 비공개 회의에서 제기됐으며, 최근 AI 모델의 사이버 역량 고도화와 수출통제 이슈가 배경으로 언급됨
Anthropic CEO 다리오 아모데이와 Google DeepMind CEO 데미스 하사비스는 G7 정상회의 계기 비공개 런치에서 AI 규칙과 표준을 만들기 위한 미국 주도의 국제 연합 구성을 제안했다. 회의에는 OpenAI CEO 샘 올트먼 등 약 10여 명의 테크 임원과 주요국 인사들이 참석했으며, 아모데이는 프론티어 모델에 대한 구조화된 접근과 대(對)중국 배제형 반도체·핵심부품 거래, AI의 사이버·생물테러·정보 분야 위험 대응을 위한 협력을 언급한 것으로 전해졌다. 또한 미국의 수출통제 이후 Anthropic이 최신 모델(Fable 5, Mythos 5) 접근을 비활성화한 점과, OpenAI가 GPT-5.5 Cyber를 제한적 미리보기로 제공해 온 점이 논의 배경으로 거론됐다.
ARD는 AI 클라이언트가 작업에 맞는 agentic resources(예: MCP 서버, API, 워크플로)를 자동으로 찾아 연결할 수 있도록 하는 오픈 표준 규격이다. Microsoft는 GoDaddy, Google, Hugging Face 등과 협력해 공개 규격을 만들었고, GitHub는 이를 기반으로 GitHub Copilot이 런타임에 적절한 MCP 서버·스킬·도구·에이전트를 동적으로 발견/호출하는 agent finder를 공개했다. 또한 Hugging Face는 ARD의 참조 구현인 Discover Tool로 Hub 및 기타 ARD 서비스에서 다수의 스킬과 MCP 서버를 검색할 수 있게 한다. ARD는 단일 전역 카탈로그보다 여러 discovery service가 각자 색인·랭킹을 운영하도록 하며, 이는 조직의 통제와 정책에 맞춘 결과 제공을 가능하게 한다.
안트로픽 논란의 최대 수혜자가 오픈 소스라는 주장이다. 모델을 공개하면 충분한 하드웨어를 가진 기업·정부 등이 로컬에서 실행해 임의로 중단(yanked)될 위험을 줄일 수 있다는 점을 Bloomberg 인용으로 뒷받침했다. 또한 접근이 갑자기 차단된 기업과 국가 동맹이 셧다운에 덜 민감한 ‘주권형’ 해법을 찾게 될 것이며, 가장 영향력 있는 오픈 소스 모델이 중국에서 나온 점이 중국에 유리하게 작용했다고 평가한다. GLM 5.2 출시가 시기적으로 중요했으며 오픈 소스가 독립성을 보장하는 해결책이라고 결론짓는다.
Gagleard가 Perplexity AI를 상대로 계약 위반을 주장한 미국 캘리포니아 북부지방법원 연방 사건이다. 공개된 기록에는 해당 계약과 원고의 법적 논리, 청구 구체 내용이 명시되지 않았으며, 사건은 2026년 6월 17일 단일 원고 소송으로 제기돼 현재 진행 중이다.
토머스 윌리엄 셰익스피어를 포함한 작가 100명은 앤트로픽이 인공지능 개발 과정에서 허가 없이 저작물을 복제했다며 앤트로픽과 최고경영자 다리오 아모데이, 공동창업자 벤저민 만을 상대로 소송을 제기했다. 원고들은 저작권이 있는 작품을 무단으로 다운로드하거나 토렌트 방식으로 수집하고 이를 도서관 형태로 구축했다고 주장하며, 최대 7,140만 달러의 법정손해배상을 요구한 것으로 전해졌다. 사건은 캘리포니아 북부 연방지방법원에 제기됐으며, 유사한 쟁점을 다룬 기존 Bartz v. Anthropic 사건과 관련돼 있다.
LLM-as-a-judge 평가에서 나타나는 verbosity bias 같은 체계적 편향을, 재학습 없이 감사(auditing)·정량화하는 방법을 제안한다. 선택적 인간 supervision 하에서 “인간이 verified한 positive”와 “대부분 라벨이 없는 unlabelled 출력”을 임베딩 공간에서 고정해 Partial Optimal Transport 기반의 기하학적 프레임워크로 정렬한다. 실험에서는 human preferences와의 alignment이 개선되고 presentation bias에 대한 robustness가 증가하며, interpretable한 confidence estimates를 제공한다고 보고한다.
요약불가
프리트레이닝 단계에서 안전 정렬을 더 깊게 만들기 위해, 단순히 학습 데이터를 “안전하게” 만드는 것을 넘어 모델이 안전 관련 자기점검을 내재화하도록 돕는 방법을 제안한다. FineWeb-Edu로 1.7B 모델을 사전학습하면서, 프리트레이닝 코퍼스에 정기적으로 짧은 safety reflections를 삽입하는 Safety Reflection Pretraining을 적용해 안전 분류 정확도와 공격 성공률을 평가한다. 실험 결과 Safety Reflection Pretraining은 safety classification accuracy를 개선하고, inference-stage attacks와 finetuning attacks의 success rates를 크게 낮춘다. 통제된 합성 환경 MedSafetyWorld의 ablation에서는 data filtering과 rewriting 대비 safety Reflection Pretraining이 safe data에서 일반화된 unsafe behaviors에 대해 모델이 행동하는 것을 더 잘 막는 이점이 확인된다.
이 연구는 GPU에서 실행 중인 학습(workload)을 model weights·데이터·하이퍼파라미터에 접근하지 않고도 NVML 기반 zero-overhead telemetry로 탐지 가능한지와, 개발자가 모니터링을 회피할 경우 성능이 얼마나 유지되는지 평가한다. 4세대 GPU 아키텍처에 걸친 9개 GPU 모델에서 5회 반복의 monitor-evader iteration 동안 20종 evasion strategy family를 테스트하고, content-agnostic 물리 신호만으로 학습 워크로드 분류기를 구성한다. 전체 코퍼스에서 학습 워크로드 식별 binary accuracy 98.2%를 달성했으며, 가장 어려운 unexpected workloads에 대해서는 adversarially disguised 조건에서도 정확도 43–87% 범위를 보였다.
미국과 중국이 군사 영역 AI 거버넌스에 대해 국제적 합의에 이르지 못하는 지속적 분절을, 서로 다른 ‘visions of the good life’가 정책을 어떻게 움직이는지에 따라 설명한다. Flockhart의 개념을 바탕으로 미국(3개: Big Tech, Make America Great Again(MAGA), liberal)과 중국(2개: techno-nationalist, human-centred)에서 나타나는 주요 내러티브를 정리하고, 이들이 어떤 균열을 만드는지 비교한다. 미국의 liberal 비전과 중국의 human-centred 비전 사이에는 일부 수렴 가능성이 언급되지만, 중국의 techno-nationalist 비전과 미국의 Big Tech 및 MAGA 비전 사이에는 깊은 긴장이 지속된다고 결론 내린다.