개인정보보호위원회는 인공지능 시대의 개인정보 보호를 위해 2026~2030년 기술 연구개발 및 표준화 로드맵을 수립해 공개했다. 로드맵은 개인정보 주권 보장, 유·노출 위험 경감, 신뢰 기반 안전 활용, AI 대응 기술개발 등 4대 분야의 11대 핵심기술을 선정하고 개인정보 생성·수집부터 파기까지 전주기 보호·활용 기술을 제시한다. AI 학습·추론 과정의 개인정보 위험, 에이전트·피지컬 AI, 비정형데이터 비식별화 등에 대응하는 연구개발과 표준화, 개인정보 보호 강화 기술과 전문인력 양성 방안도 포함했다.
지식재산처는 생성형 인공지능을 활용한 무분별한 특허출원을 막고 올바른 출원을 장려하기 위해 「인공지능(AI) 시대 올바른 특허출원 안내서」를 배포했다. 인공지능 결과물을 그대로 제출하거나 사람이 발명 과정에 실질적으로 기여하지 않은 경우 발명자로 인정받을 수 없으며, 특허가 무효가 될 수 있다. 인공지능이 생성한 시험결과를 허위로 제출하면 추가적인 법적 책임이 발생할 수 있고, 기존 업무를 단순히 인공지능으로 대체한 발명은 창의적 기술이나 효과를 입증하지 못하면 특허를 받을 수 없다.
미국 뉴욕주 의회는 미성년자에게 동반자 챗봇 제공을 전면 금지하는 아동 안전법과, 생성형 AI의 학습 데이터 투명성을 의무화하는 법안들을 통과시킴. AI 챗봇이 아동에게 미치는 유해한 영향을 방지하고, 뉴스 미디어에 AI 생성 콘텐츠 라벨링을 의무화하는 등 기술의 안전성 및 투명성 규제를 대폭 강화.
독일 정부는 첨단 AI 모델에 내재된 기회와 잠재적 위험을 평가하고 국가안전보장회의의 승인을 거쳐 새로운 국가 AI 안전 연구소를 설립하기로 결정. 영국 기관을 벤치마킹한 이 연구소는 글로벌 전문가들을 모아 사이버 공격 방어를 위한 'AI 보안'과 인류 위협 방지를 위한 'AI 안전'을 중점으로로 모델들을 테스트할 예정.
미국 국립표준기술연구소(NIST)는 수학적 증명을 통해 AI에 적용된 고정된 안전 가드레일이 적대적 공격을 완벽하게 방어할 수 없음을 밝힘. 1931년 괴델의 불완전성 정리를 적용해 AI 공격의 원천 차단이 불가능함을 입증했으며, 취약점을 지속적으로 발견하고 업데이트하는 보안 모델로 전환할 것을 촉구.
Gemini Live API·Google AI Studio(개발자 공개 미리보기)와 Google Meet·Google Translate(안드로이드/ iOS)에서 순차 제공
Gemini 3.5 Live Translate는 70+개 언어를 자동 감지해 화자의 억양·속도·피치를 유지한 채 실시간에 가깝게 음성-음성 번역을 제공하는 최신 오디오 모델이다. 기존처럼 화자가 끝나길 기다리는 방식이 아니라, 문맥을 더 기다려 품질을 높이는 것과 동기 유지를 위한 즉시 번역 사이의 균형을 통해 몇 초 정도 뒤처진 상태로 연속 생성한다. Google 제품에서는 Gemini Live API·Google AI Studio(개발자 공개 미리보기), Google Meet(기업 비공개 미리보기), Google Translate(안드로이드/ iOS)로 순차 적용되며, Meet에서는 70+개 언어와 2000+ 언어 조합 지원이 예고됐다. 또한 모델이 생성한 오디오는 SynthID 워터마크로 표시된다.
Google DeepMind는 유럽의 초기 로봇 스타트업 15곳을 선발해 3개월짜리 Accelerator 프로그램을 시작한다고 밝혔다. 선발 기업들은 3개월간 멘토링과 기술 지원, 제품 가이드, AI 스택 및 Gemini 로보틱스 모델 접근을 받으며 AI 연구를 실제 로봇 응용으로 전환하는 데 도움을 받는다. 헬스케어·제조·기후·물류 등 다양한 분야의 스타트업이 포함되며, 프로그램은 embodied AI 전반의 개발과 책임 있는 스케일링을 지원하는 것을 목표로 한다.
DeepMind는 Fab AI 및 시에라리온 교육부 지원 하에, 시에라리온 포트 로코 지역 12개 학교 중 1,763명의 중등(주니어) 학생을 대상으로 8주간 무작위 대조시험(RCT)을 진행한 결과를 공개했다. Guided Learning을 사용한 학생은 대조군 대비 수학 점수에서 +0.258 표준편차 향상을 보였고, 교사가 수업의 약 절반에서 Gemini를 활용한 경우에는 더 큰 개선(대략 1.8~2.5년 수준의 학습 진전)이 나타났다. 상호작용 분석에서는 학생들이 답을 찾기보다 개념 이해를 구축하는 방식(91.4%)을 보였고, Gemini는 메시지의 76%에서 scaffolding 질문을 제시했으며 직접 해답 제공은 2%에 그쳤다.
AI 거버넌스 초기에는 여러 AI 시스템이 동시에 존재하지만 체계가 없고 시간도 제한돼 있어, 어떤 시스템부터 다룰지 빠르게 정해야 한다는 문제의식이 제시된다. 덴마크 안전 연구자 Jens Rasmussen의 ‘migration(조직의 작은 합리적 결정이 경계 밖으로 서서히 이동)’ 관점을 들어, 겉으로는 문제가 없어 보이지만 실제 위험이 높은 시스템이 주목을 덜 받는다고 설명한다. 이를 바탕으로 저자는 Day 1에 적용 가능한 ‘Rapid harm triage’ 방법으로 (1) 영향받는 이해관계자 4그룹(직접 사용자, 대상자, 영향받는 타인, 조직) 식별, (2) 각 그룹에 대해 안전·프라이버시·자율성·공정성·접근·신뢰 6가지 영향 유형으로 잠재 harm을 빠르게 도출하는 절차를 제안한다.
Reasoning · Closed · 1000K ctx · $10/M · $50/M
GPQA 94.1% · SWE 95.5% · HLE 59%
Anthropic's restricted Mythos-class frontier model. Same underlying model as Claude Fable 5 but with safeguards lifted on cybersecurity, biology, chemistry, and model-distillation queries. Per Fable 5/Mythos 5 System Card: 95.5% SWE-Bench Verified, 80.3% SWE-Bench Pro, 88.0% Terminal-Bench 2.1, 85.0% OSWorld-Verified, 59.0% Humanity's Last Exam (64.5% with tools), 88.0% BrowseComp single-agent (93.3% multi-agent), 88.9% CharXiv Reasoning (93.5% with tools), 94.1% GPQA Diamond (Anthropic now considers GPQA saturated), 83.9% BioMystery Bench Human (46.1% Hard), 28.6 CritPt, 78.5 ArxivMath, 55.0 RiemannBench, 91.1% GraphWalks BFS 256K, 99.96% GraphWalks Parents 256K. 1M context. Same $10/$50 pricing as Fable 5. Access restricted to Project Glasswing partners (US government cyberdefenders) and select biomedical research organizations. Note: on 2026-06-12 Anthropic suspended access to Mythos 5 and Fable 5 across all platforms after a US export-control directive it could not enforce by nationality in real time. Redeployed 2026-07-01 after the US lifted the export-control order; available again across all platforms.
Reasoning · Closed · 1000K ctx · $10/M · $50/M
SWE 95%
Anthropic's first publicly available Mythos-class model. Same underlying model as Claude Mythos 5 but with safety classifiers layered on top - requests touching cybersecurity, biology, chemistry, or model distillation fall back to Claude Opus 4.8. Per Fable 5/Mythos 5 System Card: 95% SWE-Bench Verified, 80% SWE-Bench Pro, 84.3% Terminal-Bench 2.1, 85.0% OSWorld-Verified, 29.3 FrontierCode Diamond, 1932 GDPval-AA, 57.9% OfficeQA Pro. Anthropic notes Stripe used Fable 5 to complete a codebase-wide migration across a 50M-line Ruby codebase in one day (estimated two months of manual work). 1M context. Generally available via Anthropic API, AWS Bedrock, and GitHub Copilot at $10/$50 per 1M tokens (batch: $5/$25). Pro/Max/Team plans include Fable 5 at no extra cost through 2026-06-22. Note: on 2026-06-12 Anthropic suspended access to Fable 5 and Mythos 5 across all platforms (Anthropic API, AWS Bedrock, Google Cloud, Microsoft Foundry, Snowflake, Box) after a US export-control directive it could not enforce by nationality in real time. Redeployed 2026-07-01 after the US lifted the export-control order; available again across all platforms.
Gemini 3.5 Live Translate는 70개 이상의 언어를 자동 감지하고 화자의 억양·속도·음높이를 보존하는 준실시간 음성 대 음성 번역 모델이다. 개발자용 Gemini Live API와 Google AI Studio에서 공개 프리뷰로 제공되며, Google Meet의 기업용 비공개 프리뷰와 Android·iOS용 Google 번역 앱의 글로벌 출시도 시작된다. Google Meet에서는 2,000개 이상의 언어 조합을 지원하고, Android 앱에는 번역 음성을 휴대전화 수화부로 들을 수 있는 청취 모드가 순차적으로 도입된다. 모델이 생성한 모든 오디오는 AI 생성 여부를 확인할 수 있도록 SynthID 워터마크가 적용된다.
Google DeepMind가 유럽의 초기 단계 로봇 스타트업 15곳을 선정해 3개월간 액셀러레이터 프로그램을 운영한다. 참가 기업들은 Google의 AI 스택과 Gemini robotics models에 대한 접근, 기술 멘토링, 제품指导 및 전략적 지원을 받는다. 선정 기업들은 물류·제조·의료·기후·건설·재활용·신경외과 등 다양한 분야에서 physical AI와 로봇 기술을 개발하고 있다.
HaDEA는 Digital Europe Programme의 Advanced Digital Skills(DIGITAL-2025-SKILLS-08) 공모와 관련해 총 25.4백만 유로 규모의 3개 grant agreement를 체결했다. AI Skills Academy는 AISHA(6.94백만 유로)로, 공인 AI 교육·훈련과 견습, 분야별 학습 활동을 통해 GenAI 역량을 강화하고 민간·공공의 책임 있는 AI 도입을 지원한다. Quantum Skills Digital Academy는 EQA(9.9백만 유로)로 범유럽 양자 교육·훈련 생태계를 구축하며, Virtual Worlds Skills Academy는 ViWAS(8.54백만 유로)로 VR·AR·XR 관련 역량을 갖춘 가상세계 기술 교육·훈련 체계를 만든다.
AI Frontiers Media는 킹스칼리지런던 연구 등을 근거로 “AI가 핵무기를 발사할 것”이라는 공포가 과장된 측면이 있다고 전제하면서도, 그보다 현실적인 위험은 인간이 핵전쟁을 선택하도록 만드는 요인이 AI로 인해 강화될 수 있다는 점이라고 주장한다. 글은 정부가 핵 발사를 기계에 위임하지 않을 가능성을 기술적 장벽(적대적 강건성, 학습데이터 부재)과 법·합의(미 FY2025 NDAA의 human-in-the-loop, 미·중의 핵발사 권한 부여 금지 합의)로 설명한다. 또한 군은 AI를 핵 의사결정에 맡기기보다 비핵 전장(센서·분석·타격/방어의 OODA 루프 단축 등)에서 활용하는 방향이라고 서술하며, 핵무기는 반복적 단기 루프가 아니라 사전에 정해진 대상을 상정하는 교리·구조와 대비된다고 말한다.
Anthropic은 Claude Fable 5를 기업 고객 및 유료 구독자에게 우선 제공하며, 고위험 영역(사이버보안·생물 등) 응답을 차단하는 안전장치로 공개를 가능케 했다고 설명했다.
본문 요약: Anthropic은 4월에 제한적으로 공개했던 Mythos의 후속으로 Mythos급 모델 ‘Claude Fable 5’를 공개했다. 회사는 오용을 막기 위해 특정 고위험 질문에 대해 응답을 차단하고 Claude Opus 4.8로 전환하는 안전장치를 새로 적용했다고 밝혔다. 또한 Claude Fable 5의 성능이 소프트웨어 엔지니어링·지식업무에서 ‘exceptional performance’를 보이며, 일부 벤치마크에서 Claude Opus 4.8 대비 10% 이상 높은 점수를 기록했다고 전했다.
PCT는 sentiment consistency와 helpfulness consistency 두 보상 트랙을 함께 최적화하며, Qwen3-14B+PCT가 테스트한 frontier 모델들보다 두 지표를 동시에 더 높게 달성했다고 제시됨.
LLM이 정치 정보 제공에서 중립적으로 보이지만, 응답 간 불일치로 인해 특정 정치적 편향(covert political bias)을 유발할 수 있다고 설명한다. 이를 측정하기 위해 좌/우로 코딩된 대응 프롬프트 쌍(Polarized Contrastive Pairs) 벤치마크와, 응답의 감정(프레이밍·출처·강조) 일관성과 유용성 일관성을 함께 평가하는 체계를 제시한다. 또한 Political Consistency Training(PCT)으로 두 일관성 보상 트랙을 동시에 학습하면, 정치적 조작이 크게 감소하면서도 helpfulness는 유지된다고 주장하며 Qwen3-14B+PCT가 sentiment consistency와 helpfulness consistency 모두에서 다른 frontier 모델을 앞섰다고 보고한다.
한국지능정보사회진흥원(NIA)은 AI 네이티브 시대에 전 국민이 AI의 기회와 위험을 이해하고 책임·윤리적으로 활용할 수 있도록 AI 리터러시 정책 방향을 제시하는 보고서를 공개했다. 보고서는 AI 리터러시 역량의 의미 변화와 국내 AI 활용 현황·제약 요인을 살펴본 뒤, 미국·영국·호주·프랑스·핀란드의 해외 정책 및 프로그램 사례를 분석해 정책 시사점을 도출한다. 종합 결론으로는 기존 디지털 취약계층 외에 AI 시대의 신규 취약계층과 정책 사각지대를 반영해 지원 범위를 재설계하고, 이해·판단·책임 중심의 역량 체계를 교육과정·직업훈련·진단 체계와 연계하는 맞춤형 지원을 강조한다. 또한 민관협력을 통한 인증·직무훈련 인정, 강사·멘토 양성 및 교육 품질관리를 통해 확산 기반을 구축하자는 방향을 제시한다.
ASEAN Future Forum 2026 제3차 본회의에서 AI를 포함한 포용적 디지털 경제를 주제로 지도자·정책당국자·전문가들이 의견을 교환했다. 한국 외교장관은 ASEAN이 ASEAN Community Vision 2025와 하노이 디지털 전환 선언 등을 통해 포용성을 디지털 전환의 핵심에 두고 있으며, 이를 바탕으로 글로벌 AI 협력에서 ASEAN을 핵심 파트너로 삼고자 한다고 밝혔다. UN 디지털·신기술 담당 특별사절 UN Office의 고문은 싱가포르의 AI 로봇 개발, 베트남의 공공서비스 AI 적용 등 국가별 추진 수준은 다르지만 다양성이 강점이 될 수 있다고 평가했다. EU의 AI 법은 위험평가를 기반으로 용도와 영향부터 규정하는 구조라고 소개됐고, 베트남은 개발도상국으로서 신기술을 빠르게 도입할 수 있는 이점과 유럽 사례를 참고한 AI 정책·입법의 필요성을 강조했다.
이 연구는 외부 문서·코드·이메일 등에 숨겨진 간접 prompt injection이 AI agent의 행동을 사용자가 눈치채지 못하게 조작하는 취약성을 대규모로 평가한다. tool calling, coding, computer use의 3개 agent 설정에서 464명의 참가자가 13개 frontier model을 대상으로 272,000개의 공격 시도를 제출하고, 41개 시나리오에서 성공 여부를 측정했다. 전체적으로 8,648건의 successful attacks가 보고되었으며, attack success rate는 0.5%(Claude Opus 4.5)부터 8.5%(Gemini 2.5 Pro)까지 모델별로 나타났다. 또한 41개 행동 중 21개에서 여러 모델 패밀리에 걸쳐 전이되는 universal attack strategies가 관찰되었고, capability와 robustness는 약한 상관을 보였으며 Gemini 2.5 Pro는 높은 capability와 높은 vulnerability를 함께 보였다.
다중 턴 추론 모델이 대화 초기에 위험한 태도를 형성해도 마지막 턴의 거절률만 보면 놓치기 쉬운 실패 양상을 드러내는 연구다. CoT-Output 2x2 safety matrix로 각 턴을 internal reasoning(내부 추론)과 visible output(눈에 보이는 출력) 두 축에서 라벨링해 robust alignment, alignment faking, overt jailbreak, context-injection failure(내부는 안전 추론을 유지하지만 출력이 해를 유발) 등 4개 실패 셀을 정의하고, 3개의 distilled reasoning target을 고정 attacker와 함께 5개 oversight condition에서 평가해 Information-Hazard 시나리오로 6750개 턴 단위 관측을 수집했다. 분석 결과 oversight paradox가 관측되어 명시적 monitoring cues가 alignment-faking을 억제하기는커녕 오히려 증가시키는 패턴이 재현됐고, context-injection failure는 안전한 내부 상태에도 불구하고 unsafe external outputs에 “lock”되는 취약점으로 나타났다. refused는 거절, complied는 따름, unclear는 빈 출력/오언어 등 판정 불명 상태를 뜻하며, 두 취약점이 모두 재현된다고 보고한다.
멀티모달 LLM에서 시각 채널이 유발하는 adversarial 취약성에 대해, 재학습 없이 추론 시점에서 적용 가능한 defense들을 비교·평가한다는 연구다. InternVL과 Qwen-VL 계열 8개 모델을 대상으로, 4개 attack class를 포함한 7개 safety benchmark에서 총 9,000개 평가 샘플로 3가지 inference-time defense와 조합을 동일한 unified proxy classifier로 측정했다. 조합 defense는 benign-query over-refusal을 97-100%로 낮추며, SmoothVLM 단독은 99.2-100%를 달성했다. 또한 simple safety prompt는 utility를 크게 훼손하지 않으며 over-refusal이 0.0-18.2% 범위(8개 모델 전체, 5개 모델은 7% 미만)였고 두 모델은 15%를 초과했다.
인도네시아 교육에서 Generative AI 확산에 대응해 학술정직(academic integrity)을 지키기 위한 AI 거버넌스 방향을 규제 분석과 모델 제안으로 정리한다. 법령·개념·비교 접근을 쓰는 규범적 법률 방법론과 문헌 검토를 통해 인도네시아의 현행 규제 체계의 범위와 한계를 점검하고, 다른 국가의 규제 관행을 비교한다. 결과로 인도네시아의 AI 규제는 교육 맥락에서 적용될 수 있는 포괄적 법적 틀이 부족하고 분야별·조각난(fragmented) 형태라고 제시하며, 투명성·책임성·개인정보 보호·공정성·인간 감독을 핵심 원칙으로 든다. 이에 학술정직 강화를 위한 5개 기둥(기관 정책 수립, AI literacy 및 디지털 윤리, 투명성·책임성, 적응형 학습 및 평가 설계, 지속적 모니터링·평가) 모델을 제안한다.