Anthropic은 frontier AI 개발이 인간 개입 없이도 스스로 개선할 수 있는 단계에 가까워지고 있다고 경고하며, 미국·중국 등 주요 국가의 AI 기업들이 검증 가능한 규칙 아래 동시에 멈추는 글로벌 pause를 제안했다. 다만 비판자들은 이를 공포 마케팅으로 보며, 실제로는 어떤 pause도 이뤄지지 않아 API·모델 접근성과 성능 향상 속도는 계속 빠르게 진행될 것이라고 전했다. 또한 미국은 중국에 전략적 우위를 줄 수 있다는 우려를 제기하는 등 정치적 합의가 쉽지 않다는 점이 언급됐다.
Anthropic은 클로디아 모델을 화학 분야에서 더 효과적으로 활용하기 위해 노력하고 있으며, 특히 NMR 스펙트럼 분석에서 기존 화학 소프트웨어와 견줄 만한 성능을 보여주고 있다. 연구에서는 클로디아 모델(Opus 4.7 버전 포함)이 화학 구조의 예측과 역예측(NMR 스펙트럼에서 구조를 추론하는 것)에서 ChemDraw와 MestReNova와 같은 전문 소프트웨어와 경쟁할 만한 수준임을 보여준다. 특히 수소와 탄소 피크 위치 예측에서 Opus 4.7은 높은 정확도를 보였으며, 복잡한 구조의 역예측에서도 상당한 성과를 거두었다. 그러나 평가 대상이 제한적이었고, 일부 화학 구조는 테스트되지 않았으며, 가장 복잡한 역예측 작업에서는 추가 정보 없이는 최종 구조 제안에 어려움이 있었다. 이러한 연구는 클로디아가 화학 작업에서 보조 도구로서의 역할을 확장하고 있음을 시사한다.
전 세계 농식품 시스템은 기후 충격, 취약한 공급망, 노동력 부족 등으로 압박이 커지고 있으며, AI가 취약 계층을 포함한 이해관계자의 이익을 넓히는 도구가 될 수 있다고 설명한다. 다만 AI·디지털 기술 도입에는 지역별 격차, 공급망 전반의 정보 불균형, 데이터 상호운용성 문제, 신뢰·AI 리터러시 부족, 사이버보안 및 농식품 특화 거버넌스 부재가 남아 있다고 지적한다. OECD와 GPAI 등 국제 협력을 통해 지역 성과를 점검하고, 공유·신뢰 가능한 데이터 인프라와 소규모 농가에 맞춘 현장 중심 설계, 파일럿을 확산으로 연결하는 조건을 분석·지원할 필요가 있다고 제안한다.
백악관은 2026년 6월 5일, 트럼프 대통령이 국가안보 분야(AI in the National Security Enterprise)에서 고도·안전·신뢰 가능한 AI를 전력화하도록 하는 국가안보대통령각서에 서명했다고 밝혔다. 각서는 AI 도입을 가속하고 상용·오픈소스 기술을 임무에 맞게 적용하되, 시스템의 견고성·통제가능성·책임소재를 헌법상 지휘체계 안에서 명확히 하도록 지시한다. 또한 무기체계 자율성 관련 지침을 업데이트하고 핵심 지침을 매년 검토하며, 전력화된 AI를 사전 승인 없이 비활성화·저하·수정할 수 없도록 했다. 아울러 바이든 행정부의 NSM-25를 폐기·대체하고, 민간 기업과의 파트너십 및 비정부 전문가로 구성된 AI National Security Strategic Reserve 등을 통해 역량을 강화한다고 설명했다.
- 본문 요약불가
스탠퍼드 헬스 AI 위크는 AI가 연구, 의료 교육, 환자 진료에 미치는 영향과 실제 활용 사례를 다루는 5일간의 행사다. 스탠퍼드 메디슨과 스탠퍼드 대학교가 주최하며, 교수·임상의·연구자·정책 담당자·산업계 리더·학생들이 참여해 책임 있는 AI 발전 방향을 논의한다. 행사 기간 동안 정신건강(AI4MH), 의학교육(AI in MedEd), 헬스케어·생명과학(RAISE Health, AI in Life Sciences), 의료·영상(AIMI) 등 주제별 심포지엄과 학·산·연 연계 세션, CTSA 연계 심포지엄이 진행된다.
미국 백악관은 2026년 6월 2일 ‘Promoting Advanced Artificial Intelligence Innovation and Security’ 행정명령을 통해 연방 시스템 방어 강화, AI 기반 방어 도구 확충, 중요 인프라 사업자 포함 지원 확대 등을 추진한다고 밝혔다. 또한 AI cybersecurity clearinghouse를 설치해 취약점의 발견·검증·조정·패치 배포를 돕고, AI 모델의 고도 사이버 역량 평가 벤치마크와 정부와의 자발적 협력 틀, AI를 이용한 불법 접근 및 피해 확산 단속 강화를 제시했다. Anthropic은 2026년 6월 3일 2025년 3월~2026년 3월 중 중단된 악성 사이버 활동 계정 832건을 분석해 AI가 공격자의 위협 수준을 높이며 초기 침입 이후의 탐색·lateral movement·권한 상승 등 침해 후 단계로 활용이 확장되고 있다고 설명했다.
미국 White House가 2026년 6월 2일 ‘Promoting Advanced Artificial Intelligence Innovation and Security’를 발표하며 최첨단 AI의 활요와 국가안보·핵심 인프라 방호를 위한 보안 강화 방침을 제시했다. 또한 2026년 6월 3일 Anthropic이 2025년 3월부터 2026년 3월까지 832건의 AI-enabled 사이버 위협 관련 사례를 매핑해 MITRE ATT&CK에 기반한 분석을 공개했다고 전했다. 해당 내용은 AI를 이용한 공격을 “사전에 방지”하기 위한 정부·민간의 규정 및 대응 필요성을 강조한다.
MalSkillBench는 third-party “malicious agent skills”를 코드와 agent-facing instruction의 혼합 공급망 관점에서 런타임 검증 기반으로 벤치마크화해 탐지 성능을 정량 측정한다. 3,944개의 malicious skills를 3차원 택소노미 108개 셀로 라벨링했으며, 3,214개는 Docker 샌드박스에서 system-call monitoring과 LLM judge로 악성 동작이 실제로 “발화(fires)”한 것만 통과시키는 closed-loop Generate-Verify-Feedback 파이프라인으로 만들고, 703개는 in-the-wild에서 수집했으며 4,000개 benign skills와 매칭했다. 코드 인젝션은 94.5% verification yield를 보인 반면 prompt injection은 75.8%로 더 낮았고, skill-specific detector는 코드 인젝션에서 recall 98.4%까지 도달했지만 prompt-injection과 agent-control attacks에서는 붕괴했다. 또한 wild-only 평가는 순위를 최대 66 recall points까지 흔들었고, supply-chain scanners와 prompt-injection defenses는 각각 한쪽(코드 또는 instruction)만 절반 수준으로 포착했으며 두 방어를 결합해도 코드-인스트럭션 관계를 복구하지 못했다.
LLM이 의료 질의응답에서 프롬프트의 작은 변화에도 답이 크게 달라질 수 있음을 체계적으로 평가한다. MedMCQA 벤치마크에서 GPT-3.5, Llama3 같은 general-purpose 모델과 ClinicalBERT, BioLlama3, BioBERT 같은 medical-specific 모델을 대상으로, 자연 변형과 adversarial 변형(어휘·구문 수준)을 적용해 임상 추론 과제의 일관성, 정확도, 신뢰도 변화를 측정한다. 의료 특화 모델도 intrinsically safe하지 않으며, 사소한 문구 변화만으로 임상 조언이 달라지고, targeted adversarial prompts는 harmful outputs를 유발할 수 있다. 단순 어휘 치환·패러프레이징에는 비교적 견디는 경향이 있으나, syntactic reordering이나 오도하는 contextual cues에서는 성능이 무너지는 양상이 general-purpose와 medical-specific 모두에서 관찰된다.
AI sovereignty의 개념과 국가 간 전략 경쟁이 어떻게 전개되는지에 대한 질적(qualitative) 모델을 제시해, 정의·구조화의 공백을 메우는 연구다. 마이크로·메소·매크로 수준의 기여 요인을 포함하는 모델을 구성하고, 가속기(accelerators), 전력(electricity), 물(water), 데이터셋(data sets), 숙련 인력(skilled workforce) 같은 레버리지 포인트를 중심으로 경쟁 역학과 AI 기반 국가 파워의 잠재적 변화를 질적으로 예측한다. 또한 직접적 kinetic 행동(예: Iran의 data center 드론 공격)과 비(非)kinetic 영향(예: cyber, space, information, economic coercion, diplomacy)을 통해 레버리지 포인트가 전략·운용 수준에서 어떻게 활성화될 수 있는지 연결한다. 정량 성능 수치나 실험 비교 결과는 본문 요약만으로는 확인되지 않는다.
요약불가
이 연구는 LLM의 jailbreak 공격을 배포 시점에서 더 안정적으로 탐지하는 방법을 제안한다. 고정된 특징 공간에서 benign과 jailbreak가 선형 분리된다는 가정이 깨지는 두 경우(의도는 benign이지만 safety 키워드를 포함하는 pseudo-malicious, 그리고 배포된 탐지기에 맞춰 최적화하는 adaptive attacks)를 다룬다. Manifold Trajectory Kinetics(MTK)는 입력-출력 변환을 kinetic system으로 보고, 프롬프트의 데이터 manifold 이웃(neighborhood) 구조가 레이어를 거치며 어떻게 변하는지 추적해 탐지하며, benign은 이웃이 유지되는 반면 jailbreak는 악성 seed 근처에서 시작해 refusal을 회피하도록 이웃이 이동하는 궤적을 보인다고 설명한다. 4개 LLM과 10개 jailbreak 공격에서 MTK는 pseudo-malicious에 대해 jailbreak true positive rate 95%를 false positive rate 5%에서 달성하고, pseudo-malicious 프롬프트에서는 false positive rate 2%를 보고했으며, adaptive attacks에서는 true positive rate 85%를 유지하고, vision-language 모델에서도 jailbreak 탐지 성능이 더 높다고 제시한다.