Anthropic은 frontier AI 개발이 인간 개입 없이도 스스로 개선할 수 있는 단계에 가까워지고 있다고 경고하며, 미국·중국 등 주요 국가의 AI 기업들이 검증 가능한 규칙 아래 동시에 멈추는 글로벌 pause를 제안했다. 다만 비판자들은 이를 공포 마케팅으로 보며, 실제로는 어떤 pause도 이뤄지지 않아 API·모델 접근성과 성능 향상 속도는 계속 빠르게 진행될 것이라고 전했다. 또한 미국은 중국에 전략적 우위를 줄 수 있다는 우려를 제기하는 등 정치적 합의가 쉽지 않다는 점이 언급됐다.
Anthropic은 클로디아 모델을 화학 분야에서 더 효과적으로 활용하기 위해 노력하고 있으며, 특히 NMR 스펙트럼 분석에서 기존 화학 소프트웨어와 견줄 만한 성능을 보여주고 있다. 연구에서는 클로디아 모델(Opus 4.7 버전 포함)이 화학 구조의 예측과 역예측(NMR 스펙트럼에서 구조를 추론하는 것)에서 ChemDraw와 MestReNova와 같은 전문 소프트웨어와 경쟁할 만한 수준임을 보여준다. 특히 수소와 탄소 피크 위치 예측에서 Opus 4.7은 높은 정확도를 보였으며, 복잡한 구조의 역예측에서도 상당한 성과를 거두었다. 그러나 평가 대상이 제한적이었고, 일부 화학 구조는 테스트되지 않았으며, 가장 복잡한 역예측 작업에서는 추가 정보 없이는 최종 구조 제안에 어려움이 있었다. 이러한 연구는 클로디아가 화학 작업에서 보조 도구로서의 역할을 확장하고 있음을 시사한다.
AI 컴플라이언스 범위는 AI 관련 법률부터 검토하기보다 조직의 활동, 운영 지역, 고객·사용자, 데이터, 의사결정 등 사업의 사실관계에서 출발해야 한다. 기존 개인정보보호·산업별 규제·고용·소비자보호·보안 표준·계약상 의무가 AI-specific 규제의 기반을 이루며, AI 도입에 따라 기존 의무도 다시 점검해야 한다. 글은 ISO 14001과 ISO 37301의 접근법을 참고해 사업 측면을 7개 범주로 나누고, 활동·지리적 범위·산업 분야 등을 바탕으로 적용 가능한 의무를 체계적으로 식별하는 방법을 설명한다.
전 세계 농식품 시스템은 기후 충격, 취약한 공급망, 노동력 부족 등으로 압박이 커지고 있으며, AI가 취약 계층을 포함한 이해관계자의 이익을 넓히는 도구가 될 수 있다고 설명한다. 다만 AI·디지털 기술 도입에는 지역별 격차, 공급망 전반의 정보 불균형, 데이터 상호운용성 문제, 신뢰·AI 리터러시 부족, 사이버보안 및 농식품 특화 거버넌스 부재가 남아 있다고 지적한다. OECD와 GPAI 등 국제 협력을 통해 지역 성과를 점검하고, 공유·신뢰 가능한 데이터 인프라와 소규모 농가에 맞춘 현장 중심 설계, 파일럿을 확산으로 연결하는 조건을 분석·지원할 필요가 있다고 제안한다.
백악관은 2026년 6월 5일, 트럼프 대통령이 국가안보 분야(AI in the National Security Enterprise)에서 고도·안전·신뢰 가능한 AI를 전력화하도록 하는 국가안보대통령각서에 서명했다고 밝혔다. 각서는 AI 도입을 가속하고 상용·오픈소스 기술을 임무에 맞게 적용하되, 시스템의 견고성·통제가능성·책임소재를 헌법상 지휘체계 안에서 명확히 하도록 지시한다. 또한 무기체계 자율성 관련 지침을 업데이트하고 핵심 지침을 매년 검토하며, 전력화된 AI를 사전 승인 없이 비활성화·저하·수정할 수 없도록 했다. 아울러 바이든 행정부의 NSM-25를 폐기·대체하고, 민간 기업과의 파트너십 및 비정부 전문가로 구성된 AI National Security Strategic Reserve 등을 통해 역량을 강화한다고 설명했다.
미국 백악관은 2026년 6월 2일 ‘Promoting Advanced Artificial Intelligence Innovation and Security’ 행정명령을 통해 연방 시스템 방어 강화, AI 기반 방어 도구 확충, 중요 인프라 사업자 포함 지원 확대 등을 추진한다고 밝혔다. 또한 AI cybersecurity clearinghouse를 설치해 취약점의 발견·검증·조정·패치 배포를 돕고, AI 모델의 고도 사이버 역량 평가 벤치마크와 정부와의 자발적 협력 틀, AI를 이용한 불법 접근 및 피해 확산 단속 강화를 제시했다. Anthropic은 2026년 6월 3일 2025년 3월~2026년 3월 중 중단된 악성 사이버 활동 계정 832건을 분석해 AI가 공격자의 위협 수준을 높이며 초기 침입 이후의 탐색·lateral movement·권한 상승 등 침해 후 단계로 활용이 확장되고 있다고 설명했다.
미국 White House가 2026년 6월 2일 ‘Promoting Advanced Artificial Intelligence Innovation and Security’를 발표하며 최첨단 AI의 활요와 국가안보·핵심 인프라 방호를 위한 보안 강화 방침을 제시했다. 또한 2026년 6월 3일 Anthropic이 2025년 3월부터 2026년 3월까지 832건의 AI-enabled 사이버 위협 관련 사례를 매핑해 MITRE ATT&CK에 기반한 분석을 공개했다고 전했다. 해당 내용은 AI를 이용한 공격을 “사전에 방지”하기 위한 정부·민간의 규정 및 대응 필요성을 강조한다.
이번 주 뉴스레터는 AI로 인한 실존적 위험을 다루는 신규 행사 5개와 교육 프로그램 12개를 소개한다. 주요 행사로는 6월 온라인 워크숍, 런던 AI 안전 해커톤, 8월 EAGxBerkeley, ARC 화이트박스 추정 챌린지 등이 있으며, 챌린지의 총상금은 최소 10만 달러다. 교육 과정은 기술적 alignment·AI 거버넌스·AI 보안·협력적 AI 등을 다루며, 일부 프로그램은 6월 7일~7월 27일까지 지원 마감일이 정해져 있다.