포브스는 OpenAI의 펜타곤 계약과 Anthropic의 연방 규제 압박 사례를 계기로, AI 안전을 단일 기업이 스스로 규제하기 어렵다고 지적했다. 이어 안전 스타트업이 정부·AI 랩과 함께 제3자 안전 레이어를 제공하고, AI 안전 기준을 표준화하며, AI agents에 실시간 모니터링과 kill switch 같은 ‘안티바이러스’ 기능을 내장하는 방향이 필요하다고 제안했다. 또한 고위험 분야별(금융·의료·물리) 맞춤형 안전과 국제 AI 안전 네트워크 구축을 통해 국가 간 ‘안전 경쟁’이 아닌 ‘공유 인프라’로 전환해야 한다고 강조했다.
트럼프는 2026.2.27 미국 연방기관에 Anthropic A.I. 기술 사용 중단을 지시했고, 국방장관은 Anthropic을 공급망 위험으로 선언해 정부 계약을 막을 수 있다고 밝혔다.
Max Read는 트럼프의 지시와 국방부의 ‘supply-chain risk’ 선언이 Anthropic과 펜타곤 간 계약 조건(대규모 감시, 인명 통제 없는 치명적 자율무기 등) 갈등에서 비롯됐다고 설명한다. 펜타곤은 Claude의 안전장치 완화를 요구했지만 Anthropic은 “선의의 양심”을 이유로 요청을 수용하지 않았고, 그 결과 정부가 사용 중단 및 계약 제재를 추진하는 흐름으로 이어졌다고 전한다. 또한 이 갈등이 단순한 계약 분쟁을 넘어 실리콘밸리 내 정치·이념 성향과 정부 조달 경쟁이 얽힌 양상이라고 분석한다.
미국 주(州) 입법자들이 챗봇 규제를 공통 과제로 삼고 있으며, 아동·청소년의 정신건강 위기와의 연관 우려가 커지면서 최소 35개 주에서 100건이 넘는 법안이 검토되고 있다고 MLex 분석이 전했다. 제안된 법안들은 주마다 내용은 다르지만, 민주·공화 양당 모두 아동·청소년 안전을 위한 기본적인 가드레일을 설정하고 관련 기업의 조치를 요구하는 방향의 공통 흐름이 나타난다고 설명했다.
2026.02.13(Insight) 기준으로, 유럽 정부 간 AI Act 개정안 새 문안이 AI Office 권한을 통합하는 방향으로 중앙집중 집행 구조를 다듬고, 조사 도구·처벌·사법적 감독 및 적법절차 보장 내용을 명확히 했다고 전했다. 또한 AI literacy, sandboxes, 실세계 테스트, 민감정보 처리, 사후 모니터링 규정에도 변경이 포함된 것으로 요약됐다.
유럽의회에서 EU AI Act를 겨냥한 입법 패키지에 대한 개정안이 2월 13일(현지시간) 제시되며 정치적 우선순위와 좌우 구도가 나타나고 있다는 내용이다. 중도·보수 성향 의원들은 모든 AI 산업용 애플리케이션의 제외, 친기업 조치 확대, 밸류체인 의무 강화에 무게를 두는 반면, 진보 성향 그룹은 집행 강화를 강조하고 초기 제안 대부분을 되돌리려는 방향에 초점을 둔다.
OpenAI는 mission alignment 프로젝트를 지원 기능으로 설명하며, 팀은 다른 역할로 재배치됐다고 밝혔다. 해당 팀은 2024년 9월에 구성된 것으로 보이며, AGI가 인류 모두에 이익이 되도록 회사의 미션을 직원과 대중에게 알리는 데 집중했다. Josh Achiam 전 팀장은 ‘chief futurist’ 역할을 맡아 AI·AGI에 따른 세계 변화 연구를 통해 미션을 지원하겠다고 밝혔다. 나머지 6~7명 팀원은 회사 내 다른 부서에서 유사한 업무를 수행 중인 것으로 전해졌다.
이번 호는 Anthropic의 Constitutional Classifiers 연구, UK AISI의 RepliBench, Microsoft의 LLM backdoor trigger 연구를 소개하며 jailbreak, 자율적 self-replication, 모델 백도어를 다룬다. Constitutional Classifiers는 3,000시간이 넘는 red teaming에서 보편적 jailbreak가 확인되지 않았고, 자동 평가에서 공격의 95% 이상을 차단했지만 거부율과 추론 비용 증가 및 평가 방식의 한계가 있었다. RepliBench에서는 최신 모델들이 클라우드 컴퓨팅 확보 등 self-replication의 여러 구성 능력을 보였으나 신원 인증, 보안이 적용된 가중치 유출, 재귀적 복제와 fault-tolerant 인프라 구축에는 여전히 실패했다.
펜타곤은 GenAI.mil 플랫폼에 OpenAI의 ChatGPT를 추가해, 국방부 소속 300만 명(군·민간·계약직) 사용자가 이용할 수 있게 했다고 밝혔다. GenAI.mil은 현재 Google Gemini와 xAI Grok도 제공하며, 세 모델은 민감하지만 비기밀(unclassified) 데이터에 대해 펜타곤이 승인한 수정 버전으로 운영된다. OpenAI는 GenAI.mil에서 처리되는 데이터가 정부 환경에 격리되며 OpenAI의 공개·상용 모델 학습에 사용되지 않는다고 설명했으며, 펜타곤 관계자는 향후 4번째 모델이 “potentially” 추가될 수 있다고 말했다.
많은 기업이 직원들이 AI를 더 잘 활용하도록 만드는 방법에 주목하고 있다. AI가 문서 작성·정보 요약·코드 디버깅 같은 반복 업무 부담을 줄이고, 대신 고부가가치 업무에 시간을 더 쓰게 해줄 것이라는 기대가 크지만, 실제로는 업무가 감소하기보다 ‘강화’될 수 있다는 문제의식이 제기된다.
베트남이 AI 법의 이행을 안내하기 위한 위험기반 시행령(안)을 공개했다. 이 초안은 AI 시스템 제공자에게 ▲고위험 AI 애플리케이션 분류(향후 총리 목록 활용) ▲AI 생성 콘텐츠 표시 ▲중대한 AI 관련 사고 보고 등 의무를 부과하는 내용을 담고 있다. 또한 과학기술부는 준수 체계를 마련하기 위해 공공 컨설팅용으로 2건의 초안 규정을 함께 내놓았다.
국가사이버전략은 당초 예상보다 지연됐으나 “조만간” 공개될 예정이라고 언급됨(구체 일정 미제시)
백악관 국가사이버국(ONCD) 최고 책임자 Sean Cairncross는 미국이 주도하는 AI 기술 스택에 보안 조치를 내재화하기 위한 AI 보안 정책 프레임워크를 개발 중이라고 밝혔다. 그는 AI 보안을 혁신의 ‘마찰 요소’로 보지 않고 AI 시스템의 기반 단계에서부터 포함시키려는 취지라고 설명했다. 또한 데이터 포이즈닝 같은 AI 관련 위험과, 에이전틱 보안 도구/자동화가 공격에 악용될 수 있다는 점이 사이버 커뮤니티에서 주요 이슈로 거론된다고 전했다.