Anthropic은 퍼시픽 노스웨스트 국립 연구소(PNNL)와 협력하여 AI를 활용한 중요 인프라 방어 기술을 연구하고 있습니다. 특히, Claude AI 모델을 이용해 사이버 공격 시뮬레이션을 가속화하여 물 처리 시설과 같은 실제 인프라의 취약점을 빠르게 식별하고 대응할 수 있는 방법을 탐구하고 있습니다. 이 연구를 통해 AI가 사이버 방어자들이 적의 공격 패턴을 더 빠르게 분석하고 반복할 수 있게 함으로써 방어 전략을 개선하는 데 도움이 될 수 있음을 입증했습니다. 또한, 이 프로젝트는 공공 부문과 민간 부문 간 협력의 중요성을 강조하며, AI 기술을 통해 국가 안보를 강화하는 방향으로 나아가고 있습니다.
미 상무부 국립표준기술연구소(NIST) 산하 CAISI는 AI 에이전트 시스템의 안전하고 보안성 있는 개발·배치(운영) 방법을 측정하고 개선하기 위한 이해관계자 의견을 수집하는 정보요청(RFI)을 공고했다. AI 에이전트는 현실 환경에 영향을 주는 자율적 행동을 수행할 수 있으며, 하이재킹·백도어 공격 등 보안 취약점에 노출될 수 있어 공공안전과 소비자 신뢰, 기술 도입에 부정적 영향을 줄 수 있다고 설명한다. 응답자는 보안 위협·위험·취약성, 보안 실천, 보안 평가, 배치 환경의 제한·수정·모니터링 등과 관련된 구체적 사례와 권고사항을 제시하도록 요청받는다.
Anthropic은 태평양북서부국립연구소(PNNL)와 함께 중요 인프라(전력망, 연료 파이프라인, 상수·수처리 등)를 겨냥한 사이버 공격을 방어하기 위한 AI 활용 방안을 탐색했다. Claude를 이용해 수처리 시설의 고정밀 시뮬레이션에서 공격 재현(적대자 에뮬레이션)을 수행했으며, 자연어 프롬프트를 복잡한 공격 체인으로 빠르게 전환하는 ‘스캐폴드’를 통해 과정을 자동화·가속했다. PNNL은 공격 재구성이 사람 기준으로는 수주가 걸릴 작업을 약 3시간 내 완료할 수 있었다고 설명했으며, 테스트 중에는 보안 기능 우회 시도 실패를 감지하고 다른 우회 기법을 선택하는 등 모델의 적응적 행동도 관찰됐다고 밝혔다.