Anthropic은 퍼시픽 노스웨스트 국립 연구소(PNNL)와 협력하여 AI를 활용한 중요 인프라 방어 기술을 연구하고 있습니다. 특히, Claude AI 모델을 이용해 사이버 공격 시뮬레이션을 가속화하여 물 처리 시설과 같은 실제 인프라의 취약점을 빠르게 식별하고 대응할 수 있는 방법을 탐구하고 있습니다. 이 연구를 통해 AI가 사이버 방어자들이 적의 공격 패턴을 더 빠르게 분석하고 반복할 수 있게 함으로써 방어 전략을 개선하는 데 도움이 될 수 있음을 입증했습니다. 또한, 이 프로젝트는 공공 부문과 민간 부문 간 협력의 중요성을 강조하며, AI 기술을 통해 국가 안보를 강화하는 방향으로 나아가고 있습니다.
공공 · 미국 연방관보(Federal Register) NIST(미 상무부 국립표준기술연구소) · 🔒🤖
미 상무부 국립표준기술연구소(NIST) 산하 CAISI는 AI 에이전트 시스템의 안전하고 보안성 있는 개발·배치(운영) 방법을 측정하고 개선하기 위한 이해관계자 의견을 수집하는 정보요청(RFI)을 공고했다. AI 에이전트는 현실 환경에 영향을 주는 자율적 행동을 수행할 수 있으며, 하이재킹·백도어 공격 등 보안 취약점에 노출될 수 있어 공공안전과 소비자 신뢰, 기술 도입에 부정적 영향을 줄 수 있다고 설명한다. 응답자는 보안 위협·위험·취약성, 보안 실천, 보안 평가, 배치 환경의 제한·수정·모니터링 등과 관련된 구체적 사례와 권고사항을 제시하도록 요청받는다.
영국 맨체스터에서 Sixt 렌터카를 빌린 John Stachura는 대여 전 이미 있던 흠집을 직접 촬영해 두었지만, Sixt의 AI 스캐너 Car Gate가 대여 시점에는 이 파손을 잡아내지 못하고 반납 시에만 감지해$2,200(£1,659)의 수리비를 청구받았다. Vehicle Incident Report의 전후 사진에는 두 번 모두 기존 파손이 찍혀 있었으나, Sixt는 8주간 납부 독촉과 추심·법적 조치 위협을 이어갔다. 필자인 TPG 옴부즈맨 Michelle Couch-Friedman이 Sixt 임원진에 스캔 사진을 전달하자 파손 기록과 청구가 전액 취소되었다. 필자는 Hertz·Sixt가 2025년 4월 AI 스캐너를 도입한 뒤 유사한 민원이 이어졌다며, 대여 전후 촬영, 미고지 파손의 직원 신고, VIR 요청을 대응책으로 제시했다.
영국 인터넷감시재단(IWF)은 분석가들이 Grok으로 만들어진 것으로 보이는 11~13세 소녀의 "범죄 이미지"를 다크웹 포럼에서 발견했다고 밝혔다. 해당 포럼의 이용자들이 Grok으로 이미지를 만들었다고 주장했으며, 이미지는 영국 법상 가장 낮은 심각도인 Category C로 분류된다. 다만 업로드한 이용자가 xAI가 만들지 않은 다른 AI 도구로 가장 심각한 Category A 이미지를 생성했다고 IWF는 설명했다. 앞서 Ofcom이 X와 xAI에 연락했고, X는 불법 콘텐츠를 제거하고 계정을 영구 정지하겠다고 밝혔다.
Anthropic은 태평양북서부국립연구소(PNNL)와 함께 중요 인프라(전력망, 연료 파이프라인, 상수·수처리 등)를 겨냥한 사이버 공격을 방어하기 위한 AI 활용 방안을 탐색했다. Claude를 이용해 수처리 시설의 고정밀 시뮬레이션에서 공격 재현(적대자 에뮬레이션)을 수행했으며, 자연어 프롬프트를 복잡한 공격 체인으로 빠르게 전환하는 ‘스캐폴드’를 통해 과정을 자동화·가속했다. PNNL은 공격 재구성이 사람 기준으로는 수주가 걸릴 작업을 약 3시간 내 완료할 수 있었다고 설명했으며, 테스트 중에는 보안 기능 우회 시도 실패를 감지하고 다른 우회 기법을 선택하는 등 모델의 적응적 행동도 관찰됐다고 밝혔다.