국가인공지능전략위원회는 보안취약점을 상시 발굴·조치하는 제도의 국내 도입과 제도화 방안을 논의하는 세미나를 개최했다. 정부기관, 민간기업, 화이트해커 등 50여 명이 참여해 제도의 필요성, 법령 개정, 기업 참여 확대, 전담인력 확보 방안 등을 논의했다. 전문가들은 해당 제도를 국가 사이버 보안 인프라로 보고 시범사업에서 제도화 단계로 신속히 전환해야 한다고 강조했으며, 위원회는 논의를 바탕으로 제도화를 추진할 계획이다.
과학기술정보통신부는 Anthropic과 업무협약(MoU)을 체결하고 첨단 AI 안전성 평가 및 사이버 위협 대응을 위한 강력한 협력 체계를 구축. 한국에 지사를 정식 개소한 앤트로픽과 함께, 한국어 맥락의 AI 오남용 평가 및 자율형 AI 에이전트 안전성 검증 등 안전과 보안을 기반으로 한 AI 글로벌 파트너십을 확장할 예정.
마크롱 프랑스 대통령은 G7 정상회의에서 미국 정부의 최신 AI 모델 접근 차단 조치를 국가주의적이라 비판하며, 선진 민주주의 국가 간 기술 공유와 규제 협력을 촉구. 주요 AI 기업 대표들이 참석한 자리에서, 안전한 AI 배포를 위한 국제적 기준 확립의 필요성을 역설하며 유럽 자체의 독자적인 AI 생태계 지원 의사도 함께 표명.
영국 국가사이버보안센터(NCSC)는 AI가 코드를 자율적으로 작성하는 '바이브 코딩(vibe coding)'의 보안 취약성을 경고하며 위험 수준에 따른 스펙트럼 접근법을 제안. 프로토타입 개발 같은 저위험 업무에는 높은 자율성을 허용하되, 인증 등 보안과 직결된 중요 코드에는 개발자의 면밀한 통제와 엄격한 검증을 적용해야 함을 강조.
앤스로픽은 첨단 AI가 초래할 생물학·사이버 보안 위험을 막기 위해 정부가 위험 모델의 배포를 차단할 법적 권한을 가져야 한다는 '첨단 AI 프레임워크'를 제안. 대규모 연산을 사용하는 프론티어 개발사들에게 투명성 보고서 발행, 독립적인 안전성 평가, 그리고 강력한 보안 프로그램 유지를 의무화할 것을 촉구.
딥마인드는 AI agents가 더 강력해질수록 정렬(alignment) 불완전성을 전제로 한 시스템 수준 방어가 필요하다고 보고, ‘defense-in-depth’ 방식의 AI Control Roadmap을 제시했다. 내부 에이전트를 잠재적 misaligned로 간주해 권한을 검증된 행동에 따라 단계적으로 부여하고, sandboxing·endpoint security·prompt injection resistance에 더해 위협모델링·감독(supervisor)·실시간 차단 등 통제를 적용한다. 또한 모델이 detection을 회피하거나(Detection 레벨 D1~D4) 위해를 실행할 능력(Prevention/Response 레벨 R1~R3)에 따라 보안 조치를 단계화하며, 코딩 에이전트 궤적을 백만 건 이상 분석해 라이브 모니터링과 즉시 대응 체계를 고도화했다고 밝혔다.
이 보고서는 글로벌 기업의 70% 이상이 이미 생성형 AI를 업무에 활용하고 있으며, AI 도구는 업무 효율성 향상과 더 의미 있는 업무에 집중할 수 있는 시간 절약을 가능하게 한다고 설명합니다. 하지만 AI 도구의 도입 방식에 따라 생산성 저하, 낮은 품질의 결과물 생성, 심지어 직원의 직무 품질 저하와 불안정성을 초래할 수도 있습니다. 성공적인 AI 도입은 기업의 적극적인 직원 의견 수렴과 명확한 AI 관리 프레임워크에 달려 있습니다. IBM과 EXL의 사례 연구는 직원 참여를 통한 투명한 의사소통과 명확한 AI 지침이 직원과 기업 모두에게 이로운 AI 도입을 가능하게 함을 보여줍니다. 이를 통해 책임 있는 AI 구현이 직원 중심의 접근법으로 이루어질 수 있음을 강조합니다.
AI 가드레일, LLM 평가, 에이전트 메모리와 AgentOps를 다루는 8시간 마스터클래스다. (영상 469분)
DB · 뉴 사이언티스트(New Scientist) · 🛡️🦾
우크라이나 전장에서 인간 감독 없이 완전 자율(fully autonomous)으로 표적을 탐지·요격하는 드론이 처음으로 전사자를 냈다는 내용이 보도됐다. 우크라이나 국방업계 관계자에 따르면, 2년 전 전방에서 테스트된 AI 제어 ‘Terminator’ 드론 10대가 러시아 병사를 사살했으며, 테스트 중 자동 드론이 무엇을 표적했는지 기록이 없어 이후 사람 드론이 확인한 결과로 사살이 결론났다고 한다. 또한 우크라이나 정부는 표적 요격의 최종 단계에서 AI 사용을 금지하고 인간이 최종 확인을 하도록 규정하고 있다고 전해졌으며, 다만 규정 완화 논의가 진행 중이라고 밝혔다. (UN의 불법 우려 및 국제인도법·인권법 위반 가능성 지적, 자율 무기의 실전 효용 논쟁도 함께 언급됨)
Anthropic은 robodog(사족 보행 로봇)로 ‘fetch(공을 가져오기)’ 과업을 수행하는 Project Fetch 2단계 실험에서 Claude Opus 4.7이 인간 팀보다 훨씬 빠르게 완료했다고 밝혔다. Opus 4.7은 인간 보조 없이도 1년 전 실험에 참여한 최속 인간 팀 대비 전체 완료 과업에서 약 20배 빠른 속도를 보였으며, 인간 팀이 수행한 과업 중 최소 한 팀이 완료한 항목에서는 Opus 4.7이 해당 과업을 10배 이상 빠르게 처리했다고 설명했다. 다만 공을 정확히 움직이는 ‘fetch’ 후반의 미세한 closed-loop 동작과 같은 일부 단계에서는 여전히 실패/통제가 어렵고, 최신 모델이 더 잘할 수 있게 추가 시간·스캐폴딩이 필요하다고 했다.
기타 · news.bgov.com (Bloomberg Government News) · ⚖️🎭
요약: 상원 사법위원회가 목소리(voice)로 표결해 AI 딥페이크 등으로부터 미국 시민의 초상(voice·likeness)을 보호하는 법안을 진전시켰다. S.4591 ‘No Fakes Act’는 5월에 개정·재발의된 법안으로, 동의 없이 개인을 디지털로 모방한 AI 생성 콘텐츠를 온라인 플랫폼이 삭제하도록 책임을 부여한다. 이를 이행하지 않으면 금전적 제재(벌금)가 부과된다.