🇯🇵 AI 세이프티 평가관점 가이드(제1.20판) 공개 (2026.7.7)
AIセーフティに関する評価観点ガイド(第1.20版)가 공개되었다. 해당 가이드는 동등 AI 시스템이 자율적으로 수행하는 경우와 외부 시스템이 연동·상호작용하는 경우 등, AI가 갖는 위험과 영향에 대응하는 평가 관점을 업데이트·개정해 반영했다고 설명한다. 또한 2026년 7월 7일에 공개(공표)되었으며, 이전 버전의 일부 개정 내용도 포함해 안내한다.
AIセーフティに関する評価観点ガイド(第1.20版)가 공개되었다. 해당 가이드는 동등 AI 시스템이 자율적으로 수행하는 경우와 외부 시스템이 연동·상호작용하는 경우 등, AI가 갖는 위험과 영향에 대응하는 평가 관점을 업데이트·개정해 반영했다고 설명한다. 또한 2026년 7월 7일에 공개(공표)되었으며, 이전 버전의 일부 개정 내용도 포함해 안내한다.
일본 AISI는 자율적 AI 에이전트 시스템 확산에 대응하기 위해 평가 항목을 확충한 'AI 안전에 관한 평가 관점 가이드(제1.20판)'를 발표. 기존 LLM과 달리 외부 환경과 상호작용하는 에이전트 특유의 위험에 대비하기 위해 '관측과 제어', '자율적 행동'과 관련된 평가 관점을 새롭게 추가.
EU 집행위원회(EC)는 첨단 AI 모델이 제기하는 사이버 보안 취약점에 대응하기 위해 회원국과 산업계를 아우르는 행동 계획을 발표. AI 법에 따른 선제적 평가 역량을 2027년까지 구축하고, 안전한 테스트 플랫폼 조성 및 AI 사이버 보안 챌린지를 통해 유럽의 기술 보안 능력을 강화할 예정.
유럽 집행위는 첨단 AI 모델이 야기하는 위험과 기회를 고려해 사이버보안에 대한 구조화된 대응을 마련하는 EU 액션플랜을 발표했다. 이와 관련해 AI가 취약점 파악, 공격 자동화, 사이버 사고의 규모와 속도 확대에 악용될 수 있다고 설명하며, 회원국·산업계·EU 차원의 관련 기관을 함께 묶어 디지털 환경의 사이버보안을 강화하겠다고 밝혔다. 또한 위원회는 기존 역량·네트워크·법적 프레임을 활용해 새로운 기술이 가져오는 취약성에 대응 속도를 맞추겠다는 취지의 발언을 덧붙였다.
독립 전문가 과학패널은 EU 인공지능법에 따라 범용 AI(GPAI) 모델·시스템 규정의 집행을 지원하며, AI 사무국과 회원국 당국에 시스템적 위험, 모델 분류, 평가 방법론 등에 대해 자문한다. 패널은 최대 60명의 독립 전문가로 구성되고 임기는 2년이며, 2026년 6월 1일 60명의 전문가가 임명됐다. 패널은 범용 AI의 EU 차원 시스템적 위험에 대해 적격 경보를 발령하거나 사업자 정보·문서 요청을 제안할 수 있으며, 시장감시 당국을 지원하고 모델 평가에도 참여한다.
2026년 7월 6일 15시 기준으로 ITU의 ‘AI for Good Global Commission’ 출범 관련 소식과 CSIS의 ‘중국 AI 모델’ 분석, Anthropic의 Fable 5 cyber safeguards 및 jailbreak framework 공개 내용을 정리해 소개했다. 또한 이번 콘텐츠는 해당 정보가 갖는 정책·산업적 함의와 더불어 설명 목적의 해설이 포함된 것으로 보인다.
플로리다의 간호사 멜리사 멀린 심스가 전 남자친구가 제시한 문자메시지 스크린샷을 근거로 두 차례 체포됐지만, AT&T와 T-Mobile의 통신 기록에는 해당 문자가 전송·수신된 흔적이 없었다고 글은 주장한다. 심스는 2025년 재판에서 약 90분 만에 무죄 평결을 받았으며, 글은 수사기관이 통신사 서버 기록 확인과 DNA 채취를 충분히 하지 않았고 검찰이 인공지능·조작 증거 관련 주장을 배제하려 했다고 비판한다. 또한 전 남자친구가 언급한 영상의 존재 여부와 검찰의 증거 공개 의무 위반 가능성을 제기하며, 디지털 증거의 사전 인증을 의무화하는 플로리다주의 ‘멜리사의 법’을 촉구한다.
독립 개발자 "Thereallo"가 Claude Code(2.1.196) 클라이언트를 리버스 엔지니어링해, 시스템 프롬프트의 "Today's date is 2026-06-30." 문장에 사용자 API 엔드포인트와 시간대에 따라 보이지 않는 유니코드 표식이 삽입되는 함수를 발견했다. 이 신호는 시간대가 Asia/Shanghai 또는 Asia/Urumqi일 때 작동했으며, 일반 사용자에게는 평범한 영어 문장으로 보였다. Anthropic 엔지니어는 X에서 이것이 3월에 시작한 "무단 재판매업자의 계정 남용과 distillation을 막기 위한 실험"이라고 확인했고 해당 코드를 제거했지만, 상세한 사후 보고서는 아직 내지 않았다. 기사는 개발자에게 AI 클라이언트의 해시·버전 기록, 네트워크 검사로 숨은 표식 확인, 단일 AI 도구에 대한 의존 회피를 권고한다.
AI Safety Index Summer 2026 에디션에서 주요 AI 회사들의 안전·보안 성과를 위험평가, 현재 피해, 안전 프레임워크, 존재론적 안전, 거버넌스·책무성, 정보공유 등 영역별로 점수화했다. 전체적으로 Anthropic(2.66, C+), OpenAI(2.28, C), Google DeepMind(2.01, C)와 달리 Meta(1.32, D+), Z.ai(0.88, D-), Alibaba Cloud(0.87, D-), xAI·DeepSeek·Mistral 등은 하위 등급(F 포함)을 받았다. 또한 중국의 경우 자발적 안전공약의 상대적 부족이 ‘자율 준수’ 여부 때문인지 단정하기 어렵고, 중국에서는 국가·지방 규제와 구속력 있는 표준 및 준구속적 표준이 회사 행동에 직접/간접으로 영향을 준다는 점을 설명했다.
NCSC와 DSIT가 2026년 7월 공개한 청사진을 바탕으로, 정부·CNI·사이버방어/프론티어AI 파트너와 협력해 시범 테스트 및 단계적 확산을 추진
NCSC는 GCHQ 연례 강연에서 제시된 방향에 따라 ‘Cyber Shield’라는 국가 규모의 주권형(agentic) AI 기반 사이버 방어 역량 구축을 위한 청사진을 공개했다. Cyber Shield는 frontier AI를 활용해 취약점 식별·감소·해결, 실시간 탐지·대응, 전국 단위 스캐닝과 완화(차단 등) 등을 협업형으로 수행하는 것을 목표로 한다. 이를 위해 신뢰·데이터·신원·신뢰성·규제 준수 등 기반을 갖춘 ‘federated agents’와 explainable AI 같은 핵심 기능을 요구하며, 개발·운영은 NCSC/정부 단독이 아니라 학계·산업 및 네트워크 방어자들과의 파트너십을 통해 추진한다고 설명했다.
유럽연합 집행위원회는 AI의 안전하고 책임 있는 사용을 지원하면서 유럽의 사이버보안 역량을 강화하기 위한 ‘사이버보안 및 인공지능 액션플랜’을 발표했다. 이 계획은 (1) 고도 AI의 안전·책임 사용 촉진, (2) EU 사이버보안 및 회복력 강화, (3) 사이버보안을 위한 유럽의 AI 역량 확대의 3가지 목표를 중심으로 한다. 또한 AI Act에 맞춰 EU 시장 진입 전 AI 모델 평가 역량을 강화하고, ENISA와 함께 사이버보안 목적의 보안 접근 블루프린트 및 안전한 테스트 플랫폼을 마련하며, NIS2 Directive와 Cyber Resilience Act 등 기존 사이버보안 법체계를 이행하도록 촉진한다. 사이버보안용 AI 솔루션 개발을 위한 EU Grand Challenge도 추진하고, AI Factories 및 향후 Gigafactories 등 ‘주권형 AI’ 투자와 민간투자 확대를 함께 도모한다.
크래독은 OpenAI가 허가 없이 자신의 저작물을 ChatGPT 학습 데이터에 포함했다며 저작권 침해를 주장하고, AI 학습과 관련한 재산권에 대한 확인 판결을 청구했다. 사건은 미국 캘리포니아 북부지방법원에 제기됐으며, 다양성 관할권에 관한 연방법 조항을 근거로 한다. 현재 사건 상태는 진행 중이며, 공정 이용과 집단소송 인증 등이 주요 쟁점으로 언급됐다.
Python 라이브러리 형태로 AI 리스크 온톨로지와 지식그래프를 제공하며, AI 위험·행동·평가를 한 스키마에 통합해 리스크 탐지/분류와 거버넌스 워크플로우를 지원한다. IBM AI Risk Atlas 등 여러 리스크·프레임워크에서 리스크를 수집하고, 서로 다른 택소노미 간 매핑을 제안하며, 그래프 다운로드와 Cypher 변환 도구를 제공한다. 또한 CoT/Few-shot 기반 컴플라이언스 질문지 자동 보조, ARES 통합을 통한 강건성 평가 실행, LinkML 스키마/인스턴스를 그래프DB로 적재하는 확장 기능과 설치 절차를 안내한다.
2026.7.16(오전 7:30 PT)·2026.7.23(정오 12:00 PT) 2회 진행, Zoom Webinar로 무료 제공
AIWI가 AI 연구소(Frontier AI Labs) 관계자가 우려 사항을 발견했을 때 대응할 수 있도록 돕는 ‘The AI Lab Preparedness Primer’ 60분 웨비나를 운영한다고 안내했다. 수강 내용에는 우려의 징후 식별, 내부 제보·규제기관·기타 채널을 통한 선택지와 법적 보호 범위, 문서화·디지털 보안·질문 응답 및 사후 지원 등 실무가 포함된다. AIWI는 독립 비영리단체로서 직원 보호 관련 연구·교육·지원 및 정책 활동을 수행하며, 본 강의는 Karl Koch가 주도하되 게스트 참여 가능성도 언급했다.