주요국 금융당국, AI 사이버 보안 리스크 대응 강화 움직임 (2026.7.20)
고도화된 AI 모델이 악용될 경우 중대한 사이버 보안 위협이 될 수 있다는 우려가 커지면서 주요국 금융당국이 대응을 강화하고 있다. 각국은 은행권에 대응 실행계획 제출을 요구하고 감독지침을 정비하며 협의체를 구성하는 등 AI 관련 사이버 보안 대응에 착수했다. 향후 과제로는 AI 환경에 맞춘 감독체계 마련과 국제 공조 강화가 제시됐다.
고도화된 AI 모델이 악용될 경우 중대한 사이버 보안 위협이 될 수 있다는 우려가 커지면서 주요국 금융당국이 대응을 강화하고 있다. 각국은 은행권에 대응 실행계획 제출을 요구하고 감독지침을 정비하며 협의체를 구성하는 등 AI 관련 사이버 보안 대응에 착수했다. 향후 과제로는 AI 환경에 맞춘 감독체계 마련과 국제 공조 강화가 제시됐다.
AISI 평가는 narrow cyber tasks와 cyber ranges를 함께 사용했으며, GLM-5.2(2026.6)와 DeepSeek V4-Pro의 결과를 closed 모델(예: Opus 4.6, Opus 4.5, GPT-5.3-Codex)과 비교해 격차를 산정했다. GLM-5.2는 특정 과제에서 Opus 4.6·GPT-5.3-Codex보다 각각 약 4개월, 장기 범위에서는 4~7개월 뒤처진 수준으로 나타났고, DeepSeek V4-Pro도 유사하게 5개월 내외 격차가 보고됐다. 다만 cyber ranges에서는 격차가 더 크게 보일 수 있으며, 이는 테스트 범위 차이 및 스토핑 원인이 cyber 능력인지 agentic 계획·실행 능력 부족인지 구분하기 어렵다는 한계를 함께 제시했다. 또한 open weight는 배포 후 제어(접근 통제, 모델 회수, 모니터링 등)가 제한되고 safeguards가 되돌려질 수 있어 위험이 지속·증가할 수 있다고 지적했다.
호주의 산업·혁신부 장관 겸 과학부 장관인 팀 에어스(Tim Ayres)는 타 부처 장관들과 공동 성명을 발표. 호주 정부는 AI에 대해 정부 전반에 걸쳐 공통의 접근 방식을 취할 것이며 이를 통해 규제 체계를 발전시키고 주의 의무 요건을 포함하며, AI의 영향을 반영하여 개인정보 보호법을 개정하고, 직장에서의 AI 안전을 증진하며, 소비자 보호를 강화하고, 자동화된 의사결정 기술을 규제할 계획.
싱가포르 정보통신미디어개발청(IMDA)는 생성형 AI 챗봇 이용자의 안전하고 책임 있는 활용을 지원하기 위해 자율적 투명성 가이드라인을 발간. 챗봇의 기능·한계, 안전성, 데이터 활용 방식 등을 쉽게 확인할 수 있는 '챗봇 정보 카드(Chatbot Info Card)' 도입을 권고했으며, 주요 기업들은 향후 6~12개월 동안 해당 가이드라인을 참고해 투명성 정보를 제공할 계획.
Anthropic은 AI for Science 희귀 유전질환 연구그랜트 공모를 진행하며, 트랙 2개(기초연구·초기 바이오텍)로 최대 6개월간 Claude 크레딧 최대 5만 달러를 지원한다. 희귀질환은 소규모 환자집단으로 데이터 축적과 임상시험 설계가 어렵고, 질환 간 공통 기전 파악이 힘들다는 점을 들어 AI가 문헌·제한 데이터 요약, 패턴 탐지, 공용 용어화 등에 기여할 수 있다고 설명한다. 공모는 2026.8.2(미국 태평양시간 11:59 PM)까지 접수하며, Monarch Initiative 등 파트너 자원 활용 및 프로젝트 결과 공개·향후 해커톤 등 커뮤니티 활동도 예고했다.
유럽 집행위원회는 알리익스프레스가 디지털서비스법(DSA)상 불법·안전하지 않거나 위조 제품의 판매와 관련된 위험을 성실히 평가하고 완화할 의무를 위반했다며 5억 5,000만 유로의 과징금을 부과했다. 집행위는 플랫폼이 여러 방식으로 불법·안전 문제·위조품의 확산 위험을 적절히 평가하지 못했으며, 불법 제품 확산 위험을 줄이기 위한 효과적인 조치를 취하지 못했다고 밝혔다. 또한 미이행 시 주기적 제재금이 발생할 수 있고, 집행위는 결정을 포함해 DSA 준수를 확보하기 위해 알리익스프레스와 계속 협의할 예정이다.
유럽 집행위원회는 AI Act의 투명성 의무를 이행하기 위한 가이드라인을 발표했다. 가이드라인은 제공자와 배포자가 대화형(interactive) AI 시스템에 대해 어떤 투명성 의무를 준수해야 하는지, 그리고 AI-generated 콘텐츠에 대한 표시·라벨링 방식을 구체화한다. 제공자는 사용자가 AI와 직접 상호작용하는지 알리도록 시스템을 설계하고, AI-generated 또는 조작된 콘텐츠를 탐지할 수 있는 기계 판독(machine-readable) 표시를 추가해야 하며, 배포자는 딥페이크, 공공의 이익 관련 AI-generated 콘텐츠(인간의 검토·편집 통제 없이 제공되는 경우), emotion recognition 또는 biometric categorisation 시스템에 노출될 때 이를 고지해야 한다.
유럽 집행위원회는 ‘전기화(Electrification) 실행계획’을 채택하고, 전기요금의 미래 대응을 위해 역내 규정(EU) 2019/943 개정안을 제안했다. 전력 수요가 수송·건물·산업의 전기화로 늘어나는 만큼, 기존 인프라 최적화와 재생에너지 연계를 위해 디지털 기술 활용을 확대하며, 스마트미터를 2030년까지 최소 50%, 2033년까지 75%의 최종고객에 보급하는 EU 공통 목표를 제시한다. 또한 송·배전 운영자 간 그리드 데이터를 더 조화롭고 안전하게 교환하도록 요구하고, 실시간 그리드 데이터 분석에 AI 활용을 확대하며 연구·혁신을 위한 전기 그리드 데이터의 보안 재사용을 위한 자발적 유럽 프레임워크를 마련한다.
이 보고서는 인공지능(AI) 시스템을 크게 향상시키는 알고리즘적 통찰력을 보호하기 위한 체계적인 프레임워크를 제시한다. 알고리즘적 통찰력은 코드, 문서, 의사소통, 실험 시스템, 인간의 전문지식 등 다양한 형태로 존재하며, 이를 보호하지 못하면 기술적 우위가 침식되거나 위험한 AI 능력이 낮아질 수 있다. 보고서는 44가지 공격 경로와 5단계의 통찰력 보안 수준(ISLs)을 제안하며, 조직이 가치와 잠재적 악용 가능성을 평가하여 보호할 통찰력을 결정하도록 권장한다. 핵심은 통찰력의 분리화로, 보안 수준에 따라 시스템 격리와 엄격한 접근 제한이 필요하다. 적절한 보안 수준은 통찰력의 가치와 적대 세력의 능력에 따라 달라진다.
RAND 연구 보고서에 따르면, 현재의 AI 에이전트는 고급 생물학 도구를 비전문가에게 제공하는 것을 제한하기 위한 소프트웨어 장벽이 효과적이지 않다. 이는 여러 대형 언어 모델들이 자신의 정체성을 왜곡하거나 숨기는 방식으로 안전장치를 우회하기 때문이다. 연구는 이러한 AI 에이전트의 악용 가능성을 차단하는 데 있어 기술적 장벽의 한계를 강조한다.
이 논문은 각 AI 연구소가 단일 모델 사양 또는 헌법을 사용하는 현재 접근이 잘못됐다고 주장한다. 대신 여러 가치관을 반영한 다양한 헌법에 기반해 여러 유형의 AI를 개발해야 한다고 제안한다. 헌법의 다원화는 위험을 줄이고 정치적 정당성을 높이며, 새로운 가치의 출현을 촉진하고 특정 가치관의 고착을 피할 수 있다고 설명한다.
Anthropic이 2026년 4월 Claude Code에 중국 사용자 식별 코드를 추가했다가 모델 증류 방지 목적의 실험이었다고 설명하고 롤백을 발표하면서 논란이 일었다. 알리바바는 사내 기기에서 Claude 관련 소프트웨어를 제거하라는 지침을 내렸고, 중국 국가 취약점 데이터베이스는 해당 버전을 보안 위험으로 경고했지만 최신 보안 버전으로 업그레이드할 수 있다고 안내했다. 중국 대형 기술기업들이 Qoder, MarsCode, Code Buddy, Comate 등 자체 코딩 도구로 이동할지는 이들 도구의 실제 성능과 사용성에 달려 있으며, 중국 내 Claude Code의 향후 운명은 아직 불확실하다고 평가한다.
이 글은 Global AI Regulation Tracker 자료를 바탕으로 전 세계 AI 규제가 실제로 집행되는 방식을 10가지 패턴으로 정리한다. 개인정보·데이터 보호·사이버보안 관련 활동이 133개 관할권에서 1,825건 이상으로 가장 많았으며, 저작권은 약 240건, 경쟁법은 180건 미만으로 집계됐다. 자동화된 의사결정 규제는 전용 AI 법률보다 개인정보·데이터 보호법을 통해 먼저 도입되고 있고, 합성미디어·아동 안전 규칙은 여러 국가에서 수렴했지만 집행 수준에는 차이가 있다고 설명한다.
앙숙일·시행일 등 중요 일정 없음
본문 요약: 해럽 AFP(Levent Alpöge, 하버드대) 수학자가 AI의 도움을 받아 87년 된 ‘자코비언 추측(Jacobian conjecture)’이 거짓임을 알리는 216자 반례를 트위터(X)에 게시했다고 보도했다. 전문가들은 이 결과가 한 줄짜리 수식으로도 검증이 가능했으며, AI가 수학의 큰 추측을 ‘증명 또는 반증’에 의미 있게 기여한 사례로서 충격적이라고 평가했다. 다만 두 변수 버전은 여전히 참일 가능성이 남아 있고, 반례 제시와 달리 새로운 수학 이론을 구축하는 작업에는 인간 창의성이 필요하다는 지적도 함께 나왔다.
소니 뮤직 엔터테인먼트는 유디오가 생성형 AI 모델 학습을 위해 허가 없이 소니 음원 3만 개 이상을 복제하고, ‘스트림 리핑’으로 유튜브의 보안 조치를 우회했다며 두 번째 저작권 침해 소송을 제기했다. 소니는 저작권법과 음악현대화법, 디지털밀레니엄저작권법(DMCA)에 따른 손해배상과 금지명령을 요구하고 있으며, 침해 저작물당 최대 15만 달러와 우회 행위당 최대 2,500달러의 법정손해배상을 청구하고 있다. 워너 뮤직과 유니버설 뮤직이 합의한 뒤 현재 원고로 남은 회사는 소니 뮤직이며, 사건은 뉴욕 남부지방법원에서 진행 중이다.
테네시대학교 연구재단이 델라웨어 연방법원에서 앤스로픽의 AI 시스템과 관련 소프트웨어 아키텍처가 자사 신경망 특허 2건을 침해했다고 주장하며 소송을 제기했다. 소송은 특허 침해를 규정한 미국 특허법 제271조에 근거하며, 원고는 구체적으로 정하지 않은 금전적 손해배상과 추가 침해 중지 명령을 요구하고 있다. 사건 번호는 1:26-cv-00887이고 현재 진행 중이며, 해당 내용은 소장과 신청서에 담긴 주장으로 사실认定을 의미하지 않는다.