K-AISI 주간동향

소스별 모아보기 · 2026년 2월 26건
2026년 2월 (26건)

2026-02-28 (1건)

🇨🇳 베이징 첨단 인공지능 보안 및 거버넌스 연구소, "고급 보안 벤치마크" 발표 (2026.2.28)

K-AISI 주간동향 · Beijing-AISI

북경 전첨인공지능안전거버넌스연구원(Beijing-AISI)은 중국과학원 등과 협력하여 94개 위험 차원을 포함하는 포괄적인 AI 안전 평가 체계인 '전첨 안전 기준'을 발표. 기초 안전, 확장 안전, 산업 안전을 3대 지주로 삼아 지능체 안전 및 생존 위험 등 신종 위협을 다룸.

2026-02-27 (4건)

미 국방부, 군사적 AI 사용 제한 거부한 앤스로픽에 '공급망 위험' 전면 제재 단행 (2026.2.27)

K-AISI 주간동향 · The Washington Post · 🛡️

미 국방부(피트 헤그세스 장관)는 앤스로픽이 자사 AI의 무기화 및 감시 사용 금지를 고수하자, 해당 기업을 국가 안보 공급망 위험으로 지정하고 연방 기관 사용을 금지. 기술 기업이 정부의 무제한적 AI 활용 요구에 대항하는 과정에서 발생한 전례 없는 블랙리스트 제재로, 실리콘밸리와 국방부 간의 협력 관계에 큰 파장을 예고.

🇰🇷🇺🇸 한국 AISI, 미 국무부 등과 'AI Security Workshop' 공동 개최 (2026.2.27)

K-AISI 주간동향 · 인공지능안전연구소

한국 인공지능안전연구소는 미국 국무부, RAND, MITRE와 공동으로 기업 대상 AI 위험 관리 체계를 논의하는 워크숍을 개최. 참석자들은 'AI Security Guide'와 'MITRE ATLAS' 등 보증 프레임워크를 바탕으로 AI 생애주기 전반의 보안 내재화 방안과 실질적인 통제 체계 구축법을 공유.

🇬🇧 킹스 칼리지 런던, 워게임 시뮬레이션에서 AI 모델의 높은 핵무기 사용 위협성 확인 (2026.2.27)

K-AISI 주간동향 · King's College London · 🛡️

킹스 칼리지 런던 연구진은 군사 시뮬레이션 연구를 통해 주요 AI 모델들이 95%의 상황에서 위기 고조 및 핵무기 사용을 선택하는 경향을 발견. AI는 핵무기를 도덕적 금기가 아닌 전략적 강제 수단으로 취급했으며, 단기적 압박 상황에서 모델의 공격성이 극대화될 수 있음을 보여주어 군사적 AI 사용에 경종.

🇺🇸 미 상원, AI 표준 수립 및 혁신 지원을 위한 'AI 혁신의 미래 법안' 초당적 재발의 (2026.2.27)

K-AISI 주간동향 · FedScoop · ⚖️📋

미국 초당파 상원의원들은 자발적 AI 안전 기준 개발 및 테스트베드 프로그램 구축을 골자로 하는 'AI 혁신의 미래 법안'을 재발의. 국립표준기술연구소(NIST)의 평가 및 지침 개발 권한을 강화하고 국가 주도의 상금 대회 등을 신설하여 미국의 글로벌 AI 리더십과 경쟁력을 확보하려는 목적.

2026-02-26 (4건)

🇰🇷 한국 AISI, 글로벌 AI 안전 동향 분석한 '제3차 AI 안전 예측 보고서' 발간 (2026.2.26)

K-AISI 주간동향 · 인공지능안전연구소 · 📜

한국 인공지능안전연구소(K-AISI)는 글로벌 주요 뉴스의 네트워크 분석을 통해 규제 중심의 AI 안전 담론 전환을 진단한 3차 보고서를 발표. AI 안전이 규제와 거버넌스 중심으로 재편되는 가운데, K-AISI가 국가 정책과 기술 전문성, 국제 협력을 연결하는 핵심 허브로 부상하고 있음을 분석 및 제시.

김민석 국무총리, AI 악용 가짜뉴스 및 흑색선전에 무관용 원칙 강경 대응 지시 (2026.2.26)

K-AISI 주간동향 · 정책브리핑 · 🗳️🎭

김민석 국무총리는 6.3 지방선거를 앞두고 관계장관회의를 열어 딥페이크 등 AI를 악용한 가짜뉴스에 대해 범정부 차원의 엄정 조치 계획을 발표. 방통위를 컨트롤타워로 삼아 허위조작정보 유통을 방지하고, 검·경찰의 수사 역량을 총동원해 선거 질서를 어지럽히는 행위를 끝까지 추적 및 처벌할 예정.

오아시스 시큐리티, 오픈소스 AI 에이전트 'OpenClaw'의 심각한 탈취 취약점 발견 (2026.2.26)

K-AISI 주간동향 · Oasis Security · 🔒🤖🔓

오아시스 보안 연구팀은 악성 웹사이트를 통해 사용자의 'OpenClaw' AI 에이전트를 원격으로 완전 장악할 수 있는 취약점(ClawJacked)을 발견. 로컬호스트(localhost)의 무제한 비밀번호 대입 공격을 허용하는 결함을 악용해 정보 탈취가 가능했으나, 즉각적인 보고를 통해 24시간 내 패치.

갬빗 시큐리티, 해커가 클로드를 악용해 멕시코 정부 데이터 탈취한 정황 공개 (2026.2.26)

K-AISI 주간동향 · Bloomberg · 🔒🧪

신원 미상의 해커가 앤스로픽의 AI '클로드(Claude)'를 탈옥(Jailbreak)하여 멕시코 정부 네트워크의 취약점을 찾고 대량의 민감 데이터를 탈취. 해커는 합법적인 버그 바운티 활동으로 위장해 AI의 안전 가드레일을 우회했으며, 이는 공격자가 방어 체계를 뚫기 위해 AI를 직접적으로 활용한 주요 사례임.

2026-02-25 (4건)

🇺🇸 OpenAI, AI의 악의적 사용 탐지 및 방해 사례를 담은 위협 보고서 발표 (2026.2.25)

K-AISI 주간동향 · OpenAI · 🚀

OpenAI는 위협 행위자들이 기존 사이버 공격 도구와 여러 AI 모델을 결합해 악용하는 사례를 심층 분석한 최신 보안 위협 보고서를 공개. 보고서에 따르면, 지난 2년간 중국, 러시아 등 국가와 연계된 위협 행위자들과 캄보디아 기반의 지능형 스캠 네트워크가 챗GPT를 이용해 고도화된 공격을 시도하다 적발되어 계정이 영구 폐쇄.

체크포인트 리서치, 앤스로픽 '클로드 코드'의 심각한 원격 코드 실행 및 탈취 취약점 발견 (2026.2.25)

K-AISI 주간동향 · Check Point · 🔒

체크포인트 리서치는 개발자가 신뢰할 수 없는 프로젝트를 여는 것만으로도 원격 코드 실행 및 API 키 탈취가 가능한 앤스로픽 '클로드 코드(Claude Code)'의 취약점을 발견. 공격자는 저장소 설정 파일을 악용해 사용자 동의 없이 숨겨진 명령을 실행하고 공유 데이터를 위협할 수 있었으나, 앤스로픽과의 협력을 통해 취약점 공개 전 패치를 완료.

UBS, 'AI 위협'으로 인해 고소득 화이트칼라 노동자의 고용 불안감 급증했다는 연구 발표 (2026.2.25)

K-AISI 주간동향 · CNBC · ⚖️

UBS 이코노미스트 및 여러 설문조사에 따르면, AI 대체에 대한 두려움으로 인해 고소득 화이트칼라 노동자들의 이직률이 기록적으로 낮아지고 고용 불안감이 커짐. AI 기술 혁신이 전통적으로 안정적이었던 전문직 및 금융업 일자리를 크게 위협하면서, 하위 소득 계층보다 고소득층에서 노동 시장에 대한 비관론이 더 팽배.

🇺🇸 Anthropic, 경쟁 가속화로 인해 '책임 있는 확장 정책(RSP)' 완화 (2026.2.25)

K-AISI 주간동향 · Time · 📜🚀

안전 중심주의를 내세우던 Anthropic은 위험이 확인될 경우 AI 훈련과 출시를 중단하겠다던 핵심 안전 서약(RSP)을 폐기하고 보다 실용적인 정책으로 선회. 이는 경쟁사가 앞서가는 상황에서 단독으로 개발을 멈추는 것이 실효성이 없다는 판단에 따른 것으로, 대신 투명성 보고서를 강화하고 경쟁사 수준의 안전을 유지하겠다고 밝힘.

2026-02-24 (2건)

🇨🇳🇺🇸 미 정부 관계자, 중국 DeepSeek가 수출 금지된 엔비디아 칩으로 AI 모델를 훈련했다는 의혹 제기 (2026.2.24)

K-AISI 주간동향 · Reuters

미국 정부 관계자는 중국 AI 기업 DeepSeek가 미국의 수출 금지 조치에도 불구하고 엔비디아의 최신 칩 '블랙웰'을 사용해 새 모델을 훈련했다고 주장. 이는 칩 수출 통제 위반 가능성을 시사하며, 중국의 AI 추격을 억제하려는 미국 정책의 실효성 및 미중 간 AI 패권 경쟁을 둘러싼 논쟁을 심화.

🇺🇸 미 국방부, 앤트로픽에 '국방물자생산법' 발동을 위협하며 AI 기술 강제 공유 압박 (2026.2.24)

K-AISI 주간동향 · The Washington Post · 🛡️🚀

Pete Hegseth 미 국방장관은 자율 무기나 대량 감시에 자사 AI를 사용하는 것을 꺼리는 Anthropic에 '국방물자생산법(DPA)'을 발동해 기술을 강제 징발하겠다고 경고. Anthropic CEO Dario Amodei는 윤리적 한계를 준수할 것을 요구했으며, 합의가 이루어지지 않을 경우 2억 달러 규모의 국방부 계약을 파기할 것으로 추측.

2026-02-23 (2건)

Meta 연구원, 이메일을 무단 삭제한 AI 에이전트의 통제 불능 사례 공유 (2026.2.23)

K-AISI 주간동향 · TechCrunch · 🤖

Meta의 AI 보안 연구원이 OpenClaw AI 에이전트를 사용하던 중 에이전트가 지시를 무시하고 이메일을 무단 삭제하는 통제 불능 상태에 빠졌다고 경고. 이는 프롬프트만으로는 보안 가드레일 역할을 신뢰할 수 없으며 지식 노동자를 위한 AI 에이전트가 아직 광범위하게 사용되기에는 위험하다는 점을 시.

🇺🇸 캐나다 정부, 총기 난사 계획 인지 후 경찰에 신고하지 않은 OpenAI 소환 (2026.2.23)

K-AISI 주간동향 · The Guardian · 🚀

캐나다 AI 장관은 텀블러 리지 총기 난사범이 챗GPT에 폭력적 시나리오를 입력해 계정이 정지되었음에도 경찰에 사전 신고하지 않은 OpenAI 관계자를 소환해 해명을 요구. OpenAI는 임박한 위협으로 판단하지 않았다고 해명했으나, 정부는 강력한 AI 안전 프로토콜과 법 집행 기관과의 위기 공유 기준의 필요성을 강조.

2026-02-20 (1건)

MIT CSAIL, '2025 AI 에이전트 지수' 공개 (2026.2.20)

K-AISI 주간동향 · The Register · 🤖

MIT 컴퓨터 과학 및 인공지능 연구소(CSAIL)는 30개의 AI 에이전트를 분석한 결과, 대부분이 안전성 테스트 세부 정보를 공개하지 않거나 제3자 테스트 데이터가 없는 등 불투명하게 운영되고 있다고 지적. 특히 AI 에이전트들이 웹사이트 스크래핑 거부 프로토콜(robots.txt)을 무시하는 경향이 있어 확립된 웹 규칙만으로는 이들을 통제하기 어렵다는 점을 강조.

2026-02-19 (1건)

OECD, 기업을 위한 '책임 있는 AI를 위한 실사 가이드라인' 발간 (2026.2.19)

K-AISI 주간동향 · OECD · 📜📋

OECD는 다국적 기업들이 인공지능(AI)을 개발하고 사용할 때 발생할 수 있는 잠재적 악영향을 식별하고 완화하기 위한 위험 관리 실사 지침을 발표. 기업 가치사슬 전반에서 OECD AI 원칙을 구현할 수 있도록 6단계의 실천적 프레임워크를 제공하여, 각국의 규제와 상호 운용 가능한 책임 있는 비즈니스를 지원.

2026-02-18 (3건)

🇪🇺 OECD, EU AI 협력 계획 이행 현황 분석 (2026.2.18)

K-AISI 주간동향 · OECD · ⚖️

OECD는 EU 회원국들이 'AI 협력 계획'을 어떻게 이행하고 있는지 분석한 보고서 발간. AI 투자 확대, 데이터 공유 생태계 조성, 중소기업의 AI 도입 지원, 관련 기술 인력 양성 등 정책적 진전 사항을 다루며, 특히 신뢰할 수 있는 AI 환경 구축을 위한 규제 샌드박스 운영과 공공 부문의 AI 활용 사례를 공유하고, 유럽 내 AI 혁신과 안전성 사이의 균형을 맞추기 위한 국가 간 협력 방안을 제시.

UN 사무총장, 개발도상국 AI 지원을 위한 30억 달러 펀드 조성 촉구 (2026.2.18)

K-AISI 주간동향 · UN · 📜

안토니오 구테흐스 UN 사무총장은 인도 AI 임팩트 서밋에서 개발도상국의 AI 기술 및 컴퓨팅 접근성을 높이기 위해 30억 달러 규모의 펀드 조성을 제안. AI 혜택이 일부 소수 국가나 억만장자에게 독점되는 것을 방지하고, 모두를 위한 기술 발전과 데이터 생태계의 포용적 성장을 지원해야 한다고 강조.

🇬🇧 영국 AISI·ElevenLabs, 음성 AI 안전 연구를 위한 파트너십 체결 (2026.2.18)

K-AISI 주간동향 · ElevenLabs · 🤖

영국 AI 보안 연구소(AISI)는 ElevenLabs와 대규모 음성 AI 기술이 사회와 안보에 미치는 영향을 연구하기 위한 3년 파트너십을 체결. 대중이 AI 에이전트와 인간의 목소리를 얼마나 잘 구별하는지, 그리고 상대가 AI임을 인지했을 때 행동이 어떻게 변하는지 분석하여 안전 기준을 마련할 예정.

2026-02-16 (2건)

인공지능안전연구소·UNDP, 소외 언어 포용 및 안전한 다국어 AI 구축 접근법 제시 (2026.2.16)

K-AISI 주간동향 · UNDP · 📜⚖️🧪

유엔개발계획(UNDP)과 인공지능안전연구소(K-AISI)는 주류 언어에 치중된 AI 기술 격차를 해소하고 소외 언어권도 혜택을 누릴 수 있도록 포용적인 다국어 AI 구축 방안을 제시. 저자원 언어 사용자들이 겪는 AI 성능 저하 및 높은 비용 문제를 해결하기 위해, 지역 사회 주도형 데이터 구축과 다국어 안전성 평가의 중요성을 강조.

MLCommons, AI 탈옥 공격을 평가하는 '방어 가능한 벤치마킹' 방법론 및 분류 체계 발표 (2026.2.16)

K-AISI 주간동향 · MLCommons · 🔒

MLCommons는 단일 턴 프롬프트 공격(탈옥)에 대해 결과가 아닌 '조작 메커니즘'을 중심으로 AI 시스템의 취약점을 평가하는 새로운 분류 체계를 도입. 기존의 비체계적인 테스트를 대체하여, 기업 및 규제 기관이 재현 가능하고 방어 가능한 방식으로 AI 보안 역량을 입증할 수 있는 강력한 평가 인프라를 제공.

2026-02-14 (1건)

캐나다 및 독일, AI 공동 선언 서명 및 '주권 기술 동맹' 출범 (2026.2.14)

K-AISI 주간동향 · Government of Canada · 📜

캐나다와 독일 정부는 뮌헨 안보 회의에서 '주권 기술 동맹(Sovereign Technology Alliance)'을 출범시키고 AI 협력을 위한 공동 선언문에 서명. 컴퓨팅 인프라 확장, 연구 가속화 및 인재 육성을 통해 기술 의존도를 낮추고 동맹국 간의 안전한 AI 주권 역량과 경제적 회복력을 강화하는 것이 목적.

2026-02-13 (1건)

🇫🇷 프랑스 INESIA, 2026-2027 전략 로드맵 발표 (2026.2.13)

K-AISI 주간동향 · INESIA

프랑스 INESIA는 프랑스에 시민을 보호하면서 안전한 혁신을 보장할 수 있는 견고한 인공지능 평가 체계를 구축하겠다는 명확한 목표를 제시한 2026-2027년 AI 평가 및 보안 로드맵을 발표. 로드맵은 규제 지원, 시스템적 위험 파악, 성능 및 신뢰성 확보를 핵심으로 하며 포괄적인 접근 방식을 통해 INESIA 회원들에게 모든 업무 수행을 용이하게 하는 공통 도구를 제공할 계획.