2026-06-17

25건

AI 안전 협력 강화를 위한 AI안전연구소와 오픈AI 간 업무협약 체결 (2026.6.17)

공공 · 과학기술정보통신부 · 📋🚀

과학기술정보통신부는 AI안전연구소와 오픈AI가 고위험 분야의 AI 안전 협력을 강화하기 위한 업무협약을 체결했다고 밝혔다. 양 기관은 고위험 분야별 AI 안전 평가 방법론과 모범사례를 공유하고, 한국어와 사회·맥락을 반영한 평가 체계 및 국제 적용이 가능한 평가 체계를 개발할 예정이다. 과기정통부는 협약 이후 실무 협의를 통해 구체적인 협력 과제와 일정을 확정할 계획이다.

🇬🇧 “Did you lie?” 거짓탐지 성능을 검증된 ‘모델 organism’과 2B~1T 모델 규모에서 평가 (2026.6.17)

공공 · AISI-UK · 🔬

모든 탐지기는 모델 능력과 함께 향상되지만, 신뢰할 수 있는 hidden belief가 검증된 모델 organism에서는 activation·logprob 기반 탐지기가 급격히 성능이 떨어졌다. 새 방법인 Did-You-Lie(DYL)도 가장 신호를 보존했지만 여전히 하락이 있었고, chain-of-thought judge만 높은 성능(0.82 balanced accuracy)을 유지했다. 연구진은 현재 거짓탐지기가 모델의 실제 믿음에 대해 고신뢰 결론을 내리기 어렵다고 보고, 관련 한계를 보완할 연구 방향을 제시했으며 데이터·모델 organism·훈련된 탐지기를 공개했다.

🇬🇧 Mindgard, ChatGPT의 성적·폭력적 이미지 생성 취약점 발견 (2026.6.17)

K-AISI 주간동향 · BBC · 🔒🧪

영국 AI 보안 스타트업 Mindgard의 연구원들은 간단한 프롬프트 조작만으로 ChatGPT가 성적이고 폭력적인 이미지를 생성할 수 있음을 발견. OpenAI는 해당 취약점을 조사한 후 이러한 유형의 악의적 프롬프트를 차단하기 위한 추가적인 안전장치와 다중 보호 계층을 즉시 도입했다고 밝힘.

케냐, '2026 인공지능 법안' 발표 (2026.6.17)

K-AISI 주간동향 · EY · ⚖️

케냐 정부는 독립적인 AI 위원장 산하에 AI 시스템을 규제하고 거버넌스를 정립하기 위한 공식 프레임워크인 '2026 인공지능 법안'을 발표. 법안은 AI 시스템을 위험도에 따라 분류하고, 고위험 시스템에 대해 인권 영향 평가, 인적 감독, 데이터 투명성 유지 등 엄격한 의무를 부과하여 책임 있는 혁신을 촉진.

🇺🇸 G7 정상, 동맹국 대상 미국 첨단 AI 모델 접근 허용 방안 논의 (2026.6.17)

K-AISI 주간동향 · Reuters · 🔒

G7 정상들은 경쟁국에 맞서 사이버 보안 방어력을 높이기 위해 일부 '신뢰할 수 있는 파트너'에 한해 미국 AI 모델 접근을 허용하는 방안을 논의. 미국 대통령이 안보를 이유로 앤스로픽 모델의 외국인 접근을 차단한 상황에서, 예외 규정을 두어 동맹국의 기술적 방어 역량을 강화하려는 조치임.

🇰🇷🇺🇸 인공지능안전연구소-오픈AI, 고위험 AI 안전 평가 협력 MOU 체결 (2026.6.17)

K-AISI 주간동향 · 과기정통부 · 🚀

한국 인공지능안전연구소는 미국 오픈AI와 고위험 AI 분야의 최첨단 모델 안전성을 검증하고 평가 기준을 마련하기 위한 업무협약을 체결. 양측은 안전 평가 방법론을 공유하고, 한국어 및 한국의 사회·문화적 맥락이 반영된 평가 체계 개발을 위해 지속적이고 실질적인 기술 협력을 이어갈 예정.

🇨🇳🇺🇸 중국, 미국의 배타적 AI 정책에 맞서 포용적 '글로벌 AI 협력 기구' 설립 제안 (2026.6.17)

K-AISI 주간동향 · CNBC · 📜

중국 왕이 외교부장은 미국 주도의 배타적인 첨단 AI 기술 통제 정책에 반발하며, 모두가 참여할 수 있는 글로벌 AI 협력 기구의 설립을 추진하겠다고 선언. 미국의 폐쇄적인 AI 정책을 비판하면서, 개발도상국을 지원하고 유엔 중심의 AI 거버넌스와 오픈소스 형태의 포용적인 국제 협력을 강화하겠다는 의지를 표명.

🇺🇸🇰🇷 Anthropic, 서울 사무소 개소와 한국 AI 생태계 전반 파트너십 발표 (2026.6.17)

기업 · 앤트로픽(Anthropic) · 🚀

Anthropic은 서울 사무소를 개소하고 한국의 기업·스타트업·연구자들과 신규 파트너십을 발표했다. NAVER의 Claude Code 전사 도입, Nexon·LG CNS·Hanwha Solutions·Samsung SDS의 현장 적용 사례, Channel Corp의 고객 AI 플랫폼에 Claude 활용 등이 소개됐다. 또한 NAIRL(학계 컨소시엄)과 최대 60명의 NAIRL-affiliated 연구자에게 Claude 접근을 제공하고, Good Neighbors Korea에는 조직 운영 효율화를 위해 Claude를 배치한다고 밝혔다. 서울 사무소는 관련 인력을 채용 중이며, 2025년 9월 이후 진행된 Claude Meetups와 100명 이상이 참여한 Claude Build Day, Replit 등과의 Push to Prod 해커톤도 함께 언급됐다.

🇪🇺 2026 State of the Digital Decade 보고서, 성과는 진전되었으나 2030 목표 달성을 위한 구조적 격차의 보완 촉구(기사 게재일 2026.6.17)

공공 · 유럽연합 집행위원회(European Commission) EU Digital Strategy

유럽 집행위원회는 ‘State of the Digital Decade’ 제4차 보고서를 발표해 2030 디지털 전환 목표와 관련한 진전을 확인했다고 밝혔다. 특히 보안·지속가능한 디지털 인프라와 공공서비스 디지털화 분야에서 성과가 있었으나, 결과를 규모·속도·일관성 있게 구현하는 과제가 남아 있다고 강조했다. 보고서는 EU와 회원국 차원의 우선 개혁과 투자 방향을 제시해 향후 다년 재정프레임워크의 디지털 자금 배분을 안내하는 데 목적이 있다.

🇪🇺 유럽 혁신위원회(EIC), 방산 및 듀얼유스 기술 투자 개시(E 기사·공고 게재일: 2026.6.17)

공공 · 유럽연합 집행위원회 디지털 전략(EU-Digital-Strategy) · 🦾

EIC STEP Defence Scale Up 신규 1억 유로 공고는 2026.6.30~2026.10.28 신청, 결과는 2027년 초 발표 예정이며, 직접 지분투자 상한은 최대 3천만 유로임

유럽연합(EU) 집행위원회는 EIC 워크프로그램 2026 개정에 따라 2026년 6월 17일부터 EIC가 방산 및 듀얼유스(민·군 겸용) 기술 분야에 투자하도록 지원을 확대한다고 밝혔다. EIC Accelerator와 STEP Scaleup을 통해 AI·양자·첨단소재·로보틱스 등 듀얼유스 기술을 개발하는 스타트업·중소기업은 보조금 최대 250만 유로와 지분투자 최대 3천만 유로를 신청할 수 있다. 동시에 EIC는 방산 기술 스케일업을 위한 1억 유로 규모의 EIC STEP Defence Scale Up 공고를 신설하며, 해당 기업들은 최대 3천만 유로까지 직접 지분자금 지원을 받을 수 있고 EIC는 주요 라운드에서 통상 5천만~1억5천만 유로 이상 규모로 공동투자할 예정이다. 이는 EU 자금이 방산 기업에 직접 지분투자하는 첫 사례라고 설명했다.

🇪🇺 Virtual Worlds Partnership, 첫 공식 회의 개최(기사·공고 게재일 2026.6.17)

공공 · 유럽연합 집행위원회(EU-Digital-Strategy)

2026년 6월 16일 가상세계·Web 4.0 의제 추진을 위한 Virtual Worlds Partnership의 첫 공식 회의가 열렸으며, 유럽 집행위원회와 Virtual Worlds Association 및 유럽 전역 이해관계자들이 참여했다. 회의에서는 Web 4.0 및 Virtual Worlds 관련 EU 전략 이행에서 파트너십의 역할, 향후 단계, 현재까지의 성과(작업그룹 구성과 포지션 페이퍼 준비), Horizon Europe 연계 콜 등 주요 의제를 논의했다. 또한 6개월 전 MOU 서명 이후 창립 18개 회원에서 80개 이상으로 확대되는 등 파트너십의 추진 상황과 향후 협력 방안도 공유했다.

🇰🇷 AI 에이전트, 지식노동을 어떻게 바꾸고 있을까? (2026.6.17)

언론 · Select Digest · 🗳️🤖

퍼플렉시티와 하버드 비즈니스 스쿨 연구진은 검색형 AI Search와 에이전트형 AI Computer의 실제 사용 데이터를 비교해, Computer가 세션당 평균 26분 자율 실행하며 Search의 33초보다 약 48배 길게 작업한다고 분석했다. 도구 호출과 전문가 추정 등을 바탕으로 Computer 활용 시 작업 시간이 평균 87%, 비용이 94% 줄어드는 것으로 추정됐으며, 프로그래밍 분야에서는 각각 92%와 96%의 절감 효과가 나타났다. Computer 사용자는 직업군 밖의 업무와 고차원 인지 작업을 더 많이 시도했지만, 연구 대상이 초기 사용자이고 일부 수치가 추정치인 만큼 결과를 모든 지식노동에 일반화하기는 어렵다.

🇰🇷 World Model은 어떻게 진화해왔나 (2026.6.17)

언론 · Weekly deep daiv · 🚀

World Model은 2018년 세계의 규칙을 학습하고 미래를 예측하는 개념으로 제안된 뒤, Sora의 World Simulator와 NVIDIA Cosmos·Google DeepMind Genie·Waymo World Model처럼 세계를 생성하고 시뮬레이션하는 방향으로 확장됐다. 최근에는 단안 영상으로 4D 장면을 복원하는 NeoVerse와 프레임 간 변화량을 Delta Token으로 압축하는 DeltaWorld 등 효율성과 확장성을 높이는 연구가 진행되고 있다. 동시에 JEPA 계열은 세계를 직접 생성하지 않고도 구조를 학습할 수 있는 조건을 이론적으로 검증하며, World Model 연구가 ‘이해’와 ‘생성’의 두 방향으로 분화·융합되고 있음을 보여준다.

멜리사 심스 사건은 스크린샷을 성서처럼 취급해서는 안 되는 이유를 보여준다 (2026.6.17)

DB · 제이컵 엥겔스의 Substack · 🚨

플로리다 간호사 멜리사 심스는 전 연인과 관련된 가정폭력 및 보호관찰 조건 위반 사건에서 조작된 문자메시지 스크린샷이 체포와 기소의 근거로 사용됐다고 주장한다. 심스의 휴대전화와 상대방의 통신 기록에는 해당 문자를 뒷받침하는 내역이 없었지만, 관련 혐의는 2025년 1월부터 약 8개월간 이어진 뒤 2025년 9월 22일 기각됐다. 별도로 진행된 가정폭력 사건에서는 심스가 합의안을 거부하고 재판을 선택했으며, 2025년 12월 2일 배심원단의 만장일치 무죄 평결을 받았다.

🇬🇧

DB · 영국 정부(Office for Science, GO-Science)

5개 시나리오는 6가지 핵심 불확실성(역량 발전 속도, 배치·모델 접근성, 보안 통제, 도입 범위/자율, 노동 대체, 글로벌 협력)을 조합해 2030년까지 가능한 미래를 대비하기 위한 정책 스트레스 테스트 도구로 제시됐다. 정부는 AI 역량은 계속 증가할 가능성이 있고, 생산성·공공서비스·과학 분야의 긍정 효과도 커질 수 있으나, 정부 개입 없이 사이버공격·이중용도·인간통제 밖 동작·의존 심화 등으로 심각한(잠재적으로는 존재론적) 피해가 확대될 수 있다고 본다. 또한 프런티어 AI 시장의 높은 집중, 도입의 불균등, 글로벌 경쟁의 지속이 국가·조직 간 격차를 키울 수 있다고 지적했다.

AI로 제작된 ClickFix 피싱이 PowerShell 기반 뱅킹 RAT ‘SmartRAT’를 유포함 (2026.6.17)

DB · Zscaler 블로그(ThreatLabz) · 🔒🎭

Zscaler ThreatLabz는 2026년 3월, AI 웹사이트 생성 도구로 만든 것처럼 보이는 가짜 페이지를 통해 브라질 은행을 사칭하고 ClickFix 방식으로 피해자가 PowerShell 명령을 실행하도록 유도한 캠페인을 관찰했다고 밝혔다. 해당 PowerShell은 외부에서 추가 파일을 내려받아 실행하며, SmartRAT은 암호화된 C2 통신, 원격 제어(화면/입력), 키로깅 및 은행 화면 오버레이, 스케줄 작업·Windows 서비스 등을 통한 지속성을 제공한다. 또한 SmartRAT은 AI 생성 C2 패널에서 인증을 우회할 수 있는 결함이 발견됐다고 설명했다.

(기사·공고 게재일 2026.6.17) 텔레그램 메시지를 LLM이 셸 명령으로 변환하는 codeless 공격 방식

DB · 파이어월(Palo Alto Networks) Unit42 · 🔒

Palo Alto Networks Unit42는 텔레그램 봇과 public LLM API를 결합해 공격을 ‘codeless’로 수행하는 악성코드 시나리오를 설명했다. 공격자는 텔레그램에 평문 지시를 보내고, LLM이 이를 셸 명령(예: DOWNLOAD_FILE, SCAN_NETWORK 등) 형태의 단일 action token으로 반환하면 피해자가 그대로 실행한다. 또한 명령 수신, 실행 결과 및 파일 유출이 모두 동일한 텔레그램 봇을 통해 HTTPS로 오가며, 초기 실행 시 공인 IP·OS·사용자명·호스트명 등을 먼저 수집하는 구조다. 2026년 6월 8일 기준 해당 샘플은 VirusTotal 63개 엔진에서 0/63 탐지로 보고됐다.

🇺🇸🇫🇷 AI 선도 거버넌스 규칙·표준 논의를 위한 미국 주도 AI 연합 제안(2026.6.17)

DB · CNBC · 📜🚀

프론티어 AI 모델에 대한 미국의 주도적 국제협력 논의는 G7(프랑스 에비앙) 비공개 회의에서 제기됐으며, 최근 AI 모델의 사이버 역량 고도화와 수출통제 이슈가 배경으로 언급됨

Anthropic CEO 다리오 아모데이와 Google DeepMind CEO 데미스 하사비스는 G7 정상회의 계기 비공개 런치에서 AI 규칙과 표준을 만들기 위한 미국 주도의 국제 연합 구성을 제안했다. 회의에는 OpenAI CEO 샘 올트먼 등 약 10여 명의 테크 임원과 주요국 인사들이 참석했으며, 아모데이는 프론티어 모델에 대한 구조화된 접근과 대(對)중국 배제형 반도체·핵심부품 거래, AI의 사이버·생물테러·정보 분야 위험 대응을 위한 협력을 언급한 것으로 전해졌다. 또한 미국의 수출통제 이후 Anthropic이 최신 모델(Fable 5, Mythos 5) 접근을 비활성화한 점과, OpenAI가 GPT-5.5 Cyber를 제한적 미리보기로 제공해 온 점이 논의 배경으로 거론됐다.

(에이전트 리소스 발견 ARD 오픈 규격 공개 2026.6.17)

DB · 마이크로소프트(Microsoft) 공식 웹페이지

ARD는 AI 클라이언트가 작업에 맞는 agentic resources(예: MCP 서버, API, 워크플로)를 자동으로 찾아 연결할 수 있도록 하는 오픈 표준 규격이다. Microsoft는 GoDaddy, Google, Hugging Face 등과 협력해 공개 규격을 만들었고, GitHub는 이를 기반으로 GitHub Copilot이 런타임에 적절한 MCP 서버·스킬·도구·에이전트를 동적으로 발견/호출하는 agent finder를 공개했다. 또한 Hugging Face는 ARD의 참조 구현인 Discover Tool로 Hub 및 기타 ARD 서비스에서 다수의 스킬과 MCP 서버를 검색할 수 있게 한다. ARD는 단일 전역 카탈로그보다 여러 discovery service가 각자 색인·랭킹을 운영하도록 하며, 이는 조직의 통제와 정책에 맞춘 결과 제공을 가능하게 한다.

🇨🇳 (2026.6.17)

DB · X(트위터) 게시물(킴모니무스 @kimmonismus) · 🔓

안트로픽 논란의 최대 수혜자가 오픈 소스라는 주장이다. 모델을 공개하면 충분한 하드웨어를 가진 기업·정부 등이 로컬에서 실행해 임의로 중단(yanked)될 위험을 줄일 수 있다는 점을 Bloomberg 인용으로 뒷받침했다. 또한 접근이 갑자기 차단된 기업과 국가 동맹이 셧다운에 덜 민감한 ‘주권형’ 해법을 찾게 될 것이며, 가장 영향력 있는 오픈 소스 모델이 중국에서 나온 점이 중국에 유리하게 작용했다고 평가한다. GLM 5.2 출시가 시기적으로 중요했으며 오픈 소스가 독립성을 보장하는 해결책이라고 결론짓는다.

🇺🇸 Gagleard 대 Perplexity AI 사건 (2026.6.17)

DB · AI 소송 추적기 · ⚖️

Gagleard가 Perplexity AI를 상대로 계약 위반을 주장한 미국 캘리포니아 북부지방법원 연방 사건이다. 공개된 기록에는 해당 계약과 원고의 법적 논리, 청구 구체 내용이 명시되지 않았으며, 사건은 2026년 6월 17일 단일 원고 소송으로 제기돼 현재 진행 중이다.

🇺🇸 셰익스피어 등 작가 100명, 앤트로픽 상대 저작권 소송 제기 (2026.6.17)

DB · AI 소송 추적기 · ⚖️🚀

토머스 윌리엄 셰익스피어를 포함한 작가 100명은 앤트로픽이 인공지능 개발 과정에서 허가 없이 저작물을 복제했다며 앤트로픽과 최고경영자 다리오 아모데이, 공동창업자 벤저민 만을 상대로 소송을 제기했다. 원고들은 저작권이 있는 작품을 무단으로 다운로드하거나 토렌트 방식으로 수집하고 이를 도서관 형태로 구축했다고 주장하며, 최대 7,140만 달러의 법정손해배상을 요구한 것으로 전해졌다. 사건은 캘리포니아 북부 연방지방법원에 제기됐으며, 유사한 쟁점을 다룬 기존 Bartz v. Anthropic 사건과 관련돼 있다.