AI 안전 다이제스트

2026-06-29 · 20건

🇨🇳🇺🇸 LongCat-2.0 (Meituan) (2026.6.29)

기업 · DemandSphere · 🚀

Reasoning · Open · 1000K ctx · $0.75/M · $2.95/M

벤치마크 미공개

Meituan's 1.6T-parameter open MoE agentic coding model (~48B active per token), with native 1M context via LongCat Sparse Attention. Trained entirely on a ~50,000-card domestic Chinese ASIC cluster (no Nvidia). Ran anonymously as 'Owl Alpha' on OpenRouter for roughly two months and topped the platform's coding usage charts before Meituan revealed it. Vendor-reported benchmarks (not yet independently verified): 59.5 SWE-Bench Pro (edging GPT-5.5's 58.6), 70.8 Terminal-Bench 2.1, 77.3 SWE-Bench Multilingual, 73.2 FORTE. MIT license; full weights 'coming soon' with an INT8 checkpoint posted so far. Available via OpenRouter (about $0.75/$2.95 per 1M) and the LongCat API (OpenAI- and Anthropic-compatible); integrated in Claude Code, OpenCode, and Codex.

반도체·인공지능 등 첨단기술 유출 대응 전문수사조직 본격 가동 (2026.6.29)

공공 · 지식재산처

지식재산처는 반도체·인공지능(AI) 등 첨단기술 유출에 대응하기 위해 2026년 6월 30일부터 기술유출특별사법경찰과 등 전담 수사조직을 신설하고 기술경찰 인력을 27명에서 61명으로 확대한다. 지식재산보호분석과·기술유출특별사법경찰과·지식재산보호기준팀을 신설하고 영업비밀 전담조직과 전문 수사관을 배치한다. 과학수사와 특허빅데이터 분석, 산업스파이 신고포상금제, 민관협력 및 중소·벤처기업 보안교육을 강화하는 한편 외부 전문가 자문과 인권보호 절차도 마련한다.

ByteDance 연구진 등, AI 가드레일 성능의 계층적 평가를 위한 벤치마크 'SafePyramid' 공개 (2026.6.29)

K-AISI 주간동향 · ByteDance

ByteDance 및 Melbourne 대학 연구진은 AI 모델이 컨텍스트 내 안전 정책을 기반으로 가드레일 성능을 발휘하는지 계층적으로 평가하기 위한 벤치마크를 발표. 10개의 최신 LLM을 평가한 결과, 최고 성능의 모델도 새로운 정책 프레임워크를 적용해 위반 사항을 정확히 식별하는 데 한계가 있음을 확인하며 성능 강화의 필요성을 강조.

UNESCO, 다양한 거버넌스 생태계 전반의 AI 감독 준비도 정의 (2026.6.29)

K-AISI 주간동향 · UNESCO · 📜📋

UNESCO는 전 세계 AI 감독 기관 네트워크(GNAIS)의 경험을 바탕으로 국가별 AI 감독 준비도를 평가하기 위한 체크리스트를 제시. 효과적인 AI 감독을 위해서는 법적 규제뿐만 아니라 기술적 역량, 기관 간 조정 메커니즘, 국제 협력 등이 필수적임을 강조하며 실무적인 평가 지침을 제공.

🇪🇺 헨나 비르쿤넨 집행부위원장, 유럽 디지털 스킬 어워즈 및 Digital Skills EU Days(2026.6.29)에서 디지털·사이버보안 역량 사업 소개

공공 · EU-Digital-Strategy · 🔒

2026.6.29~2026.7.1 브뤼셀에서 개최, 유럽 디지털 스킬 어워즈 및 가상세계·양자·AI 분야 디지털 스킬 아카데미 출범, Cybersecurity Skills Coalition(사이버보안 스킬 연합) 출범 계획 포함 유럽 집행부위원장 헨나 비르쿤넨이 Digital Skills EU Days에서 디지털 기술 핵심 역량으로 개인을 지원하는 프로젝트에 유럽 디지털 스킬 어워즈를 수여할 예정이다. 행사에서는 가상세계·양자·인공지능 분야의 신규 디지털 스킬 아카데미 출범과 함께, 기존 Cybersecurity Skills Academy를 지원하는 Cybersecurity Skills Coalition 및 European Digital Infrastructure Consortium의 출범도 발표된다. 유럽 ‘Digital Decade’는 2030년까지 성인 80%의 기본 디지털 스킬과 2,000만 명 이상의 ICT 전문가 확보를 목표로 하며, 6월 16일 발표된 Digital Decade 보고서에서는 기본 디지털 스킬 보유자가 60%를 넘었지만 ICT 전문가(특히 여성) 확충을 위해 추가 노력이 필요하다고 밝혔다.

🇪🇺 청소년 대상 더 안전하고 포용적인 소셜미디어 기능 개발·실증 제안 공모(2026.6.29)

공공 · 유럽 집행위원회(EU) 디지털 전략 · 🏥🧒

유럽 집행위원회가 청소년 이용자를 위한 새 소셜미디어 플랫폼의 안전·포용 기능을 만들고 시험하기 위한 제안 공모를 발표했다. 총 148만 유로 규모의 시범사업으로, 여러 국가·배경의 청소년이 신기술 플랫폼의 개념 설계와 개발에 참여하며 사용자 안전, 정신건강, 개인정보 보호, 사용 편의성을 중점으로 한다. 수상 프로젝트는 다양한 청소년과의 공동 창작, 유럽 소셜미디어 시장 조건 분석, 오픈·차세대 플랫폼 개발 또는 고도화, 확산 전략과 성과 인사이트 제공 등을 수행한다.

🇪🇺 Public Sector Tech Watch ‘Best Cases Award 2026’ 공모(2026.6.29)

공공 · 유럽연합 집행위원회 디지털 전략( EU-Digital-Strategy )

Public Sector Tech Watch(PSTW) 관측소가 ‘Best Cases Award 2026’의 공모를 공지했다. 유럽의 공공행정이 (생성형) 인공지능, 블록체인, 디지털 트윈, 양자컴퓨팅 등 신기술을 적용해 시민·기업 대상 공공서비스 개선 또는 내부 프로세스·정책 수립 향상에 기여한 사례를 선정한다. 제출한 기관의 솔루션은 PSTW Cases Viewer에 게재될 수 있으며, 선정 기관은 2026년 11월 더블린에서 열리는 SEMIC Conference 2026 연계 시상식에서 발표하고 성과를 담은 영상도 제공받는다. 평가는 영향·가치 창출, 기술 혁신성, 상호운용성(법적·조직적·의미적·기술적), 투명성·개방성, 확장·재사용성, 시험 및 구현 과정 등을 기준(항목별 가중치 포함)으로 진행된다.

AI가 방어·공급망 리스크까지 좌우(기사 게재일: 본문 발행일 기준 YYYY.M.D)

공공 · APRA(호주 건전성감독청) · 🔒

APRA 테레제 매카시 위원은 frontier AI가 사이버 취약점 악용을 앞당길 수 있는 만큼, 선제적 점검·패치와 AI 활용을 통한 방어(‘fire breaks’)가 필요하다고 밝혔다. 또한 frontier AI는 단순한 cyber risk를 넘어 third-party risk, concentration risk, sovereign access risk로서 해외 규제 결정이나 모델 중단이 금융 핵심 기능을 흔들 수 있다고 강조했다. 금융기관들은 AI 의존도를 포함해 호스팅·접근통제·데이터 영향·철회 시 대응 등 제3자 의존성 관점으로 리스크를 관리하고, 패치·구성관리는 machine speed 수준으로 고도화해야 한다고 덧붙였다.

인공지능을 법에 맞추기 (2026.6.29)

공공 · law-ai.org · 🧪

이 글은 인공지능의 행동을 인간의 목표와 가치에 맞추는 ‘alignment problem’을 해결하기 위해 법을 우선하는 접근법을 제안한다. 기존 논의가 법을 인공지능의 일탈을 제재하는 제약으로 보았다면, 이 글은 법이 인간관계와 기술 규율에서 축적한 해결책을 인공지능이 학습할 수 있는 ‘코치’로 기능할 수 있다고 설명한다. 또한 법적 alignment가 인공지능 위험 규제, 법적 인격, 불법행위 책임, computational law와 soft law 등에 미칠 영향을 검토한다.

🇪🇺 EU AI Act 뉴스레터 105호: 투명성 도구 출시 (2026.6.29)

아카이브 · EU AI Act Newsletter · ⚖️📋🧒

유럽의회는 디지털 옴니버스 패키지 개정안을 최종 승인해 고위험 AI 의무 적용을 독립형 시스템은 2027년 12월 2일, EU 부문 법률의 안전 구성요소로 포함된 시스템은 2028년 8월 2일까지 연기했으며, 아동 성착취물·비동의 친밀 이미지 생성 AI를 금지했다. 유럽연합 집행위원회는 AI 생성·조작 콘텐츠 표시용 아이콘과 투명성 Code of Practice 관련 FAQ를 공개했으며, 아이콘 사용은 선택사항이지만 법정 표시 의무 자체는 적용된다. 뉴스레터는 개인의 초상·정체성 사용 조건을 등록하는 Human Consent Registry와 AI 규제의 사전 규제를 줄이고 사후 감독·책임을 강화하자는 제안을 소개했다. 또한 GDPR이 AI Act보다 넓은 자동화 의사결정 제한과 구제 수단을 제공할 수 있다는 분석과, 투명성 코드가 자발적이며 기술적 한계와 불명확한 기준을 남긴다는 지적을 전했다.

🇬🇧🇺🇸 AI 규제·법률·정책 동향 요약 (2026.6.29)

아카이브 · Ctrl+AI+Reg · 📜⚖️🗳️🧒🚀

이번 호는 Pax Silica 정상회의 결과와 신규 가입국 확대, Five Eyes의 AI 사이버 위험 공동성명, 영국 금융감독 당국의 규제 재검토 등을 다룬다. 미국에서는 AI 모델의 상업 출시 제한, AI 데이터센터의 전력비용 및 건설을 둘러싼 법안이 소개됐으며, 일본은 선거 관련 AI 생성 콘텐츠 규제 법안을 승인했다. 한국 공정거래위원회는 AI 기능과 관련 광고 주장의 사전 검증 의무를 명확히 하는 표시·광고 실증 규정 개정안을 2026년 7월 13일까지 의견 수렴하고, 호주에서는 아동 안전과 금융 부문의 frontier AI 위험에 대한 규제 대응이 이어졌다.

🇺🇸 S.A. Jamendo 대 Suno Inc. 사건 (2026.6.29)

DB · AI 소송 추적기 · ⚖️

Poseidon Wave Media LLC는 Suno Inc.가 허가 없이 자사의 저작권 음악 catalog를 복제·학습에 사용해 라이선스 수익이 약 80% 감소했다고 주장하며 소송을 제기했다. 소송은 음원과 작곡물 236건 및 미국 저작권 등록 164건에 대해 저작권법 위반을 주장하고, 작품당 최대 15만 달러의 법정손해배상을 요구한다. 해당 내용은 소장과 신청서에 제시된 주장으로, 법원의 사실 인정은 아니다.

🇰🇷 [AI_Policy_Insights_2026-4] 2026 스탠포드 AI INDEX로 살펴본 우리나라 AI 현황 분석 (2026.6.29)

공공 · 한국지능정보사회진흥원(NIA)

한국은 2026년 Stanford HAI의 「AI Index 2026」을 바탕으로 AI 현황을 점검했다. 인구 대비 AI 특허 등록 건수 세계 1위, 2025년 주목할 만한 AI 모델 8개로 미국·중국에 이어 3위, SK하이닉스·삼성전자의 HBM 주요 제조사 지위, 산업용 로봇 신규 설치 30,600대로 세계 4위 등 성과가 제시됐다. AI 확산률도 2025년 상반기 25.9%에서 하반기 30.7%로 상승하며 조사 대상 30개국 중 가장 큰 상승폭을 보였다. 다만 민간 AI 투자 규모, 데이터센터 인프라, AI 인재 순유출, 특허의 후속 인용 영향력은 보완 과제로 지적됐다.

SafePyramid: A Hierarchical Benchmark for In-context Policy Guardrailing (2026.6.29)

연구

SafePyramid는 in-context policy guardrailing이 애플리케이션별 안전 정책을 문맥에서 읽고 위반을 정확히 찾아내는 능력을 어떻게 평가할지 제시하는 계층형 벤치마크다. 10개 도메인·1,000개 멀티턴 대화에 대응되는 3,000개 application-specific policies를 구성해 총 61,699개의 자연어 규칙을 포함하며, L0(개별 규칙 이해)·L1(규칙 의존성 추론)·L2(문맥의 새 정책 프레임워크 적응)로 난이도를 나눈다. 평가에서는 10개 frontier LLM과 5개 policy-configurable guardrails를 사용하고, 최상 모델 GPT-5.5의 violated rules “전체 세트” 정확 식별 비율이 L0 54.0%, L1 35.3%, L2 12.9%로 난이도 상승에 따라 크게 하락한다.