2026-05-29

14건

🇯🇵 「JAI-Trust」生成AI 안전·보안 벤치마크 구축 프로젝트 개최(2026.5.29)

공공 · AIセーフティ・インスティテュート(AISI-Japan) · 📏🔬🧪

AIセーフティ・インスティテュート(AISI)는 2026년 5월 21일 「JAI-Trust:일본의 생성AI 안전성과 보안 벤치마크 구축 프로젝트」를 개최했다. 행사에는 관계 기업·연구기관·행정 관계자와 일반 및 온라인 참가자를 포함해 500명 안팎이 참석했으며, 일본 내 생성AI의 안전·보안 평가를 위한 공통 기반 구축과 향후 방향 및 과제를 논의했다. AISI는 생성AI의 객관적 평가를 위한 벤치마크 정비와 평가 방법 확립을 목표로 프로젝트를 추진 중이며, 분과 발표와 패널 토론을 통해 바이어스, 정보유출, Jailbreak 등 리스크 관리와 평가 기준의 표준화 필요성 등을 다뤘다.

🇯🇵 OpenAI와 AI 안전성 평가·벤치마크·사이버보안 협력 MoC 체결 (2026.5.29)

공공 · AI 세이프티 인스티튜트(AISI-Japan) · 🔒🔬🧪

AI 세이프티 인스티튜트(AISI)는 2026년 5월 29일 OpenAI와 MoC를 체결했다고 밝혔다. 이번 MoC는 AI 안전성 평가 및 벤치마크, 사이버보안 분야에서 협력 기회를 모색하고, 업계별 안전 고려사항과 평가 방법론·베스트 프랙티스를 공유하며 의견을 교환하기 위한 합의다. 또한 국제적으로 적용 가능한 AI 안전성 평가 및 벤치마크의 과제와 기회를 논의하고 AI 안전성 발전을 지원하는 지속적 대화를 추진한다.

🇺🇸 OpenAI, 신뢰할 수 있는 제3자 AI 모델 평가를 위한 플레이북 공유 (2026.5.29)

K-AISI 주간동향 · OpenAI · 📋🔒🚀

OpenAI는 프론티어 AI 모델의 기능과 안전성 방어책을 제대로 평가하기 위해 적절한 하네스(harness) 설정과 타당성 검증을 요구하는 제3자 평가 가이드라인을 제시. 단순한 문답을 넘어선 최신 AI 모델의 에이전트 기능을 측정하려면, 보상 해킹이나 데이터 오염 등 왜곡 요소를 투명하게 점검하고 보고서에 반영해야 한다고 지적.

🇪🇺 디지털서비스법(DSA) 하 ‘신뢰할 수 있는 신고자(trusted flaggers)’ 가이드라인 초안에 대한 의견 수렴(2026.5.29)

공공 · EU-Digital-Strategy · 📋🧒

유럽연합 집행위원회는 디지털서비스법(DSA) 체계에서 불법 콘텐츠를 식별하는 전문 조직인 ‘trusted flaggers’에 관한 가이드라인 초안에 대해 의견을 수렴하고 있다. DSA에 따라 온라인 플랫폼은 아동학대, 지식재산권 침해, 온라인 사기 등 불법 콘텐츠를 알리는 trusted flaggers의 신고를 우선 처리하되, 해당 콘텐츠가 불법인지 여부를 확인하는 책임은 유지해야 한다. 초안은 trusted flaggers 지정 기준과 디지털서비스 조정관이 ‘trusted flagger’ 지위를 부여하는 절차, 신고 처리 시 기술 요건, 독립성·객관성·책임성 및 표현의 자유 존중, 오남용 방지(연례 투명성 보고, 지위 정지·취소 절차) 등을 담고 있다. 집행위는 2026년 하반기에 가이드라인을 채택할 계획이며, 이해관계자들은 2026.6.26까지 의견을 제출할 수 있다.

🇪🇺 G7 디지털·기술 장관, 미성년자 온라인 보호 공통원칙 합의(2026.5.29)

공공 · EU-Digital-Strategy · 📜🧒

유럽연합 집행위원회는 G7 디지털·기술 장관들이 미성년자 온라인 보호를 위한 ‘공통 원칙’에 합의한 것을 환영했다. 이번 합의는 EU의 아동 온라인 안전 접근을 바탕으로 하며, 위험관리·투명성, 프라이버시를 보존하는 연령확인, 미성년자 계정의 안전·프라이버시 강화, 아동성착취물 및 비동의 친밀 이미지 생성·유통 방지, 부모 도구 제공, 디지털 리터러시 교육, 연구자와의 협력 등을 포함한 7가지 원칙을 제시한다. 집행위는 사업자들이 원칙을 실행하고, G7 파트너 및 관련 주체 간 국제협력을 강화해 미성년자 보호를 위한 실행계획을 추진할 것이라고 밝혔다.

🇺🇸 NIST, AI 안전 관련 컨소시엄을 ‘NIST AI 컨소시엄’으로 확대 개편하고 신규 참여기관 모집(2026.5.29)

공공 · 미국 국립표준기술연구소(NIST)

신규 참여를 위한 관심의향서(letters of interest) 제출을 모집하며, 기존 회원은 변경사항에 대한 수정협약(amendment) 서명이 필요

NIST는 기존 ‘AI Safety Institute Consortium(AISIC)’을 ‘NIST AI Consortium’으로 재명명하고 목표를 확장해 AI 측정(measurement), 혁신 및 도입에 집중한다고 밝혔다. 컨소시엄은 AI 평가 생태계 구축, AI 기반 과학 투자, 미국 개발 AI 기술·시스템 활용 촉진 등을 추진하며, 6개 태스크그룹이 AI TEVV, ARIA 연계 위험·영향 평가, 평가 과학의 격차 분석, 생성형 AI의 편향·한계(BENGAL), AI 문서화 카드, 화학·생물 보안 관련 태스크그룹 재가동 등을 담당한다. NIST는 관련 기술 역량을 가진 기관을 대상으로 관심의향서를 선착순으로 받아 참여자를 선정하고, 회원은 NIST와 CRADA를 체결한다고 설명했다.

🇨🇳 중국 외교장관, UN 개혁·AI 규제·글로벌 거버넌스 강화를 촉구 (2026.5.29)

언론 · 차이나데일리(China Daily) · 🛡️🧪

중국 외교장관 왕이(UN 주재)는 뉴욕에서 열린 ‘글로벌 거버넌스 친구그룹’ 회의에서 UN 개혁, 인공지능 규제, 글로벌 발전 등 분야에서 다자협력을 강화하자고 밝혔다. UN 개혁은 세계기구를 약화시키는 것이 아니라 회원국 주도로 공정·포용·투명하게 추진해야 하며, 개발도상국과 아프리카의 역사적 불공정을 다뤄야 한다고 강조했다. 또한 UN의 중심 역할을 바탕으로 디지털 격차 완화와 군사적 AI 적용 안전장치 마련을 지지하고, World Artificial Intelligence Cooperation Organization 설립 및 7월 상하이에서 글로벌 AI 거버넌스 관련 회의 개최 계획을 언급했다. 회의는 UN 권위와 국제법 준수, 연대·협력 강화, 글로벌 거버넌스 개선 등을 담은 공동성명을 채택했으며, 글로벌 거버넌스의 민주화와 북-남 격차 축소 등 5대 핵심에 합의했다고 전했다.

🇨🇳 China standardizes AI testing to push industry from scale to quality (2026.5.29)

언론 · MLex · 📏

중국이 인공지능 성능을 측정하기 위한 국가 표준을 마련하고, 전용 메트롤로지(측정) 센터를 구축해 AI 검증 가능성을 높이려는 움직임을 보도했다. 의료·제조·교통 등 14개 분야를 대상으로 하며, 신뢰할 수 없는 AI가 초래할 수 있는 위해를 줄이기 위한 목적이 강조된다. 다만 본문에는 세부 시행 시기나 구체적 기준 수치 등은 제시되지 않는다.

호주 AI Safety Institute 초대 총괄매니저에 Kate Conroy 선임 (2026.5.29)

언론 · ABC 뉴스(abc.net.au) · 📜🛡️

호주 정부의 AI Safety Institute 초대 총괄매니저로 Kate Conroy가 임명됐다. 이 기관은 독립 규제기관이 아니라 산업·과학·자원부(Department of Industry, Science and Resources) 내에 설치되며, 신기술 AI의 역량·위험·피해를 모니터링하고 테스트·정보를 공유하는 역할을 맡는다. Conroy는 책임 있는 AI 분야의 정부·학계 경력과 국방 분야에서의 AI 윤리·위험 관련 업무를 바탕으로 선임됐으며, 기관은 4년간 2,990만 달러 지원을 받아 2026년 초 설립 예정이었고 “곧 운영될 것”이라고 전해졌다.

🇰🇷 AI 안전 행사·교육: 2026년 22주차 업데이트 (2026.5.29)

아카이브 · AI Safety Events · 🧪

이번 주에는 베를린·인도·이스탄불·라스베이거스 등에서 열릴 AI 안전 및 보안 관련 행사와 서울·온라인 워크숍을 포함해 8개 신규 행사가 소개됐다. 주요 주제는 AI 안전 연구, 강력한 AI 시스템 보안, 해석 가능성, 민주주의 회복력, alignment 문제 등이며, 행사는 2026년 6월 3일부터 11월 15일까지 진행된다. 새로 발표된 교육 프로그램은 없었다.

🇰🇷 「AI.GOV 해외동향」 2026-2호 발간 안내 (2026.5.29)

공공 · 한국지능정보사회진흥원(NIA) · 🔒🤖

「AI.GOV 해외동향」 2026-2호는 해외 주요국의 인공지능 정책 및 산업 동향을 파악·분석하기 위해 NIA가 기획·발간한 보고서입니다. 수록 내용으로는 Mythos 쇼크와 AI 사이버보안, 에이전틱 AI 시대 작업 구조 전환, 하네스 엔지니어링 및 자율형 AI 에이전트 혁신, EU ‘AI 대륙 행동 계획’ 1년 성과 등이 포함됩니다. 보고서 작성은 생성형 AI를 활용했으며, 내부 검수 후에도 정확성·신뢰성 확보를 위해 참고문헌을 통한 원문 확인을 권고합니다.

가나 통신장관, 아프리카 경쟁력 강화를 위한 AI 정책의 긴급·전략적 조치 촉구 (기사·공고 게재일 2026.5.29)

기타 · TechAfrica News

가나의 통신·디지털기술·혁신부 장관 사무엘 나르테이 조지는 AI가 산업과 경제를 재편하는 가운데, 가나와 아프리카가 뒤처지지 않도록 긴급하고 전략적인 정책 조치를 요구했다. 그는 AI 혁신을 위한 제도적 환경, 디지털 인프라 구축, 정부와 민간의 협력을 강조하며, 지속가능한 성장과 글로벌 경제에서의 영향력 확대를 위한 논의가 필요하다고 밝혔다. 해당 발언은 아크라의 Mövenpick Ambassador Hotel에서 열린 Ishmael Yamson & Associates Business Roundtable에서 나왔다.