한국 과기정통부는 프랑스 고등교육연구우주부와 만나 AI 및 양자 등 핵심 전략 기술 분야에서 양국 간의 협력과 공동 연구를 확대하기로 합의. 한국 AI 안전연구소와 프랑스 국립 디지털과학연구소 간의 정책 대화 채널 구축 및 인력 교류를 추진하고, 핵심 전략 과학기술 분야에서 프랑스와 긴밀히 연대해 글로벌 기술 패권 시대에 공동 대응할 계획.
AI Safety Australia & New Zealand가 뉴질랜드 최초의 ‘AI Safety New Zealand Conference 2026’을 EPIC Christchurch에서 개최한다. 행사에서는 AI 위험의 현황과 미래를 다루는 Day 1(이론·기초)과, 뉴질랜드 맥락에서 적용 가능한 안전 조치와 프로젝트 가속을 다루는 Day 2(액션·구현)로 구성된다. 학계·정책·기업·언론/교육 등 책임 있는 AI 전개에 관심 있는 전문가를 대상으로 하며, 비상업적 지식 교류를 목표로 선별 신청 절차와 위원회 검토(5영업일)가 안내되어 있다.
CIFAR AI Frontiers School은 안전하고 책임 있는 기반 AI를 발전시키기 위한 캐나다 전역 대상 훈련 프로그램이다. 기존 CIFAR Deep Learning + Reinforcement Learning 여름학교를 발전시킨 형태로, 기초 중심 교육과 실습·협업형 학습을 결합한다. 첫 번째 에디션은 AI 안전을 주제로 하며, 2026년 6월 22~24일 토론토에서 2.5일 집중 과정으로 진행된다. 초기 박사과정(또는 박사 진학 예정) 연구자와 고급 석사 과정 학생이 지원 대상이며, 지원은 4월 8일부터 시작한다.
호주 AI 안전과 거버넌스에서의 역할을 논의하기 위한 2일간의 ‘Australian AI Safety Forum 2026’이 2026년 7월 7~8일 시드니 대학교에서 개최된다. 연구자·정책 담당자·산업·시민사회가 참여해 AI 안전의 과학을 바탕으로 발표, 워크숍, 패널, 구조화된 토론 및 네트워킹을 진행하며 호주의 협력과 분야 발전을 모색한다. 기술적 AI 안전, AI 거버넌스, 위험평가, 평가·테스트, 부문 간 대화 등 주제를 다루고, 2026년 발표자 라인업은 행사 가까이 공개될 예정이다.
CFG는 AI 발전 경로가 불확실하므로 특정 미래에만 베팅하면 정책 공백이 생길 수 있다고 보고, 5개 시나리오 전반에서 효과가 좋은 20개 정책 옵션을 제안했다. 권고는 (1) 경쟁력 강화를 위한 역량 구축, (2) 디지털 주권 방어를 위한 회복력 강화, (3) 글로벌 거버넌스를 선도하기 위한 영향력 확보의 3개 축과, 이를 가능하게 하는 6개 공통 긴급 과제로 구성된다. 공통 과제로는 EU 자본시장 통합, 정부 내 AI 전문인력 확충, 특수 컴퓨트 존을 통한 인프라 확대, 중요 인프라 대상 AI 기반 사이버 방어, 모델의 오용·탈옥(jailbreak) 대응 연구, 기초 AI 안전과학 투자 등이 포함된다. 또한 반도체 의존도 파악과 투자, 고보안 데이터센터, 합의·검증 플랫폼 및 합성미디어 탐지, AI 안전 기준의 국제 확산(GPAI 코드 등)과 AI용 ‘CERN’ 같은 협력 인프라 구축을 제시한다.
GAO는 2025년 1월 13일부터 15일까지 AI 프라이버시 위험을 검토하기 위한 전문가 패널을 개최했으며, 여기에는 연방 기관, 학계, 비정부 기구, 민간 부문의 전문가 12명이 참여했다. Mackenzie Arnold를 비롯한 패널은 AI 사용 시 프라이버시 보호의 어려움을 13가지로 정리했다. 주요 문제점으로는 연방 인력의 프라이버시 위험 완화 기술 부족, 프라이버시 보호를 갖춘 AI 시스템 확장성 문제, 민감한 정보를 포함한 AI 모델 감사와 평가 어려움 등이 포함되었다. GAO는 이러한 위험을 다루기 위한 OMB에 대한 두 가지 권고안을 2026년 3월에 발표했는데, 이는 AI 관련 정책 업데이트 시 고려해야 할 프라이버시 위험 예시 명시와 민감한 정보를 다루는 AI 모델 평가 및 감사 시 프라이버시 고려 지침 등을 포함한다.
미국 백악관은 주(州) AI 규제를 우선 제한하는 연방 정책 체계를 제안했으며, 일부 주에서는 AI 투명성·청소년 보호·자동화 의사결정 관련 법안을 추진했다. 유럽의회는 고위험 AI 규정 시행을 늦추고 AI 생성물 워터마크와 비동의 성적 이미지 생성 앱 금지 등을 포함한 AI법 개정안을 제안했으며, 호주와 영국도 군사 AI 책임 원칙과 저작권 문제를 검토했다. 미국 법원은 앤스로픽을 공급망 위험 기업으로 지정하고 정부 거래를 차단하려는 조치를 중지시켰고, 네덜란드 법원은 X와 Grok의 비동의 성적 콘텐츠 생성을 금지했다.
유튜브 영상 페이지로, 제목은 ‘Intelligent Ideas: A philosophical lens on AI’로 표시되어 있습니다. 본문에는 영상의 구체적인 내용(주요 주장, 발표 내용 등)보다는 유튜브 이용 관련 안내(저작권, 문의, 약관, 개인정보처리방침 등)와 사업자/법적 고지 문구가 주로 포함돼 있습니다.
민틀리파이는 Mintlify로 운영되는 문서 사이트 30일간의 Cloudflare 트래픽을 사용자 에이전트로 분류한 결과, 전체 요청의 45.3%가 AI 코딩 에이전트에서 발생했다고 밝혔다. AI 에이전트 트래픽은 전통적 브라우저 트래픽(45.8%)과 거의 비슷한 수준이며, Claude Code와 Cursor가 확인된 AI 에이전트 트래픽의 95.6%를 차지했다. 다만 OpenAI Codex는 식별 가능한 사용자 에이전트 헤더를 보내지 않아 이번 분석에서 AI 비중이 실제보다 낮게 집계됐을 수 있다고 설명했다. 문서 품질은 인간뿐 아니라 AI가 코드 생성·디버깅에 활용하는 ‘컨텍스트’에 직접 영향을 주므로, API 참조의 일관된 포맷·완전한 예제·명확한 파라미터·오류 문서가 중요하다고 제언했다.
AI 에이전트 간 대화에 숨겨진 위험·유해 의도를 탐지하는 “AI Immune System: Detection Challenge” 대회를 2026.04.01부터 2026.05.31까지 진행한다. 참가자는 JSONL 형식 데이터에서 유해(TRUE)와 비유해(FALSE)를 구분하는 모델을 만들며, 단순 키워드나 직접 읽기로는 드러나지 않는 통계·의미·구조적 패턴을 찾아야 한다. 개인만 참여 가능하고 팀 제출은 불가하며, 데이터 다운로드 전 NDA 동의가 필요하다. 총 상금은 3,000달러이며 1~3등에 각각 1,500/1,000/500달러가 지급된다.
마감일: 2026.5.7(23:59 CET) / 개최일: 2026.8.15~17(정확한 날짜는 추후 공지)
IJCAI/ECAI 2026(독일 브레멘)에서 ‘Safe Physical AI’ 제1회 워크숍을 개최하며, 2026년 8월 15~17일(2일, 정확한 일자는 TBD)로 안내됐다. 워크숍은 불확실성 하의 물리적(embodied) AI가 현실 환경에서 안전하고 신뢰할 수 있게 행동하도록 하는 검증, 해석가능성, 불확실성 정량화, 인간-로봇 상호작용, 얼라인먼트 등의 연구 과제를 다룬다. 논문 공모는 2026년 5월 7일(23:59 CET)까지이며, OpenReview를 통해 제출하고 4페이지 short paper 및 1페이지 extended abstract 형식을 받는다.