EU에서는 2025년부터 디지털서비스법(DSA) 집행이 본격화되었고, 음란물 연령확인 실패·미성년자 보호 의무 위반, 위험완화 조항 위반, 불법콘텐츠 신고·이의제기 기능 미흡 등에 대한 절차가 진행됐다. 2026년에는 진행 중인 조사 마무리와 더불어 연령확인 관련 감독이 강화될 가능성이 크며, 소규모 플랫폼까지 아동보호 의무 집행이 확장될 수 있다고 본다. 독일·프랑스·이탈리아·스페인 등 회원국도 미성년자 보호를 위해 연령검증 의무를 포함한 자체 체계를 강화하고 있으며, 프랑스는 EU법 적합성 쟁점에 대한 CJEU 판단이 2026년 초에 나올 수 있어 제도에 큰 영향을 줄 수 있다.
2025.11.28(금) 호주 멜버른 Parkville에서 개최 예정이며, 당일 참가자 투표·운영 방식의 협업 세션으로 진행됩니다.
AI Safety Unconference - Melbourne 2025는 호주의 AI safety 커뮤니티가 핵심 과제를 논의하고 협업을 만들기 위한 하루 행사입니다. 참가자들이 세션 아이디어를 제안하고 투표해 세션을 구성하며, 오전에는 라이트닝 토크와 세션 피치·투표, 이후에는 스트림별 세션이 진행됩니다. 오후에는 세션 3과 세션 4(TBC), 마무리 네트워킹이 예정되어 있으며 특정 강연 중심의 ‘프로그램’이 아니라 커뮤니티와 유연성을 강조합니다.
Autoriteit Persoonsgegevens(AP)는 2025년 10월 21일 공개한 보고서에서 AI 챗봇의 선거 조언이 특정 정당으로 치우쳐 신뢰하기 어렵다고 경고했다. AP는 4개 챗봇을 온라인 투표도움 서비스 Kieskompas·StemWijzer와 비교했으며, 챗봇들이 질문과 무관하게 PVV 또는 GroenLinks-PvdA를 상위에 두는 비율이 56% 이상(일부는 80% 초과)으로 높게 나타났다고 밝혔다. AP는 챗봇이 검증 불가능한 학습 데이터와 인터넷 정보를 기반으로 해 정치 지형을 왜곡할 수 있고, 전통적 서비스는 정당의 입장과 프로그램을 투명하고 통제 가능한 방식으로 분석해 ‘투표 조언’이 아니라 정보 제공에 초점을 둔다고 설명했다.
인간이 AI 의사결정에 개입하는 “human in the loop”를 단순한 문구로만 보지 말고, 실제로 인간에게 권한·시간·상황 이해가 주어지는 구조가 필요하다고 강조한다. 소련의 스탠니슬라프 페트로프 사례를 들어, 컴퓨터 경보(미사일 5발, 28분)를 무시하고 “false alarm”을 선택한 판단이 핵전쟁을 막았다고 설명한다. 이어 조직이 AI를 만들 때 최적화 목표와 무엇이 걸려 있는지부터 묻고, 이를 바탕으로 되돌릴 수 없는 결정에는 circuit breaker, 저위험 자동화에는 feedback learning 등 16가지 접근을 제시하며, 목적은 “그럴듯한 분류”가 아니라 의도한 시스템을 구현하는 것이라고 말한다.
Bletchley Park(2023)에서 시작된 AI 안전·보안 위험 논의 정상회의는 이후 서울(2024), 파리(2025)로 이어졌고, 2026년 인도에서 다음 회의가 예정돼 있다. 인터뷰에 따르면 이 과정은 대화의 분위기를 바꾸고 영국의 AI Safety Institute 설립, 미국 등 유사 기관 확산에 영향을 줬으며, 특히 서울에서 기업들이 한 자발적 약속이 EU의 frontier AI 규제 논의(예: AI Act)로 이어지는 데 기반이 됐다고 본다. 다만 프랑스 회의는 안전·보안 의제를 상대적으로 축소하고 AI 거버넌스 참여 확대, 접근성, 일자리 등 사회 이슈에 더 초점을 둬 ‘가드레일’ 구축 관점에서는 보완이 필요하다는 평가가 나온다.
유럽연합의 AI Act를 기본권 중심 관점에서 비판적으로 분석한 책으로, 2024년 Digital Law Institute Trier 연례 컨퍼런스에서 나온 논문들을 엮었다. 금지되는 AI 관행, 위험 기반 규제모델, 데이터 거버넌스와 human oversight 등 핵심 의무를 다루며, 혁신을 억누르지 않으면서 기본권을 보호하는 규율 방식이 가능한지 살핀다. 또한 미국과 아시아의 AI 규제 접근을 비교해 글로벌 기술 규제에 대한 함의를 정리한다. (기술 오류로 ISBN이 교체되었으며 새 ISBN은 9783565013197)
2025.11(본문 언급)에는 데이터센터 물 사용량을 1,000배 과대평가한 단위 변환 오류가 정정됐다고 서술됨
Karen Hao의 책 『Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI』는 2025년 5월 20일 출간되었으며, OpenAI의 역사와 ‘인공일반지능(AGI)’에 대한 약속을 둘러싼 비밀주의와 집착을 중심으로 다룬다. 약 260명 인터뷰와 서신, 관련 문서를 포함하며, 제목은 19세기 식민 제국을 연상시키는 표현이라고 소개된다. 또한 OpenAI가 책 집필에 협조하지 않았고, 저자에 대한 비판이 있었다고 전한다. 2025년 11월에는 칠레 데이터센터 물 사용량을 1,000배 과대평가한 오류가 단위 변환 실수로 발생했으며 정정됐다고 적고 있다.
바티칸 시국은 AI를 윤리적·투명·책임 있게 개발·사용하기 위한 가이드라인을 발표했으며, “기술 혁신이 인간을 대체하거나 앞서지 못하게 해야 한다”는 원칙을 강조했다. 가이드라인은 13쪽 정책으로, 차별·심리적/신체적 위해·장애인 배제·인권 침해·범죄 조장 등과 관련된 AI 사용을 금지하고, 일부 업무(예: 사법)는 AI를 연구·업무 정리 목적에 한정하며 판결·양형 판단은 판사가 전담하도록 했다. 또한 5인 규모의 AI 위원회를 구성해 법·규정 마련, AI 시스템 활용에 대한 의견 제시, 개인·고용·환경에 대한 영향 모니터링을 맡기기로 했다.