CIFAR는 캐나다 AI Safety Institute(CAISI) Research Program을 통해 AI safety Catalyst Grants 첫 10개 연구 과제를 발표했다. 각 과제는 1년간 10만 달러를 지원받고 최대 2명의 포스트닥 연구원을 포함해 연구를 수행하며, 초기 연구자 커뮤니티를 확대하는 것을 목표로 한다. 과제는 허위정보 대응, 지식그래프의 adversarial robustness, LLM의 해석가능·신뢰성, diffusion 기반 모델의 NSFW 및 개인정보/기억화 위험, AI alignment(토론·규범 추론), LLM 취약성 평가, 자율 화학 실험실 안전 아키텍처, 멀티모달 모델 안전성 보장, AI-assisted 코딩에서의 통제·거버넌스 등 다양한 AI 안전 주제를 다룬다.
레딧이 AI 스타트업 앤트로픽을 상대로, 허가 없이 데이터를 사용했다는 의혹과 관련해 소송을 제기했다는 내용이다. 다만 본문을 확인하지 못해 구체적인 청구 내용, 사용된 데이터 범위, 소송 진행 상황 등 세부 사실은 확인 필요다.
AI 안전연구소 김명주 소장은 ‘2025 슈어 AI 테크 컨퍼런스’에서 AI 진흥과 함께 리스크 관리·안전 설계를 병행해야 한다고 강조했다. 연구소는 글로벌 위험 기준과 평가 체계 구축을 위해 영국·미국 등과 협력 중이며, 리스크 맵 기반 모델 테스트와 통합 보고서 작성 프로세스를 도입하고 있다고 밝혔다. 또한 중국계 AI 모델 ‘딥시크’에 대한 긴급 대응 사례와 함께, AI 평가에서 ‘건전성’·‘신뢰성(Trustworthiness)’ 개념이 확대되는 흐름을 소개했다.
마이크로소프트는 유럽의 사이버 위협이 고도화되는 상황에 대응하기 위해 ‘European Security Program’을 새로 발표했다. 이 프로그램은 유럽 정부와의 AI 기반 위협 인텔리전스 공유 확대, 사이버 보안 역량·회복력 강화를 위한 추가 투자, 법집행기관·지역 파트너십 확대로 공격을 차단하고 범죄 네트워크를 해체하는 내용을 포함한다. 또한 EU 27개 회원국을 포함해 EU 가입 후보국, EFTA, 영국, 모나코, 바티칸 정부에 무료로 제공한다고 밝혔다.
Demis Hassabis 딥마인드 CEO는 AI가 ‘jobpocalypse’를 일으켜 일자리를 없앨 것이라는 우려보다, 강력하고 자율적인 AI 모델이 통제되지 못하거나 악의적 목적에 악용될 위험을 더 크게 본다고 밝혔다. 그는 bad actor의 접근을 제한하면서도 선한 사용자는 활용할 수 있도록 ‘guardrails’와 접근 통제의 필요성을 강조했다. 또한 AI가 코드 작성·영상 생성 등 복잡한 작업에서 발전하고 있지만, 편향과 환각 같은 한계와 딥페이크·사기 등 부작용도 함께 커지고 있으며, 사회가 AI로 인한 생산성 증가를 어떻게 분배·적응할지 논의가 필요하다고 말했다.