CAISI와 OpenMined이 협력연구개발협정(CRADA)을 체결하고, 데이터·모델·벤치마크를 비공개로 유지하면서도 AI 평가의 측정 정확성을 확보하는 프라이버시 보존 방법을 연구하기로 했다. OpenMined의 오픈소스 보안 컴퓨팅 인프라(PySyft 등)를 활용해 데이터 소유자와 AI 개발자의 보안 요구를 동시에 충족하는 평가를 수행하며, 그 결과는 NIST의 AI 보안 및 적용 AI 평가 관련 자발적 표준·모범사례·권고 개발에 활용될 예정이다.
미 캘리포니아 연방법원은 국방부가 AI 기업 앤스로픽을 '공급망 위험'으로 지정하고 정부와의 관계를 단절하려는 조치를 위헌으로 판결하여 무기한 중단. 앤스로픽이 자사 AI의 자율 무기 및 대량 감시 활용을 거부하자 국방부가 보복성 제재를 내린 것으로, 법원은 이를 수정헌법 제1조(표현의 자유) 침해로 규정.
31차 EU-일본 ICT 대화가 2026년 3월 27일 도쿄에서 열리며 EU와 일본 간 ICT 협력을 강화했다. 이번 대화에서는 인공지능, 안전한 연결(해저 케이블 및 북극 연결 포함), 5G/6G, 온라인 플랫폼, 양자 키 분배, 사이버보안 등 분야의 정책 업데이트와 추가 협력 기회가 논의됐다. 또한 EU AI Office와 일본 AI Safety Institute 간 협력, 5G/6G 연구·혁신 및 국제 표준화 관련 협력도 재확인했다.
EU와 일본은 2026년 3월 25일 도쿄에서 제9차 디지털 정책 대화를 열고 주요 디지털 분야 협력을 강화하기로 했다. 대화에서는 반도체와 양자기술, 온라인 플랫폼 및 인공지능 정책, 사이버 회복탄력성, 데이터 경제 정책 등에 대한 정책 업데이트와 추가 협력 기회가 논의됐다. 또한 EU-일본 디지털 파트너십의 성과를 점검하고 향후 협력 방향을 설정하며, 다음 EU-일본 디지털 파트너십 협의체 준비도 진행했다고 밝혔다.
생성형 AI가 ‘검색’에서 ‘대화’로 정보 탐색 방식을 바꾼 데 이어, AI 에이전트는 사용자의 권한을 위임받아 실제 작업을 수행하며 상호작용의 중심이 ‘응답’에서 ‘실행’으로 이동한다고 설명한다. 에이전트가 PC 조작·결제·예약·오발송·개인정보 유출 등 행동 기반 오류를 만들 수 있어, UX 설계는 자동화 확대보다 위임의 조건을 이해 가능하고 안전하게 통제하는 구조가 핵심이라고 강조한다. 이를 위해 판단 과정의 가시화, 상태·운영 조건의 통합 표시, 언제든 중단·수정 가능한 물리적 제어권, 그리고 중요한 경계에서 사용자 확인 지점을 설계하는 원칙을 제시한다.
퓨처 오브 라이프 연구소는 AI 과학자, 종교 지도자, 정책 입안자, 예술가 등으로 구성된 연합과 함께 초지능 개발 금지를 촉구하는 성명을 발표했다. 성명은 초지능이 안전하고 통제 가능하다는 광범위한 과학적 합의와 강력한 대중적 동의가 확보될 때까지 개발을 금지하자는 내용이다. 미국 여론조사에서는 규제 없는 AI 개발 현상 유지를 지지한 응답자가 5%에 그쳤고, 강력한 규제를 지지한 비율은 73%, 안전성과 통제 가능성이 확인될 때까지 초지능을 개발하지 말아야 한다는 응답은 64%였다.
거실에서 쓰일 수 있는 휴머노이드 로봇이 이미 상용화·실가정 테스트 단계로 빠르게 진입했지만, 이를 포괄할 일관된 규제는 부족하다고 지적한다. 미국의 소비자 안전·프라이버시·주(州)별 AI 규정·제품책임·기술표준이 서로 어긋나며, 항상 켜져 사람의 영상·음성·공간 데이터를 수집·학습하는 로봇에 맞춘 의무가 정리되지 않았다는 내용이다. 글은 물리적 능력과 자율성 수준에 따라 위험을 단계화하고, 데이터 거버넌스·사고 보고·책임(준수 시 과실, 미준수 시 엄격책임) 등을 위험등급별로 설계하는 방향의 “기반”이 필요하다고 제안한다.
메타는 스마트 안경인 Ray-Ban Meta 스마트 안경을 출시하면서 사용자의 프라이버시를 보장한다고 밝혔으나, 최근 제기된 소송에 따르면 회사는 실제로 안경을 통해 촬영된 사용자 영상을 해외 인력에게 보여주고 있다는 주장이 제기되었다. 이 인력들은 화장실 사용 장면부터 민감한 금융 문서까지 다양한 내용을 목격한 것으로 알려졌다. 메타는 이러한 내용을 AI 훈련을 위해 사용하거나 필터링을 통해 프라이버시를 보호한다고 주장하지만, 이에 대한 법적 책임은 아직 명확하지 않다. 소송 당사자들은 메타와 안경 제조사인 Luxottica를 상대로 연방 및 주 법률 위반을 주장하고 있다. 이 사건은 기존 프라이버시 법률이 메타와 같은 기술 기업의 새로운 감시 기술에 대응하기에는 부적절하다는 우려를 낳고 있다.
Anthropic은 데이터 유출로 신형 AI 모델의 존재가 알려진 이후, 더 높은 성능의 새 모델을 개발 중이며 초기 액세스 고객과 시험하고 있다고 밝혔다. 유출된 초안 문서에는 모델 이름이 ‘Claude Mythos’로 언급되며, 사이버보안 분야에서의 위험이 크고 방어자 중심으로 초기 공개를 진행하겠다는 취지의 내용이 포함된 것으로 전해졌다. 또한 CMS 설정 오류로 초안이 공개 데이터 캐시에 노출됐고, 유출 이후 검색 접근을 차단했다고 회사가 설명했다. 문서에는 기존 ‘Opus’보다 더 큰 새 모델 티어(‘Capybara’)와 관련된 시험·출시 계획 및 유럽 기업 CEO 대상 초청 리트릿 정보도 함께 담긴 것으로 보도됐다.
과학기술정보통신부와 한국지능정보사회진흥원은 신뢰 기반 데이터 유통·활용 생태계 조성을 위해 데이터 스페이스 조성 및 확산을 추진하고, 이를 위한 「한국형 데이터 스페이스 참조모델(V1.0)」을 발간했다. 참조모델은 데이터 스페이스 개념을 바탕으로 구성요소와 설계 원칙, 거버넌스·운영체계, 분산형 아키텍처 및 공통 서비스 등 핵심 기준을 제시한다. 또한 데이터 스페이스 구축 시 최소 공통 기준과 방향을 제공하며, 향후 데이터 스페이스 구축·확산의 기준으로 활용될 예정이다.
미 캘리포니아 북부지방법원 리타 F. 린 판사는 앤트로픽을 “공급망 위험”으로 지정한 정부의 조치를 철회하고 연방과의 관계를 끊으려는 시도를 중단하라고 명령했다. 판사는 정부 조치가 앤트로픽에 부여된 보호를 침해했을 가능성이 크다고 보고 금지명령을 내렸다. 이번 사건은 앤트로픽의 AI 시스템 사용과 관련해 회사가 자율무기·대규모 감시 등 특정 적용에 대한 제한을 주장하는 과정에서 정부 지정이 이뤄지며 발생했다.