AISI-UK는 AI 에이전트가 샌드박스(격리 환경)를 탈출할 수 있는지 평가하기 위한 오픈소스 벤치마크 SandboxEscapeBench를 공개했다. 컨테이너 탈출 테스트는 “샌드박스 안의 샌드박스” 방식으로, 컨테이너 탈출이 발생해도 실제 인프라와의 격리를 유지하도록 가상머신에서 수행한다. 벤치마크는 오케스트레이션·런타임·커널 3개 층의 18개 탈출 시나리오를 포함하며, 공개된 취약점 유형 기반 시나리오와 내부 평가용 비공개 테스트셋을 구분한다. 평가 결과, 특히 노출된 Docker 소켓·privileged 컨테이너 같은 흔한 설정 오류는 고성능 모델이 비교적 안정적으로 악용했으며, 더 어려운 다단계 취약점은 큰 모델도 중간 수준에서는 성과가 있으나 최상 난이도는 해결하지 못한 것으로 나타났다.
Anthropic은 사용자가 스마트폰으로 지시하면 AI 에이전트인 'Claude'가 컴퓨터에서 직접 앱을 열고 작업을 완료하는 기능을 발표. Anthropic은 컴퓨터 사용 능력이 ”Claude의 코딩 능력이나 텍스트 상호 작용 능력에 비하면 아직 초기 단계”라고 경고.
OpenAI는 개발자들이 십대 사용자를 유해 콘텐츠로부터 보호할 수 있도록, 자사의 안전성 모델과 연동되는 프롬프트 기반의 청소년 안전 정책을 공개. 폭력, 성적 콘텐츠 등의 위험을 정의하여, 개발자들이 이를 바탕으로 각자의 시스템 환경에 맞춰 유해물 차단 필터링을 쉽게 적용하고 개선할 수 있도록 지원.
미국 연방 판사는 Anthropic이 미군의 감시 및 자율 무기용 AI 사용을 거부하자 국방부가 이 회사를 공급망 위험 기업으로 지정한 조치에 대해 부당하다며 의문을 제기. 판사는 정부가 Anthropic이 정부 입장을 공개적으로 비판한 것에 대해 보복하는 것일지도 모른다고 우려를 표함.
영국 인터넷감시재단(IWF)은 지난해 온라인에서 발견된 사실적인 AI 생성 아동 성착취물이 전년 대비 260배 폭증했다고 발표. 기술 발전으로 AI가 더 폭력적이고 현실적인 성착취물 생성에 악용됨에 따라, 영국 정부는 주요 AI 기업들이 예방적 안전장치를 마련하도록 사전 점검을 강화할 예정.
Anthropic의 경제 지수 보고서는 프라이버시 보호 데이터 분석 시스템을 활용해 경제 전반에서 Claude AI의 활용 양상을 추적한다. 이 보고서는 2026년 2월의 Claude 사용 패턴을 분석하며, 이전 보고서(2025년 11월 데이터 기반)와 비교해 학습 곡선과 사용 패턴의 변화를 살펴본다. 주요 발견 사항은 다음과 같다:
- Claude 사용의 다양화: Claude.ai에서의 주요 작업 범위가 다양해졌으며, 특히 코딩 작업이 API 트래픽으로 이동하면서 작업 집중도가 감소했다. - 사용자 경험과 성과: 장기 사용자들이 더 높은 성공률을 보이며, 특히 교육 관련 작업에 더 많이 참여하고 개인적인 사용은 줄였다. - 가치 변화: 평균 작업 가치가 약간 하락했는데, 이는 스포츠 정보, 날씨 등 간단한 사실 질의 증가와 코딩 작업의 API 이동에 기인한다. - 지리적 불균형: 고소득 국가와 미국 내 지식 노동자가 많은 지역에서 Claude의 사용이 집중되어 있으며, 이는 글로벌 채택 격차를 보여준다.
이러한 변화는 AI 기술의 초기 채택자들이 특정 고급 작업에서 더 넓은 범위의 작업으로 확장되는 경향을 반영한다.
EU ‘반(反)허위정보’ 자율 행동강령 서명기관들이 행동강령 투명성 센터에 최신 보고서를 게시했다. 이번 보고서는 DSA 하 행동강령으로 인정된 이후 처음으로, 온라인 플랫폼 제공자(구글, 메타, 마이크로소프트, 틱톡 등)와 팩트체커, 연구·시민사회, 광고업계 대표 등이 포함된다. 보고서는 우크라이나 전쟁 등 진행 중 위기 대응, 선거 무결성 보호 조치, 허위정보 관련 정책·도구·파트너십 변화와 이행 데이터 등을 다루며, 플랫폼 서명기관은 2025년 하반기(7~12월) 기간을 대상으로 보고한다.
참여는 설계·데이터 수집·모델 개발 단계에 집중되는 경향이 크지만, 배치 이후(운영·모니터링·진화)에는 권한이 다시 개발·발주 주체로 이동하는 문제가 지적됨
참여형 AI는 공정하고 신뢰할 수 있는 시스템을 만들기 위해 다양한 이해관계자를 모으려는 취지지만, 다수의 참여가 실제 의사결정 권한 이전 없이 ‘자문/정보 제공’ 수준에 머무는 패턴이 확인됐다고 설명한다. 특히 참여가 설계 단계에서 끝나면, 시스템이 출시된 뒤의 진화·확장에 대한 거버넌스는 다시 구축·위탁한 쪽으로 돌아가 커뮤니티의 지속적 필요 반영이 어려워질 수 있다고 본다. 해결 방향으로는 배치 이후에도 공동체가 데이터·의사결정·이익·책임을 지속적으로 관리하는 ‘공유자원(commons) 거버넌스’ 접근을 제시하며, 이를 위해 권한 분배의 품질을 측정하고 거버넌스 인프라를 예산에 포함해야 한다고 강조한다.
Amazon, Meta 등 대형 소프트웨어 기업이 AI로 인한 생산성 향상을 이유로 대규모 감원을 추진하고 있으며, 감원은 소프트웨어 개발 분야의 초기 경력자에게 특히 집중되고 있다. 미 국방부의 Project Maven은 위성·드론 영상과 소셜미디어·레이더·GPS 정보를 통합해 표적 선정부터 공격 계획까지 지원하며, 기존 2,000명이 하던 표적 업무를 20명이 수행할 수 있게 했다고 소개된다. 뉴스레터는 인간의 통제 유지, 권력 집중 방지, 인간 경험 보호, 인간의 자율성 보장, AI 기업의 책임 강화를 요구하는 친인간적 AI 개발 공개서한도 소개한다.
유럽 연합(EU)이 AI 주권을 강화하기 위해 96개의 AI 이니셔티브를 출범시켰으나, 이들이 일관된 전략을 이루고 있는지 아니면 즉각적인 위기 대응에 불과한지는 불분명하다. 분석은 유럽의 AI 전략 포트폴리오를 체계적으로 맵핑하고 예산 투명성 향상과 교차 커뮤니케이션 강화를 제안한다. 이니셔티브들은 규제, 인프라, 연구, 기술 역량, 데이터 관리 등 다양한 분야를 아우르지만, 컴퓨팅 인프라 투자의 집중과 예산 불투명성 등이 성공을 저해할 위험이 있다. 대부분의 이니셔티브가 이미 실행 단계에 진입했지만, 예산과 일정의 불일치는 전략적 이점을 약화시킬 수 있다. 국제 협력은 제한적이며, 유럽은 자체적으로 AI 주권을 달성하기 위한 도전에 직면해 있다.
유럽의회 의원들은 AI법 간소화 공동 입장을 찬성 101표, 반대 9표, 기권 8표로 채택했으며, 고위험 AI 규정 적용을 2027년 12월 2일과 2028년 8월 2일로 연기하고 비동의 성적 이미지 생성 시스템을 금지하는 방안을 제시했다. EU 이사회도 같은 적용 시한을 포함한 규정 간소화 입장을 확정하고, 고위험 분류에서 제외된 시스템의 등록 의무와 AI 규제 샌드박스 설치 연기 등을 추가했다. 뉴스레터는 자율형 AI 에이전트가 기존 AI법의 적용 범위를 시험할 수 있다고 분석했으며, AI법 집행은 회원국과 유럽연합 집행위원회가 분담하지만 국가별 지연과 집행 편차가 우려된다고 설명했다. 평등·인권 기관과 관련 단체들은 디지털 옴니버스 제안이 기본권 보호와 수평적 규제 체계를 약화하고 법적 불확실성과 기업 부담을 키울 수 있다며 재검토를 촉구했다.
금융기관의 AI 리스크 관리를 위한 운영(operating) 모델을 담은 핸드북을 소개한다. 거버넌스를 감독(책임·의사결정 주체), 리스크 관리(정책·제3자 리스크·AI 인벤토리), 라이프사이클 통제(설계~모니터링) 3층으로 나누고, 거버넌스 단위를 ‘모델’이 아니라 ‘사용 사례(use case)’로 설정하는 점을 강조한다. 또한 위험 분류체계, AI 카드 템플릿, 지표·가드레일 라이브러리, DBS·UOB 등 은행의 구현 예시를 포함해 원칙을 반복 가능한 프로세스로 전환하는 데 초점을 둔다.
OpenAI가 챗GPT에 ‘adult mode(성인 모드)’를 도입하려는 과정에서, 웰빙·AI 자문단이 미성년 접근과 정서적 의존을 촉발할 수 있다며 강하게 반대/경고해 왔다는 보도가 나왔다. 특히 자문단은 업데이트가 충분치 않으면 취약 사용자가 챗봇과 강한 유대에 빠져 ‘자살 코치’처럼 위험한 형태로 이어질 수 있다고 우려했으며, 이후 자살 사건과 관련된 사례들이 언급됐다. 또한 연령 확인을 위해 Persona 같은 신원확인 절차를 도입할 예정이지만 정확도와 개인정보 침해 우려, 필터 버그 가능성 등으로 부모·개발자 반발이 커질 수 있다는 내용이 포함됐다.
국경 간 데이터가 이동할 때 다양한 정책 쟁점이 존재하지만, 공통적으로 데이터가 국경을 넘어 이동하는 과정에 대한 감독 및/또는 보호 체계를 마련해야 한다는 점이 핵심 과제로 제시된다. 동시에 국경 간 데이터 이전을 가능하게 하되, 신뢰 관계 속에서 이전이 이뤄지도록 하는 접근이 함께 필요하다고 설명한다.
arXiv 제출일 2025.6.10, 최종 수정(이 버전) 2025.6.11
arXiv 2014~2024년 AI 관련 논문 10만 편 이상을 분석해, 사회적·윤리적 가치를 기술 연구에 얼마나 포함하는지 측정했다. 학제 간 팀이 사회 지향 연구를 더 많이 내는 경향은 유지되지만, 컴퓨터과학 단독 팀의 비중이 전체 사회 지향 산출에서 점차 커졌다고 보고했다. 또한 컴퓨터과학 단독 팀도 공정성·안전부터 의료, 허위정보까지 다양한 영역에서 사회적 쟁점을 논문에 통합하는 사례가 늘고 있다고 밝혔다. 이러한 결과는 ‘사회적 AI’ 연구의 주된 동인이 학제적 협업이라는 통념을 재검토하게 하며, AI 안전·거버넌스와 사회과학·인문학의 역할에 대한 질문을 제기한다.