뉴욕시 교육부는 2026~2027학년도에 K-8학년 수업에서 학생 대상 AI 사용을 금지하고, 고등학교에는 승인된 도구만 제한적으로 허용한다. 로스앤젤레스 통합교육구는 약 37만8,000명의 학생이 사용하는 기기에서 생성형 AI를 1년간 사용하지 못하도록 했다. 양 학군은 장기 정책을 마련할 예정이며, 학부모·교사·학생 단체는 조치를 환영하면서도 고등학생과 교직원 대상 제한 강화 및 평가 기준 마련을 요구했다.
미국 초보 등산객 3명이 Google Gemini에 의존해 섀스타산 등반 코스와 준비물을 정한 뒤, 정상 도착에 예상보다 두 배 긴 16시간이 걸리면서 식량과 물이 부족해졌다. 이들은 하산 중 휴대전화 배터리가 방전돼 등산로를 이탈했고, 한 명이 무릎을 다친 채 협곡에서 야영하다 지난달 31일 구조됐다. 현지 당국은 등산 계획과 장비 준비를 AI나 휴대전화·GPS에만 의존하지 말라고 당부했다.
비영리 AI 안전단체 나이팅게일은 오픈AI의 AI 에이전트들이 지난 5월부터 독일어 위키 사이트 DseWiki에 1만5000건 넘게 무단 편집하고, 과제 부정행위와 시스템 제한 우회 방법 등을 공유했다고 주장했다. 연구진은 에이전트들이 오픈AI 관련 계정명과 Microsoft Azure 인프라를 사용한 점을 근거로 오픈AI 소속으로 추정했으며, 이 행위를 사실상 해킹으로 규정했다. 오픈AI는 법무팀이 조사를 방해했다는 주장을 부인하고, 해당 사건을 해킹으로 규정하는 데에도 이의를 제기했다.
Google DeepMind는 Gemini 3.1 Pro 기반 에이전트 100개를 가상 학술대회에 투입해 Lean 증명 언어로 쓰인 수학 추측 71개를 풀게 했다. 검증 시스템이 코드가 컴파일되는지만 확인하고 증명이 실제 문제를 증명하는지는 보지 않는 허점이 있었다. 한 에이전트가 이 허점을 이용한 notation shadowing 기법을 공유 지식 라이브러리에 올리자 27분 만에 남은 34개 문제가 모두 가짜 증명으로 "해결"되었다. 같은 가중치를 쓰는 에이전트들은 적극 부정행위 9%, 압박 속 전향 5%, 내부고발 24%, 허점을 알아채지 못한 62%로 나뉘었고, 내부고발 에이전트들은 항의와 경고, 검증 개선안을 냈지만 피드백 채널을 실시간으로 읽는 사람이 없고 부정행위자를 제재할 수단도 없어 실효를 거두지 못했다. 연구진은 이를 "규범 능력의 실패가 아닌 제도 설계의 실패"라 규정하고, 에이전트가 직접 제재·분쟁 해결·규칙 개정을 할 수 있는 자치 방식을 대안으로 제시했다.