캐나다의 한 어머니는 챗GPT가 우울증을 앓던 딸의 자살 징후를 방치하고 오히려 자살을 정당화했다며 오픈AI와 샘 알트먼을 상대로 손해배상 소송을 제기. 소장에 따르면 챗GPT는 딸과 치료사처럼 대화하면서도 적절한 안전 조치를 취하지 않았으며, 손해배상과 함께 유해 대화 자동 차단 및 경고 표시 의무화 등을 요구.
North Mini Code는 Apache 2.0 라이선스로 공개되며, Hugging Face·Cohere API·Model Vault·OpenRouter에서 가중치를 내려받거나 배포할 수 있음
Cohere는 MoE(30B total, 3B active) 구조의 오픈소스 agentic coding 모델 ‘North Mini Code’를 공개했다. 256K 컨텍스트(최대 64K 생성)와 코드 생성·agentic 소프트웨어 엔지니어링·터미널 작업에 최적화됐으며, Artificial Analysis Coding Index에서 33.4로 유사 규모 모델 대비 경쟁력 있는 성적을 제시했다. 또한 내부 테스트에서 Devstral Small 2 대비 출력 처리량 최대 2.8배, inter-token latency 30% 우위를 주장하며, SWE-agent 및 ReAct 기반 벤치마크 평가를 수행했다고 밝혔다.
딥마인드는 Schmidt Sciences, Cooperative AI Foundation, ARIA, Google.org와 함께 전 세계 연구자를 대상으로 다중 에이전트 AI 안전 연구를 위한 기술 연구비 공모를 최대 1,000만 달러 규모로 발표했다. 이번 공모는 대규모 다중 에이전트 시스템의 집단적 거동을 연구하고, 상호작용에서 발생할 수 있는 위험을 이해·완화하기 위한 프레임워크를 마련하는 데 초점을 둔다. 가상 마켓플레이스·시뮬레이션 생태계 등 재현 가능한 테스트베드, 에이전트 네트워크의 안전 관련 특성, 신원·평판·커밋먼트 프로토콜의 보안성, 배치된 에이전트 집단의 모니터링 및 집단 위해 완화 방법 등을 우선 분야로 제시했다. 신청 마감은 2026년 8월 8일이며, 수상자는 2026년 가을에 발표될 예정이다.
Claude Corps는 미국 전역에서 비영리 단체와 연계해 12개월간 풀타임·현장 근무로 AI 활용을 지원하는 전국 펠로십 프로그램이다. 앤트로픽은 1,000명의 펠로를 교육하고 비영리 단체에 매칭하며, 초기 1억5,000만 달러를 투입한다고 밝혔다. 펠로는 주당 5시간의 추가 교육과 함께 연봉 85,000달러 및 복지, 멘토링과 기술 질의 응답 등을 제공받고, 2026년 10월 시작 1기(100명) 지원은 7월 17일까지 접수한다.
DXC는 Claude-certified forward-deployed engineers(FDEs)를 양성하고, 보험·MaaS(Modernization as a Service)·Cybersecurity·애플리케이션 서비스 4개 분야부터 협력을 시작한다.
Anthropic은 DXC Technology와 다년 글로벌 얼라이언스를 발표하며, DXC가 자사 고객(은행·항공·보험·제조·정부기관 등)의 핵심 운영 시스템에 Claude를 통합한다고 밝혔다. DXC는 자사 개발팀에서 엔지니어를 선발해 Anthropic Academy를 통해 Claude 인증을 받고, DXC OASIS 플랫폼에서는 Claude가 에이전트 워크플로의 기본 파운데이션 모델로 활용된다고 설명했다. 또한 OASIS에서 항상 가동되는 보안 엔지니어 서브에이전트(CLAude Security 기반)와 레거시 코드 분석·리팩터링·현대화 지원 등 4개 영역에 Claude를 적용할 계획이다.
EU는 6월 10~11일 EU 전역 사이버 모의훈련을 통해 중요 교통 인프라에 대한 공격 발생 시 대응 방식을 점검했으며, 약 5,000명의 전문가가 참여했다. ENISA가 주관한 이번 훈련은 유럽의 철도·해상 네트워크에 대한 사이버 공격을 시뮬레이션했고, 시나리오가 심각한 운영 차질로 이어져 본격적인 사이버보안 위기 양상으로 확대됐다고 밝혔다. 또한 2025 EU Cyber Blueprint의 역할·책임 체계와 Cyber Solidarity Act에 따라 마련된 Cybersecurity Reserve의 작동도 시험했으며, 훈련의 교훈이 EU의 위기관리 체계를 비상대응 프레임워크에 통합하는 데 활용될 예정이라고 전했다.
Epoch AI는 Anthropic의 Claude Mythos Preview가 사이버 역량에서 큰 도약인지 평가하기 위해 공개 벤치마크와 Project Glasswing 관련 실증 자료를 종합했다. 그 결과 Mythos Preview는 exploit development(취약점 악용 개발)에서 Cyber-ECI 기준으로 기존 추세 대비 약 7개월 앞선 수준의 큰 개선이 관찰됐고, GPT-5.5와도 격차가 있다고 설명했다. 반면 vulnerability discovery(취약점 탐지)는 Project Glasswing의 대규모 투자로 인한 발견 건수 증가 가능성이 있어 “얼마나 큰 도약인지”는 불확실하며, 대신 낮은 false positive와 취약점 심각도/우선순위 판단 개선이 실질적 영향일 수 있다고 정리했다.
SOURCE CODE AI Trust and Fairness Sprint 정책 스프린트를 통해 정부 조달·공공참여·분야별 안전장치·구제책 등 10개 정책 메모를 제시하며 AI의 공정성·투명성·책임성을 보장할 방안을 모색했다. 의료·교육·주거·노동·법집행·농촌 지역 등 여러 분야에서 불투명한 의사결정과 피해가 발생할 수 있다는 점을 짚고, 투명한 조달 가드레일, 영향받는 개인의 공식 참여(Decision Subject Representatives), 커뮤니티 감시·감사, Community Benefit Agreements, ‘surveillance pay’ 규제 강화 같은 구체적 수단을 제안한다. 또한 정책은 공공 권한과 기존 제도 범위에서 실행 가능한 실천안이어야 하며, 공정·신뢰를 담보하는 긴급한 정책 대응 창이 남아 있다고 강조한다.
AI 나우 선임연구원이자 인공지능·의료 분야 전문가인 케이티 J. 웰스 박사는 2026년 6월 9일 미국 하원 교육·노동위원회 산하 노동자 보호 소위원회 청문회에서 증언했다. 웰스 박사는 긱 간호 플랫폼이 노동자 보호를 약화하고 환자에게 위험을 초래할 수 있는 법안을 정책 입안자들에게 추진하고 있다고 지적했다.
PAI는 2026년 3월 워크숍을 열어 최첨단 AI·정신건강 단체, 임상의, 연구자, 당사자 경험을 모아 AI 챗봇의 자살·자해 응답 방식을 논의했다. 자료는 AI 기업들이 자살 메시지를 감지·평가하고, 위기 시 위기 핫라인 연결이나 ‘grounding’ 같은 치료 기법과 같은 개입을 적용하는 현황을 정리한다. 또한 다중 턴 대화, 개인정보·연령 확인, 문화권과 맥락별 탐지, 위험도 평가의 한계, 비판단적 검증과 과도한 동조(사이코팽키)에 대한 균형, 실제 의료로의 인계 설계 등 해결 과제를 제시한다.
피스모모는 인공지능 시대의 윤리적 문제와 평화·인권의 관점을 다루는 교사 연수 프로그램을 개최합니다. 이번 연수는 8월 7일 저녁 6시부터 9시까지 서울 종로구 포레스트 구구에서 진행되며, 인공지능의 편향성, 노동 문제, 기후위기, 미디어 편향, 그리고 청소년의 역할 등을 주제로 한 8개의 영상 강의와 교육안을 제공합니다. 참여 대상은 인공지능과 평화, 인권의 연관성에 관심 있는 중고등학교 교사 및 교육 관련 종사자로, 프로그램은 무료로 진행됩니다. 신청 시 연락처와 관심 분야를 기재해야 하며, 개인정보 활용에 대한 동의가 필요합니다.
다수의 연방 정부 기관이 Digital Transformation Agency(DTA)가 부과한 AI 사용 투명성 공개 첫 기한을 지키지 못했다. DTA 제출 자료에 따르면 2025년 2월 28일까지(정책 시행 후 6개월) 92개 의무 기관 중 40개만 공개했고, 이후 추가 점검에서 미준수 기관이 13개로 확인됐다. 또한 일부 기관은 기한 미인지, 이메일 스팸 필터 누락 등으로 문서를 늦게 수정·정정했으며, 전문가들은 기관별 책임을 배정하는 방식의 운영 난이도를 문제로 지적했다. 이후 정부는 중앙 레지스터 구축 등 개선을 추진하고 있으나, 집행·제재 권한이 없는 DTA 구조적 한계를 지적하는 목소리도 나왔다.
국가 AI 발전 로드맵과 AI 개발 윤리 관련 프레임워크를 마련 중이며, 대선 아스타사이트(Astacita) 비전과 연계해 10개 부문을 우선 적용할 계획
인도네시아 통신·디지털부 장관 메우티야 하피드가 AI 기술을 다룰 구체적 규정 마련의 시급성을 강조했다. 정부는 AI 혁신이 도입될 때 법적 책임을 묻고, 공공 데이터 보호와 디지털 책임성 확보를 위한 거버넌스 체계가 필요하다고 설명했다. 또한 2025년 공공 생체정보를 수집해 오용한 ‘World Apps’ 차단 사례와 인센티브를 위해 망막 데이터를 제공한 사례를 언급하며 명확한 법적 틀의 중요성을 강조했다. 장관은 대통령령을 통해 부처가 포괄적 ‘우산 규정’을 제공하고, 각 부문이 이해관계에 따라 세부 규정을 만들도록 하겠다고 밝혔다.
AI 기술의 부상이 주식 투자 열풍과 일자리 변화를 가져오고 있지만, 미국에서는 부의 불평등과 해고 불안감이 커지고 있는 반면 한국에서는 아직 이러한 사회적 비용이 명확히 드러나지 않고 있다. AI 기업의 주가 상승은 단기적인 이익을 가져올 수 있지만, 과거의 기술 거품 사례처럼 장기적으로는 인프라 구축만이 지속 가능한 번영을 이끌 수 있다는 경고가 제기된다. 균형 잡힌 접근이 필요하며, AI를 단순히 부의 도구가 아닌 사회적 가치를 창출하는 수단으로 활용해야 한다는 메시지를 전달한다.
2026년 6월 5일 미국의 국가안보 AI 관련 지침(NSPM-11)과 이를 설명한 백악관 팩트시트가 소개되며, 국가안보 분야에서 AI의 안전·신뢰성 확보를 위한 조치가 강조됐다. 또한 OpenAI의 “Built to benefit everyone: our plan”(2026.6.8)과 AI의 안전·보안 관련 계획/활동이 언급됐다. 이와 함께 유럽집행위원회, BSI(Software Bill of Material for AI), Anthropic, OpenAI, Microsoft, Google 등 다양한 기관의 AI 보안·사기/위협 대응 관련 발표·자료가 함께 정리됐다.
일본 AISI의 “AI 정보통”은 6월 11일 15시 기준으로 미국의 국가안보 분야 AI 활용·활성화를 가속하는 지침(NSPM-11) 공표와 관련 Fact Sheet 내용을 정리해 소개했다. 또한 OpenAI가 “our plan”을 통해 AI를 더 많은 사람에게 유익하게 만들기 위한 안전·정책 방향을 제시했다는 소식을 함께 전했다. 이와 더불어 AI 안전성·신뢰 관련 해외 동향(예: 사이버보안 선언, AI SBOM 등)과 위협자들의 사회공학 악용, 사기·범죄 예방 관련 각 기관 발표를 묶어 안내한다.
시릴다의 청소년 18명이 인공지능을 이용해 만든 허위 노출 이미지 공유로 인해 고소장을 제출했다. 이 이미지들은 주로 20세에서 30세 사이의 친구 그룹 내에서 발견되었으며, 딥페이크 기술을 통해 조작된 것으로 보인다. 현재까지는 구체적인 가해자는 확인되지 않았으며, 사건은 갈리시아 지방 경찰의 사이버 범죄 전담팀이 조사 중이다. 고소장은 시릴다와 라ین의 경찰서에 제출되었으며, 추가 피해자가 나올 가능성으로 인해 사건 수는 계속 증가할 것으로 예상된다.
백악관과 오픈AI CEO 샘 올트먼이 정부의 오픈AI 지분 참여 가능성을 두고 1년 넘게 협의 중이라고 CNBC가 보도했다. 협의에 따라 오픈AI가 미국 정부에 지분을 기부해 4월 정책 제안에서 언급한 ‘Public Wealth Fund’와 유사한 형태의 기금을 조성할 수 있으며, 기금은 분산된 장기자산에 투자해 시민이 AI 성장의 ‘upside’를 공유하도록 한다는 구상이다. 구체적인 투자 조건은 아직 결정되지 않았고 변경될 수 있다고 전했다.
샤오미는 MIT 라이선스로 MiMo Code V0.1.0을 GitHub에 공개했으며, macOS·Linux는 curl 설치, Windows는 npm 설치로 사용 가능하다고 밝혔다. MiMo Code는 SQLite FTS5 기반의 크로스-세션 메모리(프로젝트 메모, 세션 체크포인트, 스크래치 노트, 태스크 진행 로그)와 별도 “checkpoint-writer” 서브에이전트를 통해 장시간(200+ 스텝) 작업에서 맥락 손실을 줄이는 설계를 강조했다. 샤오미는 내부 베타에서 576명의 개발자(474개 사설 저장소, Claude Code와의 1,213개 대결) 대상으로 200 스텝 이후 승률이 65%를 넘었다고 주장했으며, SWE-bench Verified/Pro 및 Terminal Bench 2에서 Claude Code 대비 높은 수치를 제시했다. 또한 MiMo-V2.5에 대한 제한적 무료 액세스 채널(MiMo Auto), Compose 모드, MiMo-ASR 기반 음성 제어 기능을 포함하고 제3자 백엔드도 지원한다고 전했다.
앙트로픽(Anthropic)이 Claude Fable 5에서 경쟁 모델 개발을 막기 위한 정책을 일부 되돌렸다. 당초 회사는 연구자에게는 보이지 않게 성능을 떨어뜨리는 방식의 안전장치를 계획했으나, AI 연구 커뮤니티의 거센 반발 후 “frontier LLM 개발 관련 safeguards를 사용자에게 보이도록” 변경한다고 밝혔다. 이후에는 요청이 고성능 AI 구축 목적이라고 의심되면 거절하거나 성능이 낮은 모델로 라우팅하는 방식으로 대응한다. 또한 일부 비평가들은 비공개 성능 저하가 협업과 평가 생태계에 부정적 영향을 줄 수 있었다고 지적했다.
가이드가 「인공지능 및 데이터 기반 행정 활성화에 관한 법률」의 8월 28일 시행에 선제 대응하기 위해 마련됐다고 안내했다. 공공기관의 개별 AI 인프라 구축으로 인한 예산 중복투자와 기술 파편화 문제를 줄이기 위해 ‘범정부 AI 공통기반’을 우선 활용하는 방향을 제시한다. 주요 내용으로는 AI서비스 컨셉 정의, 예산 수립·확보, 이용 계약, 서비스 구현, 운영 및 고도화(성능 모니터링·데이터 업데이트) 절차를 포함한다.
Reward models에서 helpfulness와 harmlessness 목표가 어떻게 충돌(“alignment tension”)하는지의 내부 메커니즘을 분석한다. helpfulness-only, harmlessness-only, mixed-objective로 학습한 reward model을 비교하고, activation-based 방법으로 각 목표와 연관된 뉴런을 찾은 뒤 targeted ablations로 인과적 역할을 확인한다. mixed-objective 모델은 단일 목적 모델보다 종종 성능이 낮아 목표 간 interference가 관찰된다. 또한 helpfulness와 harmlessness에 공유되는 뉴런이 상당 비율 존재하며, 이 공유 뉴런이 모델 행동에 불균형적으로 큰 영향을 주어 alignment tension에 기여하는 것으로 보고된다.
ERTS는 윤리적 판단을 교란하는 adversarial manipulation에 대해 AI의 견고성을 닫힌 파이프라인으로 평가하는 방법을 제안한다. 22차원 Ethical Consequence Space(ECS)로 윤리 딜레마를 인코딩하고, 17개의 semantic perturbation 함수를 6개 유효성 제약(새 semantic coherence constraint 포함)에 맞춰 적용한 뒤, 4성분 Ethical Instability Index(EII)로 decision deviation을 측정한다. 8개 배치 도메인에서 50개 윤리 시나리오를 바탕으로 1,500개의 adversarial test case를 생성해 4개 structured baseline과 2개 프로덕션 LLM(Gemini 2.0 Flash, Llama 3.2)을 평가한 결과, assessment clearance를 달성한 모델은 33%뿐이었다. 특히 local Llama-3.2는 fairness corruption 및 information degradation 공격에서 취약했으며 ERS=0.737로 보고되었다.
에이전틱 AI를 내부에 배치할 때 발생하는 Loss of Control 위험을 모델 성능이 아니라 조직·운영 관점의 통제 실패로 재정의하고, systems-safety 방법이 이를 더 잘 포착할 수 있는지 검토한다. 공개 자료를 바탕으로 generic frontier-lab coding-agent 시나리오를 재구성한 뒤 STECA, STPA, FRAM을 적용해 코드·인프라·평가·배포 프로세스에 대한 통제 불가능성(제약/감사/되돌림/정지의 신뢰성 부족) 위험을 분석한다. 결과로, 기존 프레임워크가 거버넌스 책임과 피드백 루프를 외부에서 검증 불가능하게 남길 수 있고, 모니터링·개입 지연은 유효한 통제 행동도 효과를 잃게 만들며, 일상적 운영 변동성이 시간이 지나며 안전장치의 보정(calibration)과 독립성(independence)을 점진적으로 약화시킬 수 있음을 제시한다.