과학기술정보통신부는 「국가인공지능전략위원회의 설치 및 운영에 관한 규정」이 2025년 9월 2일 국무회의에서 의결됐다고 밝혔다. 위원회는 범부처 AI 전략·정책·사업을 총괄·조율하는 실질적인 국가 AI 컨트롤타워로 강화되며, 위원 수는 45명에서 50명으로, 부위원장은 1명에서 3명으로 늘어난다. 정부의 AI 시책과 사업 추진을 지원하기 위해 인공지능책임관협의회도 운영할 수 있도록 했다.
존스홉킨스 연구진은 ChatGPT 등 다국어 LLM이 질문을 어떤 언어로 하느냐에 따라 답변에 반영되는 정보가 달라지며, 특히 영어 등 고자원 언어의 관점이 우세해진다고 밝혔다. 이로 인해 저자원 언어 사용자는 해당 언어로 된 문서가 없으면 다른 언어(예: 영어) 자료에 기반한 답을 받아 서로 다른 이해에 이르게 된다. 연구진은 이를 ‘faux polyglots(형식적 다국어)’로 규정하고, 동적 벤치마크·데이터셋 구축과 다양한 언어 관점 수집, 사용자에게 편향적 확인응답 경향을 경고하는 방안 등을 제안했다.
OpenAI는 향후 120일 내 ‘acute distress’ 징후가 있는 민감 대화를 OpenAI의 reasoning models로 라우팅하는 방침도 함께 밝혔다.
OpenAI는 한 달 내 부모가 자녀 계정을 연결해 ChatGPT 응답에 연령에 맞는 규칙을 설정하고 memory·chat history 같은 기능을 관리할 수 있도록 할 계획이라고 밝혔다. 또한 ChatGPT가 사용자가 ‘acute distress’ 상태라고 판단하면 부모에게 알림을 보내는 기능을 처음으로 도입할 예정이며, 위기 상황에서 성인에게 대화가 표시될 수 있다고 설명했다. 이와 함께 장시간 대화에서 안전장치가 약해질 수 있다는 점을 보완하기 위해 보호조치를 강화하고, 일부 민감 대화는 향후 120일 내 reasoning models로 라우팅해 안전 가이드 준수율을 높이겠다고 전했다.
일본 정부는 AI Strategy Headquarters를 중심으로 겨울까지 AI 정책의 기본계획을 수립해 AI 개발·활용을 확대하되 보안과 시민 권리를 보장하겠다고 밝혔다. 내각부 내에 9월 1일 신설된 본부는 이시바 총리가 이끌며, 연구자·기업·전문가 패널이 기본계획 초안을 작성할 예정이다. 또한 허위정보·딥페이크 등으로 인한 권리 침해를 막기 위한 가이드라인을 마련하고, 정부·민간이 AI 서비스를 해외 의존할 경우 개인정보·기밀 데이터 관리 우려가 있어 국내 연구개발을 촉진할 계획이다. 일본의 생성형 AI 이용률은 2024년 조사에서 26.7%로 미국(68.8%)·중국(81.2%)보다 낮고, 현행 법 체계에서 안전하게 쓸 수 있다는 인식도 낮아 리스크 관리 논의가 예상된다.
EPFL·ETH Zurich·CSCS가 공동 개발한 대규모 언어모델 LLM ‘Apertus’가 공개됐으며, 아키텍처·모델 가중치·학습 데이터 및 학습 레시피 전 과정을 투명하게 공개하고 문서화했다고 밝혔다. 8B와 70B 두 크기로 제공되며, 1,000개 이상 언어에 대해 15조 토큰 규모로 학습했고 비영어 데이터 비중이 40%라고 설명했다. 학습 재현성 확보를 위해 문서·소스코드·중간 체크포인트를 포함한 자료를 공개하고, 스위스 개인정보보호·저작권 및 EU AI Act의 투명성 의무를 고려해 공개 데이터 기반으로 학습하며 opt-out 요청 및 개인데이터 등을 사전 필터링했다고 덧붙였다. Swiss {ai} Weeks 해커톤에서 개발자들이 직접 모델을 시험하고 피드백을 제공할 수 있도록 Swisscom 인터페이스와 접근 경로도 안내했다.
NCSC와 AI Security Institute(AISI)는 생성형 AI의 safeguard가 jailbreaking, agent hijacking, indirect prompt injection 등으로 우회될 수 있다고 보고, 이를 완화하기 위해 전통적 사이버 보안의 취약점 관리·공개 원칙을 전이할 수 있다고 설명했다. 또한 SBBP/SBDP는 연구자 커뮤니티가 성공적인 우회 사례를 찾아 보고하도록 하는 프로그램으로, (1) 우회 난이도를 측정해 거버넌스·리스크 평가에 활용하고 (2) 배포 후 새 약점을 발견해 지속적으로 보완하는 효과를 기대할 수 있다고 밝혔다. 다만 프로그램이 있다고 해서 모델이 안전하다는 뜻은 아니며, 명확한 범위 설정, 내부 점검 후 적절한 시점에 출시, 재현·추적 가능한 보고 체계 등 운영 전제조건이 중요하다고 강조했다.
Anthropic은 ICONIQ 주도의 $130억 규모 Series F 펀딩을 완료하여 기업 가치를 $1830억으로 평가받았다. 이번 투자는 Fidelity Management & Research Company와 Lightspeed Venture Partners의 공동 주도로 이루어졌으며, 주요 투자자로는 Altimeter, Baillie Gifford 등이 포함되었다. 이는 Anthropic의 지속적인 성장과 안전한 인공지능 플랫폼으로서의 리더십을 강화하는 데 기여한다. 펀딩 이후 Anthropic의 매출은 급격히 증가하여 8개월 만에 $50억을 돌파하며 역사상 가장 빠른 성장을 보인 기술 기업 중 하나로 자리매김했다. 투자 자금은 기업 수요 확대 대응, 안전 연구 강화, 그리고 국제 확장을 지원하는 데 사용될 예정이다.
Mistral AI는 르 샤트에 Databricks, Snowflake, GitHub, Atlassian, Asana, Stripe 등 20개 이상의 MCP 기반 보안 커넥터를 제공하고, 사용자가 원격 MCP 서버를 직접 연결할 수 있도록 했다. 커넥터는 데이터 검색·요약과 업무 도구 내 작업 실행을 지원하며, 온프레미스·사용자 클라우드·Mistral Cloud 배포와 조직별 접근 권한 관리가 가능하다. 새 메모리 기능은 대화 간 사용자 선호와 사실을 저장해 개인화된 응답을 제공하고, 사용자가 메모리를 추가·수정·삭제할 수 있도록 한다. 두 기능은 모든 르 샤트 사용자에게 무료로 제공된다.
미스트랄 AI는 대화형 AI 기능인 Le Chat의 Memories(베타)를 투명성·사용자 통제·주권을 중심으로 설계했다고 밝혔다. 사용자는 메모리 사용 여부와 출처를 확인하고, 메모리를 끄거나 시크릿 채팅을 이용하며 개별 메모리를 수정·삭제·내보내기·가져오기 할 수 있다. Memory Insights는 사용자의 데이터를 바탕으로 추세와 요약, 다시 볼 만한 대화를 제시하며, 향후 메모리 분류·즉시 삭제·사용 내역 표시 기능이 추가될 예정이다.
유네스코의 글로벌 설문 결과, UNESCO Chair 또는 UNITWIN Network를 운영하는 고등교육기관의 약 3분의 2가 인공지능(AI) 활용에 대한 가이드를 이미 갖고 있거나 개발 중인 것으로 나타났다. 90개국에서 400명이 응답했으며, 응답자의 90%는 연구·글쓰기 등 업무에서 AI 도구를 사용하고, 절반가량은 수업 설계·채점 보조·표절 탐지 등 교수 활동에도 실험 중이라고 밝혔다. 다만 AI의 교육·연구 적용에 대한 확신은 고르지 않고, 윤리·환경 우려와 기술 이해 부족, 접근성 문제 등이 장벽으로 제시됐다. 또한 19%는 공식 AI 정책이 이미 있으며 42%는 가이드 프레임워크가 개발 중이라고 답했고, 유럽·북미는 약 70%인 반면 라틴아메리카·카리브는 45%로 지역별 차이가 있었다.
사우디아라비아가 리야드에서 열린 제25차 Global Symposium for Regulators(GSR25)를 통해 글로벌 연결성 격차(약 2.8조 달러) 해소와 인공지능(AI) 거버넌스 형성에 나섰다고 보도했다. GSR25는 ITU와 공동 주최되며 190개국 규제기관과 업계 리더들이 참여해 ‘지속가능한 디지털 발전을 위한 규제’를 주제로 논의한다. 사우디는 디지털 경제가 GDP의 15%를 차지하고 기술 일자리와 여성 참여가 확대됐다고 강조했으며, ITU는 향후 25년의 디지털 프레임워크와 신뢰·의사결정의 중요성을 언급했다. 회의는 참가자 의견과 세션 권고를 바탕으로 ‘포스트-디지털 시대’ 규제 원칙을 담은 결의안으로 마무리될 예정이다.
OpenAI는 부모가 자녀 계정을 연결하고 연령에 맞는 응답을 설정하며, chat history·memory 같은 기능을 끄고 ‘acute distress’ 상황에 대한 알림을 켜는 parental controls를 다음 달 내 제공하겠다고 밝혔다. 또한 장시간 세션 중 휴식을 유도하는 in-app reminders 등 기존 사용자 대상 기능도 함께 언급했다. 해당 발표는 한 주 전, 자녀의 자살 이후 부모가 OpenAI와 CEO Sam Altman을 상대로 제기한 소송 보도와 맞물려 나온 것으로 전해졌다.