출처: SG-AISI
세부적으로는 위험 식별과 테스트 범위 조정, 실제 운영과 유사한 테스트 환경 구축(API·도구·가드레일·세션 상태·샌드박싱), 목적에 맞는 대표적 데이터셋/상호작용 모드 설계, 출력·결과뿐 아니라 궤적(에이전트의 단계별 수행·도구 사용·부분 성공/일관성)까지 아우르는 지표·평가기법을 제시한다. 리더보드 성능만으로는 배포 적합성을 보장하기 어렵고, 도메인 데이터·검색/RAG·가드레일·멀티턴 워크플로에 내재된 실패 양상이 실제로 드러날 수 있다고 설명한다. 또한 결과를 분석해 개선과 완화책(조치 방향)을 도출하는 접근의 필요성을 강조한다.
OpenAI는 코딩, 사이버 보안, 지식 업무 등에서 최고 수준의 성능과 효율성을 달성한 새로운 프런티어 모델 'GPT-5.6' 제품군을 정식 출시. 다중 에이전트를 조율하는 ultra 설정을 도입해 복잡한 작업을 단축하며, 향상된 안전 시스템과 툴 사용 능력을 바탕으로 기업과 연구자들에게 압도적인 비용 대비 성능을 제공.
과기정통부와 인공지능안전연구소는 글로벌 기업 및 학계가 참여한 '인공지능안전 서울 포럼(SFASS) 2026'을 성황리에 개최. 이번 포럼에서 캐나다 AI 안전연구소(ISED)와 양해각서를 체결했으며, 생성형 및 피지컬 AI 보안 위협에 대한 글로벌 표준 벤치마크 확립과 국제 협력 방안을 심도 있게 논의.
TechCrunch는 미국 정부가 OpenAI의 최신 프런티어 모델인 'Sol(GPT-5.6)'의 대중 공개를 안전하다고 판단 및 승인한 과정이 불투명하다고 지적. 명확한 안전 평가 기준이나 승인 주체가 부재한 상황에서, 규제가 행정부 관계자와의 개인적 연결고리에 의존할 경우 산업 전반에 불확실성을 초래할 수 있다고 비판.
Future of Life Institute는 9개 글로벌 AI 선도 기업을 대상으로 위험 평가 및 거버넌스 등 6개 분야에 대한 종합 안전 등급을 평가한 지수를 공개. 업계 전반적인 실존적 안전 대비책은 매우 미흡하며, 기업들의 군사적 활용 지속과 이전의 자발적 안전 서약 후퇴 등 중대한 위험 요인을 경고.
Anthropic의 Long-Term Benefit Trust(LTBT)는 벤 버냉키(Ben Bernanke) 박사를 신규 위원으로 임명했다고 밝혔다. 버냉키는 브루킹스 연구소 Distinguished Fellow이며 연준 의장(2006~2014) 출신으로, 2008년 글로벌 금융위기와 회복 국면을 이끈 경험이 있다고 설명했다. LTBT는 회사가 장기적으로 AI를 인류의 장기적 이익을 위해 책임 있게 개발·배치하도록 견제하는 독립 기구이며, 버냉키는 AI가 경제와 노동시장에 미치는 영향을 예측·대응하는 데 도움을 줄 것이라고 전했다.
앤트로픽은 AI가 사회에 미칠 영향(일자리, 사회·가정, 과학·의학 발전, 위험의 가능성 등)에 대해 대중이 가진 ‘어려운 질문’을 수집하고, 이를 바탕으로 공익 목적 달성 현황을 투명하게 추적·보고하겠다고 밝혔다. 앤트로픽은 이미 52,000명 대상 공공 설문(Anthropic Public Record), 159개국·70개 언어의 81,000명 Claude 사용자 설문(Anthropic Interviewer), 대면 포커스그룹 및 익명 실사용 데이터 연구 등을 통해 우려와 기대를 파악해 왔다. 또한 오남용 위험을 줄이기 위한 AI safeguards 투자, 모델의 행동·내부 작동 연구, 과학자 대상 모델 무료 제공, 펠로우십 프로그램 등 공익 목적의 조치를 이어가며, 질문에 대한 대응에서 목표에 미치지 못할 가능성도 명확히 하겠다고 설명했다.
Anthropic은 Claude 웹/데스크톱 앱의 Settings에서 ‘reflect’(베타) 대시보드를 제공해 이용 패턴과 주로 다루는 작업 유형을 요약·시각화하고, AI 사용 시간이 사용자의 목표와 맞는지 점검할 수 있게 할 계획이다. 사용자는 최근 1/3/6/12개월 치 채팅 활동을 확인할 수 있으며, 조용한 시간(quiet hours) 설정이나 일정 시간 후 사용 중단을 상기하는 nudge도 설정·해제할 수 있다. ‘reflect’는 incognito 채팅이나 연결된 도구의 원본 파일을 기반으로 하지 않으며, 민감한 주제(예: 헬스 통합 관련)는 통찰에서 제외된다고 밝혔다. 또한 4D AI Fluency Framework(Delegation, Discernment, Diligence)에 따라 사용자의 활동을 차원별로 요약하고 실용적 제안을 제공하며, Memory가 켜진 Free/Pro/Max 사용자에게 베타로 제공된다.
UST가 반도체·제조 검증 플랫폼 iDEC 등 생산 파이프라인에 Claude Code를 통합하고, 설계 핀아웃/회로도 기반 회귀 테스트와 디지털 트윈 대비 실데이터 분석으로 결함을 더 이르게 탐지해 검증 주기를 단축한다고 밝혔다. 또한 헬스케어(CarePath), 통신(IntelliOps), 금융(FinX) 플랫폼에서도 Claude를 연결해 청구·진료 후속, 네트워크 장애 예측/대응 워크플로, 코어 시스템 현대화 지원용 AI 에이전트 기능을 제공한다. UST는 전 세계 엔지니어·컨설턴트 등 2만명을 Claude에 대해 교육하고 Claude Partner Network를 통해 배치·인증을 지원받는다고 전했다.
언어 모델이 로봇 제어 분야에서 얼마나 효과적인지 평가한 연구 결과, 모델의 성능은 로봇 몸과 제어 인터페이스에 크게 의존한다. 직접적인 모터 제어는 대부분 실패하지만, 사전 훈련된 정책을 감독하거나 간단한 방향 지시를 제공할 때는 실제 환경 내에서의 이동과 조작 작업을 수행할 수 있다. 특히 최신 모델들은 이미지와 감각 정보를 적절한 동작으로 전환하는 능력에서 눈에 띄는 발전을 보이고 있으며, 향후 모델들은 더욱 향상될 것으로 예상된다. 로봇 제어에서의 이러한 발전은 안전한 언어 모델 개발과 배포에 중요한 의미를 가진다.
Mistral Studio는 분산·비관리 상태였던 프롬프트와 스킬을 버전, 소유자, 변경 이력과 함께 관리하는 중앙 시스템을 제공한다. 사용자는 배포 전 프롬프트와 스킬을 즉시 수정·시험할 수 있으며, 운영 반영 시에는 기존 CI/CD 테스트와 승인 절차를 거칠 수 있다. 불변 버전, 롤백, 분류 라벨, 감사 로그, 관측성·계보 추적 기능을 통해 실제 운영 결과와 사용된 자산을 연결하며, 해당 기능은 Mistral Studio 고객에게 현재 제공된다.
유럽연합(EU)과 호주가 온라인으로 제3차 Digital Economy and Technology Policy 대화를 열고 디지털·기술 분야 협력 지속 방안을 논의했다. 대화에서는 AI 인프라·역량·안전, 보안 있는 국제 연결 및 인프라, 사이버보안, 온라인 안전과 데이터 정책이 다뤄졌으며 특히 미성년자 보호에 초점을 둔 온라인 안전 협력 현황도 점검했다. 양측은 논의 주제를 바탕으로 추가 대화를 이어가고, 호주의 EU Horizon Europe 프로그램 연계로 비롯될 수 있는 협력 기회도 모색하기로 했다.
ITU는 UN 디지털 기술 전문기구로서 ‘사람과 agentic AI를 위한 신뢰·신원(Trust and Identity for Humans and Agentic AI)’ 분야 ITU 포커스 그룹을 새로 출범한다고 밝혔다. 이 포커스 그룹은 AI 에이전트가 자율적으로 행동하는 과정에서 디지털 신원과 신뢰성(책임성·통제가능성)을 확보할 수 있는 프레임워크를 개발하고, 사람의 의미 있는 통제 유지 방안을 포함해 공통 토대를 마련하는 것을 목표로 한다. 또한 공통 용어·정의, 신원·신뢰·에이전트 발견·상호운용 참조아키텍처, 신뢰 프레임워크 및 생애주기(assurance) 모델, 상호운용 메커니즘, 보안 기준과 지속평가 벤치마크, 표준화 로드맵 등을 개발하기 위해 정책·법·기술 전문가의 참여를 받을 예정이다.
르완다 폴 카가메 대통령, Salesforce의 마크 베니오프 회장 겸 CEO, 국제전기통신연합(ITU) 도린 보고단마틴 사무총장이 AI for Good 글로벌 위원회 출범을 발표했다. 위원회에는 국가·정부 수반, 기업 최고경영자 및 유엔 기구 수장 등 40명 이상의 창립 회원이 참여해 AI에 대한 신뢰를 강화하고 접근성을 확대하며 현실의 문제 해결에 AI를 활용할 방안을 모색한다.
스탠포드 과학자들이 인간 과학자들과 함께 연구를 진행할 수 있는 가상의 AI 생물학자인 Biomni를 개발했습니다. Biomni는 방대한 의학 데이터를 분석하고 인간이 놓칠 수 있는 패턴을 찾아내며, 심지어 실험을 설계하는 기능을 갖추고 있어 질병 치료를 위한 과학적 발견을 가속화합니다. 이 오픈소스 플랫폼은 스탠포드의 컴퓨터 과학, 유전학, 병리학, 의학, 소아과 등 다양한 학과의 전문 지식을 통합하여, 복잡한 실험과 방대한 데이터셋을 처리하는 데 어려움을 겪는 연구자들을 지원합니다. 초기 테스트에서 Biomni는 다양한 복잡한 작업에서 뛰어난 성능을 보여주었으며, 현재는 스타트업 Phylo의 일환으로 상용화되어 있습니다. 이 플랫폼은 과학적 발견 과정을 혁신적으로 변화시키는 잠재력을 가지고 있습니다.
이 보고서는 High Bandwidth Memory (HBM)의 기술적 작동 원리와 생산 과정을 설명하며, HBM 생산을 주도하는 기업과 시설에 초점을 맞춥니다. 특히 HBM은 주요 인공지능 칩에서 사용되지만, 생산은 동아시아의 몇몇 시설에 집중되어 있으며, 이 분야는 세 개의 기업이 글로벌 경쟁을 통해 주도하고 있습니다. 정책 입안자와 연구자들에게 다양한 정책 논의에 참고할 수 있는 지침서 역할을 하도록 작성되었습니다.
연구에 따르면, 자율 무기 시스템의 혁신은 세 가지 메커니즘을 통해 전쟁 가능성을 높일 수 있습니다: (1) 전쟁 성공 가능성 향상, (2) 전쟁 비용 감소, (3) 전쟁의 정치적 이익 증가. 이러한 효과는 보장되지 않지만, 각각 미국의 경쟁자들이 제3국에 대한 무력 사용을 약간 더 유인할 수 있습니다. 미국은 전쟁에서 성공 가능성을 높이고 동원 비용을 줄이는 기술 발전을 통해 이러한 위험을 완화할 수 있습니다. 연구 결과, 러시아 대중의 군사 개입 지지는 로봇 기술에 큰 영향을 받지 않지만, 도덕적 논거가 가장 큰 영향을 미칠 것으로 나타났습니다.
Biomni는 반복적·분절된 연구 워크플로를 줄이기 위해 설계된 범용 생의학 AI 에이전트로, 도구·데이터베이스·프로토콜을 다수 논문에서 추출해 통합된 에이전틱 환경을 구축한다. LLM 추론과 retrieval-augmented planning, 코드 기반 실행을 결합해 사전 템플릿 없이 워크플로를 동적으로 조합하며, 유전자/약물 재창출/희귀질환 진단/마이크로바이옴/분자 클로닝 등 이질적 과제에서 task-specific tuning 없이도 일반화 성능이 높다고 보고한다. 또한 다중모달 데이터 해석, 단백질 안정성 최적화, 습식 실험 장비 오케스트레이션, 실험적으로 검증 가능한 프로토콜 생성 등의 사례를 제시한다.
Reasoning · Closed · 1000K ctx · $5/M · $30/M
벤치마크 미공개
Flagship of the GPT-5.6 family (Sol, Terra, Luna) and OpenAI's most capable tier. State of the art on Terminal-Bench 2.1. Adds programmatic tool calling in the Responses API. Went public July 9 after a gated preview that opened June 25. $5/$30 per 1M tokens, priced like the prior GPT-5.5. 1M context.
Reasoning · Closed · 1000K ctx · $2.5/M · $15/M
벤치마크 미공개
Balanced mid-tier of the GPT-5.6 family. OpenAI positions it at GPT-5.5-class quality at about half the cost. $2.50/$15 per 1M tokens. 1M context.
Reasoning · Closed · 1000K ctx · $1/M · $6/M
벤치마크 미공개
Fastest and cheapest tier of the GPT-5.6 family. $1/$6 per 1M tokens. 1M context.
EVOX 프로덕션스는 구글이 허가 없이 자사의 자동차 사진을 인공지능 모델 학습에 사용했다며 미국 캘리포니아 중부지방법원에 저작권 침해 소송을 제기했다. 소송은 저작권법 제501조에 따른 청구를 포함하며, 관련 사진 데이터셋을 무단 사용했다는 이유로 스탠퍼드대학교, Stability AI, Runway 등을 상대로 제기한 EVOX의 최근 소송들과 맥락을 같이한다. 이 사건은 저작권 사진을 대규모 AI 학습 데이터에 포함하는 행위가 저작권 침해인지 공정 이용인지 판단하는 데 영향을 줄 수 있다.
2026 세계한인과학기술인대회가 8일 성료하며 ‘서울선언 2.0’을 공식 발표했다. 과학기술정보통신부가 주최하고 과총 및 20개 재외한인과학기술자협회가 공동 주관했으며, 국내외 과학기술인 1040여명이 AI 시대 혁신과 국제협력, 글로벌 인재 순환, 과학기술외교 등을 논의했다. 서울선언 2.0은 국경을 넘나드는 한인 과학기술인의 ‘인재 순환’을 성장 축으로 삼고 국제사회의 과학기술 규범 형성에 주도적으로 참여한다는 내용이다.
고위험 도메인에서 AI 리스크 평가의 신뢰도를 높이기 위해, LLM의 원인 추론 부족과 출력 과잉확신/부정확한 집계를 동시에 다루는 2계층 프레임워크를 제안한다. 구체적으로 (1) 알려진 위해 메커니즘을 트리거 조건-인과 단계-근거로 문서화한 causal risk patterns로 추론 입력을 구조화하고, (2) 여러 LLM 평가를 출처가 아니라 순위에 따라 가중하는 Ordered Weighted Averaging(OWA)로 결과를 전문가 보정 타깃에 맞춘다. 5개 부동산 AI 배치에서 125개 case-pattern pair를 3개 frontier LLM이 평가했을 때, 개별 모델은 0–1 스케일 기준 전문가 타깃보다 +0.07~+0.16 높게(과대평가) 나타났고 OWA( orness=0.6 ) 집계는 최선 단일 모델 대비 mean absolute error를 7.7% 줄였다(p=0.023). 또한 추론 레이어를 fuzzy scaffolding으로 강제하면 오류가 34.8% 증가한 반면, 출력 레이어의 fuzzy aggregation은 보정(calibration)을 개선해 “추론 단계의 fuzzy 강제는 악화, 출력 단계의 fuzzy는 개선”의 비대칭이 관찰되었다.