2026-07-09

29건

공공 · 🔬

출처: SG-AISI

세부적으로는 위험 식별과 테스트 범위 조정, 실제 운영과 유사한 테스트 환경 구축(API·도구·가드레일·세션 상태·샌드박싱), 목적에 맞는 대표적 데이터셋/상호작용 모드 설계, 출력·결과뿐 아니라 궤적(에이전트의 단계별 수행·도구 사용·부분 성공/일관성)까지 아우르는 지표·평가기법을 제시한다. 리더보드 성능만으로는 배포 적합성을 보장하기 어렵고, 도메인 데이터·검색/RAG·가드레일·멀티턴 워크플로에 내재된 실패 양상이 실제로 드러날 수 있다고 설명한다. 또한 결과를 분석해 개선과 완화책(조치 방향)을 도출하는 접근의 필요성을 강조한다.

🇺🇸 OpenAI, 성능과 비용 효율성을 극대화한 차세대 프런티어 모델 'GPT-5.6' 출시 (2026.7.9)

K-AISI 주간동향 · OpenAI · 🔒🤖🚀

OpenAI는 코딩, 사이버 보안, 지식 업무 등에서 최고 수준의 성능과 효율성을 달성한 새로운 프런티어 모델 'GPT-5.6' 제품군을 정식 출시. 다중 에이전트를 조율하는 ultra 설정을 도입해 복잡한 작업을 단축하며, 향상된 안전 시스템과 툴 사용 능력을 바탕으로 기업과 연구자들에게 압도적인 비용 대비 성능을 제공.

🇰🇷 글로벌 협력을 위한 '인공지능안전 서울 포럼 2026' 성료 (2026.7.9)

K-AISI 주간동향 · 인공지능신문 · 📜🦾

과기정통부와 인공지능안전연구소는 글로벌 기업 및 학계가 참여한 '인공지능안전 서울 포럼(SFASS) 2026'을 성황리에 개최. 이번 포럼에서 캐나다 AI 안전연구소(ISED)와 양해각서를 체결했으며, 생성형 및 피지컬 AI 보안 위협에 대한 글로벌 표준 벤치마크 확립과 국제 협력 방안을 심도 있게 논의.

🇺🇸 미국 정부의 불투명한 OpenAI 최신 모델 안전성 승인 과정에 대한 우려 제기 (2026.7.9)

K-AISI 주간동향 · TechCrunch · 🚀

TechCrunch는 미국 정부가 OpenAI의 최신 프런티어 모델인 'Sol(GPT-5.6)'의 대중 공개를 안전하다고 판단 및 승인한 과정이 불투명하다고 지적. 명확한 안전 평가 기준이나 승인 주체가 부재한 상황에서, 규제가 행정부 관계자와의 개인적 연결고리에 의존할 경우 산업 전반에 불확실성을 초래할 수 있다고 비판.

FLI, 2026년 여름 'AI 안전 지수' 발표 (2026.7.9)

K-AISI 주간동향 · Future of Life Institute · 📜🛡️

Future of Life Institute는 9개 글로벌 AI 선도 기업을 대상으로 위험 평가 및 거버넌스 등 6개 분야에 대한 종합 안전 등급을 평가한 지수를 공개. 업계 전반적인 실존적 안전 대비책은 매우 미흡하며, 기업들의 군사적 활용 지속과 이전의 자발적 안전 서약 후퇴 등 중대한 위험 요인을 경고.

🇺🇸 Ben Bernanke, Anthropic Long-Term Benefit Trust 신임 위원으로 선임(2026.7.9)

기업 · Anthropic · 🚀

Anthropic의 Long-Term Benefit Trust(LTBT)는 벤 버냉키(Ben Bernanke) 박사를 신규 위원으로 임명했다고 밝혔다. 버냉키는 브루킹스 연구소 Distinguished Fellow이며 연준 의장(2006~2014) 출신으로, 2008년 글로벌 금융위기와 회복 국면을 이끈 경험이 있다고 설명했다. LTBT는 회사가 장기적으로 AI를 인류의 장기적 이익을 위해 책임 있게 개발·배치하도록 견제하는 독립 기구이며, 버냉키는 AI가 경제와 노동시장에 미치는 영향을 예측·대응하는 데 도움을 줄 것이라고 전했다.

🇺🇸 강한 질문을 받아 공개적으로 점검하겠다는 Anthropic(기사·공고 게재일 2026.7.9)

기업 · 앤트로픽(Anthropic) · 🚀

앤트로픽은 AI가 사회에 미칠 영향(일자리, 사회·가정, 과학·의학 발전, 위험의 가능성 등)에 대해 대중이 가진 ‘어려운 질문’을 수집하고, 이를 바탕으로 공익 목적 달성 현황을 투명하게 추적·보고하겠다고 밝혔다. 앤트로픽은 이미 52,000명 대상 공공 설문(Anthropic Public Record), 159개국·70개 언어의 81,000명 Claude 사용자 설문(Anthropic Interviewer), 대면 포커스그룹 및 익명 실사용 데이터 연구 등을 통해 우려와 기대를 파악해 왔다. 또한 오남용 위험을 줄이기 위한 AI safeguards 투자, 모델의 행동·내부 작동 연구, 과학자 대상 모델 무료 제공, 펠로우십 프로그램 등 공익 목적의 조치를 이어가며, 질문에 대한 대응에서 목표에 미치지 못할 가능성도 명확히 하겠다고 설명했다.

🇺🇸 Claude 사용 방식을 돌아보고 조정하는 기능 ‘reflect’(2026.7.9)

기업 · Anthropic

Anthropic은 Claude 웹/데스크톱 앱의 Settings에서 ‘reflect’(베타) 대시보드를 제공해 이용 패턴과 주로 다루는 작업 유형을 요약·시각화하고, AI 사용 시간이 사용자의 목표와 맞는지 점검할 수 있게 할 계획이다. 사용자는 최근 1/3/6/12개월 치 채팅 활동을 확인할 수 있으며, 조용한 시간(quiet hours) 설정이나 일정 시간 후 사용 중단을 상기하는 nudge도 설정·해제할 수 있다. ‘reflect’는 incognito 채팅이나 연결된 도구의 원본 파일을 기반으로 하지 않으며, 민감한 주제(예: 헬스 통합 관련)는 통찰에서 제외된다고 밝혔다. 또한 4D AI Fluency Framework(Delegation, Discernment, Diligence)에 따라 사용자의 활동을 차원별로 요약하고 실용적 제안을 제공하며, Memory가 켜진 Free/Pro/Max 사용자에게 베타로 제공된다.

🇺🇸 UST가 물리 AI 생산·검증 공정에 Claude를 도입하며 2만명 교육 (2026.7.9)

기업 · Anthropic · 🏥🤖

UST가 반도체·제조 검증 플랫폼 iDEC 등 생산 파이프라인에 Claude Code를 통합하고, 설계 핀아웃/회로도 기반 회귀 테스트와 디지털 트윈 대비 실데이터 분석으로 결함을 더 이르게 탐지해 검증 주기를 단축한다고 밝혔다. 또한 헬스케어(CarePath), 통신(IntelliOps), 금융(FinX) 플랫폼에서도 Claude를 연결해 청구·진료 후속, 네트워크 장애 예측/대응 워크플로, 코어 시스템 현대화 지원용 AI 에이전트 기능을 제공한다. UST는 전 세계 엔지니어·컨설턴트 등 2만명을 Claude에 대해 교육하고 Claude Partner Network를 통해 배치·인증을 지원받는다고 전했다.

🇺🇸 Anthropic 연구: 언어 모델의 로봇 제어 능력 평가 (2026.7.9)

기업 · Anthropic · 🚀

언어 모델이 로봇 제어 분야에서 얼마나 효과적인지 평가한 연구 결과, 모델의 성능은 로봇 몸과 제어 인터페이스에 크게 의존한다. 직접적인 모터 제어는 대부분 실패하지만, 사전 훈련된 정책을 감독하거나 간단한 방향 지시를 제공할 때는 실제 환경 내에서의 이동과 조작 작업을 수행할 수 있다. 특히 최신 모델들은 이미지와 감각 정보를 적절한 동작으로 전환하는 능력에서 눈에 띄는 발전을 보이고 있으며, 향후 모델들은 더욱 향상될 것으로 예상된다. 로봇 제어에서의 이러한 발전은 안전한 언어 모델 개발과 배포에 중요한 의미를 가진다.

프롬프트와 스킬에 시스템 오브 레코드가 필요하다 (2026.7.9)

기업 · 미스트랄

Mistral Studio는 분산·비관리 상태였던 프롬프트와 스킬을 버전, 소유자, 변경 이력과 함께 관리하는 중앙 시스템을 제공한다. 사용자는 배포 전 프롬프트와 스킬을 즉시 수정·시험할 수 있으며, 운영 반영 시에는 기존 CI/CD 테스트와 승인 절차를 거칠 수 있다. 불변 버전, 롤백, 분류 라벨, 감사 로그, 관측성·계보 추적 기능을 통해 실제 운영 결과와 사용된 자산을 연결하며, 해당 기능은 Mistral Studio 고객에게 현재 제공된다.

🇺🇸 GPT-5.6 시스템 카드 (2026.7.9)

기업 · OpenAI 배포 안전 허브 · 🔒🏥🧪

GPT-5.6은 Sol(플래그십), Terra(저비용), Luna(최고속·최저비용) 세 모델로 구성되며, Preparedness Framework상 세 모델 모두 사이버보안과 생물·화학 분야에서 High 역량으로 취급되고 AI Self-Improvement는 High 기준에 못 미친다. Sol과 Terra는 취약점과 일부 exploit 요소를 찾을 수 있으나 강화된 대상에 대한 자율적 end-to-end 공격은 수행하지 못했고, Critical 수준에는 도달하지 않았다. 안전장치로는 학습 단계 안전 훈련, 생성 중 개입하는 activation classifier, 실시간 대화 차단, 대화 간 패턴 탐지를 쓰며, Sol의 사이버 safeguard는 이전 모델 대비 약 10배 많은 잠재적 유해 활동을 차단하고 automated red teaming에 70만 A100e GPU 시간 이상을 투입했다. Production Benchmarks에서는 gore를 제외하면 이전 thinking 모델과 비슷했고, Sol 배포 시뮬레이션에서 위반율은 GPT-5.5와 대체로 비슷했으나 성적 콘텐츠 위반은 0.05%에서 0.07%로 약 40% 늘고 정신건강 관련 부적절 응답은 0.03%에서 0.02%로 약 40% 줄었다.

🇪🇺 EU-호주, 제3차 디지털 대화에서 AI·사이버·온라인 안전 등 공동 우선순위 논의(2026.7.9)

공공 · 유럽연합 집행위원회(European Commission) · 🔒🧒

유럽연합(EU)과 호주가 온라인으로 제3차 Digital Economy and Technology Policy 대화를 열고 디지털·기술 분야 협력 지속 방안을 논의했다. 대화에서는 AI 인프라·역량·안전, 보안 있는 국제 연결 및 인프라, 사이버보안, 온라인 안전과 데이터 정책이 다뤄졌으며 특히 미성년자 보호에 초점을 둔 온라인 안전 협력 현황도 점검했다. 양측은 논의 주제를 바탕으로 추가 대화를 이어가고, 호주의 EU Horizon Europe 프로그램 연계로 비롯될 수 있는 협력 기회도 모색하기로 했다.

ITU, AI 에이전트 행동·디지털 신원 신뢰 보장을 위한 글로벌 표준 이니셔티브(2026.7.9)

공공 · 국제전기통신연합(ITU) · 📜📏🤖

ITU는 UN 디지털 기술 전문기구로서 ‘사람과 agentic AI를 위한 신뢰·신원(Trust and Identity for Humans and Agentic AI)’ 분야 ITU 포커스 그룹을 새로 출범한다고 밝혔다. 이 포커스 그룹은 AI 에이전트가 자율적으로 행동하는 과정에서 디지털 신원과 신뢰성(책임성·통제가능성)을 확보할 수 있는 프레임워크를 개발하고, 사람의 의미 있는 통제 유지 방안을 포함해 공통 토대를 마련하는 것을 목표로 한다. 또한 공통 용어·정의, 신원·신뢰·에이전트 발견·상호운용 참조아키텍처, 신뢰 프레임워크 및 생애주기(assurance) 모델, 상호운용 메커니즘, 보안 기준과 지속평가 벤치마크, 표준화 로드맵 등을 개발하기 위해 정책·법·기술 전문가의 참여를 받을 예정이다.

세계 지도자들, 접근성 확대·신뢰 강화·성과 가속화를 위한 AI for Good 글로벌 위원회 출범 (2026.7.9)

공공 · 국제전기통신연합 AI for Good · 📜

르완다 폴 카가메 대통령, Salesforce의 마크 베니오프 회장 겸 CEO, 국제전기통신연합(ITU) 도린 보고단마틴 사무총장이 AI for Good 글로벌 위원회 출범을 발표했다. 위원회에는 국가·정부 수반, 기업 최고경영자 및 유엔 기구 수장 등 40명 이상의 창립 회원이 참여해 AI에 대한 신뢰를 강화하고 접근성을 확대하며 현실의 문제 해결에 AI를 활용할 방안을 모색한다.

밀워키 경찰관, 번호판 판독 시스템 오용 혐의로 추가 기소 (2026.7.9)

DB · AIID · 🚨

밀워키 경찰 내무부 소속 형사 테랑기 채프먼이 Flock 번호판 판독 시스템을 사적으로 사용하고 GPS 장치를 부착한 혐의로 공직상 부정행위 및 GPS 장치 오용 혐의로 기소됐다. 그는 두 사람의 차량을 추적하기 위해 시스템을 20차례 사용했다고 인정했으며, 이 중 한 사람의 번호판은 17차례, 다른 한 사람은 세 차례 검색한 것으로 조사됐다. 채프먼은 3월 13일부터 정직 상태이며 7월 17일 법원에 처음 출석할 예정이다. 앞선 경찰관의 오용 사건 이후 위스콘신주의 여러 지방정부와 대학 경찰이 개인정보 우려 등을 이유로 Flock 계약을 갱신하지 않기로 했다.

마리버러 10대, 수개월간 대량살상 계획했다고 경찰에 진술한 혐의 (2026.7.9)

DB · AIID · 🛡️🚨

퀸즐랜드 마리버러의 13세 소년이 학교 총격 테러를 계획한 혐의로 기소됐으며, 경찰에 "수개월 동안 사람을 죽이고 싶었다"고 진술한 것으로 알려졌다. 법원 서류에 따르면 소년은 AI에 본다이 해변 총격과 유사한 "대량 총격 이야기"를 써 달라고 여러 차례 요청했고, 유대인·흑인 축제를 배경으로 네오나치 총격범을 설정하도록 했다. 5월 28일 주유소에서 마스크를 쓰고 직원을 위협한 뒤 차량을 훔쳐 초등학교로 가려 했고, 2년 전 작성한 공격 계획 메모와 Christchurch 테러 영상도 발견됐다. 법원은 보석 재심 신청을 기각해 구금을 유지했으며, 사건은 9월에 다시 법정에 오른다.

Biomni AI agent가 다양한 생의학 연구 작업을 자율적으로 수행한다(2026.7.9)

DB · PubMed (미국 국립보건원, NCBI) · 🤖

Biomni는 반복적·분절된 연구 워크플로를 줄이기 위해 설계된 범용 생의학 AI 에이전트로, 도구·데이터베이스·프로토콜을 다수 논문에서 추출해 통합된 에이전틱 환경을 구축한다. LLM 추론과 retrieval-augmented planning, 코드 기반 실행을 결합해 사전 템플릿 없이 워크플로를 동적으로 조합하며, 유전자/약물 재창출/희귀질환 진단/마이크로바이옴/분자 클로닝 등 이질적 과제에서 task-specific tuning 없이도 일반화 성능이 높다고 보고한다. 또한 다중모달 데이터 해석, 단백질 안정성 최적화, 습식 실험 장비 오케스트레이션, 실험적으로 검증 가능한 프로토콜 생성 등의 사례를 제시한다.

🇺🇸 GPT-5.6 Luna (OpenAI) (2026.7.9)

DB · DemandSphere · 🚀

Reasoning · Closed · 1000K ctx · $1/M · $6/M

벤치마크 미공개

Fastest and cheapest tier of the GPT-5.6 family. $1/$6 per 1M tokens. 1M context.

🇺🇸 GPT-5.6 Luna (OpenAI) (2026.7.9)

DB · DemandSphere · 🚀

Reasoning · Closed · 1000K ctx · $1/M · $6/M

벤치마크 미공개

Fastest and cheapest tier of the GPT-5.6 family. $1/$6 per 1M tokens. 1M context.

🇺🇸 GPT-5.6 Luna (OpenAI) (2026.7.9)

DB · DemandSphere · 🚀

Reasoning · Closed · 1000K ctx · $1/M · $6/M

벤치마크 미공개

Fastest and cheapest tier of the GPT-5.6 family. $1/$6 per 1M tokens. 1M context.

🇺🇸 EVOX 프로덕션스, 구글 상대 저작권 침해 소송 제기 (2026.7.9)

DB · AI 소송 추적기 · ⚖️

EVOX 프로덕션스는 구글이 허가 없이 자사의 자동차 사진을 인공지능 모델 학습에 사용했다며 미국 캘리포니아 중부지방법원에 저작권 침해 소송을 제기했다. 소송은 저작권법 제501조에 따른 청구를 포함하며, 관련 사진 데이터셋을 무단 사용했다는 이유로 스탠퍼드대학교, Stability AI, Runway 등을 상대로 제기한 EVOX의 최근 소송들과 맥락을 같이한다. 이 사건은 저작권 사진을 대규모 AI 학습 데이터에 포함하는 행위가 저작권 침해인지 공정 이용인지 판단하는 데 영향을 줄 수 있다.

🇰🇷 ‘2026 세계한인과학기술인대회’서 서울선언 2.0 채택(2026.7.9)

기타 · 파이낸셜뉴스(fnnews.com) · 📜

2026 세계한인과학기술인대회가 8일 성료하며 ‘서울선언 2.0’을 공식 발표했다. 과학기술정보통신부가 주최하고 과총 및 20개 재외한인과학기술자협회가 공동 주관했으며, 국내외 과학기술인 1040여명이 AI 시대 혁신과 국제협력, 글로벌 인재 순환, 과학기술외교 등을 논의했다. 서울선언 2.0은 국경을 넘나드는 한인 과학기술인의 ‘인재 순환’을 성장 축으로 삼고 국제사회의 과학기술 규범 형성에 주도적으로 참여한다는 내용이다.