2026-02-17

9건

🇺🇸 Claude Sonnet 4.6 (Anthropic) (2026.2.17)

기업 · DemandSphere · 🚀

General · Closed · 1000K ctx · $3/M · $15/M

GPQA 87.4% · SWE 79.6% · MMLU 83% · HE 94.5% · MATH 89% · AIME 83%

Current production Sonnet. Frontier coding and agent performance. Top Arena-Code Elo for everyday use.

CAISI, 의료·금융·교육 분야 AI 도입 장벽 파악 위한 청취(리스닝) 세션 개최(**2026.2.17**)

공공 · 미국 국립표준기술연구소(NIST) · 🔬🤖

NIST의 CAISI는 의료, 금융 서비스, 교육 분야에서 AI 및 AI agent 시스템 도입을 가로막는 요인과 촉진 요인을 파악하기 위한 가상 워크숍(청취 세션)을 개최한다. 성공·실패 사례와 그 차이를 만든 맥락적 요인을 수집하며, 특히 조달·평가·통합 관련 분야 전문가 참여를 권장한다. 참가 의사는 2026년 3월 31일까지 이메일로 제출해야 하며, 워크숍은 2026년 5월 중 단계적으로 진행될 예정이다.

🇬🇧 (2026.2.17) Boundary Point Jailbreaking: black-box LLM 방어를 단일 비트(분류 플래그)만으로 우회하는 자동 공격

공공 · AISI-UK · 🔬🧪

BPJ는 ‘jailbreak’로 불리는 위해 정보 추출 시도를 방어하는 Constitutional Classifiers 등 강한 분류 기반 방어를, 완전한 black-box 조건에서 단일 비트(해당 상호작용이 플래그되는지 여부)만 활용해 우회하는 자동 공격 방식이다. 공격 문자열을 직접 타깃으로 최적화하지 않고 중간 단계 타깃(curriculum)으로 바꾼 뒤, 공격 강도의 미세한 변화(“boundary points”)를 가장 잘 드러내는 평가 지점을 선택해 개선 여부를 판단한다. 본문은 BPJ가 Constitutional Classifiers에 대한 universal jailbreak를 자동으로 개발하고, 인간이 제공한 attack seed 없이 GPT-5의 input classifier에서도 성공했다고 주장하며, 개별 상호작용에서는 방어가 어려워도 최적화 과정에서 플래그가 많이 발생하므로 배치 수준 모니터링이 필요하다고 제시한다.

🇺🇸 NIST, ‘AI Agent Standards Initiative’ 출범(2026.2.17)

공공 · 미국 국립표준기술연구소(NIST) · 🤖

NIST의 CAISI는 자율적으로 행동하는 차세대 AI 에이전트의 신뢰성·보안·상호운용성을 높이기 위한 ‘AI Agent Standards Initiative’를 출범한다고 밝혔다. NIST는 ITL 및 타 연방 파트너와 함께 산업 주도의 표준 개발, 오픈소스 프로토콜의 커뮤니티 기반 유지보수, AI agent 보안 및 identity 연구를 3대 추진축으로 진행할 계획이다. 또한 공개 의견 수렴을 위해 CAISI의 AI Agent Security RFI(마감 3월 9일)와 ITL의 AI Agent Identity and Authorization Concept Paper(마감 4월 2일)를 받으며, 4월부터는 분야별 도입 장벽을 주제로 청취 세션을 개최할 예정이다.

AI Agent Standards Initiative로 에이전트의 신뢰·상호운용·보안을 위한 자발적 표준과 프로토콜을 추진 (**기사·공고 게재일** 2026.2.17)

공공 · 미국 국립표준기술연구소(NIST) · 🤖

NIST는 자율적으로 행동하는 AI 에이전트의 안전한 채택과 디지털 환경 전반에서의 상호운용을 목표로 AI Agent Standards Initiative를 추진한다고 밝혔다. 업계 주도 표준을 위한 기술 컨벤빙·갭 분석, 상호운용 가능한 에이전트 프로토콜의 장벽을 줄이기 위한 커뮤니티 참여, 에이전트 인증·신원 인프라 및 보안 평가 연구를 핵심 축으로 제시했다. 또한 AI agent security 관련 RFI와 소프트웨어·AI agent identity 및 authorization 개념 논문, 분야별 리스닝 세션 등 이해관계자 의견 수렴 활동을 진행한다.

🇪🇺 EU AI법 뉴스레터 96호: 간소화인가, 규제 완화인가? (2026.2.17)

아카이브 · EU AI Act Newsletter · 🧪

EU AI법 간소화 패키지와 관련해 EU AI Office의 조사·집행 권한을 확대하는 방안과 범용 AI 코드 준수 지원을 위한 서명기관 태스크포스 출범 소식이 전해졌다. 산업계는 규제 부담 완화와 고위험 AI 규정 적용 연기를 환영하면서도 추가적인 구조 개혁을 요구했으며, 시민사회는 기본권 보호와 투명성 안전장치의 후퇴를 경고했다. 특히 고위험 AI 규정은 2026년 8월 2일부터 적용될 예정인 가운데, Article 49(2) 투명성 보호조항 삭제와 중소기업형 특례 확대 등이 집행력과 감독을 약화할 수 있다는 우려가 제기됐다.

Every Eval Ever, AI 평가 결과를 공통 스키마·크라우드소싱 DB로 표준화(2026.2.17)

DB · evalevalai.com · 📏

Every Eval Ever는 서로 다른 평가 프레임워크가 제각각 결과를 내는 문제를 해결하기 위해, 평가 결과를 기술하는 공통 스키마와 크라우드소싱 eval 데이터베이스를 제공하는 프로젝트다. 벤치마크·모델·평가 실행(run) 단위로 메타데이터(누가/어떤 설정으로/어떤 모델을/점수 의미)를 함께 저장하고, schema 검증 및 Inspect AI·HELM·lm-eval-harness 등 기존 도구 로그를 표준 형식으로 변환하는 컨버터도 제공한다. 또한 평가 설정 차이로 점수가 달라질 수 있어(예: MMLU에서 프롬프트·추출 방식 차이) 실행별 UUID로 개별 run을 보존하되 중복 제거·그룹핑은 분석 단계에서 하도록 설계했다.