AI 안전 다이제스트

2025-11-24 · 3건

🇺🇸 Claude Opus 4.5 (Anthropic) (2025.11.24)

기업 · DemandSphere · 🚀

Reasoning · Closed · 200K ctx · $5/M · $25/M

GPQA 87% · SWE 80.9% · MMLU 89.5% · HE 93.5% · MATH 90% · AIME 93%

80.9% SWE-bench (record Nov 2025). 89.5% MMLU-Pro. Long-horizon agentic tasks. Extended thinking mode.

🇰🇷🇺🇸 국회입법조사처·한국소비자법학회·한국법제연구원, 인공지능과 소비자법 공동 세미나 개최 (2025.11.24)

공공 · 국회입법조사처 · ⚖️

국회입법조사처는 한국소비자법학회·한국법제연구원과 함께 인공지능과 소비자법을 주제로 세미나를 개최했다. 세미나에서는 미국·일본·유럽의 소비자보호 관련 규제와 집행 동향, 국내 제도 적용 쟁점을 검토했다. 또한 인공지능 규율체계와 경쟁정책, 인공지능 기반 상거래 및 현행 소비자법의 한계를 논의하며, 소비자 신뢰·안전과 산업 혁신을 함께 고려하는 규범 및 집행체계의 방향을 제시했다.

🇺🇸 클로우드 브라우저 에이전트의 프롬프트 주입 위험 완화 (2025.11.24)

기업 · Anthropic-Research · 🤖

클로우드 모델(Claude Opus 4.5)은 브라우저 환경에서의 프롬프트 주입 위협에 대한 저항력을 크게 향상시켜, 웹 기반 AI 에이전트의 보안을 강화했습니다. 특히 웹 브라우징 중 잠재적인 공격 벡터가 많아지는 점과 다양한 행동을 취할 수 있는 능력이 위험을 증폭시키는 특징을 고려하여, 강화 학습과 개선된 분류기를 통해 모델의 저항력을 높였습니다. 그러나 여전히 프롬프트 주입 위험이 존재하며, 지속적인 연구와 개선이 필요합니다. 현재 클로우드 브라우저 확장 프로그램은 베타 단계로 모든 Max 플랜 사용자에게 제공되고 있습니다.