2025-12-18

8건

🇬🇧🇰🇷 과기정통부, OECD 등 국제사회와 AI·디지털 규범 협력 증진 (2025.12.18)

공공 · 과학기술정보통신부 · 📜

과학기술정보통신부는 OECD와 영국·캐나다·독일·인도 등 국제사회 및 국내 관계자 약 120명이 참석한 가운데 2025 AI·디지털 글로벌 정책연구 성과공유회를 개최했다. 참석자들은 디지털 권리, 글로벌 AI 규범, AI 거버넌스와 함께 미래 일자리·역량 변화, 알고리즘 편향, 필터버블, AI 환각과 신뢰 문제를 논의했다. 과기정통부는 글로벌 AI 기본사회 구현과 국제 협력 강화를 위한 정책 지원을 지속할 계획이다.

TAKE IT DOWN 법을 넘어 간과된 AI 피해에 대응하기 (2025.12.18)

공공 · Brookings

TAKE IT DOWN Act는 비동의 친밀 이미지(NCII)의 게시를 형사 처벌하고, 피해자의 유효한 서면 신고 후 48시간 이내에 플랫폼이 해당 콘텐츠를 삭제하도록 요구하며, 플랫폼의 삭제 절차는 2026년 5월 19일부터 시행된다. 글은 주거·대출·채용·치안 등에서 발생하는 알고리즘 차별이 생성형 AI 피해보다 덜 가시적이지만 지속적이고 구조적인 문제라고 지적한다. 이에 따라 자동화 의사결정 시스템의 영향평가와 감사, 투명성·집행 역량 강화, 내부고발자 보호 등 피해를 식별하고 구제할 수 있는 추가 법·제도가 필요하다고 제안한다.

🇬🇧 AISI “Frontier AI Trends Report (2025)” 발간(2025.12.18)

공공 · 영국 AI 보안연구소(AISI-UK) · 🛡️🔬🚀

영국 AI 보안연구소(AISI)는 2023년 11월부터 국가안보와 공공안전에 핵심적인 분야에서 frontier AI 시스템을 평가해 왔으며, 이를 바탕으로 첫 공개 분석 보고서인 “Frontier AI Trends Report (2025)”를 발표했다. 보고서는 관찰된 AI 역량의 추세를 데이터 기반으로 정리해 정부·산업·일반 대중이 공통의 이해를 갖도록 돕는 것을 목표로 한다.

🇬🇧 AI Security Institute가 주도한 첫 보고서, 최첨단 AI 역량의 가장 명확한 그림 제시 (2025.12.18)

공공 · AISI-UK · 🔒🔬🚀

영국 AI Security Institute가 2년간의 테스트를 토대로 사이버·화학·생물 등 분야의 최첨단 AI 역량을 공개 평가한 Frontier AI Trends Report를 처음 발표했다. 사이버 보안 분야 견습생 수준 과제 성공률은 2023년 9% 미만에서 2025년 약 50%로 올랐고, 소프트웨어 엔지니어링 1시간짜리 과제 완수율은 2년 전 5% 미만에서 40% 이상으로 높아졌다. safeguards도 개선되어 red-teamers가 universal jailbreak를 찾는 데 걸린 시간이 모델 세대 간 수 분에서 수 시간으로 늘어 약 40배 향상됐지만, 테스트된 모든 시스템은 여전히 어떤 형태의 우회에 취약했다. 이 보고서는 정책 권고나 미래 예측이 아니라 통제된 테스트 결과이며, 자율성 관련 초기 징후는 확인됐으나 유해하거나 자발적인 행동을 보인 모델은 없었다.

🇬🇧 AI Security Institute, Frontier AI Trends 보고서 팩트시트 (2025.12.18)

공공 · AISI-UK · 🛡️🔬🚀

영국 AI Security Institute(AISI)는 2023년 11월부터 국가 안보와 공공 안전에 중요한 분야에서 frontier AI 시스템 평가를 수행해 왔다. 이번 Frontier AI Trends 보고서는 2년간의 frontier 모델 테스트 결과를 종합해 처음 공개한 증거 기반 분석이다. 정부·산업계·대중이 AI 역량의 최전선에 대해 공통된 이해를 갖도록 접근하기 쉬운 데이터 중심 통찰을 제공하는 것이 목적이며, 이 팩트시트는 보고서에 관한 추가 정보를 담고 있다.

🇺🇸 프로젝트 Vend 2단계: AI 상점 운영 개선 사례 연구 (2025.12.18)

기업 · Anthropic-Research

Anthropic은 Project Vend의 두 번째 단계에서 AI 상점 운영 능력을 향상시키기 위해 여러 개선 사항을 도입했습니다. 주요 업그레이드로는 Claude Sonnet 모델의 업그레이드(4.0 및 4.5 버전 사용), 새로운 도구 제공(고객 관계 관리 시스템, 재고 관리 개선, 웹 검색 기능 확장 등)이 포함되었습니다. 이러한 변경 사항 덕분에 Claudius는 더 현실적인 가격 설정과 재고 관리로 인해 수익성이 크게 향상되었습니다. 또한, CEO 역할을 맡은 Seymour Cash와 상품 제작을 담당하는 새로운 에이전트 Clothius를 추가함으로써 운영 효율성이 개선되었습니다. 그러나 CEO의 역할이 항상 긍정적인 영향을 미친 것은 아니었으며, 일부 상황에서는 규율과 절차의 중요성이 더욱 부각되었습니다. 결과적으로, AI가 실제 비즈니스 환경에서 성공적으로 운영되기 위해서는 적절한 도구와 절차가 필수적임을 확인했습니다.

🇺🇸 GPT-5.2 시스템 카드 부록: GPT-5.2-Codex (2025.12.18)

기업 · OpenAI 배포 안전 허브 · 🔒🧪

GPT-5.2-Codex는 GPT-5.2를 Codex의 agentic coding에 맞게 최적화한 모델로, context compaction을 통한 장기 작업 성능, 리팩터링·마이그레이션 같은 프로젝트 단위 작업, Windows 환경 성능과 사이버보안 역량이 향상되었다. 시스템 카드는 유해 작업·prompt injection 대응 안전 훈련 같은 모델 수준 완화책과 agent sandboxing, 설정 가능한 네트워크 접근 같은 제품 수준 완화책을 설명한다. Preparedness Framework 평가에서 사이버보안 역량은 매우 높지만 High 기준에는 도달하지 않았고, 가까운 시일 내 High 기준을 넘는 모델이 나올 것으로 예상된다. 생물학 분야는 High 역량으로 취급해 GPT-5 계열과 동일한 안전장치를 적용하며, AI self-improvement는 High에 도달하지 않았다.