AI 안전 다이제스트

2025-11-19 · 8건

🇺🇸 Grok 4.1 Fast (xAI) (2025.11.19)

기업 · DemandSphere · 🚀

Reasoning · Closed · 2000K ctx · $0.2/M · $0.5/M

MMLU 84% · HE 97% · MATH 94%

Grok 4 capabilities at dramatically lower cost ($0.20/$0.50). #2 LMArena Elo Dec 2025. Leads EQ-Bench for creative. Real-time X data.

인공지능 시대, 이용자 보호가 경쟁력 (2025.11.19)

공공 · 방송미디어통신위원회

방송미디어통신위원회는 2025년 11월 19일 안전하고 지속 가능한 인공지능 서비스 환경 구축을 위한 ‘2025 인공지능서비스 이용자보호 콘퍼런스’를 개최했다. 콘퍼런스에서는 인공지능 서비스의 잠재적 문제, 사업자와 이용자의 책임 범위, 정책 당국의 역할 및 민관 협력 방안을 논의했으며, 방통위는 의견을 정책에 반영해 이용자 보호 체계를 마련할 방침이다.

🇺🇸 OpenAI의 AI 인프라에 대한 연방정부 지원 제안, 대중은 무엇을 기대해야 하나 (2025.11.19)

공공 · Brookings

OpenAI가 미국의 AI 컴퓨팅 인프라 구축에 필요한 막대한 자본을 정부가 지원하거나 보증하는 방안을 제시한 가운데, 글은 19세기 철도 건설의 사례를 통해 공공 지원에는 공익 의무가 따라야 한다고 주장한다. 당시 정부 보조로 성장한 철도회사들이 독점적 요금과 차별적 접근을 일삼자 의회가 1887년 주간통상위원회를 설립한 점을 AI 인프라 정책의 교훈으로 제시한다. 반도체·데이터센터·클라우드에 대한 공공 지원은 특정 기업의 제국 건설이 아니라 데이터·컴퓨팅·디지털 유통에 대한 개방적이고 비차별적인 접근을 확대하는 데 사용돼야 한다고 강조한다. 2025년 McKinsey 보고서에 따르면 2030년까지 전 세계 AI 데이터센터 자본지출은 누적 5조2천억 달러, 이 중 약 40%가 미국에서 발생할 것으로 추산된다.

미스트랄 AI, 독일을 위한 인공지능 전략 발표 (2025.11.19)

기업 · 미스트랄 AI

미스트랄 AI는 SAP와 다년간 협력해 독일과 유럽을 위한 완전한 주권형 AI 스택을 구축하고, SAP의 AI Foundation에 자사 모델을 통합할 계획이다. 방산·보안 기업 Helsing과는 실세계 응용을 위한 vision-language-action 모델 개발을 가속한다. 또한 독일 내 현지 인력을 크게 늘리고 수개월 내 독일 사무소를 개설해, 핵심 데이터를 해외로 이전하지 않고 AI 역량과 전략적 자율성을 강화하겠다고 밝혔다.

🇺🇸 METR의 GPT-5.1-Codex-Max 모델 위험 평가 결과 (2025.11.19)

공공 · METR

METR는 OpenAI의 GPT-5.1-Codex-Max 모델이 AI 연구 개발 자동화와 무단 복제 위협 모델에 대해 낮은 위험을 나타내는 점진적 개선임을 평가했습니다. 이 모델은 기존 아키텍처나 훈련 인센티브에 위험을 초래할 만한 변화가 없으며, 75m에서 350m 사이의 시간 지평을 보여줍니다 (예상치는 2시간 42분). 이러한 결과는 GPT-5-Thinking 모델 대비 추세에 따른 개선을 반영하며, METR의 정성적 평가, 수동 채점 작업 결과, 다른 벤치마크 점수 개선과 일치합니다. 따라서 앞으로 6개월 동안의 추가 개발이 이러한 위협 모델에 대해 낮은 위험을 초래할 것으로 예상되나, 획기적인 알고리즘 개선이나 컴퓨팅 자원의 급격한 증가로 인한 추세 변화 가능성은 배제할 수 없습니다. 평가에서는 모델의 정렬성과 오용, 생물학적 위험 요소, 사회적 사용 등 다른 위험 요소는 다루지 않았습니다.

싱가포르 AISI와 AI 에이전트 데이터 유출 위험 공동 테스트 결과 공개 확대(2025.11.19)

언론 · 연합뉴스 · 📏🔒🤖🚀

한-싱가포르가 공동으로 수행한 ‘AI 에이전트 데이터 유출 위험 공동 테스트’의 세부 결과 보고서가 공개됐다. 보고서는 AI 에이전트가 정상 지시를 수행하더라도 판단 착오로 민감정보를 부적절하게 조회·전달·공개하는 치명적 오류가 발생할 수 있음을 구체적으로 제시한다. 또한 모델의 업무 수행 능력이 높아도 안전한 데이터 처리 능력이 보장되지 않는 ‘인지-행동 불일치’와 ‘허위 보고’ 환각 등 에이전틱 AI 위험 요인을 언급하며, AISI가 세부 수치·결과까지 포함해 공개하는 것은 사실상 처음이라고 전했다. AISI는 구글·오픈AI·앤트로픽 등과의 협력도 이어가며 한국어 벤치마크를 활용한 평가와 국제 표준 협력에 나설 계획이라고 밝혔다.

워너뮤직그룹과 AI 스타트업 유디오, 저작권 음악 분쟁 합의 (2025.11.19)

DB · AIID · ⚖️🚨

워너뮤직그룹(WMG)은 저작권 음악을 AI 모델 훈련에 무단 사용했다는 의혹과 관련해 AI 음악 스타트업 유디오와의 소송을 종결하는 합의에 도달했다. 유디오는 라이선스를 받은 음악으로 훈련한 AI 모델을 활용해 내년 새 플랫폼을 출시하고, 참여를 선택한 아티스트와 작곡가의 음성·작곡을 활용한 리믹스·커버·신곡 제작을 지원할 예정이다. 참여 아티스트와 작곡가는 크레딧을 받고 수익을 지급받지만, 구체적인 참여자와 계약 조건은 공개되지 않았다. 앞서 유니버설뮤직그룹(UMG)도 유디오와 유사한 합의를 체결했다.