AI 안전 다이제스트

2025-07-21 · 5건

🇬🇧 OpenAI, 영국 내 사무소 확대 및 정부 부처와 협력(2025.7.21)

K-AISI 주간동향 · 영국 정부 gov.uk(과학·혁신·기술부 DSIT) · 🚀

영국 정부와 OpenAI가 전략적 파트너십을 체결했으며, OpenAI는 런던 사무소 규모를 늘리고 연구·엔지니어링 인력을 확충할 계획이다. 협력 범위에는 AI 보안 연구 협업 확대, 데이터센터 등 AI 인프라 투자 가능성 검토, 보안·교육 등 조세재원 서비스의 효율화 방안 모색이 포함된다. 또한 OpenAI는 UK AI Security Institute와 기술 정보를 더 공유해 정부의 AI 역량과 보안 위험에 대한 이해를 높이고, AI Growth Zones 및 AI Opportunities Action Plan의 인프라 우선순위와 연계한 지원 경로도 탐색할 예정이다.

🇺🇸 AI 인프라 구축을 위한 미국 정책 제안 (2025.7.21)

기업 · Anthropic · 🚀

미국이 세계 AI 선두 주자가 되기 위해서는 강력한 컴퓨팅 파워와 안정적인 전력 공급을 위한 대규모 투자가 필수적입니다. Anthropic은 보고서 "Build AI in America"를 통해 에너지 수요 증가와 규제 장벽 해소를 위한 구체적인 정책 제안을 발표했습니다. 주요 내용은 다음과 같습니다:

* 에너지 수요: 고급 AI 모델 훈련에는 막대한 전력이 필요하며, 2028년까지 미국은 최소 50GW의 전력 용량 확보가 필요합니다. 이는 뉴욕시의 피크 전력 수요의 두 배에 해당합니다. * 정책 제안: * 연방 토지 활용을 통한 AI 훈련 시설 건설 촉진 * AI 인프라에 대한 NEPA 검토 가속화 * 전력망 확장 및 업그레이드 지원 * 전력망 연결 과정 가속화 * 전국적인 AI 보급을 위한 규제 개혁 및 공급망 강화 * 핵, 지열, 천연가스 발전 허가 가속화 * 전략적 부품 비축 및 기술 교육 프로그램 확대

이러한 정책들은 미국이 중국과의 경쟁에서 우위를 점하고, 국내에서 최첨단 AI 모델 개발 및 보급을 지원하여 AI 리더십을 확보하는 데 기여할 것입니다.

Gemini Deep Think 고급 버전, 국제수학올림피아드 금메달 수준 공식 달성 (2025.7.21)

기업 · 구글 딥마인드 공식 발표 · 📋

Gemini Deep Think 고급 버전은 국제수학올림피아드(IMO) 문제 6개 중 5개를 완벽하게 풀어 42점 만점에 35점을 획득했으며, IMO 조정관들의 공식 채점에서 금메달 수준으로 평가됐다. 모델은 지난해 시스템과 달리 별도의 형식언어 변환 없이 자연어 문제 설명에서 직접 엄밀한 수학적 증명을 생성했고, 4.5시간의 대회 시간 안에 풀이를 완료했다. 이번 성과에는 여러 해법을 병렬로 탐색하는 Deep Think와 강화학습, 고품질 수학 풀이 데이터 및 문제 해결 지침이 활용됐으며, 해당 모델은 먼저 신뢰할 수 있는 테스터와 수학자들에게 제공될 예정이다.

온라인 이미지의 맥락을 탐색하는 Backstory (2025.7.21)

기업 · 구글 딥마인드 · 🚀

구글 딥마인드는 온라인 이미지의 출처와 맥락을 탐색할 수 있는 실험적 AI 도구 Backstory를 공개했다. Backstory는 이미지와 사용자의 질문을 바탕으로 AI 생성 여부, 온라인에서의 과거 사용 시점과 장소, 디지털 수정 여부 및 메타데이터를 조사하고 결과를 읽기 쉬운 보고서로 제공한다. 구글 딥마인드는 이미지가 AI로 생성됐는지만으로 신뢰성을 판단할 수 없으며, 이미지가 사용된 맥락과 변형 여부를 함께 살펴봐야 한다고 설명했다.