2025-07-17

9건

연산력의 미래와 경제·안보·혁신 전략: 반도체·데이터·인공지능 가치사슬을 중심으로 (2025.7.17)

공공 · 과학기술정책연구원

과학기술정책연구원은 반도체 제조, 데이터 인프라, 인공지능 활용을 아우르는 연산력 생태계의 국가 전략을 제안했다. 경제·안보·혁신을 통합하는 국가 차원의 컨트롤 타워와 첨단전략기술 역량 강화를 위한 중장기 로드맵 수립이 필요하다고 밝혔다. 또한 반도체·AI 핵심 인재 모니터링과 유치, 인재 유출 방어를 추진하고, 연산력 공급망의 취약성을 극복하기 위한 전략형 Chokepoint R&D 프로그램을 제안했다.

🇪🇺 유럽 집행위, AI Act 자문포럼 참여 신청 공모(2025.7.17)

공공 · 유럽연합 집행위원회(European Commission) 디지털 전략(Digital Strategy) · ⚖️📏🔬

유럽 집행위원회는 AI Act 자문포럼(Advisory Forum) 참여를 위한 신청 공모를 시작했다. 시민사회·학계·산업계·중소기업·스타트업 등 이해관계자가 AI 규정의 책임 있고 효과적인 이행에 기여하도록 초청하며, 포럼은 일반 자문기구로서 AI Office 및 필요 시 국가 시장감시 당국에 조언하는 과학 패널의 역할을 보완한다. 자문포럼은 표준화와 이행상의 과제 등 다양한 쟁점에 대해 독립적인 기술 전문성과 균형 잡힌 이해관계자 대표성을 제공하도록 설계됐고, FRA·ENISA 등 EU 기관과 CEN·CENELEC·ETSI 같은 표준화 기관이 영구 위원으로 포함된다. 위원 임기는 2년(1회 연임 가능)이며 무보수로 활동하고, 신청 결과는 2026년 초 발표될 예정이다.

🇺🇸 2025 AI Safety Index(2025.7.17)

K-AISI 주간동향 · Future of Life Institute · 🚀

Future of Life Institute가 ‘AI Safety Index - Summer 2025’를 통해 주요 AI 기업을 위험평가, 현재 위해, 안전 프레임워크, 존재론적 안전, 거버넌스·책임성, 정보공유 등 영역에서 평가했다. 전체 등급은 Anthropic이 C+ (2.64)로 가장 높았고, OpenAI가 C (2.10)로 2위를 차지했으며, Zhipu AI와 DeepSeek는 각각 F(0.62), F(0.37)로 가장 낮았다. 보고서는 기업들이 AGI 목표 시점을 제시하지만 존재론적 안전 계획에서 D 이상을 넘지 못하는 등 안전 준비가 목표와 괴리가 크다고 지적하며, 위험한 능력에 대한 실질적 테스트가 7개 중 3개사(Anthropic·OpenAI·Google DeepMind)에 그친다고 밝혔다. 또한 공개 whistleblowing 정책 투명성은 약점으로, OpenAI만 전체 정책을 공개했으며 그 시점은 언론 보도 이후였다고 설명했다.

(기사·공고 게재일 2025.07.17) AI와 혁신을 둘러싼 연준의 관점: 책임 있는 도입과 연구·정책 영향

K-AISI 주간동향 · 미국 연방준비제도(Federal Reserve, 연준) · 🔒

연준 리사 D. 쿡(이사)은 AI가 경제 전반에 빠르게 확산되며 생산성·고용·물가 안정에 모두 영향을 줄 수 있어, 통화정책 판단을 위해 시간에 따른 순효과를 연구해야 한다고 밝혔다. 동시에 연준 내부에서는 FOMC가 정책 수립에 AI를 직접 쓰는 것은 아니지만, 직원의 글쓰기·코딩·연구 등 업무를 돕고 LLM의 경제적 통찰 생성 가능성과 한계를 검토 중이라고 설명했다. AI 도입과 관련해서는 ‘사람이 고리(humans are in the loop) 안에 있는 거버넌스·리스크 관리’, 개인정보·사이버보안·기밀 유출 방지, 교육·훈련, 통제된 환경에서의 실습과 실험을 핵심 원칙으로 제시했다.

🇺🇸 선도 AI 기업들 “용인할 수 없는” 수준의 위험관리…SaferAI·FLI 연구 (기사·공고 게재일 2025.7.17)

K-AISI 주간동향 · TIME · 🚀

TIME에 따르면 SaferAI와 Future of Life Institute(FLI)가 발표한 두 연구에서 주요 AI 기업들의 안전 관련 위험관리 수준이 전반적으로 낮다고 평가됐다. SaferAI 평정에서 최고 점수는 Anthropic(35%)이었고 OpenAI(33%), Meta(22%), Google DeepMind(20%), xAI(18%) 순이었으며, 어떤 회사도 ‘weak’보다 높지 않았다. FLI 평정에서는 Anthropic이 C+로 가장 높았고 OpenAI은 C, Google은 C-였으며, ‘existential safety’ 항목에서는 모든 회사가 D 이하로 평가됐다.

🇫🇷 AI와 암호화폐에 부과금 검토…기후대응 재원 마련 주장 (2025.7.17)

K-AISI 주간동향 · 가디언(theguardian.com)

Global Solidarity Levies Task Force의 공동 리더인 로렌스 튜비아나가 에너지 소비가 큰 AI와 암호화폐에 과세해 기후위기 대응 재원을 마련하자고 촉구했다. 특히 비트코인 등 암호화폐는 규제가 거의 없고 에너지 사용이 크며, AI 역시 막대한 자원 소비로 전기 확보 경쟁이 벌어진다고 설명했다. 항공권·전용기(비즈니스/퍼스트 클래스) 신규 부과금에 대해 일부 국가가 합의한 성과가 있었고, 추가로 해운 탄소세·주식 매입 관련 세금 등도 검토 중이라고 전했다. 한편 튜비아나는 프랑스가 2040년 온실가스 감축 목표를 늦추려는 움직임에 우려를 표하며, 지연은 Cop30에서 강한 성과를 어렵게 만들 수 있다고 경고했다.

🇬🇧 국제 네트워크가 ‘agentic testing’ 공동 실험을 통해 AI 에이전트 평가 공통 모범사례를 정교화(2025.7.17)

K-AISI 주간동향 · AISI-UK · 📋🔒🤖

본 실험은 싱가포르·일본·호주·캐나다·유럽집행위원회·프랑스·케냐·대한민국·영국 등 국제 네트워크 참여자들이 agentic evaluations 접근법을 맞추기 위해 3번째로 진행됐다. 민감정보 유출·사기(싱가포르 주도)와 사이버보안 위협(영국 주도) 두 갈래로, 오픈/클로즈드 가중치 모델을 다양한 벤치마크 과제에 대해 평가했으며, 도구 사용·에이전트 궤적·판정 기준·judge LLM 프롬프트 검증 등 방법론 이슈를 중점 학습했다. 사이버보안 분야에서는 온도·시도 횟수·토큰 한도 등 변수가 성능과 행동에 미치는 영향을 분석하고, 대표 과제의 빠른 스윕, 토큰 한도 ‘수확체감’ 지점 설정, 환경/자원 버그로 인한 실패 과제 점검 등을 모범사례로 제시했다.

르 샤, 심층 기능으로 더 깊이 있는 대화 지원 (2025.7.17)

기업 · Mistral AI 공식 블로그

Mistral AI가 Le Chat에 Deep Research, 음성 대화, 다국어 추론, Projects, 고급 이미지 편집 기능을 추가했다. Deep Research는 복잡한 질문을 계획·검색·종합해 출처가 포함된 구조화된 보고서를 생성하며, 음성 기능은 Voxtral 모델을 기반으로 한다. 다국어 추론은 Magistral 모델로 지원하고, Projects에서는 대화·문서·아이디어를 맥락별로 정리할 수 있다. 신규 기능은 Le Chat 웹사이트와 모바일 앱에서 신용카드 없이 이용할 수 있다.

🇺🇸 ChatGPT Agent 시스템 카드 (2025.7.17)

기업 · OpenAI 배포 안전 허브 · 🧪🚀

ChatGPT agent는 OpenAI o3와 같은 계열의 새로운 agentic 모델로, deep research의 다단계 조사·보고서 작성 능력과 Operator의 원격 시각 브라우저 작업 수행 능력을 결합했다. 여기에 제한된 네트워크 접근이 가능한 터미널 도구(코드 실행, 데이터 분석, 슬라이드·스프레드시트 생성)와 Connectors를 통한 외부 데이터·앱(예: Google Drive) 접근이 더해졌다. OpenAI는 Operator 연구 프리뷰의 통제를 확장하고, 더 넓은 사용자 범위와 터미널 접근 같은 새로운 위험에 대한 추가 안전장치를 마련했다고 밝혔다. 또한 생물·화학 분야에서 Preparedness Framework상 High capability로 간주해 관련 안전장치를 적용했는데, 초보자가 심각한 생물학적 피해를 만드는 데 의미 있게 도움이 된다는 확정적 증거는 없지만 예방적 접근을 택했다는 설명이다.