AI 안전 다이제스트

2025-02-10 · 5건

인공지능 세계 3대 강국 도약 위한 국가 AI컴퓨팅 센터 사업설명회 개최 (2025.2.10)

공공 · 과학기술정보통신부 · 📋

과학기술정보통신부는 인공지능 세계 3대 강국 도약을 위한 국가 AI컴퓨팅 센터 구축 사업설명회를 2월 7일 개최했다. 정부는 첨단 반도체 기반의 AI 컴퓨팅 인프라를 인재·소프트웨어 혁신과 결합해 인공지능 경쟁력을 강화할 계획이다. 민간 참여자는 2월 28일 오후 5시까지 사업참여의향서를 제출해야 하며, 공모지침서는 의향서 제출 기업에 제공된다.

🇺🇸🇪🇺 AI 일상화 시대의 위협, 딥페이크 대응 방안 (2025.2.10)

공공 · 한국지능정보사회진흥원 · 🧒🎭

딥페이크 기술은 접근성과 제작 편의성이 높아지면서 영화·교육·의료 등 긍정적 활용과 함께 디지털 성범죄, 금융 사기, 가짜뉴스·정치적 조작 등 사회적 위협을 확산시키고 있다. 보고서는 미국·EU·영국·중국 등의 법·제도 및 플랫폼 규제 현황과 국내 대응을 검토하고, 처벌 강화와 피해자 보호, AI 탐지·워터마킹·디지털 포렌식, 플랫폼 사전 차단을 제안한다. 특히 청소년 피해와 가해가 많은 만큼 미디어·디지털 리터러시 교육과 출처 표시·팩트체크를 포함한 법·기술·교육의 종합 대응이 필요하다고 강조한다.

🇬🇧 Safety Cases: Frontier AI safety를 위한 확장 가능한 접근 (**2025.02.10**)

공공 · AISI-UK · 🔬🚀

Frontier AI 개발에서 안전사례(safety case)의 활용이 의사결정자에게 AI 안전성을 보여주는 데 도움이 된다는 내용을 다룹니다. 또한 안전사례가 Frontier AI Safety Commitments을 뒷받침할 수 있으며, 방법론과 실행 측면에서 남아 있는 연구 질문들을 제시합니다.

🇺🇸 Anthropic 경제 지수 발표 (2025.2.10)

기업 · Anthropic · 🚀

Anthropic은 AI가 노동 시장과 경제에 미치는 영향을 이해하기 위한 경제 지수를 발표했습니다. 이 지수는 약 100만 건의 익명화된 Claude.ai 대화를 분석하여, AI가 현대 경제의 실제 작업에 어떻게 통합되고 있는지를 보여줍니다. 주요 발견은 다음과 같습니다:

- 소프트웨어 개발 및 기술 작성과 같은 특정 직업군에서 AI 사용이 집중되어 있으며, 약 36%의 직업이 연관된 작업의 최소 25%에서 AI를 사용하고 있습니다. - AI 활용은 협업과 능력 강화(증강) 형태가 직접 작업 수행(자동화)보다 더 흔합니다 (각각 57%와 43%). - 중간 수준에서 높은 급여를 받는 직업군에서 AI 사용이 더 흔하며, 반면 가장 낮거나 높은 급여를 받는 직업에서는 사용이 적습니다.

데이터셋은 공개되어 연구자들이 추가 분석을 진행할 수 있도록 지원하며, 경제학자와 정책 전문가들에게 피드백을 요청하여 더 포괄적인 이해를 도모하고 있습니다. 향후 연구에서는 시간 경과에 따른 변화를 추적하여 노동 시장의 변화를 예측할 계획입니다.

🇺🇸 Anthropic 경제 지수 발표 (2025.2.10)

기업 · Anthropic Research · 🚀

Anthropic 연구기관은 AI가 노동 시장과 경제에 미치는 영향을 이해하기 위한 'Anthropic 경제 지수'를 발표했습니다. 이 지수는 약 100만 건의 익명화된 Claude.ai 대화를 분석하여 실제 경제 활동에서 AI의 통합 양상을 보여줍니다. 주요 발견은 다음과 같습니다:

- 현재 AI 사용은 소프트웨어 개발과 기술 글쓰기와 같은 분야에 집중되어 있으며, 약 36%의 직업에서 최소 25%의 작업에 AI가 활용되고 있습니다. - AI 활용은 협업을 통한 능력 강화(증강) 형태가 직접 작업 수행(자동화)보다 더 흔합니다 (각각 57%와 43%). - 중간 수준에서 높은 임금을 받는 직업에서 AI 활용이 더 빈번하지만, 가장 낮거나 높은 임금을 받는 직업에서는 그렇지 않습니다. - 연구 결과는 공개 데이터셋과 함께 공유되며, 경제학자와 정책 전문가 등 연구자들의 피드백을 요청하고 있습니다.

향후 연구에서는 이러한 분석을 시간에 따라 반복하여 사회적 및 경제적 변화를 추적할 계획입니다. 자세한 내용은 전체 논문을 참조하세요.

요약불가