AI 안전 다이제스트

2026-04-06 · 14건

🇰🇷 ‘AI 행동계획’ 이행 점검과 지역 AX 현장 행보 본격화 (2026.4.6)

공공 · 국가인공지능전략위원회

국가인공지능전략위원회는 대구와 울산을 방문해 ‘대한민국 인공지능 행동계획’ 이행 상황과 지역 AX 산업 추진 및 AI 컴퓨팅 인프라 구축 현황을 점검했다. 대구에서는 AX R&D 허브와 로봇산업 중심 AX 가속화 계획을 확인하고, 기업들의 초기 투자 부담·컴퓨팅 자원 부족·인재난 등 애로사항을 청취했다. 울산에서는 대규모 GPU 기반 데이터센터 구축과 전력 공급·계통 연계 문제를 살폈으며, 위원회는 전력 인프라 확충과 제도 개선을 통해 지역의 기술·데이터 경쟁력을 산업 전반으로 확산할 계획이다.

🇨🇳 중국 국가인터넷정보판공실, '디지털 휴먼 서비스 규제 초안' 발표 (2026.4.6)

K-AISI 주간동향 · China Daily · 🗳️🧒

중국 사이버 공간 규제 당국은 사기 및 악의적 여론 조작을 방지하기 위해 AI 기반의 가상 아바타(디지털 휴먼) 서비스에 대한 전면적인 규제 초안을 공개. 서비스 제공자에게 디지털 휴먼임을 명확히 표시하도록 의무화하며, 미성년자에 대한 가상 연인 서비스 제공 및 유해 콘텐츠 유포를 엄격히 금지.

학생들의 AI 위험 인식과 실제 적용 간의 격차 연구 발표 (2026.4.6)

K-AISI 주간동향 · Devdiscourse

한 연구 논문에서 연구진은 기술 전공 학생들이 AI 위험을 이론적으로는 잘 이해하지만, 실제 응용 상황에서는 위험을 인지하지 못하고 무비판적으로 수용한다는 연구 결과 발표. 전문 지식에 따른 과도한 자신감이 위험 과소평가로 이어지는 현상을 방지하기 위해 실제 시나리오 기반의 실용적 AI 리터러시 교육 도입을 촉구.

🇺🇸 Anthropic, Google·Broadcom과 차세대 TPU 용량 다수 GW 규모로 확장(2026.4.6)

기업 · Anthropic · 🚀

Anthropic은 Google 및 Broadcom과 차세대 TPU 용량을 ‘다수 기가와트’ 규모로 확보하는 신규 계약을 체결했으며, 해당 용량은 2027년부터 순차 가동될 것으로 전망했다. 이번 인프라 확대로 프론티어 Claude 모델을 구동하고 전 세계 고객 수요 증가에 대응한다는 계획이다. 또한 2026년 Claude 고객 수요가 빠르게 늘어 연 매출(런레이트)이 300억 달러를 넘어섰고, 연간 100만 달러 이상 지출하는 기업 고객 수도 1,000곳을 초과했다고 밝혔다. 대부분의 신규 컴퓨트는 미국에 배치되며, 2025년 11월 발표한 미국 컴퓨팅 인프라 투자 확대(500억 달러)와 연계된다고 설명했다.

🇺🇸 AI 에이전트 구독/서비스 관련 경쟁 구도 변화(2026.4.6)

언론 · axios.com · 🤖🚀

본문 확인 필요: 제공된 정보로는 기사 내용(누가 무엇을 구독/제공하고, OpenAI·Anthropic 간 어떤 변화가 있는지)을 특정할 수 없습니다. 다만 제목과 URL로 볼 때 AI 에이전트(또는 관련 서비스) 구독/제공 방식에 대한 논의가 포함된 것으로 보이며, 구체적 사실관계는 확인이 필요합니다.

🇺🇸🇨🇳 OpenAI·Anthropic·Google, 중국에서의 모델 복제(카피) 대응 공조(2026.4.6)

언론 · 블룸버그(Bloomberg) · 🚀

블룸버그 보도에 따르면 OpenAI, Anthropic, Google이 중국에서의 모델 복제(카피) 문제를 줄이기 위한 대응 공조를 추진하는 것으로 알려졌습니다. 다만 본문 내용(구체적 조치, 협력 방식, 일정)은 제공되지 않아 세부 내용은 확인이 필요합니다.

🇺🇸 OpenAI, 머스크의 ‘반경쟁적 행위’ 조사 촉구(2026.4.6)

언론 · CNBC · ⚖️🚀

오픈AI는 엘론 머스크와 측근의 ‘부적절하고 반경쟁적인 행위’를 조사해 달라며 캘리포니아·델라웨어 법무장관에게 서한을 보냈다. 오픈AI 전략 책임자 제이슨 콴은 머스크가 오픈AI를 약화시키기 위해 메타의 마크 저커버그와의 공조를 포함한 여러 ‘공격’을 해왔다고 주장했다. 양측 간 고액 소송 재판의 배심원 선정은 4월 27일 캘리포니아 북부지방법원에서 시작될 예정이다.

AI 도입이 고용에 미친 영향: 대체는 일자리 감소, 인간의 AI 활용은 일부 보완(2026.4.6)

언론 · 야후 파이낸스(Yahoo Finance)

골드만삭스 분석에 따르면 지난 1년간 AI 대체로 월간 일자리 증가가 약 25,000명 감소하고 실업률이 0.16%p 상승했으며, 반면 AI 증강(인간의 AI 도구 활용)은 월간 일자리 증가를 9,000명 늘리고 실업률을 0.06%p 낮췄다. 종합하면 AI가 월간 고용 증가에 16,000명 규모의 부담을 주고 실업률을 0.1%p 높인 것으로 제시됐다. 또한 영향은 상대적으로 경력이 적은 근로자에게 더 크게 나타났고, ChatGPT 이후 AI 대체 점수가 높은 직군에서 고용 감소와 실업 증가가 더 두드러졌다고 전했다.

🇺🇸 OpenAI, AI 경제 정책 제안…공공 부(wealth) 펀드·로봇세·주 4일 근무 보조(2026.4.6)

언론 · 테크크런치(TechCrunch) · 🧪🚀

OpenAI가 초지능 기계로 인한 경제 충격에 대응하기 위한 정책 제안들을 공개했다. 제안에는 공공 부(wealth) 펀드로 AI 기업·인프라에 대한 시민의 자동 지분을 만들고, 노동에서 자본으로 세 부담을 옮기며(법인세·자본이득 등 상향), 대체 노동에 대한 로봇세 도입 가능성도 포함된다. 또한 임금 삭감 없이 주 4일 근무를 보조하고 퇴직·의료·돌봄 비용 지원을 확대하는 방안, 위험한 AI에 대한 격리·감독 체계와 고위험 사용에 대한 안전장치 마련, AI 전력·인프라 확충을 위한 보조금·세액공제·지분 인센티브 등이 제시됐다.

🇨🇳 ChinAI 8주년: 중국 AI 생태계에서 배운 8가지 (2026.4.6)

언론 · ChinAI

ChinAI 발행 8주년을 맞아 지난 1년간 다룬 중국 AI 생태계의 핵심 관찰 8가지를 정리했다. 중국정보통신기술원(CAICT)은 AI 안전 기준과 거버넌스 보고서를 꾸준히 내며 중국의 AI Safety Institute에 해당하는 역할을 강화했지만, DeepSeek를 비롯한 중국의 AI 도입은 얕고 좁으며 느리게 진행되고 있다고 평가했다. 또한 중국과 미국 기술 대기업 간 자본지출 격차 확대, 중국의 AI Plus 계획의 실효성 부족, AI 컴패니언 규제를 둘러싼 정부와 기업의 갈등, 국제 산업협회의 안전 기준 향상 기여, 중국 내 AI 반대 여론 등을 주요 사례로 제시했다.

Study Warns Web “Agent Traps” Can Hijack Autonomous AI Agents (2026.4.6)

DB · AI-Risk-Explorer · 🤖

확인 필요: 본문(초록/내용)에서 구체적인 연구 결과·사례·권고사항(예: “agent traps”의 유형, 영향 범위, 대응책)이 무엇인지 확인 필요

웹에서 ‘에이전트 트랩(agent traps)’이 자율 AI 에이전트를 가로채는 방식의 위험을 경고하는 연구/보고를 다루는 것으로 보인다. 다만 제공된 정보에는 본문 내용이 없어, 구체적인 공격 메커니즘이나 실증 결과, 완화 방법은 확인이 필요하다.

🇨🇳 중국 AI 정책 커뮤니티에서 ‘일자리 대체’ 우려가 크게 확대됨(2026.4.6)

DB · Matt Sheehan 뉴스레터(서브스택) · 📏

중국 AI 정책 관련 인사들을 대상으로 한 소규모 설문(포커스그룹)에서 2024년에는 AI의 일자리 영향이 우려 항목 중 낮은 편이었으나, 2026년에는 ‘일자리 영향’이 최상위권으로 올라섰다고 전했다. 지난 2년간 중국 전반에서 AI가 노동자를 대체해 구조적 실업을 초래할 수 있다는 우려가 커졌고, 정책 문서·국영매체·대중의 기술 인식에도 반영되고 있다고 설명한다. 특히 2024년 우한 로봇택시 이슈가 온라인에서 ‘생계 위협’ 논쟁을 촉발하며 정책 커뮤니티의 인식 전환에 영향을 줬을 가능성을 제시한다. 이후 중국은 ‘AI+’ 계획 등에서 AI 고용위험 평가와 고용 영향 완화 같은 대응을 언급했으며, 생성형 AI의 고용영향 평가 방법을 다루는 국가표준도 마련됐다고 밝혔다.

🇰🇷 AI 기본사회 구현을 위한 가상융합(XR·디지털 트윈) 활용 방안 제시 (2026.04.06)

공공 · 소프트웨어정책연구소(SPRi) · 🏥🎭

SPRi는 AI가 전기·수도·인터넷처럼 보편 인프라로 기능하는 ‘AI 기본사회’를 목표로, XR과 디지털 트윈 등 가상융합이 실행 인프라·정책 실험 플랫폼 역할을 할 수 있다고 설명했다. 가상공간에서 AI 정책 영향을 시뮬레이션하고 아바타 토론 공론장을 구축해 사회적 합의를 높이며, 디지털 트윈 기반 리빙랩으로 사회문제 해결을 검증할 수 있다고 제안했다. 또한 가상 직무훈련·가상 오피스로 일자리 전환과 재교육을 지원하고, 의료·돌봄(인지훈련, 원격 협진, 환자 디지털 트윈) 및 범죄 대응 교육(딥페이크·금융사기 상황 체험)과 교육 격차 완화(가상 캠퍼스·산업 공정 디지털 트윈)까지 활용 가능하다고 밝혔다. 다만 과거 일회성·전시성 사업 반복을 피하기 위해 지속 가능한 운영모델과 성과 중심 설계가 필요하다고 강조했다.