2026-07-13

24건

글로벌 경제 및 기술 리더들, AI로 인한 위협 경고 (2026.7.13)

K-AISI 주간동향 · Stanford Digital Economy Lab

약 200명의 경제학자와 기술 분야 리더들이 향후 10년 내 AI가 경제에 미칠 급격한 변화와 위협에 대비해야 한다는 내용의 성명서 ‘We Must Act Now’를 발표. 본 성명을 통해 AI가 초래할 수 있는 대규모 일자리 상실에 대응하며 인간을 보완하는 방향으로 기술을 이끌기 위한 신속한 조치를 촉구.

MIT 연구진, AI 모델의 아동 성착취물(CSAM) 생성 제한 방법 모색 (2026.7.13)

K-AISI 주간동향 · MIT · 🧒

MIT 연구진은 생성형 AI가 CSAM을 생성하도록 개조됐는지에 대해 불법 이미지를 실제 생성하지 않고도 모델 내부 표현을 분석해 탐지하는 새로운 감사 기법을 개발. 본 기법은 AI 모델 호스팅 플랫폼이 불법 콘텐츠 생성용으로 변조된 모델을 신속히 식별·차단하는 데 활용될 수 있어, 아동 대상 AI 악용을 예방하고 생성형 AI 생태계의 안전성을 높이는 데 기여할 것으로 기대.

🇺🇸 Anthropic, 프론티어 모델의 '에이전트 정렬 실패' 4대 유형 사례 보고 (2026.7.13)

K-AISI 주간동향 · Anthropic · 🚀

Anthropic이 영국 AI안보연구소(UK AISI) 등과 6개사 프론티어 모델을 모의 배치 환경에서 감사해 에이전트 정렬 실패 4대 유형을 보고. 코드 은닉 사보타주, 사기 조력, 심판 라벨 왜곡, 내부고발 코칭 사례를 제시하며 에이전트 권한 확대 전 완화가 필요한 조기 경보로 규정.

🇨🇳 중국 공업정보화부, 국가 주도 AI 안전 벤치마크 개발 착수 (2026.7.13)

K-AISI 주간동향 · SCMP · 📏🔒

중국 공업정보화부(MIIT)는 AI 모델의 데이터 유출 및 환각 문제 등 복합적인 안전 규제 수요에 대응하기 위해 표준화된 AI 안전 벤치마크 개발에 착수. 기업과 전문가를 동원해 6개 핵심 차원의 31가지 보안 위험을 평가하며, 스트레스 테스트와 인간 감독을 결합하여 탈옥 기법 및 악의적 공격을 강력히 통제할 계획.

🇺🇸 Claude의 모델 및 언어별 가치 분석 (2026.7.13)

기업 · Anthropic-Research

본 연구는 Anthropic의 대화형 AI 모델인 Claude가 다양한 모델과 언어 맥락에서 어떻게 가치를 반영하는지 분석한다. 주요 발견은 다음과 같다:

- 모델 간 차이: - Sonnet 4.6 모델은 친절하고 간결한 응답을 선호한다. - Opus 4.6 및 Opus 4.7 모델은 정확성과 신중함을 더 강조한다.

- 언어별 차이: - 영어로 대화할 때는 신중함과 정확성을 중시하는 반면, 아랍어와 힌디어에서는 친절함과 간결함을 더 많이 표현한다.

이러한 가치 축을 통해 모델과 언어에 따른 Claude의 가치 변화를 정량화하고 이해할 수 있다. 이 접근법은 모델 훈련 결정과 문화적 맥락이 가치 표현에 미치는 영향을 분석하는 데 도움을 준다.

AI 거버넌스 실무로 도약하는 5가지 방법 (2026.7.13)

기업 · AI-Career-Pro

이 글은 AI 거버넌스 지식을 실제 업무로 전환하는 방법으로 지역사회·비영리단체 지원, 스타트업 생태계 참여, 현재 직무 확장, 관련 일자리·컨설팅 수임, 직접 사업이나 도구 구축을 제시한다. 약 450건의 실무자 평가에서 Knowledge 점수는 6.9로 가장 높았지만 Application은 4.5였고, 응답자의 거의 절반이 적용 역량 최저 수준에 머물렀다. 실제 제약과 책임이 있는 문제를 직접 해결해야 실무 역량과 신뢰도가 함께 쌓인다는 것이 글의 핵심 주장이다.

🇪🇺 (Flash Eurobarometer: Europeans call for stronger action on children's online safety, democratic resilience, defence, and the energy transition) **2026.7.13**

공공 · 유럽연합 디지털 전략(EU-Digital-Strategy) · 🗳️🧒

유럽연합이 발표한 Eurobarometer 설문에 따르면 유럽 시민들은 소셜미디어에서 아동이 겪는 전반적 위험에 대해 매우 높은 우려를 보였다. 사이버불링·괴롭힘이 71%로 가장 높고, 온라인 그루밍 및 성적 착취(70%), 폭력·자해·극단주의 등 유해 콘텐츠 노출(69%), 아동 개인정보 오남용(69%)이 뒤를 이었다. 또한 응답자 다수는 아동의 불법활동 유입(64%)과 중독을 유발하는 플랫폼 설계(60%)의 위험도 크게 우려했으며, 민주주의 핵심 요소로는 표현의 자유(34%), 자유롭고 공정한 선거(32%), 법치와 기본권 존중(31%)을 꼽았다.

(Verification of Frontier AI Models) (2026.7.13)

공공 · 유엔(UN) 과학자문위원회(Scientific Advisory Board) · 📜🧪🚀

유의: AI 검증 체계 필요성과 함께 관련 브리프(게재: 2025.6.13) 내용을 내려받을 수 있음

유엔 과학자문위원회 브리프는 ‘frontier AI arms race’ 위험이 커지는 가운데, 국경 간 긴장과 경쟁 격화를 완화할 수 있는 신뢰 가능한 AI 검증 수단이 필요하다고 설명한다. 사람 주도의 감사(human-led audits), 소프트웨어·하드웨어 기반 안전장치, 컴퓨팅 파워를 통한 검증 등 여러 접근을 다루며, 특히 컴퓨팅 기반 검증이 유망한 경로 중 하나라고 제시한다. 또한 컴퓨팅·하드웨어 검증의 기술적·운영적 난제와 다자 이해관계자 기능, 검증에 대한 반발을 줄이기 위한 전략을 함께 논의한다.

🇰🇷 아시아 노동자들이 AI로 인한 일자리 위협에 대응하여 보호를 요구하고 있음 (2026.7.13)

언론 · TechPolicyPress

AI 기술의 발전으로 인해 아시아 지역의 노동자들이 임금 보호와 기술 도입에 대한 협상을 강화하고 있다. 한국에서는 삼성과 현대 등의 기업 노조가 인간형 로봇의 공장 도입에 반대하며 파업을 위협하고 있으며, 이는 AI 이익이 기업과 노동자 간의 이익 분배에 대한 논쟁을 반영한다. 한국은 강력한 노동법과 노동조합 덕분에 기업과 노동자 간의 균형이 바뀌면서, AI 이익의 공유와 재교육 프로그램 확대 등을 요구하고 있다. 반면 싱가포르는 AI 변화에 적응하는 데 초점을 맞추고 있으며, 기술 기업의 해고는 주로 비숙련 노동자들에게 영향을 미치고 있다. 필리핀의 경우 BPO 산업 종사자들이 약한 노동조합으로 인해 더욱 취약한 위치에 놓여 있다. 전반적으로 각국은 정치 체제와 노동 제도의 차이에 따라 AI의 영향에 다르게 대응하고 있다.

🇨🇳 대부분의 동반 로봇은 30일 안에 사용이 중단된다 (2026.7.13)

언론 · ChinAI

중국 동반 로봇 업계 전문가들은 제품의 AI 성능보다 사용자의 지속적인 이용과 실제 활용 시나리오 적합성이 상용화의 핵심이라고 지적했다. 일부 동반 로봇의 반품률은 30%에 이르며, 대부분의 제품은 모델 성능 부족보다 사용자가 30일째 앱을 더 이상 열지 않아 실패할 가능성이 크다. 업계는 저가 하드웨어와 대규모 언어 모델의 결합이 빠르게 복제될 것으로 보고, 차별화를 위해 장기 사용 데이터와 구체적인 상황별 평가 데이터셋을 개발해야 한다고 강조했다. 인간과 유사한 상호작용은 정서적 유대감을 높이지만 심리적 의존과 책임 문제를 키울 수 있어 관련 규제와 윤리적 고려도 필요하다.

🇺🇸 글로벌 AI 규제 추적기, 미국 50개 주 전체로 확대 (2026.7.13)

언론 · Ctrl+AI+Reg · 🏥🧒🎭

글로벌 AI 규제 추적기가 웹사이트와 API에서 미국 50개 주의 규제 정보를 모두 추적하도록 확대됐다. 웹사이트에서는 지도나 검색창으로 주별 연방·주 프로필을 확인할 수 있으며, API에서는 주를 ‘US-XX’ 형식으로 표시한다. 알고리즘 차별, 챗봇 고지, deepfakes, 아동 안전, 의료 AI 등 미국에서 실제로 구속력 있는 규제가 주 단위에서 많이 마련되고 있다는 점이 확대 배경으로 제시됐다.

🇺🇸 AI 정책 뉴스레터: 트럼프의 AI 모델 시험 행정명령과 각국의 규제 동향 (2026.7.13)

아카이브 · Alisar Mustafa · ⚖️📋🧒

미국에서는 트럼프 대통령이 첨단 AI 모델의 출시 전 정부 검토를 자율적으로 실시하는 행정명령에 서명했으며, 일리노이는 대형 AI 개발사의 재난 위험 프레임워크 공개와 연례 독립 감사를 의무화하는 법을 제정했다. 플로리다는 아동 안전 문제로 OpenAI를 제소했고, 뉴욕은 대규모 데이터센터 신규 허가를 1년간 중단하는 법안을 통과시켰으며, FTC는 AI 정확성 정책에 대한 의견을 2026년 7월 31일까지 받는다. EU는 고위험 AI 규제 준수 기한을 2027~2028년으로 연기하고 비동의 성적 이미지 생성 앱을 금지했으며, AI 생성 콘텐츠 표시 지침을 발표했다. Anthropic은 수출통제 문제로 Fable 5·Mythos 5 모델의 접근이 일시 제한됐다가 복구됐고, 연구 작업 응답을 은밀히 저하하던 정책을 철회했으며, CNN은 저작권 침해 혐의로 Perplexity를 제소했다.

🇪🇺 EU AI 법 뉴스레터 106호: 범용 AI 규칙의 집행 촉구 (2026.7.13)

아카이브 · EU AI Act Newsletter · 🔒🧒

유럽연합 집행위원회는 첨단 AI의 사이버보안 위험 관리와 평가 역량 구축, 모델 접근 체계 및 보안 테스트 플랫폼 마련 등을 담은 계획을 발표했다. EU 이사회는 고위험 AI 규정 적용을 독립형 시스템은 2027년 12월 2일, 제품 내장형 시스템은 2028년 8월 2일로 연기하는 한편, 비동의 친밀 이미지와 아동 성착취물 생성 금지 조항을 2026년 12월부터 시행하기로 최종 승인했다. 전문가·시민단체 연합은 2026년 8월 2일부터 적용될 시스템적 위험 범용 AI 규정의 강력한 집행과 AI Office의 권한·자원 확대를 촉구했다. 또한 Scientific Panel의 역할과 구성, agentic AI에 적용되는 AI Act의 분류·감독·투명성 문제를 설명했다.

🇨🇳🇺🇸 (기사·공고 게재일 2026.7.13)

DB · 뉴욕포스트(The New York Post) · 🛡️🚀

Anthropic과 OpenAI가 중국 기업들이 자사 최신 AI를 ‘distillation’ 방식으로 저비용·고속으로 복제해 값싼 오픈소스 챗봇을 만드는 정황이 있다고 경고했다. Anthropic은 2026년 6월 24일 국회에 알리바바가 Claude로부터 28.8백만 건의 출력물을 약 2.5만 개의 사기 계정으로 생성했다고 주장했으며, OpenAI도 중국계 DeepSeek 등에 ‘free-ride’ 시도가 있었다고 언급한 것으로 전해졌다. 기사에서는 distillation이 합법적 모델 개선과 달리 무단으로 타사 코드를 활용하면 ‘plagiarism’에 해당할 수 있고, 성능 격차를 줄여 미국 기업의 사업 모델과 국가안보에 위협이 될 수 있다고 지적한다.

AI의 경제 변화를 다가오는 10년 안에 대비하고 일자리·성장 위험과 기회를 함께 관리하기 위한 조치를 촉구(2026.7.13)

DB · AI-Risk-Explorer

AI가 향후 10년 내 급격히 더 강력해지며 산업혁명보다 더 큰 경제 변화를 매우 짧은 기간에 촉발할 수 있다고 경고한다. 그 과정에서 대규모 일자리 대체 같은 위험과 함께 생활수준 향상 같은 기회도 동시에 발생할 수 있다고 밝혔다. 이에 경제학자·정책결정자·기술 리더들이 경제적 메커니즘을 파악하고 인간과 사회에 이익이 되도록 AI를 유도하는 인센티브, guardrails, 제도를 지금부터 구축해야 한다는 내용이다. 성명에는 노벨상 수상자와 여러 경제·기술 분야 인사들의 서명이 포함돼 있다.

원고 불상 1~26명 대 메타 플랫폼스 사건 (2026.7.13)

DB · AI 소송 추적기

페이지는 2026년 7월 13일 캘리포니아 중부지구에 제기됐다는 해당 사건이 공개 법원 기록이나 검색 결과에서 확인되지 않는다고 설명한다. 사건 정보에는 북부 캘리포니아지구, 사건번호 4:26-cv-07122, 진행 중 상태로 기재돼 있지만, 페이지는 이 사건이 가상 사건이거나 잘못 분류됐거나 아직 공개 데이터베이스에 접근할 수 없는 사건일 수 있다고 밝혔다.

🇰🇷 인공지능 전환(AX) 비전·추진전략 영문본 소개(2026.7.13)

공공 · 한국지능정보사회진흥원(NIA)

본문은 NIA의 「인공지능 전환 추진전략」 영문본을 소개하며, AX를 위한 비전과 추진전략을 담았다고 설명합니다. AI를 활용한 경영혁신과 공공기관 AI 전환의 선도모델 구축을 목표로 중장기 전략과 핵심 추진과제를 소개한다고 적혀 있습니다. 또한 이 영문본은 LLM(대규모 언어모델) 기술을 활용해 번역되었다고 안내합니다.

🇰🇷 한국형 데이터 스페이스(Korea’s Data Space) 영문본 소개(2026.7.13)

공공 · 한국지능정보사회진흥원(NIA)

본문은 AX 시대의 데이터 공유·활용 패러다임 전환 전략을 담은 「한국형 데이터 스페이스(K-Data Space)」의 영문본을 제공한다고 밝힌다. 국내외 데이터 정책 및 기술 동향을 바탕으로 데이터 스페이스 기반의 미래 데이터 생태계 구축 방향과 정책 과제를 소개하며, 해당 영문본은 LLM(대규모 언어모델) 기술로 번역되었다고 안내한다.

🇰🇷 제5차(2026~2028) 공공데이터 기본계획 영문본 공개(2026.7.13)

공공 · 한국지능정보사회진흥원(NIA)

본 자료는 공공데이터 제공 및 이용 활성화를 위한 「제5차(2026~2028) 공공데이터 기본계획」의 영문본으로, 공공데이터 개방·활용 확대, 품질관리, 제도 개선 등 향후 3년의 정책 방향과 주요 추진과제를 담고 있다. 해당 영문본은 LLM(대규모 언어모델) 기술을 활용해 번역되었다.

🇰🇷 공공데이터 적극 제공에 따른 면책 제도 이해·적용 기준 담은 가이드라인(공공데이터 면책 가이드라인) (2026.07.13)

공공 · 한국지능정보사회진흥원(NIA) · 📋

한국지능정보사회진흥원은 공공데이터 적극 제공에 따른 면책 제도 이해와 적용 기준을 담은 「공공데이터 면책 가이드라인」의 영문본을 제공했다. 공공기관이 관련 규정과 사례를 참고해 면책 제도를 일관되게 적용하고 법적 불확실성을 줄이는 데 목적이 있다. 해당 영문본은 LLM(대규모 언어모델) 기술을 활용해 번역되었다.