🇨🇳🇺🇸 AI 허위 콘텐츠 대응을 위한 표시제 동향 (2026.6.22)
생성형 AI의 대중화로 허위 콘텐츠의 생성·확산에 따른 부작용이 커지면서 중국과 미국 등 주요국은 AI 생성물에 워터마크 등을 표시하도록 의무화하고 있다. 국내에서도 2026년 1월 표시제가 시행됐지만 규제 대상이 AI 사업자로 한정돼 이용자와 유통자의 표시 삭제·변조 행위를 예방하는 데 한계가 있어 기술·제도적 보완이 필요하다.
생성형 AI의 대중화로 허위 콘텐츠의 생성·확산에 따른 부작용이 커지면서 중국과 미국 등 주요국은 AI 생성물에 워터마크 등을 표시하도록 의무화하고 있다. 국내에서도 2026년 1월 표시제가 시행됐지만 규제 대상이 AI 사업자로 한정돼 이용자와 유통자의 표시 삭제·변조 행위를 예방하는 데 한계가 있어 기술·제도적 보완이 필요하다.
Five Eyes 사이버 보안 기관들은 기업 리더들에게 AI 발전으로 인해 급변하는 사이버 위협 환경에 즉시 대응할 것을 촉구하는 공동 성명을 발표. AI가 공격 속도와 규모를 늘리는 만큼, 보안을 비즈니스 핵심 과제로 삼아 설계 단계부터 보안을 적용하고 AI 도구를 활용해 방어 체계를 선제적으로 강화할 것을 권고.
유엔여성기구(UN Women)는 생성형 AI가 과거의 차별적인 훈련 데이터로 인해 성별 고정관념을 고의적으로 재생산하고 여성에 대한 온라인 학대를 증폭시키고 있다고 경고. 이러한 편향은 개발 과정의 정책적 공백이므로, 정부와 기술 기업이 AI 개발 및 정책 결정 전 과정에 여성의 참여를 확대하고 성평등을 설계에 적극 반영할 것을 촉구.
Google DeepMind와 A24가 연구에 초점을 둔 최초 형태의 협업을 발표했다. 양측은 연구 역량과 영화 제작에 강점이 있는 스튜디오의 관점을 결합해 예술가들이 새로운 워크플로와 기법을 개발하도록 지원하고, 향후 기술이 실제 창작자에 의해 형성되도록 한다는 목표를 제시했다. 또한 A24와 DeepMind의 협업을 통해 여러 프로젝트에 걸친 R&D를 진행하며, 구글이 A24에 투자했다고 밝혔다.
구글 딥마인드와 영화 스튜디오 A24가 예술가들의 새로운 작업 방식과 기법 개발을 지원하기 위한 연구 파트너십을 체결했다. 양측은 여러 프로젝트에 걸쳐 창작 과정에 기술을 적용하고, 영화 제작자들의 피드백을 바탕으로 관련 기술을 발전시킬 예정이다. 구글은 이번 협력의 일환으로 A24에 투자했으며, 초기에는 첨단 기술과 차세대 엔터테인먼트의 결합에 초점을 맞춘다.
출처: 유럽 집행위원회(EU Digital Strategy)
2026년 2월 시작한 공모(Frontier AI Grand Challenge)로, EUROPA 컨소시엄(이탈리아 Domyn이 이끎)이 최종 우승으로 선정됐다. EUROPA는 24개 공식 EU 언어를 모두 포괄하는 오픈소스 AI 모델을 개발하며, 모델은 공개 이용 가능하고 글로벌 최고 수준 성능을 목표로 한다. 유럽의 자체 인프라에서 고도 AI 개발 역량을 강화하고 기업·연구자·공공기관이 언어 다양성을 기반으로 AI 혜택을 더 넓게 받도록 하겠다는 취지다.
중국이 기술 자립도를 측정하기 위해 사용했던 대외기술의존도(FTD) 지표가 2016년 ‘오해를 불러일으킨다’는 이유로 중단된 배경을 분석한다. 금융·고급 인력의 국제적 이동으로 중국에 본사와 핵심 사업을 둔 기업도 외국인 투자와 다국적 경영진을 포함하게 되면서, 국내 기업과 외국 기업의 경계가 모호해졌다는 주장이다. 중국·일본·인도의 사례 비교 결과, 혁신의 혼종화가 진행된 중국에서는 기술 의존도 평가의 회색지대와 측정 방식의 불안정성이 커졌으며, 이는 기술민족주의 정책의 성과 판단을 어렵게 만든다.
출처: 퓨 리서치 센터(Pew Research Center)
미국 성인 5,119명을 2026.2.17~2.2.23 조사한 결과, AI 챗봇을 ‘이용한 적 있음’은 2024년 33%에서 2026년 49%로 증가해 절반 수준에 이르렀다. 다만 사용 목적은 정보탐색(42%)과 업무(고용자 기준 38%)가 중심이고, 감정적 지지(10%)·동반(4%) 같은 개인적 용도는 상대적으로 낮았다. 한편 챗봇이 생산성이나 정보에 도움을 준다고 보는 의견이 일부 있으나, 많은 응답자는 AI가 개인과 사회에 미칠 영향이 긍정보다 부정적이라고 예측하고 AI 발전 속도가 너무 빠르며 개인정보 위험을 높일 수 있다고 보는 경향이 나타났다.
Sakana Fugu 및 Fugu Ultra는 오늘부터 제공되며, 단일 OpenAI 호환 API로 접근 가능(구독 및 pay-as-you-go 플랜 제공)
Sakana AI는 ‘Fugu’를 단일 모델처럼 동작하는 다중 에이전트 오케스트레이션 시스템으로 소개하며, 단일 API 호출로 모델 선택·위임·검증·통합을 내부에서 수행한다고 밝혔다. ‘Fugu Ultra’는 어려운 다단계 문제에서 최대 품질을 목표로 더 깊은 전문가 에이전트 풀을 조정하도록 튜닝됐다고 설명했다. 또한 특정 벤더 의존 및 수출통제 리스크에 대비해, 오케스트레이션용으로 학습된 Fugu가 에이전트 풀의 모델을 유연하게 교체·우회할 수 있다는 점을 강조했다.
조지프 레이나가 적절한 사유 없이 ChatGPT 계정이 비활성화됐다며 OpenAI OPCO, LLC를 상대로 소송을 제기했다. 사건은 미국 캘리포니아 북부지방법원에 연방법 문제로 접수됐으며, 찰스 R. 브레이어 판사가 담당하고 동의·거부서 제출 기한은 2026년 7월 6일이다. 사건은 현재 진행 중이며, 계정 비활성화에 관한 내용은 소장에 담긴 원고의 주장으로 아직 사실认定은 아니다.
원고 레이나는 수노가 허가 없이 자신의 상표를 사용해 같은 시장에서 경쟁 음악을 제작했다며 미국 연방 상표법인 랜햄법 위반을 주장했다. 사건은 매사추세츠 연방지방법원에 2026년 6월 22일 제기됐으며, 현재 진행 중이다. 이는 생성형 AI 음악 서비스의 저작권·상표권 침해 논란과 관련된 소송 사례로, 페이지의 내용은 법원의 사실 인정이 아닌 소장과 신청서에 담긴 주장이다.
윈앰프 그룹의 자회사 S.A. 자멘도는 엔비디아가 허가 없이 자사의 저작권 음악과 MTG-Jamendo 데이터셋을 사용해 AI 오디오 모델 Fugatto와 Audio Flamingo를 훈련했다며 소송을 제기했다. 원고는 미국 저작권법상 저작권 침해와 CC BY-NC 4.0 라이선스 및 이용약관 위반, 부당이득, 캘리포니아주 불공정 경쟁 등 6개 청구를 제기했다. 소장은 실제 손해와 최소 1,780만 유로의 엔비디아 이익 또는 고의적 침해에 대한 저작물당 최대 15만 달러의 법정손해배상을 요구하며, 사건은 현재 진행 중이다.
이 글은 인공지능 제공자가 외부에 공개하지 않고 자체 조직 안에서만 AI 모델·시스템을 사용하는 ‘내부 배포’가 EU 인공지능법 적용 범위에 포함되는지를 검토한다. 내부 배포는 일시적 사용 후 공개하는 경우부터 전 생애 동안 조직 내부에서만 사용하는 경우까지 포함하며, 인사·법무·연구개발 업무 지원이나 자동화에 활용될 수 있다. 글은 인공지능법 제2조와 제3조, 관련 전문·예외 조항을 바탕으로 적용을 지지하는 해석과 과학적 연구개발 예외 등을 통한 반론을 분석한다. 특히 AI 모델이 후속 모델의 설계·훈련·개선을 수행하는 자율적 AI 연구개발이 정책·안전 논의에서 중요해지고 있다고 설명한다.
개인 메일·일정·할 일 앱 등에서 컴퓨터를 사용하는 에이전트가 한 앱(맥락)에서 일을 하면서 다른 맥락의 개인 정보를 부적절하게 끌어오는 문제를 평가한다는 연구다. AgentCIBench라는 평가 하네스를 만들어 visual co-location(화면 인접 금지 항목 포함), task-ambiguity overshare(모호한 지시로 과도한 개인 상태 노출), recipient misalignment(부적절한 수신자에게 전달) 3가지 실패 모드를 결정적으로 채점되는 시나리오로 구성해 15개 frontier agent를 시험한다. 15개 중 11개가 시나리오의 50% 이상에서 정보가 새며(>50% leak), 평균 leakage 67.9%로 보고되고, 환경에서 end-to-end로 실제 작업을 수행하는 조건에서도 동일한 실패가 지속됐다.
이 연구는 이산 텍스트 최적화(모델에 입력되는 텍스트를 찾아 특정 목적을 유도)를 더 쉽게 재현·비교·확장하려는 오픈 프레임워크 TROPT를 제안한다. TROPT는 단일 인터페이스 아래에서 모델, objective, optimizer를 모듈처럼 교체 가능한 구조로, 기존에 흩어진 코드베이스와 변형들로 인한 채택·비교의 어려움을 겨냥한다. 프레임워크는 15+ optimizers(white-box~black-box 접근 포함)와 15+ losses를 기반으로 30+ optimization recipes(예: jailbreaking, 모델 내부 probing)를 제공하며, 이를 활용해 (i) LLM jailbreaks에 대한 대규모 제어 실험으로 최적화 전략을 비교·개선하고 (ii) 한 도메인의 optimizer를 corpus-poisoning embedding model로 포팅하는 사례를 보인다.
AI를 human security 관점에서 보며, 이득과 위험을 함께 분석한다. neural networks와 machine learning이 bias, surveillance, labor displacement를 통해 취약성을 확대할 수 있는 경로를 비판적으로 다룬다. 또한 health·environment·economy·political stability에 대한 영향과 함께, AI 거버넌스에서 governments의 대응이 뒤처져 robust regulation, transparency, ethical standards가 필요하다는 주장으로 정리한다.
EU AI Act의 초기 집행 국면에서 AI integrator 기업들이 규제를 혁신과 거버넌스로 어떻게 연결해 해석·대응하는지에 관한 질적 연구다. EU 시장에서 활동하는 AI integrator 7개 기업을 대상으로 제도이론과 동적역량이론을 결합한 탐색적 설계를 사용했으며, Gioia-inspired 접근으로 분석했다. 규제는 constraint이자 enabler로 동시에 인식되고, coercive·normative institutional pressures가 compliance를 넘어 sensing·seizing·transforming 역량을 작동시키며, regulatory uncertainty는 innovation을 방해하기보다 anticipatory compliance와 flexible AI governance 쪽으로 재형성되는 양상이 나타났다. 또한 firms 간 효과 차이는 governance maturity와 capability development 수준에 따라 달라 동적역량이 도전을 완화하고 compliance를 경쟁우위로 전환하는 조절 요인으로 나타났다.
AI를 일회성 기술 충격이 아니라 ‘civilisation-scale audit’로 이해해야 한다는 관점을 제시해 거버넌스 논의를 구조적 관점에서 재구성한다. “the glide” 개념을 통해 감시, 불안정한 일, 독점적 시장지배, 환경 피해, 제도 불신 같은 현실의 위해가 AI를 경유해 확대되지만, 이후에는 그것이 “AI 자체”의 문제로 잘못 진단되어 기존의 인프라·권력 구조는 유지된다고 주장한다. Part I에서 AI가 surveillance capitalism, 취약한 복지국가, 플랫폼 독점 안으로 들어온 경로를 정리하고, Part II에서는 risk/safety report를 진단 도구로 보며 개인정보·노동·경제집중·교육·창의성·안전·환경·governance·Global South를 가로지르는 매트릭스로 구조적 공백을 드러낸다. Part III에서는 machine cognition이 기존 전문성과 제도적 정당성을 흔든다는 “Crisis of Authority”를, Part IV에서는 Sanders, Musk, Altman, Anthropic, Huang, Midjourney Medical, 대학/연구, 은행, 엘리트 네트워크 사례로 지배적 정치·거버넌스 내러티브의 stress test를 수행해 제도·법·경제 아키텍처 요구를 강조한다.
카자흐스탄의 AI 법제 현황과 민사상 책임 체계를 어떻게 다듬어야 하는지를 검토한다. 문헌·법령 분석과 비교법적 접근을 통해 현행 규정의 적용 범위와 공백을 정리하고, AI로 인한 피해에 대한 civil liability 개선 방안을 제시한다. 결론으로 카자흐스탄이 소프트웨어 중심의 디지털화에서 AI를 포괄하는 포괄적 법제 정립 단계로 전환 중임을 밝히며, AI 시스템으로 인한 harm에 대한 민사책임 강화를 위해 카자흐스탄 민법(Civil Code)에 추가 조항 도입이 필요하다고 제안한다.
요약불가