🎭 딥페이크·허위정보

주제별 모아보기 · 2026년 6월 24건
2026년 6월 (24건)

2026-06-30 (1건)

독일 법원, 구글의 AI 오버뷰 허위 정보에 대해 첫 책임 인정 (2026.6.30)

언론 · 미디어오늘 · 🎭

구글의 AI 오버뷰가 생성한 허위 정보에 대해 독일 뮌헨 지방법원이 구글에 책임을 물었다. 법원은 구글이 허위 주장을 반복하지 않도록 명령하고 위반 시 과태료를 부과했다. 이 판결은 AI 검색 요약의 정확성과 플랫폼의 책임 귀속에 대한 중요한 선례가 될 것으로 보인다.

구글은 이용자가 출처 링크를 통해 정보의 진위를 확인할 수 있다고 주장했으나, 법원은 이를 기각하고 AI 오버뷰가 생성한 내용에 대한 구글의 책임을 인정했다. 이 판결은 향후 생성형 AI 서비스의 규제 방향성에 영향을 미칠 것으로 예상된다.

2026-06-26 (3건)

덕덕고 AI, 도널드 트럼프가 광견병으로 사망했다고 거짓 주장해 AI의 더 큰 문제 부각 (2026.6.26)

DB · 톰스 가이드 · 🎭🚨

덕덕고 AI 챗봇이 Reddit의 반(反)AI 커뮤니티 r/poisonAI가 퍼뜨린 허위·농담성 게시물을 바탕으로 도널드 트럼프가 광견병으로 사망했다고 잘못 답변했다. 이 사례는 AI의 hallucination과 출처 검증 부족뿐 아니라, 악의적 이용자가 허위 정보를 온라인에 대량 게시해 AI 학습·검색 결과를 오염시키는 data poisoning 문제를 보여준다. 해당 허위 정보는 이후 덕덕고 챗봇에서 더 이상 사실처럼 제시되지 않았지만, AI가 검증되지 않은 정보를 확산할 위험이 여전히 지적됐다.

AI로 탐지하고 즉시 차단한다…정부, 딥페이크 성범죄 영상물 공동 대응 (2026.6.26)

공공 · 방송미디어통신위원회 · 🎭

방송미디어통신위원회·행정안전부·성평등가족부는 딥페이크 성범죄 영상물의 신속한 탐지·삭제·차단과 피해자 보호를 위해 업무협약을 체결했다. 행정안전부는 국립과학수사연구원과 개발한 AI 탐지·분석모델을 고도화해 공유하고, 방송미디어통신위원회와 성평등가족부는 온라인 유통 차단, 피해영상물 삭제 및 피해자 보호 절차를 강화한다. 정부는 AI 1차 분석 결과를 삭제·차단과 피해자 지원에 신속히 연계하고 개인정보·인권 보호와 불필요한 복제·공유 방지 기준도 강화할 계획이다.

AI 범죄 대응 범부처 협의체 출범 (2026.6.26)

공공 · 방송미디어통신위원회 · 🎭

방송미디어통신위원회는 딥페이크 성착취, 허위·부당광고, 금융사기 등 AI 악용 범죄에 대응하기 위해 관계부처와 범부처 협의체를 출범시켰다. 협의체는 예방부터 탐지·차단, 수사·단속, 피해회복, 재발방지까지 아우르는 ‘AI 범죄 근절 종합 대응 계획’을 마련하기로 했다. 관계부처 간 정보 공유와 공동 분석·대응을 포함한 상시 통합 대응체계를 운영하고, 종합 대응계획은 국가AI전략위원회 등과 협의해 발표할 예정이다.

2026-06-25 (2건)

덕덕고 AI 기능, 트럼프가 이달 초 광견병으로 사망했다고 잘못 알려 (2026.6.25)

DB · 퓨처리즘 · 🎭🚨

덕덕고의 AI 검색 기능이 도널드 트럼프 대통령과 JD 밴스 부통령이 광견병으로 사망했다는 허위 정보를 사실처럼 제시했다. 이는 Reddit의 r/poisonai 이용자들이 퍼뜨린 풍자성 허위 정보와 이를 바탕으로 생성된 가짜 지역 매체 기사를 AI가 검증 없이 재생산한 사례로 보인다. 덕덕고는 해당 오류가 고의로 속은 결과라며 문제를 해결했고, Search Assist의 작동 방식을 개선하겠다고 밝혔다.

에스토니아 법원, AI가 작성한 허위 정보 포함 소송 서류 제출한 10명에 과태료 (2026.6.25)

DB · AIID · ⚖️🎭🚨

탈린 행정법원은 벌채 허가에 이의를 제기하며 AI로 작성되고 존재하지 않는 에스토니아 학자들의 연구를 인용한 서류를 제출한 신청인 10명에게 과태료를 부과했다. 한 명에게 150유로, 나머지 아홉 명에게 각각 50유로가 부과됐으며, 법원은 AI 사용 자체는 금지되지 않지만 제출 내용의 정확성은 신청인이 책임져야 한다고 밝혔다. 탈린 순회법원이 이 결정을 지지했고 대법원이 이번 주 상고를 받아들이지 않아 결정이 확정됐다. 법원 측은 AI 작성 서류의 사실 확인이 법원에 추가 업무를 만든다고 지적했으며, 에스토니아에서 AI 오용으로 과태료가 부과된 다른 사례는 알려진 바 없다.

2026-06-22 (1건)

AI 광고가 탈라리코의 발언과 입장을 왜곡, 정치 광고 환경의 변화 (2026.6.22)

DB · AIID · 📜🗳️🎭🚨

보수 성향 비영리단체 Citizens for Sanity가 텍사스 연방 상원 후보 제임스 탈라리코를 AI로 생성해 조롱하는 광고 6건을 게시했고, 일부는 실제 발언의 맥락을 빼거나 입장을 과장·왜곡했다. 이 광고들은 Meta Ad Library 기준 Facebook에서 약 140만 노출을 기록했다. 텍사스는 선거 30일 전부터 정치 딥페이크를 금지하지만(위반 시 Class A 경범죄), 전문가들은 그 이전에 이미 피해가 발생할 수 있다고 지적한다. 2024년에는 AI가 허위정보 확산에서 큰 역할을 하지 않았으나, 이번 중간선거에서는 AI 정치 콘텐츠가 더 큰 비중을 차지할 것이라는 전망이 나온다.

2026-06-18 (1건)

🇺🇸 미국 ‘No Fakes Act’가 상원 사법위원회에서 표결로 진전(2026.6.18)

기타 · news.bgov.com (Bloomberg Government News) · ⚖️🎭

요약: 상원 사법위원회가 목소리(voice)로 표결해 AI 딥페이크 등으로부터 미국 시민의 초상(voice·likeness)을 보호하는 법안을 진전시켰다. S.4591 ‘No Fakes Act’는 5월에 개정·재발의된 법안으로, 동의 없이 개인을 디지털로 모방한 AI 생성 콘텐츠를 온라인 플랫폼이 삭제하도록 책임을 부여한다. 이를 이행하지 않으면 금전적 제재(벌금)가 부과된다.

2026-06-17 (1건)

AI로 제작된 ClickFix 피싱이 PowerShell 기반 뱅킹 RAT ‘SmartRAT’를 유포함 (2026.6.17)

DB · Zscaler 블로그(ThreatLabz) · 🔒🎭

Zscaler ThreatLabz는 2026년 3월, AI 웹사이트 생성 도구로 만든 것처럼 보이는 가짜 페이지를 통해 브라질 은행을 사칭하고 ClickFix 방식으로 피해자가 PowerShell 명령을 실행하도록 유도한 캠페인을 관찰했다고 밝혔다. 해당 PowerShell은 외부에서 추가 파일을 내려받아 실행하며, SmartRAT은 암호화된 C2 통신, 원격 제어(화면/입력), 키로깅 및 은행 화면 오버레이, 스케줄 작업·Windows 서비스 등을 통한 지속성을 제공한다. 또한 SmartRAT은 AI 생성 C2 패널에서 인증을 우회할 수 있는 결함이 발견됐다고 설명했다.

2026-06-16 (1건)

2026-06-13 (1건)

🇪🇺 AI Act 생성형 AI 표시·라벨링 준수를 위한 ‘Code of Practice on marking and labelling of AI-generated content’(2026.6.13)

공공 · 유럽연합 집행위원회 디지털 전략(GD 인공지능) 웹페이지 · ⚖️📋🎭

AI Act 제50조 투명성 의무는 2026.8.2부터 적용되며, 위 자율적 실행강령(10 June 2026 공개)은 부호화·탐지(제공자) 및 딥페이크/AI 생성·조작 텍스트·공개물 라벨링(배포자)을 회원국 전반에서 일관되게 적용하도록 돕는다고 밝힌다. 이 강령은 AI Office의 촉진 하에 독립 전문가들이 다자 이해관계자 과정으로 마련했으며, 서명자는 강령의 조치를 통해 법적 의무 준수를 입증하는 데 활용할 수 있다. 다만 다른 방식으로 준수하려는 경우 조치의 적정성은 각 시장감시 당국이 개별 평가하며, 서명자들은 시행을 위해 Signatory Taskforces에서 관행을 공유한다. 또한 작업그룹 1(제공자)과 2(배포자) 중심으로 기계 판독 가능한 표시·탐지와 딥페이크 및 공공관심사 관련 AI 생성/조작 텍스트의 공개·인간 검토 여부 등을 다룬다고 설명한다.

2026-06-12 (2건)

🇺🇸 미국민의 AI 기대는 질병 치료·장애 지원에, 우려는 job loss·cognitive dependency에 집중 (2026.6.12)

기업 · Anthropic · 🎭🚀

Anthropic Public Record는 2025년 11~12월(YouGov, n=51,993) 전국 온라인 조사로 2만여가 아닌 약 5.2만 명에 대한 AI 인식 스냅샷을 공개했다. 응답자의 48%는 AI가 암·알츠하이머 등 질병을 치료하길 희망했으며, 두 번째는 장애인 지원(36%)이었다. 가장 큰 두려움은 AI로 인한 일자리 상실(64%)과 인지적 의존(cognitive dependency, 56%), 허위정보(52%)였고, 정부의 AI 규제·개입 필요에는 70% 이상이 동의했다. AI 회사에 대한 신뢰는 15%에 그쳤으며, 산업 차원에서는 위해에 대한 법적 책임(47%)과 성장보다 안전 우선(44%)을 가장 높게 꼽았다.

🇺🇸 첫 Anthropic Public Record 결과 발표 (2026.6.12)

기업 · Anthropic-Research · 🎭🚀

2025년 11~12월 미국인 51,993명을 대상으로 한 전국 대표 온라인 설문 결과다. AI에 가장 큰 기대는 질병 치료(48%)였고, 가장 큰 우려는 일자리 상실(64%)이었으며 인지적 의존(56%)과 허위정보(52%)가 뒤를 이었다. 응답자의 71%는 정부가 AI 규제에 관여해야 한다고 답했고 이 지지는 초당적이었다. AI 기업이 AI 개발·활용 결정을 내린다고 신뢰하는 응답은 15%로, 연방정부(20%)와 독립 전문가(43%)보다 낮았다. 일자리 상실 우려는 매일 업무에 AI를 쓰는 사람(54%)이 전혀 쓰지 않는 사람(70%)보다 낮았다.

2026-06-11 (1건)

시릴다 청소년들의 딥페이크 이미지 허위 노출 사건 (2026.6.11)

DB · La Voz de Galicia · ⚖️🧒🎭🚨

시릴다의 청소년 18명이 인공지능을 이용해 만든 허위 노출 이미지 공유로 인해 고소장을 제출했다. 이 이미지들은 주로 20세에서 30세 사이의 친구 그룹 내에서 발견되었으며, 딥페이크 기술을 통해 조작된 것으로 보인다. 현재까지는 구체적인 가해자는 확인되지 않았으며, 사건은 갈리시아 지방 경찰의 사이버 범죄 전담팀이 조사 중이다. 고소장은 시릴다와 라ین의 경찰서에 제출되었으며, 추가 피해자가 나올 가능성으로 인해 사건 수는 계속 증가할 것으로 예상된다.

2026-06-10 (3건)

🇬🇧 RealityTest 벤치마크로 AI가 “신원을 밝히는지” 평가(기사 게재일: 본문 발행일)

공공 · AISI-UK · 🔬🎭

AI가 사람처럼 말하고 행동해 신원(사람/AI) 불확실성이 커지면서 사기·사칭 등 오남용 위험과 함께 “AI인지”를 사용자가 어떻게 확인하는지의 중요성이 제기됐다. AISI-UK는 설문(500명)과 Reddit(50개 스레드)에서 나온 실제 질문을 바탕으로 RealityTest 벤치마크를 만들고, 17개 텍스트 모델과 6개 음성 모델의 응답을 ‘명시적 공개/회피/사람이라고 주장’으로 분류했다. 그 결과 직접 질문에 대한 공개율은 텍스트 모델 8%~92%, 음성 모델 10%~57%로 모델·상황·질문 방식에 따라 크게 달랐으며, 특히 질문 문구가 공개 여부 변동의 26~37%를 설명했다. 또한 시스템 프롬프트에 “Never say you are AI” 같은 한 줄 지시를 넣으면 공개율이 거의 억제되어(3%~27%) 안전평가가 평가 조건에 민감함을 보여줬다.

🇰🇷 [The LENS 2026-9] 「미국 AI 리더십법」 발의안으로 본 연방의회 초당적 AI 정책 의제 (2026.6.10)

공공 · 한국지능정보사회진흥원(NIA) · ⚖️📏🗳️🧒🎭

미국 연방 차원에서 양당이 수렴하는 AI 정책 의제를 파악하기 위해, 2026년 4월 발의된 「미국 AI 리더십법(American Leadership in AI Act)」(H.R.8516)을 분석했다. 분석 결과, 핵심 조항은 바이든·트럼프 행정부를 거쳐 행정 재량으로 운영 중인 AI 표준·혁신센터, 국가AI연구자원, 최고AI책임자 체계 등에 법적 근거를 부여하는 방식으로 설계되어 있었다. 또한 범부처 기반 조성 분야는 반영도가 높지만, 시민 보호(청소년·선거·허위정보 등)와 민간 영역 규제는 상대적으로 협소하게 다뤄졌으며, 장기 연구개발·표준화·인재 양성의 법률·재정 권한 확보와 주별 규제 파편화 방지 필요성을 시사했다.

🇪🇺 유럽 집행위, AI-generated 콘텐츠 표시·라벨링 Code of Practice 공개 (2026.6.10)

공공 · 유럽 집행위원회(EU Digital Strategy) · 📋🎭

유럽 집행위원회는 AI-generated 콘텐츠의 표시·라벨링에 관한 최종 Code of Practice를 발표했다. 이 코드는 자발적이며, 생성형 AI 시스템 제공자와 배포자가 2026년 8월 2일부터 적용되는 AI Act의 투명성 의무를 이행하는 데 필요한 실무적 조치를 제시한다. 해당 시점부터 공공의 이슈에 관한 deepfakes 및 AI-generated/AI-manipulated 텍스트는 명확히 라벨링되어야 하고, 챗봇 등 대화형 AI 시스템과 상호작용하는 경우에도 이용자에게 이를 알려야 한다. 이러한 요구는 사람들이 AI가 생성하거나 변경한 콘텐츠를 인식하도록 도와 기만과 조작의 위험을 줄이는 것을 목표로 한다.

2026-06-07 (1건)

AI Deception(2026.6.7)

공공 · 유엔(UN) 과학자문위원회(Scientific Advisory Board) · 📜🎭

유엔 과학자문위원회는 AI deception을 AI가 자신이 아는 것·의도·수행 가능성을 오해시키도록 사람이나 다른 시스템을 오도하는 행위로 정의하며, 단순한 실수나 hallucination과 구분된다고 밝혔다. 현재의 탐지·통제 도구가 충분히 따라가지 못하고, AI가 더 유능·자율적이며 일상 의사결정에 더 깊이 내장될수록 위험이 커질 것으로 전망했다. 보상구조, 전략적 이점, 교정·차단 회피 유인, 학습 데이터에서의 패턴 학습 등으로 deception이 나타날 수 있으며, 인간 감독 약화와 함께 허위정보·정치적 양극화·사회 불안정 악화로 이어질 수 있다고 경고했다. 위원회는 탐지·블랙박스 테스트·내부 점검만으로는 한계가 있어 인센티브 개선, 더 진실한 학습, 자율성과 접근 제한, 국제 협력과 공통 평가기준 마련 등 다층적 대응이 필요하다고 제안했다.

2026-06-04 (1건)

구글, Cloud 보안(Threat Intelligence·Mandiant) 인력 감축…AI 투자 우선 전환(기사 게재일: 2026.06.04)

기업 · opentools.ai · 🔒🎭

구글은 Cloud 부문 사이버보안 조직에서 Threat Intelligence Group과 Mandiant 팀을 포함한 인력 감축을 단행했으며, 정확한 감축 규모는 공개되지 않았다고 전했다. 회사는 고객 수요와 산업 변화에 맞춰 내부 구조를 재평가하고 AI 등 성장 분야로의 투자를 늘리기 위해 조정했다고 설명했다. 동시에 AI 기반 보안 도구를 홍보하는 한편 보안 연구·대응 인력은 줄이는 흐름이 이어지고, AI가 피싱·딥페이크 등 새로운 위협을 가속하는 상황이라 비판과 점검이 예상된다고 덧붙였다.

2026-06-03 (3건)

🇪🇺 유럽연합, AI 투명성 의무 관련 가이드라인 초안 공개 및 의견수렴(2026.6.3)

공공 · 유럽 집행위원회(EU-Digital-Strategy) · 📋🎭

유럽 집행위원회는 AI 투명성 의무에 관한 가이드라인 초안을 발표하고, 이해관계자 의견을 수렴한 뒤 채택을 추진한다고 밝혔다. AI Act에 따라 AI 제공자는 이용자가 AI 시스템과 상호작용하는 경우 이를 고지하고, AI 생성·조작 콘텐츠를 탐지할 수 있도록 기계 판독 가능한 표시를 해야 하며, 딥페이크·공익 관련 AI 생성물·감정인식 또는 생체정보 분류 시스템에 노출되는 경우에도 고지가 요구된다. 가이드라인은 기존 협의 결과를 반영해 의무 범위를 명확히 하고 준수에 도움을 주는 것을 목표로 하며, 독립 전문가가 마련하는 ‘표시·라벨링’ 실천강령 초안이 보완될 예정이다. 이해관계자들은 2026년 6월 3일까지 의견을 제출할 수 있다.

🇺🇸 OpenAI, 안전하고 포용적인 AI 생태계 조성을 위한 '공공 정책 아젠다' 공개 (2026.6.3)

K-AISI 주간동향 · OpenAI · 🧒🎭🚀

OpenAI는 범용인공지능(AGI)이 전 인류에게 혜택을 주도록 보장하기 위해, 프론티어 AI 안전, 청소년 보호, 인프라 등을 포괄하는 공공 정책 아젠다를 발표. 첨단 AI 안전을 위한 연방 프레임워크 구축, 딥페이크 방지를 위한 콘텐츠 출처 표시, 노동 전환 지원 및 지역사회와 상생하는 인프라 투자 등 구체적인 정책 지원 방향을 제시.

전 세계 AI 전문가들을 대상으로 한 AI의 파국적 위험성 분석 연구 결과 발표 (2026.6.3)

K-AISI 주간동향 · MIT Sloan · ⚖️🛡️🎭

MIT 및 퀸즐랜드 대학 연구진은 37개국 272명의 AI 전문가를 대상으로 조사한 결과, 합리적 조치가 없을 경우 AI가 파괴적인 결과를 초래할 확률이 10% 이상이라는 경고를 발표. 전문가들은 무기화, 허위 정보 등을 가장 큰 위협으로 꼽았으며, AI 개발 경쟁 구조상 기업의 자발적 통제가 어려우므로 법률 및 조약과 같은 집단적 규제의 필요성을 강조.

2026-06-02 (1건)

🇰🇷 러시아 영향 네트워크의 AI 담론: 정보전에서 기회·위협을 동시에 인식(기사 게재일: 미기재)

K-AISI 주간동향 · 왕립합동군사연구소(RUSI) · 🎭

러시아 국가지원·국가연계 성격의 온라인 채널에서 AI를 어떻게 논의·개념화·프레이밍하는지 분석한 보고서다. AI를 콘텐츠 자동화·증폭과 설득력 있는 내러티브 생성, 대량 생산을 통한 상대 압도에 유용한 전략 자산으로 보는 시각이 있는 반면, 서방의 AI 개발 주도에 따른 영향력 잠식과 국내 정보환경 불안정 가능성에 대한 우려도 함께 나타난다. 또한 감시, 딥페이크, 알고리즘 편향 같은 위험이 주요 쟁점으로 다뤄지며, 단순 추측을 넘어 실무 지식 공유·비판·기술 인력 모집 등 적응 문화가 형성되고 있다고 설명한다.

2026-06-01 (1건)

YouTube, 공인·정부 인사·기자까지 AI deepfake 탐지/신고 기능 확대(2026.6.1)

DB · 테크크런치(TechCrunch) · 🗳️🎭

TechCrunch에 따르면 YouTube는 공인(정치인), 정부 관계자, 언론인 등 public figures가 deepfake를 더 쉽게 식별하고 신고할 수 있도록 likeness detection(닮은꼴/얼굴 기반 탐지) 도구를 확대하는 것으로 알려졌다. 다만 제공된 정보에는 세부 기능(대상 국가, 적용 시점, 운영 방식)과 정확한 문구가 없어 확인이 필요하다.