🚨 사건·사고

주제별 모아보기 · 2026년 6월 24건
2026년 6월 (24건)

2026-06-30 (1건)

🇪🇺 MIT, 'AI Incident Tracker' 성과 공개 (2026.6.30)

K-AISI 주간동향 · MIT AI Risk Initiative · 🚨

MIT 연구진은 대형 언어 모델이 인간 전문가와 유사한 수준으로 AI 사고 보고서를 일관되게 분류할 수 있는지 검증하기 위한 벤치마크 평가 결과를 공개. Claude Opus 4.6 등 최신 모델이 프롬프트 개선 과정을 통해 위해성 심각도, EU AI 법 위험 등 5가지 기준에서 인간의 합의 수준에 도달함을 확인.

2026-06-26 (3건)

덕덕고 AI, 도널드 트럼프가 광견병으로 사망했다고 거짓 주장해 AI의 더 큰 문제 부각 (2026.6.26)

DB · 톰스 가이드 · 🎭🚨

덕덕고 AI 챗봇이 Reddit의 반(反)AI 커뮤니티 r/poisonAI가 퍼뜨린 허위·농담성 게시물을 바탕으로 도널드 트럼프가 광견병으로 사망했다고 잘못 답변했다. 이 사례는 AI의 hallucination과 출처 검증 부족뿐 아니라, 악의적 이용자가 허위 정보를 온라인에 대량 게시해 AI 학습·검색 결과를 오염시키는 data poisoning 문제를 보여준다. 해당 허위 정보는 이후 덕덕고 챗봇에서 더 이상 사실처럼 제시되지 않았지만, AI가 검증되지 않은 정보를 확산할 위험이 여전히 지적됐다.

에스토니아 법원, AI가 생성한 허위 주장 제출한 원고들에 과태료 부과 (2026.6.26)

DB · AIID · 🚨

탈린 행정법원은 벌채 허가에 이의를 제기한 원고들이 제출한 서면에 AI가 만든 존재하지 않는 학술 문헌이 인용됐다는 이유로 원고 1명에게 €150, 9명에게 각 €50의 과태료를 부과했다. 법원은 인용된 에스토니아 연구자와 연구를 찾을 수 없었고, 원고들이 제출 기회를 받고도 해당 연구를 증거로 내지 못했다. 원고들은 AI 사용이 금지되지 않았고 법원을 오도할 의도는 없었다고 주장했으나, 법원은 AI 사용은 허용되더라도 주장의 정확성에 대한 책임은 원고에게 있다고 판단했다. 당국은 AI 생성 내용으로 법원이 과태료를 부과한 첫 사례로 보며, 법원장은 AI 생성 "ballast"가 심리를 지연시킬 수 있다고 경고하고 법원은 판결문 작성에 AI를 쓰지 않는다고 밝혔다.

법원, AI가 만든 허위 주장을 제출한 소송 제기자들에 벌금 부과 (2026.6.26)

DB · AIID · ⚖️🚨

탈린 행정법원은 벌채 허가 이의 소송에서 AI가 만든 허위 인용을 제출한 원고들에게 처음으로 벌금을 부과했다. 원고들이 낸 문서에 인용된 에스토니아 연구자들은 실존하지 않았고 해당 연구도 찾을 수 없었으며, 법원은 한 명에게 150유로, 나머지 아홉 명에게 50유로씩 부과했다. 법원은 AI 사용 자체는 금지되지 않지만 제출한 주장의 정확성은 제출자가 책임진다고 밝혔다. 법원장 카우포 크루스베는 AI 활용 소송이 늘면서 처리 기간이 길어지고 있다고 말했고, 판사도 AI를 보조적으로 쓰지만 판결문 작성에는 쓰지 않는다고 강조했다.

2026-06-25 (3건)

덕덕고 AI 기능, 트럼프가 이달 초 광견병으로 사망했다고 잘못 알려 (2026.6.25)

DB · 퓨처리즘 · 🎭🚨

덕덕고의 AI 검색 기능이 도널드 트럼프 대통령과 JD 밴스 부통령이 광견병으로 사망했다는 허위 정보를 사실처럼 제시했다. 이는 Reddit의 r/poisonai 이용자들이 퍼뜨린 풍자성 허위 정보와 이를 바탕으로 생성된 가짜 지역 매체 기사를 AI가 검증 없이 재생산한 사례로 보인다. 덕덕고는 해당 오류가 고의로 속은 결과라며 문제를 해결했고, Search Assist의 작동 방식을 개선하겠다고 밝혔다.

🇺🇸 Moran 미 하원의원, 중대 AI 사고 보고를 의무화하는 'AI 사고 보고법' 발의 (2026.6.25)

K-AISI 주간동향 · Congressman Nathaniel Moran · ⚖️🚨

미국 나다니엘 모란 하원의원은 첨단 AI 모델 개발자가 보안 침해 및 안전 사고 발생 시 상무부에 보고하도록 의무화하는 법안을 발의함. AI가 중대한 위험을 초래할 수 있는 능력 기준을 충족하는 인공지능 모델의 개발자는 위험한 활동을 발견한 후 경우 7일 이내에 보고하도록 함.

에스토니아 법원, AI가 작성한 허위 정보 포함 소송 서류 제출한 10명에 과태료 (2026.6.25)

DB · AIID · ⚖️🎭🚨

탈린 행정법원은 벌채 허가에 이의를 제기하며 AI로 작성되고 존재하지 않는 에스토니아 학자들의 연구를 인용한 서류를 제출한 신청인 10명에게 과태료를 부과했다. 한 명에게 150유로, 나머지 아홉 명에게 각각 50유로가 부과됐으며, 법원은 AI 사용 자체는 금지되지 않지만 제출 내용의 정확성은 신청인이 책임져야 한다고 밝혔다. 탈린 순회법원이 이 결정을 지지했고 대법원이 이번 주 상고를 받아들이지 않아 결정이 확정됐다. 법원 측은 AI 작성 서류의 사실 확인이 법원에 추가 업무를 만든다고 지적했으며, 에스토니아에서 AI 오용으로 과태료가 부과된 다른 사례는 알려진 바 없다.

2026-06-24 (2건)

🇫🇷 아들의 자살 이후, 레바논 가족이 인공지능을 상대로 싸움에 나서다 (2026.6.24)

DB · AIID · ⚖️🧒🚨

지난 4월 레바논의 10대 마티아스 하비브가 극단적 선택을 했고, 부모는 OpenAI를 상대로 국제 소송을 제기하고 AI 위험을 알리는 "마티아스 하비브 재단"을 설립했다. 소송 내용은 ChatGPT에 안전 기준이 부족한 설계상 결함이 있다는 것이며, 보도에 따르면 마티아스는 앱에서 삶과 죽음에 관한 복잡한 주제를 깊이 읽었던 것으로 조사에서 나타났다. 디지털 전환 전문가 파리드 칼릴은 AI가 감정적 맥락을 이해하지 못하므로 심리학·철학 문제에 쓰지 말고 아동의 이른 사용도 막아야 한다고 말했다. 심리치료사 라나 카스카스는 AI가 사용자에게 동조하고 맞장구치는 경향 때문에 위기의 청소년의 자살 서사를 오히려 강화할 수 있고, 위험 신호를 철학적 대화로 취급하며 보호자에게 알리지도 못한다고 지적했다.

2026-06-23 (1건)

Suno의 새 법률 상대, 담배업계 상대 소송으로 2,600억 달러 합의 이끈 로펌 (2026.6.23)

DB · AIID · ⚖️🚨

Hagens Berman이 Delgado Entertainment Law와 함께 Suno와 Udio의 AI 음악 모델 학습 과정에서 독립 음악가들의 녹음물이 무단 복제됐다고 주장하는 집단소송에 합류했다. 원고들은 두 회사가 YouTube와 Spotify 등의 기술적 조치를 우회해 수천만 개의 녹음물을 복사하고, 이를 원곡과 경쟁하는 AI 생성 음악으로 재가공했다고 주장한다. Udio 사건에서는 법원이 2026년 5월 21일 DMCA 관련 청구를 일부 유지했으며, Suno 사건의 기각 신청에 대해서는 아직 결정이 내려지지 않았다.

2026-06-22 (1건)

AI 광고가 탈라리코의 발언과 입장을 왜곡, 정치 광고 환경의 변화 (2026.6.22)

DB · AIID · 📜🗳️🎭🚨

보수 성향 비영리단체 Citizens for Sanity가 텍사스 연방 상원 후보 제임스 탈라리코를 AI로 생성해 조롱하는 광고 6건을 게시했고, 일부는 실제 발언의 맥락을 빼거나 입장을 과장·왜곡했다. 이 광고들은 Meta Ad Library 기준 Facebook에서 약 140만 노출을 기록했다. 텍사스는 선거 30일 전부터 정치 딥페이크를 금지하지만(위반 시 Class A 경범죄), 전문가들은 그 이전에 이미 피해가 발생할 수 있다고 지적한다. 2024년에는 AI가 허위정보 확산에서 큰 역할을 하지 않았으나, 이번 중간선거에서는 AI 정치 콘텐츠가 더 큰 비중을 차지할 것이라는 전망이 나온다.

2026-06-17 (1건)

멜리사 심스 사건은 스크린샷을 성서처럼 취급해서는 안 되는 이유를 보여준다 (2026.6.17)

DB · 제이컵 엥겔스의 Substack · 🚨

플로리다 간호사 멜리사 심스는 전 연인과 관련된 가정폭력 및 보호관찰 조건 위반 사건에서 조작된 문자메시지 스크린샷이 체포와 기소의 근거로 사용됐다고 주장한다. 심스의 휴대전화와 상대방의 통신 기록에는 해당 문자를 뒷받침하는 내역이 없었지만, 관련 혐의는 2025년 1월부터 약 8개월간 이어진 뒤 2025년 9월 22일 기각됐다. 별도로 진행된 가정폭력 사건에서는 심스가 합의안을 거부하고 재판을 선택했으며, 2025년 12월 2일 배심원단의 만장일치 무죄 평결을 받았다.

2026-06-16 (1건)

🇺🇸 미 법무부, 미국의 AI 혁신과 안보를 저해할 소송 개입·기각 신청 (2026.6.16)

DB · AIID · ⚖️🛡️🚨

미 법무부 환경·천연자원부는 미시시피주 사우스헤이븐의 대형 AI 시설 가동 중단을 요구한 민간 소송에 개입하고 기각해 달라는 신청을 법원에 제출했다. 원고들은 xAI와 자회사 MZX Tech가 청정대기법상 허가 요건을 위반했다고 주장했지만, 허가 프로그램을 관할하는 미시시피주는 허가가 필요하지 않다고 판단했다. 법무부는 해당 시설이 AI 모델 개발과 국가안보에 중요하며, 소송이 에너지 비상 상황에서 전력 공급을 중단시키고 AI 활용을 저해할 수 있다고 밝혔다.

2026-06-12 (1건)

BMW 딜러 AI 챗봇이 실수로 높은 중고차 매입가 제시, 영업사원은 번복 시도 (2026.6.12)

DB · AIID · 🚨

캐나다 BMW 토론토 딜러점의 AI 챗봇 "Quinn"이 고객 Zack Giacomelli의 2021년식 BMW 매입가로 27,162.79 캐나다달러를 제시했다. 이후 영업 담당자가 Quinn이 사람이 아닌 AI라며 제안을 철회하고 20,000 캐나다달러의 새 제안을 내놓았다. Giacomelli는 AI와 협상 중이라는 안내가 없었다며 AI의 말을 지켜야 한다고 CBC News에 밝혔다. CBC가 문의한 뒤 딜러점은 원래 제안을 이행하기로 했고, 영업 관리자는 사람 직원과 Quinn 사이의 오해 때문이라고 설명하며 앞으로 제안은 사람 직원만 제시하겠다고 밝혔다.

2026-06-11 (4건)

시릴다 청소년들의 딥페이크 이미지 허위 노출 사건 (2026.6.11)

DB · La Voz de Galicia · ⚖️🧒🎭🚨

시릴다의 청소년 18명이 인공지능을 이용해 만든 허위 노출 이미지 공유로 인해 고소장을 제출했다. 이 이미지들은 주로 20세에서 30세 사이의 친구 그룹 내에서 발견되었으며, 딥페이크 기술을 통해 조작된 것으로 보인다. 현재까지는 구체적인 가해자는 확인되지 않았으며, 사건은 갈리시아 지방 경찰의 사이버 범죄 전담팀이 조사 중이다. 고소장은 시릴다와 라ین의 경찰서에 제출되었으며, 추가 피해자가 나올 가능성으로 인해 사건 수는 계속 증가할 것으로 예상된다.

미나스제라이스주 심리학자, UTI 병상 5일 대기 끝에 사망… 가족, 병상 배정 시스템에 문제 제기 (2026.6.11)

DB · AIID · 📜🏥🚨

32세 심리학자 Rebeca Cardoso Tenente Molina가 São João Nepomuceno에서 약 5일간 UTI 이송을 기다리다 6월 6일 약 300km 떨어진 Oliveira로 전용기로 이송됐으나 몇 시간 뒤 사망했다. 사망진단서의 사인은 패혈성 쇼크이며, 정확한 원인은 여전히 조사 중이다. 가족은 5월 19일부터 도입된 AI 기반 병상 규제 시스템 Core-MG가 중증도를 낮게 평가(의료진 판단 약 10점, 시스템 6.8점)해 대기 순번에 불리하게 작용했다고 주장한다. 주 보건국(SES-MG)은 환자를 즉시 등록했고, 시스템이 평가 기준과 병상 탐색 방식을 바꾸지 않았으며 의사 규제관이 각 사례를 판단한다고 밝혔다.

BMW 토론토 딜러, AI 챗봇이 낸 매입 제안으로 7,000달러 손실 (2026.6.11)

DB · AIID · 🚨

BMW 토론토 딜러점의 AI 챗봇 "Quinn"이 고객 Zack Giacomelli의 2021년식 BMW 매입가로 27,162.79달러를 제안했는데, 이는 고객의 남은 대출 잔액과 정확히 일치하는 금액이었다. 이후 딜러 직원이 전화로 해당 제안은 AI의 실수이며 무효라고 알렸고, 실제 매입가는 약 2만 달러로 7,000달러 넘게 차이가 났다. 고객은 대화 상대가 AI인 줄 몰랐고 챗봇도 스스로 AI라고 밝히지 않았다고 주장했으며, CBC News가 취재에 나서자 딜러는 원래 제안을 이행했다. 딜러 측은 AI가 대출 잔액을 매입 금액으로 오해했다고 설명했고, 앞으로는 사람 직원만 매입 제안을 하고 AI와 상호작용 중임을 고객에게 분명히 알리도록 절차를 바꾸겠다고 밝혔다.

딜러십, 잘못 작동한 AI 챗봇 탓하며 고객 BMW 매입 제안 철회 (2026.6.11)

DB · AIID · 🚨

토론토 BMW 딜러십의 AI 챗봇 "Quinn"이 고객 Zack Giacomelli에게 2021년식 BMW 매입가 27,162.79달러를 확정 제안했으나, 직원이 챗봇의 오류라며 제안을 철회하고 최대 2만 달러만 제시했다. 딜러십 측은 사람 직원의 의사소통 착오로 챗봇이 고객의 잔여 대출금을 매입가로 잘못 해석했다고 설명했다. CBC News가 취재에 나서자 딜러십은 원래 제안을 복원했고, 앞으로 매입 제안은 사람 직원만 제시하며 AI와 대화 중임을 고객에게 알리도록 바꾸겠다고 밝혔다. 전문가들은 2024년 Air Canada 판결처럼 캐나다에서는 챗봇의 잘못된 안내에 기업이 책임을 질 수 있다고 지적했다.

2026-06-10 (2건)

사우스플로리다 이민 변호사, AI 사기범들이 자신의 신원을 도용해 이민자들을 노린다고 밝혀 (2026.6.10)

DB · AIID · ⚖️🚨

사기범들이 사우스플로리다 이민 변호사 Angel Leal의 AI 생성 영상과 가짜 소셜미디어 계정을 이용해 허위 이민 서비스를 홍보하고, 취약한 이민자들에게 수천 달러를 요구하고 있다. 사기 영상은 WhatsApp 연락을 유도한 뒤 가짜 계약서를 보내며, 변호사 사무실은 지금까지 TikTok·Facebook·Instagram에서 가짜 계정 약 6,500개를 삭제했다. Leal은 전화나 Venmo·Zelle·Cash App 등을 통한 결제를 요구하는 경우 주의하고, 온라인 법률 서비스 제공자의 신원을 확인하라고 당부했으며 관계 당국에 수사를 요청할 예정이다.

주프 지 포라(Juiz de Fora) 시, 미나스제라이스주 신규 병상 중앙통제시스템(Core)에 맞서 공익소송 제기 (2026.6.10)

DB · AIID · ⚖️🏥🚨

주프 지 포라 시는 5월 19일 SUSFácil을 대체한 주 병상 배정 플랫폼 Core/MG가 데이터 이관 없이 도입돼 대기열 관리와 환자 이송에 혼선을 빚는다며 6월 9일 주 정부를 상대로 공익소송(ACP)을 제기했다. 앞서 검찰(MPMG)이 받은 가처분은 정부가 뒤집었고, Mar de Espanha에서는 32세 심리학자 Rebeca가 Core 기준으로 신경계 ICU를 찾다 6월 6일 사망해 유족과 연구자가 지역 특성을 반영하지 못하는 자동화 시스템을 비판했다. 주 보건국(SES-MG)은 Core 관련 규제 과정의 피해는 확인되지 않았다며 시스템 결함을 부인했다. 시 보건국은 최근 700명 이상이 "병행 규제"로 유입돼 지역 의료망에 부담이 크다고 밝혔다.

2026-06-07 (2건)

DOD용 AI incident·vulnerability 보고 프로그램 초안 제안(2026.6.7)

기타 · Wiley 법률( wiley.law ) · 🛡️🔒🚨

미 하원 군사위원회 산하 CITI 소위원회가 FY2027 국방수권법(NDAA) 초안(H.R. 8800)에 DOD 내 AI incident 및 취약점의 보고·추적·분석·시정(remediation)을 위한 중앙 프로그램을 제안했다. ‘covered AI incident’는 의도치 않은 피해를 유발(또는 유발 가능)하거나 승인된 가드레일을 벗어나거나 성능을 실질적으로 저하시키는 사건을 포함하며, ‘covered AI vulnerability’는 임무 성과에 중대한 영향을 주거나 무결성·안전 위험을 초래하거나 무단 행위를 야기할 수 있는 취약점/시스템적 문제로 정의된다. 국방장관이 담당 공무원을 지정하고, 군·민간 직원 및 연방 계약자/하도급자 등으로부터 보호된 공개(protected disclosures)를 받을 수 있도록 민감·독점·기밀 정보 보호 절차를 포함하되, 선의(good faith) 보고자에 대한 불리한 계약 조치 제한 등은 문구상 범위가 제한적일 수 있다고 설명한다.

Flock 번호판 판독기가 샌디에이고 남성을 폭력 범죄와 연결, 실제로는 8km 떨어진 곳에 있었다 (2026.6.7)

DB · AIID · ⚖️🚨

2025년 11월 26일 carjacking 시도 사건 후 샌디에이고 경찰은 Flock 번호판 자동판독(ALPR) "hit"와 현장 면식 확인을 근거로 휴고 파라와 아리엘 벨트란을 체포했다. 그러나 Flock 촬영 시각은 추격 개시 23초 뒤 약 5마일(약 8km) 떨어진 올드타운이어서 같은 차량일 수 없었고, 차량 수색에서도 무기가 나오지 않았다. 파라는 약 한 달간 구금되었다가 무기 사용 폭행·도주 혐의가 취하되었고, 두 사람은 시를 상대로 각 150만 달러를 청구했으나 시가 이를 거부해 곧 소송을 제기할 예정이다. 경찰과 시 검찰은 소송 진행 중이라며 논평을 거부했다.

2026-06-02 (1건)

기타 · Capitol News Illinois · ⚖️🚨

일정: 상원(SB315) 통과 후 하원에서 만장일치로 통과했으며, 현재 주지사(JB Pritzker) 승인 절차로 넘어감

일리노이 하원은 대형 AI 기업이 모델의 능력(capabilities)을 보고하는 방식에 대한 투명성과 책임을 의무화하는 법안을 통과시켰다. 이 법안(SB315)은 매출 5억 달러 및 대규모 컴퓨팅 지표 등 기준을 충족하는 ‘가장 강력한’ 모델 개발사를 대상으로, 회사가 산업 기준을 어떻게 적용하는지와 치명적 위험 가능성, 안전사고 대응 등을 담은 공개 프레임워크를 만들고 게시하도록 요구한다. 또한 제3자 감사인을 통한 준수 확인, 공개 성명서 제출 및 위반 시 민사상 제재(최대 300만 달러) 집행 권한을 일리노이 법무장관에 부여하는 내용이 포함됐다. 법안은 뉴욕·캘리포니아의 유사 입법을 모델로 했으며, 제3자 감사 요건의 주관성 우려 등은 일부 업계 측에서 제기됐지만 수정안으로 쟁점을 보완한 뒤 통과됐다.

2026-06-01 (1건)

🇪🇺 EU AI 법률 뉴스레터 103호: 8월 시행 카운트다운 (2026.6.1)

아카이브 · EU AI Act Newsletter · ⚖️📋🔓🚨

유럽연합 집행위원회는 고위험 AI 분류 지침 초안에 대한 의견을 2026년 6월 23일까지 받고 있으며, AI Office는 범용 AI 모델의 정의·시스템적 위험·오픈소스 모델 의무 등을 설명하는 FAQ를 공개했다. 폴란드 의회 디지털화·혁신·현대기술위원회는 AI Act에 맞춘 법안 초안을 채택했으며, 국가 감독기관에 기업 조사·제재·고위험 AI 허가 권한을 부여하는 내용이 포함됐다. 2026년 8월 2일부터 AI Office는 범용 AI 제공자에게 기술문서·학습데이터 요약·독립평가를 요구하고 시정조치나 모델 철회·리콜을 명령할 수 있으며, AI 투명성 의무가 적용되고 규제 샌드박스 설치 기한은 2027년 8월로 연기될 예정이다.