AI 안전 다이제스트

2026-01-10 · 1건

알고리즘이 증거가 될 때: AI 딥페이크와 적법절차에 대한 경고 (2026.1.10)

DB · AIID · 🎭🚨

펜실베이니아 출신 멜리사 심스는 전 남자친구가 제출한 AI 조작 의혹 문자메시지가 검증 없이 증거로 받아들여져 이틀간 수감됐으며, 8개월 뒤 보석 조건 위반 혐의가 취하되고 원래의 가정폭력 혐의에서도 무죄를 선고받았다. 이 사건은 보석 위반이나 보호명령 사건처럼 신속하고 제한적인 심리가 이뤄지는 절차에서 디지털 증거가 특히 취약할 수 있음을 보여준다. 펜실베이니아는 2025년 7월 타인에게 피해를 주거나 착취·사기를 목적으로 한 AI 딥페이크 제작을 중범죄로 규정했지만, 기사에서는 법 집행기관과 법원이 증거를 처음부터 검증하도록 하는 인증 기준과 교육이 추가로 필요하다고 지적한다.