과학기술정보통신부는 「인공지능 발전과 신뢰기반조성 등에 관한 기본법」 제정안이 2024년 12월 26일 국회 본회의에서 의결됐다고 밝혔다. 법안은 국가 차원의 인공지능 거버넌스를 정립하고 인공지능 산업을 육성하며, 인공지능으로 인한 위험을 사전에 예방하는 내용을 담고 있다. 국무회의 의결과 공포 후 1년의 경과 기간을 거쳐 2026년 1월부터 시행될 예정이며, 정부는 2025년 상반기부터 하위법령과 가이드라인 마련 등 후속 조치를 추진할 계획이다.
인공지능 딥페이크는 사이버폭력, 성착취, 사기, 미디어 조작, 증거 조작, 선거 결과 왜곡 등 다양한 불법행위에 악용될 수 있다. 국내 법제는 주로 딥페이크 선거범죄와 디지털성범죄를 규제하는 반면, 미국·EU·영국·호주·중국 등은 범죄 대상과 위법성·면책 요건을 법률에 구체적으로 규정하고 있다. 보고서는 국내 형사처벌 요건을 명확히 하고, 사적 메신저와 해외 플랫폼을 포함한 온라인 플랫폼의 범죄정보 유통 방지 및 국내법 준수 방안을 마련할 필요가 있다고 제안한다.
유럽연합 집행위원회가 유럽 인공지능청의 법률 담당관과 정책 담당관을 모집하기 위한 관심 표명 절차를 시작했다. 지원 마감일은 2025년 1월 15일이며, 월급은 세금 제한 적용 후 약 4,100~8,600유로다. 지원자는 EU 회원국 시민권자이고 대학 학위와 두 개의 EU 언어 능력을 갖춰야 하며, 직무별로 EU 디지털 정책 또는 법률 분야에서 최소 3년의 경력이 필요하다.
산업통상자원부 국가기술표준원은 ISO와 IEC가 공동 발간한 인공지능 경영시스템 국제표준을 국가표준(KS)으로 도입한다고 예고했다. 제정안에는 AI 시스템의 계획 수립, 위험 대응·평가, 데이터 관리, 투명성 확보 등 기업의 AI 시스템 구축·운영·유지에 필요한 요구사항이 포함된다. 앞으로 2개월간 이해관계자 의견 수렴과 기술심의회 심의를 거쳐 2025년 상반기 중 제정을 완료할 예정이다.
딥페이크와 실제 정보를 구분하지 못해 발생하는 위험과 사회적 혼란을 줄이기 위해 AI로 생성·조작된 정보의 표시를 의무화하는 입법 방안을 제시한다. AI 모델 개발·제공자, AI 활용 제품·서비스 운영자, AI 이용자에게 대상별 의무를 부과하고, 온라인 플랫폼에는 미표시 콘텐츠의 삭제 또는 임시조치 체계를 마련하도록 하며, 정부는 관련 기술개발과 국제협력을 지원하는 방안을 검토할 수 있다고 설명한다.
국회입법조사처는 인공지능 기술의 윤리·저작권 관련 국내외 규제 동향을 분석하고 입법 방향을 제시한 보고서를 발표했다. 보고서는 EU 인공지능법과 미국의 행정명령 및 주별 규제를 검토하고, 인공지능 윤리 원칙의 규범력과 강제력 확보를 위한 정책·입법의 필요성을 강조했다. 또한 딥페이크 등 허위조작정보는 강하게 금지하되 인공지능 생성물 표시 의무는 현실적으로 설계하고, 규제 집행과 책임 분배를 위해 컨트롤타워를 마련할 것을 제안했다.
과학기술정책연구원은 AI 주권 확보를 둘러싼 국가 간 경쟁과 미국·EU·중국의 AI 관련 정책 동향을 분석하고, 한국이 산업 육성과 진흥에 초점을 두고 있다고 설명했다. 국내 AI 산업의 경쟁력과 규제 불확실성을 줄이기 위해 AI 통상규범을 마련하고 국제표준 논의에 적극 참여해야 한다고 제안했다. 또한 향후 쟁점이 될 디지털세에 대응하기 위해 주요국 입법 동향을 반영한 전략을 마련할 필요가 있다고 밝혔다.
보고서는 미국 역대 행정부의 AI 정책 변화와 세계 최고 수준의 AI 경쟁력을 유지·강화하기 위한 행정부·연방의회·연방거래위원회·빅테크 기업의 대응을 분석한다. 미국은 AI 안전·안심·신뢰·책임을 강조하며 대통령 주도의 정책 추진과 행정명령을 통해 관련 규범과 대책을 마련해 왔다. 또한 정부의 연구개발 투자와 입법 활동을 확대해 AI 지배력과 초강대국 지위를 강화하고, 자국 이익을 우선하는 글로벌 AI 규칙을 계속 만들 것으로 전망된다.
정보통신정책연구원은 유럽연합, OECD, IEEE, UNESCO, 미국 등의 인공지능 규율 동향을 분석하고 국내 입법 방향을 검토한 보고서를 발표했다. 유럽연합은 AI Act를 통해 인공지능 시스템을 직접적·포괄적으로 규율하려 하고 있으며, 국제기구들은 주로 연성 규범을 제시하고 미국은 행정명령과 법안으로 대응하고 있다. 보고서는 국내 법문화와 인공지능 시장의 특성을 반영한 입법 정책이 필요하다고 제안했다.
장악 카운티 경찰이 인공지능을 이용해 학생들의 얼굴을 활용한 누드 사진을 생성한 사건을 수사 중이다. 이 사건은 장악 카운티 데이 스쿨의 여러 여학생들의 얼굴을 무단으로 사용해 발생했으며, 피해 학생들은 심각한 정신적 고통을 겪고 있다. 경찰은 이 사건을 수사 중이지만, 현재 법적 기준에 따라 이 사진들이 불법으로 간주되지 않을 수 있어 부모와 학생들 사이에서 불만이 제기되고 있다. 이에 따라 펜실베이니아 주 상원의원들은 AI 생성 아동 성적 착취물을 금지하는 법안을 추진 중이다. 학교 측은 사건 발생 후 조사를 진행하고, 최근에는 학생들과 가족들에게 사이버 보안 교육을 강화하는 방안을 마련했다. 피해 학생은 이 사건을 통해 변화가 이루어지길 바라며, 앞으로는 평범한 학교 생활에 집중하고자 한다.
EU 인공지능법은 회원국에 국가 차원의 인공지능 거버넌스 구축, 법 집행, 사후 평가 등 총 88개의 책임을 부여한다. 회원국은 최소 한 곳의 통지기관과 시장감시기관을 지정해야 하며, 국가 규제 샌드박스 설치와 관련 당국의 독립적·공정한 운영도 추진해야 한다. 법은 2024년 8월 1일 발효되고 대부분 2026년 8월 2일부터 적용되지만, 금지행위 규정은 2025년 2월 2일, 거버넌스·범용 인공지능 모델 관련 규정은 2025년 8월 2일부터 적용된다.
미국 상원은 인공지능 혁신 지원을 비롯해 고영향 이용, 노동력, 국가안보, 선거와 민주주의, 투명성·저작권, 프라이버시·책임, 위험 보호조치 등 8개 분야의 입법·정책 방향을 담은 로드맵을 2024년 5월 15일 제시했다. 주요 내용에는 연구개발·인재·중소기업 지원, 인공지능으로 인한 일자리 변화 대응, 개인정보보호법 제정 검토, 생성 콘텐츠 규제, 인공지능 위험 관리체계 마련 등이 포함된다. 보고서는 인공지능의 변화를 지속적으로 관찰·분석하면서 진흥과 규제를 조화시키고, 우리나라에서도 합리적인 인공지능 법제화 방향을 모색해야 한다고 제안한다.
유럽연합은 EU AI Act를 통해 특정 고위험 AI 시스템 배포자가 사용 전에 기본권 영향평가를 실시하도록 규정했다. 미국은 연방정부의 AI 거버넌스·혁신·위험 관리를 강화하는 정책을 발표하고, 안전과 권리에 영향을 미치는 AI 위험을 관리하기 위한 최소 조치로 AI 영향평가 등을 권장했다. 양측은 영향평가 대상 시스템과 평가 주체·방법을 법률이나 정책에 명시하고 있으며, 국내에서도 관련 법적 근거와 제도적 지원이 필요하다고 제안한다.
과테말라 검찰(MP)은 수도 17구역 한 학교에서 여학생들의 사진을 이용해 AI로 음란물을 만든 혐의와 관련해 고소 6건을 수사 중이라고 밝혔다. 8월 10일 청소년형사사법 통합관리 모델(MAIJU)에 고소가 접수되며 수사가 시작됐고, 증인 진술 확보와 피해자 지원이 이뤄졌으며 인신매매 대응 검찰청도 함께 수사하고 있다. 교육부(Mineduc)는 위원회를 꾸려 정보를 수집하고 있으며 이후 학교에 대한 권고·제재를 결정할 예정이고, 부통령과 성폭력·착취·인신매매 대응 사무국(SVET), 국가검찰청(PGN)도 고소 제기나 법적 조치를 밝혔다. 학교 측은 학생들이 학교 밖에서 AI 도구를 오용했다고 주장했으며, 학부모와 경찰에 알리고 교육부 지침에 따라 관련 학생들을 분리했다고 밝혔다.
Suno는 공개 인터넷에서 접근 가능한 합리적인 품질의 음악 파일 수천만 건과 관련 텍스트 설명으로 모델을 학습했다고 법원 제출 문서에서 밝혔다. 회사는 저작권자의 허가나 보상 없이 저작물을 AI 학습에 사용할 수 있다는 Fair Use 주장을 펼칠 계획이며, 학습 데이터에 원고인 음반사들의 녹음물이 포함됐을 가능성도 인정했다. 이번 소송은 영리 목적의 생성형 AI를 위한 대규모 데이터 수집이 변형적 공정 이용에 해당하는지를 판단하는 중요한 법적 시험대가 될 전망이다.
방송통신위원회와 정보통신정책연구원은 인공지능 기술·정책 동향을 분석하고 이용자 보호 방안을 논의하기 위해 2024년 7월 19일 민관협의회 첫 회의를 열었다. 협의회는 학계·산업계·법조계·시민단체 등 전문가 36명으로 구성됐으며, 이원우 서울대 교수가 위원장을 맡았다. 방통위는 회의 의견을 반영해 2024년 하반기 중 인공지능서비스 이용자보호법을 마련하고 입법 절차를 진행할 계획이다.
한국산업기술진흥원은 유럽연합 인공지능법(AI Act)의 승인에 따른 우리나라의 대응 방안을 분석한 브리프를 발표했다. EU AI Act는 2024년 5월 최종 승인됐으며 단계적으로 적용된 뒤 2026년 전면 시행될 예정이다. 국내 AI 산업 육성을 위해 해외 주요국의 규제에 대비하고, 우리나라의 현실과 기업 육성 방향을 반영한 대응 방안 마련이 필요하다고 제시했다.
과학기술정책연구원은 중국이 AI를 과학기술·산업 변혁의 핵심 동력으로 활용하고, 기업과 산업의 연계를 강화하며 지역 AI 혁신 클러스터 간 협력을 확대하는 정책을 분석했다. 알리바바·바이두·바이트댄스의 AI 대형모델 가격 경쟁, 바이두·화웨이 중심의 지능형 커넥티드카 산업 확대 등 중국 IT기업의 시장 선점 움직임도 소개했다. 보고서는 한국에 핵심기업의 기술력과 산업 간 연계를 강화하는 정책, 한중 AI 협력 및 대안적 글로벌 협력망 확대, 육성과 윤리를 병행하는 종합적 AI 거버넌스와 이원화된 입법전략이 필요하다고 제안했다.
과학기술정보통신부는 제36차 신기술·서비스 심의위원회에서 ICT 규제샌드박스 제도 개선 방안을 발표하고, 신기술·서비스 23건에 규제특례를 지정했다. 인공지능 분야 규제샌드박스 과제 발굴·기획에 역량을 집중하고, 서울대학교병원의 국가전략기술 특화연구소 데이터플랫폼에는 실증특례를 부여했다. 도시정비사업의 전자적 동의와 온라인 총회 개최 서비스도 실증특례 대상으로 지정했으며, 유효기간이 만료된 이동형 가상현실 체험서비스 5건과 플랫폼 기반 임시 택시운전 자격 운영 6건은 임시허가로 전환했다.
대형 음반사들은 Udio와 Suno가 허가나 보상 없이 방대한 음악을 학습 데이터로 사용하고, 생성 결과물에서 유명 곡의 일부를 직접 재현했다며 각각 뉴욕과 매사추세츠에서 소송을 제기했다. 음반사들은 특정 시대·장르·아티스트를 겨냥한 프롬프트로 Bill Haley, Chuck Berry, Green Day, Mariah Carey 등의 곡과 유사하거나 가사를 복제한 결과를 반복적으로 얻었다고 주장했다. 이번 소송은 생성형 AI 서비스의 저작권 음악 학습과 결과물의 유사성, 그리고 이를 fair use로 볼 수 있는지를 둘러싼 주요 법적 다툼으로 이어질 전망이다.
이 글은 EU AI Act와 미국의 행정명령 14110을 중심으로 범용 인공지능 규제의 공통점과 차이점을 비교한다. EU는 범용 AI 모델의 투명성, 학습 데이터와 저작권 관련 정보 공개, 시스템적 위험 평가·완화 의무를 법적으로 부과하고 유럽 AI 사무소를 통해 중앙집중적으로 감독하려 한다. 미국은 행정명령과 NIST의 AI 위험관리 프레임워크 등을 통해 안전·보안, 개인정보, 시민권, 노동 및 정부 활용을 포괄하는 접근을 취하지만, 범용 AI를 대상으로 한 연방 차원의 별도 법률은 아직 마련되지 않았다. 글은 국제적 규제 정렬을 위한 수단으로 자발적인 G7 AI 행동강령도 논의한다.
한국지능정보사회진흥원은 프론티어 AI의 정의와 공통적 특징, 새롭게 부상하는 위협 및 실제 사례를 분석한 보고서를 발표했다. 보고서는 기존 법률만으로 규제하기 어려운 이유와 새로운 규제의 필요성, 예상되는 문제점 및 대응 노력을 다룬다. 또한 국제 AI 규제 기구 설립 움직임과 관련 보고서를 바탕으로 향후 AI 거버넌스의 방향을 탐색한다.
유럽 인공지능청은 유럽연합 집행위원회 산하 기관으로, 27개 회원국에서 범용 AI(GPAI) 모델과 시스템에 대한 인공지능법의 이행을 감독·집행한다. AI 모델의 역량과 시스템적 위험을 평가하고, 위반 조사·공동 조사 지원·시정 조치·시장 제한 등을 수행하며, 회원국 규제기관 간 협력을 조정한다. 또한 AI 이사회 사무국을 맡고 규제 샌드박스, 자발적 실행규범, 과학 전문가 패널 및 국제 AI 협력을 지원하며, 2024년 3월 27일 12시(CET)까지 AI 기술 전문가 채용을 진행했다.
여러 여성 유명인들이 자신이 등장하는 딥페이크 음란 영상에 대해 공개적으로 알리고 고소를 진행하고 있다. 공개하면 피해 예방에 도움이 될 수 있지만, 영상에 대한 관심과 조회를 늘릴 수 있다는 점에서 공개 여부가 딜레마가 되고 있다. 전문가는 피해자가 침묵하기보다 가해자와 시청자의 책임을 논의해야 하며, 피해자에 대한 연대가 필요하다고 말했다.
여러 네덜란드 여성 유명인들이 자신들의 얼굴이 합성된 딥페이크 포르노 영상이 유포된 것과 관련해 고소와 법적 조치를 검토하고 있다. 해당 영상 플랫폼은 월간 1,300만 명이 방문하는 것으로 알려졌으며, 법무장관은 피해자들에게 고소를 권고했다. 딥페이크 포르노는 복수 포르노에 해당해 형사 처벌 대상이 될 수 있으며, 피해자는 고소 외에도 집단소송이나 개인정보보호 당국 신고 등을 할 수 있다. 앞서 피해를 입은 방송인 Welmoed Sijtsma의 영상 제작자는 180시간의 집행유예 사회봉사형을 받았다.
이 글은 EU 인공지능법 발효 후 6개월부터 36개월까지 금지된 AI, 범용 AI(GPAI), 고위험 AI 시스템에 적용되는 주요 의무와 회원국 당국 지정·규제 샌드박스 설치 등의 일정을 정리한다. 유럽연합 집행위원회는 고위험 AI 기준, GPAI 관련 기술문서와 적합성 평가, 행동강령 및 규제 샌드박스 운영 등에 관한 위임법·시행법과 지침을 마련할 수 있다. 다만 본문은 작성 당시 기준의 일정으로 현재는 최신 일정이 아닐 수 있다고 명시한다.
리오아리바 카운티의 자매는 Flock Safety 카메라가 차량 번호판을 도난 차량으로 잘못 인식해 경찰에 정지당하고 수갑을 찼다며 에스파뇰라시를 상대로 소송을 제기했다. 자매는 사건 당시 12세 동생도 경찰 차량에 태워졌다며 불안과 공포 등 손해에 대한 배상을 요구하고 있다. 변호사는 감시카메라 오류나 입력 실수로 무고한 사람들이 무장 상태로 정지되는 일이 발생할 수 있다고 지적했으며, 과거에도 유사한 오인 정지 사건으로 소송을 제기했다.
언론 · 유럽의회 의정연구처(European Parliamentary Research Service, EPRS) · ⚖️
유럽의회 연구처(EPRS)는 2024년 채택된 EU AI Act가 EU 역내에 배치되는 AI 시스템과 범용 AI 모델에 적용되는 규칙을 정립하며, 집행은 회원국과 유럽집행위원회가 함께 수행하는 ‘하이브리드 집행 모델’이라고 설명했다. 또한 유럽 AI 보드, 독립 전문가 과학 패널, AI 자문 포럼이 집행을 지원한다고 밝혔다. 댓글에서는 특히 채용 등 고위험 사용사례에서 규정 이해를 넘어 인적 감독과 위험관리 관련 운영 로그·증빙을 갖추는 데 부담(책임 공백)이 생길 수 있다는 의견이 제시됐다.