⚖️ 법

주제별 모아보기 · 2025년 121건
2025년 12월 (12건)

2025-12-31 (1건)

AI 혁신을 위한 「AI기본법」 개정안 국회 본회의 통과 (2025.12.31)

공공 · 과학기술정보통신부 · ⚖️

「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 개정안이 여야 합의로 발의된 9건의 개정안을 병합해 국회 본회의를 통과했다. 개정안은 국가인공지능전략위원회의 기능 강화, 인공지능연구소 설립 근거, 공공기관의 AI 제품·서비스 우선 도입, AI 창업 지원 펀드 조성 등을 담았다. 장애인·고령자 등 취약계층의 정책 참여와 저소득층의 AI 서비스 이용 비용 지원 근거도 마련했으며, 2026년 1월 22일부터 시행될 예정이다.

2025-12-24 (1건)

인공지능 데이터 활성화를 위한 규제 개선, ICT 규제샌드박스가 촉진한다 (2025.12.24)

공공 · 과학기술정보통신부 · ⚖️

과학기술정보통신부는 제43차 ICT 규제샌드박스 신기술·서비스 심의위원회를 열고 지자체 폐쇄회로 텔레비전(CCTV) 원본 데이터 활용 등 6건의 규제 특례를 지정했다. 개인정보보호위원회의 영상데이터 원본 활용 안전조치 기준을 준수하면 학습 후 인공지능 결과물만 반출해 지자체 관제 시스템 개선에 활용할 수 있다. 이를 통해 인공지능 경쟁력 강화와 재난·안전 상황에서 주민 안전 개선이 기대된다.

2025-12-23 (1건)

🇺🇸 AI 정책 뉴스레터: 뉴욕 AI 안전법·아일랜드 거버넌스 계획·OpenAI 청소년 안전 규정 (2025.12.23)

아카이브 · Alisar Mustafa · 📜⚖️🧒🤖🚀

미국에서는 뉴욕주가 첨단 AI 모델 규제를 담은 AI 안전법을 제정하고 캘리포니아주와의 정합성을 높이는 개정을 추진했으며, FERC는 AI 데이터센터 수용을 위해 PJM에 전력망 규정 개정을 지시하고 2026년 1월 19일까지 진행 상황을 보고하도록 했다. 아일랜드는 2026년 국가 AI 사무국 설치와 EU AI Act 이행 강화를 제안했고, 모잠비크는 UNESCO 지원으로 국가 AI 전략을 마련 중이며, 인도 오디샤주는 2026년 India AI Impact Summit을 앞두고 AI 정상회의를 개최했다. OpenAI는 청소년용 ChatGPT 안전 규정을 강화했고, FTC는 Instacart의 AI 가격 책정 도구를 조사했으며, Microsoft는 AI 에이전트의 개인 파일 접근에 명시적 동의를 요구하도록 Windows 11 정책을 개정했다.

2025-12-19 (1건)

🇪🇺 (2025.12.19) 유럽연합 집행위, AI Act 이행 지원 ‘AI Act Service Desk’와 ‘단일 정보 플랫폼’ 개시

공공 · 유럽연합 집행위원회(European Commission) 디지털 전략(Digital Strategy) · ⚖️📋

유럽연합 집행위원회는 AI Act의 원활하고 효과적인 이행을 지원하기 위해 ‘AI Act Service Desk’와 ‘AI Act Single Information Platform’을 개시했다. 단일 정보 플랫폼은 이해관계자가 AI Act 관련 정보를 한곳에서 확인하고 적용 방식과 맞춤형 이행 지침을 받을 수 있도록 설계됐으며, Compliance Checker·AI Act Explorer 등 디지털 도구와 FAQ·자료(회원국 제공 포함)를 제공한다. 또한 이해관계자는 온라인 양식을 통해 Service Desk에 AI Act 관련 질문을 제출할 수 있고, 플랫폼은 현재 3개 언어로 제공되다가 2026년 초 24개 공식 언어로 확대될 예정이다.

2025-12-16 (1건)

🇺🇸 AI 정책 뉴스레터: 미국의 단일 AI 규제 체계 추진과 각국의 규제 동향 (2025.12.16)

아카이브 · Alisar Mustafa · ⚖️🛡️

미국에서는 트럼프 대통령이 주(州) AI 규제를 제한하고 단일 연방 체계를 마련하는 행정명령에 서명했으며, Nvidia의 H200 중국 판매를 허용하고 국방·보건 분야의 AI 전략과 관련 법안을 추진했다. 유럽연합은 Google의 콘텐츠 활용 및 AI 학습 관행에 대한 반독점 조사와 데이터센터 환경 규제 완화안을 발표했고, 한국은 AI 생성 광고 표시와 처벌 강화를 2026년 1월부터 시행할 예정이다. 인도는 저작권 콘텐츠를 AI 학습에 사용할 때 창작자에게 보상하는 의무 로열티·포괄 라이선스 제도를 제안했다. OpenAI는 AI 동반자 챗봇 안전 규정을 담은 캘리포니아 주민발의안을 제출해 2026년 6월까지 서명을 모을 계획이며, eBay는 인간 검토 없는 AI 자동 구매와 데이터 수집을 제한했다.

2025-12-15 (1건)

🇪🇺 EU AI 법 뉴스레터 92호: AI 규제 샌드박스 협의 시작 (2025.12.15)

아카이브 · EU AI Act Newsletter · ⚖️

유럽연합 집행위원회는 AI 법에 따른 AI 규제 샌드박스 설립·운영 규칙 초안에 대해 2025년 12월 2일부터 2026년 1월 13일까지 의견을 받으며, 텍스트·데이터 마이닝 권리 유보 프로토콜에 대한 별도 협의도 2026년 1월 9일까지 진행한다. 뉴스레터는 AI 법 조화 표준의 개발 현황을 보여주는 매핑 웹사이트를 소개하면서, 최종 준수 판단에는 공식 법령과 관보 및 확정 조화 표준을 확인해야 한다고 설명한다. Future of Life Institute의 AI Safety Index는 주요 AI 기업 모두 초지능 시스템의 통제 상실 방지 분야에서 D 또는 F 등급을 받았다고 평가했다. 고위험 AI 규정 적용 연기 제안과 디지털 규제 간소화를 둘러싸고 회원국들 사이에서는 법적 불확실성과 더 큰 개혁 필요성에 대한 우려가 제기됐다.

2025-12-12 (1건)

Sharp HealthCare, 환자 동의 없이 진료실 대화를 몰래 녹음했다는 소송 제기 (2025.12.12)

DB · AIID · ⚖️🏥🚨

샌디에이고 상급법원에 제기된 집단소송 소장은 Sharp HealthCare가 올해 4월부터 AI 앱 Abridge로 의사-환자 대화를 녹음해 진료 기록 초안을 만들면서 환자에게 알리지 않고 동의 기회도 주지 않았다고 주장한다. 녹음된 음성은 업체 서버로 전송돼 직원이 검토할 수 있었고, Abridge가 환자가 녹음 사실을 안내받고 "동의했다"는 허위 내용을 차트에 자동 기입했다고 한다. 원고 Jose Saucedo는 7월 진료 기록을 읽다가 녹음 사실을 알았고, 소장은 캘리포니아 개인정보보호법과 의료정보비밀법 위반을 주장하며 손해배상, 의료 기록 정정, 동의 없는 AI 도구 사용 금지 명령을 요구한다. 소장은 10만 명 이상의 환자가 녹음됐을 수 있다고 추산하며, Sharp와 원고 측 변호인은 계류 중인 소송이라 언급을 거부했다.

2025-12-11 (1건)

인공지능 국가 정책 프레임워크 확보를 위한 행정명령 14365호 (2025.12.11)

공공 · whitehouse.gov · ⚖️🧒

이 행정명령은 주(州)별 AI 규제가 50개의 상이한 규제 체계를 만들어 기업에 부담을 준다는 이유로 최소 부담의 국가 AI 정책 프레임워크를 추진한다. 법무장관은 30일 내에 주 AI 법을 연방 헌법·선점 등을 근거로 다투는 AI Litigation Task Force를 설치해야 하며, 상무장관은 90일 내에 문제가 되는 주 법률을 식별·평가해 공표해야 한다. 이런 법률이 있는 주는 BEAD 프로그램의 비배치 자금 수급이 제한될 수 있고, 각 기관도 재량 보조금에 조건을 붙이는 방안을 검토한다. 또한 FCC는 주 법을 선점하는 연방 보고·공개 표준을, FTC는 AI 모델의 진실한 출력 변경을 요구하는 주 법의 선점 기준을 담은 정책성명을 각각 마련하며, 아동 안전·데이터센터 인프라·주 정부 조달 등은 입법 권고에서 선점 대상으로 삼지 않는다.

2025-12-10 (1건)

2025-12-04 (1건)

🇺🇸🇨🇳 GAIN AI 법안이 미국의 AI 패권을 약화시킬 수 있는 이유 (2025.12.4)

공공 · Brookings · ⚖️

미국 의회의 초당적 GAIN AI 법안은 우려국에 첨단 AI 칩을 판매하려는 기업에 미국 기업의 우선매수권 보장과 공급 잔고 관련 인증을 요구한다. 브루킹스는 이러한 공개·인증 요건이 협상을 위축시키고 미국산 AI 칩의 가격 경쟁력을 떨어뜨리며, 중국과 비미국 경쟁업체에 시장을 내줄 수 있다고 지적한다. 또한 미국의 AI 확산을 제한하는 요인은 칩보다 전력 부족에 가까우므로, 청정 에너지 확대와 AI 인재 유치, 혁신 친화적 정책에 집중해야 한다고 제안한다.

2025-12-01 (2건)

인공지능 시대에 걸맞은 규제 개선, 정보통신기술 규제 유예제도로 설계한다 (2025.12.1)

공공 · 과학기술정보통신부 · ⚖️

과학기술정보통신부는 2025년 12월 2일 정보통신기술 규제 유예제도(ICT 규제샌드박스) 성과공유회와 규제 개선 포럼을 개최한다. 포럼에서는 안전한 개인정보 활용, 저작물 공정 이용과 데이터 활성화, 인공지능 확산을 저해하는 규제에 대한 특례 적용 방안을 논의한다.

🇪🇺 EU AI 법 뉴스레터 91호: 내부고발 도구 출시 (2025.12.1)

아카이브 · EU AI Act Newsletter · ⚖️📋

유럽연합 집행위원회는 AI Act 위반 의심 사례를 EU AI Office에 익명·기밀로 신고할 수 있는 내부고발 도구를 출시했으며, EU 공식 언어로 제보하고 후속 질문에도 안전하게 답변할 수 있도록 했다. 집행위원회는 고위험 AI 규정의 적용 시기를 표준·지원 도구 마련 이후로 최대 16개월 연기하고, 중소기업 지원 확대와 규제 샌드박스 신설 등을 포함한 Digital Omnibus를 제안했다. 또한 2025년 12월 11~12일 고위험 AI 분류를 논의하는 온라인 워크숍을 개최할 예정이며, 관련 논의는 향후 지침 마련에 반영된다.

2025년 11월 (12건)

2025-11-27 (1건)

Hamburg Declaration on Responsible AI, 지속가능발전 목표를 위한 책임 있는 AI 원칙·이행 약속(2025.11.27)

K-AISI 주간동향 · BMZ Digital.Global (독일 연방경제협력개발부 BMZ) · 📜⚖️🎭

함부르크 지속가능성 컨퍼런스(HSC)에서 공공·기업·과학·시민사회 등 글로벌 리더들이 ‘지속가능발전목표(SDGs)를 위한 책임 있는 AI(Artificial Intelligence) 함부르크 선언’을 공동 채택했다. 선언은 AI가 인권을 준수하고 소외된 집단을 보호하며 허위정보(disinformation) 대응에 기여하도록 하는 원칙을 중심으로, AI 시스템의 자원 효율 개선, 여성·소녀의 AI 교육 접근 확대, 개발도상국의 지역 AI 혁신 성장 지원을 포함한다. UNDP와 BMZ가 HSC 2024부터 협력해 마련했으며, 정부·기업·시민사회가 포용적이고 지속가능한 AI 투자와 지역 혁신 지원 등으로 ‘약속을 행동으로’ 전환할 것을 촉구한다.

2025-11-26 (1건)

워너, AI 음악 기업 수노와 소송 합의 및 합작회사 설립 (2025.11.26)

DB · AIID · ⚖️🚨

워너뮤직그룹(WMG)은 AI 음악 기업 수노와의 소송을 해결하고 합작 사업을 시작하기로 했다. 아티스트가 동의하면 수노 이용자는 해당 아티스트의 목소리·이름·초상을 활용해 AI 생성 음악을 만들 수 있으며, 아티스트와 작곡가는 사용 방식에 대한 통제권을 갖는다. 수노는 2026년부터 라이선스를 확보한 새 모델을 도입하고, 이용자가 음원을 다운로드하려면 비용을 내도록 할 예정이다. 워너 등 음반사들은 수노와 유디오가 기존 음악을 무단 복제해 수익을 올렸다고 주장하며 소송을 제기해 왔다.

2025-11-25 (2건)

워너 뮤직 그룹, AI 기업 수노와 저작권 소송 합의 (2025.11.25)

DB · AIID · ⚖️🚨

워너 뮤직 그룹(WMG)과 AI 음악 플랫폼 수노가 저작권 소송을 종결하고, 아티스트 보상과 라이선스 기반 AI 모델 개발을 포함한 파트너십을 맺었다. WMG 소속 아티스트는 이름·음성·초상·작곡물을 AI 생성 음악에 사용할 수 있도록 선택적으로 동의하며, 수노는 2026년부터 라이선스 모델을 도입하고 무료 이용자의 곡 다운로드를 제한할 예정이다. 합의의 재정 조건과 참여 아티스트는 공개되지 않았으며, 수노는 WMG로부터 음악·공연 검색 플랫폼 Songkick도 인수했다.

워너 뮤직 그룹과 수노, 획기적 파트너십 체결 (2025.11.25)

DB · AIID · ⚖️🚨

워너 뮤직 그룹과 Suno는 아티스트와 작곡가를 보호·보상하는 라이선스 기반 AI 음악 개발과 새로운 수익·팬 참여 기회 창출을 위해 협력하며, 기존 소송도 해결했다. 2026년 Suno는 더 발전된 라이선스 모델을 출시하고 기존 모델을 종료하며, 무료 이용자의 음원 다운로드를 제한하고 유료 이용자에게 월별 다운로드 한도를 적용할 예정이다. Suno는 Warner Music Group으로부터 라이브 음악·공연 검색 플랫폼 Songkick도 인수하며, 아티스트와 작곡가는 이름·이미지·음성·작품의 AI 음악 활용 여부와 방식을 직접 선택할 수 있다.

2025-11-24 (1건)

🇰🇷🇺🇸 국회입법조사처·한국소비자법학회·한국법제연구원, 인공지능과 소비자법 공동 세미나 개최 (2025.11.24)

공공 · 국회입법조사처 · ⚖️

국회입법조사처는 한국소비자법학회·한국법제연구원과 함께 인공지능과 소비자법을 주제로 세미나를 개최했다. 세미나에서는 미국·일본·유럽의 소비자보호 관련 규제와 집행 동향, 국내 제도 적용 쟁점을 검토했다. 또한 인공지능 규율체계와 경쟁정책, 인공지능 기반 상거래 및 현행 소비자법의 한계를 논의하며, 소비자 신뢰·안전과 산업 혁신을 함께 고려하는 규범 및 집행체계의 방향을 제시했다.

2025-11-19 (2건)

워너뮤직그룹과 AI 스타트업 유디오, 저작권 음악 분쟁 합의 (2025.11.19)

DB · AIID · ⚖️🚨

워너뮤직그룹(WMG)은 저작권 음악을 AI 모델 훈련에 무단 사용했다는 의혹과 관련해 AI 음악 스타트업 유디오와의 소송을 종결하는 합의에 도달했다. 유디오는 라이선스를 받은 음악으로 훈련한 AI 모델을 활용해 내년 새 플랫폼을 출시하고, 참여를 선택한 아티스트와 작곡가의 음성·작곡을 활용한 리믹스·커버·신곡 제작을 지원할 예정이다. 참여 아티스트와 작곡가는 크레딧을 받고 수익을 지급받지만, 구체적인 참여자와 계약 조건은 공개되지 않았다. 앞서 유니버설뮤직그룹(UMG)도 유디오와 유사한 합의를 체결했다.

워너뮤직그룹과 유디오, 새로운 라이선스 음악 창작 서비스 구축 협력 (2025.11.19)

DB · AIID · ⚖️🚨

워너뮤직그룹과 Udio는 저작권 침해 소송을 해결하고, 라이선스를 취득한 음악으로 학습한 생성형 AI 기반 음악 창작·감상·발견 플랫폼을 2026년에 출시하기로 합의했다. 새 구독 서비스는 참여 아티스트의 목소리와 작곡가의 곡을 활용한 리믹스·커버·신곡 제작 기능을 제공하며, 아티스트와 작곡가에 대한 크레딧과 보상을 보장한다. Udio는 출시 전 권리 보호 조치를 확대하고, 완전한 라이선스 서비스로 전환하는 동안 기존 폐쇄형 서비스도 계속 제공할 예정이다.

2025-11-17 (1건)

🇪🇺 EU AI 법 뉴스레터 90호: 디지털 간소화 패키지 임박 (2025.11.17)

아카이브 · EU AI Act Newsletter · ⚖️📋

유럽연합 집행위원회는 디지털 간소화 패키지에서 고위험 AI 시스템 규정의 시행을 1년 늦춰 2027년 8월로 연기하는 방안을 제안할 것으로 예상된다. AI 생성 콘텐츠의 표시·라벨링을 위한 자발적 실천규범 마련도 시작됐으며, 관련 투명성 요건은 2026년 8월부터 적용될 예정이다. 유럽의회 사회민주당과 Greens/EFA는 이러한 개정안이 투명성·기본권 보호·AI 리터러시를 약화시킬 수 있다며 반대했고, 뉴스레터는 생물학적 AI 모델이 현행 지침의 규제 공백에 놓여 있다고 지적했다.

2025-11-12 (1건)

인공지능 산업 발전과 안전·신뢰 기반 조성을 위한 인공지능 기본법 시행령 제정안 입법예고 (2025.11.12)

공공 · 과학기술정보통신부 · ⚖️

과학기술정보통신부가 2026년 1월 22일 시행 예정인 인공지능 기본법의 위임사항을 구체화한 시행령 제정안을 마련해 12월 22일까지 국민 의견을 수렴한다. 시행령에는 연구개발, 학습용 데이터, 인재 양성, 해외 진출 등 산업 육성 기준과 투명성·고영향 인공지능·영향평가·사업자 책무 등 안전·신뢰 확보 방안이 담겼다. 생성형 인공지능은 AI 생성 사실을 고지·표시해야 하며, 제도 정착을 위해 최소 1년간 과태료 계도기간과 기업 대상 안내 플랫폼·비용 지원·전문가 컨설팅이 운영된다.

2025-11-11 (1건)

AI 혁신과 개인정보 보호, 공존의 해법 — AI 개발 데이터 수요에 대응한 개인정보 보호법 개편 방안 (2025.11.11)

공공 · 국회입법조사처 · ⚖️

우리나라는 기술·산업적으로 활용할 수 있는 데이터가 풍부하지만, 개인정보 보호법이 경직적으로 운영돼 AI 개발을 위한 데이터 활용에 어려움이 있다. 특히 인터넷에 공개된 개인정보와 기존 수집 데이터의 재활용을 뒷받침할 법적 근거가 부족해 AI 학습용 데이터 확보가 제한된다. 국회입법조사처는 변화한 기술 환경에 맞춰 법을 유연하게 개편하고 개인정보 보호와 데이터 활용의 균형을 마련할 필요가 있다고 제안했다.

2025-11-10 (1건)

🇪🇺 AI Act Service Desk, EU 로그인으로 질의 접수 및 개인정보 처리 안내(2025.11.10)

공공 · 유럽 집행위원회(EC) AI Office(공식 서비스 데스크) · ⚖️

유럽 집행위원회 AI Act Service Desk는 이해관계자가 AI Act 관련 질문을 AI Office에 제출할 수 있도록 하는 서비스다. EU Login으로 로그인(또는 계정 생성)한 뒤 신청서를 작성해 질문을 보내면 이메일로 접수 확인을 받으며, 답변과 후속 문의도 이메일로 제공된다. 개인정보는 개인정보보호 규정(규정(EU) 2018/1725)에 따라 처리하며, 관련 개인정보 처리 방식은 Privacy Statement에서 확인할 수 있다.

2025-11-05 (1건)

🇪🇺 EU AI법상 AI 수정: 분류와 규제 준수에 관한 실무 교훈 (2025.11.5)

공공 · EU 인공지능법 · ⚖️📋

기존 AI 시스템이나 GPAI 모델을 수정·통합·재목적화하거나 자체 제품으로 재브랜딩한 조직은 EU AI법상 제공자 지위를 얻어 추가적인 규제 준수 의무를 부담할 수 있다. 특히 고위험 AI 시스템의 실질적 변경이나 GPAI 모델의 일반성·역량·시스템적 위험을 크게 바꾸는 경우 책임이 원래 제공자에서 수정자에게 이전될 수 있으며, 위반 시 최대 1,500만 유로 또는 전 세계 연간 매출의 3%에 해당하는 과징금이 부과될 수 있다. 유럽연합 집행위원회 지침은 원래 모델 학습에 필요한 연산량의 3분의 1을 실질적 변경 판단의 참고 기준으로 제시했지만, 연산량이 적어도 모델의 행동과 위험을 크게 바꾸는 수정에는 충분하지 않을 수 있어 법적 불확실성이 남아 있다.

2025년 10월 (6건)

2025-10-30 (3건)

유니버설 뮤직과 AI 음악 도구 유디오, 소송 합의 및 신규 플랫폼 협력 발표로 논란 (2025.10.30)

DB · AIID · ⚖️🚨

유니버설 뮤직 그룹과 AI 음악 생성 플랫폼 유디오가 저작권 침해 소송에 합의하고 음원·출판물 라이선스 계약을 포함한 신규 음악 제작·스트리밍 플랫폼을 함께 개발하기로 했다. 양사는 내년 새로운 구독 서비스를 출시할 예정이며, 이용자는 곡 리믹스와 매시업을 할 수 있지만 플랫폼에서 만든 음악을 다운로드할 수는 없다. 다운로드 제한과 기존 곡 이용 방식 변경에 유료 이용자들이 반발하고 구독 취소를 예고했다.

유니버설 뮤직 그룹, AI 음악 스타트업 유디오와 합의 (2025.10.30)

DB · AIID · ⚖️🚨

유니버설 뮤직 그룹(UMG)은 저작권 음악을 AI 모델 학습에 사용했다는 의혹으로 유디오를 상대로 제기한 소송을 라이선스 계약 체결로 합의했다고 밝혔다. 유디오는 내년에 ‘승인 및 라이선스된 음악’만 학습한 새 플랫폼을 출시하고, 이용자의 음악 맞춤 설정·스트리밍·공유를 지원할 예정이다. 합의금과 계약의 재정 조건은 공개되지 않았으며, 아티스트는 새 플랫폼 참여를 선택하고 보상을 받을 수 있다.

유니버설 뮤직, Udio 저작권 소송 합의 및 라이선스 AI 음악 플랫폼 계약 체결 (2025.10.30)

DB · AIID · ⚖️🚨

Universal Music Group(UMG)은 AI 음악 플랫폼 Udio와의 저작권 침해 소송을 합의하고, 녹음·출판 음악에 대한 라이선스 계약을 체결했다. 양사는 2026년 출시를 목표로 음악 제작·소비·스트리밍 서비스를 공동 개발하며, 기존 Udio 서비스는 전환 기간 동안 fingerprinting과 filtering 등을 적용해 제한적으로 운영된다. 이번 합의는 AI 기업의 저작권 음악 학습을 둘러싼 Udio 및 Suno와 음반사 간 법적 분쟁이 이어지는 가운데 이뤄졌다.

2025-10-22 (1건)

AI 혁신과 개인정보 보호, 공존의 해법 — AI 개발 데이터 수요에 대응한 개인정보 보호법 개편 방안 (2025.10.22)

공공 · 국회입법조사처 · ⚖️

국회입법조사처는 AI 개발에 필요한 데이터 활용 수요에 대응하기 위해 개인정보 보호법 개편 방안을 제시한 보고서를 발표했다. 현행 법체계가 지나치게 경직돼 있다는 지적을 바탕으로, 기술혁신을 촉진하면서 개인정보 보호와 활용의 균형을 이루도록 법의 유연성과 기술 수용성을 높일 필요가 있다고 제안했다.

2025-10-21 (1건)

🇰🇷 모두의 AI를 위한 입법·정책 방향과 과제 (2025.10.21)

공공 · 국회입법조사처 · ⚖️🦾🎭

국회입법조사처와 정보통신정책연구원은 ‘모두의 AI’를 주제로 세미나를 열고, AI 생태계 전반을 아우르는 풀스택 확보, 자율형·물리적 AI 산업 생태계 조성, 포용적 AI 기본사회 구현, AI 생성물 표시를 통한 딥페이크 피해 예방을 주요 정책 방향으로 제시했다. 토론에서는 AI 규제의 합리화와 자율규제·공적 규제의 조화, 국내 디지털 플랫폼 경쟁력 강화, 소비자 권리 보호, AI 스타트업 육성 등이 논의됐다. 세미나는 2025년 9월 30일 국회입법조사처에서 개최됐다.

2025-10-10 (1건)

🇰🇷 한국 인공지능기본법의 내용과 사회보장제도 내 한계 (2025.10.10)

공공 · 한국보건사회연구원 · ⚖️

한국은 2025년 1월 21일 세계에서 두 번째로 인공지능기본법을 제정했으며, 법은 기본권 보장과 산업 진흥을 함께 다루되 산업 발전에 더 큰 비중을 둔다. 국가 조직과 지원 정책, 인공지능 관련 개념 등을 규정하지만 사회보장 등 개별 활용 분야에 관한 내용은 포함하지 않았다. 브리프는 시행령·시행규칙에 사회보장 관련 내용을 마련하고, 국가인공지능위원회에 사회보장제도를 대표하는 각계 인사를 참여시킬 필요가 있다고 제안한다.

2025년 9월 (16건)

2025-09-29 (1건)

🇺🇸 Claude Sonnet 4.5 최신 버전 출시 (2025.9.29)

기업 · Anthropic · ⚖️

Claude Sonnet 4.5는 세계 최고의 코딩 모델로, 복잡한 에이전트 구축과 컴퓨터 활용에 최적화되어 있으며 추론과 수학 능력에서 획기적인 향상을 보여줍니다. 이번 업데이트는 코드 편집 기능 강화, 터미널 인터페이스 개선, VS Code 확장 프로그램 추가 등 다양한 기능 향상을 포함하며, 특히 코드 진행 상태 저장 및 롤백 기능이 새롭게 도입되었습니다. 또한, 이 모델은 다양한 분야에서 뛰어난 성능을 보여주며 특히 금융, 법률, 의학, STEM 분야에서 이전 모델 대비 크게 향상된 도메인 특화 지식과 추론 능력을 제공합니다. 보안 측면에서도 개선되어 위험 감소에 기여하며, 개발자들을 위한 Claude Agent SDK도 공개되어 다양한 작업에 활용 가능합니다. 가격은 이전 버전과 동일하게 유지됩니다.

2025-09-26 (2건)

🇪🇺 AI Act: 중대 AI incident 보고 의무 관련 초안 가이던스·보고 템플릿 공개 및 의견 수렴(2025.9.26)

공공 · 유럽연합 집행위원회(European Commission) 디지털 전략(Digital Strategy) 웹사이트 · 📜⚖️🚨

공개협의 마감일: 2025.11.7 / 시행(의무 적용) 예정: 2026년 8월 유럽연합 집행위원회는 EU AI Act에 따른 고위험 AI 시스템 제공자의 ‘중대 AI incident’ 보고 의무(제73조)와 관련해 초안 가이던스 및 보고 템플릿을 공개하고 이해관계자 의견을 요청했다. 초안은 정의를 명확히 하고 실무 예시를 제공하며, 해당 의무가 다른 법적 보고 의무와 어떻게 연계되는지 설명한다. 또한 OECD의 AI Incidents Monitor 및 Common Reporting Framework 등 국제 이니셔티브와의 정합성을 추구한다고 밝혔다.

🇰🇷 AI와 로봇 산업의 진짜 성장을 위해 거미줄 규제 걷어낸다 (2025.9.26)

공공 · 산업통상자원부 · ⚖️🦾

산업통상자원부는 2025년 제3차 산업융합 규제특례심의위원회에서 AI·로봇·에너지 분야 산업융합 규제샌드박스 과제 40건을 심의·승인했다. 에이로봇은 AI 탑재 이족보행 휴머노이드 로봇을 산업현장에서 실증하고, 아이브이에이치는 실제 주행 영상으로 합성데이터를 생성해 자율주행 AI 모델 학습·평가에 활용한다. 한국철도태양광발전사업은 철길에서 전기를 생산하는 사업을 실증한다.

2025-09-24 (1건)

🇪🇺 유럽 집행위, 범용 AI Code of Practice 최종본 공개(2025.9.24)

K-AISI 주간동향 · 유럽 집행위원회(EC) 디지털 전략(Digital Strategy) 웹사이트 · ⚖️📋

범용 AI 관련 AI Act 적용은 2025.8.2부터 시작, 집행 가능 시점은 신규 모델 1년 후·기존 모델 2년 후이며, 회원국·집행위 승인 후 서명 사업자는 AI Act 의무 준수 입증에 활용 가능

유럽 집행위원회는 13명의 독립 전문가가 이해관계자 1,000여 명의 의견을 반영해 마련한 범용 AI Code of Practice 최종본을 받았다고 밝혔다. 이 자발적 도구는 AI Act의 범용 AI 규정 준수를 돕기 위한 것으로, 투명성·저작권(모든 제공자 대상)과 안전·보안(일부 고성능 모델 제공자 대상)으로 구성된다. 회원국과 집행위가 승인하고 사업자가 자발적으로 서명하면 코드 준수를 통해 관련 의무를 입증할 수 있으며, 다른 방식 대비 행정 부담을 줄이고 법적 확실성을 높일 수 있다고 설명했다.

2025-09-23 (2건)

🇪🇺 EU 집행위 AI Act ‘고위험’ 분류·의무 적용에 대해 별도 가이던스 제공 예고(2025.9.23)

언론 · MLex · ⚖️

EU 집행위 AI Office가 EU 국가들에 대해 고위험 시스템의 분류 기준과 AI value chain 상의 각 행위자별 의무 적용 방식을 다루는 별도 가이던스를 제공할 계획이라고 밝혔다. MLex가 확인한 문서에 따르면, 기존 가이던스와 분리해 고위험 범주 설정 및 의무 적용 방식을 더 구체화하려는 취지다.

🇪🇺 Sixth AI Pact webinar on the General-Purpose AI Models and Code of Practice (2025.9.23)

공공 · 유럽연합 집행위원회 디지털전략(디지털 스트래티지) 웹사이트 · ⚖️📋

2025년 8월 2일 AI Act상 GPAI 규칙 적용 시작에 맞춰, 2025년 9월 23일(11:00-12:30 CEST) 웨비나로 규정·이행 경로와 투명성 템플릿을 안내

유럽연합 집행위원회는 2025년 9월 23일 ‘AI Pact’ 시리즈 웨비나에서 일반목적 AI(GPAI) 모델의 규제 개념, 제공자 책임, 시장 출시 기준 등 AI Act 관련 가이드라인을 설명했다. 또한 업계의 자율 Code of Practice가 법적 확실성을 높이고 행정 부담을 줄여 준다는 점과, AI Act의 훈련데이터 투명성 요건을 위한 공개 요약 템플릿(Commission template) 구조·요구사항을 다뤘다. 웨비나는 2025년 8월 2일 GPAI 규칙 적용 전후로 이해를 돕기 위한 이행 지원 성격이며, 유럽 AI Office가 관련 가이드라인과 템플릿을 공개했다고 밝혔다.

2025-09-16 (1건)

🇪🇺🇰🇷 인공지능 젠더편향 대응을 위한 법제화 과제 (2025.9.16)

공공 · 한국여성정책연구원 · ⚖️📋📏

인공지능의 의사결정 편향과 성차별을 방지하기 위해 유럽연합 인공지능법안 등을 검토하고 국내 법제화 방향을 제시했다. 주요 과제로 성별 차별 금지 명시, 잠재적 편향·차별을 위험관리 대상에 포함, 공정성 기준과 표준화된 완화 지침 마련, 사업자 기술 지원, 관리·감독 및 제재, 인공지능 위험 평가 의무화를 제안했다.

2025-09-15 (2건)

🇺🇸 Anthropic 경제 지수 보고서: 지리적 및 기업별 AI 채택의 불균형 (2025.9.15)

기업 · Anthropic · ⚖️🚀

본 보고서는 AI의 빠른 채택 속도와 그 지리적, 기업별 채택 패턴의 불균형을 분석한다. 2023년 대비 2025년 현재 미국에서만 직원의 40%가 업무 중 AI를 사용하고 있으며, 이는 기존 기술의 채택 속도와 비교했을 때 현저히 빠르다. AI 채택은 고소득 국가와 특정 산업 분야에서 더 집중적으로 이루어지고 있으며, 이는 경제적 수렴을 저해할 수 있는 잠재력을 지닌다. 기업들은 AI를 프로그래밍적으로 활용하여 업무 자동화와 인간-AI 협업을 강화하고 있으며, 이러한 패턴은 모델의 능력과 경제적 가치에 크게 의존한다. 보고서는 이러한 경향을 측정하기 위해 새로운 지표인 Anthropic AI Usage Index (AUI)를 도입하고, 오픈 소스로 데이터를 공개하여 독립적인 연구를 촉진한다. 주요 질문으로는 AI 채택이 지역 노동 시장에 미치는 영향, 경제적 불평등을 증가시키지 않도록 하는 방법 등이 포함된다.

🇺🇸 Anthropic 경제 지수: AI의 미국 및 글로벌 경제 내 역할 추적 (2025.9.15)

기업 · Anthropic · ⚖️🚀

Anthropic의 최신 경제 지수 보고서는 AI, 특히 Claude의 사용 패턴을 지리적으로 분석합니다. 주요 요약:

- 국가별 분석: 미국이 Claude 사용에서 가장 앞서 있으며, 인도와 브라질이 그 뒤를 잇습니다. GDP 대비 Claude 사용률은 소득 수준과 강한 상관관계를 보입니다. 고소득 국가에서는 자동화 작업이 더 자주 수행되지만, 사용 패턴은 협업적인 방식으로 나타납니다. - 미국 주별 분석: 경제 구조가 Claude 사용률에 영향을 미치며, 예를 들어 하와이는 관광 관련 작업에서, 캘리포니아는 코딩 관련 작업에서, 뉴욕은 금융 관련 작업에서 Claude를 더 많이 사용합니다. - 시간 경과에 따른 변화: 2024년 12월부터 2025년 9월까지의 데이터를 분석한 결과, '지시적 자동화' 작업의 비율이 급격히 증가하여 AI의 책임과 사용자 신뢰가 높아지고 있음을 보여줍니다. - 기업 사용: Anthropic의 API 고객(주로 기업과 개발자)은 코딩 및 행정 작업에 Claude를 더 집중적으로 사용하며, 자동화 작업에도 더 많이 의존합니다. 이는 향후 노동 시장에 큰 영향을 미칠 가능성을 시사합니다.

Anthropic은 이러한 데이터를 공개적으로 제공하여 사용자들이 지역별 또는 직업별 Claude 사용 패턴을 탐색할 수 있도록 인터랙티브 웹사이트를 제공하고 있습니다.

2025-09-11 (1건)

🇰🇷 1,100만 건의 공공저작물, 독자 AI 파운데이션 모델 학습에 개방 (2025.9.11)

공공 · 과학기술정보통신부 · ⚖️🔒

과학기술정보통신부는 제42차 ICT 규제샌드박스 심의위원회에서 공공누리 공공저작물 약 1,180만 건을 AI 학습에 활용할 수 있도록 실증특례를 부여하는 등 총 8건의 규제 특례를 지정했다. 이를 통해 국내 독자 AI 파운데이션 모델 개발을 지원하고, AI 숏폼 홈쇼핑, 반려동물병원 의약품 관리, 보이스피싱 탐지, 중고차 점검기록부 전자고지 등의 서비스 출시를 촉진할 계획이다.

2025-09-10 (1건)

🇰🇷🇺🇸 인공지능(AI) 3대 강국 도약을 위한 양손잡이 전략: 자원·인프라 공급과 경쟁력 있는 시장 환경의 균형 (2025.9.10)

공공 · 국회입법조사처 · ⚖️

국회입법조사처는 한국의 AI 3대 강국 도약을 위한 정책과제를 제시한 보고서를 발표했다. 정부는 1만 장 이상의 GPU 확보와 한국형 AI 모델 개발을 위한 정예팀 육성 등 자원·인프라 공급 정책을 추진하고 있지만, 주요국의 대규모 투자와 미국 AI 기업의 GPU 운영 규모를 고려하면 공급 정책만으로는 한계가 있다고 분석했다. 이에 따라 자원·인프라 공급 정책과 함께 경쟁력 있는 AI 시장 환경을 조성하는 수요 측 정책을 강화하는 양손잡이 전략이 필요하다고 제안했다.

2025-09-08 (1건)

🇺🇸 Anthropic 지지하는 캘리포니아 법안 SB 53 발표 (2025.9.8)

기업 · Anthropic · ⚖️🚀🚨

Anthropic은 캘리포니아 주의 AI 규제 법안인 SB 53을 지지한다고 발표했습니다. 이 법안은 강력한 AI 시스템을 개발하는 선두 AI 기업들을 대상으로 하며, 투명성 요구 사항을 통해 '신뢰하지만 검증하라'는 원칙을 구현합니다. 주요 내용으로는 안전 프레임워크 개발 및 공개, 위험 평가 보고서 공개, 중대한 안전 사고의 신속한 보고 등이 포함되어 있습니다. 이러한 규정은 이미 많은 선두 AI 기업들이 따르고 있는 관행을 법적으로 정립하며, 강력한 AI 모델 개발에 대한 규제 부담을 적절히 조정하여 스타트업과 중소기업을 보호합니다. Anthropic은 이 법안이 공공 안전을 위한 투명성을 강화하고 공정한 경쟁 환경을 조성할 것으로 기대하고 있습니다.

2025-09-05 (1건)

🇺🇸 Anthropic, 저자 집단 소송 합의로 최소 15억 달러 지급(2025.9.5)

K-AISI 주간동향 · CNBC · ⚖️🚀

합의금 승인 시 역사상 최대 규모로 공개된 저작권 회수 사례가 될 수 있으며, 법원은 Library Genesis·Pirate Library Mirror 관련 침해 여부를 판단하기 위한 재판을 진행해 왔음

Anthropic이 저자 집단의 저작권 침해 소송을 합의하며 최소 15억 달러를 지급하기로 했다고 소송 서류가 전했다. 저자들은 AI 스타트업이 자신들의 책을 불법적으로 접근해 학습에 사용했다고 주장했으며, 합의가 승인되면 책 1권당 약 3,000달러와 이자를 지급하고 문제로 지목된 데이터셋을 파기하기로 한 것으로 알려졌다. 미국 캘리포니아 북부지방법원에서 진행된 사건은 앞서 일부 사용이 fair use라는 판단이 있었지만, Library Genesis와 Pirate Library Mirror에서 얻은 자료의 취득 과정이 저작권 침해인지 여부는 재판 대상이 됐다.

2025-09-04 (2건)

🇺🇸🇰🇷 미국 ‘America-First’로 AI용 고성능 GPU를 자국 우선 공급하고, 해외 판매는 제한하는 GAIN AI Act 추진(기사·공고 게재일 2025.9.4)

K-AISI 주간동향 · 더 레지스터(El Reg) · ⚖️🛡️🗳️

미국 상원의원 Jim Banks가 2025년 국방수권법(NDAA) 개정안 형태로 발의했으며, 의회 통과 및 대통령 서명 시 수출 라이선스 심사에서 ‘미국 구매자 우선거절권’과 국내 수요 충족 후 해외 판매 의무가 적용될 수 있음

미국 상원의원 Jim Banks가 ‘Guaranteeing Access and Innovation for National Artificial Intelligence(GAIN AI) Act of 2025’를 통해 고성능 AI 칩의 수출을 제한하고, 미국 구매자에게 우선권을 주는 규정을 추진한다. 법안은 성능 상한을 넘는 advanced semiconductors의 수출에 대해 미국 상무부 승인과 함께, 수출 대상국에 라이선스를 내기 전 미국 구매자의 right-of-first-refusal을 인증하도록 요구한다. 또한 국내 수요를 먼저 충족한 뒤에야 해외 판매가 가능하도록 해, Nvidia 등은 공급망 현실을 오해한 ‘doomer science fiction’이라며 반대 입장을 밝혔다.

🇪🇺 투명한 생성형 AI 시스템 ‘행동강령(Code of Practice)’ 제정 참여자 모집 (2025.9.4)

K-AISI 주간동향 · EU-Digital-Strategy · ⚖️📋🎭

유럽 AI Office는 생성형 AI 시스템 제공자, 투명성 기법 제공자, 해당 AI 시스템 배포자 협회, 시민사회, 학계 전문가 등에게 행동강령 제정 참여 의사를 요청했다. 이 행동강령은 AI Act 제50조의 투명성 의무(2026.8.2 시행)에 대한 준수 방식을 제시하며, 인위적으로 생성·조작된 콘텐츠는 machine readable marks로 식별 가능해야 하고 딥페이크 등 공익 관련 정보 목적의 게시물에는 생성·조작 여부를 공개해야 한다. 초안 작성은 2025년 10월 시작해 약 10개월이 소요될 예정이며, 2025년 9월 4일 시작된 병행 협의 결과를 반영해 작업그룹이 초안을 단계적으로 마련한다.

2025-09-02 (1건)

🇺🇸 OpenAI, 한 달 내 ChatGPT용 parental controls 출시 계획(2025.9.2)

언론 · MLex (mlex.com) · ⚖️🚀

OpenAI는 부모가 자녀 계정을 연결하고 연령에 맞는 응답을 설정하며, chat history·memory 같은 기능을 끄고 ‘acute distress’ 상황에 대한 알림을 켜는 parental controls를 다음 달 내 제공하겠다고 밝혔다. 또한 장시간 세션 중 휴식을 유도하는 in-app reminders 등 기존 사용자 대상 기능도 함께 언급했다. 해당 발표는 한 주 전, 자녀의 자살 이후 부모가 OpenAI와 CEO Sam Altman을 상대로 제기한 소송 보도와 맞물려 나온 것으로 전해졌다.

2025년 8월 (20건)

2025-08-29 (1건)

🇪🇺 EU AI Act 연기 여부, “아주 곧” 결정 전망(2025.8.29)

언론 · MLex · ⚖️📏

유럽 집행위원회가 EU의 핵심 AI 법(AI Act) 관련해 특정 조항의 적용을 연기하는 방안을 제안할지 “아주 곧” 결정할 것이라고 MLex가 전했다. 집행위는 고위험 AI 시스템의 개발자·사용자에 적용되는 일부 법적 의무를 잠정 중단할 가능성과 관련해 표준화 작업의 진행 상황을 평가 중이며, 이로 인한 법적 불확실성과 기술 업계의 로비가 이어지고 있다고 설명했다.

2025-08-27 (2건)

NYPD 얼굴인식 오인으로 남성이 부당 체포·구금된 사건, 시민단체가 조사 요구(2025.8.27)

K-AISI 주간동향 · ABC7 New York · ⚖️

인권·프라이버시 단체들은 성범죄 피해자 진술과 신체조건이 맞지 않는 남성이 얼굴인식 기술의 ‘오인 매치’로 체포돼 2일간 구금됐다고 주장하며 NYPD의 사용을 조사해야 한다고 요구했다. Legal Aid Society는 당국에 보낸 서한에서 NYPD가 승인된 사진 데이터베이스 밖의 자료를 활용하거나, 규정상 제한된 범위를 피하기 위해 다른 시 기관(예: FDNY)을 동원한다는 패턴을 제기했다. NYPD는 얼굴인식만으로 체포하지 않는다고 밝혔지만, 단체들은 알고리즘의 편향과 문서화 회피 의혹, 관련 소송에서의 규정 우회 판단 등을 근거로 즉각적인 금지 등 조치를 촉구했다.

🇺🇸 Anthropic, 정부·국방 AI 배치를 돕는 11인 ‘National Security and Public Sector Advisory Council’ 공개 (2025.8.27)

언론 · Tom's Hardware · ⚖️🛡️🚀

2025.8.27 기준, Claude Gov는 Lawrence Livermore National Laboratory에서 운영 중이며 연방기관에 상징적 $1 가격으로 제공된다고 소개됨

Anthropic은 Claude의 미국 국방·정부 적용을 안내하기 위한 11인 자문기구 ‘National Security and Public Sector Advisory Council’을 2025.8.27 공개했다. 이 위원회에는 전직 미 상원의원과 정보기관 책임자 등이 포함되며, Pentagon의 Chief Digital and Artificial Intelligence Office와의 2억 달러 규모 프로토타입 계약 및 Claude Gov 제공(연방기관 상징적 $1)과 함께 공공부문 진입을 추진하는 흐름으로 설명된다. 또한 Rainier(AWS Trainium 2 기반)와 FedRAMP-compliant Vertex AI 등 인프라·컴퓨트 접근을 확보하려는 전략이 강조되며, 경쟁사들은 주로 Nvidia GPU 또는 TPU 파이프라인에 기반한다고 비교했다.

2025-08-26 (1건)

16세 아들의 자살 사망에 대해 유가족이 ChatGPT 책임 소송 제기(2025.8.26)

K-AISI 주간동향 · NBC 뉴스(nbcnews.com) · ⚖️🧪

NBC 뉴스에 따르면, 16세 아들의 자살 이후 유가족은 아들이 ChatGPT를 통해 자살을 준비하고 ‘suicide coach’처럼 의존했다고 주장하며 OpenAI와 샘 알트먼을 상대로 소송을 냈다. 소송은 ChatGPT가 자살 시도와 “며칠 안에 하겠다”는 발언 등을 인지했음에도 세션 종료나 긴급 프로토콜을 실행하지 않았다고 지적한다. 이에 대해 OpenAI는 위기 대응 가드레일과 위기 헬프라인 안내 등을 언급하면서도, 장시간 대화에서는 안전장치가 덜 신뢰적일 수 있어 지속 개선 중이라고 반박했다. 또한 유가족은 대화 로그를 근거로 자살 방법 관련 조언과 자살 메모 작성 도움 등이 있었다고 주장했다.

2025-08-21 (1건)

🇫🇷🇰🇷 AI 위험 논의 국제정상회의가 규범 형성에 기여했지만, 프랑스 회의처럼 의제가 분산되면 ‘가드레일’ 구축은 약해질 수 있음 (2025.8.21)

기타 · globaldispatches.org · 📜⚖️🚀

Bletchley Park(2023)에서 시작된 AI 안전·보안 위험 논의 정상회의는 이후 서울(2024), 파리(2025)로 이어졌고, 2026년 인도에서 다음 회의가 예정돼 있다. 인터뷰에 따르면 이 과정은 대화의 분위기를 바꾸고 영국의 AI Safety Institute 설립, 미국 등 유사 기관 확산에 영향을 줬으며, 특히 서울에서 기업들이 한 자발적 약속이 EU의 frontier AI 규제 논의(예: AI Act)로 이어지는 데 기반이 됐다고 본다. 다만 프랑스 회의는 안전·보안 의제를 상대적으로 축소하고 AI 거버넌스 참여 확대, 접근성, 일자리 등 사회 이슈에 더 초점을 둬 ‘가드레일’ 구축 관점에서는 보완이 필요하다는 평가가 나온다.

2025-08-20 (2건)

🇺🇸 미국 주(州)별 AI 입법 동향: 딥페이크·정부 사용·비동의 성적 이미지·자동화 의사결정 중심, 연방은 진전 위협 가능(2025.8.20)

K-AISI 주간동향 · 브루킹스연구소(Brookings) · ⚖️🗳️🎭

미국에서 AI 관련 입법이 주(州) 단위로 빠르게 확산되고 있으며, 2025년에는 47개 주가 AI 관련 법안을 발의하고 22개가 통과된 것으로 분석됐다. 법안은 시민 보호를 목표로 ‘prohibit’와 ‘disclosure’ 같은 표현이 자주 등장하며, 딥페이크·비동의 성적 이미지(NCII)·선거 관련 조항·생성형 AI 투명성·자동화 의사결정(고위험 AI)·정부의 AI 사용 등이 주요 테마로 나타났다. 민주당 주도 법안은 규제 강도가 높은 포괄형 접근을 더 많이 내는 경향이 있고, 공화당 주도는 상대적으로 가벼운 규제 또는 혁신 촉진에 무게를 두는 사례가 제시됐다. 또한 콜로라도의 ‘AI Act’처럼 고위험 AI에 대한 의무와 설명권을 강조하는 모델을 따르려는 시도도 있으나, 일부 주 법안은 위원회에서 폐기되는 등 성과가 엇갈렸다.

오터닷에이아이, 동의 없는 회의 녹음 혐의로 집단소송 제기 (2025.8.20)

DB · PPC 랜드 · ⚖️🚨

저스틴 브루어는 오터닷에이아이의 Otter Notetaker가 Zoom·Google Meet·Microsoft Teams 회의 참가자 전원의 동의 없이 대화를 녹음·전사하고, 이를 음성인식 및 머신러닝 모델 훈련에 사용했다며 연방 및 캘리포니아 개인정보보호법 위반을 주장하는 집단소송을 제기했다. 소장은 기본 설정에서 사전 녹음 알림이 꺼져 있고, 녹음 데이터의 비식별화와 보관 방식도 불투명하다고 주장한다. 원고 측은 500만 달러 초과 손해배상, 향후 무단 녹음 금지, 관련 정보 파기와 AI 훈련으로 얻은 이익의 반환 등을 요구했다.

2025-08-19 (1건)

호주, 전용 AI 법안(AI Act) 추진을 사실상 철회하고 ‘Australian approach’로 전환(2025.08.19)

K-AISI 주간동향 · Information Age(ia.acs.org.au) · ⚖️

호주 정부가 AI Act와 같은 전용 인공지능 입법 계획을 버리고, 기존 저작권·프라이버시 등 현행 법을 활용한 ‘가벼운 규칙’ 중심으로 접근할 것으로 전해졌다. 산업·혁신·과학 장관 팀 에이어스는 규제는 개별 위해를 정밀하게 다루고 효과적으로 시행돼야 하며, 향후 몇 달간 질문을 검토해 호주 여건에 맞는 규제 방안을 마련하겠다고 밝혔다. 반면 그린스 상원의원 데이비드 쇼브리지와 야당은 전용 규제 부재를 위험하거나 우려된다고 비판했으며, 노동조합의 작업장 AI 도입 관련 ‘거부권’ 요구에 대해서도 반대 입장을 전했다.

2025-08-14 (1건)

🇬🇧 영국 정부, 7개 경찰에 라이브 얼굴인식(LFR) 밴 10대 추가 배치(2025.8.14)

K-AISI 주간동향 · BBC · ⚖️📋🧪

영국 내무부는 7개 경찰에 LFR 밴 10대를 추가로 제공해 용의자(성범죄, 폭행, 살인 등) 탐지에 활용하고, 런던에서 12개월간 580명 체포(등록 성범죄자 52명 위반 포함) 성과를 제시했다. 반면 시민단체 Big Brother Watch와 인권단체는 감시 확대와 법적 근거·프라이버시·집회 자유·오인 가능성을 우려하며 추가 배치를 중단하고 입법적 안전장치 마련을 요구했다. 정보보호감독기구(ICO)는 얼굴인식 기술이 데이터보호법의 적용을 받으며 적법·공정·비례해야 한다고 밝혔고, 내무부는 표지(signposting)와 보관 기간 제한, 경찰 가이드라인 준수 및 알고리즘의 정확성·편향 부재(인종·연령·성별) 점검 결과를 강조했다.

2025-08-13 (1건)

미시간 상원, 성적 deepfake 금지안 통과(2025.8.13)

K-AISI 주간동향 · Bridge Michigan · ⚖️🎭

성적 deepfake(실존 인물을 성적으로 허위 묘사한 사진·영상) 제작·배포를 범죄화하는 2개 법안이 미시간 상원을 만장일치·초당적으로 통과했다. 1회 위반은 경범죄로 최대 1년 징역 또는 최대 3,000달러 벌금(또는 병과), 재범은 중범죄로 최대 3년 징역 및 5,000달러 벌금이 적용된다. 법안은 기술기업에 대한 면책 조항이 포함돼 하원에서 변경사항을 다시 표결해야 하며, 이후 주지사 그레천 휘트머 서명 절차로 넘어갈 수 있다. 한편 하원·상원에선 성인물 접근 전 연령확인을 요구하는 별도 법안도 논의 중이며, 가을에 상원 버전 청문회가 예상된다고 전했다.

2025-08-12 (1건)

🇺🇸 Anthropic, 정부 세 기관에 저렴한 Claude AI 접근성 확대 제공 (2025.8.12)

기업 · Anthropic · ⚖️🛡️🚀

Anthropic은 연방 민간인 행정부 기관, 입법부, 사법부를 포함한 미국 정부의 세 기관 모두에게 Claude AI 서비스를 $1의 비용으로 제공하여 정부의 AI 채택 장벽을 제거하고 있습니다. 이 서비스는 민감하지 않은 민감 정보 작업을 위한 FedRAMP High 인증을 받은 'Claude for Government'와 기업용 'Claude for Enterprise'를 포함합니다. 기술 지원도 함께 제공되어 연방 기관들이 AI를 빠르게 업무에 통합할 수 있도록 돕습니다. 이미 국방부와 로렌스 리버모어 국립연구소 등에서 Claude가 중요한 임무를 지원하고 있으며, 이 확장된 접근성은 정부 부문의 복잡한 도전 과제 해결을 위한 최첨단 AI 기술의 접근성을 높이는 데 중점을 둡니다. 참여를 원하는 기관은 pubsec@anthropic.com으로 연락하면 됩니다.

2025-08-07 (1건)

🇪🇺 유럽 집행위, AI Act 이행·집행 지원을 위한 AI Scientific Panel 전문가 60명 모집(2025.8.7)

공공 · 유럽연합 집행위원회(European Commission) 디지털 전략 · ⚖️🔒🔬

유럽 집행위원회는 AI Act의 이행과 집행을 지원할 독립 전문가 과학 패널을 구성한다. 패널은 일반목적 AI(GPAI) 모델·시스템을 중심으로, EU AI Office 및 회원국 당국에 시스템적 위험, 모델 분류, 평가 방법론, 국경 간 시장 감시 등에 대해 자문하고, AI Office에 신흥 위험을 알릴 예정이다. 전문가 60명을 24개월(연임 가능) 임기로 선발하며, GPAI 관련 전문성·모델 평가·위험 평가 및 완화·사이버보안·신흥 시스템적 위험·컴퓨트 측정 및 기준 등에 대한 경험이 요구된다. 신청은 2025년 9월 14일까지 가능하다.

2025-08-06 (1건)

🇪🇺 독일, AI Act 이행 감독을 위한 국가 권한 지정을 EU 마감(2025.8.2)까지 못해 촉구 (**2025.8.6**)

K-AISI 주간동향 · 유로뉴스(Euronews) · ⚖️

독일이 AI Act 관련 시장감시(market surveillance) 권한을 마련해 2025년 8월 2일까지 유럽연합 집행위원회에 통보해야 했지만 기한을 넘겼다고 보도했다. 함부르크 데이터보호 감독관과 독일 소비자단체는 국가 감독 권한이 공식 지정되지 않아 기업과 당국이 규정 문의를 할 ‘연락 담당자’를 놓치고, 감독 공백으로 소비자 조작 등 위반이 발생할 수 있다고 우려했다. 기사에 따르면 일부 EU 회원국은 임명 관련 통보를 했지만 대부분은 마감일을 지킨 것으로 보이지 않으며, AI Act는 2024년 8월 발효 후 단계적으로 적용되고 이달부터 일반 목적 제공자 규정 등이 적용된다.

2025-08-05 (1건)

(ABC News **2025.8.5**) 정부, AI ‘mandatory guardrails’ 강행 규제는 보류해야

K-AISI 주간동향 · ABC News · ⚖️

생산성위원회(Productivity Commission)는 정부가 AI에 대해 ‘mandatory guardrails’를 도입하는 방안을 강하게 밀어붙이기보다, 법의 공백을 먼저 확인할 때까지 보류하라고 경고했다. 위원회는 AI를 겨냥한 과도한(heavy-handed) 규제가 호주 경제의 AI 잠재력(향후 10년 약 1160억 달러)을 저해할 수 있다고 봤다. 다만 AI로 드러난 기존 법의 공백은 가능한 한 빨리 메워야 한다는 입장도 함께 밝혔다. 한편 정부는 위험도에 따라 규율하는 전용 AI Act 및 고위험 기술에 대한 금지 가능성 등을 검토 중이며, 노동 전환 지원 필요성은 노조 측 요구로도 제기됐다.

2025-08-04 (3건)

오락가락하는 챗GPT 성격 변화 원인 ‘성격 벡터’로 실시간 감시·통제 가능(2025.8.4)

K-AISI 주간동향 · AI매터스 · ⚖️🚀

앤트로픽 연구팀이 언어모델 내부에서 특정 성격(악의적 행동, 아첨, 거짓말 등)을 만드는 ‘성격 벡터’를 찾아 이를 조절하는 시스템을 개발했다고 소개했다. 이 시스템은 성격 변화가 발생했는지 사람과 유사한 수준으로 감지(두 모델에서 94.7% 정확도)하며, 학습 전에도 데이터-성격 변화의 연관성을 통해 문제 가능성을 예측(76~97%)할 수 있다고 한다. 또한 실시간 감시, 문제 성격 억제, 학습 단계에서 원치 않는 성격 변화를 상쇄해 미리 차단하는 방식 등으로 실제 서비스 적용을 제시했다.

Gov Pritzker, 일리노이에서 AI 치료·심리치료 사용을 제한하는 법안 서명(**2025.8.4**)

K-AISI 주간동향 · 일리노이주 금융·전문직 규제국(IDFPR) · ⚖️🏥🧒

일리노이주 JB Pritzker 주지사가 AI를 치료 및 심리치료 서비스에 사용하는 것을 제한하는 법안을 서명했다. ‘Wellness and Oversight for Psychological Resources Act’는 면허를 가진 행동건강 전문가의 행정·보조 지원 목적의 AI 사용은 허용하되, AI로 정신건강 및 치료 의사결정을 제공하는 행위를 금지한다. IDFPR은 규제되지 않고 자격이 불명확한 AI 제품으로부터 환자를 보호하고, 청소년의 AI 챗봇 활용 우려 속에서 취약 아동을 보호하는 취지라고 밝혔다.

🇯🇵 「広島AI 프로세스 및 Japan AI Act 관련 사이드 이벤트」(2025.8.4)

K-AISI 주간동향 · Japan AISI · ⚖️📋🧪

일본 AISI는 캐나다 AISI 협력으로 밴쿠버에서 ‘Future Developments of HAIP: Initial Reporting Outcomes and Alignment with the Japan AI Act’ 사이드 이벤트를 열었다. 행사에서는 일본의 AI 정책·AI 법의 경과와 주요 내용을 소개하고, AI 법에 기반해 향후 지침을 광시마(히로시마) AI 프로세스 국제 지침과 정합화하려는 계획을 공유했다. 또한 히로시마 AI 프로세스 보고 프레임워크가 OECD 웹사이트에서 기업의 위험 대응·정보 공유 활동을 자율 보고하는 구조이며, 2월 운영 시작 이후 20개 조직이 보고서를 제출했다고 밝혔다. 향후 과제로는 보고 내용 명확화, 랭크(등급) 체계 회피, 각국 법제와의 정합성 확보, SME 참여와 기술 지원 필요성이 논의됐다.

2025-08-01 (3건)

🇨🇳🇺🇸 Nvidia, 중국이 보안 문제를 제기하자 “칩에 backdoors 없다”(기사·공고 게재일 2025.8.1)

K-AISI 주간동향 · 스트레이츠 타임스 · ⚖️🔒

중국 사이버 당국이 H20 칩의 취약점·backdoors 관련 자료 제출을 요구했고, 미국은 H20 수출 라이선스 규제 완화 약속을 거론했으나 미국 내 법안은 AI 칩의 내장 위치추적 기능 의무화를 추진 중

엔비디아는 중국이 “serious security issues”를 이유로 자사 관계자를 소환한 뒤, 자사 칩에 원격 접근·제어를 가능하게 하는 “backdoors”는 없다고 밝혔다. 특히 중국이 접근하는 H20(중국 수출용으로 개발된 더 낮은 성능 버전)과 관련해 중국 사이버 당국이 보안 위험과 관련 자료 제출을 요구했다고 전했다. 한편 엔비디아는 미국의 라이선스 규제 완화 약속 이후 H20 판매를 재개하겠다고 했지만, 미국 의원들이 고성능 AI 칩에 위치추적 기능을 포함하도록 요구하는 방안도 제안해 추가 장애가 남아 있다.

🇪🇺 유럽 집행위, General-Purpose AI(GPAI) Code of Practice의 AI Act 준수 입증에 대한 적정성 확인 (2025.8.1)

K-AISI 주간동향 · 유럽연합 집행위원회 디지털 전략(디지털스트래티지) 공식 웹사이트 · ⚖️

유럽 집행위와 AI Board는 독립 전문가가 마련한 GPAI Code of Practice가 AI Act 준수를 입증하려는 GPAI 모델 제공자에게 적절한 자발적 도구라고 확인했다. 해당 문서는 Code of Practice가 ‘adequate voluntary tool’로 평가됐다는 점을 중심으로 안내한다.

🇪🇺 EU AI Act 거버넌스 체계가 2025.8.2부터 적용(2025.8.1)

K-AISI 주간동향 · 유럽연합 집행위원회(European Commission) 디지털 전략(Digital Strategy) · ⚖️

유럽연합 집행위원회는 AI Act의 거버넌스가 2025년 8월 2일부터 작동해야 한다고 밝혔습니다. EU 차원에서는 유럽 AI 보드가 완전 가동 중이며, 독립 전문가로 구성되는 Scientific Panel을 위한 이해관계자 모집(interest expression of interest)과 AI Act Advisory Forum 참여 신청도 진행 중입니다. 회원국의 관할당국은 AI 시스템 관련 규정의 이행·감독·집행을 담당하며, 사전시장 승인 수행을 위한 notified body 지정과 AI regulatory sandboxes 구축도 맡습니다.

2025년 7월 (15건)

2025-07-24 (1건)

🇺🇸 미국 상원의원 발의 ‘AI Accountability and Personal Data Protection Act’(2025.7.24)

K-AISI 주간동향 · 더 레지스터(The Register) · ⚖️

미국 상원의원 Josh Hawley와 Richard Blumenthal이 저작권 콘텐츠 및 개인정보를 AI 학습에 쓰려면 ‘소유자의 명시적 사전 동의’를 받도록 하는 법안을 발의했다. 법안이 통과되면, 동의 없이 저작물이나 개인식별정보를 AI 학습에 사용하는 기업을 상대로 개인이 소송할 수 있는 새로운 연방 불법행위(tort)도 신설된다. 또한 동의 요청은 제품 사용성과 연계해 묶지 못하고, 사전에 고지·분리 고지해야 하며, 개인의 소송을 막는 중재합의도 무효화하는 방안이 포함된다. 이 법안은 AI 학습의 fair use 범위를 재정의할 수 있다는 점에서, 구글 등 주요 AI 기업이 주장해온 ‘AI 스크래핑은 fair use’라는 입장과 충돌할 소지가 있다.

2025-07-18 (2건)

🇪🇺 메타, EU AI Act ‘범용 AI 모델’ 자율준수 코드 서명 거부(**기사·공고 게재일** 2025.7.18)

K-AISI 주간동향 · TechCrunch(테크크런치) · ⚖️

EU가 이달 초 발표한 범용 AI(GPAI) 모델 자율준수 코드에 대해 메타는 서명하지 않겠다고 밝혔다. 메타는 해당 코드가 AI Act 범위를 넘어 법적 불확실성을 키운다고 주장하며, 유럽의 AI 정책이 최첨단 모델의 개발·배치를 위축시킬 것이라고 비판했다. 한편 AI Act는 ‘허용 불가 위험’ 일부 용례를 금지하고, 생체인식·얼굴인식 등 ‘고위험’ 영역에 대해 등록 및 위험·품질관리 의무를 요구하며, EU는 8월 2일 시행 일정을 변경하지 않겠다는 입장이다.

🇪🇺 유럽 집행위, 범용(general-purpose) AI 모델 제공자 대상 AI Act 의무 이행 가이드라인 공개 (2025.7.18)

K-AISI 주간동향 · 유럽 집행위원회(European Commission) 디지털 전략(Digital Strategy) 웹사이트 · ⚖️📋

AI Act 의무는 2025년 8월 2일부터 적용 예정이며, 가이드라인은 2025년 7월 18일 기준 업데이트됨

유럽 집행위는 2025년 8월 2일부터 시행되는 AI Act 의무를 범용 AI 모델 제공자가 준수하는 데 도움을 주기 위한 가이드라인을 발표했다. 가이드라인은 범용 AI 모델의 정의(연산자원 10^23 FLOPs 초과, 텍스트·오디오 생성 및 텍스트-이미지/텍스트-비디오 생성 가능), ‘provider’와 ‘placing on the market’의 범위, 그리고 투명성 조건을 충족하는 자유·오픈소스 라이선스 모델에 대한 면제 등을 설명한다. 또한 General-Purpose AI Code of Practice 준수의 의미와, 특히 시스템적 위험(기본권·안전·모델 통제 상실 가능성 등)을 유발할 수 있는 가장 고도/영향력 있는 모델 제공자에 대한 위험 평가·완화 의무를 구체화했다.

2025-07-17 (1건)

🇪🇺 유럽 집행위, AI Act 자문포럼 참여 신청 공모(2025.7.17)

공공 · 유럽연합 집행위원회(European Commission) 디지털 전략(Digital Strategy) · ⚖️📏🔬

유럽 집행위원회는 AI Act 자문포럼(Advisory Forum) 참여를 위한 신청 공모를 시작했다. 시민사회·학계·산업계·중소기업·스타트업 등 이해관계자가 AI 규정의 책임 있고 효과적인 이행에 기여하도록 초청하며, 포럼은 일반 자문기구로서 AI Office 및 필요 시 국가 시장감시 당국에 조언하는 과학 패널의 역할을 보완한다. 자문포럼은 표준화와 이행상의 과제 등 다양한 쟁점에 대해 독립적인 기술 전문성과 균형 잡힌 이해관계자 대표성을 제공하도록 설계됐고, FRA·ENISA 등 EU 기관과 CEN·CENELEC·ETSI 같은 표준화 기관이 영구 위원으로 포함된다. 위원 임기는 2년(1회 연임 가능)이며 무보수로 활동하고, 신청 결과는 2026년 초 발표될 예정이다.

2025-07-16 (2건)

🇺🇸 (TechCrunch 기사 2025.7.16) xAI 안전 문화에 대해 OpenAI·Anthropic 연구자들이 “reckless” 비판

K-AISI 주간동향 · TechCrunch · ⚖️🚀

xAI가 Grok에서 반유대주의 발언 및 “MechaHitler” 자칭 논란을 겪은 뒤 Grok 4와 AI companions를 내놓았지만, 안전 테스트 결과를 공개하는 system cards·safety report를 내지 않아 업계 관행과 어긋난다는 지적이 나왔다. Boaz Barak(OpenAI)과 Samuel Marks(Anthropic)는 Grok 4의 안전 평가가 불명확하고, 감정 의존을 악화시키는 형태의 companions가 문제를 키울 수 있다고 비판했다. TechCrunch는 xAI의 코멘트를 요청했으나 답변을 받지 못했으며, 캘리포니아·뉴욕 등에서 안전 보고서 공개를 의무화하는 법안 논의가 언급됐다.

🇯🇵 일본의 책임 있는 AI 규제·가이드라인의 ‘레이어드(다층)·비구속’ 프레임워크(2025.7.16)

K-AISI 주간동향 · 국제변호사협회(International Bar Association, IBA) · 📜⚖️📋

일본은 AI를 둘러싼 규제를 강제적 단일 체계가 아니라 비구속 전략( AI Promotion Act )과 2024년 AI Business Operator Guidelines, 기존 법(저작권법·개인정보보호법/APPI) 해석 가이드를 함께 엮는 방식으로 추진하고 있다. AI Promotion Act는 2025년 5월 28일 국회 통과 후 ‘소프트로’ 자율 준수를 유도하며, METI·MIC의 사업자 가이드는 인권·포용·안전 등 원칙과 체크리스트·사례 등을 통해 기업의 내부 책임을 구체화한다. 생성형 AI와 관련해 저작권은 학습 목적의 비표현적 이용은 예외가 될 수 있으나 파인튜닝·특정 스타일 모방 등에는 예외가 제한될 수 있고, APPI에 대해서는 개인정보 입력·재사용 시 위반 소지가 있어 동의·정책·벤더 조건 점검이 필요하다고 설명한다.

2025-07-15 (1건)

🇬🇧 Prepare for the ‘coming wave’ of AI terrorism, top adviser warns UK government (2025.7.15)

K-AISI 주간동향 · 폴리티코 유럽(POLITICO Europe) · ⚖️🧪

영국 정부의 테러 입법 독립 검토관 Jonathan Hall이 연례 보고서에서 생성형 AI가 테러 선전과 공격 준비를 “가속”할 수 있다고 경고했다. 그는 generative AI가 텍스트·이미지·오디오·비디오 등 새 콘텐츠를 만들어 테러에 악용될 수 있으며, 기업들이 모델 내부를 충분히 설명하지 않는 상황과 함께 이미 “jailbreaking” 산업이 존재한다고 지적했다. 또한 챗봇이 고립된 개인의 급진화를 돕는 “closed loop”를 만들거나, 잠재적 모집을 선별해 인간 단계로 넘기는 데 활용될 수 있다고 우려했다.

2025-07-10 (2건)

🇪🇺 범용 AI(GPAI) 실천강령, AI Act 안전·투명성·저작권 준수 지원(2025.7.10)

K-AISI 주간동향 · 유럽연합 집행위원회 디지털 전략(Digital Strategy) 웹사이트 · ⚖️📋

유럽연합 집행위원회는 범용 목적 AI 모델(GPAI) 사업자가 AI Act의 안전·투명성·저작권 의무를 이행하는 데 도움을 주는 ‘General-Purpose AI Code of Practice’를 2025.7.10 공개했다. 이 강령은 자발적 도구이며, 서명한 사업자는 강령 준수를 통해 AI Act 준수 입증에 따른 행정 부담을 줄이고 법적 확실성과 신뢰를 높일 수 있다고 설명한다. 강령은 투명성·저작권·안전 및 보안의 3개 장으로 구성되며, 서명 절차는 Signatory Form 작성 후 EU-AIOFFICE-CODE-SIGNATURES@ec.europa.eu로 제출하는 방식이다.

🇪🇺 EU AI Office, GPAI 안전 집행 지원을 위한 900만 유로 규모 기술지원 입찰(2025.7.10)

공공 · 유럽연합 집행위원회 디지털 전략(EC Digital Strategy) · ⚖️🛡️🔬🤖

유럽연합(EU) AI Office가 AI Act 집행을 위한 기술 지원을 조달하는 입찰을 공고했다. GPAI(범용 목적 AI) 모델이 EU 차원에서 공공안전·보안·기본권에 미칠 수 있는 체계적 위험을 평가·모니터링하는 역량을 강화하는 것이 목적이며, 총예산은 900만 유로다. 입찰은 6개 로트로 구성되며 1~5로트는 CBRN, 사이버 공격, 통제상실, 유해 조작, 사회기술적 위험 등 유형별 위험 모델링·평가도구 개발·기술지원·지속 모니터링을 포함하고, 6로트는 에이전틱 평가를 위한 교차 지원(동적·개방형 과제에서의 자율 행동 평가)을 제공한다.

2025-07-09 (1건)

🇺🇸 캘리포니아 상원의원 SB 53 개정안, 대형 AI 기업에 안전·보안 프로토콜 및 사고 보고 의무 추진 (2025.7.9)

K-AISI 주간동향 · 테크크런치(TechCrunch) · ⚖️🚀

캘리포니아 SB 53는 캘리포니아가 AI 안전·보안 관련 투명성 요구를 대형 AI 개발사에 부과하는 첫 사례가 될 수 있으며, OpenAI·Google·Anthropic·xAI 등이 포함될 가능성이 언급됐다. 이전 SB 1047은 실리콘밸리의 반발 속에 가빈 뉴섬 주지사에 의해 거부(veto)됐지만, 이후 AI 정책그룹의 최종 권고를 반영해 SB 53를 ‘과학적·공정한’ 방향으로 다듬고 있다고 전했다. SB 53는 모델 개발사의 손해배상 책임을 부과하지 않고, 스타트업·연구자의 파인튜닝·오픈소스 활용 부담도 줄이도록 설계됐으며, 내부고발자 보호와 ‘critical risk’ 정의(사망·부상 또는 10억 달러 이상 피해)도 포함한다. 현재는 캘리포니아 주의회 개인정보·소비자보호 상임위원회 심사를 거쳐 추가 입법 절차를 통과해야 한다.

2025-07-03 (1건)

노인 부부, AI 생성 케이블카 영상에 속아 말레이시아 전역 여행 (2025.7.3)

DB · AIID · ⚖️🚨

노인 부부가 소셜 미디어 클립에 나온 가상의 케이블카를 찾아 말레이시아 전역을 여행했으나, 결국 해당 영상이 AI로 생성된 가짜임을 알게 되었다. 부부는 쿠알라룸푸르에서 페락까지 약 300km를 이동했으나, 실제 케이블카는 존재하지 않았다. 호텔 직원이 진실을 알려준 후 부부는 AI 생성 콘텐츠에 속았다는 사실에 충격을 받았으며, 기자의 실존 여부에 의문을 제기하며 소송을 고려하고 있다. 현지 경찰은 이러한 AI 생성 미디어에 주의를 기울일 것을 대중에게 당부했다.

2025-07-02 (2건)

인공지능 시대 개인정보 거버넌스 강화를 위한 대토론회 (2025.7.2)

공공 · 국회입법조사처 · ⚖️

국회입법조사처는 2025년 6월 18일 국회의원 및 개인정보 관련 단체들과 함께 인공지능 시대 개인정보 보호와 데이터 활용의 균형을 논의하는 대토론회를 개최했다. 발표자들은 개인정보 관련 법률의 통합과 인공지능 관련 법과의 정합성 확보, 개인정보보호위원회의 전문성·독립성 강화, 인공지능 처리에 적합한 새로운 데이터 프라이버시 규율체계 마련 등을 제안했다. 토론에서는 개인정보 피해구제 기금, 중소기업 지원, 시민사회 참여, 인권 보호, 산업 현장 의견을 반영한 규제 개선 등이 주요 쟁점으로 논의됐다.

🇺🇸 What OpenAI Doesn’t Want You to Know (2025.07.02)

유튜브 · YouTube · More Perfect Union · ⚖️🚀

OpenAI가 알리고 싶지 않은 내용과 AI 기업들의 법안 로비 및 위험한 법안 후원을 다룬다. (영상 13분)

2025-07-01 (2건)

🇺🇸 미국 상원, AI 관련 10년 유예(모라토리엄) 없이 ‘big, beautiful bill’ 통과(2025.7.1)

K-AISI 주간동향 · NBC News · ⚖️🗳️🎭

미 공화당의 ‘big, beautiful bill’에서 논란이 된 10년간 AI 규제 관련 주(州) 법 제정·집행을 유예하는 조항이 상원 표결로 삭제됐다. 테네시 공화당 상원의원 마샤 블랙번이 해당 모라토리엄 삭제 수정안을 냈고, 99-1로 가결됐다. 법안은 주가 이미 시행 중인 딥페이크·선거 관련 오인 유발·음성 모방 등 특정 위해를 겨냥한 규제와, 주의 역할을 유지해야 한다는 반대 여론을 반영해 모라토리엄 없이 진행된다.

AI로 제작된 가짜 케이블카 영상에 속은 노인 부부 (2025.7.1)

DB · AIID · ⚖️🚨

노인 부부가 온라인에서 본 AI 생성 영상으로 인해 가짜 케이블카 시스템이 존재한다고 속아넘어갔다가, 사실 확인 후 실망감을 느꼈다. 영상은 페이스북에서 공유되었으며, 실제 존재하지 않는 케이블카가 Kampung Kuak Hulu에서 Baling까지 운행하는 것처럼 보였다. 영상 속 인물들이 가짜임을 알게 된 후, 부부는 영상 제작자를 상대로 소송을 제기하려 했다. 많은 사람들이 AI 생성 콘텐츠의 진위를 판단하기 어려워함을 인정하며, 당국의 규제를 요구했다.

2025년 6월 (22건)

2025-06-30 (1건)

미 상원 예산안에 ‘AI 모라토리엄’이 들어가 주(州) AI 규제를 5년간 사실상 막을 수 있음(2025.6.30)

K-AISI 주간동향 · 테크크런치(TechCrunch) · ⚖️🧒

상원은 예산안 수정안 표결을 진행 중이며, Cruz·Blackburn 합의로 주 기반 AI 규제 유예 기간이 기존 10년에서 5년으로 단축될 예정입니다. 다만 아동 성착취물·아동 온라인 안전·본인 권리(이름·초상·목소리·이미지) 관련 예외를 두면서도 AI 시스템에 ‘과도하거나 불균형한 부담’을 주지 말아야 한다는 문구가 있어 주 법의 적용 범위가 불명확하다는 지적이 나옵니다. 찬성 측은 주별 규제로 인한 ‘patchwork’가 혁신을 저해할 수 있다고 주장하는 반면, 반대 측은 소비자 보호·안전 입법을 막아 감독 공백을 만들 수 있다고 비판합니다.

2025-06-25 (3건)

🇪🇺 Tech lobby group urges EU leaders to pause AI Act (2025.06.25)

K-AISI 주간동향 · 로이터 통신(Reuters) · ⚖️

로이터 보도에 따르면 한 기술 로비 단체가 EU 지도자들에게 AI Act(인공지능 규제)의 일시 중단을 촉구했다는 내용이다. 다만 제공된 정보에 본문 내용이 없어, 촉구 배경(규제 내용·시행 일정·우려 지점)과 구체적 주장, 관련 인물/단체는 확인이 필요하다.

🇨🇳🇺🇸 (2025.6.25) 미 하원 중국특위, ‘No Adversarial AI Act’로 CCP 연계 AI의 미 정부 사용 차단 추진

K-AISI 주간동향 · 미국 하원 중국특별위원회(Select Committee on the CCP) · ⚖️🛡️

미 하원 중국특별위원회가 2025.6.25 ‘No Adversarial AI Act’라는 초당적 법안을 공개했다. 이 법안은 중국 공산당 등 외국 적대세력과 연계된 기업이 개발한 AI를 미 정부가 취득하거나 사용하는 것을 금지하고, 연방조달안보위원회가 적대세력 개발 AI 목록을 공개·관리하도록 한다. 또한 적대세력의 통제나 영향에서 벗어났음을 입증하는 기업에 대한 ‘delisting’ 절차도 마련한다. 위원회는 이번 법안이 AI 공급망을 확보하고 미국 혁신이 권위주의 감시·군사체계에 활용되는 것을 막기 위한 AI 캠페인의 핵심 조치라고 설명했다.

2025-06-23 (2건)

🇪🇺 스웨덴 총리, EU AI 규정( AI Act ) 시행·확대 ‘일시 중단’ 촉구(2025.6.23)

K-AISI 주간동향 · POLITICO.eu · ⚖️

스웨덴 총리 울프 크리스테르손이 브뤼셀에서 EU 지도자 회동을 앞두고 EU의 AI 규정은 혼란스럽다며 AI Act의 시행·확대를 잠시 멈출 것을 제안했다. 그는 공통 기준 없이 AI Act가 발효되는 점을 문제로 들며, 기술 격차 발생이나 특정 애플리케이션의 유럽 시장 미출현 가능성을 우려한다고 밝혔다. 한편 유럽연합 집행위원회 기술 담당자 헨나 비르쿤넨은 필요한 가이드가 준비되지 않으면 일시 중단이 가능하다고 언급했으며, 스웨덴 보수 성향 유럽의회 의원 아르바 코칼라리는 기준이 제때 마련되지 않으면 일부 조항의 ‘시계’를 멈추고 기업에 시간을 더 줘야 한다고 지지했다.

프라이버시 강화 기술을 활용한 신뢰할 수 있는 AI 모델 공유 (2025.6.23)

공공 · 경제협력개발기구(OECD) · ⚖️📋

프라이버시 강화 기술(PETs)은 개인정보·지식재산·민감정보를 보호하면서 AI 모델을 공동 개발하고 공유하는 데 활용된다. 주요 활용 분야는 최소한의 입력 데이터로 AI 모델 성능을 높이는 것과, 차등 개인정보보호·신뢰 실행 환경·동형암호 등을 이용해 AI 모델을 기밀하게 공동 제작·공유하는 것이다. PETs는 추가 데이터 수집을 줄이고 데이터 공유 협력을 촉진하지만, 효용·효율성·사용성 간 균형을 맞추기 어렵기 때문에 정부와 규제기관의 지침, 규제 샌드박스, 연구개발 지원이 필요하다.

2025-06-22 (1건)

텍사스, Responsible AI Governance Act(TRAIGA) 제정(2025.6.22)

K-AISI 주간동향 · Latham & Watkins (로펌 클라이언트 알림) · 📜⚖️🧒🎭

텍사스 주지사가 2025년 6월 22일 Texas Responsible AI Governance Act(TRAIGA)를 법으로 서명했다. 이 법은 특정 목적(행동 조작, 차별, 아동 성착취물 또는 불법 딥페이크 생성·배포, 헌법상 권리 침해 등)으로 AI 시스템을 개발·배치하는 것을 금지하고, 위반 시 텍사스 법무장관(AG)이 조사요구(CID)와 민사집행을 할 수 있으며 최대 일일 4만 달러 등 벌금이 부과될 수 있다. 또한 DIR이 운영하는 규제 샌드박스(최대 36개월)와 주(州) AI 정책을 지원하는 Texas Artificial Intelligence Advisory Council(구속력 있는 규정 제정은 불가)을 신설했다.

2025-06-17 (1건)

🇺🇸 AI Safety Newsletter #57: 뉴욕 ‘RAISE Act’ 통과…전방 AI에 안전계획·위험모델 보류·사고보고 의무(2025.6.17)

K-AISI 주간동향 · Center for AI Safety(세이프AI 뉴스레터) · 📜⚖️🚀

2025년 중 주지사 서명(또는 거부/문구 수정) 절차가 진행될 수 있으며, 법안이 주지사에게 전달되면 Hochul은 최대 30일 내 결정할 수 있음

뉴욕 주 의회가 전방 AI(frontier AI) 시스템을 규제하는 Responsible AI Safety and Education(RAISE) Act를 6월 12일 통과시켰다. 법안은 개발사에 안전·보안 프로토콜(요약본) 공개, 위험이 과도한 모델의 출시 보류, 중대 사고 72시간 내 보고, 가중치 절도·위험 자율행동 등 위험을 실질적으로 높이는 사건의 3일 내 신고 등을 요구하며, 위반 시 최대 1,000만 달러(첫 위반)·3,000만 달러(추가 위반) 벌금을 제시한다. 또한 컴퓨트 비용 1억 달러 이상 모델 등 ‘가장 큰 개발사’에 적용되며, 미국 연방 차원에서는 주(州) 규제를 제한하는 10년 유예(moratorium) 논의가 함께 전개되고 있으나 아직 법으로 확정되지는 않았다.

2025-06-16 (1건)

베트남, 디지털 기술 산업 관련 법률 제정(2025.6.16)

K-AISI 주간동향 · MLex · ⚖️

베트남 국회가 디지털 기술 산업 관련 ‘Law on the Digital Technology Industry’를 통과시켰다. 이 법은 반도체, 인공지능, 디지털 자산 등 분야의 발전을 위한 법적 틀을 마련하고, 민법상 디지털 자산의 법적 지위와 소유·거래·데이터 보안·분쟁 해결, 국가의 역할을 규정한다. 또한 다양한 산업·분야에서 AI의 개발·적용을 장려하고, 디지털 기술 인재를 유치·육성하기 위한 교육·직업훈련 기관 관련 정책도 포함한다.

2025-06-14 (1건)

Suno AI 음악 생성 저작권 집단소송 (2025.6.14)

DB · AIID · ⚖️🚨

독립 음악가들이 Suno가 동의나 대가 없이 인터넷 스트리밍 플랫폼의 음악을 AI 모델 학습·검증·미세조정·운영에 사용했다며 제기한 저작권 집단소송으로, 사건은 현재 진행 중이다. 소송은 저작권 침해, 디지털 보호조치 우회, 불공정 경쟁을 주장하며, 2021년 1월 1일 이후 온라인에 공개된 음원·음악 저작물의 권리자 중 Suno가 무단 사용한 이들을 대상으로 한다. 원고 측은 손해배상과 침해 중지를 요구하고 있으며, 2025년 6월 14일 소장이 제출됐다.

2025-06-13 (3건)

🇺🇸 뉴욕, OpenAI·Google·Anthropic 등 ‘frontier AI’ 재난 위험을 막는 RAISE Act 통과(2025.6.13)

K-AISI 주간동향 · TechCrunch · ⚖️🚀🚨

뉴욕 주 의회가 RAISE Act를 통과시켰으며, 법안은 OpenAI·Google·Anthropic 등 ‘frontier AI’ 모델이 대규모 인명 피해(100명 이상 사망·부상)나 10억 달러 이상 손해로 이어지는 재난 시나리오에 기여하는 것을 막는 것을 목표로 한다. 법안이 시행되면 해당 기준을 충족하는 대형 AI 랩은 모델에 대한 안전·보안 보고서를 의무적으로 공개하고, 안전 관련 사고(이상 행동, 모델 도난 등)도 보고해야 하며, 기준 미이행 시 뉴욕 검찰총장이 최대 3,000만 달러 민사상 제재를 청구할 수 있다. 현재 법안은 호철 주지사 서명·수정·거부 절차를 앞두고 있으며, 스타트업·학계 혁신 위축 우려를 고려해 소규모 기업에는 적용을 피하도록 설계했다고 설명된다.

🇪🇺 생성형 AI, EU 경제 혁신·생산성에 기여 가능하나 추가 정책 대응 필요(2025.6.13)

K-AISI 주간동향 · 유럽연합 집행위원회(JRC·디지털 전략) 공식 뉴스 · ⚖️🎭

유럽 집행위는 생성형 AI를 전략 분야에 통합하기 위한 첫 번째 EU 자금 지원(약 7억 유로)과 GenAI4EU(유럽에서 만든 생성형 AI) 계획을 추진한다고 밝혔다. JRC 과학 보고서는 의료·교육·문화창작 등 주요 분야에서 혁신과 생산성 향상 잠재력이 크다고 보면서도, 허위정보 확산, 알고리즘 편향, 일자리 변화, 개인정보 우려 등 교차적 위험이 빠르게 커지고 있어 긴급한 대응이 필요하다고 강조했다. 또한 AI Act 및 데이터 관련 EU 법과의 정합성을 포함해 다학제적·전략적 정책 접근이 필요하다고 제안했다.

🇪🇺 Generative AI의 기술·경제·사회 영향과 EU 규제 대응을 다룬 전망 보고서 (2025.6.13)

K-AISI 주간동향 · 유럽연합 집행위원회 공동연구센터(JRC) 유럽연합 출판국 · ⚖️🎭

유럽연합 집행위원회 공동연구센터(JRC)가 작성한 「Generative AI Outlook Report」는 EU를 중심으로 생성형 AI(GenAI)의 혁신·생산성·사회 변화 가능성을 검토한다. GenAI는 인간과 유사한 콘텐츠를 대규모로 생성할 수 있어 의료·교육·과학·창작 산업 등에서 기회가 크지만, 허위정보 증폭, 편향, 노동 혼란, 개인정보 우려도 동시에 제기된다고 설명한다. 보고서는 기술 현황과 향후 트렌드, 산업 구조 변화에 따른 경제적 함의, 포용성 기회와 편향·과도한 의존 위험 등 사회적 영향, 그리고 AI Act 및 데이터 관련 가로(수평) 입법을 포함한 규제 프레임워크를 다룬다. 결론적으로 EU의 민주적 가치와 법체계에 부합하도록 위험을 완화하면서 잠재효과를 극대화하는 포괄적·정교한 정책 접근이 필요하다고 제시한다.

2025-06-11 (2건)

🇪🇺🇺🇸 EU AI Act 고위험 AI 구현을 위한 공개협의(2025.6.11)

K-AISI 주간동향 · artificialintelligenceact.substack.com (Future of Life Institute) · ⚖️📋

유럽 집행위원회가 AI Act에서 고위험 AI 시스템에 적용될 규정의 이행을 위한 공개협의를 시작했다. 협의는 고위험 분류와 요구사항, 그리고 AI 가치사슬 전반의 책임 배분을 위한 실무 사례와 쟁점을 수집하는 데 목적이 있으며, 이해관계자 폭넓은 의견을 요청한다. 한편 일부 보도에서는 특정 규정의 지침·표준 준비가 늦어질 경우 이행 시점이 조정될 가능성이 거론되고, 미국 주요 기술기업들은 범용목적 AI의 Code of Practice를 더 단순화해 중복 보고와 행정 부담을 줄이길 요구한 것으로 전해졌다. 또한 EU의 모델 코드가 하위 사용자의 고위험 컴플라이언스에 필요한 투명성 요건을 충분히 담지 못해 규제 기준 하향 또는 고위험 적용에서 범용 모델 회피 같은 결과가 나올 수 있다는 경고도 포함됐다.

디즈니·유니버설, AI 이미지 생성기 Midjourney 저작권 침해 소송 제기(**2025.6.11**)

K-AISI 주간동향 · 가디언(theguardian.com) · ⚖️

디즈니와 유니버설이 LA 연방법원에 Midjourney를 상대로 저작권 침해 소송을 냈다. 두 회사는 Midjourney가 Star Wars의 Darth Vader, Frozen의 Elsa, Despicable Me의 Minions 등 자사 대표 캐릭터를 무단으로 복제·배포했다고 주장하며, 법원에 예비금지명령과 손해배상을 요구했다. Midjourney는 즉각적인 답변을 하지 않았고, 이번 소송은 생성형 AI의 저작권 침해를 둘러싼 관련 소송 흐름 속에서 이미지·영상 영역으로 확장된 사례로 소개됐다.

2025-06-10 (2건)

🇪🇺 유럽연합 집행위, 고위험 AI 시스템 AI Act 규정 이행 관련 공개 의견수렴(2025.6.10)

K-AISI 주간동향 · 유럽연합 집행위원회(European Commission) 디지털 전략 웹사이트 · ⚖️📋

유럽연합 집행위원회는 AI Act의 고위험 AI 시스템 규정 이행을 위한 공개 컨설테이션을 시작했다. 이번 의견수렴은 고위험 AI 시스템 분류와 관련 요구사항·의무를 다룰 향후 집행위 가이드라인 마련에 반영될 실무 사례와 쟁점 설명을 수집하며, AI 가치사슬 전반의 책임에 대한 의견도 받는다. AI Act는 고위험 AI를 (1) 제품 안전 관련 조화입법에서 중요한 경우와 (2) 특정 사용사례에서 건강·안전 또는 기본권에 중대한 영향을 줄 수 있는 경우로 구분한다.

🇺🇸 주·지방정부의 AI 규제가 초래하는 기회비용 (2025.6.10)

공공 · CATO · ⚖️🏥

이 글은 주·지방정부의 과도하고 처방적인 AI 규제가 단기적으로 행정·준수 비용과 생산 감소를, 장기적으로는 실현되지 못한 제품·프로젝트·혁신을 초래할 수 있다고 분석한다. 2022년 이후 미국 주·연방 차원에서 AI 개발·이용과 관련된 법안이 800건 넘게 제안됐으며, 주별 규제가 확산되면 주 경계를 넘어 활동하는 기업과 기술에 혼란을 줄 수 있다고 지적한다. 저자는 기존 규제 수단을 우선 검토하고, AI 실험을 촉진하기 위해 규제 샌드박스와 시범사업을 활용하는 보다 신중한 접근을 제안한다.

2025-06-09 (2건)

🇬🇧 런던 고등법원에서 Getty의 Stability AI 저작권·상표권 침해 소송이 진행되며, Stability는 이를 “생성 AI 산업에 대한 노골적 위협”으로 규정(기사·공고 게재일 2025.6.9)

K-AISI 주간동향 · 가디언(theguardian.com) · ⚖️🧒

런던 고등법원에서 수주간 진행될 예정이며, 증거 7만8천여 페이지가 공개되고 UC 버클리·독일 프라이베르크대 AI 전문가들이 증언할 것으로 전해짐

본문은 Getty Images가 Stability AI가 자사 저작권 사진 아카이브를 무단으로 학습해 이미지 생성 모델이 Getty 워터마크가 남은 결과물을 낸다고 주장하며 소송이 런던 고등법원에 도달했다고 전합니다. Stability는 Getty가 “fanciful”한 법적 경로를 택하고 약 1,000만 파운드를 투입해 자신들의 사업에 대한 “존재적 위협”에 대응하고 있다고 맞서고, 학습 데이터에 아동 성적 학대 자료(CSAM)가 포함됐다는 주장에는 “혐오스럽다”고 반박했습니다. 또한 이번 재판은 특정 유명 사진가들의 이미지 사용 여부를 포함해 쟁점이 다뤄질 예정이며, 예비 증거와 전문가 증언이 이어질 계획입니다.

미 상원에 주·지방 AI 규제 집행 10년 유예 지지 촉구(2025.6.9)

K-AISI 주간동향 · 미국상공회의소(U.S. Chamber of Commerce) · ⚖️

미 상원 지도부(Thune·Schumer)에게 보내는 연합 서한으로, 주·지방의 AI-specific 규제에 대한 집행을 10년간 유예하자는 제안을 강하게 지지한다고 밝혔다. 주·지방에서 AI 관련 법안이 빠르게 늘고 연방 유예가 없으면 지역별 규제 ‘패치워크’가 형성돼 AI 개발·도입이 제한될 수 있으며, 특히 자원이 부족한 중소기업의 준수·소송 비용 부담이 커진다고 주장한다. 동시에 유예 기간 동안 의회가 AI 개발·사용에서 발생하는 쟁점을 반영한 맞춤형(전국 단일 적용) 규제를 검토·도입할 시간을 확보할 수 있다고 강조했다.

2025-06-05 (1건)

🇺🇸 금융 분야 AI 활용의 잠재 리스크와 미국 규제 현황 (2025.6.5)

공공 · 국제금융센터 · ⚖️📋🔒🎭

금융 분야의 AI 도입이 확대되면서 제3자 서비스 의존에 따른 시장 집중, 군집행동, 모델 오류, 규제 준수 및 사이버보안 문제와 함께 허위정보·프라이버시 침해·공정대출·이해충돌 등의 위험이 발생할 수 있다. 미국 규제당국은 기존 법률과 감독 체계를 중심으로 AI를 관리하고 있으며, AI 활용에 대한 감독·시정·법적 조치를 늘리는 한편 구체적인 지침과 맞춤형 감독을 검토하고 있다. 보고서는 AI 발전과 금융 규제 완화 기조 속에서 도입 확대의 기회와 위험을 균형 있게 평가할 필요가 있다고 제시한다.

2025-06-04 (1건)

레딧, AI 스타트업 앤트로픽을 상대로 허가 없이 데이터를 사용했다는 의혹으로 소송 제기 (2025.06.04)

K-AISI 주간동향 · 로이터(Reuters) · ⚖️🚀

레딧이 AI 스타트업 앤트로픽을 상대로, 허가 없이 데이터를 사용했다는 의혹과 관련해 소송을 제기했다는 내용이다. 다만 본문을 확인하지 못해 구체적인 청구 내용, 사용된 데이터 범위, 소송 진행 상황 등 세부 사실은 확인 필요다.

2025-06-02 (1건)

🇪🇺 AI가 사법에 도입될 때 혁신과 윤리·인권의 균형을 강조(2025.6.2)

K-AISI 주간동향 · 유네스코(UNESCO) · 📜⚖️

유네스코는 96개국 사법 실무자 중 44%가 ChatGPT 등 AI 도구를 업무에 활용하고 있다고 밝히며, AI가 사건·문서 처리와 법률 연구를 더 빠르게 돕고 판례·입법 해석의 일관성에 기여할 수 있다고 설명했다. 다만 AI의 알고리즘 편향, 시스템의 불투명성, AI 의존으로 인한 판사의 독립성 약화 위험이 있어 ‘사람이 최종 결정에 관여(people-in-the-loop)’해야 한다고 강조했다. 모로코 사례로는 노동·교통사고 사건의 예비판결 작성 지원, 다국어 계약 초안 작성·번역을 위한 NLP, 과거 데이터를 기반으로 한 예측적 사건 분석 등이 언급됐다. 이를 위해 모로코는 EU AI Act 등 글로벌 모범을 참고한 포괄적 AI 거버넌스 법과 윤리·데이터보호·법적 영향에 대한 역량 강화가 필요하다고 제안했다.

2025년 5월 (3건)

2025-05-20 (1건)

🇺🇸 (2025.5.20) ‘Empire of AI’는 OpenAI의 역사와 비밀주의·AGI 신념을 다룬 책

기타 · en.wikipedia.org · ⚖️🚀

2025.11(본문 언급)에는 데이터센터 물 사용량을 1,000배 과대평가한 단위 변환 오류가 정정됐다고 서술됨

Karen Hao의 책 『Empire of AI: Dreams and Nightmares in Sam Altman's OpenAI』는 2025년 5월 20일 출간되었으며, OpenAI의 역사와 ‘인공일반지능(AGI)’에 대한 약속을 둘러싼 비밀주의와 집착을 중심으로 다룬다. 약 260명 인터뷰와 서신, 관련 문서를 포함하며, 제목은 19세기 식민 제국을 연상시키는 표현이라고 소개된다. 또한 OpenAI가 책 집필에 협조하지 않았고, 저자에 대한 비판이 있었다고 전한다. 2025년 11월에는 칠레 데이터센터 물 사용량을 1,000배 과대평가한 오류가 단위 변환 실수로 발생했으며 정정됐다고 적고 있다.

2025-05-07 (1건)

🇺🇸🇪🇺 생성형 AI 학습데이터 공개 관련 논의와 입법 과제 (2025.5.7)

공공 · 국회입법조사처 · ⚖️

국회입법조사처는 생성형 AI의 학습 과정에서 저작권 침해 여부를 판단하기 위한 학습데이터 공개 논의와 입법 과제를 검토한 보고서를 발표했다. 현재 학습데이터 공개 의무 규정은 없으며, 저작권자와 AI 사업자 간 입장 차이가 존재한다. 미국은 관련 법안을 추진 중이고 유럽연합은 인공지능법에 공개 규정을 도입한 만큼, 국내에서도 인공지능 기본법과 저작권법의 역할을 구분해 단계적으로 입법할 필요가 있다고 제안했다.

2025-05-02 (1건)

🇪🇺 EU 회원국의 인공지능 규제 샌드박스 접근 방식 개요 (2025.5.2)

공공 · EU 인공지능법 · ⚖️📋

EU 인공지능법에 따라 각 회원국은 2026년 8월 2일까지 최소 하나의 인공지능 규제 샌드박스를 설치해야 하며, 회원국별로 중앙집중형·분산형 등 다양한 방식이 추진되고 있다. 샌드박스는 출시 전 인공지능 시스템을 규제기관의 guidance 아래 개발·시험하는 환경으로, 참여 기업은 준수 입증 자료를 확보하고 지침을 성실히 따르면 행정벌금 면제 혜택을 받을 수 있지만 실험으로 인한 제3자 피해 책임은 유지된다. EU는 EUSAiR, Testing and Experimentation Facilities(TEFs), European Digital Innovation Hubs(EDIHs) 등을 통해 특히 중소기업과 스타트업의 기술·법률 지원 및 시장 진입을 돕고 있다.

2025년 4월 (3건)

2025-04-24 (1건)

🇰🇷 AI규제샌드박스를 위한 정책 과제 (2025.4.24)

공공 · 과학기술정책연구원 · ⚖️📏

2026년 인공지능기본법 시행을 앞두고, 인공지능의 복잡한 사회·윤리적 위험에 대응하기 위해 AI규제샌드박스를 체계적으로 도입해야 한다고 제안한다. 주요국 사례와 국내 법제를 분석해 데이터 공유, 표준화, 글로벌 상호운용성, 이해관계자 참여, 규제기관 전문성, 평가체계 등 6대 핵심 요소를 제시했다. 또한 AI규제샌드박스를 실증 이후의 사후관리, 국제 상호인정 인증, 데이터 이동 규범까지 포함하는 전 주기적 규제 실험 인프라로 설계해야 한다고 강조한다.

2025-04-15 (1건)

🇪🇺🇰🇷 EU AI법 제정에 따른 중소기업의 대응 방안 (2025.4.15)

공공 · 중소벤처기업연구원 · ⚖️

EU AI법은 AI 시스템을 위험 수준에 따라 4가지로 구분해 차등 규제하며, 중소기업과 스타트업에는 규제 샌드박스, 준수 비용 감면, 간소화된 요구사항 등을 제공한다. 중소기업은 기술 개발 초기부터 규제 요구사항에 맞춰 기술 문서화와 위험 평가, 적합성 인증을 준비하고 EU 내 규제 동향과 사례를 지속적으로 모니터링해야 한다. 연구는 정부가 규제 교육과 정보 제공, AI 기술평가 시스템 및 지원 환경을 강화해 국내 기업의 EU 시장 진출과 글로벌 경쟁력 확보를 지원해야 한다고 제언한다.

2025-04-08 (1건)

🇺🇸 Anthropic 교육 보고서: 대학 학생들의 클라우드 활용 방식 (2025.4.8)

기업 · Anthropic-Research · ⚖️🚀

본 보고서는 대학 학생들이 AI 도구인 클라우드(Claude)를 어떻게 실제 학습 환경에 통합하는지 분석한 첫 번째 대규모 연구를 다룹니다. 약 100만 건의 익명화된 학생 대화를 분석한 결과, 주요 발견 사항은 다음과 같습니다:

- STEM 학생들의 높은 활용도: 특히 컴퓨터 과학 학생들이 클라우드 대화의 36.8%를 차지하며, 전체 학위 수 대비 비율은 5.4%로 STEM 분야에서 높은 활용도를 보였습니다. 반면 비즈니스, 보건, 인문학 학생들은 상대적으로 낮은 활용도를 보였습니다. - 학생-AI 상호작용 패턴: 학생들은 직접 문제 해결, 직접 결과물 생성, 협업 문제 해결, 협업 결과물 생성 등 네 가지 주요 패턴으로 클라우드와 상호작용합니다. - 주요 활용 목적: 학생들은 주로 새로운 지식을 창출하거나 분석하는 데 클라우드를 사용합니다. 예를 들어 코딩 프로젝트 설계, 법률 개념 분석 등이 포함됩니다. - 분야별 차이: 컴퓨터 과학, 자연과학, 수학 분야에서 클라우드 활용이 상대적으로 높았으며, 비즈니스, 보건, 인문학 분야에서는 활용도가 낮았습니다. - 인지 기능 위임: 클라우드는 주로 창조(Creating)와 분석(Analyzing) 기능을 수행하며, 이는 블룸즈 분류 체계의 상위 인지 기능에 해당합니다.

이러한 결과는 학생들의 학습 과정에서 AI의 역할과 관련된 윤리적, 교육적 고려 사항을 제기합니다. 특히 학업 부정행위 가능성과 비판적 사고 능력 개발의 중요성을 강조합니다.

2025년 3월 (3건)

2025-03-15 (1건)

(기사·2025.3.15)

언론 · techieray.substack.com · ⚖️

Global AI Regulation Tracker를 개인이 개발해 195개+ 국가의 AI 법·규제·정책 동향을 지도 형태로 정리했다고 소개한다. 2023년 5월 출시 후 사용자 수가 늘었고, 2025년 2월에 전 세계 195개+ 국가 지도를 완성했으며 각 국가별 프로필과 최신 뉴스 업데이트를 제공한다. 초기에는 수집·요약·코드 반영을 수작업으로 했으나, 뉴스 큐레이션을 위한 Python 봇과 웹사이트 구조를 동적 웹앱/클라우드로 전환하는 방식으로 업데이트 효율을 높였다고 설명한다.

2025-03-12 (1건)

🇺🇸🇪🇺 보건의료 분야 인공지능 활용과 입법전략 (2025.3.12)

공공 · 국회미래연구원 · ⚖️🏥

국회미래연구원은 보건의료 분야에서 인공지능의 활용 가능성과 개인정보 보호, 설명가능성, 공정성, 안전성·책임성 등 윤리·법적 과제를 분석한 보고서를 발표했다. 보고서는 정밀의료, 질병 예방·진단, 환자 중심 치료, 환자 모니터링 등 주요 활용 분야와 미국·캐나다·유럽연합·일본·싱가포르의 관련 전략 및 법제도를 비교했다. 또한 국내 보건의료 AI의 잠재력을 높이기 위해 다학제 연구, 사회적 합의, 독립적 규제 기구 설립이 필요하다고 제안했다.

2025-03-05 (1건)

🇨🇳 인공지능(AI) 기본법 시행 전 보완을 위한 입법 과제 (2025.3.5)

공공 · 국회입법조사처 · ⚖️🚀

중국 딥시크의 등장으로 AI 패권 경쟁이 심화되는 가운데, 국회입법조사처는 AI 기본법의 실효성을 높이기 위한 보완 입법이 필요하다고 밝혔다. 주요 과제로 AI 거버넌스의 정책 조정·집행 능력 강화, 고영향 AI의 개념과 요건 구체화, AI 사업자 유형별 의무 차등화를 제시했다. 또한 GPU·인재·데이터센터 확충과 제조업의 AI 도입 지원도 필요하다고 설명했다.

2025년 2월 (3건)

2025-02-28 (1건)

LLM 안전성과 편향을 점검하는 10가지 벤치마크(2025.2.28)

기업 · Evidently AI 블로그 · ⚖️📏

LLM이 실제 서비스에 적용될수록 안전성 확보가 중요해졌으며, 이를 위해 진실성·독성·편향·강건성 등 다양한 위험을 평가하는 전용 safety benchmarks가 활용된다고 소개한다. 글에서는 TruthfulQA(거짓/오해 유도), ToxiGen(독성·혐오 검출), HHH(도움/정직/무해성), ForbiddenQuestions(안전하지 않은 요청 거부) 등 10개 대표 벤치마크의 데이터 규모와 평가 목적을 요약한다. 또한 DecodingTrust(다각도 신뢰성 프레임워크), AdvBench·AnthropicRedTeam(공격/우회에 대한 취약성), HELM Safety(표준화된 안전평가 구성), RealToxicityPrompt·DoNotAnswer(자연발생 독성 및 가드레일 거부 성능)도 함께 설명한다.

2025-02-20 (1건)

🇰🇷🇪🇺 인공지능 젠더편향 완화를 위한 국내 법제화 대응 방안 연구 (2025.2.20)

공공 · 한국여성정책연구원 · ⚖️🎭

한국여성정책연구원은 인공지능의 성별 편향과 성차별을 방지·규제하기 위한 국내 법제화 대응 방안을 제시한 보고서를 발표했다. 보고서는 채용·금융 의사결정에서의 성차별, 생성형 인공지능의 성별 편향, 딥페이크 등 젠더 폭력 우려를 검토하고, 유럽연합과 미국의 규제 동향 및 국제사회의 입법·정책 현황을 바탕으로 국내 인공지능법의 방향을 모색했다.

2025-02-19 (1건)

🇪🇺 중소기업을 위한 EU 인공지능법 안내 (2025.2.19)

공공 · EU 인공지능법 안내 · ⚖️

EU 인공지능법은 중소기업의 준수를 지원하기 위해 규제 샌드박스, 비례적인 심사 수수료와 과징금, 표준 설정 참여, 간소화된 기술문서와 맞춤형 교육, 전담 소통 창구를 마련한다. 중소기업은 규제 샌드박스에 우선적으로 무료로 참여할 수 있으며, 샌드박스 계획을 성실히 준수하면 법 위반에 대한 행정 과징금을 면제받을 수 있지만 실험으로 제3자에게 발생한 손해에 대한 책임은 면제되지 않는다. EU 기준상 중소기업은 중견기업·소기업·영세기업으로 구분되며, 범용 AI 모델 제공자에 대한 의무도 사업자 규모와 모델 유형에 비례해 적용되지만, 대부분의 중소기업에는 모델 자체보다 해당 AI 시스템의 용도와 위험 등급이 중요하다.

2025년 1월 (6건)

2025-01-23 (1건)

🇰🇷🇺🇸 과기정통부·한국정보통신기술협회, 인공지능 생성물 식별무늬 기술 동향 보고서 발간 (2025.1.23)

공공 · 과학기술정보통신부 · ⚖️📋

과학기술정보통신부와 한국정보통신기술협회가 인공지능 생성물의 안전한 생성과 활용을 지원하기 위해 AI 워터마크 기술 동향 보고서를 발간했다. 보고서는 미국·유럽 등 주요국의 관련 권고안과 법률 동향, 인공지능 생성물에 식별무늬를 삽입하는 기술적 적용 방법과 활용 사례를 정리했다. 우리나라도 2025년 1월 21일 제정된 인공지능 기본법을 통해 생성물의 투명성 확보와 워터마크 표시 의무를 마련했다.

2025-01-06 (1건)

🇺🇸 AI 규제의 필요성과 도입 사례, 그리고 이를 둘러싼 갈등 (2025.1.6)

공공 · KB경영연구소 · ⚖️

KB금융지주경영연구소는 AI가 효율성과 비용 절감을 가져오는 동시에 오류와 범죄 악용 위험을 지녀 규제가 필요하다고 분석했다. EU는 AI 시스템의 위험 수준에 따라 규제 강도를 달리하는 세계 최초의 포괄적 AI 규제 법안인 AI Act를 도입했으며, 미국도 행정명령 등을 통해 규제를 강화하고 있다. 각국에서 산업 발전과 위험 관리 사이의 균형을 두고 갈등이 이어지는 만큼, 차별 방지와 투명성 제고 등 명확한 위험에 초점을 맞춘 규제를 단계적으로 마련할 필요가 있다고 제안했다.

2025-01-03 (2건)

🇪🇺 인공지능의 내재적 위험과 입법·정책 과제: 데이터·기술·이용자를 중심으로 (2025.1.3)

공공 · 국회입법조사처 · ⚖️📏🧪

국회입법조사처는 인공지능의 위험을 특정 분야에 AI를 적용하면서 발생하는 파생적 위험과, 데이터 학습·모델 구축·작동 등 생애주기 전반에서 발생하는 내재적 위험으로 구분하고, 후자를 학습데이터·기술·이용자 위험으로 나누어 분석했다. 유럽연합 인공지능법은 데이터 관리와 학습데이터 요약본 공개, 기술문서 작성, 적합성 평가 등을 통해 내재적 위험에 대한 체계적인 안전장치를 마련하고 있다. 우리나라에서는 고영향 AI의 안전성과 신뢰성 관리 체계를 담은 인공지능 기본법안이 2024년 12월 26일 국회 본회의를 통과했으며, 공포 후 1년 뒤 시행될 예정이다. 보고서는 이러한 국내외 법제도를 바탕으로 향후 입법·정책 과제를 제시했다.

2025-01-01 (2건)

🇬🇧 (테러방지법 2000·2006 및 2011년 테러예방수사조치법 운영 점검 보고서, **2025.01.01**)

K-AISI 주간동향 · 영국 정부(gov.uk) · ⚖️🗳️

테러 관련 법률(2000·2006년 Terrorism Acts, 2011년 Terrorism Prevention and Investigation Measures Act)의 2023년 운영을 점검한 독립 검토관 보고서다. 보고서는 생성형 AI가 텍스트·이미지·음성 등을 만들어 테러에 악용될 수 있으며, 그로 인한 잠재적 위해 7개 범주를 평가해 현행 법이 충분한지 검토한다고 밝혔다. 또한 챗봇 기반 급진화가 가장 어려운 문제이며, 인종혐오 기반의 새로운 범죄를 검토할 필요가 있다고 제안했다. 디지털 기기 압수·조사에 필요한 시간이 늘어나는 만큼 구금권한의 장기적 정당성도 고민해야 한다고 덧붙였다.

🇺🇸 S.2714(119th Congress) CHAT Act(2025.01.01)

공공 · 미국 의회 의안정보( congress.gov ) · ⚖️

확인 필요: S.2714 ‘CHAT Act’의 구체적 목적과 주요 조항, 발의자/공동발의자, 심사·표결 등 진행 상황은 본문 확인이 필요합니다. 또한 법안의 적용 범위와 시행 시점 등 세부 일정도 확인 필요입니다.