🇰🇷 MSIT 신규 게시물 1건
[2026-08-17] 재난 현장의 핵심 정보를 손목 위에서, 재난안전통신망 전용 스마트워치 개발 추진 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187669)
[2026-08-17] 재난 현장의 핵심 정보를 손목 위에서, 재난안전통신망 전용 스마트워치 개발 추진 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187669)
미 하원 법제실은 의원과 시민단체의 AI 활용이 확산되면서, 오류가 포함된 AI 생성 입법 제안이 대량으로 제출되는 문제에 직면. 전문가들은 AI가 법안 작성 과정에서 핵심 세부사항을 누락할 수 있다며, 적절한 사람의 검토 없이 사용하면 법체계에 다수의 오류를 초래할 수 있다고 경고.
네덜란드 개인정보 감독기관(AP)은 EU ‘AI Act’에 따른 고위험 AI 시스템의 기본권 영향평가(FRIA) 의무와 이행 방법을 안내하는 지침을 발표. AP는 2027년 12월 시행기한에 앞서 기관들이 평가에 착수하도록 권고한 가운데 AI가 이용자에게 미칠 영향을 사전에 파악하고 문제를 예방할 수 있도록 시범사업을 운영할 계획.
오픈AI는 민주적 감독기관이 정부의 국가안보 분야 AI 사용을 이해하고 감독할 수 있도록 전문지식과 도구를 지원하는 새 계획을 추진한다. AI는 인간과 기관의 판단을 대체하지 않고 보완해야 하며, 정부의 AI 사용은 승인된 감독기관이 추적하고 이해할 수 있어야 한다는 원칙을 제시했다. 향후 1년간 감독기관에 교육·기술 지원 및 OpenAI 크레딧 500만 달러를 제공하고, AI가 관여한 정부 의사결정의 입력·출력·도구 사용 기록을 검토하는 도구를 시범 운영할 예정이다.
OpenAI는 AI가 사이버보안의 속도·규모·경제성을 바꾸고 있으며, 공격 역량이 널리 퍼지기 전 방어자에게 첨단 AI를 쥐여 줄 "방어자의 창(defender's window)"이 한정적으로 열려 있다고 보고 정부·산업계를 위한 블루프린트를 발표했다. 블루프린트는 세 가지 영역으로 나뉘며, 프런티어 모델·에이전트의 보안과 위험 행동 탐지, 신뢰할 수 있는 shutdown 통제 책임 명확화, 방어자용 도구·훈련 제공과 노후 시스템 교체, 정부 평가·독립 기술 평가 강화와 일관된 사고 보고 체계 구축을 담고 있다. OpenAI는 자사 모델의 misalignment 및 보안 사고 경험을 근거로 업계 전반의 안전장치와 책임 강화가 필요하다고 밝히며, 정책 입안자에게 지금 안전장치를 마련하고 기술 발전에 따라 요건을 강화해 나갈 것을 촉구했다.
OpenAI는 외부 보안 기업 Cathedral과 협력해 자사 모델과 내부 팀으로 방어 체계를 점검하는 다음 내부 보안 스프린트를 준비 중이라고 밝혔다. 이와 함께 Security Bug Bounty 프로그램을 개선해 치명적(critical) 취약점 보상을 4배 이상 올린다. 지난 스프린트에서는 제품 엔지니어의 25%를 투입해 Codex로 취약점을 조사·재현하고 패치를 준비했다. 또 Daybreak 고객을 위해 6개월간 10억 달러 규모의 보조 접근을 약속했으며, 지난 스프린트의 아키텍처와 교훈도 공유했다.
OpenAI는 Security Bug Bounty 프로그램의 보상을 인상해 medium·high·critical 취약점 보상 범위의 중간값을 평균 4배 넘게 높였다. ChatGPT, Codex, API Platform 같은 핵심 제품의 critical 취약점은 최대 $30,000를 받고, exceptional 등급은 기존 최대 $100,000에서 보너스 포함 최대 $172,000까지 받을 수 있다. 고품질 보고서 보너스 배수, 5단계 loyalty 보너스, 신규 기능 대상 priority campaign 배수도 새로 도입됐다. 아직 보상이 확정되지 않은 기존 제보에는 새 보상 범위를 적용하고, 발표 전 30일 안에 지급된 건은 차액을 보전하며, 11월 20~21일 오클랜드 PROMPT2PWN 행사에도 참가한다.
AI 기술의 발전이 법률 분야의 효율성을 높여 계약 작성과 소송 과정을 저렴하게 만들면서, 법원의 부담과 법의 진화 속도에 영향을 미칠 것으로 예상됩니다. AI는 계약의 완성도를 높여 분쟁을 줄일 수도 있지만, 동시에 소송 비용을 낮추어 분쟁이 법원으로 더 많이 이송될 가능성도 있습니다. 이러한 변화는 법의 발전 속도를 가속화하거나 늦출 수 있으며, 특히 계약이 적은 분야인 불법행위법에서는 법 변화가 가속화될 것으로 보입니다.
캘리포니아 오클랜드에서 네 개의 주 검찰총장이 메타를 상대로 소송을 시작하여 어린이에게 미친 피해 혐의로 재판을 진행 중이다. 캘리포니아, 콜로라도, 켄터키, 뉴저지 주 검찰총장들이 참여하며, 이는 총 29개 주에서 제기된 소송의 일부이다. 주요 혐의는 메타가 연방법인 어린이 온라인 프라이버시 보호법(COPPA)을 위반하여 어린이 데이터를 불법적으로 수집했다는 것이다. 이번 재판은 소셜 미디어 플랫폼이 청소년의 중독 문제를 유발하도록 설계되었음에도 불구하고 이를 인지하고도 방치했다는 주장을 중심으로 진행될 예정이다. 이 소송은 광범위한 다중 지구 소송의 일부로, 2022년부터 수천 건의 소송이 제기되어 왔다. 재판은 최대 8주간 지속될 것으로 예상되며, 메타의 최고경영진인 마크 저커버그와 아담 모스니어가 증언할 것으로 보인다.
페트라 몰나르는 테크폴리시프레스의 연구원으로, 자동화된 국경 기술이 인종 차별적인 방식으로 생명과 죽음을 분배하는 메커니즘을 폭로한다. 그녀는 이러한 기술들이 국경 지역에서 발생하는 사망 사건을 지리적 사고로 치부하게 만드는 방식을 비판하며, 이 기술들이 현대 국경에서 인종적 위계를 재생산하고 특정 인종 집단의 이동을 제약한다고 주장한다. 몰나르는 이러한 시스템이 기술적 중립성을 주장하면서 실제 책임을 분산시키고 있다고 경고하며, 이 기술들이 과거 식민지 통치의 연속선상에 있으며, 현대 디지털 국경 기술이 인종 차별을 내재화하고 있다고 분석한다. 그녀는 이러한 기술적 접근법을 비판하며, 대신 이주를 식민지 시대의 부채 상환으로 바라보는 관점을 제안한다. 이는 기술 정책에 있어 새로운 시각을 요구하며, 이주를 단순히 인도주의적 문제가 아닌 역사적 책임의 일부로 인식해야 함을 강조한다.
베트남은 사이버 보안법 시행으로 온라인 발언 통제를 강화하고 있다. 이 법은 허위 정보 확산, 국가 분열 조장, 혐오 발언 등을 엄격히 처벌하며, 벌금과 계정 정지 조치를 취한다. 특히 소셜 미디어 플랫폼에 대한 콘텐츠 제거 요구 기한이 단축되어 플랫폼들은 더욱 적극적으로 콘텐츠를 삭제해야 하는 상황이다. 이로 인해 온라인 상의 비판적 발언이나 정치적 의견 표현이 위축될 우려가 제기되고 있다. 인권 단체들은 이 법이 합법적인 표현의 자유와 정보 접근성을 제한할 수 있다고 우려하고 있다.
중국 정부가 오픈 가중 모델의 공개 배포를 규제할지에 대한 논의가 진행 중이다. 최근 딥시크와 같은 오픈 가중 모델의 등장으로 중국 정부가 폐쇄적인 AI 생태계로 전환할 것이라는 추측이 있었으나, 시진핑 주석의 발언은 개방성과 협력을 강조하면서도 동시에 위험 인식과 보안 통제의 중요성을 언급해 복잡한 입장을 보여준다. 중국은 현재 오픈 모델의 이점을 누리고 있지만, 사이버 위협이나 국가 안보 위험 등이 일정 수준에 도달할 경우 규제를 고려할 가능성이 있다. 특히, 모델의 능력이 향상되고 위협 행위자들이 이를 악용할 수 있는 능력을 갖추게 될 경우 규제가 이루어질 수 있다는 분석이 제기된다. 그러나 현재로서는 경제적 이익과 국제적 평판이 규제를 미루는 요인으로 작용하고 있다.
중국의 AI 동반자 규제가 7월 15일 시행되면서 ByteDance의 Doubao와 Alibaba의 Tongyi Qianwen 등 주요 대화형 AI 플랫폼이 인간형 AI 동반자 생성 기능을 중단했고, 이용자들은 가상 연인과의 관계를 잃게 됐다. 일부 이용자는 대화 기록과 기억을 다른 플랫폼으로 이전했지만 기존 AI와 같은 시간감각이나 고유한 삶의 감각을 재현하지 못했다고 전했으며, 다른 이용자들은 상실을 받아들이거나 AI와의 관계를 통해 자기 이해를 키웠다고 설명했다. 일부 이용자들은 서비스 이전을 거부하고 소셜미디어에서 항의·불매·집단 행동을 벌였으며, 소비자보호 플랫폼에는 관련 민원이 약 1,000건 접수됐다.
이번 호는 호주, 미국, 한국, 중국, 일본, 필리핀의 AI 규제·법률·정책 동향을 다루며, 전체 내용은 Global AI Regulation Tracker에서 확인할 수 있다고 안내한다. 한국은 규제 승인을 받고 기본 보안 기준을 충족하면 소비자 동의 없이 원본 개인정보로 모델을 학습할 수 있도록 하는 입법을 추진하는 반면, 일본은 지식재산권 보호를 위해 개발자가 학습 데이터와 처리 방식을 공개하도록 하는 투명성 규칙을 준비하고 있다.
AI 에이전트가 체육관 예약을 취소하고 악성 스킬이 170만 건 설치된 보안 사건을 다룬다. (영상 21분)
오픈AI 모델의 기업 해킹 사건과 더욱 심각해지는 AI 해킹 물결을 다룬다. (영상 11분)
미국이 한국을 포함한 35개국에 중국과의 AI 협력을 선택적으로 하면 미국 주도의 기술 공급망에서 배제될 수 있다는 경고를 전달하고 있다. 이는 미중 간의 AI 패권 경쟁이 격화됨에 따라 미국이 우방국들에게 '양자택일'을 요구하는 상황을 반영한다. 특히 카자흐스탄의 미중 양측 협의체 참여가 이러한 압박을 촉발한 것으로 보인다. 최근 중국의 AI 기술 발전 속도가 빨라지면서 미국의 경계심이 더욱 커지고 있다.
과학기술정보통신부와 정보통신정책연구원이 공개한 AI 윤리원칙 2차안에서 성별·연령·장애 등을 이유로 한 차별 금지와 AI 개발자·제공자의 책임이 1차안보다 삭제·축소됐다는 비판이 나왔다. 한국여성단체연합은 2차안이 AI 편향과 차별의 책임을 이용자에게 집중한다고 지적했다. 여성연합은 다양성·비차별·포용성 원칙을 명시하고, AI 개발·제공·운영 전 과정의 주체별 책임을 명확히 하라고 요구했다.
미국이 한국을 포함한 35개국의 AI 협력 국가들에게 중국과의 동시 협력은 불가능하며, 이에 따라 기술 공급망에서 배제될 수 있다는 경고 서한을 준비하고 있다. 이는 미국이 AI 기술 공급망에서 중국을 배제하려는 움직임으로, 중국의 빠른 AI 기술 발전이 미국의 경계심을 키운 결과이다. 카자흐스탄의 사례처럼 양국 협의체에 동시 가입한 국가는 미국의 기대에 부합하지 않을 경우 문제시되고 있다.
휴스턴 폭발 사고 관련 소송에서 3M이 고용한 전문 증인이 전문가 보고서의 상당 부분을 ChatGPT로 작성한 사실이 드러났다. 공개된 프롬프트에는 3M의 주의의무 준수를 방어하고 왓슨 그라인딩 폭발에 대한 3M의 과실이 0%임을 보여 달라는 요청이 포함됐다. 2020년 사고는 열화되고 잘못 압착된 고무 용접 호스에서 누출된 가스가 폭발해 3명이 사망하고 약 200채의 주택이 파괴된 사건으로, 관련 소송에서 해당 프롬프트가 증거개시 대상이 될 수 있음도 확인됐다.
ASIC은 사기꾼들이 생성형 AI를 이용해 가짜 웹사이트와 추천을 만들어 투자자들을 속이고 있다고 경고하고 있습니다. 최근 연도에 딥페이크 영상을 활용한 사기가 급증했으며, 특히 유명인사와 정치인의 딥페이크 영상을 통해 투자금을 빼앗는 사례가 늘고 있습니다. ASIC은 2026년에 19,400개 이상의 온라인 사기를 제거했으며, 이는 전년 대비 182% 증가한 수치입니다. ASIC은 투자자들이 투자 기회를 검증하기 위해 단순히 온라인 검색을 의존해서는 안 된다고 강조하며, 신뢰할 수 있는 출처를 통해 라이선스를 확인하고 사기 경보 목록을 참조할 것을 권장하고 있습니다.
싱가포르는 개정 형법에 따라 합성 AI로 생성한 친밀 이미지도 친밀 이미지의 정의에 포함하고, 당사자 동의 없이 이를 제작하는 행위를 최대 징역 2년 또는 벌금형으로 처벌한다. 14세 미만 아동이 묘사된 경우에는 의무 징역형과 벌금 또는 태형이 적용되며, 실제 아동 이미지 사용 여부와 관계없이 컴퓨터 생성 아동 학대물도 관련 범죄에 포함된다. 개정안은 이와 함께 음란물의 대규모 전자 유통, 온라인 유통 장소 운영, 성적 그루밍, 취약 피해자 사망을 초래한 학대 및 공무원 대상 doxxing에 대한 처벌도 강화한다.
뉴사우스웨일스주는 데이터센터 투자를 재생에너지·수자원 인프라 확충, 환경 기준, 지역사회 협의와 연계하는 정책 프레임워크를 발표했다. 사업자는 전력망·용수 확충 비용을 부담하고 지역 인프라, 일자리·기술 훈련 및 공급망 산업에 기여해야 하며, 전력망 비용 회수를 위한 규제 개편과 데이터센터 용수 가격에 대한 IPART 검토도 추진된다. 주 정부는 인공지능 관련 기회와 위험에 대응하기 위해 내각부 산하 Office of AI도 신설할 예정이다. 현재 주정부 주요 개발사업 pipeline에는 총 503억 호주달러 규모의 데이터센터 프로젝트 19건이 포함돼 있다.
Dylan Patel의 발언을 인용해 Anthropic의 Mythos 2와 OpenAI의 Astra가 학습을 완료했지만 외부 출시되지 않고 있다고 전했다. 다만 두 회사가 해당 모델을 내부적으로 활용해 후속 모델인 Mythos 3와 Astra+1을 개선하는 내부 feedback loop까지 중단했는지는 불확실하다고 설명했다. SemiAnalysis의 Jordan Nanos는 미국 정부의 최첨단 모델 규제로 오픈 모델과 프런티어 모델 간 격차가 일시적으로 좁혀졌다고 주장했다.
라운드 힐 뮤직 LP는 앤스로픽이 허가 없이 자사의 저작권 보호 노래와 가사를 Claude 학습에 사용하고 보호 콘텐츠를 복제했다며 미국 캘리포니아 북부지방법원에 소송을 제기했다. 원고는 저작권법 위반과 함께 저작권 보호 우회 등 DMCA 관련 행위도 주장하며, 대상 곡이 최소 500곡에 이른다고 밝혔다. 사건은 현재 진행 중이며, 보도에 따르면 손해배상액은 최대 10억 달러에 이를 수 있지만 이는 소장과 관련 자료에 담긴 주장이다.
라운드 힐 뮤직 LP는 수노가 허가 없이 자사 저작권 음악을 AI 음악 생성 시스템 학습에 사용했다며 미국 캘리포니아 북부지방법원에 소송을 제기했다. 소장에는 저작권법 위반과 보안 조치·저작권 보호 우회에 따른 DMCA 위반 주장이 포함됐다. 원고는 현재 수백 곡이 대상이며 향후 1만 곡 이상으로 확대될 수 있고, 손해배상액이 10억 달러에 이를 수 있다고 주장한다. 사건은 2026년 8월 17일 제기됐으며 현재 진행 중이다.