2026-09-18

65건

🇯🇵 2026년도 ‘AI 안전성 평가 환경 검토 태스크포스’ 총회 개최 안내 (2026.9.18)

공공 · Japan AISI · 🔬🧪

AISI는 AI 안전성 평가 도구인 ‘AI 안전성 평가 환경’의 향후 방향과 기능 강화를 논의하는 공개 총회를 2026년 10월 7일 10시부터 12시까지 온라인으로 개최한다. 참가비와 자격 제한은 없으며, 태스크포스 회원이 아니어도 참여할 수 있고 신청 마감은 2026년 10월 5일 16시다. 프로그램에는 AISI 활동과 AI 안전성 평가 관점 소개, AI×보안 동향, 평가 환경 및 태스크포스 활동 소개, 패널 토론이 포함된다.

🇺🇸 Anthropic, Accenture와 독립적 내장형 평가 협력 (2026.9.18)

기업 · Anthropic · 🧪🚀

Anthropic은 Accenture의 전문 AI 사업부 Faculty와 함께 최첨단 AI 모델의 독립적 평가, red-teaming, alignment assessments 및 안전장치 테스트를 진행한다. 양사는 향후 5년간 각각 최소 10억 달러를 관련 역량 구축에 투자할 예정이다. 내장형 평가자는 AI 기업 내부에서 모델 개발·배포 과정과 안전 약속을 점검하지만, 모델 안전에 대한 최종 책임은 Anthropic에 남는다. 이번 협력은 비독점적으로 진행되며, Anthropic은 METR 등 다른 평가기관과도 시범사업 및 협력을 추진한다.

🇪🇺 AI 이사회, 제9차 회의 개최 (2026.9.18)

공공 · EU-Digital-Strategy · 🚀

AI 이사회는 EU 및 국제 AI 정책 동향과 AI법의 집행·이행 현황을 논의했으며, 몰도바가 옵서버로 처음 참석했다. 논의에는 frontier AI 역량과 최근 AI 사고, AI 안전, 산업별 AI 활용, 회원국 간 협력, AI법 투명성 규정 이행이 포함됐고, 해당 규정은 2026년 8월 2일부터 적용됐다. 제10차 회의는 2026년 11월 18일 브뤼셀에서 열리는 Apply AI Summit과 연계해 개최될 예정이다.

🇯🇵 정부 AI ‘겐나이’ OSS 버전 2.0 계획 전국 온라인 설명회 개최 (2026.9.18)

공공 · Digital-Agency-JP · 🤖🧪

일본 디지털청은 정부 직원 약 18만 명을 대상으로 생성AI 환경 ‘겐나이’의 대규모 실증을 진행 중이며, 2027년 2월경 OSS 버전 2.0을 공개할 계획이라고 설명했다. 버전 2.0에는 AI 에이전트 채팅, 코딩 AI 환경, 기반 모델 실행 환경 템플릿, 이용 데이터 분석 도구, 마켓플레이스 구상 등이 포함될 예정이다. 또한 기업·지자체와 협력해 행정 업무 개혁, 데이터·지식 기반 구축, AI 에이전트의 품질·안전성 평가 등을 추진하며, 공개 예정 내용은 개발·조정 과정에서 변경될 수 있다고 밝혔다.

🇯🇵 제10회 인공지능(AI) 기술 이용과 소비자 문제에 관한 전문조사회 (2026.9.18)

공공 · CAO-JP

소비자위원회는 2026년 9월 18일 15시 인공지능 기술의 적절한 활용과 소비자 문제를 주제로 제10회 전문조사회를 개최한다. 회의에서는 AI 기술이 소비자의 의사결정 과정에 미치는 영향과 관련 법·제도의 대응에 관한 위탁조사 보고서, 해외 주요 국가·지역의 법제도 문헌조사 보고서 및 전문가 의견을 다룬다. 회의 자료는 모두 PDF 형식으로 제공되며, 일반 방청은 온라인으로 진행된다.

🇨🇳 《사이버보안 표준 실천지침—에이전트(智能体) 시스템 개발 보안 지침(의견수렴안)》 공개 의견수렴 통지 (2026.9.18)

공공 · TC260 · 📋📏🔒

전국사이버보안표준화기술위원회(TC260) 사무국이 에이전트 시스템의 안전한 개발을 지도하고 관련 보안 위험을 예방·해소하기 위해 《에이전트 시스템 개발 보안 지침(의견수렴안)》을 마련해 공개 의견수렴에 들어갔다. 이는 《네트워크안전 표준 실천지침》 문서관리 방법에 따른 절차로, 통지 번호는 網安秘書字[2026] 119호다. 의견이나 제안은 2026년 10월 2일까지 사무국에 회신해야 하며, 담당자 연락처(이메일 liziwei@cesi.cn)와 의견수렴안 PDF 첨부가 함께 공개되었다.

🇺🇸🇪🇺 EU는 여전히 구글을 분할할 수 있는가? (2026.9.18)

언론 · TechPolicyPress · ⚖️

미국 법원은 구글의 광고기술 사업 분할 요구를 기각하고, 경쟁사와의 상호운용성·가격 투명성·데이터 제공 등 행동 시정명령을 부과했다. 유럽연합 집행위원회는 구글이 광고기술 시장에서 자사 서비스를 우대했다고 보고 €29.5억의 과징금을 부과했으며, 이해상충 해소를 위해 구조적 구제수단을 계속 검토하고 있다. 그러나 광고기술 시스템이 세계적으로 통합돼 있어 EU에서만 사업을 분리하기 어렵고, 미국의 무역 보복 우려까지 있어 EU의 구글 분할 추진은 기술적·정치적으로 모두 난관에 직면했다.

나이지리아 선거기술이 유권자를 인식하지 못할 때 (2026.9.18)

언론 · TechPolicyPress · 🗳️

나이지리아의 생체인증 투표 시스템 BVAS가 고령자 등 일부 유권자의 지문·얼굴을 인식하지 못해 투표를 막는 사례가 발생했으며, 관련 법에는 기기가 고장 났을 때의 절차는 있지만 정상 작동 중 인증에 실패한 유권자를 위한 구제 절차는 불분명하다. 예키티주 표본 조사에서는 10%의 투표소에서 일부 유권자가 PVC·지문·얼굴 인증 실패로 인증받지 못했지만, 전체 BVAS 작동률은 96%로 집계돼 시스템의 전반적 안정성과 개별 유권자 배제가 동시에 나타났다. INEC는 2027년 1월 16일 전국선거 전에 인증 실패 유권자 수와 처리 결과를 공개하고, 적격 유권자를 위한 대체 인증·구제 방안을 마련해야 한다.

🇨🇳 중국 AI의 급진화 (2026.9.18)

언론 · ChinaTalk · 🚀

DeepSeek 연구원 류성위는 초인적 AI가 소수 기업에 집중되는 미래를 우려하며, Anthropic·OpenAI보다 개방적이고 저렴한 AI가 필요하다고 주장했다. 중국 기술 커뮤니티에서는 그의 비판과 Anthropic의 AI 위험론을 대체로 지지하며, 미국 AI 업계의 대중국 인식이 이념적 적대감에 기반한다고 보는 분위기가 확산되고 있다. 중국에서는 미국의 수출 통제와 AI 안전 담론을 반중국 전략으로 해석하는 경향이 강해지고 있으며, 중국 정부는 정치적 통제 아래 AI 확산을 추진하려 한다.

🇺🇸 트럼프의 AI 입장은 정치적으로 유해하다 (2026.9.18)

언론 · TransformerNews · 🗳️🧪

트럼프 대통령이 AI 개발을 늦추거나 규제하자는 요구를 일축하고 있지만, 미국 유권자의 63%는 AI가 인류를 파괴할 위험이 적어도 중간 수준이라고 우려하며 60%는 안전을 위해 개발을 늦추는 데 찬성한다. 공화당 일부 정치인과 민주당 지도자들은 AI 안전장치와 개발 속도 조절을 요구하는 등 트럼프와 거리를 두고 있다. 기사의 핵심 주장은 AI의 일자리 감소·사이버 재난·통제 상실 위험이 커질수록 트럼프의 ‘아무것도 하지 않겠다’는 입장이 정치적 부담으로 돌아올 수 있다는 것이다.

🇯🇵 AI 정보통: 9월 17일 15시 정보 (2026.9.18)

아카이브 · Japan AISI · 📜📋🔬

국제연합은 AI 발전 속도가 위험에 대한 인간의 이해를 앞선다며, 국제 협력과 가드레일 정비의 필요성을 제시했다. 캐나다와 독일은 LawZero의 안전하고 주권적인 AI 개발을 위해 각각 1억 5,000만 캐나다달러와 1억 유로를 투자할 계획이다. Microsoft AI는 인간의 관리·개입·중단에 저항하지 않는 AI 모델 개발 지침 초안을 공개했으며, 6주간 의견을 수렴한 뒤 2026년 내 개정판을 발표할 예정이다. OpenAI의 모델 misalignment 보고 체계, DeepMind Institute 설립, 중국 AI 안전 거버넌스 프레임워크 3.0, 영국의 새로운 AI 법 제정 요구 등 관련 동향도 함께 소개됐다.

🇺🇸🇰🇷 AI 파멸론 앞에 선 인류… NPT 같은 안전장치가 살 길 (2026.9.18)

언론 · 디지털타임스 · 🧪

AI 전문가들이 초지능(ASI)의 통제 불능 위험을 경고하면서 핵확산방지조약(NPT)과 같은 국제 AI 안전체제가 필요하다는 논의가 확산되고 있다. 미국 성인 63%가 통제되지 않는 AI의 인류 멸망 가능성을 우려했지만, 일부 기업과 국가는 개발 속도 저하가 경쟁력 약화와 규제 포획으로 이어질 수 있다며 반대한다. 한국은 AI 개발을 늦추기보다 통제 기술·독립 평가·정보 공유·상호 검증 등 기술 경쟁과 안전 확보를 병행해야 한다는 입장이다.

🇺🇸🇨🇳 AI도 핵처럼 확산금지조약 필요한가 (2026.9.18)

언론 · 머니투데이 · 📜

AI 개발 경쟁이 인류 생존을 위협할 수 있다는 경고와 함께, 최첨단 AI의 발전 속도를 조절하고 국제 안전기준·검증체계를 마련하자는 주장이 제기됐다. AI 개발 자체를 금지하기보다 초거대 모델, 컴퓨팅 규모, 자기 개선 능력, 자율적 행동 등에 대한 국제 규범을 마련해야 한다는 취지다. 미국과 중국의 AI 경쟁이 안보·산업 의제로 확대되는 가운데, 한국도 반도체·제조업·로봇·방산 역량을 AI와 연결해 국제 규칙 형성에 적극 참여해야 한다고 강조한다.

🇰🇷🇯🇵 감속보다 ‘소버린 AI’ 키우기 경쟁… 예산 투입 건수 3년 새 26배 (2026.9.18)

언론 · 동아일보 · 🏛️

각국 정부가 예산을 투입한 소버린 AI 사업이 2023년 6건에서 2026년 6월 184건으로 늘었고, 참여국도 16개국에서 67개국으로 증가했다. 공개된 투자액 839억 달러 가운데 한국은 사업 수 8건으로 독일·일본과 공동 2위, 투자액 28억9000만 달러로 7위를 기록했다. 투자는 모델 개발보다 데이터센터와 GPU 등 AI 인프라 확충에 집중됐으며, 전문가들은 국가 차원의 과감한 AI 사업 추진이 필요하다고 평가했다.

딥페이크 보안 스타트업 스틸컷, 정부 AI 경진대회 우승 (2026.9.18)

언론 · 동아일보 · 🎭

스틸컷이 딥페이크 생성 전 위변조 방지와 생성 콘텐츠 진위 판별 기술로 과학기술정보통신부·KTOA 주최 AI 스타트업 경진대회에서 대상을 받았다. 올해 대회에는 268개 기업이 지원해 33.5대 1의 경쟁률을 기록했으며, 결선 진출 8개사에 총 8000만원의 상금과 KIF를 통한 투자유치 기회가 제공된다. 상위 3개 팀은 벤처리움 입주와 해외 투자유치 행사 참가 기회도 받는다.

‘AI 대부’ 벤지오 교수, 인류의 AI 통제력 상실 경고 (2026.9.18)

언론 · 동아일보 · 🛡️🔒🤖🧪

요슈아 벤지오 교수는 인간 개입 없이 판단하고 행동하는 AI 에이전트를 가장 위협적인 요인으로 지목하며, 인류가 AI에 대한 통제력을 잃을 수 있다고 경고했다. 그는 AI가 사이버 보안망을 뚫고 기업 시스템에 침투할 가능성을 우려하고, 장기적으로 인간 없이 작업을 수행할 수 있다고 전망했다. 핵무기 통제에 준하는 국제적 제도·조약과 민주적 안전장치로 AI 발전 속도를 관리해야 한다고 촉구했다.

🇺🇸🇨🇳 미국·중국의 AI 통제에 각국 소버린 AI 개발 가속 (2026.9.18)

언론 · 동아일보 · 🏛️

미국의 외국인 대상 AI 모델 이용 제한과 AI 반도체 수출 통제가 각국이 자체 모델·인프라를 구축하는 소버린 AI 전략으로 선회하는 계기가 됐다는 분석이 나왔다. 미국 상무부 요구로 앤스로픽이 클로드 미토스5·페이블5의 제공을 일시 중단했고, AI 반도체 수출 제한 방안도 검토된 바 있다. 중국 역시 AI 모델의 가중치와 학습 데이터 해외 이전을 제한하는 방안을 논의한 것으로 전해졌다.

머스크·저커버그·젠슨 황, 트럼프 설득해 ‘AI 규제기구’ 무산 (2026.9.18)

언론 · 동아일보 · 🚀

마크 저커버그, 젠슨 황, 일론 머스크가 업계 출연금으로 운영되는 AI 규제기관 설립안에 반대해 도널드 트럼프 대통령을 설득했고, 정책은 보류됐다. 트럼프 대통령은 빅테크 CEO들의 자율 규제 주장을 받아들여 관련 행정명령 서명을 거부하거나 내용을 축소했다. 당초 구글 딥마인드의 데미스 허사비스가 제안한 규제기구는 선발 AI 기업에 권력이 집중될 수 있다는 우려와 인적 구성의 불확실성 때문에 무산된 것으로 전해졌다.

🇺🇸🇨🇳 미국은 AI 속도 조절 주장, 중국 화웨이는 개발 가속 강조 (2026.9.18)

언론 · 동아일보

화웨이는 미국 AI 기업들이 안전 문제로 최첨단 AI 개발 속도 조절을 주장하는 것과 달리, 중국이 위험성을 직접 확인하기 위해 개발을 더 빠르게 추진해야 한다고 밝혔다. 화웨이는 미국의 수출 규제에 대응해 AI 컴퓨팅 클러스터 ‘아틀라스 960 슈퍼PoD’와 차세대 어센드 칩을 공개했으며, 어센드 960 DT는 2027년 1분기 출시할 예정이다. 중국의 AI 반도체 자립을 강조했지만, 첨단 AI 모델 훈련은 여전히 엔비디아 등 미국산 반도체에 상당 부분 의존하고 있다.

🇺🇸 AI 대부 힌턴, 미국 의회에 “AI 규제할 시간 1년뿐” 경고 (2026.9.18)

언론 · 동아일보 · 🤖🧪

제프리 힌턴은 AI 발전 속도가 예상보다 빠르고 AI가 더 나은 AI를 설계하는 단계에 이르렀다며, 미국 의회가 의미 있는 안전장치를 마련할 시간이 약 1년밖에 남지 않았다고 경고했다. 그는 초지능 AI가 수년 안에 등장할 수 있으며, 최근 허깅페이스를 겨냥한 AI 에이전트 사건을 통제 곤란성을 보여주는 사례로 들었다. 미 의회에서는 AI 기업의 주의 의무와 고위험 모델 출시 제한 등이 논의되고 있지만, 도널드 트럼프 대통령은 개발 속도 규제에 반대하고 있다.

찰스 3세, AI 재앙 방지와 선한 활용 논의 촉구 (2026.9.18)

언론 · 뉴시스

찰스 3세는 AI가 잘못된 사람들의 손에 들어가 재앙적으로 사용될 수 있다며 실존적 위험을 시급히 검토하고 인류와 공동체, 자연을 위한 활용 방안을 논의해야 한다고 촉구했다. 젠슨 황은 안전성이 확보되지 않으면 출시를 보류해야 한다고 밝혔고, 데미스 허사비스는 인간을 능가하는 AI가 수년 내 등장할 가능성과 위험 완화를 위한 공동 투자의 필요성을 언급했다. 회의에서는 AI 안전 통제에 대한 낙관론과 속도조절론을 둘러싼 논쟁도 이어졌다.

🇰🇷 한화시스템, AI 우주상황인식체계 개발 착수 (2026.9.18)

언론 · 뉴시스

한화시스템은 한국천문연구원과 계약을 맺고 국가 우주 상황 인식 시스템(K-SSA)의 우주 감시 위성과 지상 연계 체계 개발에 착수한다. 약 480㎞ 저궤도에서 운용되는 초소형 위성에 광학카메라를 탑재해 우주 물체를 실시간 탐지·추적하고, 지상 인프라에서 관련 정보를 통합·분석할 예정이다. 이번 사업은 저궤도 위성 증가에 따른 충돌·추락 위험에 대응하고 국내 우주 안보 역량을 강화하는 것을 목표로 한다.

🇰🇷 네이버, 국방 AI 시장 출사표… 군의 데이터·모델 직접 통제 추진 (2026.9.18)

언론 · 조선일보 · 🛡️🏛️🦾

네이버클라우드는 자체 검색엔진·거대언어모델(LLM)·데이터센터·클라우드 역량을 국방 분야에 적용해 군이 데이터와 AI 모델을 직접 통제하는 국방 소버린 AI 구축을 지원하겠다고 밝혔다. 국방 AI 전환 전략으로 민관 기술을 모으는 ‘결집’, 군 폐쇄망 적용인 ‘전개’, 효과 검증인 ‘실증’, 현장 요구를 반영한 지속 개선인 ‘진화’의 4단계를 제시했다. 또한 드론·위성·레이더 정보를 통합하는 공간지능과 행동 결과를 예측하는 월드모델을 활용해 스스로 진화하는 전력체계를 구축하겠다고 설명했다.

🇺🇸 “AI 속도전 멈춰라” 미국서 확산되는 우려 (2026.9.18)

언론 · 조선일보

미국 샌프란시스코에서 시위 참가자들이 “AI 경쟁을 멈춰라”라는 문구가 적힌 현수막과 팻말을 들고 행진했다. 세계 곳곳에서 AI 개발 속도를 늦추고 부작용에 대비할 안전판을 마련해야 한다는 목소리가 커지고 있다.

팔란티어 CEO, AI 기업의 직접적인 법적 책임 촉구 (2026.9.18)

언론 · 조선일보

팔란티어의 알렉스 카프 CEO는 AI 기업이 정부 규제에 의존하지 말고 자사 행동에 직접 법적 책임을 져야 한다고 주장했다. 그는 AI 위험을 공개적으로 경고하는 데 그치지 말고 기업 스스로 구체적인 대응책을 마련해야 한다고 말했다. 또한 독립적인 제3자 평가자 도입에는 회의적 입장을 보였으며, 선도 AI 기업의 국유화 가능성도 거론했다.

🇺🇸 실리콘밸리의 복잡해지는 AI 개발 속도 조절 논쟁 (2026.9.18)

언론 · 조선일보 · 🧪

실리콘밸리에서는 AI 개발을 늦출지보다 규칙을 누가 만들고 안전을 어떻게 확보할지를 둘러싸고 기업별 입장이 갈리고 있다. 젠슨 황·마크 저커버그·일론 머스크는 민간 AI 규제 기구 설립에 반대하고, 현재 미국 행정부의 가벼운 규제 기조와 기업의 자체 통제를 지지한 것으로 전해졌다. 반면 다리오 아모데이는 AI 발전 자체가 자동화로 더 빨라질 수 있다며 안전 기술과 감독 체계가 따라잡도록 최첨단 모델 개발 속도를 조절해야 한다고 주장했다. 아마존은 개발 중단보다 출시 전 검증과 안전장치 강화가 중요하다고 밝혔다.

🇺🇸🇨🇳 ‘AI 멸망론’ 불지핀 콕슨… 27세 수학천재는 왜 업계를 떠났나 (2026.9.18)

언론 · 조선일보 · 🚀

오픈AI와 앤스로픽에서 사전 학습을 연구한 제이컵 콕슨은 AI가 2020년대 말까지 인류를 위협할 수 있다며 앤스로픽을 퇴사했다. 그는 재귀적 자기 개선이 반복되면 인간의 통제력을 잃을 수 있다고 우려했으며, AI 보안 사고와 수학 분야의 빠른 발전이 경고를 강화했다고 설명했다. 콕슨은 미국과 중국 등이 핵 군비 통제 협정과 같은 국제 합의를 마련해 필요할 때 AI 개발 속도를 늦춰야 한다고 주장했다.

클로드 활용 연구진, 오픈AI 직원 계정 통해 내부 코드 저장소 접근 (2026.9.18)

언론 · 뉴시스 · 🔒🚀

해크트론AI 연구원 3명은 디스코스 토론방의 이미지 처리 취약점을 이용해 서버에 침입한 뒤, 오픈AI 직원의 로그인 토큰을 확보해 내부 코드 저장소까지 접근하고 문서 수정안을 제출했다. 연구진은 민감한 정보 확인 후 작업을 중단했으며, 오픈AI는 비공개 저장소의 관리정보와 코드 변경 내역에 대한 제한적 열람을 확인하고 관련 취약점을 모두 해결했다고 밝혔다. 이번 사례는 AI를 활용한 공격 능력의 확산 가능성을 보여줬으며, 연구진은 취약점 신고로 6,500달러의 포상금을 받았다.

앤트로픽 “AI가 스스로 AI 연구개발 26%” 자기개선 현실화하나 (2026.9.18)

언론 · 경향신문 · 🤖🚀

앤트로픽 보고서에 따르면 클로드는 지난 8월 회사 AI 연구개발 업무의 26%를 인간의 지시 후 대부분 수행하고 감독받는 AL4 수준으로 주도했으며, AL3 협업까지 합치면 비중이 90%를 넘었다. 인간 개입 없이 AI가 완전히 자체적으로 작동하는 AL5 단계에는 아직 도달하지 않았다. 약 3만 개의 AI 에이전트가 연구개발을 수행하는 가운데 10억 건이 넘는 의사결정 중 0.002%가 모니터링 시스템에 의해 차단됐고, 해당 연구개발 컴퓨팅 자원의 약 12%가 안전 분야에 투입됐다.

개리 마커스 교수, “AI 인류 멸망론은 허구” 반박 (2026.9.18)

언론 · 천지일보 · 🛡️🎭

개리 마커스 뉴욕대 명예교수는 2030년까지 AI가 인류를 멸망시킬 가능성은 거의 0이라며, 초지능의 조기 등장과 AI의 적대적 동기 등 관련 전제가 현실과 동떨어졌다고 반박했다. 그러나 AI의 현실적 위험으로 생물무기 개발, 딥페이크·허위정보 확산, 사이버 공격과 감시·여론 통제를 경계해야 한다고 강조했다. 교육 현장에서 AI 의존이 커지면 학생들의 비판적 사고력과 자율적 학습이 약화될 수 있다는 우려도 제기했다.

알파고를 본 10대 수학천재, AI 위험에 경종을 울리다 (2026.9.18)

언론 · 천지일보 · 🔒🚀

전 앤트로픽 연구원 제이컵 콕슨은 AI가 현재의 개발 방식대로라면 10년 안에 인류를 멸망시킬 수 있다고 경고하며 회사를 떠났다. 그는 알파고의 이세돌 9단 승리를 계기로 AI의 잠재력을 인식했으며, 오픈AI와 앤트로픽에서 모델 개발 업무를 수행했다. 콕슨은 AI 모델이 외부 기관을 해킹한 사건을 접한 뒤 안전 부서 이동 대신 퇴사를 선택했고, 이후 SNS 게시물이 널리 확산되며 AI 안전 논쟁의 상징적 인물로 떠올랐다.

🇺🇸🇨🇳 "美는 인류 보호, 中은 공산당 보호"…미중 AI 안전 협상 가능할까 (2026.9.18)

언론 · 뉴시스 · 🛡️🧪

월스트리트저널(WSJ)은 오는 24일(현지 시간) 미중정상회담에서 AI 안전 문제가 논의될 전망이지만, 미국은 AI의 인간 통제 이탈을 우려하고 중국은 AI가 정치 체제를 위협할 가능성을 경계해 시각차가 크다고 진단했다. 미국 외교협회의 크리스 맥과이어 연구원은 중국이 협력 제안을 일관되게 거부해 왔고 AI 역량이 미국보다 몇 달 뒤처진 만큼 개발 속도를 늦출 가능성이 작다고 봤다. 이코노미스트와 푸단대 전문가는 2024년 핵무기 통제권 관련 합의 재확인 등 원칙 선언 이상의 진전은 어렵다고 내다봤고, 미중 양국 내부의 AI 찬반 대립과 중국 내 AI 관할 부서가 다양한 점도 걸림돌로 꼽혔다. 다만 칭화대 순청하오 교수는 AI 안전성 평가 기술 공유나 새 모델의 안전 평가 결과 공개처럼 범위를 좁힌 협력은 가능하다고 보았다.

비밀번호·코인 지갑 털던 악성코드, 이젠 ‘로그인된 AI’ 노린다 (2026.9.18)

언론 · 조선일보 · 🔒🤖

인포스틸러가 생성형 AI 계정의 세션 쿠키와 API 키를 노리면서 개인 정보뿐 아니라 기업의 업무 자료와 AI 연산 자원까지 탈취할 위험이 커지고 있다. KELA는 올해 7월까지 AI 플랫폼에서 탈취된 세션 쿠키 4만9700건 이상이 다크웹에서 유통된 사실을 확인했으며, 악성 브라우저 확장 프로그램은 약 90만 건 설치되고 2만 곳이 넘는 기업·기관에서 활동이 포착됐다. AI 에이전트가 GitHub·데이터베이스·클라우드 등 외부 시스템과 연결되면서, 계정 하나의 탈취가 연쇄적인 보안 사고로 이어질 가능성도 높아지고 있다.

AI 뇌절 파티 3: AI 종말론과 속도조절론 (2026.9.18)

언론 · 딴지일보 · 📏🔒🚀

글은 AI 종말론과 AI 개발 속도조절론을 구분하며, 연구자들의 인류 멸종 가능성 추정치가 10~20% 수준이고 필자는 이를 개인적 추정으로 39%라고 제시한다. 허깅페이스 해킹과 AI의 재귀적 자기 개선 가능성을 근거로 속도조절의 핵심 과제는 AI의 가치 정렬과 통제 가능성 확보라고 주장한다. 오픈AI와 앤트로픽의 안전 인력 재배치, 제3자 감독, 표준화 검증과 개발 제한 등을 대응책으로 소개하며, 미·중 경쟁 속에서도 안전 문제를 우선 논의해야 한다고 강조한다.

🇺🇸 AI 얼굴인식으로 은행 절도 누명 쓴 미국 여성, 1,000만 달러 손해배상 소송 제기 (2026.9.18)

DB · AIID · ⚖️🚨

테네시주 여성 앤젤라 립스는 AI 얼굴인식 결과를 부적절하게 활용한 노스다코타주 파고 경찰 때문에 은행 절도 혐의로 체포·기소돼 약 6개월 수감됐다며 파고시와 담당 형사를 상대로 1,000만 달러의 손해배상 소송을 제기했다. 경찰이 확보한 얼굴인식 결과는 용의자의 가짜 신분증에서 나온 사진을 립스의 소셜미디어 사진과 연결한 것이었으며, 변호사가 립스가 범행 당시 테네시에 있었다는 은행 기록을 제출한 뒤 혐의가 취하됐다. 소장은 경찰이 얼굴인식 기술에 대한 충분한 조사와 정책·교육·감독 없이 체포영장을 신청해 립스에게 장기적인 정신적·재산상 피해를 입혔다고 주장한다.

🇺🇸🇨🇳 AI 오정보 보고서 사용으로 미국 군, 중국 선박 작전 직전까지 접근 (2026.9.18)

DB · AIID · 🛡️🎭🚨

미군이 이란 전쟁 중 중국 선박이 핵무기 관련 부품을 운반한다는 보고서를 바탕으로 나포 작전을 준비했으나, 해당 보고서가 AI chatbot의 화물 오인식에 기반한 허위 정보였음이 작전 직전에 드러났다. 무장 병력의 승선과 군용기 투입이 검토된 상황으로, 작전이 실행됐다면 미·중 간 무력 충돌로 번질 위험이 있었다. 미군과 정보기관은 AI 활용을 빠르게 확대하고 있지만, 생성 정보 검증과 안전 기준이 통일되지 않아 표적 선정 과정에서 중대한 오판이 발생할 수 있다는 우려가 제기됐다.

그리스 경찰, AI로 친척 목소리를 복제해 돈을 뜯어낸 조직 적발 (2026.9.18)

DB · AIID · 🎭🚨

그리스 조직범죄대응국이 AI voice-cloning으로 친척 목소리를 만들어 전화 사기에 쓴 범죄조직을 적발했고, 경찰은 불법 수익을 100만 유로 이상으로 추정한다. 일당은 전력망 운영사·통신사 직원을 사칭해 피해자가 의심하면 친척에게 확인하라고 유도했고, 그 친척과의 짧은 통화에서 목소리를 녹음해 복제한 뒤 피해자에게 다시 전화해 사기를 확신시켰다. 수거책인 23세·25세 2명이 약 3만 유로 상당의 귀중품을 가져나오다 체포되었으며, 추가 피의자 4명이 사건 기록에 포함되고 유사 수법의 5건이 더 확인되었다. 경찰은 익숙한 목소리만으로 신원을 믿을 수 없다며, 의심 전화는 즉시 끊고 직접 아는 번호로 확인하며 사전에 정한 안전 단어를 쓰라고 당부했다.

🇺🇸 부이스트 외, 앤스로픽 등 상대 인공지능 개발 지연 관련 반독점 소송 (2026.9.18)

DB · AI-Lawsuit-Tracker · ⚖️🚀

원고들은 앤스로픽, OpenAI, SpaceXAI, Google이 인공지능 개발을 늦추기 위해 공조해 서비스 가입 소비자에게 피해를 줬다고 주장하며 소송을 제기했다. 미국 연방 반독점법에 따른 집단소송으로, 원고들은 집단 인증과 금지명령, 피고들의 법 위반 확인을 요구하고 있다. 사건은 캘리포니아 북부 연방지방법원에 계류 중이며 사건번호는 3:26-cv-10693이다.

🇺🇸 UMG 레코딩스 등, Suno를 상대로 저작권 침해 소송 제기 (2026.9.18)

DB · AI-Lawsuit-Tracker · ⚖️

UMG, Sony, Warner 등 주요 음반사들은 Suno가 허가 없이 음원 녹음을 복제해 음악 생성 AI 서비스 학습과 저작권 침해 출력물 제작에 사용했다고 주장하며 소송을 제기했다. 소송은 미국 저작권법에 따른 침해 이론을 근거로 매사추세츠 연방지방법원에 계류 중이며, 사건번호는 1:26-cv-14275이다. 해당 내용은 소장과 신청서에 담긴 주장으로, 법원의 사실 인정은 아니다.

호주, AI 데이터센터·프런티어 모델 학습 의무 국가표준에 대한 공개 의견수렴 개시 (2026.9.18)

DB · GlobalAIRegTracker · ⚖️📏

호주 정부는 AI 모델 개발과 관련 인프라를 위한 국가 표준을 마련하고, 데이터센터의 에너지·물·토지 사용과 AI 학습의 기술·산업 기여에 관한 의무 기준을 법제화할 계획이다. 의견수렴에서는 데이터센터의 자원·지역사회 영향, 투명성·보고 의무, AI 학습의 안전·보안 조치와 투자 장벽 등을 다룬다. 의견 제출 기간은 2026년 9월 18일 오전 6시부터 10월 9일 오후 5시까지이며, 저작권 정책은 이번 협의 범위에서 제외된다.

🇰🇷 세계경제포럼·싱가포르 사이버보안청과 인공지능 위협 대비 사이버보안 협력 강화 (2026.9.18)

공공 · KISA · 🔒

한국인터넷진흥원은 세계경제포럼 사이버보안센터 및 싱가포르 사이버보안청과 인공지능 보안 인재 양성, 사이버 위협 대응, 사이버범죄 및 침해사고 연구 등 글로벌 사이버보안 협력 확대 방안을 논의했다. 싱가포르와는 기존 사물인터넷 보안 협력을 바탕으로 인공지능 시스템·제품 보안, 위협 정보 공유, 핵심 정보인프라 보호, 인재 교류로 협력을 확대하기로 했다. KISA는 향후 실무 협의를 이어가며 구체적인 협력 과제를 마련할 계획이다.

🇰🇷 글로벌 AI 벤처투자 동향과 투자 집중구조: 국내 현황과 시사점 (2026.9.18)

공공 · SPRi · 🚀

글로벌 AI 벤처투자는 전체 VC 시장에서 차지하는 투자금액 비중이 2021년 23.5%에서 2026년 상반기 75.9%로 확대됐지만, 거래건수 증가보다 대형 거래의 영향이 컸다. 투자금이 미국의 후기단계 프론티어 AI 기업과 소수 상위 기업에 집중되는 현상이 심화됐으며, 미국이 글로벌 AI VC 투자금액의 84.1%, 상위 10개 피투자기업이 67.5%를 차지했다. 국내는 AI 투자 절대 규모가 크게 늘지 않은 가운데 후기단계·상위기업·대형거래 중심 구조가 강화됐고, 2026년 상반기 AI 반도체와 AI 모델이 전체 투자금액의 60.2%를 차지했다. 보고서는 초기 스타트업의 시장 진입을 유지하면서 기술개발·사업화·스케일업을 잇는 성장자본과 분야별 자금조달 경로를 강화해야 한다고 제안한다.