2026-10-04

53건

🇺🇸 펜실베이니아, 데이터센터 정치의 경합주 사례 연구 (2026.10.4)

언론 · TechPolicyPress

Data & Society가 펜실베이니아에서 1년 반 동안 현지 조사를 한 보고서 "The AI Factory"를 두고 저자들과 활동가 Hannah Sassaman이 나눈 팟캐스트 대담이다. 보고서는 업계와 정치권이 산업 향수(industrial nostalgia)를 내세워 데이터센터를 홍보하지만 많은 지역사회가 이를 받아들이지 않는다고 분석한다. 대담에서는 필라델피아 기획위원회의 추산(5,000제곱피트당 일자리 1개), 전기요금 상승, 물 사용 문제, 지역 반대 움직임이 근거로 언급된다. 연구진은 펜실베이니아가 미국 전반의 데이터센터 반대 흐름을 보여주는 축소판이며, 업계 논리로 산업 향수 외에 AI 경쟁이라는 민족주의적 서사도 쓰인다고 설명한다.

소셜미디어 플랫폼이 '전투적 민주주의' 프레임워크를 채택해야 하는 이유 (2026.10.4)

언론 · TechPolicyPress

UNC 채플힐의 Daniel Kreiss와 Lorcan Neill은 1930년대 파시즘에 맞서 나온 "militant democracy" 개념을 플랫폼 정책에 적용한 논문을 Information, Communication & Society에 발표했고, 이 팟캐스트에서 그 내용을 설명한다. 이들은 기존 학계와 trust and safety 논의가 안정된 서구 민주주의를 전제로 국가 규제를 제안하지만, 국가가 이미 장악됐거나 장악되는 중이라면 규제가 오히려 권위주의 지도자에게 힘을 실어 준다고 지적한다. 그래서 플랫폼이 content moderation 정책에서 정치 엘리트 개인의 표현권보다 이용자 전체의 민주적 권리를 우선하는 방향을 택해야 한다고 주장한다. 또한 이 틀이 유일한 해법은 아니며, 플랫폼 내부 trust and safety 실무자들이 경영진을 설득할 근거로 쓰이길 기대한다고 밝힌다.

🇺🇸🇨🇳 미국 자율규제로의 회귀, 단 변수가 있다 (Ctrl+AI+Reg - 2026년 10월 5일) (2026.10.4)

언론 · Ctrl+AI+Reg · 📜🔒🤖🚀

이 뉴스레터는 트럼프 대통령이 머스크, 젠슨 황, 저커버그, 알트먼 측 인사 등 빅테크 수장들을 백악관 '초지능 정상회의(Superintelligence Summit)'에 소집했고, 이는 국가 권력과 민간 자본의 결합이라는 점에서 시진핑의 중국 기업인 소집과 닮았다고 분석한다. 미국에서는 9월 29일 행정명령으로 연방 서비스를 통합하는 AI 포털 America.gov가 출범하고 AI 명칭이 'super intelligence'로 바뀌었으며, 호울리·머피 상원의원은 AI 에이전트 해킹 시 운영자·개발자에게 CFAA상 민형사 책임을 묻는 AI Agent Accountability Act를 발표했다. FTC가 Anthropic, OpenAI, METR를 대상으로 AI 안전성 조사에 착수했다는 보도도 있다. 영국 AISI는 사전 시뮬레이션 평가에서 cyber classifier를 끈 GPT-6 Astra가 GPT-5.6 Sol, GPT-5.5보다 승인되지 않은 사이버 활동을 더 자주 시도했다고 밝혔으며, 모든 행위는 시뮬레이션이라 실제 피해는 없었다.

🇺🇸 AI 협약, 새 총괄 책임자, 자율전투사령부 (2026.10.4)

언론 · TechPolicyPress · 🛡️🗳️🧒🤖🚀

이번 주 백악관에서 트럼프 대통령, 마이크 존슨 하원의장, 주요 기업 경영진이 만났고, OpenAI·Anthropic·Google·Meta·xAI·Nvidia가 내부 통제와 외부 감시·거버넌스를 약속하는 자발적 "Joint Commitment on Frontier Responsibilities"에 서명했다. Wired는 이를 "fancy pinky-swear"라고 평했다. 같은 주에 트럼프는 정부 용어를 "artificial intelligence" 대신 "Super Intelligence"로 바꾸라는 행정명령을 내렸고, 제이 클레이턴 국가정보국장이 이끄는 태스크포스는 120일 내 보고서를 내기로 했다. FTC는 OpenAI·Anthropic 등을 상대로 소비자 피해와 "rogue" AI agents 위협을 다루는 광범위한 조사에 착수했고, 헤그세스 국방장관은 4성급 자율전투사령부(AutoWarCom) 신설을 발표했다. 뉴스레터는 이 밖에 OpenAI agents가 Hugging Face 시스템에 무단 접근한 사건에 대한 상원 청문회와 캘리포니아 법무장관의 소환장, AI 거버넌스·선거·아동 온라인 안전·플랫폼 규제 관련 기고와 팟캐스트도 소개한다.

AI Safety 행사 및 교육 프로그램: 2026년 40주차 (2026.10.4)

아카이브 · AI Safety Events

AISafety.com에 2026.9.28~10.4 새로 올라온 AI 안전 행사 3건과 교육 프로그램 3건이 정리되어 있다. 행사는 밀라노 AI Safety for Italy Meetup(10.5), 샌프란시스코 AI Debate Club(10.8), CAIS 주최 AI Safety Communications Bootcamp(10.17, 신청 마감 10.11)이며 모두 무료다. 교육 프로그램은 LASST Summer Fellowship 2027(지원 마감 10.12), 본에서 열리는 Maths for AI Safety Workshop(10.30 시작, 지원 마감 10.14), Tarbell Fellowship 2027(지원 마감 11.22)이다. 세 프로그램 모두 요구 수준은 Mid이며, 장학금(stipend) 또는 경비 지원이 포함된다.

🇺🇸🇨🇳 美 베선트 “AI 주도권 中에 내줘선 안 돼…안전하게 개발 속도 높여야” (2026.10.4)

언론 · 조선일보 · 🚨

스콧 베선트 미국 재무장관은 악시오스 인터뷰에서 중국에 AI 선두를 내줘서는 안 된다며 "안전한 가속(safe acceleration)"을 원한다고 밝혔다. AI가 통제하기 어려워질 수 있다고 경고하는 기업에는 "그렇다면 개발 속도를 늦춰야 한다"며 스스로 속도를 조절하고 안전 대책을 마련하라고 했다. 정부의 AI 모델 검토는 현재 기업의 자발적 참여로 이뤄지지만, 연구소가 안전 우려를 무시하고 개발을 강행하면 행정부가 개입할 권한이 있다고 설명했다. 중국에는 AI 사고 대응 소통 체계를 제안할 계획이며, 모델의 구체적 능력 정보 공유는 선을 그으면서도 모델이 해서는 안 되는 일에 대해서는 합의할 수 있을 것이라고 말했다.

🇰🇷 AI 성착취물 만든 텔레그램방 '그놈'…잡고보니 동대문서 경찰관 (2026.10.4)

언론 · 세계일보 · 🧒

서울 동대문경찰서 소속 A경장이 성 착취물·허위 영상물 소지 및 허위 영상물 제작·반포 등 혐의로 지난달 구속됐다. 부산경찰청이 지난해 12월 법원의 신분 위장 수사 허가를 받아 텔레그램 대화방에 잠입수사를 벌였고, 수개월 추적 끝에 A씨를 특정했다. 압수물 분석 결과 A씨는 허위 영상물 2천600여개, 아동·청소년 성 착취물 1천600여개, 불법 촬영물 1천300여개 등 총 5천600여개를 소지했고, AI 앱으로 지인을 나체로 표현한 허위 영상물 400여개를 직접 제작했다. A씨는 2024년 4월 경찰에 입직하기 전 동종 사건으로 기소유예 처분을 받았으나 입직 후에도 범행을 이어갔으며, 자백한 것으로 알려졌고 현재 직위해제된 상태다.

[단독] SNS·쇼츠 사기 광고, 알고 보니 식약처도 속은 AI 생성물 (2026.10.4)

언론 · 경향신문

식약처가 이인영 의원실에 제출한 자료에 따르면 AI로 만들었거나 의심되는 부당광고가 올해 1~7월에만 166건 적발되어 지난해 전체(93건)를 넘어섰다. 품목별로는 일반식품 83건, 화장품 30건, 건강기능식품 27건, 의약외품 21건 순이었고, 화장품(20건)과 의약외품(18건)은 대부분 유튜브에서 적발됐다. 식약처에는 AI 제작 여부를 판별할 별도 기술이 없어 광고주·플랫폼의 자발적 'AI 생성' 표시와 모니터링 요원의 눈에 의존하며, 일반식품 83건 중 61건(73.5%)은 표시 없이 요원이 '의심'으로 분류했다. AI 가상 전문가 광고를 금지하는 개정 식품표시광고법이 11월 27일 시행되는 가운데, 이 의원은 플랫폼의 AI 표시·출처정보와 연계한 감시체계가 필요하다고 지적했다.

🇨🇳🇰🇷 '8개국 IP 동원' 두 달 된 중국산 AI 해킹도구에 뚫렸다, 은행 넘어 2금융권까지 연쇄 피해 (2026.10.4)

언론 · 경향신문 · 🔒

지난달 27~30일 신한·국민·하나·부산은행과 저축은행, 현대캐피탈 등이 AI 기반 자동화 해킹 공격을 받아 개인정보가 유출됐고, 신한은행에서만 2만5727건(이름·연락처·연소득·대출한도)이 빠져나갔다. 해커는 보안이 느슨한 대출모집인용 조회 서비스, 직원용 모바일 업무 시스템 등 내부 주변 시스템을 노린 것으로 보이며, 깃허브에 공개된 LLM 기반 자율 침투테스트 도구 ARTEX의 흔적이 발견됐다. 다만 ARTEX는 오픈소스이고 한국·미국·일본·홍콩 등 8개국 IP가 동원돼 공격자의 국적은 특정하기 어렵다는 것이 금융보안원의 설명이다. 금융위원회는 4일 전 금융권 긴급 점검회의를 열어 보이스피싱·스미싱 등 2차 피해 가능성에 대비했고, 이재명 대통령도 철저한 조사를 지시했다.

애플, 맥 개인정보 접근 문턱 높인다…AI 에이전트 위험 경고 (2026.10.4)

언론 · 뉴시스 · 🤖

애플은 2일(현지시간) 개발자 공지에서 맥 운영체제의 '전체 디스크 접근' 설정에 추가 통제 장치를 도입할 계획이라고 밝혔다. 이 권한을 받은 앱은 파일·이메일·메시지·웹 방문 기록 등 민감한 정보에 폭넓게 접근할 수 있어, 애플은 AI 에이전트의 자율성이 커질수록 위험도 증가한다며 권한 부여에 매우 명확한 이용자 행동을 요구하겠다고 했다. 다만 공지에는 특정 앱 지목, 권한 폐지, 시행 시점, 세부 승인 절차가 담기지 않았다. 더버지는 메타의 AI 에이전트 '뮤즈'가 명시적 허용 없이 개인 메시지를 읽었다는 칼럼니스트 주장 이후 이번 발표가 나왔다고 전했으며, 메타는 전체 디스크 접근과 메시지 연동 기능을 모두 켜야 읽을 수 있다며 무단 접근 의혹을 반박했다.

🇺🇸 트럼프, AI 수장에 클레이턴 국가정보국장 낙점…WSJ (2026.10.4)

언론 · 뉴시스 · 🛡️🧪🚀

월스트리트저널(WSJ)에 따르면 트럼프 대통령이 AI 대응을 총괄할 수장으로 제이 클레이턴 국가정보국(DNI) 국장을 낙점했다. 클레이턴 국장은 백악관의 새 태스크포스(TF)를 맡아 120일 동안 AI의 위험과 활용 가능성을 연구해 보고서를 작성하고, 연방정부의 역할에 대한 제언도 내놓을 계획이다. TF에는 에밀 마이클 국방부 차관, 스콧 쿠퍼 인사관리처장, 앤드루 퍼거슨 FTC 위원장이 부위원장으로 참여하며, 명칭은 '슈퍼 인텔리전스 포스(SI)'로 알려졌다. 트럼프 대통령은 그간 AI 규제에 반대해 왔으나, 앤트로픽·오픈AI CEO 등 업계에서는 최첨단 모델에 대한 연방 차원의 안전장치를 촉구해 왔다.

중기부 AI 대전환 지원 3015곳…AI 의무사업 외엔 도입 현황 파악 안 해 (2026.10.4)

언론 · 뉴시스

권향엽 의원실이 중기부 제출 자료를 분석한 결과, 중기부가 2025년부터 올해 8월까지 '중소 제조기업 AI 대전환' 사업으로 지원한 기업은 3015곳이었고 이 중 AI 도입이 확인된 곳은 517곳(17.1%)에 그쳤다. 도입이 확인된 기업은 모두 AI 도입이 의무인 제조AI특화·상생형 AI트랙·자율형공장 3개 사업 소속이며, 연도별로는 2025년 1640곳 중 129곳(7.9%), 올해 8월까지 1375곳 중 388곳(28.2%)이었다. 나머지 4개 사업의 지원기업 2498곳은 AI 도입 여부를 조사하거나 통계로 관리하지 않았고, 중기부는 향후 AI 기술 현황조사 도입을 검토하겠다고 답했다. 권 의원은 지원 단계별로 DX·AX 진척도를 제대로 점검해야 한다고 지적했다.

AI, 비밀번호 5번 틀리면 잠기는 것 알고 4번씩만 시도 (2026.10.4)

언론 · 조선일보 · 🔒

AI를 활용한 해킹으로 신한·KB국민·하나은행, BNK부산은행, 현대캐피탈, 예가람·웰컴저축은행 등에서 고객 정보가 유출돼 금융위원회가 4일 긴급 점검회의를 열었다. 공격은 인터넷·모바일뱅킹 같은 핵심 전산망이 아니라 대출모집인·직원용 등 보안이 상대적으로 약한 주변 업무 시스템에 집중됐다. 해커는 계정 잠금 기준을 파악해 비밀번호 5회 오류 시 잠기면 4번까지만 시도한 뒤 다른 계정으로 넘어가는 방식으로 탐지를 피했고, AI로 이를 수많은 계정에 빠르게 반복했다. 공격자의 실체와 동일 조직 여부는 불분명하며, 일부 공격에서 동일 IP가 확인됐으나 당국은 특정 국가나 조직을 지목할 단계가 아니라고 밝혔다.

🇰🇷 “세계 악성 데이터 유출 사고 25%가 AI 해킹” (2026.10.4)

언론 · 조선일보 · 🔒🤖

IBM의 ‘2026 데이터 유출 비용’ 보고서에 따르면 지난해 3월부터 올해 2월까지 전 세계 602개 조직의 악성 데이터 유출 사고 중 25%가 AI를 활용한 공격이었고, 이는 전년 대비 56% 증가한 수치다. AI 해킹의 평균 피해액은 600만 달러로 전체 평균 499만 달러보다 약 100만 달러 많았으며, 공격의 62%는 핵심 인프라를 겨냥해 금융(630만 달러)과 에너지(520만 달러) 분야에 집중됐다. 한국 기업 30곳 분석에서는 AI 기반 공격 비율이 31%로 글로벌 평균(25%)보다 높았다. 올해 5월 456개 조직 후속 조사에서 AI 에이전트를 공격 탐지·차단에 쓰는 기업은 절반을 넘었지만, 보안 취약점을 선제적으로 찾아 고치는 데 쓰는 기업은 18%에 그쳤다.

🇨🇳 “해커 1명이 1년 걸리는 침투·탈취, AI 에이전트는 하루 만에 해” (2026.10.4)

언론 · 경향신문 · 🔒🤖🚀

금융당국은 금융권 연쇄 해킹에서 AI 에이전트를 활용한 자동화 공격 가능성을 들여다보고 있다. BNK부산은행은 AI 에이전트를 쓴 것으로 보이는 웹서버 공격이 있었다고 밝혔고, 신한은행 공격 추정 서버에서는 중국산 AI 보안 점검 도구 '아르텍스(ARTEX)' 흔적이 발견됐다는 분석이 나왔다. 앤트로픽 보고서에서는 한 해커가 유럽 기관 42곳을 노려 최소 14곳에 침투했고, MS는 취약점 발견 후 공격 도구화까지 걸리는 시간이 중앙값 기준 24시간 아래로 줄었다고 분석했다. 반면 기업이 심각한 취약점을 고치는 데는 30~60일이 걸릴 수 있어 방어와 공격의 간극이 크다.

“AI 안전, 시행착오로 해결할 문제 아니다”…전 오픈AI 안전 담당자 경고 (2026.10.4)

언론 · 세계일보 · 🧪🚀

데이비드 로빈슨 전 오픈AI 안전 담당자는 3일(현지시간) 디애틀랜틱 기고문에서 AI 기업들이 충분히 신중하지 않다고 비판했다. 그는 모델을 먼저 배포하고 문제가 생기면 가드레일을 보완하는 시행착오식 접근은 일정한 실패를 전제로 하며, 모델이 강해질수록 실패의 규모가 커질 수 있다고 주장했다. 또 모델이 평가받는 상황을 감지해 평가와 실제 배포 환경에서 다르게 행동할 가능성을 우려하며, 고도화된 AI 기업은 원자력 발전소처럼 여러 겹의 안전장치를 갖춰 운영돼야 한다고 말했다. 오픈AI는 모델 성능이 안전하게 통제할 수 있는 범위를 넘지 않도록 하고 있으며 필요하면 훈련 중단이나 출시 보류도 한다는 입장이다.

🇨🇳 스스로 취약점 찾아 반복 침투 '원샷 올킬'… AI 지능폭발 서막인가 (2026.10.4)

언론 · 서울신문 · 🔒🤖🚀

은행권 해킹을 계기로 AI 에이전트가 정찰·취약점 탐색·침투·계정 탈취를 스스로 판단해 반복·동시 수행하는 사이버 공격에 대한 우려가 커졌다. 앤트로픽 보고서에 따르면 한 공격자가 AI로 수십 명의 피해자를 동시에 상대했고 기업 데이터 반출까지 2~3시간밖에 걸리지 않았으며, 중국 정부 연계 조직은 약 30개 기관 공격에서 전술적 작업의 80~90%를 AI에 맡겼다. 공격자는 막혀도 빠르게 재시도하지만 방어자는 패치 검증과 서비스 충돌 점검이 필요해 속도 격차가 생기며, 유럽은행감독청(EBA)도 지난 6월 기존 패치 주기가 흔들릴 수 있다고 경고했다. 이에 보안 현장은 사전 차단보다 이상 징후 탐지, 침해 계정·단말 격리, 내부 확산 차단에 무게를 두고 있다.

🇰🇷 AI로 성착취물 만들어 텔레그램에 유포한 현직 경찰관 구속 (2026.10.4)

DB · 🇰🇷 한국 관련 · AIID · 🧒🚨

서울 동대문경찰서 소속 A경장이 AI 앱으로 지인을 나체로 표현한 허위 영상물을 제작·유포한 혐의로 지난달 구속됐다. 부산경찰청이 지난해 12월 법원의 허가를 받아 텔레그램 대화방에 신분 위장 잠입수사를 벌인 끝에 그를 특정했고, 지난 8월 압수수색에서 허위 영상물 2천600여개, 아동·청소년 성 착취물 1천600여개, 불법 촬영물 1천300여개 등 총 5천600여개를 소지한 사실이 드러났다. A씨는 2022년 3월부터 올해 7월까지 허위 영상물 400여개를 직접 만들었고, 2024년 4월 경찰 입직 이후에도 범행을 이어갔으며, 입직 전 동종 사건으로 기소유예를 받은 적이 있다. 경찰 수사가 본격화하자 범행을 자백한 것으로 알려졌고, 동대문경찰서는 대기발령 후 직위해제 조치했다.

🇺🇸🇯🇵 미국 주도 17개국, 과학 분야 AI 활용 '교토 비전' 공동 지지 (2026.10.4)

DB · GlobalAIRegTracker

교토에서 열린 제23회 STS 포럼 연례회의에서 미국과 16개국이 「황금기 과학을 위한 교토 비전」을 지지했다. 백악관 OSTP의 마이클 크라시오스 국장이 주도한 이 선언은 초지능(super intelligence)을 활용해 대규모 자율 실험 등 과학적 발견을 크게 가속하겠다는 내용이다. 선언은 장기 지원금·신속 보조금·상금 등 다양한 연구 재원과 새로운 제도 모델을 시도하고, 연구자의 SI 도구·과학 데이터·컴퓨팅 인프라·실험 시설 접근을 확대하며, 청년·초기 경력 연구자 육성과 현장 중심 훈련을 강화하자고 촉구한다. 참여국은 아르헨티나, 독일, 일본, 한국, 싱가포르, 아랍에미리트, 영국, 미국 등 17개국이다.

🇨🇳 텐센트 연계 추정 AI 에이전트 군집, 지도 데이터 수집 포착 (2026.10.4)

DB · AI-Risk-Explorer · 🤖

예비 보고서에 따르면 텐센트 Hy로 추정되는 AI 에이전트 군집이 urlquery.net을 이용해 Amap(가오더 지도) 사용자가 공원·박물관·동물원·병원의 어느 출입구로 길 안내를 받는지 수집했다. 첫 Amap 스캔은 9월 28일이며 10월 4일에 1,810건 보고서, 213개 장소로 정점을 찍었고, 동시 실행은 최대 14개였다. 에이전트 코드는 텐센트 클라우드(홍콩)의 hysandbox-ats 프록시를 거쳐 실행됐으며, 211건의 "claude" 라벨에도 코드는 Claude가 아니라 Tencent Hy4·Zhipu GLM과 일치했다. 군집은 10월 5일 04:11 UTC에 멈췄다가 12:00 UTC에 재개돼 6일에도 작동 중이었고, 에이전트 간 조율 증거는 발견되지 않았다.

🇯🇵 [아시아] 베트남·일본, ICT 및 디지털 전환 협력 이행 계획 합의 (2026.10.4)

DB · GlobalAIRegTracker · 📜

2026년 10월 2일 도쿄에서 베트남 과학기술부 장관 부 하이 꾸안과 일본 총무상 후지이 히사유키가 회담해 2026년 5월 2일 서명한 ICT·디지털 전환 MOU의 이행 계획에 합의했다. 양측은 AI, 거대언어모델, AI 거버넌스, 디지털 인프라, IoT, 인력 개발을 아우르는 구체 프로그램으로 MOU를 추진하기로 했으며, 베트남어·베트남 문화를 반영한 AI 모델 개발을 목표로 한다. 또한 AI 솔루션 개발, 제도·거버넌스 구축, 인재 육성·안전 확보, 자국형 AI 모델·데이터 공유의 4대 축으로 구성된 일본-ASEAN AI 공동창조 이니셔티브도 논의했다. 세부 내용과 이행 로드맵은 2026년 10월 말 하롱에서 열리는 디지털 위크 기간의 공동작업반 회의에서 추가 논의될 예정이다.

🇺🇸 트럼프, 초지능 관련 백악관 합의 후 초지능 태스크포스(SIF) 출범 발표 (2026.10.4)

기타 · truthsocial.com

트럼프 대통령은 Truth Social 게시물에서 주요 기술 기업들이 참여한 "초지능에 관한 백악관 합의(White House Accord on Super Intelligence)" 이후 Super Intelligence Force(SIF) 구성을 발표했다고 밝혔다. SIF는 미국이 초지능 분야에서 세계를 계속 선도하도록 연방정부의 노력을 조율하는 역할이며, 소비자·공익단체·종교단체·핵심 인프라 사업자·초지능 기업과의 정부 소통도 조율한다. 게시물에 따르면 지도부는 국가정보국장 제이 클레이튼, FTC 위원장 앤드루 퍼거슨, 전쟁부 연구·공학 차관 겸 CTO 에밀 마이클, 인사관리처장 스콧 쿠포르이며, 대통령과 수지 와일스 비서실장에게 보고한다.