2026-11-02

45건

🇺🇸 대규모 언어 모델의 provable inference 진전 (2026.11.2)

기업 · Anthropic-Research · 🔓🚀

Anthropic은 모델 제공자가 특정 모델을 commit하고 각 응답이 그 모델에서 나왔음을 증명하게 하는 zkSNARK 기반 시스템 FlashProve를 공개했다. 400B 파라미터 MoE 모델(Llama 4 Maverick, 4비트 양자화)에서 H100 GPU 한 대가 초당 약 110 토큰 속도로 증명을 생성하며, 1,024토큰 요청당 증명 크기는 약 19MB이고 vLLM 실행 대비 GPU 시간은 약 70~95배다. 이 증명은 모델 가중치를 숨기며 사용자가 적은 연산 자원으로 빠르게 검증할 수 있고, AI 개발 pacing 감독, 서버 변조 탐지, 텍스트 출처 증명 등에 쓰일 수 있다고 설명한다. 코드와 Lean 증명, 기술 보고서 등 5가지 산출물을 Apache 2.0 라이선스로 공개했으며, 완성된 연구 의제가 아닌 중간 진전 공유라고 밝혔다.

🇺🇸 OpenAI, 책임 있는 AI 인프라를 위한 새 기준 제시 (2026.11.2)

기업 · OpenAI · 📜🚀

OpenAI는 자사가 소유·운영할 향후 컴퓨트 캠퍼스마다 지역 협약을 맺겠다는 National Community Compact와, 정책 제안서 Compute Campus Policy Blueprint를 공개했다. 협약에는 전기·인프라 비용 전액 부담, 캠퍼스별 물 사용 계획과 물·전력 사용량 공개, 공무원 대상 NDA 불사용(보안·영업비밀 등 좁은 예외만 허용), 지역 일자리·사업 기회 창출이 포함된다. 사례로 조지아주 Effingham County에서는 전 학생 14,000명의 무상 급식을 위한 480만 달러 지원금이 마련되었고, 오하이오주 Pike County에서는 SB Energy와 함께 600만 달러 규모의 보육 지원을 약속했다. 정책 제안서는 대규모 전력 사용자가 전력망 증설 비용을 부담하도록 주 공공요금위원회가 요구하고, 물·에너지·소음·고용 현황을 공개하며, 세제 혜택 조건을 공개하고 미이행 시 환수할 수 있게 하라고 촉구한다.

🇺🇸 OpenAI, Hacktron과 협력해 자사 시스템 취약점 탐색 (2026.11.2)

기업 · OpenAI · 🔒🤖🚀

OpenAI는 Hacktron과 파트너십을 맺고 자사 시스템의 취약점을 함께 찾기로 했다고 밝혔다. 양측 엔지니어와 연구원이 우선순위가 높은 영역을 함께 고르며, 특히 서드파티 서비스와의 상호작용에 초점을 맞춘다. 이에 따라 Hacktron의 frontier 모델 접근 권한이 Daybreak Red를 통해 확대된다. Hacktron은 Security Bug Bounty 프로그램을 통해 알게 된 팀으로, 코드 리뷰·penetration testing·red teaming용 AI 에이전트를 만든다.

🇺🇸 OpenAI, Codex 샌드박스 내부 구조 설명 (2026.11.2)

기업 · OpenAI · 🔒🚀

OpenAI는 agent 보호를 위한 defense in depth 접근의 일환으로, 사용자 컴퓨터에서 명령을 실행하는 Codex가 파일시스템·네트워크 제한 안에서 동작하도록 하는 Codex 샌드박스의 설계를 소개했다. VM이나 컨테이너 대신 macOS·Linux·Windows 각 OS의 샌드박싱 기능을 공통 API로 감싸 기존 환경에서 명령을 제한하며, 기본 `:workspace` 프로필은 작업 공간 쓰기만 허용하고 `.git`·`.codex`는 읽기 전용, 광범위한 읽기는 허용, 네트워크는 차단한다. 모델은 명령별로 추가 권한(`with_additional_permissions`)이나 샌드박스 밖 실행(`require_escalated`)을 요청할 수 있지만 승인 여부는 harness가 사용자 설정에 따라 결정한다. 사용자는 `config.toml`의 permission profile로 read·write·deny 규칙을 정의할 수 있으며, 샌드박스로도 `node_modules`의 악성 코드 삽입 같은 위험은 남기 때문에 training·alignment와 함께 쓰는 다층 방어가 필요하다고 밝혔다.

AI 스택 보안: 신뢰할 수 있는 AI는 회복탄력성에서 시작된다 (2026.11.2)

공공 · ITU-AI-for-Good · 📜📏🔒🧪

AI for Good Global Summit 2026에서 Cisco와 공동 개최한 워크숍은 AI 보안은 개발 후에 덧붙이기 어려우며 인프라·데이터·모델·배포·거버넌스·운영 전반에 내재되어야 한다고 강조했다. 발표자들은 data poisoning, prompt injection, adversarial input 같은 위협을 짚으며 secure-by-design, red-teaming, 지속적 모니터링의 필요성을 제시했다. ETSI는 기존 일회성 적합성 평가에서 지속적 보증(continuous assurance)으로의 전환을 설명했고, Cisco는 취약점 발견에서 악용까지의 시간이 수개월·수년에서 수시간으로 짧아졌다고 지적했다. 참석자들은 기술·규제·표준 어느 하나만으로는 신뢰를 확보할 수 없으며 민관 협력, 국제 협력, 개발도상국의 표준 수립 참여가 필요하다고 결론지었다.

🇺🇸 NIST IR 8621, SI 인시던트 관리 워크숍 보고서 (2026.11.2)

공공 · csrc.nist.gov · 📋🚨

정부·frontier 모델 개발사·클라우드 및 보안 업체·학계·표준 기구·시민사회 전문가 400명 이상이 참여한 워크숍의 결과를 정리한 보고서다. 참가자들은 SI 인시던트 관리를 SI 시스템을 겨냥한 사이버 공격과 SI 오남용·이상 동작·심각한 운영 오작동으로 인한 피해라는 두 영역으로 구분했다. 전통적인 결정론적 인시던트 대응 주기는 확률적·자율적이며 깊이 통합된 SI 시스템에 한계가 있다고 보았고, reasoning-layer telemetry, 비인간 ID 거버넌스, 권한 범위 기반 격리, 증거·보고 스키마, 분산 가치사슬 전반의 책임 조율을 핵심 운영 요건으로 꼽았다. 이 보고서는 향후 NIST 지침, 운영 플레이북, 연방 인시던트 대응 프레임워크 개정의 기초 자료로 쓰일 예정이다.

🇰🇷 비싼 AI 모델이 항상 정답일까? - 디시전 AI의 등장 (2026.11.2)

언론 · Select Digest · 🚀

디시전 AI는 글을 생성하지 않고 정해진 선택지 중 하나를 고르거나 점수·예/아니오를 확률과 함께 한 번에 내놓는 판단 특화 모델이며, 에이전트가 반복하는 작은 판단의 비용과 지연을 줄이려는 흐름에서 오픈AI, 마이크로소프트, 퍼플렉시티 등이 잇달아 유사 모델을 내놓았다. 셀렉트스타가 공개한 '다비(Davi)'는 JevBench 전체에서 정확도 89.2%로 제브(86.6%)보다 2.6%p 높았고, 고난도 문제에서도 77.5% 대 73.0%로, 한국어 루브릭 채점(Ko-Feedback Bench)에서도 72.5% 대 66.8%로 앞섰다. 한국어 고난도 질의 870건 라우팅 실험에서 다비는 Opus 단독 사용보다 정답이 7개 많았고 모델 실행 비용은 약 28% 적었으며, 같은 174문항을 5번 반복했을 때 선택 모델이 바뀐 문항은 다비 2개, 제브 14개였다. 다만 RAG 답변 품질 판정에서는 제브가 근소하게 앞선 항목도 있었고, 셀렉트스타는 11월 중 다비를 AI 신뢰성 평가 플랫폼 '다투모 이밸'에 적용할 예정이다.

🇺🇸🇪🇺 유럽과 캐나다, 미국과의 관계 균열 속에 디지털 동맹 추진 (2026.11.2)

언론 · TechPolicyPress · 🔒

EU와 캐나다는 2026년 10월 30일 몬트리올 정상회담에서 디지털 무역 협정, AI 인프라 투자, AI 거버넌스·사이버보안·디지털 신원 상호인정 등 규제 협력을 포함한 "Alliance for the Future"를 발표했다. 캐나다는 유럽 고성능컴퓨팅 공동사업(EuroHPC)에 가입했고, 양측의 2025년 디지털 서비스 교역액은 약 200억 유로였다. 다만 해저 케이블, AI 인프라, 캐나다의 EU 준회원 추진 등 대부분은 아직 제안 단계이며, 협상이 끝난 디지털 무역 협정과 경쟁당국 간 협정, EuroHPC 참여만 제안 단계를 넘어섰다. 필자는 이 관계가 지속되려면 수백억 달러 규모 투자와 규제 자율성 일부 공유가 필요하다고 평가한다.

🇺🇸 주요 AI 기업들이 원하는 거버넌스 방식과 AI 거버넌스에 주는 시사점 (2026.11.2)

언론 · TechPolicyPress · 🚀

MAP-AI 연구의 일환으로 Anthropic, Google, Meta, Microsoft, OpenAI 다섯 곳의 정책 발표를 frontier AI 속도 조절(pacing), 개발·배포·공개, 집단행동 세 축으로 비교했다. 가장 큰 쟁점은 pacing으로, Anthropic은 FAA를 본뜬 신규 기관이 모델 출시를 막을 권한을 갖자고 했고, Google은 업계 출자·정부 감독의 FARO 자체 인증 방식을, Microsoft는 모델·데이터센터 허가제를 제시했다. OpenAI는 CAISI를 중앙 테스트 기관으로 키우되 출시 중단 권한은 다루지 않아 더 신중했고, Meta는 출시 전 심사 전제를 거부했다. 개발·공개 측면에서는 안전 프레임워크 공개, 위험 테스트, 결과 공개라는 큰 틀이 수렴하지만, Anthropic은 평가자 독립성과 투명성을 가장 상세히 다루는 반면 Meta는 외부 감사를 아예 언급하지 않는다.

🇪🇺🇺🇸 EU AI Office가 프런티어 연구소 안전성 주장 뒤의 선택을 파악하는 방법 (2026.11.2)

언론 · TechPolicyPress · 📋🚀

필자는 2026년 8월 2일부터 집행위가 AI Office를 통해 범용 AI 의무를 집행할 수 있지만, "안전"의 의미나 평가 종료 시점 같은 가치 판단이 기술적 선택처럼 제시되어 공급자 책임 대상에서 빠져 있다고 지적한다. 예로 OpenAI GPT-6 Astra 시스템 카드의 refusal을 성공으로 집계한 결정, monitorability 저하 속 배포 결정, Anthropic의 UK AISI 사전 접근 거부와 이후 제3자 평가 약속을 든다. 해법으로 AI Office가 모델 생애주기 단계별 판단 지점을 담은 규제기관 소유 공개 분류체계(taxonomy)를 만들고, 공급자가 자기 결정을 여기에 배치해 보고하며 인증된 독립 기관이 그 배치의 정직성을 검증하는 방식을 제안한다. 이 체계는 판단의 옳고 그름을 평가하지 않고 정직한 보고를 집행 대상으로 삼으며, 다음 Code of Practice 개정과 Art 91·92·101 등 기존 권한만으로 도입할 수 있다고 본다.

Meta, 인도에서 자동화된 삭제 처리로 국가 검열을 간소화 (2026.11.2)

언론 · TechPolicyPress

인도 정부가 2026년 3~7월 약 20만 건의 콘텐츠 삭제 명령을 내렸고(2024~25년 10월 기준 2,300건), 2월 시행된 IT 규칙 개정으로 플랫폼은 3시간 이내에 삭제 명령을 이행해야 한다. Meta는 정부의 Sahyog 포털에 시스템을 직접 연결해 Meta 직원의 검토 없이 요청을 자동 처리하는 것으로 알려졌다. 풍자 정치 단체 Cockroach Janata Party(CJP)의 Instagram 계정이 7월 20일 시위 이후 인도에서 일시적으로 접근 불가가 되었고, 10월 시위 관련 게시물도 200건 넘게 삭제·제한되었다. Meta는 2026년 상반기에 인도 법을 근거로 540만 건의 콘텐츠를 제한했는데, 이는 2025년 하반기 약 4만 1천 건보다 크게 늘어난 수치이며 대부분 정부 명령 없이 선제적으로 이뤄졌다. 글쓴이는 Meta가 이제 검열에 따르는 데 그치지 않고 검열을 간소화하고 있다고 평가한다.

🇺🇸🇨🇳 2026년 10월 미국 기술정책 월간 정리 (2026.11.2)

언론 · TechPolicyPress · 🤖🧪🚀

백악관은 Jay Clayton 국가정보국장이 이끄는 "Super Intelligence Force"를 출범시켰고, 이 태스크포스는 120일 이내 AI 위험·기회 평가를 내놓을 예정이다. FTC는 OpenAI와 Anthropic에 AI 보안 사고·안전장치 관련 자료를 요구하는 소환장을 보냈고, Anthropic은 10월 26일 S-1을 공시하면서 자사 기술이 "catastrophic or existential risks"를 초래할 수 있다고 투자자에게 경고했다. Anthropic이 일부 의원실에 돌린 연방 AI 안전법 초안은 일부 주법(SB 53 등)을 preempt하고 모델 차단 요건이 높아 AI 안전 옹호 진영의 비판을 받았으며, 회사는 preemption 문구와 위험 기준을 재검토하겠다고 밝혔다. 이 밖에 AI 에이전트 사고가 잇따라 공개되자 NIST·NSA·CISA가 에이전트 사고 관리를 위한 자발적 관행 10가지를 발표했고, 노동부의 PERM 프로그램 8개 기업 중단, DHS의 DeepSeek 구매 금지, Cantwell 의원의 6개 항목 AI 위험 프레임워크 등도 다뤘다.

SEC는 대중 보호를 위해 Anthropic의 IPO를 막아야 한다 (2026.11.2)

언론 · TechPolicyPress

필자 Matt Scherer는 Anthropic이 11월 상장을 앞두고 제출한 등록신고서에 약 8,950억 달러의 지출 약정이 각주에 숨어 있고, 2026년 실적은 감사를 받지 않았으며 3분기 매출 성장도 크게 둔화됐다고 주장한다. 약정 중 최소 5,820억 달러는 Amazon·AMD·Broadcom·Google·Microsoft에 대한 취소 불가 컴퓨팅 비용인데, 필자는 수요 부족, 모델 간 가격 경쟁, 데이터센터 고비용, 건설 지연이라는 네 가지 압력이 마진을 짓누를 것으로 본다. 상장이 이뤄지면 이미 고평가된 증시에 위험이 더해지고, 401(k)·퇴직계좌·인덱스펀드를 통해 노동자와 개인투자자가 손실을 떠안게 된다고 경고한다. 이에 SEC가 등록신고서가 "중대한 면에서 명백히 불완전하거나 부정확"할 때 상장을 지연시킬 권한을 행사해, 감사받은 2개 분기 재무제표와 약정 내용의 완전한 공시가 있을 때까지 상장을 막아야 한다고 촉구한다.

🇺🇸 플랫폼을 위한 보편적 선거 무결성 대응 매뉴얼은 없다 (2026.11.2)

언론 · TechPolicyPress · 🗳️🎭

이 글은 선거 무결성이 콘텐츠 정책 문제일 뿐 아니라 제품 설계 문제라고 주장하며, 추천 시스템·소셜 그래프·개방형/연합형 구조 등 플랫폼 아키텍처에 따라 위험과 개입 지점이 달라진다고 설명한다. 2024년 미국 대선 때 켄터키 투표기 영상은 TikTok에서 610만 조회에 도달한 뒤 X, Facebook, Instagram, Threads로 퍼지며 각기 다른 경로로 해석되었고, 2026년 텍사스에서는 AI 생성 광고와 러시아 Storm-1516 연계 딥페이크 영상(조회 85만 회 이상)이 사례로 제시된다. 저자들은 정책보다 제품을 먼저 분석하고, 플랫폼별 threat model을 만들며, 집행을 정책·엔지니어링·외부 협력을 아우르는 더 큰 체계의 일부로 다룰 것을 권고한다. 또한 플랫폼 간 위협 정보는 공유하되 대응 방식까지 획일화할 필요는 없다고 강조한다.

🇺🇸 백악관이 고치려는 과학 둔화의 진짜 원인은 무엇인가 (2026.11.2)

언론 · TechPolicyPress

필자는 백악관 OSTP 국장 Michael Kratsios가 NYT 인터뷰에서 편 주장들(정부는 기초연구를 지원하고 기업이 상업화한다는 모델, 과학 둔화와 민간 역할 확대, AI 혁명, 공공 책임성)을 데이터로 반박한다. 정부 R&D는 오래전부터 기초연구보다 개발 중심이며, 연방 연구소 활동의 74%가 실험 개발, 기초연구는 10% 미만이다. 또 기업이 이미 R&D 자금의 약 4분의 3을 대고 기초연구의 3분의 1(2000년 19%)을 지원하는 만큼, 과학이 둔화했다면 대학 지원(R&D 수행의 약 5%)만 탓할 수 없다고 지적한다. R&D 세액공제의 95% 이상이 상위 5% 대기업에 돌아가고, AI는 CERN이 1987년부터 쓰는 등 이미 과학에 통합돼 있어 Genesis Mission도 새롭지 않으며 별도 예산이 0달러라고 비판한다.

🇺🇸 소셜미디어 부모 동의 정책은 왜 가정에 도움이 되지 않는가 (2026.11.2)

언론 · TechPolicyPress · 🧒

필자들은 EU와 미국 일부 주가 검토 중인 부모 동의 조건부 연령 하한 정책이 가정을 보호하지 못한다고 주장한다. 이런 정책은 친구들이 쓰니 허용할 수밖에 없다는 collective action trap을 그대로 굳히고(미국 부모 54%가 이를 호소), 사춘기(약 16세까지) 뇌 발달기의 아동을 중독적 설계와 유해 콘텐츠에 계속 노출시킨다고 본다. 또 중독적 제품은 담배·술처럼 부모 동의로 안전해지지 않으므로, 강력한 연령 하한과 안전 설계 의무를 두고 집행 부담을 부모가 아닌 기업에 지워야 한다고 제안한다.

AI 파워 리스트: 뉴욕 매거진과 Transformer 공동 기획 (2026.11.2)

언론 · TransformerNews

Transformer와 New York Magazine이 연례 "Power" 특집으로 AI 분야에서 명성보다 영향력이 큰 26명을 선정했다. 수년간의 취재와 업계 고위 인사 50명 이상의 신규 인터뷰를 바탕으로 했고, 멀티미디어 아티스트 Simon Denny가 각 인물의 이미지를 제작했다. 명단에는 민간 창업자·엔지니어와 의원·규제 당국자가 함께 포함되며, 평균 연령은 36세이고 압도적으로 남성이 많다. 전체 목록은 New York Magazine에서 볼 수 있고, Transformer는 명단에 오른 Alexander Berger가 운영하는 단체에서 자금을 받는다고 밝혔다.

🇨🇳 ChinAI #380: 돈 벌기가 점점 더 어려워지고 있다 (2026.11.2)

언론 · ChinAI

이번 호는 중국 플랫폼 budongjing의 글 "왜 돈 벌기가 점점 어려워지는가"를 소개하며, 부동산·인터넷·대외무역이라는 세 부의 엔진이 둔화되어 '제로섬' 경쟁 시대에 들어섰다는 진단을 전한다. 이 글은 경제 침체감의 원인을 "atoms 배열"에서 "bits 배열"로의 구조 전환으로 보고, AI가 2027년 말까지 거의 모든 디지털 작업을 수행할 최종 충격이 될 것이라고 주장하지만 일반인을 위한 일관된 해법은 내놓지 못한다. Jeffrey Ding은 "노력보다 인맥이 중요해졌다"는 결론에는 동의하지 않으나, 중국의 광범위한 경제 부진을 반영한 담론으로 주목하며 Rhodium의 Logan Wright가 지적한 미국의 최근 5년 성장률 우위와 20%를 넘는 청년 실업률을 함께 언급한다. 그 밖에 NYT의 엔비디아 CEO 관련 중국 스파이 의혹 보도와 ChatGPT의 도움으로 의자를 만든 James Bridle의 글도 추천 링크로 소개한다.

🇯🇵 AI 정보통: 11월 2일 10시 정보 (2026.11.2)

아카이브 · Japan AISI · 🔬🧪

OpenAI는 2026년 10월 29일 frontier 모델의 허용되지 않은 행동을 탐지하는 감시 체제를 확대하고 그 검증 결과를 공표했다. 감시 대상을 학습·평가·사내 이용에서 일부 외부 이용까지 넓혔고, 심각한 경고가 발생하면 모델이 실행 중인 학습·평가 처리를 일시 정지한다. 외부 시스템 침입 사례의 재현 시험에서는 실제 침입 시점보다 30시간 이상 앞서 이상을 탐지했다고 한다. 같은 날 공개된 GPT-6 Luna 안전성 평가에서는 사이버와 생물·화학 분야 능력을 사내 기준 "High"로 취급해 기존 모델과 같은 안전대책을 적용하며, HealthBench와 MentalHealthBench 일부 성적은 기존 모델을 밑돌았다.

🇺🇸 AI가 IP 바꾸며 사람 흉내, 검색조작 방지 책임은 플랫폼 몫인가 (2026.11.2)

언론 · 파이낸셜뉴스 · ⚖️🛡️🧒

박정훈 국민의힘 의원이 발의한 정보통신망법 개정안은 매크로 등 자동화 프로그램을 이용한 검색 순위·후기·조회수 조작을 금지하고, 플랫폼 사업자에게 부정 조작 방지 의무를 부과한다. 국회 과방위 수석전문위원실은 직접 조작자와 간접 가담자 간 처벌 형평성 문제와 방지 의무 범위의 불명확성을 지적했고, 과기정통부도 AI가 입력 패턴을 모방하고 접속 IP를 수시로 바꿔 사전 차단이 어렵다며 신중한 검토를 요구했다. 조인철 더불어민주당 의원 발의안은 대화형·생성형 AI 사업자에게 아동·청소년 보호의무를 부과하는 내용이며, 미국 뉴욕주·캘리포니아주도 관련 보호 법제를 마련했고 FTC는 AI 생성 허위 후기 거래를 금지하고 있다. 업계는 사업자의 통제 가능성과 실제 이행 가능한 조치를 구분해 기술적으로 실현 가능한 규제 기준을 설계해야 한다고 지적한다.

‘AI 생성물 표시 의무’ 부처별 시각차로 답보 (2026.11.2)

언론 · 아주경제 · ⚖️

AI 생성물 표시 의무를 유통 단계까지 확대하는 논의가 과기정통부와 방미통위의 이견으로 진척되지 못하고 있다. 현행 AI 기본법은 생성형 AI 개발·서비스 사업자의 표시만 의무화해 재유통 시 표시가 유지될 장치가 없고, 방미통위는 정보통신망법으로 플랫폼·게시자의 유통 단계 의무를 보완해야 한다는 입장이다. 과기정통부는 적용 대상과 기준이 달라져 법적 공백이 생길 수 있다며 생성부터 유통까지 일관되게 검토해야 한다고 맞선다. 국회 법안 소위가 10월 초까지 수정안을 주문했으나 10월 말이 지나도록 초안조차 제출되지 않았고, 전문가는 국회나 국무조정실의 중재를 주문했다.

🇰🇷 1년 30곳 뚫은 독학 해커, AI 쓰니 40일 만에 60곳 해킹 (2026.11.2)

언론 · 동아일보 · 🔒

서울경찰청 사이버수사과는 32세 남성 A 씨 등 7명을 검거하고 A 씨를 구속했다. IT 비전공자인 A 씨는 자동화 도구로 1년간 30곳을 뚫었으나, AI 자율 침투 테스트 시스템 '아르텍스(ARTEX)'를 쓴 뒤 40여 일 만에 60곳을 추가 해킹했다. 피해 업체는 90여 곳, 유출된 개인정보·사내 자료는 820만 건 이상이며, 38곳에 협박 메일을 보내 3억 6000만 원을 요구했으나 실제 받은 돈은 30만 원이었다. 올 상반기 침해 사고 신고는 1236건으로 전년 동기 대비 19.5% 늘었고, 이번 피해 업체 중 신고한 곳은 15곳뿐이어서 전문가들은 중소기업 보안의 사각지대를 지적했다.

AIDC 인정 문턱 낮춘다…장비 전력기준 5㎿로 완화 (2026.11.2)

언론 · 전자신문 · ⚖️

정부가 AIDC(인공지능 데이터센터) 특별법 시행령 초안보다 인정 기준을 대폭 완화하는 방향으로 조정 중이다. 초안은 AI 연산 장비 전력 총량 10㎿ 이상, 또는 AI 장비 전력 300㎾ 이상이면서 전체 정보통신 장비전력의 60% 이상을 기준으로 제시했는데, 이 중 전력 총량 기준을 5㎿ 수준으로 낮추는 방안을 추진한다. 업계 의견을 반영해 기존 데이터센터 일부를 AI용으로 전환하는 경우도 AIDC로 인정받을 수 있도록 하려는 취지로 풀이된다. 정부는 하위법령 제정 작업을 마무리하고 이르면 이번 주 중 입법예고할 계획이다.

AI의 취약성, 인간 감독의 해법 (2026.11.2)

언론 · 서울경제

고려대 교수의 기고문으로, 대통령과 야당 인사가 같은 AI(제미나이)에서 서로 상반된 답변을 받아 제시한 사례를 들어 LLM의 취약성을 짚는다. LLM은 '참인 문장'이 아니라 '그럴 듯한 문장'을 생성하기 때문에 환각·변덕·아첨·편향이 나타나며, 유럽방송연맹과 BBC의 2025년 조사에서는 AI 뉴스 답변의 45%에 출처 등 중대한 문제가 있었다. 해법으로 제시되는 인간 감독(human-in-the-loop)도 자동화 편향·확증 편향, 전문성 부족, 과도한 검토량 때문에 형식에 그칠 수 있다고 지적한다. 따라서 고위험 AI 도입 기관은 감독자 교육·적정 업무량·중단 및 수정 권한을 보장하고, 개발사는 검증 근거와 실행 기록을 제공해야 한다고 주장한다.

기업들도 AI비서 경계… JP모건·아마존 "보안 위험" 접근 막아 (2026.11.2)

언론 · 조선일보 · 🤖

JP모건체이스가 고객을 대신해 활동하는 외부 AI 에이전트의 온라인 뱅킹 접근을 차단했다. 찰스 슈와브, 아마존, 콜스, 니먼마커스 등 금융·유통업계도 외부 AI 에이전트를 막고 있다. 기업들은 가짜 에이전트의 로그인·결제 정보 탈취, 위임 권한 초과, 조회 급증에 따른 운영 비용 부담을 이유로 들지만, AI가 더 나은 조건을 찾아 고객을 경쟁사로 옮기게 할 수 있다는 수익 측면의 우려도 깔려 있다. 액센추어 조사에서 응답자의 71%가 주거래 은행 앱의 AI 에이전트 도입을 환영한다고 답했고, 월마트는 AI와 사람에게 같은 가격을 보여주는 방식으로 서비스를 개방하겠다고 밝혔다.

AI와 대화 내용이 서면에 그대로…법관 80%가 "허위 판례 경험" (2026.11.2)

언론 · 경향신문 · ⚖️

법원행정처가 2일 공개한 설문조사에서 응답 법관 360명 중 243명(67.5%)이 AI가 만들어낸 허위 판례 등을 경험했다고 답했다. 경험한 법관 중 196명(80.7%)이 존재하지 않는 판례 인용을 꼽았고, 인용 주체로는 당사자 본인 164명(69.5%), 변호사 등 소송대리인·변호인 136명(57.6%)이 지목됐다. 가짜 판결서 제출이나 AI와의 대화 내용이 서면에 그대로 포함된 사례도 파악됐다. 응답자의 91.7%가 제도적 대응이 필요하다고 답했으며, 법원행정처는 민사소송법·형사소송법 개정 등으로 과태료 부과 근거를 마련하기 위해 관계기관과 협의할 계획이다.

🇰🇷 "영재 키워 해커 만들고 AI로 공격"…한국도 北 해킹 위협권 (2026.11.2)

언론 · 뉴시스 · 🔒

미 연방수사국(FBI)은 지난달 31일 바이낸스 해킹의 배후로 북한 해커조직을 지목했다. 바이낸스가 밝힌 피해 규모는 약 63억 달러(약 8조4000억원)로, 지난해 2월 바이비트 사건보다 4배 이상 크다. 보안기업 TRM랩스와 엘립틱은 거래 승인 서명을 미리 확보해 한꺼번에 실행한 수법과 자금 세탁 정황이 과거 북한 수법과 유사하다고 봤다. 북한은 어릴 때부터 영재를 뽑아 정찰총국 등에 배치해 왔고 최근에는 AI를 접목해 공격 대상 탐색과 가짜 신원 제작을 늘리고 있으며, 체이널리시스 기준 지난해 탈취액은 최소 20억2000만 달러로 전년 대비 51% 증가했다.

AI에 물어 해킹 위협 찾는다…시큐아이, '스틱' 출시 (2026.11.2)

언론 · 뉴시스 · 🔒

시큐아이가 AI 기반 위협 인텔리전스 서비스 '스틱(STIC)'을 출시했다고 2일 밝혔다. 보안 담당자는 AI 어시스턴트에 자연어 질문이나 이미지를 입력해 악성코드, URL, 취약점 분석 결과, 위협 보고서는 물론 다크웹·텔레그램에서 수집한 유출 정보까지 검색할 수 있고, 상세 분석 결과를 정리해 주는 AI 요약 기능도 제공된다. 여러 위협 정보 간 연관성을 분석해 공격의 맥락을 제시하며, 파일 구조·코드 분석과 실행 시 동작 관찰에 AI 분석을 더해 악성 여부와 위험도를 판단한다. 최신 위협 정보는 API 형태로 공급돼 방화벽, IPS, SIEM 등 기존 보안 장비에서 탐지·대응에 활용할 수 있다.

🇰🇷 "고장 나기 전에 미리 고친다"…네이버 AI, 육군 군수 현장 투입 (2026.11.2)

언론 · 뉴시스 · 🛡️🤖

네이버클라우드가 지난달 30일 대전 육군 군수사령부에서 AI 군수 역량 강화를 위한 업무협약을 체결했다. 두 기관은 성능 기반으로 물자를 찾아주는 군 특화 조달 플랫폼, 고장 전에 정비하는 상태기반정비(CBM+), 디지털 트윈 기반 스마트 물류·스마트 팩토리를 함께 개발하고 실증한다. 네이버클라우드는 GPU 인프라 컨설팅과 군수 특화 클라우드 구축을 지원하고, 현장에서 반복 업무를 자동화하는 군수 AI 에이전트를 개발하며 AI 인재 양성과 플랫폼 운영·고도화도 돕는다. 네이버클라우드는 올해 KAI와 방산 특화 AI 모델을 공동 개발하는 등 국방 분야 협력을 넓히고 있다.

🇰🇷🇺🇸 청와대 신임 국가AI정책비서관에 이지수 전 삼성전자 상무 임명 (2026.11.2)

언론 · 동아일보

청와대는 2일 이지수 전 삼성전자 상무를 신임 국가AI정책비서관에 임명했다고 밝혔다. 이 비서관은 전날 퇴직한 김우창 전 비서관의 후임이다. 서울대 산업공학과를 졸업하고 미국 조지아공대에서 박사 학위를 받았으며, 퍼듀대 부교수를 거쳐 삼성전자 무선사업부에서 AI 음성비서 빅스비 개발을 이끌었다. 김 전 비서관은 학교로 복귀한다고 밝혔다.

‘AI 해킹’에 로펌·보안업체로 발길… 번호표 뽑는 기업들 (2026.11.2)

언론 · 동아일보 · 🔒

AI가 공격 문턱을 낮춘 '해킹의 대중화'로 피해 기업이 늘면서 로펌과 보안업체에 사건 문의가 몰려 순번을 받고 기다리는 상황이 벌어지고 있다. 개인정보보호법상 유출을 안 때부터 72시간 안에 개인정보위나 KISA에 신고하고 피해자에게 알려야 해 기업들이 사고 직후 로펌부터 찾는 것이다. 올해 1~8월 개인정보위 유출 신고는 579건으로 지난해 전체(447건)를 넘었고, 법무법인 태평양의 관련 자문은 전년 대비 2배 이상, 광장은 약 25% 늘었다. 세종·광장은 약 60명 규모의 전담 조직을 신설했고, 김앤장은 팰로앨토네트웍스와 협약을 맺었으며, 보안업체 스틸리언은 PHP 취약점 무료 점검에 1주간 약 3만 건이 접속했다고 밝혔다.

🇺🇸🇰🇷 8조 원대 가상화폐 탈취 사건에 경향신문 “AI 쥔 북한의 사이버 위협, 비상사태” (2026.11.2)

언론 · 미디어오늘 · ⚖️🔒

미국 FBI가 바이낸스에서 발생한 약 63억 달러(약 8조4000억 원) 규모 해킹의 배후로 북한 해킹조직 '트레이더트레이터'를 공식 지목했고, 11월 2일자 주요 일간지들이 이를 1면과 사설로 일제히 다뤘다. 트럼프 대통령은 "북한인지 모른다"며 확인 시 북한과 대화하겠다는 입장을 밝혔다. 사설 대부분은 국내에서도 대규모 해킹에 대비해 컨트롤타워 구축, 손해배상·사고 보고 의무 입법, 국제공조가 필요하다고 주장했다. 경향신문과 동아일보는 AI로 북한의 사이버 공격 역량이 높아질 가능성을 우려했고, 경향신문은 MS 보고서를 인용해 북한 해킹조직 일부가 AI를 일상적 공격 활동에 통합했다고 전했다.

🇺🇸 독일 AI 태스크포스, 2030 부처 공동 전략 'KI-Nation Deutschland 2030' 제시 (2026.11.2)

DB · GlobalAIRegTracker · 🚀

독일 연방정부의 KI-Taskforce 결과보고서는 2030년 KI 강국을 향한 최초의 부처 공동 방향 틀로, 비전과 목표상을 지표·목표치·핵심 조치와 연결했다. 목표상은 KI와 사회, KI 안전, KI 응용, KI 인프라, Frontier AI, KI 인재의 6개 차원으로 구성된다. 보고서는 목표 달성을 위한 18개 핵심 조치를 제시하며, 연방정부 공동 KI 상황도(Lagebild) 기반 모니터링으로 진행 상황을 점검한다. 영향 측정에는 정량 성과뿐 아니라 수용성, 신뢰, 이용 의향 같은 정성 요소도 포함한다.

[중동] 튀르키예 경쟁당국, Google AI 요약 조사에서 임시 조치 명령 (2026.11.2)

DB · GlobalAIRegTracker

튀르키예 경쟁위원회는 Google에 대한 조사를 개시하면서 뉴스 게시자의 경제적 권리를 보호하기 위한 임시 조치(geçici tedbir) 결정도 내렸다. 이 조치에 따라 Google은 뉴스 사이트를 AI 시스템에 포함되도록 강제할 수 없고, 게시자는 검색 노출 상실 위험 없이 자사 콘텐츠를 AI 요약에 쓸지 자유롭게 결정할 수 있다. 또한 Google은 콘텐츠 사용과 대가 지급에 대해 언론사에 평등하고 투명하며 차별 없는 계약 조건을 제시해야 하며, 이행 방식과 상업적 방법은 Google이 정한다. 조사에서는 "AI Overviews"와 "AI Mode"가 검색 화면에서 정보를 직접 제공해 게시자의 방문 트래픽에 악영향을 주는지, 콘텐츠 라이선스에서 차별이 있는지를 살펴본다.

🇰🇷 [아시아] 한국, 산업 인공지능 안전성·신뢰성 가이드라인 근거 마련 법안 발의 (2026.11.2)

DB · GlobalAIRegTracker · ⚖️📋🔒

최수진 의원 등 10인이 2026년 11월 2일 「산업 디지털 전환 및 인공지능 활용 촉진법」 일부개정법률안을 발의했고, 현재 산업통상자원중소벤처기업위원회에 회부(11월 3일)되어 입법예고 중(2026.11.4~11.13)이다. 제안이유는 산업 현장에서 산업인공지능의 안전성·신뢰성 문제(외부 해킹 대응 미흡, 학습용데이터의 부적절한 이용, 자율성 통제 장치 미비)가 지적된다는 점이다. 이에 산업통상부장관이 개발·활용 가이드라인을 마련하고 기술적·재정적 지원을 할 수 있는 근거를 안 제12조의2 신설로 두는 내용이다. 비용추계요구서가 제출되었으며 위원회 상정·처리는 아직 이루어지지 않았다.

GPT-6 Astra, 가중치 직접 편집으로 AI 모델 개선 가능함을 연구진이 제시 (2026.11.2)

DB · AI-Risk-Explorer

MIT CSAIL 연구진은 프런티어 LLM인 GPT-6 Astra가 신경망 가중치를 gradient나 학습 루프 없이 직접 읽고 쓰는 "Weight-Space Programming"이 가능하다고 주장한다. Astra는 가중치만 보고 네트워크가 학습한 게임(4종 모두 정답)과 diffusion model의 생성 대상, 언어 모델의 학습 언어(3종 모두 정답)를 맞혔고, 작은 게임 네트워크를 처음부터 작성하기도 했다. Qwen3.5-0.8B에서는 model card가 경고한 reasoning loop 문제를 찾아 가중치 0.016%를 수정해 MATH-500을 7.9%에서 48.1%로, IFEval을 약 3배 높였다고 한다. 저자들은 이를 초기 결과로 규정하며 최적화와 interpretability에 큰 의미가 있을 수 있다고 본다.

🇬🇧 영국 의회 서면질의: AI Security Institute의 배포 전 모델 변경 권고 건수 (2026.11.2)

기타 · questions-statements.parliament.uk · 🔒

Ben Spencer 의원(보수당)은 2026년 1월 1일 이후 AI Security Institute(AISI)가 모델 출시 전에 변경을 권고했으나 개발사가 이를 반영하지 않은 횟수를 물었다. Kanishka Narayan 의원은 2026년 11월 2일 답변에서 AISI는 모델에 대한 특정 변경을 권고하지 않는다고 밝혔다. AISI는 배포 전 테스트로 frontier 모델의 취약점을 식별하고, 그 결과를 개발사에 공유해 개발사가 스스로 safeguards를 개선하도록 한다. 또 safeguards red-teaming을 통해 개발사의 전반적인 방어 체계를 단계적으로 강화하도록 지원한다고 설명했다. 질의한 구체적인 건수는 제시되지 않았다.