2026-11-05

43건

🇨🇳🇪🇺 ERNIE 5.5 Flash Base (Baidu) (2026.11.5)

기업 · DemandSphere · 🔓

General · Open · 1000K ctx

벤치마크 미공개

Baidu가 16개월 만에 처음 공개한 open weight 모델로, 280B total·14B active per token 규모의 text-only MoE이며 1M context를 지원하고 Hugging Face에 FP8 및 BF16으로 공개됐다. 이는 post-training이 적용되지 않은 base model로 자체 fine-tuning과 RL을 수행하는 팀을 대상으로 하며, Baidu는 post-trained 버전을 추후 공개할 예정이라고 밝혔다. 커스텀 라이선스에 따라 EU·영국·South Korea에서 사용할 수 없고, 최근 12개월 매출이 M을 초과하는 제품에는 Baidu의 별도 서면 승인이 필요하며, Baidu는 30개 벤치마크 중 24개에서 1위를 보고했지만 vendor-run 결과라 표의 수치는 비워 둔다.

Inkling 2 Small (Thinking Machines Lab) (2026.11.5)

기업 · DemandSphere · 🧪

Reasoning · Closed · 1000K ctx · $0.3/M · $1/M

벤치마크 미공개

Thinking Machines의 2세대 모델은 총 594B, 활성 17B 규모로, Inkling의 975B·41B보다 작으며 각 토큰을 384개 expert 중 8개로 라우팅하는 MoE 구조다. 1M context와 text·image 입력, /bin/zsh를 지원하며 Tinker를 통해 1M당 .30/.00에 제공된다. 현재는 closed로 기록됐지만, 외부 safety testing과 red-teaming 완료를 조건으로 출시 후 1주 내 Apache 2.0에 따라 full weights를 공개하겠다고 밝혔고, Artificial Analysis의 Intelligence Index 점수는 31이다.

에이전트·피지컬 AI 시대의 개인정보 보호, 기술에서 해법 찾는다 (2026.11.5)

공공 · 개인정보보호위원회 · 📏🤖🦾

개인정보보호위원회는 2026년 11월 5일 에이전트·피지컬 인공지능 시대의 개인정보 보호 기술과 안전활용 방안을 모색하기 위해 제4기 개인정보 기술포럼 공개토론회를 개최했다. 발제에서는 인공지능으로 인한 사이버공격 대응 전략, 개인정보 보호의 빈틈과 대응방향, AI 에이전트 시대의 개인정보 보호와 표준화 제언이 다뤄졌다. 패널토론에서는 안전한 데이터 활용을 위한 개인정보보호 강화기술(PET)의 역할과 발전방향을 논의했다. 위원회는 신뢰 기반 개인정보 보호체계 구축과 개인정보 보호 기술 생태계 조성에 힘쓸 계획이다.

Gemini Omni 1.2 Flash, 더 긴 클립을 빠르고 저렴하게 제공 (2026.11.5)

기업 · DeepMind

Google DeepMind가 Gemini Omni 1.2 Flash를 출시해 Gemini API와 Gemini for business에서 정식 제공(GA)한다. 영상은 기존 10초에서 최대 15초(3~15초, 1초 단위 지정)까지 생성할 수 있고, 가격은 1.1 대비 30% 낮아져 720p 기준 초당 $0.07이다. 참조 이미지·짧은 모션 클립·오디오를 조합했을 때 얼굴, 의상, 브랜드 색상 등의 일관성이 개선되었고, 클립을 다시 생성하지 않고 대화형 multi-turn 편집으로 배경·조명·화면비 등을 수정할 수 있다. 립싱크와 다중 화자 음성, 컷 없는 카메라 워크도 향상되었으며, Google AI Studio, Google Cloud, Flow, Google Vids 등에서 이용할 수 있고 출력물에는 SynthID 워터마크가 삽입된다.

Mistral, Mistral Large 4(Le Chonk)와 Studio 확장 발표 (2026.11.5)

기업 · Mistral

Mistral은 기업용 AI 플랫폼 Studio에 관리형 에이전트와 앱 기능을 추가하고, 워크플로·엔터프라이즈 컨텍스트·에이전트 observability·평가 기능도 강화했다고 발표했다. Studio는 Mistral Large 4(Le Chonk) 같은 모델을 커넥터와 MCP 서버로 기업 데이터·시스템에 연결해 에이전트, 워크플로, 앱을 같은 인프라에서 구축·실행하게 해 준다. 클라우드, VPC, 온프레미스 또는 혼합 환경에 배포할 수 있고, OpenTelemetry 트레이스와 자체 데이터셋 기반 평가 결과는 고객이 보유한다. ABANCA, Accenture, BNP Paribas, Capgemini, CMA CGM, TCS 등이 이미 프로덕션에서 사용 중이며, 내부 사례로 장애 조사 에이전트는 월 수백 시간, 제품 피드백 분류 워크플로는 주당 약 35시간을 절감했다고 밝혔다.

🇺🇸 오픈 모델 안전성: Beam 학습·평가에서 얻은 교훈 (2026.11.5)

기업 · Reflection AI · 🛡️🧪🔓

Reflection은 첫 open-weight 모델 Beam을 safety 학습과 Iris Safety Evaluations(ISE)로 평가해 유해 요청 거절과 정상 요청 수용의 균형을 맞췄다고 밝혔다. ISE 대화 평가(1,500개 대화, 15개 harm category)에서 Beam은 유해 요청의 89%를 거절해 테스트한 서구·중국 open-weight 모델 중 가장 높았고, 안전 관련 무해 요청은 82% 수용했다. 학습은 pretraining 데이터 필터링과, capability용·safety용 두 teacher를 multi-teacher on-policy distillation(MOPD)으로 합치는 방식으로 진행했으며, safety teacher를 100B에서 501B 파라미터로 키우자 over-refusal이 상대 48.7% 줄었다. 또 Open Safety Framework(OSF)에서 Beam은 생물·화학무기, 사이버 공격, 통제 상실 4개 범주 모두 Limited로 평가됐고, 에이전트 환경의 indirect prompt injection 공격 성공률(ASR)은 방어 정책 적용 시 3.1%·3.6%에서 0.3%·0%로 낮아졌다(고정된 비적응형 공격 기준).

🇺🇸 AI와 과학적 발견: 연구자들은 Claude를 어떻게 사용하는가 (2026.11.5)

기업 · Anthropic-Research

개인정보 보호 방식으로 Claude·Claude Code 연구 세션 207,049건(2026.8.2~9.30)을 분석한 결과, 과학자들은 주로 데이터 분석과 글쓰기에 Claude를 쓰며 데이터 분석만 Claude 세션의 약 3분의 1, Claude Code 세션의 거의 절반을 차지한다. 연구자 수 대비 사용량은 컴퓨터과학·수학·통계 같은 형식과학에서 높고 보건·실험 기반 물리과학에서는 낮았으며, 컴퓨터과학은 전 세계 연구자의 4.3%인데 Claude Code 세션의 32.7%를 차지했다. AI 적합도가 상위 20%인 과제는 연구자의 투입 시간으로 예측되는 수준보다 2~4배 많이 쓰인 반면, 하위 20%인 물리적 작업은 거의 쓰이지 않았다. 단순 모델상 현재 AI 역량이 널리 도입되면 일부 분야의 연구 산출이 2배가 될 수 있고, 비물리적 연구를 모두 자동화하면 컴퓨터과학·통계는 최대 15배, 화학·생물학 같은 실험 분야는 3~4배로 늘 수 있다.

🇺🇸 GPT-6 Cyber (OpenAI) (2026.11.5)

기업 · DemandSphere · 🔒🚀

Reasoning · Closed

벤치마크 미공개

OpenAI의 GPT-6 계열 보안 게이트 모델로, 승인된 범위 내에서 악용 가능한 취약점을 탐지·수정하는 데 사용된다. Daybreak Red를 통해서만 접근할 수 있으며, 신원 확인·SSO·MFA·API IP allowlisting이 필요하다. Preparedness Framework에서 사이버보안 등급이 GPT-5.6 Cyber의 High에서 상향된 첫 Critical 모델이며, SRE-Bench 92.84% pass@1, SEC-Bench Pro 87.02%, ExpertSWE 82.95%, ExploitGym 48.45%(hardened split 36.94%), CyScenarioBench 61%를 기록했다. 가격과 context window는 공개되지 않았고, Claude Mythos 및 Gemini 3.8 Flash Cyber와 함께 제한 접근 규칙이 적용된다.

🇺🇸 AI와 아동 안전에 관한 연구 지원 (2026.11.5)

기업 · OpenAI · ⚖️🧒🧪

OpenAI는 파리 평화 포럼에서 「아동을 위한 더 안전한 AI 헌장」에 서명하고, AI 시대 아동 권리·보호 연합의 과학 연구 네트워크에 200만 달러를 지원하기로 약속했다. 이 지원금은 AI가 아동에게 미치는 위험과 기회를 측정하는 공동 측정 도구 개발에 쓰인다. 헌장에는 연령에 맞는 안전한 AI 원칙과 연구 독립성 보장 장치가 담겼으며, 연구팀이 결론에 대한 통제권을 갖고 부정적이거나 결론이 불분명한 결과도 공개한다. OpenAI는 기본 연령 맞춤 안전장치, 부모용 도구, 정기적 위험 평가와 완화, 실질적 책임성을 포함하는 청소년 AI 안전 입법을 지지하며 EU Kids Act 논의에도 참여할 뜻을 밝혔다.

🇺🇸 위협 행위자, agentic AI 도구로 노출된 secret을 찾아 악용 (2026.11.5)

기업 · Microsoft Security · 🔒🤖

Microsoft Threat Intelligence는 2026년 8월부터 위협 행위자가 agentic AI 공격 프레임워크(ARTEX)로 공개 GitHub 저장소에서 자격 증명, 애플리케이션 자격 증명, AI 추론용 API 키 등 노출된 secret을 대량 검색하는 활동을 관찰했다. 한 사례에서는 AI agent가 GitHub 검색에서 Azure Key Vault 데이터 유출까지 단 5분 만에 진행했으며, 2026년 10월 28일경부터는 유출된 애플리케이션 자격 증명으로 Entra ID 테넌트에 service principal 로그인을 하고 Key Vault·Storage 계정 등에서 자격 증명과 데이터를 빼내는 후속 공격이 확인됐다. agent는 실패한 ARM API 요청 뒤 API 버전이나 HTTP 메서드를 바꿔 재시도하는 적응형 동작을 보였고, AI 서비스 자격 증명과 OAuth 애플리케이션을 집중적으로 노렸다. Microsoft는 저장소 내 secret 점검과 즉시 교체(rotate), managed identity 전환, 악성 IP(199.19.77[.]84 등)의 Conditional Access 차단, 관련 로그 점검을 권고한다.

🇯🇵 제14회 인공지능(AI) 기술의 이용과 소비자문제 전문조사회 개최 안내 (2026.11.5)

공공 · CAO-JP

2026년 11월 5일(목) 10시부터 소비자위원회 회의실과 화상회의를 병용해 제14회 전문조사회가 열린다. 의제는 (1) AI 기술과 소비자문제에 관한 유식자 청취(히토쓰바시대학 대학원 법학연구과 도쿠쓰 아키라 교수 발표)와 (2) 본 전문조사회의 검토 상황에 관한 사무국 보고다. 회의 자료(의사차례, 도쿠쓰 교수 제출 자료)는 모두 PDF로 공개됐고, 동영상 중계와 의사록은 준비 중이다. 일반 방청은 온라인 방청으로만 진행한다.

🇨🇳🇺🇸 중국, 미국산 노르말프로판올 반덤핑 관세 5년 추가 연장 (2026.11.5)

언론 · GeopoliTechs

중국 상무부는 2026년 11월 5일 공고 제54호로 미국산 n-propanol에 대한 반덤핑 관세를 5년 더 부과하기로 확정했으며, 2026년 11월 6일부터 시행된다. 일몰재심 결과 관세를 폐지하면 덤핑과 중국 내 산업 피해가 계속되거나 재발할 가능성이 크다고 판단했고, 세율은 Dow Chemical 254.4%, OQ Chemicals 및 기타 미국 기업 267.4%로 2020년 조치와 같다. 같은 날 공고 제55호로 상계관세도 5년 연장했으며(Dow 37.7%, OQ 34.2%), 두 관세의 명목 합산 세율은 각각 292.1%와 301.6%다. 신청 자료에 따르면 미국산 점유율은 2018년 27.97%에서 2024년 8.39%로 줄었다가 2025년 상반기 12.87%로 반등했고, 이 기간 대미 수입량은 전년 동기 대비 84.22% 늘어 중국 내 수요 증가율 21.37%를 크게 웃돌았다.

🇺🇸 미국 전역 투표에 오른 데이터센터, 대부분 패배… 다음 과제는 (2026.11.5)

언론 · TechPolicyPress · ⚖️🗳️

필자 Jenna Ruddock은 2026년 중간선거에서 13개 주에서 데이터센터가 직접 투표에 부쳐졌고 거의 모든 곳에서 부결됐다고 정리한다. 오하이오에서는 Conserve Ohio가 지원한 10개 도시·마을 헌장 개정안이 모두 통과했고 일부는 70% 이상 득표했다. 텍사스·조지아·메인 등에서는 데이터센터 모라토리엄이나 세금 감면 폐지를 내건 후보들이 당선됐고, 조지아에서는 민주당이 Public Service Commission 통제권을 1996년 이후 처음 확보했다. AI 업계 연계 슈퍼팩 Leading the Future 계열의 수백만 달러 광고·후원은 성과가 미미했으며, 필자는 의회 조사 가능성과 오하이오 주 단위 모라토리엄 추진 등 반발이 계속될 것으로 전망한다.

🇪🇺🇬🇧 유튜브에서 혐오 표현이 여전히 돈이 된다: 규제 당국은 자금 흐름을 추적해야 한다 (2026.11.5)

언론 · TechPolicyPress · 🎭

GDI(Global Disinformation Index)의 보고서 "Monetizing Hate"는 혐오 표현으로 분류된 영어 채널 100개가 2026년 광고 수익 약 1,330만 달러(제작자 730만, 유튜브 600만 달러)를 올릴 것으로 추산했다. 이 분석은 LLM 5개가 영상 19,297개를 분류하고 200개를 수작업 검토한 결과이며, GDI의 혐오 표현 정의가 유튜브보다 넓어 합법 콘텐츠도 포함된다는 한계가 있다. 저자는 유튜브의 상습 위반자 조항이 "반복"을 정의하지 않고 적용 사례도 확인되지 않아 사실상 재량에 가깝다고 지적하며, 삭제 건수가 아니라 수익 기준의 투명성(국가별 수익 중단 건수, 수익 중단까지의 지연 등)을 요구한다. 또 EU DSA 17조·67조, 2025년 7월 위임법, 영국 Online Safety Act의 2027년 투명성 보고서 등 기존 법제로 이를 추진할 수 있다고 본다.

🇺🇸 기술파시즘이 되살아나기 전에 전원을 뽑아야 한다 (2026.11.5)

언론 · TechPolicyPress · 🗳️🚀

필자 Nathalie Maréchal은 이번 중간선거의 "Blue Wave"가 트럼프 대통령에 대한 심판을 넘어 기술 과두체제에 대한 유권자의 거부를 보여줬지만, 기술파시즘 시도가 끝난 것은 아니라고 주장한다. 그는 새 의회 다수당이 DOGE의 USAID 해체, 거대언어모델을 이용한 공공지출 삭감, Palantir의 Privacy Act 위반 의혹 등 행정부와 빅테크의 유착 사례를 조사해야 하며, 이는 보복이 아닌 법치의 토대인 책임 추궁이라고 강조한다. 또한 2029년 새 행정부 출범에 대비해 세제 개편, 데이터 최소화 기반의 포괄적 프라이버시 법, 反독점 집행, 미디어 소유 집중 해소와 함께 OpenAI·Anthropic 같은 PBC의 기업지배구조 개혁을 추진해야 한다고 제안한다. 궁극적으로 감시 기반 비즈니스 모델과 시장 집중 같은 근본 원인을 해체해야 한다는 것이 결론이다.

소셜미디어 중독 소송, 재판 전 합의 잇따라…그 의미는? (2026.11.5)

언론 · TechPolicyPress · ⚖️

로스앤젤레스 상급법원에서 열릴 예정이던 소셜미디어 중독 bellwether(대표 시범) 재판은 Snap이 11월 초 합의하면서 열리지 않게 됐다. Meta가 며칠 전, TikTok과 YouTube가 몇 주 전 두 원고(18세 Kadence, 16세 Shawna)와 각각 합의한 데 이어진 것으로, 합의 조건은 비공개다. 올해 8월 Meta는 주 검찰총장 52명과 최대 171억 달러 규모로 합의했고, 9월 TikTok은 앨라배마주와 최소 1억 달러에 합의했다. 전문가들은 2월 첫 bellwether 재판에서 K.G.M.이 Meta·Google을 상대로 승소해 600만 달러 배상 판결이 나온 탓에 기업들이 배심원 리스크를 피하려 한다고 분석한다. 반면 합의가 반복되면 bellwether가 다른 사건의 가치를 가늠하는 표본 구실을 하지 못하고, 플랫폼 책임에 관한 공적 논의도 위축될 수 있다는 우려가 나온다.

🇺🇸 유권자들이 의회에 기업 권력과 기술파시즘에 맞설 권한을 부여했다 (2026.11.5)

언론 · TechPolicyPress · ⚖️🗳️

필자 Courtney C. Radsch는 민주당의 상·하원 승리가 빅테크와 AI에 책임을 묻겠다는 유권자 의사의 표현이라고 주장한다. 새 의회가 1월에 출범하면 위원회 청문회와 조사, 의사일정, 지도부 선택, 본회의 표결을 통해 AI 설계·책임 규제, 경쟁 보호, 언론 집중 규제를 추진해야 하며 주(州) AI 보호 장치를 연방 차원의 무대응과 맞바꾸는 시도는 거부해야 한다고 본다. 또 Meta가 미국과 브라질 선거에 개입했다는 의혹을 의회가 조사하고 경영진을 선서 하에 증언시켜야 한다고 촉구한다. 다만 상원 필리버스터, 대통령 거부권, 독립기관의 권한을 약화시킨 대법원 판결이 여전히 한계로 남는다고 짚는다.

🇨🇳🇪🇺 Ctrl+AI+Reg — AI 규제의 10대 집행 패턴 (2026년 11월 업데이트) (2026.11.5)

아카이브 · Ctrl+AI+Reg · ⚖️🔒

Global AI Regulation Tracker 데이터를 근거로, AI 규제가 실제로 어떻게 집행되는지 10개 패턴으로 정리한 월간 에세이다. 첫 번째 패턴은 개인정보·데이터 보호·사이버보안이 집행의 중심이라는 것으로, 트래커상 133개 관할권에서 1,825건 이상이 해당하며 저작권(약 240건)과 경쟁법(180건 미만)을 크게 앞선다. 두 번째 패턴은 자동화된 의사결정 규칙이 전용 AI 법이 아니라 개인정보 보호법에서 나오고 있다는 점이다. 호주·중국·캐나다·브라질이 기존 개인정보 체계로 규율하는 반면, EU AI Act의 고위험 의무는 Digital Omnibus로 Annex III 용도는 2027.12.2, Annex I 제품은 2028.8.2까지 연기되었고 콜로라도 AI Act는 소송 끝에 2026년 5월 폐지되어 더 좁은 SB 26-189로 대체되었다. 전반적으로 2026년에는 입법부가 전용 AI 법을 축소·연기하는 동안 규제당국은 기존 법을 더 강하게 집행하는 흐름이 나타난다.

🇰🇷 K-문샷 전담 조직, 다른 기관과 업무 중복 소지 (2026.11.5)

언론 · 디지털타임스

국회 예산정책처는 범부처 AI 과학기술 프로젝트 K-문샷의 전담 조직인 K-문샷 추진지원단을 국가과학기술연구회(NST) 내 별도 조직으로 둔 것이 NST의 출연연 지원 기능과 상충하고 거버넌스가 적절치 않다고 지적했다. 지원단 소속 PD 12명이 과제 기획·관리·평가 등 전권을 행사해, 같은 역할을 하는 한국연구재단의 PM 체계와 업무가 겹칠 수 있고 연구관리 전문기관 효율화 방안과도 맞지 않는다는 분석이다. 또 국가 연구개발혁신법상 연구관리 전문기관에 위탁하도록 한 취지와도 부합하지 않으며, 편성되지 않은 올해 예산이 국가 과학기술자문회의 R&D 예산 심의 없이 NST 이사회 의결로 집행된 점도 문제로 꼽혔다. 과기정통부는 내년도 지원단 예산안으로 4249억원을 편성했다.

딥페이크 사기 기승, ESG는 이제 AI기업의 '생존조건' (2026.11.5)

언론 · 디지털타임스 · ⚖️🎭

생성형 AI를 악용한 딥페이크 범죄가 늘면서 AI기업의 윤리 경영이 ESG의 새로운 핵심 과제로 떠올랐다. 하나금융연구소 보고서는 AI 금융사기 피해액이 지난해 약 210억 달러에서 2027년 최대 400억 달러로 불어날 것으로 전망했고, 2024년 아럽(Arup) 홍콩지사의 약 2500만 달러 송금 피해 같은 사례도 소개됐다. 올해 1월 시행된 AI 기본법은 딥페이크 표시 의무를 두었으나 과태료가 최대 3000만원에 그치고 최소 1년의 계도 기간으로 부과가 유예된 상태여서, 최대 1500만유로 또는 전 세계 매출의 3%를 과징금으로 물리는 EU보다 약하다. 정부는 범부처 AI 범죄 대응 협의체를 꾸렸고, 전문가는 워터마크 검증 체계와 생성 단계의 세이프가드 필터링, 국가 차원의 규제 강화를 주문했다.

🇰🇷 미·중 AI 전쟁 속 “한국이 갈 길은 피지컬 AI” (2026.11.5)

언론 · 중앙일보 · 🛡️🏛️🤖🦾🚀

중앙일보가 '2026 중앙포럼'을 앞두고 산·학·연 AI 리더 10인을 인터뷰한 결과, 한국의 생존 전략은 제조 현장 데이터를 기반으로 한 피지컬 AI와 특화(vertical) AI의 투트랙이라는 의견이 모였다. 전문가들은 오픈AI·앤트로픽·딥시크 등은 실용적으로 활용하되, 삼성전자·SK하이닉스의 HBM 등 반도체 파워와 제조 현장의 암묵지 같은 독자 데이터를 협상 지렛대로 삼아야 한다고 했다. 빅테크 의존 시 유사시 국가 인프라 접근이 차단될 수 있다는 위기감 속에 국방·보안 등 민감 분야의 자국 AI 구축 필요성도 제기됐다. 리더십 측면에서는 AI 에이전트 협업 시대에 CEO가 지시자가 아닌 구성원을 돕는 '휴먼 에이전트'가 되어야 한다는 주장이 나왔다.

🇰🇷 한국 독자 AI, 우려보다 응원을 (2026.11.5)

언론 · 머니투데이 · 🏛️🚀

이 칼럼은 국가 대표 AI를 선정하는 독자 AI 파운데이션 모델(독파모) 프로젝트가 참여기업에 "우리 모델도 쓸 만하다"는 자신감과 자부심을 주었다고 평가한다. 정부가 수요처 보장, 자금, 인재, GPU를 제공해 수익이 불확실한 사업의 초기 생태계를 조성했으며, 출발점은 지난해 1월 딥시크 쇼크였고 이동통신사가 AI기업으로 전환하는 계기도 됐다고 설명한다. 서바이벌 방식 도입에 따른 잡음과 평가 방식 논란 같은 한계가 있었고, 독파모는 내년 초 3차 단계 평가로 끝난 뒤 프런티어 AI모델 프로젝트로 이어질 예정이다. 필자는 시행착오는 따지되 성적표만으로 재단하거나 도전 자체를 폄하해선 안 되며, 지금은 비난보다 응원이 필요하다고 주장한다.

🇰🇷 'AI시대와 국가보안법' 주제 국회토론회 개최 (2026.11.5)

언론 · 통일뉴스

'AI 시대와 국가보안법-7조를 중심으로 한 제도 개선안' 국회토론회가 19일 오후 4~6시 국회의원회관 제10간담회의실에서 열린다. 국가보안법7조부터폐지운동시민연대와 이학영 국회의원이 주최하고, 국가보안법폐지국민행동 등 123개 시민단체가 후원한다. 사회는 김창현 뉴스토마토 K평화연구원장이 맡고, 발제자로는 문장렬 민플러스자주평화연구원장이 나선다. 강욱천 한국민예총 사무총장, 김태형 심리연구소함께 소장, 문병모 전교조 통일위원장, 강영미 참교육을위한전국학부모회 회장, 한성민 대구대학교 학생이 토론자로 참여한다.

🇺🇸🇰🇷 미국 중간선거 후폭풍, AI 데이터센터 규제 강화 우려 확산 (2026.11.5)

언론 · 조선일보 · 🗳️

미국 중간선거에서 민주당이 상·하원을 탈환하고 텍사스·조지아·오하이오 등 데이터센터 유치에 적극적이던 주의 주지사직까지 가져오면서 AI 데이터센터 규제 강화와 투자 지연 우려가 커졌다. 5일 기준 주지사 선거가 열린 36주 중 12곳에서 데이터센터 개발 일시 중단을 지지한 후보가 당선되거나 앞섰고, 20명 이상이 규제 강화 입장이다. 시장도 민감하게 반응해 필라델피아 반도체지수는 3.13%, 마이크론은 7% 이상 하락했으며, 삼성전자와 SK하이닉스 주가도 각각 7%대, 9%대 급락했다. 다만 삼성전자의 2027년 HBM 물량 완판과 SK하이닉스의 주요 고객사 14곳 장기 공급 계약 덕분에 메모리 판매가 바로 줄 가능성은 낮다는 분석이 많다.

마돈나 등 스타들도 “AI 학습, 저작권료 내야” (2026.11.5)

언론 · 동아일보 · ⚖️🚀

마돈나, 로버트 드 니로, 앤 해서웨이 등 유명 스타들이 NYT와 오픈AI·MS의 저작권 소송과 관련해 법정조언자 의견서(amicus briefs)를 법원에 제출했다. 대형 연예기획사 CAA와 휴먼 컨센트 재단 등이 낸 의견서는 학습 데이터 사용 허락을 받는 데 비용이 많이 들고 기술적으로 어렵다는 오픈AI·MS 주장에 맞서, 창작산업에는 이미 대규모 사용 허락을 처리할 검증된 시스템이 있다고 반박했다. RIAA·NMPA 등 9개 음악단체는 별도 의견서에서 NYT 저작물을 AI 학습에 쓴 행위가 공정 이용에 해당하지 않는다고 밝혔고, SAG-AFTRA와 AFM도 창작자 권리 보호를 촉구했다. 이 소송은 NYT가 2023년 12월 제소하며 시작됐고 쟁점은 AI 학습이 공정 이용인지 여부이며, NYT는 11월 2일 브레이브도 콘텐츠 무단 수집을 이유로 제소했다.

🇰🇷 판권에 ‘AI 학습 거부’ 명시하고 사용료도 받는다…유럽 출판계의 반격 (2026.11.5)

언론 · 경향신문 · ⚖️🚀

5일 한국출판인회의가 연 아시아 퍼블리셔스 포럼에서 독일 DPR 창립자 슈테펜 마이어는 유럽 출판사들이 자체 규칙, AI 기업과의 개별 계약, 업계 공동 대응 등 3가지 방식으로 대응하고 있다고 소개했다. 출판사들은 웹사이트·파일에 텍스트·데이터 마이닝 거부를 기계가 읽을 수 있게 표시하고, 모든 책의 판권에도 AI 학습 거부 의사를 명시하며 저자·번역가 계약에 AI 조항을 넣는다. 대형 출판사 와일리는 지난해 AI 계약으로 4900만달러를 벌었고 하퍼콜린스는 비문학 한 권당 저자에게 5000달러를 제안하는 반면, 중소형 출판사는 개별 계약이 어려워 SPUR나 북팩트 같은 공동 대응 틀을 활용한다. 최휘영 문체부 장관은 앤트로픽의 한국 책 무단 학습 의혹에 대해 "현행법으로는 어떻게 할 수 있는 방법이 없다"고 했고, 유럽에서는 2025년 11월 뮌헨 법원이 AI 모델의 노래 가사 저장·재현을 저작권 침해로 판단하고 유럽의회도 지난 3월 학습 저작물 목록 공개와 집단 라이선스를 요구하는 결의안을 채택했다.

🇬🇧🇺🇸 빌 게이츠, 트럼프 행정부 AI 대응 비판… "생물무기 피해, 코로나 넘을 수도" (2026.11.5)

언론 · 뉴시스 · 📜📋🛡️🧪

빌 게이츠 MS 공동창업자는 4일(현지 시간) 런던 FT 'AI 미래 서밋'에서 트럼프 행정부의 AI 대응을 비판하며 AI를 악용한 생물무기 사고의 피해가 코로나19보다 클 수 있다고 경고했다. 그는 생물무기 제작과 사이버공격 악용을 당면한 최대 위험으로 꼽았고, 일부 개방형 모델은 안전장치와 감시 기능을 제거할 수 있다고 우려했다. 트럼프 대통령이 정부 규제보다 기업 자율규제를 선호하고 G20의 AI 지침 마련 시도도 일축한 데 대해, 게이츠는 "미국이 참여하지 않으면 대응의 실효성이 크지 않다"며 AI 모델 안전장치·감시 기준 마련과 외부 기관 검증 강화를 제안했다. 아울러 공기·하수·혈액의 대규모 감시로 감염을 조기에 발견해야 한다고 강조했고, 의료 분야 등 AI 활용 확대도 주문했다.

이 대통령 "AI 풀스택, 정부가 안정성 보증 지원…글로벌 진출 기회 살려야" (2026.11.5)

언론 · 뉴시스

이재명 대통령은 5일 청와대 수석보좌관회의에서 AI 풀스택 해외 진출·협력 방안을 보고받고 정부가 안정성을 보증하고 기업이 주도적으로 글로벌 시장에 진출하도록 지원해야 한다고 밝혔다. AI미래기획수석은 인프라·모델·서비스를 아우르는 풀스택 경쟁력을 확보했다며 국가별 AI 협력 모델 발굴과 민간 중심의 선단형 협력 사업 추진 방안을 논의했다. 이 대통령은 민관 합동팀 구성의 중요성을 강조하고 해외 공관과 주한 외국 대사관의 적극 활용을 제안했다. 또한 '모두의 AI' 이용률을 높일 유인책 마련을 지시했고, 창업 기회를 넓히는 방안과 'K-양극화' 하위층 지원책 마련도 언급했다.

🇰🇷 ‘AI 안경 커닝’ 서울시립대 수험생 2명 피고소…李대통령 “부정행위 원천 차단” (2026.11.5)

언론 · 시사저널 · ⚖️

서울시립대는 수시 논술 시험장에서 AI 안경을 착용·소지한 수험생 2명을 적발해 퇴실시키고 향후 3년간 입학시험 응시 자격을 박탈했다. 서울 동대문경찰서는 학교 측이 업무방해 혐의로 낸 고소장을 지난달 26일 접수했다. 교육부는 앞서 부정행위자의 응시자격 정지 기간을 현행 1년에서 3년으로 늘리는 방안을 추진하고, 수능뿐 아니라 대학별 고사에도 같은 제재를 적용하도록 대학에 권고한다고 밝혔다. 이재명 대통령은 수석보좌관회의에서 모든 시험에서 스마트기기를 활용한 부정행위를 막을 종합 대책을 마련하고, 감독관이 부당한 민원에 위축되지 않도록 보호 방안도 마련하라고 지시했다.

구글, 학교는 Gemini 없이 검색 유지 가능하나 AI 검색은 협상 불가 (2026.11.5)

DB · AIID · 🚨

구글의 K–12 학교용 새 AI 정책은 Google 앱을 쓰는 학교가 AI 제품(Gemini, Gemini Notebook, Gemini in Classroom, 검색)을 학생 계정에 직접 켜야 하는 opt-in 방식이다. 뉴욕타임스는 AI를 거부하면 검색을 끄는 것으로 보도했지만, 구글은 학교가 Gemini 앱만 끄고 검색을 유지할 수 있으며 AI를 전혀 원치 않으면 검색까지 끌 수 있다고 해명했다. 다만 검색을 켜려면 표준 AI 기능이나 답을 쉽게 알려주지 않는다는 새 Guided Learning 버전 중 하나를 골라야 하며, AI 없는 검색 옵션은 제공되지 않는다. 구글은 AI Overviews·AI Mode를 끄는 토글을 만들지 않고 있으며, 대안 검색엔진 전환은 구글의 방대한 색인 때문에 쉽지 않다고 기사는 짚는다.

스코틀랜드 교육 당국 신규 교육과정 보고서, AI로 작성돼 '오류' 투성이 논란 (2026.11.5)

DB · AIID · 🚨

스코틀랜드 교육 준공공기관 Education Scotland이 교육과정 개선 주기(Curriculum Improvement Cycle) 관련 보고서를 AI로 작성해 '명백한 오류' 논란에 휘말렸다. 에든버러대 강사 Brodie Runciman은 존재하지 않는 논문·도서·보고서를 가리키는 것으로 보이는 참고문헌 약 20건을 찾아냈고, 한 보고서는 Higher PE 수강생이 20만 명 이상이라고 했으나 올여름 National 5·Higher·Advanced Higher 응시자는 전체 15만 명 미만이었다. 그가 4월에 문제를 알린 뒤 오류는 수정되고 AI로 편집했다는 주석이 추가됐지만, AI 사용 범위에 대한 의문은 남아 있다. 야당 보수당은 7개월 전 제기된 우려를 장관들이 외면했다고 비판했고, Education Scotland와 스코틀랜드 정부는 오류를 바로잡았다고 밝혔다.

ChatGPT가 월세 납부 중단을 조언해 퇴거당했다는 남성의 소송 (2026.11.5)

DB · AIID · ⚖️🚨

덴마크 출신의 60세 Klaus Elmfelt가 이번 주 샌프란시스코 카운티 고등법원에 소송을 제기했다. 그는 집주인과 분쟁 중일 때 ChatGPT가 월세를 내지 말라고 조언했고, 그 결과 퇴거당해 개 두 마리, 담요와 함께 차에서 생활하게 됐다고 주장한다. 그는 OpenAI가 허위 또는 오해를 부르는 조언을 제공하지 못하도록 막는 법원 명령을 요구하고 있다. 확보된 본문에는 이 내용 외의 세부 사항이 없다.

🇺🇸🇪🇺 xAI, Grok API 출력에 비가시 워터마킹 도입 (2026.11.5)

DB · AI-Risk-Explorer · ⚖️🚀

SpaceXSI는 EU AI Act 준수를 위해 2026년 11월 7일부터 grok-4.7, grok-4.6 등 7개 Grok 텍스트 모델의 응답에 기본으로 워터마크를 적용한다. 워터마크는 생성 단계에서 모델의 토큰 선택을 미세하게 조정하는 방식이라 문자나 마크업이 추가되지 않고, 요청 파라미터 변경도 필요 없다. 적용 여부는 응답의 x-watermark: true 헤더로 확인하며, 탐지는 통계적으로 이루어져 워터마크 있음·없음·불확실로 판정하고 탐지 API는 신청을 통해 이용할 수 있다. 팀 관리자는 콘솔에서 모델별로 옵트아웃할 수 있으나 이때 관련 법적 책임은 사용자가 지며, 일부 모델은 옵트아웃이 잠겨 있다.

🇨🇳 선거운동이 달아오르는 가운데 오나누가, 인공지능 사용에 신중을 촉구 (2026.11.5)

DB · GlobalAIRegTracker · 📜🗳️🎭

나이지리아 대통령 정보·전략 특별보좌관 바요 오나누가는 2027년 총선을 앞두고 정치 활동과 선거운동이 활발해지는 만큼 AI를 책임 있고 신중하게 사용해야 한다고 촉구했다. 그는 베이징에서 열린 제7회 세계미디어서밋(신화통신·베이징시 인민정부 주최)에서 "AI와 글로벌 커뮤니케이션의 미래"라는 발표문을 통해 민주 제도의 신성함과 대중의 신뢰를 지키기 위해 guardrails를 마련해야 한다고 밝혔다. 그는 X, Facebook, TikTok에 정치적 목적이나 오락용 AI 생성 영상·이미지가 넘쳐나며, 일부 정치 세력은 AI로 허위 정보를 퍼뜨린다고 지적했다. 또한 정치 행위자, 언론사, 일반 대중 모두 콘텐츠 제작·공유에서 더 큰 책임을 져야 한다고 강조했다.

금융위, AI 해킹 위협 대응 금융권 사이버 방어체계 강화 회의 개최 (2026.11.5)

DB · GlobalAIRegTracker · ⚖️🔒

금융위원회는 11월 5일 관계 부처·기관·금융업권 단체와 회의를 열고, 9월 30일~11월 3일 37개 금융회사에서 해킹 사고 40건이 신고되었으며 개인정보 유출은 약 47만 3천 건으로 집계되었다고 밝혔다. 계정 비밀번호 유출은 확인되지 않았고, 가상자산·전자금융·온라인 P2P 일부 중소업체에서 관리 계정 위주로 약 10억 원의 자금 유출이 보고되었다. 대응책으로 약 580개 업체의 외부 접점(API 등)과 내부통제 점검(외부 접점은 11월 말, 내부통제는 연말 완료), 업권 공동 해킹 대응체계 "FIRST"(12월 시범, 내년 1분기 전 업권 도입), 대형 금융회사 제3자 취약점 평가의 연 2회 상향(11월 중 감독규정 개정 추진)이 제시되었다. 이와 함께 중소 금융회사 지원(12월부터 단계적 제공), 다크웹 24시간 모니터링, ASAP의 AI 기반 "보이스피싱 의심지수" 도입(11월), 보이스피싱 무과실 배상책임 법제화 지원이 포함되었다. AI 시대 방어체계로는 망분리 전면 완화 TF 구성, 사이버 방어용 AI 상시 활용 허용, 디지털금융안전법안 마련이 추진된다.

이탈리아 노동부 AI 노동 관측소, 국가 전략 수립 작업 진전 (2026.11.5)

DB · GlobalAIRegTracker · 📋🤖

이탈리아 노동사회정책부 산하 AI 도입 관측소가 Palazzo Wedekind에서 작업 세션을 열고 '통합 활동 계획'의 초기 분석 결과를 공유했다. 이를 토대로 AI 활용 전략, AI 영향 연례 보고서, 기업·노동자 대상 지침 개정 등 전략 문서를 준비하며, 분석은 특히 중소기업과 전문직의 역량 강화에 집중됐다. 관측소는 데이터와 전문가 분석을 통합하는 에이전트형 포털 SIO(관측소 지능형 시스템)를 선보였고, INAPP와 Sviluppo Lavoro Italia는 직업의 AI 노출도와 채용공고 요구 역량, 계약 동향을 연결하는 대시보드 2종을 소개했다. 논의 내용은 확정된 전략 방향이 아니며, 이번 논의 결과를 반영한 전략 문서는 2026년 11월 말까지 장관이 의장인 지도위원회에 제출되어 향후 3년간 관측소 활동의 기초가 된다.

[아프리카] 공무원위원회, 디지털 현대화와 AI 대응 인력 계획 촉구 (2026.11.5)

DB · GlobalAIRegTracker

나이지리아 연방·주 공무원위원회 전국협의회 제45차 연례회의가 2026년 11월 1~6일 델타주 아사바에서 열렸고, 25개 주와 연방공무원위원회에서 204명이 참석했다. 협의회는 제도 재편, 디지털 전환, 조직문화 변화를 가속하기로 결의했다. 각 위원회에는 인사 기록과 행정 절차의 디지털화를 우선하고, 새로운 전문 수요와 세대 변화, 인공지능(AI)의 영향에 대응해 직무체계(schemes of service)를 재검토하고 관련 직군을 신설하라고 촉구했다. 또한 능력 기반 채용 강화, 성과관리제도(PMS)의 승진 반영, 사기·부정행위 대응을 위한 투명성·책임성 장치(정기 보고서 공개, 웹사이트 운영 등)를 권고했다.

🇺🇸 METR, Anthropic 내부 AI 역량 발전 가속 여부 평가 보고서 공개 (2026.11.5)

DB · AI-Risk-Explorer · 🚀

METR 내 한 팀이 2026년 8월부터 Anthropic의 내부 정보를 활용해 AI 자체가 AI 개발을 가속하고 있는지 평가했다. METR은 이 위험 평가(risk assessment) 결과를 요약한 보고서를 이번에 공개한다고 밝혔다. 게시물에는 구체적인 평가 결과나 수치가 담겨 있지 않아 세부 결론은 확인되지 않는다.

🇺🇸 백악관, AI 기반 생물 위험 대응 위한 핵산 합성 스크리닝 국가 정책 발표 (2026.11.5)

DB · AI-Risk-Explorer

마이클 크라치오스 백악관 과학기술정책실장은 합성 DNA와 합성 장비에 대한 정부 차원의 새로운 스크리닝 요건을 담은 '핵산 합성 스크리닝 국가 정책'을 발표했다고 밝혔다. 이 정책은 핵산 서열과 합성 장비를 판매하는 기업이 고객을 파악하고 악의적 사용을 막도록 하며, 기존의 "self-attestation"(자체 증명) 방식을 독립적 검증으로 대체한다. 또한 핵산 서열의 생물학적 위험을 평가하는 SI 기반 스크리닝 계층을 두어 위험한 gain-of-function 연구를 막는 데 쓰겠다는 설명이다. NIST가 새 스크리닝 표준을 발표하고 HHS와 USDA가 합성생물학 공급업체를 인증한다.

🇰🇷 [AI Policy Insights 2026-5] 누가 AI 시대의 취약계층인가 (2026.11.5)

공공 · NIA · 🤖🎭

생성형 AI 확산으로 이용 장벽은 낮아졌지만, AI 시대의 디지털 격차는 접근·이용 격차에서 AI 결과를 이해·검증·판단하는 역량의 격차로 확대되고 있다고 진단한다. 생성형 AI의 오류와 허위정보, 이용자에 대한 과도한 동조, 정서적 의존, AI 에이전트의 행동 등이 새로운 취약성을 유발할 수 있다고 본다. 디지털 접근성과 AI 판단 역량으로 취약성 유형을 구분하고, 결정의 중요도·정서 상태·확인 및 통제 여건에 따라 실제 피해 가능성이 달라짐을 분석했으며, AI를 직접 쓰지 않아도 AI가 만든 정보나 결정의 영향을 받는 사람까지 살펴봤다. 정책 방향으로 기존 접근성 지원을 유지하면서 AI 판단 역량 교육 강화와 결과 확인·정정이 가능한 서비스 설계·보호 체계 개선을 제시하고, 포용 정책의 기준을 '접근'에서 '판단'과 '상황'으로 확장해야 한다고 제안한다.

🇪🇺🇫🇷 Capgemini, 첨단 AI 모델의 AI 안전·사이버 위험 평가를 위한 유럽집행위원회 컨소시엄 주도기관으로 선정 (2026.11.5)

기타 · capgemini.com · ⚖️🔒

Capgemini가 유럽집행위원회 산하 AI Office(DG CNECT 내 설치)로부터 AI Act 맥락의 첨단 AI 시스템 사이버 위협 모델링·위험 평가를 지원하는 컨소시엄의 리더로 선정됐다. 이 과제는 EU AI Safety 프로그램의 일부로, 범용 AI(GPAI) 모델의 cyber offence risk(자동화된 취약점 발견, exploit 생성, 대규모 사이버 공격 조율 등)를 평가·완화하는 데 초점을 둔다. Capgemini는 위험 모델링, 평가 도구 개발, 기술적 준수 방법론 설계, 요청 시 기술 평가를 수행해 GPAI 제공자에 대한 AI Act 의무 집행을 지원한다. 컨소시엄은 Wavestone, 프랑스 공공기관 LNE와 함께 구성되며, 조달 절차 EC-CNECT-2025-OP-0032의 Lot 2에 해당한다.

🇺🇸 FMF, 프런티어 사이버 위협용 Jailbreak 평가 프레임워크 발표 (2026.11.5)

기타 · frontiermodelforum.org · 🧪🚀

Frontier Model Forum(FMF)이 성공한 사이버 jailbreak의 상대적 위험도를 평가하는 Jailbreak Rating Framework for Frontier Cyber Threats 1.0 버전을 공개했다. 이 프레임워크는 capability gain, capability scope, ease of deployment, ease of discovery 네 가지 범주의 점수를 합산하는 단계별 평가 방식으로, 평가자마다 결과가 달라지는 문제를 줄이고 위험이 높은 jailbreak를 우선 처리하도록 돕는 것을 목표로 한다. AWS, Anthropic, Google DeepMind, Microsoft, OpenAI 관계자가 공동 기여 및 지지 입장을 밝혔다. 1.0은 초기 버전으로 FMF가 평가자 간 일관성 등을 계속 검증할 예정이며, 2026년 12월 21일까지 comments@frontiermodelforum.org로 외부 의견을 받는다.