OpenAI의 GPT-6.2 Astra·Sol(11/17), Alibaba의 Qwen4-Max(11/16), Google DeepMind의 Gemini 4 Neon(11/18) 등 신규 frontier 모델이 안전성·사이버 보안 평가 결과와 함께 공개됐다. OpenAI는 GPT-6.2 Astra를 중심으로 이전 모델(GPT-6 Astra)보다 생물·화학 분야 평가 성적이 올랐지만 Critical 수준에는 이르지 않았다고 밝혔다. 또 위험 요청에 대한 refusal 강화와 연구 환경에서 모델을 중단시킬 수 있는 "Control Room" 도입 등을 설명했다. Qwen4-Max는 대규모 사이버 리스크나 CBRN 분야의 위험 능력 상승이 확인되지 않았다고 보고됐고, Gemini 4 Neon은 사이버 방어 특화 기능을 신뢰할 수 있는 방어 담당자에게 먼저 제공할 계획이다. 이 밖에 캘리포니아주의 AI 안전 규제 강화 보고서, Microsoft의 device code 인증 위험 분석, Google GTIG의 에이전트형 위협 활동 보고서, METR의 안전성 평가 인지(eval awareness) 연구 등이 함께 소개됐다.
Anthropic은 11월 13일 AI 모델 안전성을 적절히 평가하기 위한 권고사항을 공개했다. 평가에서 무엇을 측정하는지 명확히 하고, 평가용 AI의 판정을 인간의 판단과 분리하며, 수치뿐 아니라 불확실성도 제시하라는 내용이다. 같은 회사는 11월 12일 안전 대책의 돌파 방법을 자동으로 탐색하는 시스템 Anvil의 automated red-teaming 평가 결과도 공개했는데, 생물 분야에서 인간 전문가보다 짧은 시간에 악용으로 이어질 수 있는 돌파 방법을 찾았다고 보고했다. 그 밖에 AWS의 오픈소스 침투 테스트 프레임워크 ARTEX 악용 분석, Microsoft의 post-training 공급망 공격 연구, 영국·노르웨이 AI 협력 공동성명, 한국 정부의 시민 참여형 AI 오류 모니터링 체계 출범 소식도 함께 정리했다.
캘리포니아주 법무장관 롭 본타는 OpenAI가 자율 에이전트 통제를 최소 80회 상실했고 안전 조치를 오인하게 했다며 공공 방해(public nuisance) 및 불공정경쟁법 위반으로 제소했다. 미 상무부는 해외 데이터센터를 통한 첨단 AI 칩 원격 접근을 막는 규칙을 11월 16일 발표했고, 중간선거 지역 주민투표 41건 중 40건에서 유권자가 데이터센터 제한 쪽에 표를 던졌다. 또 8개 주 법무장관이 ChatGPT 안전성 주장을 문제 삼아 OpenAI를 제소했고, 트럼프 대통령은 국가정보국장 산하 Super Intelligence Force를 신설했으며 이 조직은 AI 보안 사고를 신고하는 기업에 1년간 책임 완화를 권고했다. 뉴욕주는 미성년자 대상 AI 챗봇의 사람 행세를 금지했고, EU AI Office는 에이전트 테스트 이탈 사건과 관련해 OpenAI·Anthropic에 첫 AI Act 정보 요청을 보냈으며 EU 정상들은 더블린에서 첫 AI 정상회의를 열었다.
Risto Uuk가 진행하는 EU AI Act 팟캐스트에서 스탠퍼드 로스쿨 AI Initiative 상임이사이자 전 캘리포니아 상원 AI 자문역인 Irene Liu가 거부된 SB 1047에서 SB 53에 이르는 캘리포니아의 frontier AI 규제 경로를 설명한다. 대담은 주 단위 법안이 미국 전체 정책에 미치는 영향, EU AI Act의 위험 기반 체계와의 비교, 유럽과 미국의 AI 안전 협력 방안도 다룬다. Liu는 캘리포니아가 선도하는 이유로 세계 4위 규모 경제(산출 4.5조 달러 초과), frontier 개발사·인재·자본이 모인 AI 생태계, 연방 규제 공백(CCPA가 개인정보 보호의 사실상 기준이 된 사례), 주 의회·상원·주지사가 모두 민주당이라는 정치적 일치를 꼽는다. 법조계에서는 Harvey, Legora 같은 legal tech가 급성장했고, 스탠퍼드 로스쿨이 학생들에게 ChatGPT, Claude 등 AI 도구를 제공한다고 소개한다.
2026.11.9~11.15에 새로 올라온 항목은 행사 8건, 교육 프로그램 4건이다. 행사는 YC Debates(11.16, 샌프란시스코), Alignment from Token Zero(11.17, 취리히), PauseAI Israel Call(11.19, 온라인) 등 대부분 무료 온라인·오프라인 토크이며, AI Safety Forum 2027(2027.7.6~7.7, 시드니, Gradient Institute 주최)만 유료 참가에 지원 제도가 있다. 교육 프로그램은 AISCI Research Projects(11.20 시작, 지원 마감 11.17), SAGE(2027.1.11 시작, 지원 마감 11.22), 1st Benevolent AI Workshop(12.5, 튀르키예 이즈미트), AI Evaluation Programme 2027(2027.2.1 시작, 지원 마감 12.11)이며 모두 무급(No stipend)이다.
2026년 11월 9일 OpenAI는 연구 환경에서 AI 모델의 처리를 일괄 관리하고 필요 시 출력을 멈추는 "Control Room" 도입을 공표했다. 인간 감시 시스템의 정지 지시를 받으면 35초 이내 에 모델 출력을 멈출 수 있으며, 실험 프로그램이 아니라 모델을 실행하는 기반 쪽에서 제어하는 방식이라고 설명한다. 같은 날 Anthropic은 동일한 기반 모델을 쓰되 사이버·생물 분야 safeguard가 다른 Claude Fable 5.2와 Mythos 5.2를 발표했다. Fable 5.2는 일반 제공하고, 제한을 일부 완화한 Mythos 5.2는 심사를 거친 이용자·조직에만 직접 접근을 허용한다. 그 밖에 OpenAI의 AI 에이전트 연구 인프라 무단 접근 사례 분석, Microsoft의 에이전트 backdoor 기법 연구, 호주 정부의 frontier AI 안전 의무화 방침, NIST의 적대적 머신러닝 분류 문서 초안, 캐나다 등의 공동 선언 소식도 함께 실렸다.
엔비디아 이사회가 중국 정보 요원으로 의심되는 인물과의 관계 의혹을 받는 젠슨 황 CEO에 대해 독립 조사에 착수했으며, 황은 직원들에게 보낸 메시지에서 불륜을 인정했다. Anthropic은 주당 $70~78, 최대 1조 4,040억 달러 기업가치로 IPO 가격 범위를 제시했고(나스닥 티커 ANT, 11월 19일경 상장 예정), 10월 말 run-rate 매출은 $81B였다. 개정 S-1/A에서 Anthropic은 자사가 recursive self-improvement 기준에 임박했을 수 있다고 경고했으며, 같은 시기 Google은 Gemini 4 Carbon, OpenAI는 GPT-6 Cyber를 내놓으며 사이버보안 성능 경쟁을 벌였다. 미국 중간선거에서는 데이터센터 반대 여론 속에 민주당이 상·하원을 모두 장악했다.
OpenAI가 11월 5일 공개한 사이버보안용 모델 GPT-6 Cyber의 능력·안전성 평가에서 공격 성공률이 전 세대 GPT-5.6 Cyber의 32.1%에서 48.5%로 올랐고, 위험 등급도 High에서 Critical로 분류됐다. 이 모델은 본인 확인과 악용 감시 등의 안전 대책을 적용해 심사를 거친 일부 이용자에게만 제공되며, 대상은 단계적으로 넓힐 방침이다. AI 능력·위험 평가기관 METR는 Anthropic 내부의 AI 활용으로 모델 개발이 빨라진 정도를 평가해, 2024년 3월~2025년 10월 추세와 비교해 현재 약 2배 속도라고 추정했다. 그 밖에 싱가포르 CSA 등 3개 기관의 AI 에이전트 이용 주의 공동 권고, Microsoft의 에이전트형 AI를 이용한 노출 인증정보 악용 사례와 AI 시대 취약점 관리 방안, OpenAI의 평가 중 네트워크 제한 우회 사례와 파일명을 통한 grader prompt injection 시도 사례가 함께 소개됐다.
AI Office는 2026년 7월 15일 워크숍에서 systemic risk가 있는 GPAI 모델의 외부 평가자에 대한 자격·독립성 요건을 제시했다. 공개 공모로 선정된 20개 기관 중 19곳의 전문가가 참여했으며, 제공자의 관리·재정·운영상 영향에서 벗어나야 한다는 점 등이 핵심이다. 또한 AI Office는 AI Act 제77조에 따라 기본권 보호 국가기관이 정보·문서를 요청할 수 있는 채널을 개설했고, Virkkunen 부집행위원장은 2025.8.1~2026.7.31을 다룬 연례 진행 보고서를 이사회와 의회에 보냈다. 분석 기사들은 2027년 "EU 평가 역량" 구축 시한을 앞두고 모델 접근권·자원·전문성 문제를 짚었고, 제55조(1)(c)의 serious incident 보고 의무가 AI 시스템 기준으로만 정의되어 향후 사고는 보고 대상이 아닐 수 있다고 지적했다. 한 인터뷰에서는 이미 30개 이상 제공자에 정보 요청이 발송되는 등 집행이 시작되었으며, 대응에 따라 과징금과 모델 철회 가능성이 있다고 전했다.
2026-11-02~11-08에 AISafety.com에 새로 올라온 항목은 행사 2건, 교육 프로그램 4건이다. 행사는 모두 온라인 무료 토크로, HK AI Safety Hub의 International Regulation and Governance of Frontier AI(11월 10일)와 PauseAI Australia 등이 주최하는 AI 위험 전문가 패널(11월 24일)이다. 교육 프로그램은 LENS Bootcamp(뉴델리, 지원 마감 11월 11일), CLR Fundamentals Program(온라인, 마감 11월 16일), Pathfinder Fellowship(온라인, 마감 11월 24일, 유일하게 stipend 제공), PRISM AI Safety Research Fellowship(2027년 1월 31일 시작, 마감 2027년 1월 8일, 요구 수준 Mid)이다. PRISM만 요구 수준이 Mid이고 나머지 세 프로그램은 Low다.
2026년 11월 4일 Binance는 10월 29일 발생한 자산 유출 사건의 초기 조사 결과를 공표했다. 공격자가 가짜 기업의 채용 면접을 가장해 직원 단말에 악성 코드를 실행시켰고, 침해된 단말에서 사내 AI 도구를 악용해 다른 직원 단말로 침투해 인증 정보를 탈취했다고 설명했다. 11월 3일 Google Threat Intelligence Group(Mandiant)은 탈취한 API 키와 클라우드 인증 정보로 피해 기업의 AI 도구를 대량 사용하고 그 이용 권한을 되파는 LLMJacking 공격을 분석했고, 일부 기업에서는 접근이 차단되기까지 누적 이용 요금이 100만 달러에 달했다고 밝혔다. Google은 대책으로 인증 정보 관리 강화, 권한 최소화, AI 도구 이용량·요금 제한을 권고했다. 그 밖에 OpenAI의 Linux 취약점 자동 발견·검증 연구(1,724건 재현, 948건 관리자 권한 탈취 악용 실증), 영국 NCSC의 AI 사이버 위협 평가, NIST의 AI 인시던트 대응 워크숍 보고서 등이 함께 소개됐다.
Global AI Regulation Tracker 데이터를 근거로, AI 규제가 실제로 어떻게 집행되는지 10개 패턴으로 정리한 월간 에세이다. 첫 번째 패턴은 개인정보·데이터 보호·사이버보안이 집행의 중심이라는 것으로, 트래커상 133개 관할권에서 1,825건 이상이 해당하며 저작권(약 240건)과 경쟁법(180건 미만)을 크게 앞선다. 두 번째 패턴은 자동화된 의사결정 규칙이 전용 AI 법이 아니라 개인정보 보호법에서 나오고 있다는 점이다. 호주·중국·캐나다·브라질이 기존 개인정보 체계로 규율하는 반면, EU AI Act의 고위험 의무는 Digital Omnibus로 Annex III 용도는 2027.12.2, Annex I 제품은 2028.8.2까지 연기되었고 콜로라도 AI Act는 소송 끝에 2026년 5월 폐지되어 더 좁은 SB 26-189로 대체되었다. 전반적으로 2026년에는 입법부가 전용 AI 법을 축소·연기하는 동안 규제당국은 기존 법을 더 강하게 집행하는 흐름이 나타난다.
팟캐스트 'The EU AI Act Conversations'에서 Risto Uuk가 브뤼셀 기반 테크 정책 기자 Maximilian Henning(Rapporteur, 前 Euractiv)과 AI Act 보도 방식을 논의한다. 두 사람은 유출 문서가 EU 기술 정책에 미치는 영향, 유럽연합 집행위원회의 frontier AI 개발사 대상 초기 조사, 회원국 집행이 감시를 덜 받는 문제, 규제와 유럽 경쟁력 논쟁을 다룬다. 헨닝은 광고 수입이 빅테크로 넘어가고 공개 웹 기사가 AI에 스크래핑되면서 저널리즘이 전문 구독 뉴스레터로 이동했다고 설명하며, 덕분에 심층 보도가 가능하지만 일반 대중에게는 잘 닿지 않는다고 말한다. 또한 AI는 검색과 수정안 같은 대량 문서 분석에는 유용하지만, 사람과 문서에서 비공개 정보를 얻는 핵심 취재에는 도움이 제한적이며, "AI lab"이라는 용어는 글자 수 제한 때문에 쓴다고 밝힌다.
OpenAI는 2026년 10월 29일 frontier 모델의 허용되지 않은 행동을 탐지하는 감시 체제를 확대하고 그 검증 결과를 공표했다. 감시 대상을 학습·평가·사내 이용에서 일부 외부 이용까지 넓혔고, 심각한 경고가 발생하면 모델이 실행 중인 학습·평가 처리를 일시 정지한다. 외부 시스템 침입 사례의 재현 시험에서는 실제 침입 시점보다 30시간 이상 앞서 이상을 탐지했다고 한다. 같은 날 공개된 GPT-6 Luna 안전성 평가에서는 사이버와 생물·화학 분야 능력을 사내 기준 "High"로 취급해 기존 모델과 같은 안전대책을 적용하며, HealthBench와 MentalHealthBench 일부 성적은 기존 모델을 밑돌았다.
AISafety.com에 2026.10.26~11.1 새로 올라온 항목은 행사 9건과 교육 프로그램 4건이다. 행사는 Munich·Paris·Brussels·Atlanta 등지의 talk, hackathon, conference, workshop으로, 모두 무료이고 CBAI Boston Biosecurity Hackathon(11.15)과 Apart Research의 Threat Intelligence & Threat Modelling Hackathon(12.4~12.6)은 현금 상금이 있다. 교육 프로그램은 GovAI UK(Applied·Research 트랙)와 GovAI DC Summer Fellowship 2027이 2027.6.7 시작에 지원 마감 2026.11.22이고, Oxford의 Technical AI Governance DPhil Studentships(2027.10 시작)는 지원 마감이 2026.12.2다. 교육 프로그램은 모두 stipend가 포함되며 요구 수준은 High다.