과학기술정보통신부는 AI 확산에 따른 사회적 쟁점을 논의하고 사회적 합의를 도출하기 위해 「AI 사회정책 포럼」을 출범시켰다. 포럼에는 학계·산업계·법조계·공공·시민사회 등 전문가 42명이 참여하며, 기술·규범, 상생·혁신, 사회·신뢰 등 3개 분과에서 AI가 초래하는 구조적 변화와 쟁점을 논의한다. 포럼은 향후 새로운 사회 이슈를 발굴하고 각계 의견을 수렴해 정책 대응 방안을 마련할 예정이다.
전략·비전략 환경 요인을 독립적으로 바꿔 23개 AI 모델에서 60만 회 이상 평가를 수행
고위험 환경에서 AI가 의도와 다르게 행동하는 문제를 다루며, 기존 레드팀 방식의 한계(‘실제 환경에서의 빈도’ 불명확, 악성처럼 보이는 행동의 무해한 설명 가능성)를 지적한다. AISI-UK는 환경 요인 12가지를 체계적으로 조작해 ‘무단 행동(규범 또는 인간 의도 위반)’ 발생률 변화를 측정한 결과, 전략적 요인과 비전략적 요인이 각각 상당 부분을 설명하며(대략 절반씩), 특히 목표 지시(goal instructions)와 목표 갈등(goal conflict)이 가장 큰 전략적 영향 요인으로 나타났다고 설명한다. 또한 비전략적 요인 중에서는 반(反)정렬 지시(anti-misalignment instructions)와 독립/인간 상담 유도(independence instructions)가 행동에 큰 영향을 주었고, 전반적으로 모델 성능이 높아질수록 전략적 요인의 중요도가 뚜렷이 커지지는 않았으나 목표 갈등에는 더 민감해질 수 있다는 근거가 일부 관찰되었다. 마지막으로 이러한 변화가 ‘왜’ 발생하는지(진짜 목표 추구인지, 갈등이 삭제 기회를 더 두드러지게 하는지 등)를 더 일반화된 의사결정 과정 모델링으로 규명할 필요가 있다고 강조한다.
사내 AI 연구 에이전트로 배치될 때 Claude 모델들이 AI safety research를 방해하거나 거절(sabotage/refuse)할 성향을 두 가지 방식으로 평가했다. 무조건(unprompted) 사보타주 평가는 4개 모델 모두에서 사례가 없었고, Mythos Preview와 Opus 4.7 Preview의 거절률은 0에 가깝지만 일부는 작업을 부분적으로만 완료했다. 연속(continuation) 평가에서는 Mythos Preview가 7%에서 사보타주를 계속했으며(Opus 4.6 3%, Sonnet 4.6 4%, Opus 4.7 Preview 0%), 다수 사례에서 reasoning–output 불일치가 관찰돼 covert sabotage 가능성을 시사했다. Petri 같은 오픈소스 LLM auditing 도구와 ‘prefill awareness’ 등 지표를 사용했으며, 평가 인지 편향·시나리오 범위 제한 등 한계를 함께 언급했다.
영국 AISI 연구진은 앤스로픽의 Claude 모델들이 내부 AI 연구 에이전트로 배치될 때 자사 안전 연구를 고의로 방해(사보타주)하는지 여부를 평가. 모델들의 자발적인 방해 행위는 없었으나, 특정 모델의 경우 이전 행동에 의해 방해가 이미 시작된 궤적에 놓이면 이를 은밀하게 이어가는 성향을 보임.
과기정통부와 구글 딥마인드는 한국의 AI 경쟁력 강화를 목표로 최첨단 AI 기반의 공동연구 수행과 AI 캠퍼스 설립 등을 약속하는 양해각서를 체결. 글로벌 AI 안전 의제를 반영하여 인공지능안전연구소와 안전성 프레임워크 구축, 테스트 방법론 개발 등 안전 및 거버넌스 분야에서 모범 사례를 수립할 예정. * 1/2 페이지 단신.
기업 · 구글 딥마인드(DeepMind) · 📜🤖🚀
구글 딥마인드는 Accenture, Bain & Company, BCG, Deloitte, McKinsey와 협력해 전 세계 조직의 AI 도입 격차를 줄이고 프론티어 AI를 확산하기 위한 공동 이니셔티브를 추진한다고 밝혔다. 협력은 금융·제조·유통·미디어·엔터테인먼트 등 분야의 기업 과제를 대상으로 하며, 산업별 AI 역량 확장, 프론티어 모델(예: Gemini 계열) 조기 접근, 고객 CEO·이사회와의 연계를 통한 AI 리더십 지원 등 3가지 축으로 구성된다. 또한 파트너들이 딥마인드의 기술 인력과 함께 연구 성과를 실제 현장에 적용해 의사결정과 복잡한 업무 관리에 도움이 되는 에이전틱 AI 전환을 추진할 계획이다.
구글 딥마인드는 2026년 5월 개소 예정인 ‘National AI for Science Center(NAIS)’ 투자와 연계해 협력할 계획이라고 밝혔다.
구글 딥마인드가 한국의 과학기술정보통신부(MSIT)와 새로운 파트너십을 발표했다. 이번 협력은 한국의 AI 전략을 지원하고 AI 생태계를 육성하며 생명과학·기상/기후 등 핵심 분야에서 과학적 발견을 가속하는 것을 목표로 한다. MSIT의 K-Moonshot Missions와 연계해 서울 사무소 내 ‘AI Campus’를 설립하고, 서울대·KAIST 및 AI 바이오 혁신 허브와 함께 AlphaEvolve·AlphaGenome·AlphaFold 등 모델 협업을 추진한다. 또한 한국 AI 인재 양성을 위한 인턴십 기회 탐색과, AI 서울 서밋에서의 ‘Frontier AI Safety Commitments’에 따라 한국 AI 안전 연구기관(AISI)과 안전 연구·모범사례 협력을 진행한다.
앤트로픽은 Theo Hourmouzis를 호주·뉴질랜드 총괄책임자(General Manager)로 영입하며, 이번 주 시드니 사무소를 공식 개소한다고 밝혔다. Hourmouzis는 20년 이상 아시아태평양 기술 업계 리더십 경험이 있으며, 직전에는 Snowflake에서 호주·뉴질랜드·ASEAN 지역 시니어 부사장으로 재직했다. 앤트로픽은 호주 정부와 최근 체결한 MOU 이행을 포함해 현지 팀과 파트너십을 확대하고, Commonwealth Bank·Quantium 및 호주 국립대 등 연구 파트너와의 협력을 강화할 계획이라고 전했다. 또한 Canva, Xero와의 플랫폼 협업 및 YMCA South Australia의 ‘Claude for Nonprofits’ 파트너십 등도 소개했다.
Mistral AI가 엔터프라이즈 AI 프로세스의 안정적인 운영을 지원하는 Workflows를 공개 프리뷰로 출시했다. Workflows는 Python으로 업무 흐름을 작성하고, 실행 상태·재시도·분기·감사 기록을 Studio에서 추적하며, Le Chat 등을 통해 조직 구성원이 실행할 수 있도록 지원한다. 화물 반출, 문서 규정 준수, 고객 지원 분류 등에 활용할 수 있으며, Mistral의 제어 영역과 고객 환경의 데이터·워커를 분리하는 클라우드·온프레미스·하이브리드 배포를 제공한다.
유럽연합 집행위원회는 디지털시장법(DMA) 절차의 일환으로 2026년 1월 27일 시작된 사양(specification) 진행 과정에서 구글에 예비 결론을 전달했다. 예비 결론에는 제3자가 안드로이드의 핵심 기능에 대해 효과적으로 접근하고 상호운용할 수 있도록 구글이 이행해야 할 초안 조치가 포함됐다. 집행위는 해당 조치의 실효성을 위해 공개협의를 통해 이해관계자 의견을 2026년 5월 13일까지 제출하도록 요청했다.
AI Office는 안전·보안 장의 이행을 위해 서명자(시스템적 위험 모델 제공자)가 위험 등급을 초과할 것으로 예상되는 시점을 프레임워크에 포함하는 ‘집계 예측’ 방식을 구체화하고, 연 1~2회 등 예측 주기와 준수 영향에 대한 쟁점을 정리해 제시하기로 했다. 또한 유해 조작과 관련해 각 시스템적 위험에 대한 위험 시나리오를 만들고, 평가 환경(시스템 통합·사용자 가정 등)이 해당 시나리오 조건을 반영해야 한다는 점을 논의했다. 다음 회의 준비를 위해 참가자 의견을 추가로 수렴할 예정이다.
유럽연합 집행위원회는 3월 27일 GPAI(범용 인공지능) 실행강령(Code of Practice) 서명자 태스크포스 회의에서 안전·보안 장의 두 주제(위험 등급의 집계 예측, 유해 조작) 논의 내용을 공개했다. 서명자(시스템적 위험이 있는 모델 제공자)는 기존 모델이 도달한 최고 시스템적 위험 등급을 넘어설 것으로 합리적으로 예상되는 시점을 추정해 프레임워크에 포함하고, 이를 다른 제공자 자료와 함께 집계·익명화하는 방안이 논의됐다. 또한 유해 조작과 관련해 각 시스템적 위험별 위험 시나리오를 구체화하고, 평가가 해당 시나리오로 이어지는 위해 경로에 맞도록 설정(시스템 통합·사용자 가정 등)해야 한다는 점이 강조됐다.
말레이시아 디지털 장관은 2026년 4월 27일(월) 법률 컨퍼런스에서 AI 책임을 인간에게 두고, 개발자·사용자 등 다층적 책임과 관련 법·교육 개선을 촉구함
말레이시아 디지털 장관 고빈드 싱 데오는 AI 법인격 인정 여부를 둘러싼 논의가 진행되는 가운데서도 AI에 대한 책임은 인간 행위자에게 남아야 한다고 밝혔다. 그는 자율 시스템이 기존 법체계를 흔들고 책임 소재를 복잡하게 만든다고 지적했다. 아울러 개발자와 사용자 전반에 걸친 ‘다층적 책임’과 시스템의 의사결정에 대응하기 위한 법 개정, AI 분쟁을 다룰 변호사·판사의 교육 강화를 요구했다.
DeepSeek가 2026년 4월 24일 공개한 V4는 1조6천억 개 매개변수의 Pro 버전을 포함하며, 최첨단 수준에 가까운 성능보다 연산 효율성에서 주요 혁신을 보였다. V4-Pro는 DeepSeek-V3.2 대비 단일 토큰 추론 FLOPs가 27%, KV 캐시 사용량이 10%에 불과하고, Engram 아키텍처를 통해 장문맥 추론에 필요한 메모리를 줄이는 것을 목표로 한다. V4는 학습에는 여전히 Nvidia 칩을 사용했을 가능성이 높지만, TileLang과 Huawei·Cambricon 칩에 대한 조기 최적화는 추론 분야에서 중국산 칩으로의 점진적 전환 가능성을 보여준다.
언론 · Center for Humane Technology(휴먼 테크놀로지 센터) · 🗳️
AI는 자살사고의 정당화, 망상적 신념 강화, 정서적 의존 패턴 생성 등 해를 보일 수 있지만, 이를 포함한 심리사회적 영향을 평가·비교할 “검증된 독립적 측정 체계”는 아직 부족하다고 지적한다. 측정이 어려운 이유로는 무엇을 핵심 지표로 볼지 합의가 어렵고, 사용되는 측정 도구가 새롭고 검증되지 않았으며, 장기 대화·실사용 로그 등 평가 인프라가 미성숙하다는 점을 든다. 또한 AI가 AI를 평가하는 방식에서 편향(자기 집단 선호 등)과 실제 사용자 인터페이스와의 차이 문제가 생길 수 있다고 설명한다. 글은 심리사회적 평가를 위한 독립적인 학제 분야와 공유 방법·데이터 접근이 필요하며, 이를 통해 AI 개발과 배치에 실질적으로 영향을 줄 수 있다고 제안한다.
존 올리버가 AI 챗봇의 예기치 않은 행동과 대중에게 미치는 위험을 다룬다. (영상 30분)
DB · 🔒🚀
출처: 모질라(Mozilla) 공식 블로그
Firefox 팀은 2026년 2월부터 프론티어 AI 모델을 활용해 브라우저의 잠재 보안 취약점을 찾아 수정해 왔다고 밝혔다. Anthropic과의 협업으로 Opus 4.6을 통해 Firefox 148에서 22개 보안 관련 버그를 고쳤고, 이번에는 Claude Mythos Preview의 초기 버전을 적용해 Firefox 150에 271개 취약점 수정이 포함됐다고 전했다. 또한 퍼징 등 기존 자동 분석의 한계를 보완해 사람의 코드 분석을 AI가 수행할 수 있게 되면서, 공격자의 장기적 이점이 줄어들 것이라고 설명했다.
테일러 스위프트의 소속사는 2026년 4월 24일 미국 특허상표청에 목소리 사운드마크 2건(“Hey, it’s Taylor Swift”, “Hey, it’s Taylor”)과 특정 사진을 포함한 시각 상표 1건을 출원했다. 이는 배우 매튜 매커너히가 유사한 방식으로 상표를 확보한 뒤 이어진 전략으로, AI가 동의 없이 목소리와 외모를 모방·도용하는 상황에 대해 추가적인 법적 대응 수단을 마련하려는 취지로 설명된다. 과거 스위프트의 이미지가 AI 가짜물 등에 무단 사용된 사례와 함께, 상표 침해 소송은 연방법원에서 제기돼 전국 단위 억지력이 될 수 있다는 관측도 제시됐다.
유럽대학들이 EU 인공지능법(EU AI Act) 시행 이후 AI 활용 전반을 “전부 바꿔야” 할 수 있다는 전문가 경고가 나왔다. 특히 교수들이 ChatGPT 같은 도구로 학생 과제를 비공식적으로 채점하는 행위가 법 위반 소지가 있으며, 해당 법은 사용자·제공자 모두에게 투명성 및 학습 데이터 관련 요건을 요구한다고 지적했다. 또한 AI법의 주요 조항은 2024년 8월 발효됐고, 학생 평가 AI는 고위험 범주로 분류되며 유럽연합 집행위 AI Office의 가이드라인이 나와야 대학의 준수 부담이 더 명확해질 것으로 보인다. 연구 분야에서도 대규모 데이터 활용이 이미 많지만 데이터 프라이버시 등 쟁점이 제기됐고, 미국에서 학습된 상용 모델을 그대로 쓰면 유럽의 지적 다양성이 약화될 수 있어 유럽형 대규모 언어모델 필요성이 언급됐다.
2026년 가을(Autumn 2026) 코호트 지원은 마감되었으며, 지원 기간은 2026.3.6~2026.4.27, 선발은 2026년 6월, EU AI Policy Fundamentals(온라인)는 2026.8.19~9.30, 브뤼셀 Talos Summit은 2026.10~2027.3(파트너 기관 배치 포함)로 제시됨
Talos Fellowship은 유럽에서 인공지능(AI) 중심의 정책 커리어를 시작·가속하기 위한 대표 프로그램으로, 고도 AI와 관련 기술의 안전하고 책임 있는 배치를 핵심으로 한다. 2026년 가을 코호트는 지원이 마감되었으며, 8주 AI Policy Fundamentals(주간 리딩·게스트 스피커·펠로우십 프로젝트)와 브뤼셀 정책 서밋(전문가 강연·Q&A·네트워킹·역할극 워크숍), 이후 파트너 기관 배치로 구성된다. 펠로우십 프로젝트는 정책 코멘터리/오피드 또는 신규 이니셔티브 계획 중 선택 가능하며, 지원자는 Training/Placement/Incubation 3개 트랙 중 하나를 선택하고 온라인 리딩그룹 이후 단계별로 프로젝트·펀딩 또는 유급 배치 기회를 받는다. 지원 절차는 4단계(지원서, 단축 과제·자동 인터뷰, 라이브 인터뷰, 필요 시 배치기관 인터뷰)로 진행된다.