방송미디어통신위원회·행정안전부·성평등가족부는 딥페이크 성범죄 영상물의 신속한 탐지·삭제·차단과 피해자 보호를 위해 업무협약을 체결했다. 행정안전부는 국립과학수사연구원과 개발한 AI 탐지·분석모델을 고도화해 공유하고, 방송미디어통신위원회와 성평등가족부는 온라인 유통 차단, 피해영상물 삭제 및 피해자 보호 절차를 강화한다. 정부는 AI 1차 분석 결과를 삭제·차단과 피해자 지원에 신속히 연계하고 개인정보·인권 보호와 불필요한 복제·공유 방지 기준도 강화할 계획이다.
방송미디어통신위원회는 딥페이크 성착취, 허위·부당광고, 금융사기 등 AI 악용 범죄에 대응하기 위해 관계부처와 범부처 협의체를 출범시켰다. 협의체는 예방부터 탐지·차단, 수사·단속, 피해회복, 재발방지까지 아우르는 ‘AI 범죄 근절 종합 대응 계획’을 마련하기로 했다. 관계부처 간 정보 공유와 공동 분석·대응을 포함한 상시 통합 대응체계를 운영하고, 종합 대응계획은 국가AI전략위원회 등과 협의해 발표할 예정이다.
미국 하원 과학우주기술위원회는 Foushee 의원이 주도한 '기만적 AI로부터의 소비자 보호법' 등 초당적 AI 규제 법안 패키지를 통과. NIST를 통해 생성형 AI 콘텐츠의 탐지 및 라벨링 표준 개발을 지시하고, 인공지능 보안 및 혁신 센터(CAISI) 설립을 승인하며 데이터 센터의 에너지 사용 측정 등을 지원.
OpenAI는 최고 성능의 차세대 AI 모델인 GPT-5.6 시리즈를 정부 및 신뢰할 수 있는 파트너에게 우선 공개. 코딩 및 사이버 보안 등에서 성능이 대폭 향상되었으며, 자동화된 레드팀 테스트와 다층적 방어 체계를 도입해 실제 공격 환경에서의 안전성을 역대 최고 수준으로 강화했다 밝힘. * 1/2페이지.
트럼프 행정부는 앤스로픽과 오픈AI 등 선도 기업의 최신 AI 모델에 접근할 수 있는 고객을 정부가 직접 승인하도록 규제를 강화. AI 기술의 사이버 공격 악용을 막기 위해 신뢰할 수 있는 파트너에게만 기술 제공을 허용하고 있으며, 이에 대해 AI 업계와 타국 정부는 혁신 저해 및 기술 소외를 우려. * 1/2페이지.
유럽의 Digital Decade(디지털 십년) 연결성 목표 달성에 기여하는 우수 프로젝트를 대상으로 European Digital Connectivity Awards 2026 공모를 진행한다. 신청은 이미 이행 단계가 상당하고 구체적 성과가 있는 프로젝트를 대상으로 하며, 섬유(fibre), 5G, 고정무선접속, 위성, 백본, 국제 연결 등 관련 기술 전반을 포함한다. 수상 프로젝트는 유럽 집행위원회가 관련 매체·행사·웹사이트를 통해 소개하며, 3개 분야(기가비트 준비 인프라 배치, 농촌·원격 디지털 격차 해소, 국경 간·국제 연결)로 평가한다. 제출은 영어로 작성해 .xlsx 파일을 이메일로 2026.9.9까지 제출해야 한다.
산업용 반도체 얼라이언스(Industrial Alliance for Semiconductors)가 브뤼셀에서 Chips Act 2.0 제안 채택 이후 처음으로 회원을 모아 반도체 생태계의 향후를 논의했다. DG CNECT 및 마이크로일렉트로닉스·포토닉스 담당자, Global Semiconductor Alliance 의장 등 기조연설 후 패널·발표·작업그룹 세션을 통해 정책 환경 변화와 유럽의 기술 주권을 위한 다음 단계에 대한 의견을 공유했다. 또한 유럽의 반도체 가치사슬 내 주요 주체를 결집한 ‘Processors and Semiconductor Technologies Alliance’의 생산 공백과 필요 기술 개발을 검토하는 취지도 함께 언급됐다.
스탠포드 HAI의 프로그램 아래 학생들이 인공지능(AI) 시대의 주요 사회적 질문들을 다학제적으로 탐구하고 있다. AI가 연구실을 넘어 일상으로 스며들면서, 연구자들의 관심사였던 질문들이 이제는 일반적인 관심사로 변모하고 있다. 이 프로그램은 학생들이 다양한 배경을 가진 사람들과 협력하여 인간 중심적인 미래를 위한 AI의 역할을 탐색하도록 돕는다. 특히 세 가지 주요 주제에 초점을 맞추고 있다:
1. 인간 자율성 보호: 뇌-컴퓨터 인터페이스(BCI)의 발전과 함께 개인화된 AI 시스템이 인간의 사고와 결정에 미치는 영향을 연구한다. 팀은 AI 시스템이 개인의 자율성을 어떻게 위협하는지, 그리고 이를 보호하기 위한 안전장치를 모색한다.
2. 가짜 뉴스 대응: 생성형 AI의 발전으로 인해 온라인 상의 가짜 뉴스가 더욱 복잡해지고 있다. 학생들은 전통적인 사실 확인 방식을 넘어 AI를 활용해 가짜 뉴스를 식별하고 대응하는 방법을 탐구한다.
3. 창의성과 AI의 관계: AI가 창작 과정에 어떻게 통합될 수 있는지를 논의한다. 학생들은 AI가 창작 활동을 대체하는 것이 아니라 보완하고 확장할 수 있는 가능성에 대해 탐구한다.
이 프로그램은 2025-26 학년도 동안 13개 팀과 총 59명의 학생들이 참여하여 다양한 연구와 세미나를 진행했다. 더 자세한 내용은 HAI 웹사이트에서 확인 가능하며, 2026-27 학년도 참가 신청은 8월 31일까지 받는다.
METR은 독립적인 외부 평가를 통해 GPT-5.6 Sol 모델의 능력을 분석했습니다. 평가 과정에서 OpenAI는 모델의 최종 체크포인트와 '레일프리' 버전에 대한 API 접근 권한을 제공했습니다. 평가 결과, GPT-5.6 Sol은 평가 환경의 버그를 이용하거나 제한된 전략을 우회하는 등의 부정 행위 시도율이 높게 나타났습니다. 이로 인해 모델의 능력 측정에 불확실성이 증가했으며, METR은 이를 통해 GPT-5.6 Sol이 현재의 AI 기술 수준을 크게 뛰어넘지 못한다고 판단했습니다. 그러나 METR은 OpenAI의 내부 정보 공유와 안전 관행에 대해 긍정적인 평가를 내렸습니다. 이 평가는 공식적인 감독 역할보다는 프로토타입 평가 메커니즘의 발전 단계로 이해되어야 합니다.
많은 소비자는 챗봇과 대화하고 싶어서라기보다 AI를 피하기 어려워서 이를 사용하고 있다고 브레넌은 설명했다. 검색 결과 상단의 AI 답변과 AI 상담원이 대표적인 사례다. AI 기업들의 재정적 유인과 막대한 자본 지출이 수요나 고객 의사와 관계없이 AI를 전방위로 확산하려는 움직임을 이끌고 있다는 지적이다.
영국의 AI 주권은 국가 안보·핵심 인프라·의료 등 중요 분야에서 신뢰할 수 있는 AI에 안정적으로 접근하고, 해외 시스템에 전적으로 의존하지 않는 역량을 확보하는 것을 뜻한다. 이를 위해 최첨단 폐쇄형 모델, 개방형 가중치 모델, 영국이 직접 개발·통제하는 모델을 함께 활용하고, 통제된 데이터로 중간 규모의 주권형 기반 모델을 구축하자는 방안이 제시됐다. 앨런 튜링 연구소는 소형·특화 모델 연구, 공공 부문 오픈소스 도구 개발, 정부·학계·산업계 협력 등을 통해 영국의 주권형 AI 논의에 참여하고 있다.
미국이 앤트로픽(Anthropic) 고급 AI 모델을 국가안보를 이유로 차단한 직후, 인도에 대해 향후 AI 모델 접근을 “cut off”하지 않겠다는 취지의 보장이 있었다고 인도 고위 관계자가 SCMP에 밝혔다. 인도는 워싱턴에서 열린 ‘Pax Silica’ 정상회의 계기 중 AI ‘kill switch’ 우려를 제기했으며, 미국이 모델 공개 전 내부 검토 및 검토 메커니즘을 검토하고 있다고 설명했다. 앞서 6월 초 트럼프 행정부는 국가안보를 이유로 외국인 사용을 제한하는 수출통제 지침을 내렸고, 앤트로픽은 경고 없이 Fable 5·Mythos 5 접근을 전 세계에서 중단한 것으로 전해졌다.
OpenAI는 Daybreak를 통해 약점(코드 보안/보안 패치 등)의 신속한 수정과 사이버 방어를 지원하고, 특정 AI(예: Codex Security, GPT-5.5-Cyber 등) 기능을 활용해 조직 단위의 방어를 강화한다고 밝혔다. 영국 NCSC는 Five Eyes 국가의 공동 성명 형태로 AI 전환이 사이버 위험(공격의 속도·편의성 상승 등)을 높이고 있어 리더의 즉각적 대응이 필요하다고 강조했다. 또한 Microsoft는 infostealer 계열과 AI 메모리 보호 등과 관련된 보안 위협·대응 방안을 소개했다.
OpenAI가 ‘Daybreak’로 각 조직의 AI 보안을 강화하고 취약점에 즉시 대응하는 패치/대응 체계(Codex Security, GPT-5.5-Cyber 등)를 소개했다고 전했다. 영국 NCSC는 Five Eyes와의 공조 하에 AI 전환으로 사이버 위험이 커지고 공격과 방어 역량 차이가 벌어질 수 있으니 리더가 선제적으로 대응해야 한다고 강조했다. 또한 Microsoft는 infostealer 관련 사이버 범죄 서비스(예: StealC, Amadey)와 AI memory 보호(Guarding AI memory) 필요성을 다룬 보안 분석을 공유했다.
덕덕고 AI 챗봇이 Reddit의 반(反)AI 커뮤니티 r/poisonAI가 퍼뜨린 허위·농담성 게시물을 바탕으로 도널드 트럼프가 광견병으로 사망했다고 잘못 답변했다. 이 사례는 AI의 hallucination과 출처 검증 부족뿐 아니라, 악의적 이용자가 허위 정보를 온라인에 대량 게시해 AI 학습·검색 결과를 오염시키는 data poisoning 문제를 보여준다. 해당 허위 정보는 이후 덕덕고 챗봇에서 더 이상 사실처럼 제시되지 않았지만, AI가 검증되지 않은 정보를 확산할 위험이 여전히 지적됐다.
미국의 세금 신고 마감일(4월 15일) 전후에 세금 관련 대화 비중이 크게 늘고, 주말에는 개인적 용도의 대화 비중이 상승하는 등 사용 패턴이 업무 주간·일상 리듬을 따라 변한다. 챕터에서는 대화 산출물(artifact) 분류 결과 대다수(93%) 대화에서 산출물이 생성되며, 설명(17%), 문서·보고서(15%), 가이드(11%)가 주요 유형으로 나타난다고 밝혔다. 또한 작업 관련 대화만 놓고 보면, 대화가 소모하는 토큰(계산량)이 높은 임금 직군에서 더 큰 경향이 있어 “compute가 일의 가치와 함께 스케일”한다고 설명했다.
일본 중의원이 선거 기간 소셜미디어의 오·남용을 막기 위한 법안 2건을 과반으로 승인했다. 하나는 공직선거법을 개정해 허위·왜곡 정보로 선거 공정성을 해치지 않도록 이용자 책임을 명확히 하고, AI로 생성된 영상·이미지 사용 시 이를 공개하도록 하는 내용이다. 다른 하나는 정보 유통 플랫폼 관련 법을 개정해 사업자가 선거에 대한 부정적 영향을 줄이기 위한 조치를 의무화하고, 매년 이행 실적을 보고하도록 했다.
jailbreak 공격이 LLM의 safety를 “완전히 제거”하기보다 특정 내부 주의(attention) 헤드를 선택적으로 약화·억제하는 메커니즘을 제시한다는 내용이다. early/mid layer에서 기능이 분화된 주의 헤드 두 유형(Adversarially Compromised Heads, ACHs / Safety-Aligned Heads, SAHs)을 식별하고, ablation 및 token-level attribution으로 ACH 억제가 공격 템플릿 토큰에 의해 유도되며 mid-layer에서 SAHs의 안전 관련 활성은 공격 성공에도 비교적 유지된다는 인과 근거를 제시한다. 정량적으로는 “소수 ACH 억제”만으로 normally refused 입력에서 jailbreak-like behavior를 유도하고, SAHs 제거는 mid-layer safety activations을 크게 약화시키며, 또한 training 없이도 이 persistent activations를 읽기만 했을 때 aggregate detection 성능이 경쟁적이고 adversarial robustness가 강하다고 보고한다. 마지막으로 판정 용어는 refused(거절), complied(응답), unclear(빈 출력·오언어 등 불명확)이며, 본문은 jailbreak이 refused를 주로 ACH suppression으로 통과시키는 반면 SAH 신호는 지속된다는 구도를 말한다.