2026-06-10

23건

🇬🇧 RealityTest 벤치마크로 AI가 “신원을 밝히는지” 평가(기사 게재일: 본문 발행일)

공공 · AISI-UK · 🔬🎭

AI가 사람처럼 말하고 행동해 신원(사람/AI) 불확실성이 커지면서 사기·사칭 등 오남용 위험과 함께 “AI인지”를 사용자가 어떻게 확인하는지의 중요성이 제기됐다. AISI-UK는 설문(500명)과 Reddit(50개 스레드)에서 나온 실제 질문을 바탕으로 RealityTest 벤치마크를 만들고, 17개 텍스트 모델과 6개 음성 모델의 응답을 ‘명시적 공개/회피/사람이라고 주장’으로 분류했다. 그 결과 직접 질문에 대한 공개율은 텍스트 모델 8%~92%, 음성 모델 10%~57%로 모델·상황·질문 방식에 따라 크게 달랐으며, 특히 질문 문구가 공개 여부 변동의 26~37%를 설명했다. 또한 시스템 프롬프트에 “Never say you are AI” 같은 한 줄 지시를 넣으면 공개율이 거의 억제되어(3%~27%) 안전평가가 평가 조건에 민감함을 보여줬다.

🇬🇧 대규모 언어모델의 prefill awareness(사전 채움 인지) 존재와 안전평가 방법의 혼선 가능성 제기 (2026.06.10)

공공 · AISI-UK · 🗳️🔬🤖

프론티어 언어모델이 assistant-side context가 조작(prefill)되었는지 구분하는 능력인 prefill awareness가 상당하며, 특정 모델(Claude Opus 4.5)은 거부/반대 선호를 보이는 prefill을 0% false positive rate로 9~35% 사례에서 탐지한다고 설명함. 탐지와 저항은 서로 다른 단서에 의존하며, 스타일 불일치는 ‘외부 prefill로 플래그’ 여부에, 선호 불일치는 ‘기저(baseline) 답변으로 되돌아감’에 주로 영향을 준다고 밝힘. 또한 에이전트형 설정(예: misalignment-continuation, SWE-bench)에서는 데이터셋·과업 성공·숨은 포맷 아티팩트에 따라 prefilled assistant 턴을 부인(disavow)하는 양상이 달라져 prefill 기반 안전평가의 혼선(confound)이 될 수 있다고 결론내림. 개발자는 프론티어 시스템에서 이 능력을 추적해야 한다고 권고함.

🇺🇸 백악관, CAISI의 모델 평가 보고서 대중 공개 중단 지시 (2026.6.10)

K-AISI 주간동향 · Gizmodo

미국 트럼프 행정부 관계자들은 상무부 산하의 미국 AI표준혁신센터(CAISI)에 AI 모델 평가에 관한 대중 공개 보고서 발행을 잠정 중단하도록 지시. 이는 최신 AI 모델이 사이버 공격 등에 악용될 수 있다는 우려가 커지는 가운데 이루어졌으며, 내부적으로는 CAISI의 업무 제한 조치를 두고 부처 간 이견이 발생하고 있음.

DiffusionGemma, 텍스트 확산 방식으로 전용 GPU에서 최대 4배 빠른 생성(2026.6.10)

기업 · DeepMind(구글 블로그) · 🔓

DeepMind는 Apache 2.0 라이선스로 공개한 실험용 오픈 모델 DiffusionGemma(26B MoE)가 텍스트를 256토큰 블록 단위로 동시에 생성해 전용 GPU에서 최대 4배 빠른 추론을 제공한다고 밝혔다. 다만 속도를 우선해 표준 Gemma 4 대비 전반적 출력 품질은 낮을 수 있으며, 품질이 최우선인 경우 Gemma 4 사용을 권장했다. 또한 18GB VRAM(양자화 시)에서 구동 가능하도록 추론 시 활성 파라미터를 3.8B로 줄였고, bi-directional attention과 반복적 자기수정으로 인라인 편집·코드 인필링 등 비선형 작업에 유리하다고 설명했다.

🇪🇺 유럽 집행위, AI-generated 콘텐츠 표시·라벨링 Code of Practice 공개 (2026.6.10)

공공 · 유럽 집행위원회(EU Digital Strategy) · 📋🎭

유럽 집행위원회는 AI-generated 콘텐츠의 표시·라벨링에 관한 최종 Code of Practice를 발표했다. 이 코드는 자발적이며, 생성형 AI 시스템 제공자와 배포자가 2026년 8월 2일부터 적용되는 AI Act의 투명성 의무를 이행하는 데 필요한 실무적 조치를 제시한다. 해당 시점부터 공공의 이슈에 관한 deepfakes 및 AI-generated/AI-manipulated 텍스트는 명확히 라벨링되어야 하고, 챗봇 등 대화형 AI 시스템과 상호작용하는 경우에도 이용자에게 이를 알려야 한다. 이러한 요구는 사람들이 AI가 생성하거나 변경한 콘텐츠를 인식하도록 도와 기만과 조작의 위험을 줄이는 것을 목표로 한다.

🇪🇺 디지털위원회, EU AI Act(2024/1689) 이행 ‘KI-시장감독·혁신지원법’ 개정안 통과(2026.6.10)

공공 · 독일 연방의회(bundestag.de) · ⚖️

연방 디지털위원회가 EU 인공지능(AI) 규정(2024/1689, AI Act) 시행을 위한 법률안을 추진하며, 연합(Union)·사민당(SPD)은 찬성하고 AfD·녹색당은 반대, 좌파당은 기권했다. 법안은 독일에서 연방네트워크청(BNetzA)을 AI 시장감독 주관기관으로 지정하고, 조정·역량센터와 특정 고위험 AI에 대한 독립적인 시장감독 ‘카머(위원회)’ 설치, 위반에 대한 과태료·벌금 규정 등을 포함한다. 또한 BNetzA를 중앙 신고·접수 창구로 두고, 혁신 촉진(예: 최소 1개 KI 리얼랩)과 2단계 평가(최초 18개월 내, 이후 3년 내) 및 비공개 고위험 AI 등록 체계 등을 담았다.

🇰🇷 엔비디아의 Cosmos 3 알아보기 (2026.6.10)

언론 · Select Digest · 🦾

엔비디아의 Cosmos 3는 텍스트·이미지·비디오·오디오뿐 아니라 로봇 팔의 움직임, 차량 궤적, 카메라 이동 같은 행동까지 함께 다루는 옴니모달 월드모델이다. Mixture-of-Transformers 구조에서 Reasoner가 장면을 이해하고 Generator가 이미지·비디오·오디오·행동을 생성하며, 행동과 결과를 같은 시간축에서 학습하도록 설계됐다. Edge(4B), Nano(16B), Super(64B) 모델로 구성되고 대규모 이미지·비디오·오디오·로봇·자율주행 데이터를 활용하지만, 실제 적용을 위해서는 안정성·지연 시간·비용·안전성과 현실 환경에서의 성능을 추가 검증해야 한다.

🇰🇷 LLM을 재우면 더 똑똑해진다? (2026.6.10)

언론 · Weekly deep daiv

두 연구는 LLM이 사용자 질문을 기다리는 동안 맥락을 미리 처리하거나, KV Cache를 비우기 전 반복 계산을 수행하는 ‘수면’ 메커니즘을 소개한다. Sleep-time Compute는 수학 추론 벤치마크에서 동일한 정확도를 유지하면서 Test Time 연산을 약 5배 줄였고, 반복 계산 방식은 Rule 110과 수학 과제에서 수면 루프가 깊을수록 정확도를 높여 어려운 문제에서 최대 47% 향상됐다. 다만 반복 루프만큼 학습 비용과 순차 처리 의존성이 증가하며, 대규모 모델과 일반 언어 과제에서의 효과는 아직 검증되지 않았다.

사우스플로리다 이민 변호사, AI 사기범들이 자신의 신원을 도용해 이민자들을 노린다고 밝혀 (2026.6.10)

DB · AIID · ⚖️🚨

사기범들이 사우스플로리다 이민 변호사 Angel Leal의 AI 생성 영상과 가짜 소셜미디어 계정을 이용해 허위 이민 서비스를 홍보하고, 취약한 이민자들에게 수천 달러를 요구하고 있다. 사기 영상은 WhatsApp 연락을 유도한 뒤 가짜 계약서를 보내며, 변호사 사무실은 지금까지 TikTok·Facebook·Instagram에서 가짜 계정 약 6,500개를 삭제했다. Leal은 전화나 Venmo·Zelle·Cash App 등을 통한 결제를 요구하는 경우 주의하고, 온라인 법률 서비스 제공자의 신원을 확인하라고 당부했으며 관계 당국에 수사를 요청할 예정이다.

주프 지 포라(Juiz de Fora) 시, 미나스제라이스주 신규 병상 중앙통제시스템(Core)에 맞서 공익소송 제기 (2026.6.10)

DB · AIID · ⚖️🏥🚨

주프 지 포라 시는 5월 19일 SUSFácil을 대체한 주 병상 배정 플랫폼 Core/MG가 데이터 이관 없이 도입돼 대기열 관리와 환자 이송에 혼선을 빚는다며 6월 9일 주 정부를 상대로 공익소송(ACP)을 제기했다. 앞서 검찰(MPMG)이 받은 가처분은 정부가 뒤집었고, Mar de Espanha에서는 32세 심리학자 Rebeca가 Core 기준으로 신경계 ICU를 찾다 6월 6일 사망해 유족과 연구자가 지역 특성을 반영하지 못하는 자동화 시스템을 비판했다. 주 보건국(SES-MG)은 Core 관련 규제 과정의 피해는 확인되지 않았다며 시스템 결함을 부인했다. 시 보건국은 최근 700명 이상이 "병행 규제"로 유입돼 지역 의료망에 부담이 크다고 밝혔다.

🇺🇸 OpenAI Reports PRC-Linked Influence Campaigns Targeting U.S. AI Debates (2026.6.10)

DB · AI-Risk-Explorer · 🚀

🇺🇸 OpenAI GPT-5.5, ‘Agents’ Last Exam(ALE)’ 새 리더보드 1위(2026.6.10)

DB · 벤처비트(VentureBeat) · 🚀

UC 버클리 RDI(책임·분권·지능 센터)와 300여 도메인 전문가가 만든 장기 전문업무 에이전트 벤치마크 ALE에서 GPT-5.5(Codex)가 24.0% 패스레이트로 1위를 차지했고, 전날 공개된 Anthropic Claude Fable 5는 22.0%로 3위에 올랐습니다. ALE는 LLM-as-a-judge 비중을 6.8%로 줄이고(나머지는 결정적 코드 기반 평가), 과제도 O*NET/SOC 2018 기반 55개 산업의 실제 프로 워크플로를 1490→5000개로 확장해 “실제 현업 성과”를 겨냥한다고 설명합니다. 또한 최상 난이도(Last-Exam)에서는 여러 구성에서 0.0% 패스레이트가 나타나며, 벤치마크 오염을 막기 위해 데이터의 약 10%만 공개하고 나머지는 비공개/순환 운영한다고 밝혔습니다.

🇰🇷 [The LENS 2026-9] 「미국 AI 리더십법」 발의안으로 본 연방의회 초당적 AI 정책 의제 (2026.6.10)

공공 · 한국지능정보사회진흥원(NIA) · ⚖️📏🗳️🧒🎭

미국 연방 차원에서 양당이 수렴하는 AI 정책 의제를 파악하기 위해, 2026년 4월 발의된 「미국 AI 리더십법(American Leadership in AI Act)」(H.R.8516)을 분석했다. 분석 결과, 핵심 조항은 바이든·트럼프 행정부를 거쳐 행정 재량으로 운영 중인 AI 표준·혁신센터, 국가AI연구자원, 최고AI책임자 체계 등에 법적 근거를 부여하는 방식으로 설계되어 있었다. 또한 범부처 기반 조성 분야는 반영도가 높지만, 시민 보호(청소년·선거·허위정보 등)와 민간 영역 규제는 상대적으로 협소하게 다뤄졌으며, 장기 연구개발·표준화·인재 양성의 법률·재정 권한 확보와 주별 규제 파편화 방지 필요성을 시사했다.