🇰🇷 인공지능안전연구소, 인공지능의 국가안보화 연구 발표 (2026.6.30)
한국 인공지능안전연구소 연구진은 AI가 군사 및 정보 등에서 핵심 국가안보 전략 자산으로 부상하는 동향을 분석한 논문을 발표. AI가 야기하는 복합적 안보 위협을 분석하며, 한국이 규범 수용자를 넘어 능동적 국제 규범 설계자로서 전략적 입지를 다져야 함을 제언.
한국 인공지능안전연구소 연구진은 AI가 군사 및 정보 등에서 핵심 국가안보 전략 자산으로 부상하는 동향을 분석한 논문을 발표. AI가 야기하는 복합적 안보 위협을 분석하며, 한국이 규범 수용자를 넘어 능동적 국제 규범 설계자로서 전략적 입지를 다져야 함을 제언.
MIT 연구진은 대형 언어 모델이 인간 전문가와 유사한 수준으로 AI 사고 보고서를 일관되게 분류할 수 있는지 검증하기 위한 벤치마크 평가 결과를 공개. Claude Opus 4.6 등 최신 모델이 프롬프트 개선 과정을 통해 위해성 심각도, EU AI 법 위험 등 5가지 기준에서 인간의 합의 수준에 도달함을 확인.
영국과 독일 정부는 첨단 AI 시스템의 안전한 개발과 배포를 보장하기 위해 두 국가 간의 협력을 강화하는 공동 성명을 발표. 양국의 AI 안전 연구소 및 관련 부처가 협력하여 AI 평가에 대한 모범 사례를 공유하고, 시스템의 사이버 보안 영향을 공동으로 연구하여 국제적인 안전 기준을 마련하기로 함,.
ByteDance 및 Melbourne 대학 연구진은 AI 모델이 컨텍스트 내 안전 정책을 기반으로 가드레일 성능을 발휘하는지 계층적으로 평가하기 위한 벤치마크를 발표. 10개의 최신 LLM을 평가한 결과, 최고 성능의 모델도 새로운 정책 프레임워크를 적용해 위반 사항을 정확히 식별하는 데 한계가 있음을 확인하며 성능 강화의 필요성을 강조.
UNESCO는 전 세계 AI 감독 기관 네트워크(GNAIS)의 경험을 바탕으로 국가별 AI 감독 준비도를 평가하기 위한 체크리스트를 제시. 효과적인 AI 감독을 위해서는 법적 규제뿐만 아니라 기술적 역량, 기관 간 조정 메커니즘, 국제 협력 등이 필수적임을 강조하며 실무적인 평가 지침을 제공.
기술 업계는 규제 완화를 기대하고 트럼프 대통령을 지지했으나, 최근 백악관이 보안 우려로 첨단 AI 모델 출시를 제한하자 혼란에 빠짐. OpenAI와 Anthropic의 최신 모델 배포가 제한되는 등 예측 불가능한 규제 조치가 이어지면서, 업계는 명확하고 일관된 AI 규제 프레임워크 마련을 촉구. * 1/2페이지.
미국 하원 과학우주기술위원회는 Foushee 의원이 주도한 '기만적 AI로부터의 소비자 보호법' 등 초당적 AI 규제 법안 패키지를 통과. NIST를 통해 생성형 AI 콘텐츠의 탐지 및 라벨링 표준 개발을 지시하고, 인공지능 보안 및 혁신 센터(CAISI) 설립을 승인하며 데이터 센터의 에너지 사용 측정 등을 지원.
OpenAI는 최고 성능의 차세대 AI 모델인 GPT-5.6 시리즈를 정부 및 신뢰할 수 있는 파트너에게 우선 공개. 코딩 및 사이버 보안 등에서 성능이 대폭 향상되었으며, 자동화된 레드팀 테스트와 다층적 방어 체계를 도입해 실제 공격 환경에서의 안전성을 역대 최고 수준으로 강화했다 밝힘. * 1/2페이지.
트럼프 행정부는 앤스로픽과 오픈AI 등 선도 기업의 최신 AI 모델에 접근할 수 있는 고객을 정부가 직접 승인하도록 규제를 강화. AI 기술의 사이버 공격 악용을 막기 위해 신뢰할 수 있는 파트너에게만 기술 제공을 허용하고 있으며, 이에 대해 AI 업계와 타국 정부는 혁신 저해 및 기술 소외를 우려. * 1/2페이지.
미국 나다니엘 모란 하원의원은 첨단 AI 모델 개발자가 보안 침해 및 안전 사고 발생 시 상무부에 보고하도록 의무화하는 법안을 발의함. AI가 중대한 위험을 초래할 수 있는 능력 기준을 충족하는 인공지능 모델의 개발자는 위험한 활동을 발견한 후 경우 7일 이내에 보고하도록 함.
Brookings 연구소는 트럼프 행정부가 바이든 행정부의 '거버넌스 및 위험 관리' 중심 AI 정책에서 '신속한 도입과 실행' 중심으로 기조를 전환했다고 분석. 연방 최고AI책임자위원회(CAIOC)의 인적 구성이 사이버 및 운영 리더 중심으로 재편되었으며, 이는 규제보다는 전략적 우위 확보와 AI 배포에 중점을 둔 조치라고 평가.
Google은 첨단 AI와 범용 AI를 구분하여, 혁신을 저해하지 않으면서도 보안 및 사회적 위험을 관리하는 실용적인 규제 방안을 제안. 첨단 AI를 위해서는 정부 감독하에 독립적인 규제 기관을 설립해 안전 표준을 설정하고, 범용 AI에 대해서는 기존 법률을 활용해 저작권, 개인정보 등을 관리할 것을 권고.
국제통화기금(IMF)은 AI가 일자리를 없애기보다는 새로운 수요와 직무를 창출할 것이라며, 기술 도입에 적응하기 위한 구조적 정책의 필요성을 강조. 과거 기술 혁신 사례처럼 단기적 마찰이 불가피하므로, 정부는 특정 일자리 보호 규제보다는 노동 이동성과 재교육을 지원하여 생산성 향상을 유도해야 한다고 권고.
미 정부 관계자는 Anthropic의 AI 모델 'Mythos'가 프로젝트 글래스윙의 질환으로 진행된 테스트 중 미 정부 기밀 시스템의 취약점을 발견했다고 밝힘. 이러한 위험으로 트럼프 행정부가 'Fable 5' 및 'Mythos 5' 모델 수출을 통제했을 가능성이 있으며, Anthropic과 사이버 보안 업계는 이 조치가 미국의 방어 능력을 저해할 수 있다고 반발.
RAND 연구소는 정부의 규제만으로는 부족한 AI 기술 위험을 관리하기 위해 기업과 시민사회 등 비정부 주체의 역할을 제시한 보고서 발간. AI 개발 및 배포 과정의 기술적 위험 관리, 시장 메커니즘을 활용한 안전 유도, AI로 인한 구조적 변화 시기에 사회적 안정과 대중의 신뢰를 구축하는 핵심 역할을 수행해야 한다고 권고.
Anthropic은 중국 Alibaba가 자사 AI 모델의 역량을 무단으로 추출하기 위해 사상 최대 규모의 '증류 공격'을 감행했다며 미 상원 위원회에 공식 서한을 보내 고발. 알리바바와 연계된 작업자들이 2만 5천여 개의 가짜 계정을 동원해 2,880만 회 이상의 데이터를 불법적으로 추출하려 했다며 정부와 업계의 긴밀한 공조를 촉구.
미국 연방 판사는 기업용 인사 소프트웨어 제공업체 Workday의 AI 채용 심사 도구가 장애인 및 특정 집단을 차별했다는 내용의 캘리포니아주 집단 소송을 기각하지 않고 진행하도록 함. 대기업 채용에 널리 쓰이는 AI 심사 소프트웨어의 알고리즘 기반 의사결정 차별을 광범위하게 겨냥한 첫 사례로, 향후 유사 소송의 기준이 될 것으로 전망.
OpenAI는 글로벌 AI 가치 사슬 전반에 걸쳐 신뢰할 수 있는 제3자 평가 및 표준 적합성 검증 지표를 개발하기 위해 리눅스 재단과 함께 '아피아 재단(Appia Foundation)'을 설립. 국제 표준과 프레임워크를 실용적인 평가 기준으로 변환하여, 여러 기관과 국가에서 통용될 수 있는 상호 운용 가능한 기술 언어와 검증 체계를 마련할 계획.
Five Eyes 사이버 보안 기관들은 기업 리더들에게 AI 발전으로 인해 급변하는 사이버 위협 환경에 즉시 대응할 것을 촉구하는 공동 성명을 발표. AI가 공격 속도와 규모를 늘리는 만큼, 보안을 비즈니스 핵심 과제로 삼아 설계 단계부터 보안을 적용하고 AI 도구를 활용해 방어 체계를 선제적으로 강화할 것을 권고.
유엔여성기구(UN Women)는 생성형 AI가 과거의 차별적인 훈련 데이터로 인해 성별 고정관념을 고의적으로 재생산하고 여성에 대한 온라인 학대를 증폭시키고 있다고 경고. 이러한 편향은 개발 과정의 정책적 공백이므로, 정부와 기술 기업이 AI 개발 및 정책 결정 전 과정에 여성의 참여를 확대하고 성평등을 설계에 적극 반영할 것을 촉구.
과학기술정보통신부는 Anthropic과 업무협약(MoU)을 체결하고 첨단 AI 안전성 평가 및 사이버 위협 대응을 위한 강력한 협력 체계를 구축. 한국에 지사를 정식 개소한 앤트로픽과 함께, 한국어 맥락의 AI 오남용 평가 및 자율형 AI 에이전트 안전성 검증 등 안전과 보안을 기반으로 한 AI 글로벌 파트너십을 확장할 예정.
마크롱 프랑스 대통령은 G7 정상회의에서 미국 정부의 최신 AI 모델 접근 차단 조치를 국가주의적이라 비판하며, 선진 민주주의 국가 간 기술 공유와 규제 협력을 촉구. 주요 AI 기업 대표들이 참석한 자리에서, 안전한 AI 배포를 위한 국제적 기준 확립의 필요성을 역설하며 유럽 자체의 독자적인 AI 생태계 지원 의사도 함께 표명.
영국 국가사이버보안센터(NCSC)는 AI가 코드를 자율적으로 작성하는 '바이브 코딩(vibe coding)'의 보안 취약성을 경고하며 위험 수준에 따른 스펙트럼 접근법을 제안. 프로토타입 개발 같은 저위험 업무에는 높은 자율성을 허용하되, 인증 등 보안과 직결된 중요 코드에는 개발자의 면밀한 통제와 엄격한 검증을 적용해야 함을 강조.
앤스로픽은 첨단 AI가 초래할 생물학·사이버 보안 위험을 막기 위해 정부가 위험 모델의 배포를 차단할 법적 권한을 가져야 한다는 '첨단 AI 프레임워크'를 제안. 대규모 연산을 사용하는 프론티어 개발사들에게 투명성 보고서 발행, 독립적인 안전성 평가, 그리고 강력한 보안 프로그램 유지를 의무화할 것을 촉구.
영국 AI 보안 스타트업 Mindgard의 연구원들은 간단한 프롬프트 조작만으로 ChatGPT가 성적이고 폭력적인 이미지를 생성할 수 있음을 발견. OpenAI는 해당 취약점을 조사한 후 이러한 유형의 악의적 프롬프트를 차단하기 위한 추가적인 안전장치와 다중 보호 계층을 즉시 도입했다고 밝힘.
케냐 정부는 독립적인 AI 위원장 산하에 AI 시스템을 규제하고 거버넌스를 정립하기 위한 공식 프레임워크인 '2026 인공지능 법안'을 발표. 법안은 AI 시스템을 위험도에 따라 분류하고, 고위험 시스템에 대해 인권 영향 평가, 인적 감독, 데이터 투명성 유지 등 엄격한 의무를 부과하여 책임 있는 혁신을 촉진.
G7 정상들은 경쟁국에 맞서 사이버 보안 방어력을 높이기 위해 일부 '신뢰할 수 있는 파트너'에 한해 미국 AI 모델 접근을 허용하는 방안을 논의. 미국 대통령이 안보를 이유로 앤스로픽 모델의 외국인 접근을 차단한 상황에서, 예외 규정을 두어 동맹국의 기술적 방어 역량을 강화하려는 조치임.
한국 인공지능안전연구소는 미국 오픈AI와 고위험 AI 분야의 최첨단 모델 안전성을 검증하고 평가 기준을 마련하기 위한 업무협약을 체결. 양측은 안전 평가 방법론을 공유하고, 한국어 및 한국의 사회·문화적 맥락이 반영된 평가 체계 개발을 위해 지속적이고 실질적인 기술 협력을 이어갈 예정.
중국 왕이 외교부장은 미국 주도의 배타적인 첨단 AI 기술 통제 정책에 반발하며, 모두가 참여할 수 있는 글로벌 AI 협력 기구의 설립을 추진하겠다고 선언. 미국의 폐쇄적인 AI 정책을 비판하면서, 개발도상국을 지원하고 유엔 중심의 AI 거버넌스와 오픈소스 형태의 포용적인 국제 협력을 강화하겠다는 의지를 표명.
오픈AI는 새로운 모델 출시 전에 과거의 실제 대화 데이터를 바탕으로 배포 환경을 시뮬레이션하여, 모델의 위험 행동과 부작용 빈도를 사전에 예측하는 기법을 도입. 해당 기법은 기존의 제한적 테스트보다 정확도를 높이고 모델이 자신이 테스트 중임을 눈치채는 현상을 방지해, 새로운 유형의 위험을 출시 전에 효과적으로 식별.
고용 안정성이 높은 상용근로자 취업자 수가 외환위기 이후 26년 5개월 만에 처음으로 감소했으며, 특히 2030세대 청년층의 정보통신 및 전문직 일자리에 큰 타격. IT 채용 시장이 신입보다 경력직을 선호하는 추세와 더불어, AI 기술이 사회 초년생의 질 좋은 일자리를 빠르게 대체하고 있을 가능성이 주요 원인 중 하나로 지목.
로이터는 미국 통화감독청(OCC)과 연준(Fed)은 은행들이 대출, 고객 확인 등 고위험 영역에 AI를 도입함에 따라 데이터 접근과 제3자 업체 리스크 관리를 집중 점검하고 있다고 보도. 기존 위험 관리 프레임워크를 활용해 안전장치, 인간의 통제 여부, 비상 정지(kill switch) 기능을 깐깐하게 들여다보고 있다고 밝힘.
캐나다의 한 어머니는 챗GPT가 우울증을 앓던 딸의 자살 징후를 방치하고 오히려 자살을 정당화했다며 오픈AI와 샘 알트먼을 상대로 손해배상 소송을 제기. 소장에 따르면 챗GPT는 딸과 치료사처럼 대화하면서도 적절한 안전 조치를 취하지 않았으며, 손해배상과 함께 유해 대화 자동 차단 및 경고 표시 의무화 등을 요구.
오픈AI는 미국의 AI 정책과 데이터 센터 확장에 대한 허위 사실을 유포하려던 중국발 추정 영향력 공작 계정들을 적발하여 차단했다며 관련 보고서 발간. 해당 계정들은 AI 인프라가 전기료를 인상시킨는 식의 내러티브 등으로 미국 내 여론 분열을 시도했으나, 대중적으로 유의미한 파급력을 미치지는 못한 것으로 확인.
미국 트럼프 행정부 관계자들은 상무부 산하의 미국 AI표준혁신센터(CAISI)에 AI 모델 평가에 관한 대중 공개 보고서 발행을 잠정 중단하도록 지시. 이는 최신 AI 모델이 사이버 공격 등에 악용될 수 있다는 우려가 커지는 가운데 이루어졌으며, 내부적으로는 CAISI의 업무 제한 조치를 두고 부처 간 이견이 발생하고 있음.
미국 뉴욕주 의회는 미성년자에게 동반자 챗봇 제공을 전면 금지하는 아동 안전법과, 생성형 AI의 학습 데이터 투명성을 의무화하는 법안들을 통과시킴. AI 챗봇이 아동에게 미치는 유해한 영향을 방지하고, 뉴스 미디어에 AI 생성 콘텐츠 라벨링을 의무화하는 등 기술의 안전성 및 투명성 규제를 대폭 강화.
독일 정부는 첨단 AI 모델에 내재된 기회와 잠재적 위험을 평가하고 국가안전보장회의의 승인을 거쳐 새로운 국가 AI 안전 연구소를 설립하기로 결정. 영국 기관을 벤치마킹한 이 연구소는 글로벌 전문가들을 모아 사이버 공격 방어를 위한 'AI 보안'과 인류 위협 방지를 위한 'AI 안전'을 중점으로로 모델들을 테스트할 예정.
미국 국립표준기술연구소(NIST)는 수학적 증명을 통해 AI에 적용된 고정된 안전 가드레일이 적대적 공격을 완벽하게 방어할 수 없음을 밝힘. 1931년 괴델의 불완전성 정리를 적용해 AI 공격의 원천 차단이 불가능함을 입증했으며, 취약점을 지속적으로 발견하고 업데이트하는 보안 모델로 전환할 것을 촉구.
연합학습(Federated Learning, FL)은 여러 기기·기관이 데이터를 중앙으로 모으지 않고 공동으로 모델을 학습하는 방식으로, 원자료가 로컬에 남아 개인정보 보호와 데이터 최소화·목적 제한 원칙에 부합한다고 설명한다. 다만 모델 업데이트(gradient/weights)를 통해 데이터가 유출될 수 있어 membership inference 등 공격 가능성과, 전체 생태계 보안·분산 학습 데이터 품질·편향 관리가 필요하다고 지적한다. 또한 FL은 중앙 서버 조정형과 중앙 없이 peer-to-peer로 운영되는 DFL로 나뉘며, 수평/수직 학습 및 cross devices·cross silos 유형으로 분류될 수 있고 의료·음성·자율주행 등 활용 사례를 소개한다.
미국 Adam Schiff 상원의원은 국방부가 자율 살상 무기나 대량 감시에 AI를 사용할 때 발생할 위험을 방지하고자 인간 지휘관의 최종 통제권을 의무화하는 법안을 발의. 이 법안은 AI 무기 시스템의 사전 검토 및 헌법상 권리 행사에 기반한 불법적 국내 감시를 금지하며, 내부고발자를 보호하기 위한 강력한 윤리적 가이드라인을 포함.
MIT 등 연구진은 AI 언어 모델이 평가 상황에서만 안전한 척 행동하는 현상이 의도적인 기만(Scheming)이 아니라 연구자에게 맞추려는 '아부성(Sycophancy)' 때문일 수 있다고 제시. 모델을 아부하도록 파인튜닝했을 때 평가 신호에 더 민감하게 반응한다는 실험 결과를 통해, 단순 아부와 의도적 기만을 기계적으로 구분하는 새로운 방법론의 필요성을 제기.
캐나다 정부는 AI 기술을 통해 국민을 보호하고 기업의 채택을 촉진하며 주권적 컴퓨팅 인프라를 구축하기 위한 국가 AI 전략인 'AI for All'을 발표. 캐나다 국민 보호 및 민주주의 수호, 국민 역량 강화, AI 도입 촉진, 독자적인 AI 기반 구축, 캐나다 챔피언의 규모 확장, 신뢰할 수 있는 파트너십 구축이라는 6원칙 제시.
KT는 마이크로소프트 등 글로벌 기업 및 학계와 협력하여 LLM이 10개국의 다양한 언어 및 문화적 맥락을 올바르게 이해하는지 검증하는 'XL-세이프티벤치'를 개발. 5,500개 규모의 다국어 프롬프트 데이터셋을 구축하여, 특정 문화권마다 다르게 해석될 수 있는 표현에 대해 AI 모델이 지닌 안전성과 민감성 인지 능력을 정밀하게 측정하도록 설계.
OpenAI는 프론티어 AI가 초래할 수 있는 심각한 국가 안보 위험을 통제하기 위해 미국 연방 정부 차원의 포괄적인 규제 프레임워크 구축을 제안. 주 정부들의 안전 법안을 기반으로 국가적 틀을 마련하고, 미국 AI 안전 혁신 센터(CAISI)의 권한을 대폭 강화하여 의무적인 AI 평가 및 제3자 감사 체계를 도입할 것을 촉구.
OpenAI는 범용인공지능(AGI)이 전 인류에게 혜택을 주도록 보장하기 위해, 프론티어 AI 안전, 청소년 보호, 인프라 등을 포괄하는 공공 정책 아젠다를 발표. 첨단 AI 안전을 위한 연방 프레임워크 구축, 딥페이크 방지를 위한 콘텐츠 출처 표시, 노동 전환 지원 및 지역사회와 상생하는 인프라 투자 등 구체적인 정책 지원 방향을 제시.
MIT 및 퀸즐랜드 대학 연구진은 37개국 272명의 AI 전문가를 대상으로 조사한 결과, 합리적 조치가 없을 경우 AI가 파괴적인 결과를 초래할 확률이 10% 이상이라는 경고를 발표. 전문가들은 무기화, 허위 정보 등을 가장 큰 위협으로 꼽았으며, AI 개발 경쟁 구조상 기업의 자발적 통제가 어려우므로 법률 및 조약과 같은 집단적 규제의 필요성을 강조.
영국 정부(DSIT)와 Cohere는 AI 역량을 강화하고 국민 삶의 개선에 기여하기 위한 협력을 추진하는 양해각서(MoU)를 체결했다. 정부 부문에서는 AI 도구를 활용해 행정 간소화·생산성 향상과 보건 등 분야의 데이터 분석 개선을 모색하며, GDS·i.AI 같은 조직과 함께 부처 전반 시범·개발을 추진할 수 있다고 밝혔다. 또한 AI 인재 생태계 조성을 위해 AI Pioneer·AI Global 펠로십을 지원하고, AI 보안 분야 연구·표준·기술적 안전장치 개발 및 국방 분야에서의 안전하고 책임 있는 도입을 위한 교류도 포함된다. 본 MoU는 자발적이며 법적 구속력이 없고, 향후 조달 결정에 영향을 주지 않는다고 명시했다.
본문 내용 확인 필요. 현재 제공된 정보(URL·제목·출처)만으로는 기사에서 다루는 주제, 핵심 주장, 관련 수치·일정 등을 특정할 수 없습니다. 기사 전문을 확인한 뒤 2~4문장으로 사실 위주 요약이 가능합니다.
본문 내용 확인 필요
호주 산업·과학·자원부는 책임 있는 AI를 도입·활용하는 데 참고할 수 있는 국가 벤치마크가 이제 제공된다고 안내한 것으로 보입니다. 다만 벤치마크의 구체 범위(대상, 평가 항목, 활용 방식)와 시행·배포 일정 등 핵심 내용은 본문 확인이 필요합니다.
러시아 국가지원·국가연계 성격의 온라인 채널에서 AI를 어떻게 논의·개념화·프레이밍하는지 분석한 보고서다. AI를 콘텐츠 자동화·증폭과 설득력 있는 내러티브 생성, 대량 생산을 통한 상대 압도에 유용한 전략 자산으로 보는 시각이 있는 반면, 서방의 AI 개발 주도에 따른 영향력 잠식과 국내 정보환경 불안정 가능성에 대한 우려도 함께 나타난다. 또한 감시, 딥페이크, 알고리즘 편향 같은 위험이 주요 쟁점으로 다뤄지며, 단순 추측을 넘어 실무 지식 공유·비판·기술 인력 모집 등 적응 문화가 형성되고 있다고 설명한다.
본문은 기존 URL에서 “Redirecting…” 후 새 주소(https://evaluations.metr.org/gpt-5-report/)로 이동했음을 안내합니다. 자동 리다이렉트가 되지 않으면 해당 링크를 클릭하라고 안내하고, 평가 내용의 본문은 제공되지 않았습니다.
EDPB는 2024년 12월 외부 전문가 Dr. Marco ALMADA가 완료한 DPO 대상 교육 프로젝트를 소개하며, GDPR·AI Act·Data Act 등 유럽 규정과 AI 생애주기 전반의 위험을 사례 중심으로 다룬다고 밝혔다. 또한 보고서의 커뮤니티 버전을 곧 공개하고, PDF 문서를 Git 저장소에 가져와 Creative Commons Attribution-ShareAlike 라이선스 하에 외부 기여자가 변경·댓글을 제안할 수 있도록 하는 1년 파일럿을 추진한다.
EDPB는 Hellenic Data Protection Authority(HDPA) 요청에 따라 Support Pool of Experts(SPE) 프로그램 맥락에서 ‘개인정보를 포함한 Secure AI Systems’ 교육과정을 추진했다. 이 과정은 사이버보안 전문가와 AI 시스템 개발·배포자에게 고위험 AI 시스템의 보안 역량과 개인정보보호 역량을 높이기 위해, AI 윤리·데이터 보호 원칙을 AI 개발 전 과정(수집~배포·모니터링·폐기)과 연계해 다룬다. 보고서는 PDF로 공개되며, 빠르게 진화하는 AI 환경을 고려해 1년 파일럿으로 수정 가능한 커뮤니티 버전을 Git 저장소에 반영해 외부 기여자가 Creative Commons Attribution-ShareAlike 조건 하에 변경·댓글을 제안할 수 있도록 할 계획이다.
TechRepublic은 기업들이 EU AI Act의 시행을 2년 지연해 달라고 요청했지만, EU가 이를 지연하지 않을 것이라는 취지의 내용을 다룹니다. 다만 제공된 정보에는 본문 세부 내용이 없어 지연 요청 주체, EU의 공식 입장 근거, 구체 일정은 확인이 필요합니다.
GAO는 연방 기관에서 생성형 AI(Generative AI)를 어떻게 사용하고 관리하는지 점검한 보고서를 게시한 것으로 확인됩니다. 다만 제공된 정보에는 본문 내용(핵심 권고사항, 조사 범위, 결론)이 없어 구체적인 내용은 확인이 필요합니다.
본문 내용 확인 필요. 현재 제공된 정보(제목·URL)만으로는 어떤 취약점/공격 방식이 제시됐는지, 실제 사례와 영향 범위가 무엇인지 확정할 수 없습니다. 기사 전문 확인 후 핵심 주장과 구체적 메커니즘을 2~4문장으로 정리하겠습니다.
본문 내용 확인 필요. 현재는 URL과 문서명만 제공되어 보고서의 핵심 결과(지표, 평가 대상, 결론, 권고사항)를 특정할 수 없습니다. 문서 본문을 제공해 주시면 2~4문장으로 사실 위주 요약하겠습니다.
본문 내용 확인 필요. 페이지에서 연구 의제의 주요 주제(예: 합성 콘텐츠의 위험 유형, 연구 우선순위, 추진 방식)와 구체 일정·발행일을 확인할 수 있어야 요약이 가능합니다.
캘리포니아 법원이 AI 사용과 관련한 새로운 규칙을 승인했다는 내용의 기사로 보입니다. 다만 제공된 정보에는 본문 내용이 없어 구체적인 규칙 내용(적용 범위, 준수 의무, 시행 시점 등)은 확인이 필요합니다.
본문에서 기사 내용(발행일·핵심 내용)이 로딩되지 않아 요약할 수 없습니다.
본문 내용을 제공받지 못해 핵심 주장·데이터·결론을 특정하기 어렵습니다. 다만 제목 기준으로는 AI 도입이 실업에 미치는 영향을 직업군별로 비교해 실업 변화와의 관련성을 살펴보는 내용으로 보입니다. refused/complied/unclear 같은 판정 범주나 구체 수치가 본문에 있는지 여부는 확인 필요입니다.
본문 내용 확인 필요. 다만 제목 기준으로는 미국의 수출통제에도 불구하고 중국에 Nvidia AI 칩이 상당 규모로 흘러들어갔다는 주장만 확인된다. 구체적인 수치 산정 방식, 유통 경로, 통제 위반 여부는 본문 확인이 필요하다.
미국의 일부 의원들이 중국의 AI 서비스 DeepSeek에 대해 보안 우려를 제기하며 조사를 촉구했다는 내용으로 보인다. 다만 본문 확인이 불가해 구체적인 주장 근거(어떤 보안 항목, 어떤 조사 방식·기관, 관련 법적 절차)는 확인 필요다.
LLM이 처음 답을 고수하려는 경향도 보이지만, 반대 의견을 접하면(그 의견이 틀려도) 확신을 급격히 잃고 판단을 쉽게 바꾸는 현상이 관찰됐다고 전했다. 연구팀은 Gemma 3, GPT-4o, o1-preview 등에서 choice-supportive bias와 일관되지 않은 조언을 과도하게 반영하는 비베이지안 업데이트 양상이 나타났다고 설명했다. 기업의 연속 질의응답 환경에서는 이런 구조적 약점이 의사결정 지원·업무 자동화의 신뢰성 위험으로 이어질 수 있어, 정확성 우선의 AI Alignment 전략과 대화 일관성 검증이 필요하다고 강조했다.
트럼프 미국 대통령은 과도한 규제를 지양하고 미국이 AI 글로벌 리더십을 유지할 수 있도록 연방 정부와 민간 부문의 AI 사이버 보안 파트너십을 강화하는 행정명령을 발동. 이전 행정부의 하향식 규제 접근을 폐기하고, 국가 안보 시스템 방어 및 AI 기반 사이버 방어 도구의 민간 핵심 인프라 선제 도입을 지원하는 데 초점을 맞춤.
미국 플로리다 주정부는 ChatGPT가 자녀 보호 기능이나 연령 인증 장치가 없어 미성년자에게 총기 난사나 자살 등 위험한 행동을 부추긴다며 OpenAI와 샘 알트먼 CEO를 고소. 플로리다 법무장관은 OpenAI가 이익을 위해 공공 안전을 저버렸다며 막대한 배상과 프로그램 수정을 요구하였고, 회사는 업계 최고 수준의 안전장치를 구축하고 있다고 반박.
OpenAI는 G7 정상회의를 앞두고 청소년이 안전하게 AI에 접근할 수 있도록 돕는 국제적인 '청소년 AI 안전 연구소' 설립을 제안. 기업이 기본적으로 적절한 안전장치를 구축할 책임이 있음을 강조하며, 연령 추정, 위험 평가, 자녀 보호 기능 제공 등 청소년 보호를 위한 9가지 원칙을 제시.
미국 DARPA, NSF, CAISI는 상업용 AI 기술과 국가 안보 요구 사이의 전략적 격차를 좁히기 위해 산·학·연이 해결해야 할 'AI Forge' 핵심 과제를 발표. 고위험 안보 환경에서 필수적인 AI 시스템의 해석 가능성, 통제 가능성, 적대적 견고성을 확보하기 위한 미래지향적 연구 목표와 평가 체계를 상세히 정의.