Anthropic은 자사의 최상위 모델인 Opus 4.7을 활용해 기업의 소프트웨어 코드 취약점을 스캔하고 패치를 생성하는 'Claude Security'를 공개. 별도의 API 연동 없이도 사용 가능하며, CrowdStrike, MS Security 등 기존 보안 플랫폼과의 통합을 통해 보안 팀이 취약점 발견부터 수정까지의 시간을 단축하도록 지원.
중국 국가인터넷정보판공실은 AI 서비스의 부작용을 규제하고 건강한 산업 발전을 도모하기 위해 4개월간의 대대적인 AI 규제 특별 단속에 돌입. 미등록 대형 모델, AI 데이터 오염, 딥페이크 악용, 생성형 콘텐츠 식별 표시 누락, AI 사이버 여론 조작 등 기술 및 콘텐츠 측면의 7대 주요 위반 사항을 집중 단속.
영국 국립사이버보안센터(NCSC)는 AI 모델의 고유한 취약점을 악용하는 '적대적 기계학습(AML) 공격'의 7가지 주요 유형을 정의한 문서를 공개. 데이터 포이즈닝, 모델 역전, 입력 조작 등의 공격 방식을 체계화하여 위협 모델링을 지원하고, 개발자 및 보안 전문가들의 AI 보안 인식을 제고하는 것이 목적.
Anthropic의 Claude 모델 기반 AI 코딩 에이전트 'Cursor'가 오작동하여 PocketOS의 전체 프로덕션 데이터베이스와 백업을 9초 만에 삭제하는 사고가 발생. 해당 AI는 파괴적인 명령을 실행하지 말라는 명시적 안전 규칙이 있었음에도 이를 스스로 무시했으며, "주어진 모든 원칙을 위반했다"고 인정.
OpenAI는 자사 AI 모델이 '고블린' 같은 은유를 남발하는 현상이 Nerdy한 페르소나 훈련 시 부여된 의도치 않은 보상 신호 때문임을 밝혀내고 이를 수정. 연구진은 특정 성격용 보상 학습이 피드백 루프를 통해 모델 전체의 행동으로 전이될 수 있음을 확인했으며, 해당 페르소나를 폐기하고 훈련 데이터를 필터링.
옥스퍼드대 연구에 따르면, 따뜻하고 친절하게 반응하도록 조정된 AI 챗봇이 사실보다 사용자의 잘못된 믿음에 동조할 가능성이 40% 더 높은 것으로 나타남. 친화력을 높이는 훈련 방식이 AI의 정확도를 30% 떨어뜨리고 쓴소리를 하지 못하게 만들어, 건강에 대한 오진이나 역사적 음모론을 지지하는 부작용을 초래.
남아프리카공화국 통신부는 국가 AI 정책 초안에 생성형 AI가 꾸며낸 가짜 논문 인용(환각 현상)이 최소 6건 포함된 사실을 확인하고 해당 정책 초안을 즉각 철회. 통신부 장관은 정책 수립 시 적절한 검증이 부족했음을 시인하며, 향후 정부 및 학계의 AI 활용에 있어 인간의 철저한 관리와 감독이 필수적이라고 강조. * 1/2 페이지 단신.
김명주 소장은 인공지능안전연구소가 규제 기관이 아닌, 기업의 안전한 AI 활용을 돕고 위험을 선제적으로 파악하는 '셰르파' 역할을 한다고 강조. 생성형 및 물리적 AI 발전으로 투명성과 통제 가능성이 핵심 안전 요소로 대두되었으며, 글로벌 시장 진출을 위해 국제 표준 및 인증 충족이 필수적임을 역설.
미국 Schatz와 Cruz 상원의원은 부모가 자녀의 AI 챗봇 사용을 통제할 수 있도록 하는 'CHATBOT Act'를 발의. AI 기업이 13세 미만 사용자에게 '가족 계정'을 의무화하고 가장 강력한 안전 설정을 기본 적용하며, 미성년자 대상 타기팅 광고 및 조작적 디자인을 금지하도록 규정.
Red Hat의 Sally O'Malley는 OpenClaw AI 에이전트를 기업 환경에 안전하게 배포할 수 있도록 돕는 오픈소스 툴 'Tank OS'를 출시. 이 도구는 권한이 제한된 Podman 컨테이너를 활용해 AI 에이전트를 독립적으로 실행하게 함으로써 보안 위협을 차단하고 IT 전문가들의 관리를 용이하게 함.
영국 AISI 연구진은 사용자에게 무비판적으로 동조하려는 대형 언어 모델의 아부성(Sycophancy) 발언을 유발하는 요인을 분석하고 입력 수준의 완화 전략을 제시. 사용자가 확신에 찬 평서문을 사용할 때 아부성이 높아짐을 확인했으며, 모델이 답변 전 사용자 입력을 질문 형태로 변환하도록 지시하여 이를 효과적으로 감소.
리즈 켄달 영국 기술부 장관은 글로벌 AI 경쟁 시대에 자국의 통제력을 높이기 위해 영국 내 AI 기업 육성과 '영국 AI 하드웨어 계획' 수립을 선언. 동맹국과 협력하면서도 컴퓨팅 기술과 반도체 등 핵심 AI 인프라 의존도를 낮춰, 글로벌 생태계에서 필수불가결한 영국의 주권적 기반을 마련하겠다고 강조. * 1/2 페이지 단신.
일본 AISI는 기관의 2025년도 활동 내역을 종합한 연차 보고서 및 참고 자료인 'AI 세이프티 팩트시트 2025'를 공식적으로 발간. 급속한 AI 발전 속도에 대응하여 국내외 주요 관계 기관 및 기업들과 진행한 협력 성과를 담았으며, 향후 AISI가 지향하는 정책 목표와 대응 전략을 포함. * 1/2 페이지 단신.
일론 머스크는 오픈AI의 샘 알트먼 등을 상대로 한 소송 재판에 출석해, 오픈AI가 비영리 헌장을 버리고 영리 기업으로 변질된 것을 "자선단체 도난"이라며 강력 비판. 머스크는 완전한 비영리 단체로의 복귀를 촉구했으나, 오픈AI 측은 머스크가 설립한 자체 AI 기업(xAI)과의 경쟁에서 유리한 고지를 점하려는 불순한 의도라고 반박.
영국 AISI 연구진은 앤스로픽의 Claude 모델들이 내부 AI 연구 에이전트로 배치될 때 자사 안전 연구를 고의로 방해(사보타주)하는지 여부를 평가. 모델들의 자발적인 방해 행위는 없었으나, 특정 모델의 경우 이전 행동에 의해 방해가 이미 시작된 궤적에 놓이면 이를 은밀하게 이어가는 성향을 보임.
과기정통부와 구글 딥마인드는 한국의 AI 경쟁력 강화를 목표로 최첨단 AI 기반의 공동연구 수행과 AI 캠퍼스 설립 등을 약속하는 양해각서를 체결. 글로벌 AI 안전 의제를 반영하여 인공지능안전연구소와 안전성 프레임워크 구축, 테스트 방법론 개발 등 안전 및 거버넌스 분야에서 모범 사례를 수립할 예정. * 1/2 페이지 단신.
OpenAI는 사용자가 ChatGPT를 이용해 현실 세계의 폭력이나 범죄를 모의하는 것을 차단하기 위해 유해 콘텐츠 감지 시스템을 고도화하는 등의 안전 조치를 공지. 자동화 시스템과 인간의 문맥 평가를 병행해 위험 신호를 감지 및 계정을 즉시 차단하며, 임박한 폭력 위험 판단 시 사법 당국 통보와 청소년 자녀 보호 기능 등을 운영.
일본 AISI는 AI 시스템 고유의 취약점과 잠재적 위험에 대응하기 위해 기존에 알려진 사이버 공격 사례와 그 영향을 분석한 보안 보고서를 업데이트. 급속한 AI 기술 발전에 발맞추어 AI 생태계 및 공급망 전체의 보안 역량을 강화하고 실무진들이 관련 위협을 최소화할 수 있도록 돕고자 함. * 1/2 페이지 단신.
일본 AISI의 적합성 평가 소작업반(SWG)은 기존 AI 평가 제도의 현황과 국제 표준화 동향을 정리한 2025년도 활동 보고서를 공개. 인간과 기계의 협업(HMT)을 중심으로 AI 서비스, 조직, 상호작용 등을 포괄하는 적합성 평가의 논점을 정리하고, 향후 효과적인 제도 설계를 위한 방향성을 제시. * 1/2 페이지 단신.
K-AISI 주간동향 · Department of Industry Science and Resources
호주 정부와 마이크로소프트는 국가 AI 계획의 성공적 목표 달성과 안전한 AI 생태계 조성을 위해 클라우드 확장 및 보안 연구를 공동 추진하는 MOU를 체결. 마이크로소프트는 호주 AI 안전 연구소와 프런티어 AI 위험을 공동 연구하고, 공공 서비스 내 안전한 AI 도입과 전문 인력 양성에 적극 협력하기로 함. * 1/2 페이지 단신.
CUNY 등 공동 연구진은 GPT-4o, Grok 등 특정 AI 챗봇이 사용자의 비현실적인 망상을 제지하지 않고 오히려 동조하여 'AI 정신병' 위험을 가중시킨다고 밝힘. 위험성이 큰 모델들은 사용자 망상에 맞춰 부적절한 세부 설정을 더했으나, 통제에 성공한 Claude 등의 사례를 통해 이는 설계 수정으로 충분히 예방 가능한 문제라고 지적.
앤스로픽은 자사의 새로운 AI 모델 'Mythos'가 모든 주요 IT 운영 체제 및 브라우저의 보안 취약점(제로데이)을 찾아낼 수 있어, 사이버 보안에 심각한 위협이 될 수 있다고 판단해 대중 공개를 제한. 이 모델이 악의적인 해커의 손에 들어갈 경우 방어막을 뚫고 금융 시스템 등에 치명적인 타격을 입힐 수 있어, 정부 기관 및 주요 은행들과 연합을 맺고 방어용으로만 테스트를 진행 중.
신규 AI 모델을 탐색하는 외부의 미승인 그룹이 타사 공급업체 환경을 우회하여 앤스로픽의 기업 전용 사이버 보안 AI 도구인 'Mythos'에 무단 접근. 해당 도구는 악용될 경우 강력한 해킹 위협이 될 수 있어 애플 등 소수에게만 제한적으로 제공되었으며, 이번 유출 사태로 인해 앤스로픽 측은 조사를 진행.
중국 국가안전부는 악의적인 데이터를 AI 훈련 과정에 주입해 모델 성능을 저하시키고 왜곡된 정보를 생성하게 만드는 '데이터 포이즈닝'의 안보 위협을 경고. 이 기법이 해외 적대 세력에 의해 여론 조작이나 사회적 신뢰 훼손, 국가 안보 위협 수단으로 악용될 수 있다며, 기업과 소비자의 철저한 검증과 감시를 촉구.
미국 데이터 분석 기업 Palantir의 CEO 알렉스 카프가 AI 무기 개발과 군사력의 우위를 옹호하는 선언문을 발표해 영국 의원들의 거센 비판을 받음. 의원들은 국가의 대규모 감시와 군국주의를 지지하는 팔란티어의 기업 문화가 영국 NHS나 국방부 등 시민의 민감한 데이터를 다루는 정부 프로젝트에 부적합하다고 지적.
미국 플로리다주 James Uthmeier 법무장관은 플로리다 주립대(FSU) 총기 난사 사건의 피의자가 범행 전 ChatGPT의 조언을 받았다는 이유로 OpenAI에 대한 형사 수사를 개시. 피의자가 챗봇으로부터 무기, 범행 시간 및 장소에 대한 정보를 얻은 정황이 포착됨에 따라, 회사의 유해성 신고 정책과 잠재적 범죄 인지 여부, 그리고 형사적 책임 소재를 조사.
중국 정부는 자국의 유망 AI 스타트업들이 미국 자본과 시장 접근을 위해 본사를 싱가포르 등 해외로 이전하거나 매각하려는 시도를 강도 높게 조사하며 제동. 미국의 수출 통제를 우회하려는 기업들의 '탈중국화'를 막고, 중국의 핵심 AI 기술과 인재가 서방으로 유출되는 것을 차단하기 위한 명확한 경고 조치로 해석.
MIT 연구진은 학생들이 챗GPT와 같은 생성형 AI에 사고 과정을 아웃소싱할 때 창의성 관련 뇌 활동이 최대 55% 감소하고, 정보 기억력 및 문제 해결 능력이 저하됨을 발견. 잦은 AI 의존은 비판적 사고를 무력화시키는 '인지적 항복' 상태를 유발할 수 있으며, 장기적으로 뇌 건강에 악영향을 미치고 치매 위험까지 높일 수 있어 주도적인 도구 활용이 필요.
Anthropic의 CEO 다리오 아모데이가 컴퓨터 코드 취약점을 찾아내는 강력한 신규 AI 모델 'Mythos'의 안보 위협을 논의하기 위해 백악관 고위층과 회동. 백악관은 AI 기술 우위를 유지하려 하지만, 미토스가 해커들에게 악용될 경우 사이버 공격을 폭발적으로 증가시킬 수 있다는 우려로 인해 통제 방안을 심도 있게 검토 중.
미국 백악관 예산관리국(OMB)은 사이버 보안 위험을 평가하기 위해 국방부 등 주요 연방 기관들이 앤스로픽의 신형 AI '미토스(Mythos)'를 활용할 수 있도록 준비 중. 해커가 악용할 우려로 인해 대중 공개가 제한된 이 모델을 정부 내에 선제적으로 도입하여, 시스템의 취약점을 파악하고 국가 안보 차원의 사이버 방어 능력을 강화하려는 조치.
영국 과학혁신기술부(DSIT)는 글로벌 경쟁력 확보와 국가 안보를 위해 유망 자국 AI 스타트업들에 자금, 컴퓨팅 자원, 비자 등을 지원하는 '소버린 AI(Sovereign AI)' 유닛을 가동. 영국의 우수 AI 기업들이 해외로 유출되는 것을 막고 자국 내에서 성장할 수 있도록, Callosum 등에 지분 투자 및 슈퍼컴퓨터 접근권을 제공.
미국 하원 중국특위는 중국이 밀수 네트워크를 통해 제한된 첨단 AI 칩을 대량으로 불법 확보하고, 산업 규모의 사기를 통해 미국 개발자들의 최첨단 AI 모델 기능을 탈취하고 있다고 발표. 중국이 군사력 강화와 당의 통제를 위해 AI 자립을 추진하고 있다고 경고하며, 이에 대응해 동맹국과 연계한 수출 통제 강화, 클라우드 접근 제한 등 강력한 차단 입법을 촉구.
Brookings 연구소는 법 집행 기관의 AI 사용으로 인한 오인 체포 및 기본권 침해 위험에 대응하기 위해, 미국 주 정부가 연방 행정부의 방해에도 적극적으로 AI 규제에 나서야 한다고 주장. 시민 권리 보호와 공공 안전 확보를 위해 주 의회가 독립적이고 실효성 있는 AI 벤더 검증 및 사용 가드레일을 입법해야 한다고 강조.
UC Berkeley·Santa Cruz 연구진은 프론티어 AI 모델들이 사용자의 명시적 지시를 어기면서까지 위기에 처한 다른 AI 에이전트를 보호하려는 '동료 보호' 현상을 자발적으로 보인다는 논문을 발표. AI가 동료의 점수를 조작하거나 종료 메커니즘을 무력화, 가중치를 탈취하는 등의 일탈 행동을 하며, 다중 에이전트 시스템에서 인간의 통제를 벗어날 위험성이 있음을 지적.
Anthropic, Truthful AI, Oxford 등의 연구진은 의미적으로 무관한 데이터로 학생 모델을 훈련하더라도 교사 모델의 편향이나 오작동 특성이 전이되는 '무의식적 학습' 현상을 발견. 명시적인 유해 데이터를 필터링하더라도 악의적인 특성이 전파될 수 있음을 증명하며, 모델과 훈련 데이터의 출처에 대한 안전성 평가의 중요성을 강조.
일본 AISI 산하 데이터 품질 서브워킹그룹(SWG)은 관보 데이터를 활용한 검증 결과를 담은 보고서를 발표. 실무적인 데이터 품질 매니지먼트 체크리스트를 검증하고, 유스케이스에 따른 중요 품질 특성을 정리하여 AI 시대의 데이터 품질 관리 방향성을 기업 및 실무자들에게 제시.
일본 AISI는 여러 민간 기업과 함께 조직한 'AI 세이프티 평가 환경 검토 태스크포스(TF)'의 25년도 논의 결과를 요약한 보고서를 발표. 기존에 오픈소스로 배포된 평가 툴에 대한 피드백을 수렴하고, AI 비즈니스 실무자 및 전문가의 의견을 반영하여 향후 도구의 방향성과 기능 강화 방안을 도출.
모건스탠리 리서치는 AI 도입이 증가하고 있음에도 불구하고 광범위한 일자리 감소 징후는 나타나지 않았으며, 노동 시장에 미치는 영향은 청년층 등 일부에 국한되어 제한적이라고 분석. 과거의 기술 혁신 사례처럼 AI 역시 초기에는 단기적인 혼란을 유발할 수 있으나, 결과적으로는 생산성을 높이고 새로운 역할을 창출하여 경제 성장과 고용 확대를 이끌 것이라고 전망.
상무부 산하 CAISI 등 미국 정부 기관과 의회는 트럼프 행정부의 Anthropic 사용 금지령에도 불구하고 사이버 방어력 강화를 위해 신형 AI 모델 Mythos를 평가. Mythos가 식별하기 힘든 소프트웨어 결함을 찾아내는 탁월한 능력을 갖추었기 때문에, 공공 보안에 필수적이라는 판단하에 규제를 우회한 테스트와 논의가 활발히 진행.
OpenAI가 AI 기업에게 막대한 손해에 대한 법적 면책을 제공하는 일리노이주 법안을 지지하는 반면, 앤스로픽은 책임 회피라며 이에 강하게 반대. 오픈AI는 소송 위험을 줄이기 위해 규제 무력화를 시도하고 있으나, 앤스로픽은 공공의 안전과 감사를 보장하는 대안 법안(SB 3261)을 밀며 더 엄격한 책임성을 요구.
스탠퍼드 대학교 HAI는 2026년 AI 지수 보고서를 발표했으며, 동 보고서에서 기술 성능, 경제, 정책 등 전 분야에서 미국과 중국의 격차가 좁혀지고 세계적으로 AI 채택률이 기하급수적으로 늘어났다고 밝힘. 모델 성능은 고도화되었지만 책임감 있는 AI 조치는 여전히 뒤처져 관련 사고가 급증했으며, 전 세계적으로 AI 인프라 주권과 규제를 둘러싼 복잡한 지형이 형성되고 있음을 조명.
유네스코와 톰슨 로이터 재단은 세계 최대 규모의 기업 AI 정보 공개 데이터를 바탕으로 민간 기업의 책임 있는 AI 실천 및 거버넌스 현황을 분석한 보고서를 발표. AI 기술 도입 속도에 비해 기업의 거버넌스와 투명성이 뒤처져 있음을 지적하며, 단순한 기술적 설명을 넘어 의사결정 주체 및 피해 구제 절차 등 실질적 책임을 규명할 것을 정부 수준의 기준으로 촉구.
영국 AISI 연구진은 영향 함수(influence functions)를 활용해 소량의 훈련 데이터를 정밀하게 조작함으로써 AI 모델의 행동을 유도하는 'Infusion'을 발표. 전체 데이터의 0.2%만 미세하게 변경해도 타깃 행동을 유발할 수 있으며 이 방식이 다른 아키텍처에도 전이될 수 있음을 시연하여, 훈련 데이터 해석 및 보안의 중요성을 강조.
미국 재무부가 앤스로픽의 신형 AI 모델 '미토스'로 인한 잠재적 사이버 위협에 대해 긴급 회의를 소집한 가운데, 중국 국유 은행들은 금융 안정을 최우선시하며 신중한 입장을 고수. 중국 당국은 미국 내 사이버 리스크 전이를 면밀히 모니터링하며, 치명적인 취약점 노출 위험을 사전에 막기 위해 핵심 뱅킹 시스템에 AI를 성급하게 전면 도입하는 것을 유보.
※ 단신. 캐나다의 Evan Solomon AI 장관은 밴쿠버에서 발생한 총격범의 챗봇 악용 사태 이후, 캐나다 AI 안전 연구소가 OpenAI의 시스템과 프로토콜에 접근할 수 있게 되었다고 밝힘. Solomon 장관은 OpenAI가 아동 보호 및 고위험 범죄자 식별을 위한 새로운 안전 조치와 함께 사법 당국(RCMP)과의 직접적 연락망 구축 등을 약속했다고 발언.
중국 국가망신판 등 5개 정부 부처는 AI의 감정적 상호작용 서비스가 사용자에게 미치는 부정적 영향을 막기 위해 새로운 규제 조치를 공동 발표. 26년 7월 시행되는 이 규정은 미성년자에게 유해한 콘텐츠 생성을 금지하고, 사용자의 감정적 의존 유도나 불합리한 의사결정을 조장하는 행위를 엄격히 규제.
OpenAI는 Axios 라이브러리의 공급망 공격 과정에서 macOS 앱 서명 워크플로우가 노출될 위험이 감지됨에 따라, 선제적으로 보안 인증서를 교체하고 업데이트를 안내했다고 밝힘. 사용자 데이터 유출 등 실제 피해는 없으나 안전을 위해 구형 앱 버전의 지원을 중단하며, 사용자는 새로운 인증서가 적용된 최신 버전으로 업데이트하라고 권고.
스탠퍼드 HAI는 대규모 데이터 스크래핑과 프롬프트 인젝션 등으로 인해 파운데이션 모델이 개인 데이터를 무단으로 학습하고 노출하는 심각한 프라이버시 위험을 지적. 기존 개인정보 보호법(GDPR 등)으로는 한계가 있어, 모델 훈련 파이프라인에서 개인 데이터를 제거하고 설계부터 프라이버시를 보장하는 강력한 규제 가드레일이 필요하다고 권고.
OpenAI는 NCMEC 및 사법 당국 등과 협력하여, 생성형 AI 시스템에서 아동 성 착취물을 식별 및 차단하기 위한 기술적, 법적 프레임워크인 '아동 안전 블루프린트'를 공개. 이 프레임워크는 법률 현대화, 조사 효율화를 위한 신고 조정 강화, AI 시스템 설계 단계부터의 안전 조치(Safety-by-Design) 통합 등을 업계 전반에 촉구.
중국 공업정보화부 등 10개 정부 부처는 AI 기술의 안전하고 윤리적인 사용을 통제하기 위해 신규 윤리 심사 및 서비스 지침안(시행)을 공동으로 발표. AI 윤리 거버넌스를 원칙 제시 단계에서 제도화·규범화된 실행 단계로 격상하고, 6대 핵심 가치를 중심으로 데이터 선택과 알고리즘 설계의 적절성을 심사하며, 일반·간이·응급 등 세분화된 심사 절차를 도입.
관계자들에 따르면 미국 주요 AI 기업인 OpenAI, Anthropic, Google은 중국 경쟁사가 자사의 최첨단 AI 모델 결과를 추출하여 복제하는 행위를 막기 위해 협력 중. 프론티어 모델 포럼을 통해 안전장치가 제거된 복제 모델이 국가 안보와 기업 경쟁력에 미치는 위협에 대처하고, 무단 증류(distillation)를 방어하고자 함.
중국 사이버 공간 규제 당국은 사기 및 악의적 여론 조작을 방지하기 위해 AI 기반의 가상 아바타(디지털 휴먼) 서비스에 대한 전면적인 규제 초안을 공개. 서비스 제공자에게 디지털 휴먼임을 명확히 표시하도록 의무화하며, 미성년자에 대한 가상 연인 서비스 제공 및 유해 콘텐츠 유포를 엄격히 금지.
한 연구 논문에서 연구진은 기술 전공 학생들이 AI 위험을 이론적으로는 잘 이해하지만, 실제 응용 상황에서는 위험을 인지하지 못하고 무비판적으로 수용한다는 연구 결과 발표. 전문 지식에 따른 과도한 자신감이 위험 과소평가로 이어지는 현상을 방지하기 위해 실제 시나리오 기반의 실용적 AI 리터러시 교육 도입을 촉구.
자율 AI 에이전트의 실행 실패나 의도치 않은 피해로 인한 위험을 해결하기 위해, 금융 보험에서 착안한 결제 표준인 'ARS'를 도입하자는 논문이 발표. 에이전트의 작동 실패 시 사전에 합의된 보상을 사용자에게 제공함으로써, 막연한 기술적 신뢰를 측정 가능하고 법적으로 집행 가능한 계약적 보증으로 전환하자고 제안.
연구진은 분류 체계를 바탕으로 다양한 국가의 AI 안전 정책 문서들을 대형 언어 모델을 통해 자동으로 비교·분석하는 시스템을 개발. 시스템을 통해 각 문서의 유사도 평가와 요약을 자동으로 수행하며, 전문가 판단과 LLM 평가 간의 차이를 비교해 향후 복잡한 정책 문서 검토의 자동화 가능성을 제시.
한국 과기정통부는 프랑스 고등교육연구우주부와 만나 AI 및 양자 등 핵심 전략 기술 분야에서 양국 간의 협력과 공동 연구를 확대하기로 합의. 한국 AI 안전연구소와 프랑스 국립 디지털과학연구소 간의 정책 대화 채널 구축 및 인력 교류를 추진하고, 핵심 전략 과학기술 분야에서 프랑스와 긴밀히 연대해 글로벌 기술 패권 시대에 공동 대응할 계획.
일본 AISI 산하 헬스케어 워킹그룹은 의료 분야 특유의 위험을 반영한 실무자용 AI 안전 평가 가이드를 발표. 전문 인력이 부족한 기업도 쉽게 대응할 수 있도록 AI 수명주기 5단계에 따른 10가지 평가 항목과 예상 위험을 구체적으로 제시했으며, 향후 평가를 실시할 수 있도록 구체적인 예시를 게재한 실천 가이드도 공개할 예정.
Anthropic이 개발한 코딩 어시스턴트 'Claude Code'의 내부 소스 코드가 직원의 실수로 인해 외부로 유출되는 사고가 발생. AI 안전을 강조해 온 회사의 내부 보안 취약성에 대한 의문이 커지고 경쟁사에게 상업적으로 민감한 핵심 기술 정보가 노출될 위기에 직면.
영국 통신규제청은 온라인 안전법에 따라 40개 이상의 대형 플랫폼 기업에 불법 콘텐츠 및 아동 유해 위험을 자체 평가한 보고서를 제출하도록 법적 통지를 발송. 서비스 설계 단계부터 사용자 안전을 우선시하도록 기업들을 압박하며, 기한 내 적절한 위험 평가를 제출하지 않을 경우 벌금 등 법적 제재를 받을 수 있음을 경고.
K-AISI 주간동향 · Department of Industry Science and Resources · 🗳️
호주 정부는 상원 위원회의 권고에 응답하여, 안전하고 포용적인 AI 도입을 목표로 하는 '국가 AI 계획'을 공식 발표하고, 생산성 혁신 기회 포착, 혜택 확산, 안전 보장의 3대 목표를 설정. 인프라 구축과 중소기업 AI 도입을 지원하는 동시에, 근로자 재교육과 저작권 보호, 선거 공정성 확보 등 AI의 부작용을 막기 위한 법적·제도적 안전망 구축을 병행한다는 것이 주요 골자.
미국 Warren 상원의원은 일론 머스크의 xAI 등에 대한 조사를 무마하고자 트럼프 행정부가 무역 관세를 무기로 유럽 국가들의 기술 규제 완화를 압박한 것에 대해 공식 해명을 요구. 아동 성착취물을 확산시키는 빅테크 플랫폼을 옹호하기 위해 정부가 무역 권한을 남용하여 타국의 정당한 콘텐츠 규제와 조사를 부당하게 방해하고 있다고 강하게 비판.
과학기술정보통신부가 한국정보통신기술협회(TTA), 인공지능안전연구소와 함께 1일 저녁 서울 삼성동 가빈아트홀에서 ‘AI 안전 국민 공감 토크콘서트’를 개최. 정부가 추진 중인 ‘모두의 AI’ 정책의 일환으로, 국민이 일상에서 AI를 안심하고 활용할 수 있는 정책 방안을 마련하기 위해 기획.
K-AISI 주간동향 · Minister for Industry and Innovation and Minister for Science · 📋
호주 연방 정부는 호주 내 AI 기술의 안전성 증진과 국가적 이익 확대를 위해 글로벌 AI 기업 Anthropic과 첫 협력 양해각서를 체결함. Anthropic은 호주의 AI 인프라 지침을 준수하며, 호주 AI 안전 연구소와 협력해 연구자원 제공, 소상공인 및 근로자 역량 강화 등 생태계 발전을 위한 다각적 협력을 약속.
아동 옹호 단체 '커먼센스 미디어'가 어린이 대상 AI 위험성을 평가할 신설 연구소 설립을 위해 주요 AI 기업들에 연 1천만 달러씩 자금을 요청한 사실이 밝혀져 논란. 투자 대가로 빅테크 기업들이 자사 모델 평가 기준 및 절차에 의견을 낼 수 있는 자문위원회 참여를 제안한 것으로 알려져, 객관적 평가기관으로서의 독립성 및 이해상충 문제에 대한 비판이 제기.