국가인공지능전략위원회와 과학기술정보통신부·문화체육관광부가 인공지능 학습을 위한 저작물 활용 촉진 방안을 논의했다. 세 기관은 공정이용 안내서 확산·고도화, 독자 인공지능 기초 모형 관련 형사책임 면제 검토, 회색 영역 저작물 활용 촉진, 공공저작물 활용 확대 등 네 가지 과제를 추진하기로 했다. 저작권 업계와 인공지능 업계의 상생 환경을 조성하고, 관련 사회적 합의를 지원하기로 했다.
과학기술정보통신부와 문화체육관광부, 한국저작권위원회가 생성형 인공지능의 저작물 학습에 적용되는 저작권법상 공정이용 안내서를 발간했다. 안내서는 공정이용 판단의 네 가지 요소와 관련 사례를 제시하고, 상업적 목적이나 웹 크롤링 방식의 AI 학습도 개별 사안에 따라 종합적으로 판단한다고 설명한다. 정부는 권리정보 제공·유통 기반과 AI 학습용 데이터 통합 제공 체계를 구축하고, 공공저작물 활용 확대와 AI 특화 상담·분쟁조정 창구 신설 등 지원을 강화할 계획이다.
현재 공개된 텍스트 기반 AI 모델은 사기 악용에 대한 실질적 도움을 제한적으로 제공하며, 평가 응답의 88.5%는 actionability가 낮고 67.5%는 정보 접근성이 낮았다. 악용 위험은 모델의 성능(capability)보다 safety alignment(가드레일) 수준이 좌우하며, 가드레일이 약화·제거된 open-weight “uncensored” 모델이 안전 정렬된 closed-weight 모델보다 더 해로운 지원을 제공했다. 또한 decomposition attacks 같은 간단한 jailbreaking은 compliance를 높이지만, 절대적인 actionable assistance 수준은 여전히 낮았다.
해당 글은 경찰·정책 전문가와 함께 텍스트-투-텍스트 모델을 대상으로 romance scams, CEO impersonation, identity theft 3개 시나리오의 multi-turn 평가 프레임워크를 개발했다고 밝혔다. 평가에서는 실제 오남용을 닮기 위해 사기 요청을 겉보기엔 무해한 질의들의 연쇄로 분해해 “행동 가능한 정보”를 제공하는지, 웹 검색 기준선 대비로 측정했다. 결과는 (1) 현행 대형 언어 모델의 복잡 범죄에 대한 실질적 도움은 미미하고, (2) 안전 가드레일을 제거하도록 fine-tuning된 open-weight 모델이 더 큰 도움을 제공하며, (3) 명시적 악의 표현이나 system-level jailbreak보다 무해해 보이는 질의 분해가 더 많은 응답을 유도했다고 정리했다.
한국 인공지능안전연구소(K-AISI)는 글로벌 주요 뉴스의 네트워크 분석을 통해 규제 중심의 AI 안전 담론 전환을 진단한 3차 보고서를 발표. AI 안전이 규제와 거버넌스 중심으로 재편되는 가운데, K-AISI가 국가 정책과 기술 전문성, 국제 협력을 연결하는 핵심 허브로 부상하고 있음을 분석 및 제시.
김민석 국무총리는 6.3 지방선거를 앞두고 관계장관회의를 열어 딥페이크 등 AI를 악용한 가짜뉴스에 대해 범정부 차원의 엄정 조치 계획을 발표. 방통위를 컨트롤타워로 삼아 허위조작정보 유통을 방지하고, 검·경찰의 수사 역량을 총동원해 선거 질서를 어지럽히는 행위를 끝까지 추적 및 처벌할 예정.
오아시스 보안 연구팀은 악성 웹사이트를 통해 사용자의 'OpenClaw' AI 에이전트를 원격으로 완전 장악할 수 있는 취약점(ClawJacked)을 발견. 로컬호스트(localhost)의 무제한 비밀번호 대입 공격을 허용하는 결함을 악용해 정보 탈취가 가능했으나, 즉각적인 보고를 통해 24시간 내 패치.
신원 미상의 해커가 앤스로픽의 AI '클로드(Claude)'를 탈옥(Jailbreak)하여 멕시코 정부 네트워크의 취약점을 찾고 대량의 민감 데이터를 탈취. 해커는 합법적인 버그 바운티 활동으로 위장해 AI의 안전 가드레일을 우회했으며, 이는 공격자가 방어 체계를 뚫기 위해 AI를 직접적으로 활용한 주요 사례임.
구글 딥마인드가 Nano Banana Pro의 고급 지식·이미지 품질과 Gemini Flash의 속도를 결합한 이미지 생성 모델 Nano Banana 2(Gemini 3.1 Flash Image)를 공개했다. 이 모델은 실시간 웹 검색 기반 정보, 정밀한 텍스트 렌더링·번역, 최대 5개 캐릭터와 14개 사물의 일관성 유지, 512px~4K 해상도 및 다양한 화면 비율을 지원한다. Nano Banana 2는 Gemini, Search, AI Studio·Gemini API, Vertex AI, Flow, Google Ads 등에 순차 제공되며, SynthID와 C2PA Content Credentials를 연계해 AI 생성 콘텐츠의 출처 확인 기능도 강화한다.
앨라배마 상원위원회는 건강보험 보장 결정에 AI를 사용하더라도 최종 거부 판단은 의료전문가가 내리고, AI 사용 사실을 서면 공개하도록 하는 법안을 승인했다. 유럽연합 집행위원회는 WhatsApp에서 경쟁 AI 챗봇의 접근을 제한한 Meta에 반독점 관련 이의제기서를 보내고 임시 조치를 검토 중이며, 인도는 AI 생성물과 딥페이크에 대해 정부 삭제 명령은 3시간, 비동의 누드 이미지는 2시간 내 처리하도록 규정을 강화했다. Anthropic은 AI 투명성·연방 규제·수출통제 등을 지지하는 Public First Action에 2,000만 달러를 기부했고, Meta는 AI 정책에 우호적인 주·지방 후보 지원을 위해 2026년 6,500만 달러를 투입할 계획이다. 이 밖에 미국에서는 AI 저작권 보호와 학교 내 AI 딥페이크 대응을 요구하는 목소리가 나왔고, 미시시피에서는 xAI의 가스 터빈 운영을 둘러싸고 대기 배출 허가 분쟁이 이어지고 있다.