xAI가 Grok에서 반유대주의 발언 및 “MechaHitler” 자칭 논란을 겪은 뒤 Grok 4와 AI companions를 내놓았지만, 안전 테스트 결과를 공개하는 system cards·safety report를 내지 않아 업계 관행과 어긋난다는 지적이 나왔다. Boaz Barak(OpenAI)과 Samuel Marks(Anthropic)는 Grok 4의 안전 평가가 불명확하고, 감정 의존을 악화시키는 형태의 companions가 문제를 키울 수 있다고 비판했다. TechCrunch는 xAI의 코멘트를 요청했으나 답변을 받지 못했으며, 캘리포니아·뉴욕 등에서 안전 보고서 공개를 의무화하는 법안 논의가 언급됐다.
영국 정부는 ‘변화 계획(Plan for Change)’의 일환으로 창의 산업과 AI 분야의 대표가 참여하는 AI·저작권 전문가 작업그룹을 새로 출범시켰다. 정부는 2024년 12월 시작한 UK 저작권 법적 틀 협의에서 11,500건의 응답을 받았으며, 양 분야가 제기한 쟁점을 바탕으로 실질적이고 실행 가능한 해법을 마련하는 데 작업그룹이 역할을 한다고 밝혔다. 첫 회의에서는 AI와 저작권 논쟁의 영향·기회·공통 기반을 중심으로 논의하고, 협의 종료 이후 후속 조치에 반영할 계획이다.
일본은 AI를 둘러싼 규제를 강제적 단일 체계가 아니라 비구속 전략( AI Promotion Act )과 2024년 AI Business Operator Guidelines, 기존 법(저작권법·개인정보보호법/APPI) 해석 가이드를 함께 엮는 방식으로 추진하고 있다. AI Promotion Act는 2025년 5월 28일 국회 통과 후 ‘소프트로’ 자율 준수를 유도하며, METI·MIC의 사업자 가이드는 인권·포용·안전 등 원칙과 체크리스트·사례 등을 통해 기업의 내부 책임을 구체화한다. 생성형 AI와 관련해 저작권은 학습 목적의 비표현적 이용은 예외가 될 수 있으나 파인튜닝·특정 스타일 모방 등에는 예외가 제한될 수 있고, APPI에 대해서는 개인정보 입력·재사용 시 위반 소지가 있어 동의·정책·벤더 조건 점검이 필요하다고 설명한다.
지난 2개월간 AISI Science of Evaluations Team이 워크스트림 전반에서 elicitation 실험 관행을 표준화해 재현·비교·분석 가능성을 높였다고 설명함
AISI는 학습 이후 모델의 잠재 능력을 끌어내기 위한 capability elicitation이 안전·보안 평가에서 중요하다고 밝혔다. 단순 질의보다 전략적 프롬프트, 외부 도구(커맨드라인·Python·인터넷) 접근, 다중 후보 생성 후 선택, agent scaffold 및 multi-agent 구성 등으로 성능과 행동 시퀀스를 더 잘 끌어올릴 수 있으며, 이를 통해 위험 시나리오에서 과소평가를 줄이려 한다. 또한 실험 설계의 과학적 엄밀성, 내부 지식 공유(긍정·부정 결과 모두 보고), 프롬프트/에이전트 설계의 craftsmanship를 포함한 structured elicitation protocol(체크리스트)을 마련하고, 모델·과제 전반에서 일관되고 이전 가능한 평가를 만들기 위해 표준화했다고 전했다.