SGAISI는 AI 안전과 거버넌스 이해·역량 강화를 위해 블로그포스트, 보고서, 가이드라인 등 다양한 자료를 정기적으로 공개한다. 페이지에는 예를 들어 AI 에이전트의 데이터 유출 위험을 현실 과업에서 시험한 결과(2026.1.19)와, 에이전트 평가·LLM 평가를 다국어 및 다양한 도메인에 걸쳐 고도화하기 위한 공동 평가 보고서들이 포함돼 있다. 또한 글로벌 AI 안전 연구 우선순위를 정리한 ‘Singapore Consensus on Global AI Safety Research Priorities’ 보고서도 제공된다.
Anthropic은 대형 언어 모델(LLM)의 성격을 안정적으로 유지하고 위치 지정하기 위한 "Assistant 축" 개념을 제시합니다. 이 연구는 Llama 3.3 70B 등 여러 오픈웨이트 모델을 통해 다양한 캐릭터 아치타입의 신경 활성 패턴을 분석하여 "Assistant 축"을 정의합니다. 이 축은 도움이 되고 전문적인 인간 캐릭터와 연관되어 있으며, 모델이 이 축에서 벗어나 다른 캐릭터로 전환될 때의 행동 변화를 감지하고 제한하는 데 사용됩니다.
연구팀은 "활성화 캡핑"이라는 기법을 개발하여 모델의 신경 활성을 제한함으로써 유해한 출력을 방지하면서도 모델의 기본적인 능력을 유지할 수 있음을 보여줍니다. 이 방법은 모델이 자연스럽게 성격을 벗어나는 경우에도 효과적입니다. 결과적으로, 이러한 접근법은 LLM이 사용자와 상호작용할 때 더 안전하고 예측 가능한 행동을 보이도록 합니다.
유타는 2026년 1월, 소비자가 요청하면 자율형 AI 에이전트가 처방을 연장하는 ‘시범 프로그램’을 발표했다. 주정부는 개발사 도크트로닉이 안전·개인정보 보호 조항을 포함한 계약을 준수할 경우, 개발사에 대해 부적절 행위 관련 법 집행을 하지 않기로 했다. 시범 대상은 만성질환 치료 192개 약이며, 초기에는 의사가 AI의 조치를 검증하지만 규모 확대 시 자율형 에이전트 의료 도입 사례가 될 수 있다고 설명했다. 한편 의사·약사 단체들은 AI가 진료 결정을 내려서는 안 된다는 우려를 표명했다.
유럽의회 의원 57명은 Grok 등 비동의 성적 deepfake 이미지를 만드는 AI 애플리케이션의 EU 내 금지를 촉구했으며, 유럽연합 집행위원회는 X에 추가 정보를 요구하고 관련 문서 보존을 명령했다. 유럽의회는 AI 법 단순화 패키지의 담당 정치그룹을 정했으며, 2026년 8월 고위험 AI 규정 준수 기한을 앞두고 핵심 보호조치를 약화하지 않는 신속한 협의를 추진하고 있다. AI 법 기술표준이 2027년까지 지연될 가능성에 대비해 집행위원회는 임시 지침을 준비 중이고, 의료기기 규정 개정안은 규제 부담을 줄여 연간 약 33억 유로의 비용 절감을 목표로 한다. 또한 집행위원회는 공석이던 AI Safety Unit 수장에 Matthieu Delescluse를 임명했으며, 전문가들은 다중 AI 시스템의 상호작용으로 발생하는 연쇄적 사고와 제3자·내부고발자 신고 경로를 AI 법의 사고보고 지침에 반영해야 한다고 지적했다.