J-AISI 연구진, LLM을 활용한 글로벌 AI 안전 정책 자동 분석 프레임워크 제안 (2026.4.4)
연구진은 분류 체계를 바탕으로 다양한 국가의 AI 안전 정책 문서들을 대형 언어 모델을 통해 자동으로 비교·분석하는 시스템을 개발. 시스템을 통해 각 문서의 유사도 평가와 요약을 자동으로 수행하며, 전문가 판단과 LLM 평가 간의 차이를 비교해 향후 복잡한 정책 문서 검토의 자동화 가능성을 제시.
연구진은 분류 체계를 바탕으로 다양한 국가의 AI 안전 정책 문서들을 대형 언어 모델을 통해 자동으로 비교·분석하는 시스템을 개발. 시스템을 통해 각 문서의 유사도 평가와 요약을 자동으로 수행하며, 전문가 판단과 LLM 평가 간의 차이를 비교해 향후 복잡한 정책 문서 검토의 자동화 가능성을 제시.
AI 거버넌스에 관한 신간 교재를 집필해 이론과 실제 구현의 격차를 잇기 위한 목적이라고 소개했다. EU AI Act, GDPR, NIST AI Risk Management Framework 등과 15개 이상 관할의 규정을 다루며, 프라이버시 엔지니어링·차등 프라이버시, 보안 기초·적대적 위협 모델링·AI 감사 방법론 및 구현 템플릿을 포함한다고 밝혔다. 또한 데이터·모델·시스템·모니터링·감사로 이어지는 5계층 프레임워크(“AI Governance Stack”)를 핵심으로 제시하고, 500페이지 버전은 링크를 통해 무료로 제공한다고 적었다.
NIST AI 800-4는 AI 배포 이후 지속 모니터링의 필요성을 강조하며, 사전 테스트만으로는 부족하다고 설명합니다. 글은 배포 후 드리프트, 환각, 실환경 실패를 포착하기 위해 모니터링이 필수가 됐다고 전합니다. 또한 모니터링을 기능(Functionality), 운영(Operational), 인간요인(Human Factors), 보안(Security), 준수(Compliance), 대규모 영향(Large-Scale Impacts) 등 6개 범주로 정리하는 프레임워크를 소개합니다. 동시에 무엇을 얼마나 자주 모니터링할지, 책임을 누가 질지에 대한 합의가 부족하다는 ‘표준 공백’과, 오픈 웨이트 모델의 경우 다운스트림 모니터링이 사실상 어렵다는 점을 우려로 제시합니다.
해커들이 유출된 Anthropic의 Claude AI 소스코드를 악성코드를 포함한 형태로 온라인에 배포하고 있으며, GitHub 및 포럼에서 정상 저장소로 위장해 내려받는 사용자가 백도어와 자격정보 탈취 기능에 감염될 수 있다고 전했다. 동시에 FBI는 법원 승인 감청에 사용되는 감시 도구가 침해를 당해 국가안보 위험이 발생했다고 확인했으며, Cisco도 진행 중인 공급망 공격의 일환으로 소스코드를 절도당했다고 밝혔다. 보안 전문가들은 이번 사건들이 짧은 기간에 동시다발적으로 발생해 AI 보안 취약점과 중요 인프라 공격이 한 단계 더 고도화된 신호라고 경고했다.