2026-04-25

4건

🇪🇺🇺🇸 (2026.4.25) 에이전틱 AI 거버넌스 리소스 가이드 업데이트: 80+ 자료와 9개 카테고리

언론 · Oliver Patel(Enterprise AI Governance) Substack · ⚖️📋🤖🚀

에이전틱 AI 거버넌스를 주제로 80개+ 권위 있는 자료를 모은 ‘Ultimate Agentic AI Governance Resource Guide’가 업데이트됐다. 자료는 기술 기반, 기업의 에이전트 개발·배포, 위험과 과제, 보안·안전 중심의 완화책, 평가·관측, 인권 감독·책임·책임소재, 거버넌스 프레임워크, EU AI Act 및 GDPR 적용, 그리고 AI 제공자 지침·사용 정책 등 9개 카테고리로 정리된다. OECD, NIST, 영국 AI 보안 관련 기관, 스페인·유럽·네덜란드 DPA, 유럽 집행위원회 등 주요 기관의 산출물과 학계·산업 기여가 다수 포함되며, 특히 Anthropic·OpenAI·Microsoft·Google의 ‘사용 정책/가이드’ 흐름을 반영한 신규 카테고리가 추가됐다.

DeepMind, 생성형 AI 평가 비용을 줄이기 위한 ProEval 제안(2026.4.25)

DB · AI-Risk-Explorer

ProEval은 사전학습된 가우시안 프로세스(GP) 기반으로 성능을 빠르게 추정하고 실패 사례를 적극적으로 찾아내는 평가 프레임워크다. 성능 추정은 베이지안 쿼드러처(Bayesian quadrature)로 불확실성을 반영해 적은 샘플로도 정확도를 높이며, 실패 탐지는 superlevel set sampling으로 오류/안전 위반이 발생할 가능성이 큰 입력 영역을 집중적으로 탐색한다. 실험 결과, 기준 성능 대비 ±1% 오차에 도달하는 데 필요한 샘플 수를 8~65배 줄이면서 더 다양한 실패 사례를 더 엄격한 예산 내에서 발견했다고 설명한다. 또한 코드와 데이터는 GitHub에 공개했다.