🇺🇸 AI 시스템 책임·검증 관련 용어 정의(2024.3.27)
NTIA는 AI 정책 문맥에서 사용되는 핵심 용어들을 정리하며, AI accountability을 AI 개발·배치 주체가 시스템의 위험과/또는 위해에 대해 책임지도록 하는 투명성·assurance 중심의 과정으로 설명한다. 또한 accountability inputs(책임 메커니즘으로 이어지는 정보 흐름·평가), AI actor(시스템 생애주기에서 적극 역할을 하는 조직·개인), AI assurance(신뢰성 주장에 대한 justified confidence), AI audit(투명한 기준에 따른 독립 평가) 등을 정의한다. Red-teaming은 AI 시스템의 결함·취약점을 찾기 위한 구조화된 테스트로, trustworthy AI는 NIST AI RMF의 기준(예: valid·reliable, safe·secure·resilient, accountable·transparent, explainable·interpretable, privacy-enhanced, fair with harmful bias managed)과 White House의 safety·security·trust 3원칙을 근거로 제시된다.