AI가 군사 의사결정(2025.4.1)을 개선할 수 있지만 데이터 편향·불확실성·인간-기계 상호작용 위험을 줄이기 위한 범위·훈련·위험완화가 필요함(2025.4.1)
CSET 보고서는 군의 AI-enabled decision support systems(DSS)가 상황인식과 작전 의사결정을 빠르게 하는 데 도움을 줄 수 있다고 보면서도, AI 적용의 한계와 리스크를 고려한 책임 있는 통합이 필요하다고 설명한다. 특히 AI-DSS의 intended operational decision-making을 위해 (1) 범위·맥락 변화·예측 가능성·불명확한 시스템 사용 위험과 (2) 학습 데이터 품질·편향·전장 데이터 희소성, (3) LLM의 허위/과신 가능성 및 인간·조직의 인지·자동화 편향을 중점 위험요소로 제시한다. 이를 바탕으로 배치 기준을 맥락·위험에 맞춰 설정하고, 운용자 자격 훈련과 지속 인증, Responsible AI Officer 지정, 사고·피해 기록을 권고한다.