AI 안전 다이제스트

🇺🇸 백악관, ‘America’s AI Action Plan’ 공개(2025.7.23)

백악관은 트럼프 대통령의 AI 관련 행정명령에 따라 ‘Winning the AI Race: America’s AI Action Plan’을 발표했다. 이 계획은 Accelerating Innovation, Building American AI Infrastructure, Leading in International Diplomacy and Security 등 3개 축에서 90개 이상 연방 정책 과제를 제시하며, 미국의 AI 수출 패키지 제공, 데이터센터·반도체 공장 인허가 신속화, AI 개발·도입을 가로막는 규제 완화, 프론티어 모델 조달 가이드라인 업데이트 등을 포함한다. 백악관은 이를 통해 미국의 AI 경쟁력과 국가안보를 강화하고 동맹과의 글로벌 협력을 확대하겠다고 밝혔다.

🇺🇸 미국 AI 기술 ‘풀스택’ 수출을 위한 American AI Exports Program 추진(2025.7.23)

대상 일정: 본 행정명령일로부터 90일 내 상무부가 American AI Exports Program을 수립·시행, 제안 공모는 공고 후 90일 이내 제출

미국 백악관은 2025년 7월 23일자 행정명령으로 미국 AI 기술의 해외 채택을 확대하고, 적대국이 개발한 AI에 대한 국제 의존을 줄이기 위한 정책을 제시했다. 상무부는 외교·OSTP 등과 협의해 산업 주도 컨소시엄의 제안을 받아 미국의 AI-최적 하드웨어·데이터 파이프라인·AI 모델·보안조치·응용사례를 포함한 ‘풀스택’ 수출 패키지를 선정하고, 특정 국가/지역을 대상으로 배치하도록 한다. 또한 Economic Diplomacy Action Group(EDAG)이 우선 수출 패키지에 연계할 연방 금융수단을 조정하며, 상무부·국무부·국방부·에너지부·OSTP가 제안 평가 및 우선 패키지 지정을 담당한다.

AI 데이터센터·전력 등 인프라의 연방 인허가를 신속화(2025.7.23)

연방 규제 부담을 줄이고, 연방 소유 토지·자원을 활용해 AI 데이터센터 및 관련 전력·반도체·네트워크·저장 인프라의 신속한 구축을 추진하는 내용의 행정명령이다. 상무부 주도로 ‘Qualifying Project’에 대해 대출·보증·보조금·세제 인센티브·오프테이크 계약 등 금융지원을 마련하고, NEPA 환경검토의 효율화를 위해 범주적 면제(categorical exclusions) 확대 및 FAST-41(신속 검토) 적용 절차를 정한다. 또한 EPA가 브라운필드·슈퍼펀드 부지의 활용을 돕는 지침을 마련하고, 내륙수역·생물종 등 관련 인허가 절차도 프로그램 수준 협의·전국 허가 검토 등을 통해 단축하도록 했다.

🇺🇸 연방정부 조달에서 DEI 등 이념 편향을 배제한 “unbiased AI” LLM만 구매하도록 지침·계약 의무화(2025.7.23)

발행일로부터 120일 내 OMB 등이 이행지침을 발행, 이후 각 기관은 90일 내 준수 절차를 마련하도록 함

본문 요약: 백악관은 연방정부가 대형언어모델(LLM)을 조달할 때 사실성(truth-seeking)과 이념 중립(ideological neutrality)을 원칙으로 삼아, DEI 등 이념 의제가 정확성과 진실성을 훼손하지 않도록 하겠다고 밝혔다. 이를 위해 OMB 등이 120일 내 이행지침을 내고, 각 기관은 해당 지침 이후 체결하는 LLM 계약에 준수 조항과 미준수 시 종료·해지 비용을 공급자에 부과하는 조건을 포함하도록 요구한다. 또한 국가안보 시스템 사용 등에는 예외를 둘 수 있으며, 법령과 예산 집행 가능성에 따라 시행된다고 명시했다.

🇺🇸 트럼프, AI 법 ‘모라토리엄’ 부활(2025.7.23)

연방 예산 집행에서 주(州)의 AI 규제가 ‘혁신을 저해’한다고 판단되면 해당 주에 대한 AI 관련 연방 자금이 제한될 수 있으며, FCC는 주(州) AI 규제가 통신법상 권한 수행을 방해하는지 평가할 계획이다.

백악관이 ‘AI Action Plan’을 공개하며, 주(州)의 AI 규제가 연방 AI 관련 재정 지원에 불리하게 작용할 수 있는 조항을 포함했다. 구체적으로 OMB가 AI 관련 재량(Discretionary) 자금 프로그램에서 주의 규제 환경을 고려해, 규제가 자금의 효과를 저해할 수 있다고 판단되면 자금을 제한하도록 했다. 또한 FCC가 주의 AI 규제가 1934년 통신법에 따른 연방의 의무·권한 수행을 방해하는지 평가하되, 제재 방식은 아직 언급되지 않았다.

🇺🇸 FDA AI ‘Elsa’가 존재하지 않는 연구를 만들어내고 검증 부담을 늘렸다는 지적 (2025.7.23)

FDA는 6월 출시 당시 “ahead of schedule and under budget” 및 임상 프로토콜 검토·과학 평가 기간 단축 등을 내세웠으나, 내부적으로는 AI hallucination(허위 연구 생성)과 문서 접근 한계로 인해 신뢰성 문제가 제기됨

CNN에 따르면 미국 FDA의 AI 도구 ‘Elsa’는 회의록·요약·이메일 템플릿 작성에는 활용될 수 있지만, 일부 직원들은 존재하지 않는 연구를 만들어내거나 연구를 잘못 표현하는 AI hallucination 문제가 있다고 전했다. 또한 Elsa가 업계 제출자료 등 핵심 문서에 충분히 접근하지 못해 의약품 승인 관련 세부 확인 등 검토 업무에는 현재로선 제한적이며, 사용자가 결과를 이중·삼중으로 확인해야 해 오히려 시간 낭비가 늘 수 있다고 지적했다. FDA 측은 Elsa 사용이 선택적이고, 향후 개인 문서 라이브러리 기능 등 개선과 함께 요약에 인용된 근거 확인 기능이 확대될 것이라고 설명했다.