AI 안전 다이제스트

2025-06-26 · 8건

🇪🇺🇰🇷 EU 「AI 대륙 행동계획」 분석 (2025.6.26)

공공 · 한국산업기술진흥원

한국산업기술진흥원은 EU가 ‘신뢰할 수 있는 인간 중심 AI’ 실현과 AI 선도 대륙 도약을 위해 수립한 「AI 대륙 행동계획」을 분석했다. 계획은 연산 인프라 구축, AI 데이터 공유, 혁신 및 AI 도입 촉진, AI 인재 강화, 규제 준수 및 간소화의 5대 핵심 영역으로 구성된다. 한국은 이를 참고해 AI 인프라와 데이터 생태계를 확대하고, 산업 맞춤형 AI 도입 지원 및 인재 양성을 강화할 필요가 있다.

🇬🇧 감독기관 FRC, 감사사무소의 특정 분야 정책·절차를 비교·점검하는 Audit Thematic Reviews(2025.6.26)

K-AISI 주간동향 · 영국 재무보고위원회(FRC, Financial Reporting Council)

FRC는 감사사무소의 품질관리 체계와 감사 수행 전반을 대상으로, 특정 주제에 대해 범위를 좁혀 정책·절차를 비교하고 공통 약점 및 우수사례를 도출하는 주제별 점검 보고서를 발간한다. 2025년 6월 26일자 보고서는 6대 대형 감사사무소의 Automated Tools and Techniques(ATTs) 인증을 위한 프로세스와 통제를 점검해 모든 감사사무소가 상황에 맞게 참고하도록 했다. 이 페이지에는 ISQM(UK) 1의 RCA(근본원인분석), 네트워크 자원·서비스 제공자 평가, Hot review processes, 감사표본추출, IFRS 9 방법론 적용 등 다양한 주제의 과거 Thematic review 목록과 각 보고서의 발행일이 정리돼 있다.

연준 의장 파월 “AI가 향후 노동시장에 큰 변화” (2025.6.26)

K-AISI 주간동향 · FedScoop

파월은 현재 시점에서 AI의 경제 영향은 “크지 않을 가능성”이지만, 앞으로 몇 년 내 노동시장에 “중요한 변화”를 가져올 것이라고 밝혔다. AI는 생산성을 높이거나 대체하거나 둘 다를 유발할 수 있으며, 영향의 규모와 시점은 불확실하다고 설명했다. 또한 연준은 AI를 상당 부분 내부적으로 활용(2024년 AI inventory의 50개 use case)하고 있으며, 예측·신용 모델·공정대출 기준 등에서 발생 가능한 사회·노동시장 이슈를 완화하기 위해 노력 중이라고 말했다.

🇬🇧 Inspect Cyber, agentic 사이버 평가 표준화·간소화(2025.6.26)

K-AISI 주간동향 · AISI-UK · 📏

Inspect Cyber는 AI의 사이버 영역 활용이 확대되는 가운데, agentic 사이버 평가를 더 엄격하고 현실적이며 재현 가능하게 만들기 위해 개발된 오픈소스 Python 패키지다. 기존에는 샌드박스 인프라 구축, 에이전트-모델 연결, 실행 스크립트 작성 등 반복 설정 때문에 개발 시간이 늘고 협업·재현성이 저하된다는 문제가 있었다. Inspect Cyber는 두 개의 설정 파일로 평가와 인프라를 구성하고, 다양한 변형 생성·solvability 검증·권장 프로젝트 구조 등을 제공하며, Inspect 플랫폼 기반 기능(다양한 모델 실행, 샌드박스, 점수화, 인간 감독/베이스라인 정책 등)도 함께 활용할 수 있다.

🇯🇵 AISI-Japan, NICT 오픈하우스 2025에서 강연(2025.6.26)

K-AISI 주간동향 · Japan AISI

2025년 6월 20일(금) NICT 오픈하우스 2025 행사에 참여해 AISI-Japan의 무라카미 소장이 ‘생성 AI의 사회적 영향: 안전과 이노베이션의 양립’ 주제로 강연을 진행했다. 행사는 NICT 본부(도쿄 고가네이시)와 온라인을 병행해 열렸다.

🇺🇸 NPL TSALC를 PPG 웨어러블 기반 심방세동(AF) 검출 AI에 적용한 생애주기 사례 연구(2025.6.26)

공공 · 영국 국립물리연구소(NPL) Publications · 🏥

NPL은 AI의 위험을 소프트웨어 개발 과정과 AI 신뢰성 지표로 연결하는 Trustworthy and Safe AI Life Cycle(TSALC)을 개발했으며, 이를 PPG 신호 센서를 갖춘 웨어러블 AI 의료기기의 AF 검출 사례에 적용한 보고서를 공개했다. 보고서는 임상의가 AF 의심 환자를 대상으로 기기를 사용해 진단 자원(예: ECG 모니터) 우선순위를 정하는 가상의 시나리오를 두고, NIST AI Risk Management Framework를 참고해 위험 분석과 완화 방법론을 제시한다. 또한 학계·산업·NHS 전문가 입력을 바탕으로 구체적 위험과 완화책을 도출하고, AI 신뢰성과 관련된 소프트웨어 공학 과제 및 일부 신뢰성 측정 지표를 설명한다.