2025-06-05

3건

🇺🇸 금융 분야 AI 활용의 잠재 리스크와 미국 규제 현황 (2025.6.5)

공공 · 국제금융센터 · ⚖️📋🔒🎭

금융 분야의 AI 도입이 확대되면서 제3자 서비스 의존에 따른 시장 집중, 군집행동, 모델 오류, 규제 준수 및 사이버보안 문제와 함께 허위정보·프라이버시 침해·공정대출·이해충돌 등의 위험이 발생할 수 있다. 미국 규제당국은 기존 법률과 감독 체계를 중심으로 AI를 관리하고 있으며, AI 활용에 대한 감독·시정·법적 조치를 늘리는 한편 구체적인 지침과 맞춤형 감독을 검토하고 있다. 보고서는 AI 발전과 금융 규제 완화 기조 속에서 도입 확대의 기회와 위험을 균형 있게 평가할 필요가 있다고 제시한다.

🇬🇧 AI 오용 방지 safeguards의 효과를 ‘safety case’로 정량화(2025.06.05)

공공 · AISI-UK · 🔬

safety case 개요: 실제 의사결정에 연결하기 어려운 기존 오용( misuse ) 방지 평가의 ‘증거 조각’ 문제를 보완하기 위해, AI assistant 오용 위험을 낮은 수준으로 만드는 전 과정을 잇는 주장(safety case) 예시를 제시했다. 가상의 개발자가 safeguards를 red team으로 우회하기 위한 노력을 추정한 뒤, 이를 정량적 uplift model에 넣어 safeguards가 오용을 얼마나 억제하는지 산출하고, 배치 중에도 위험 신호를 지속 제공해 위협에 신속 대응하도록 한다. 마지막으로 이러한 구성요소를 단순 safety case로 연결하는 방법을 설명하며, 이는 가능한 경로 중 하나라고 밝힌다.

🇬🇧 AISI Challenge Fund, 월별 사후지급·우선연구분야 문서 갱신·비용 가이드 제공 및 신청자 웨비나(2025.6.5)

K-AISI 주간동향 · AISI-UK

2025.6.12(목) 16:00~17:00(GMT) Applicant Webinar Part 2 개최(등록 링크 제공)

AISI Challenge Fund를 시작한 지 3개월 동안 영국 및 해외에서 100건 이상 신청이 접수됐다고 밝혔다. 프로그램 개선을 위한 피드백을 반영해 성공 과제에 대해 프로젝트 완료 전까지 기다리지 않고 월별 사후지급 방식으로 자금을 지급하며, AISI Research Agenda에 더 맞춰 우선연구분야 문서를 새로 공개했다. 또한 예산 편성 혼선을 줄이기 위해 비용의 적격 항목과 제시 방법을 설명하는 cost guidance를 제공하고, 6월 12일 신청자 웨비나(Part 2)를 통해 연구팀이 관심 있는 연구 유형과 협업 기회를 안내할 예정이다.