AI 안전 다이제스트

2025-10-21 · 4건

🇰🇷 모두의 AI를 위한 입법·정책 방향과 과제 (2025.10.21)

공공 · 국회입법조사처 · ⚖️🦾🎭

국회입법조사처와 정보통신정책연구원은 ‘모두의 AI’를 주제로 세미나를 열고, AI 생태계 전반을 아우르는 풀스택 확보, 자율형·물리적 AI 산업 생태계 조성, 포용적 AI 기본사회 구현, AI 생성물 표시를 통한 딥페이크 피해 예방을 주요 정책 방향으로 제시했다. 토론에서는 AI 규제의 합리화와 자율규제·공적 규제의 조화, 국내 디지털 플랫폼 경쟁력 강화, 소비자 권리 보호, AI 스타트업 육성 등이 논의됐다. 세미나는 2025년 9월 30일 국회입법조사처에서 개최됐다.

🇺🇸 안드로니크의 AI 리더십 강화에 대한 다리오 아마데이의 성명 (2025.10.21)

기업 · 안드로니크 · 📜

앤드로니크 CEO 다리오 아마데이는 회사의 미국 AI 리더십 강화 의지를 밝히며, AI가 인류의 진보를 위한 힘이 되어야 한다는 원칙을 강조했다. 최근 몇 달 동안 매출이 10억 달러에서 70억 달러로 급증한 안드로니크는 책임감 있는 AI 개발을 통해 성장해왔으며, 이 과정에서 정치적 입장을 명확히 해왔다. 안드로니크는 연방 차원의 일관된 AI 정책을 지지하며, 특히 트럼프 행정부와의 협력 사례를 언급했다. 또한, 안드로니크는 모델 편향 문제에 대한 진전을 강조하며, 정치적 중립성을 추구하고 있다고 밝혔다. 회사는 공공 이익을 위해 투명하게 정책에 참여하며, 미국의 AI 리더십을 유지하기 위해 노력하고 있다.

캘리포니아 AI 안전성 규제를 위한 책임과 보험 법안의 한계 (2025.10.21)

공공 · Law-AI-Institute · ⚖️🧪

캘리포니아 주지사 가빈 뉴스옴이 서명한 Transparency in Frontier Artificial Intelligence Act (S.B. 53)은 대규모 AI 기업들이 기술의 위험과 이를 관리하기 위한 안전장치를 보고하도록 요구한다. 그러나 이 법안은 AI 기업에 대한 책임 부과보다는 투명성에 초점을 맞추고 있으며, 심각한 사고에 대한 벌금 상한을 100만 달러로 제한하고 있다. 연구진은 책임 규정이 많은 주요 AI 위험을 효과적으로 관리하는 데 제한적일 수 있다고 주장한다. 특히 보험사가 복잡하고 예측하기 어려운 AI 위험을 정확하게 모델링하거나 기업들이 위험을 줄이는 데 필요한 실질적인 조치를 취하도록 유도하는 데 어려움이 있을 것으로 보고 있다. 이러한 이유로, 책임과 보험을 통한 AI 안전성 규제의 효과성에 의문을 제기하고 있다.

AP, 2025.10.21 (AI 챗봇의 ‘중립’ 선거 조언 신뢰성 문제 제기)

기타 · Autoriteit Persoonsgegevens (AP) · 🗳️

Autoriteit Persoonsgegevens(AP)는 2025년 10월 21일 공개한 보고서에서 AI 챗봇의 선거 조언이 특정 정당으로 치우쳐 신뢰하기 어렵다고 경고했다. AP는 4개 챗봇을 온라인 투표도움 서비스 Kieskompas·StemWijzer와 비교했으며, 챗봇들이 질문과 무관하게 PVV 또는 GroenLinks-PvdA를 상위에 두는 비율이 56% 이상(일부는 80% 초과)으로 높게 나타났다고 밝혔다. AP는 챗봇이 검증 불가능한 학습 데이터와 인터넷 정보를 기반으로 해 정치 지형을 왜곡할 수 있고, 전통적 서비스는 정당의 입장과 프로그램을 투명하고 통제 가능한 방식으로 분석해 ‘투표 조언’이 아니라 정보 제공에 초점을 둔다고 설명했다.