AI 안전 다이제스트

2025-06-30 · 3건

(기사·공고 게재일 2025.06.30)

K-AISI 주간동향 · 캘리포니아 민권부(California Civil Rights Department, CRD)

캘리포니아 민권위원회는 인공지능(AI)·알고리즘 등 자동화 의사결정 시스템 사용으로 인한 고용 차별을 막기 위한 규정에 대해 최종 승인을 받았다고 밝혔다. 이번 규정은 기존 반차별법이 채용·승진 등 고용 의사결정에서 AI에 어떻게 적용되는지 명확히 하고, 자동화 시스템이 성별·인종·장애 등 보호특성에 근거해 해를 끼치면 법 위반이 될 수 있음을 규정한다. 또한 고용 관련 기록(자동화 의사결정 데이터) 4년 이상 보관, 장애 정보를 끌어내는 평가·질문·퍼즐 게임 등이 불법 의료 질문에 해당할 수 있다는 점, 주요 용어 정의 등을 포함한다.

미 상원 예산안에 ‘AI 모라토리엄’이 들어가 주(州) AI 규제를 5년간 사실상 막을 수 있음(2025.6.30)

K-AISI 주간동향 · 테크크런치(TechCrunch) · ⚖️🧒

상원은 예산안 수정안 표결을 진행 중이며, Cruz·Blackburn 합의로 주 기반 AI 규제 유예 기간이 기존 10년에서 5년으로 단축될 예정입니다. 다만 아동 성착취물·아동 온라인 안전·본인 권리(이름·초상·목소리·이미지) 관련 예외를 두면서도 AI 시스템에 ‘과도하거나 불균형한 부담’을 주지 말아야 한다는 문구가 있어 주 법의 적용 범위가 불명확하다는 지적이 나옵니다. 찬성 측은 주별 규제로 인한 ‘patchwork’가 혁신을 저해할 수 있다고 주장하는 반면, 반대 측은 소비자 보호·안전 입법을 막아 감독 공백을 만들 수 있다고 비판합니다.