AI 안전 다이제스트

2026-09-14 · 2건

🇰🇷 커져만 가는 AI 기업의 영향력 (2026.9.14)

언론 · AI-Ethics-KR · 🚀

오픈AI의 수학 난제 해결 발표를 둘러싸고 선행 연구와 사용자 데이터 활용 여부에 대한 논란이 일었으며, AI 기업의 성과가 마케팅 중심으로 소비될 수 있다는 우려가 제기됐다. 앤트로픽 CEO는 AI 개발 속도를 늦추기 위해 외부 평가자 도입, 민주주의 국가 기업 간 협력, 국제 협약을 제안했지만, AI 기업 수장들이 국제 AI 질서의 주요 결정자로 자리매김하려 한다는 비판적 시각도 소개됐다. 한국에서는 기업 출신 인사들이 국가 AI 정책의 핵심 보직에 임명됐고, 개인정보 활용 확대 등을 성과로 내세우면서 정책이 기업 이해관계에 치우치지 않도록 다양한 목소리를 반영해야 한다는 과제가 제시됐다.

🇬🇧 영국 인권공동위원회, 심각한 인권 위험에 대응할 포괄적 AI 법안 촉구 (2026.9.14)

DB · GlobalAIRegTracker · ⚖️

영국 인권공동위원회는 기존 법·규제 체계가 AI의 복잡한 공급망과 빠른 발전으로 인한 인권 위험을 충분히 예방·대응하지 못한다며 새로운 포괄적 AI 법안이 필요하다고 촉구했다. 보고서는 위험도에 따른 의무 부과, 고위험 AI의 사전 승인, 일부 용도의 금지, AI 사용 사실과 의사결정 방식의 투명성 강화를 제안했다. 또한 전 생애주기를 감독하고 제재 권한을 갖는 독립적 단일 AI 감독기구를 법률에 따라 설치하고, 자동화된 의사결정에 대한 이의제기와 구제 수단을 강화해야 한다고 밝혔다.