The TESCREAL bundle: AGI ‘안전’ 담론이 20세기 우생학 규범에서 비롯됐다는 주장 (2024.4.14)
인공지능 분야에서 AGI를 “인류 모두에게 유익한 safe AGI”로 만들겠다는 목표를 두고, AGI처럼 정의가 불명확한 시스템은 표준 공학 원칙으로 안전성을 적절히 시험하기 어렵다고 논문은 지적한다. 또한 AGI 구축을 정당화하는 규범적 틀이 20세기 영미권 우생학 전통에 뿌리를 두고 있어, 과거 우생학이 보였던 인종주의·외국인혐오·계급주의·장애인차별·성차별 같은 태도가 AGI 운동 안에 여전히 남아 있다고 주장한다. 그 결과 ‘안전’과 ‘인류에 이로움’이라는 언어로 책임 회피가 이뤄지며, 소외 집단에 해를 주고 권력을 집중시키는 시스템이 만들어질 수 있다고 결론짓고, 연구자들이 AGI 같은 전지(全知) 시스템 대신 안전 프로토콜을 개발할 수 있는 정의된 과제에 집중할 것을 촉구한다.