AI 안전 다이제스트

2023-07-10 · 1건

실리콘밸리의 AI 비전은 ‘종교’를 다시 포장한 것(2023.7.10)

언론 · 복스(Vox) · 🗳️

실리콘밸리에서 초지능을 향한 기대가 죽음 회피(마음의 클라우드 업로드), 수학적 확실성에 기반한 최적의 판단, AGI가 잘되면 구원·나쁘면 파멸을 가져온다는 서사 등 종교적 구원/종말론과 유사한 틀을 공유한다고 설명한다. 이런 관점은 중세 기독교의 기술·도덕 진보 결합(구원으로서의 기술)과 같은 역사적 흐름에서 이어져 왔으며, 이후 트랜스휴머니즘·effective altruism·longtermism 같은 사상이 실리콘밸리의 AI 구상에 영향을 주었다고 본다. 또한 종교적 ‘성스러움’이 위해를 정당화할 수 있어 내러티브를 무비판적으로 받아들이는 데 주의가 필요하다고 강조한다.