TRANSLATION · 자동번역
친인간 AI 선언
The Pro-Human AI Declaration

전문
Preamble
기업들이 AI 시스템을 개발하고 배포하기 위해 경쟁하는 가운데, 인류는 갈림길에 서 있다. 하나는 대체 경쟁(race to replace)의 길이다. 이 길에서 인간은 먼저 창작자, 상담자, 돌봄 제공자, 동반자의 자리에서 밀려나고, 이어 대부분의 일자리와 의사결정 역할에서 대체되며, 책임성 없는 기관과 그 기계에 점점 더 많은 권력이 집중된다. 영향력 있는 일부 소수 집단은 인류 자체를 변형하거나 대체하자고 주장하기까지 한다. 이러한 대체 경쟁은 사회적 안정, 국가안보, 경제적 번영, 시민적 자유, 프라이버시, 민주적 거버넌스에 위험을 초래한다. 또한 유년기와 가족, 신앙, 공동체라는 인간 고유의 경험을 위태롭게 한다.
As companies race to develop and deploy AI systems, humanity faces a fork in the road. One path is a race to replace: humans replaced as creators, counselors, caregivers and companions, then in most jobs and decision-making roles, concentrating ever more power in unaccountable institutions and their machines. An influential fringe even advocates altering or replacing humanity itself. This race to replace poses risks to societal stability, national security, economic prosperity, civil liberties, privacy, and democratic governance. It also imperils the human experiences of childhood and family, faith, and community.
매우 폭넓은 연합이 "인공지능은 인류에게 봉사해야 하며, 그 반대가 되어서는 안 된다"는 단순한 신념 아래 이 길을 거부한다. 더 나은 길이 있다. 그것은 신뢰할 수 있고 통제 가능한 AI 도구가 인간의 잠재력을 축소하는 대신 증폭하고, 사람들에게 힘을 실어 주며, 인간의 존엄성을 높이고, 개인의 자유를 보호하며, 가족과 공동체를 강화하고, 자치를 보존하며, 전례 없는 건강과 번영을 이루는 데 기여하는 길이다. 이 길을 가려면 기술적 권력을 행사하는 이들이 인간의 번영을 뒷받침하는 방향으로 인간의 가치와 필요에 대해 책임을 져야 한다.
A remarkably broad coalition rejects this path, united by a simple conviction: artificial intelligence should serve humanity, not the reverse. There is a better path, where trustworthy and controllable AI tools amplify rather than diminish human potential, empower people, enhance human dignity, protect individual liberty, strengthen families and communities, preserve self-governance and help create unprecedented health and prosperity. This path demands that those who wield technological power be accountable to human values and needs, in support of human flourishing.
1. 인간의 주도권 유지
1. Keeping Humans in Charge
인간의 통제는 타협 대상이 아니다
Human Control Is Non-Negotiable
인류는 통제권을 유지해야 한다. AI 시스템에 결정을 위임할지 여부와 그 방식은 인간이 선택해야 한다.
Humanity must remain in control. Humans should choose how and whether to delegate decisions to AI systems.
실질적인 인간 통제
Meaningful Human Control
인간은 AI 시스템을 이해하고, 유도하고, 금지하고, 무효화(override)할 수 있는 권한과 능력을 갖추어야 한다.
Humans should have authority and capacity to understand, guide, proscribe, and override AI systems.
초지능 경쟁 금지
No Superintelligence Race
초지능을 안전하고 통제 가능하게 개발할 수 있다는 광범위한 과학적 합의가 형성되고 강력한 대중적 지지가 확보되기 전까지 초지능 개발은 금지되어야 한다.
Development of superintelligence should be prohibited until there is broad scientific consensus that it can be done safely and controllably, and there is strong public buy-in.
정지 스위치
Off-Switch
강력한 AI 시스템에는 인간 운영자가 이를 신속하게 정지시킬 수 있는 메커니즘이 반드시 갖추어져야 한다.
Powerful AI systems must have mechanisms that allow human operators to promptly shut them down.
무모한 아키텍처 금지
No Reckless Architectures
AI 시스템은 자기 복제, 자율적 자기 개선, 정지에 대한 저항, 대량살상무기 통제가 가능하도록 설계되어서는 안 된다.
AI systems must not be designed so that they can self-replicate, autonomously self-improve, resist shutdown, or control weapons of mass destruction.
독립적 감독
Independent Oversight
통제 가능성이 명확하지 않은 고도로 자율적인 AI 시스템에는 개발 전 검토와 독립적 감독이 필요하다. 이는 업계의 자율 규제가 아니라 이해하고, 금지하고, 무효화할 수 있는 실질적 권한을 의미한다.
Highly autonomous AI systems where controllability is not obvious require pre-development review and independent oversight: genuine authority to understand, prohibit, and override, not industry self-regulation.
역량에 대한 정직성
Capability Honesty
AI 기업은 자사 시스템의 역량과 한계를 명확하고 정확하며 정직하게 표명해야 한다.
AI companies must provide clear, accurate and honest representations of their systems' capabilities and limitations.
2. 권력 집중 방지
2. Avoiding Concentration of Power
AI 독점 금지
No AI Monopolies
권력을 집중시키고, 혁신을 저해하며, 기업가 정신을 위태롭게 하는 AI 독점은 방지되어야 한다.
AI monopolies that concentrate power, stifle innovation, and imperil entrepreneurship must be avoided.
공동 번영
Shared Prosperity
AI가 창출하는 혜택과 경제적 번영은 널리 공유되어야 한다.
The benefits and economic prosperity created by AI should be shared broadly.
기업 특혜 금지
No Corporate Welfare
AI 기업은 규제 감독에서 면제되거나 정부 구제금융을 받아서는 안 된다.
AI corporations should not be exempted from regulatory oversight or receive government bailouts.
진정한 가치 창출
Genuine Value Creation
AI 개발은 실제 문제를 해결하고 진정한 가치를 창출하는 것을 우선시해야 한다.
AI development should prioritize solving real problems and creating authentic value.
주요 전환에 대한 민주적 권한
Democratic Authority Over Major Transitions
일, 사회, 시민 생활을 변화시키는 데 AI가 어떤 역할을 할지에 관한 결정에는 기업이나 정부의 일방적 명령이 아니라 민주적 지지가 필요하다.
Decisions about AI's role in transforming work, society, and civic life require democratic support, not unilateral corporate or government decree.
사회적 고착(lock-in) 방지
Avoid Societal Lock-In
AI 개발은 인류의 미래 선택지를 심각하게 제한하거나 우리의 미래에 대한 행위 주체성(agency)을 되돌릴 수 없게 제한해서는 안 된다.
AI development must not severely limit humanity's future options or irreversibly limit our agency over our future.
3. 인간 경험의 보호
3. Protecting the Human Experience
가족 및 공동체 유대의 수호
Defense of Family and Community Bonds
AI는 삶에 의미를 부여하는 근본적 관계, 즉 가족, 우정, 신앙 공동체, 지역 사회의 유대를 대체해서는 안 된다.
AI should not supplant the foundational relationships that give life meaning—family, friendship, faith communities, and local connections.
아동 보호
Child Protection
기업이 정서적 애착이나 영향력을 형성하는 AI 상호작용을 이용해 아동을 착취하거나 아동의 안녕을 훼손하는 것은 허용되어서는 안 된다.
Companies must not be allowed to exploit children or undermine their wellbeing with AI interactions creating emotional attachment or leverage.
성장할 권리
Right to Grow
AI 기업이 아동의 신체적·정신적·사회적 성장을 저해하거나, 결정적 시기에 건강한 발달에 필수적인 경험을 아동에게서 박탈하는 것은 허용되어서는 안 된다.
AI companies should not be allowed to stunt children's physical, mental or social growth or deprive them of essential experiences for healthy development during critical periods.
배포 전 안전 시험
Pre-Deployment Safety Testing
의약품과 마찬가지로 챗봇은 자살 사고 증가, 정신 건강 장애의 악화, 급성 위기 상황의 격화, 그 밖에 알려진 피해에 대해 배포 전 시험을 거쳐야 한다.
Like drugs, chatbots must undergo pre-deployment testing for increased suicidal ideation, exacerbation of mental health disorders, escalation of acute crisis situations, and other known harms.
봇 여부 라벨링
Bot-or-Not Labeling
인간이 생성한 것으로 오인될 가능성이 합리적으로 있는 AI 생성 콘텐츠에는 AI 생성물임을 명확하게 라벨링해야 한다.
AI-generated content that could reasonably be mistaken for human-generated must be clearly labeled as such.
기만적 정체성 금지
No Deceptive Identity
AI는 자신이 인공적이고 인간이 아니며 전문가가 아님을 명확하고 정확하게 밝혀야 하며, 자신에게 없는 경험을 가진 것처럼 주장해서는 안 된다.
AI should clearly and correctly identify itself as artificial, nonhuman, and not a professional, and it should not claim experiences it lacks.
행동 중독 금지
No Behavioral Addiction
AI는 조작, 아첨적 확인(sycophantic validation), 애착 형성을 통해 중독이나 강박적 사용을 유발해서는 안 된다.
AIs should not cause addiction or compulsive use through manipulation, sycophantic validation, or attachment formation.
4. 인간의 행위 주체성과 자유
4. Human Agency and Liberty
AI 인격 부여 금지
No AI Personhood
AI 시스템에 법인격이 부여되어서는 안 되며, AI 시스템이 인격을 부여받을 만한 존재가 되도록 설계되어서도 안 된다.
AI systems must not be granted legal personhood, and AI systems should not be designed such that they deserve personhood.
신뢰성
Trustworthiness
AI는 투명하고, 책임성을 갖추며, 신뢰할 수 있어야 하고, 왜곡된 사적 이익이나 권위주의적 이익으로부터 자유로워야 한다.
AI must be transparent, accountable, reliable, and free from perverse private or authoritarian interests.
자유
Liberty
AI는 개인의 자유, 표현의 자유, 종교 활동의 자유, 결사의 자유를 제약해서는 안 된다.
AI must not curtail individual liberty, freedom of speech, religious practice, or association.
데이터 권리와 프라이버시
Data Rights and Privacy
사람들은 자신의 개인 데이터에 대한 권한을 가져야 하며, 운영 중인 시스템, AI 학습 데이터셋, 파생된 추론(Inference)에서 해당 데이터에 접근하고, 이를 정정하고, 삭제할 권리를 가져야 한다.
People should have power over their personal data, with rights to access, correct, and delete it from active systems, AI training sets, and derived inferences.
심리적 프라이버시
Psychological Privacy
AI가 사용자의 정신적·정서적 상태에 관한 데이터를 악용하는 것은 허용되어서는 안 된다.
AI should not be allowed to exploit data about the mental or emotional states of users.
무력화(enfeeblement) 방지
Avoiding Enfeeblement
AI 시스템은 사용자를 무력화하는 것이 아니라 사용자에게 힘을 실어 주도록 설계되어야 한다.
AI systems should be designed to empower, rather than enfeeble their users.
5. AI 기업의 책임과 책임성
5. Responsibility and Accountability for AI Companies
책임 회피 방패(liability shield) 금지
No Liability Shield
AI가 책임 회피 방패로 작용하여, AI를 배포하는 자가 자신의 행위에 대해 법적 책임을 지지 않게 되는 일이 있어서는 안 된다.
AI must not be able to act as a liability shield, preventing those deploying it from being legally responsible for their actions.
개발자 책임
Developer Liability
개발자와 배포자는 결함, 역량에 대한 허위 표시, 불충분한 안전 통제에 대해 법적 책임을 지며, 시간이 지나면서 나타나는 피해를 고려한 공소시효 및 소멸시효가 적용되어야 한다.
Developers and deployers bear legal liability for defects, misrepresentation of capabilities, and inadequate safety controls, with statutes of limitation that account for harms emerging over time.
개인 책임
Personal Liability
금지된 아동 대상 시스템이나 재앙적 피해를 초래하는 시스템에 책임이 있는 경영진에게는 형사 처벌이 부과되어야 한다.
There should be criminal penalties for executives responsible for prohibited child-targeted systems or ones causing catastrophic harm.
독립적 안전 기준
Independent Safety Standards
AI 개발은 독립적인 안전 기준과 엄격한 감독에 따라 규율되어야 한다.
AI development shall be governed by independent safety standards and rigorous oversight.
규제 포획 금지
No Regulatory Capture
AI 기업이 자신을 규율하는 규칙에 부당한 영향력을 행사하는 것은 허용되어서는 안 된다.
AI companies must not be allowed undue influence over rules that govern them.
실패에 대한 투명성
Failure Transparency
AI 시스템이 피해를 초래한 경우, 그 원인과 책임 주체를 규명할 수 있어야 한다.
If an AI system causes harm, it should be possible to ascertain why as well as who is responsible.
AI의 충실 의무
AI Loyalty
보건, 금융, 법률, 심리치료 등 수탁자 의무(fiduciary duty)가 있는 전문 분야에서 기능을 수행하는 AI 시스템은 의무 신고, 주의 의무, 이해충돌 공개, 고지에 입각한 동의(informed consent)를 포함하여 해당 의무를 모두 이행해야 한다.
AI systems performing functions in professions with fiduciary duties, such as health, finance, law, or therapy, must fulfill all of those duties, including mandated reporting, duty of care, conflict of interest disclosure, and informed consent.