TRANSLATION · 자동번역
중국 인공지능 안전 약속 프레임워크
China Artificial Intelligence Security and Safety Commitments Framework

인공지능(AI)의 물결이 전 세계를 휩쓸며 기술적 혜택을 활발히 창출하고 있으며, 세계 경제·사회 발전과 인류 문명의 진보에 깊은 영향을 미치고 있다. 동시에 우리는 AI가 예측할 수 없는 위험과 복잡한 도전을 초래한다는 점을 분명히 인식하고 있다. 이번 새로운 발전 기회를 잡기 위해 중국 AI 안전·발전 협회(China AI Safety and Development Association)(CnAISDA) 회원사들은 「AI 보안 및 안전 약속(AI Security and Safety Commitments)」을 엄숙히 발표한다. 우리는 산업계 자율규제를 통해 높은 수준의 보안 및 안전 조치로 고품질 발전을 뒷받침하고, AI의 견실한 발전을 공동으로 추진할 것이다. 이 이니셔티브는 중국정보통신연구원(China Academy of Information and Communications Technology, CAICT)이 주도하고 추진한다. 우리는 자율 규율에 대한 약속이 국제사회의 신뢰를 얻는 핵심 기반이라는 점을 충분히 인식하고 있다. 본 약속을 행동 강령으로 삼고 모든 이해관계자의 감독을 받으면서, 우리는 접근 방식을 지속적으로 개선하고 다듬어 나갈 것이다. 이를 통해 AI 기술의 활용이 항상 인간 중심을 유지하고 선을 위한 AI(AI for good) 원칙에 부합하도록 보장할 것이다.
The wave of artificial intelligence (AI) is sweeping across the globe, actively generating technological dividends and exerting profound influence on global economic and social development as well as the progress of human civilization. At the same time, we are keenly aware that AI brings about unpredictable risks and complex challenges. To seize this new round of development opportunities, members of China AI Safety and Development Association (CnAISDA) solemnly launch the AI Security and Safety Commitments. Through industry self-regulation, we will leverage high-level security and safety measures to support high-quality development, and collaborate to promote the robust development of AI. This initiative is led and promoted by the China Academy of Information and Communications Technology (CAICT). We fully recognize that commitments to self-discipline constitute a critical foundation for gaining the trust of the international community. Guided by the Commitments as our code of conduct, and subject to the oversight of all stakeholders, we will continuously improve and refine our approach. By doing so, we will ensure that the application of AI technologies always remains people-centered and aligned with the principle of AI for good.
약속 I: 보안 및 안전 전담팀 또는 조직 체계를 수립하고 보안 및 안전 위험 관리 메커니즘을 구축한다. AI 보안 및 안전을 책임지는 책임자를 지정하고, 기업 내에서 AI 위험 평가와 안전, 보안 및 거버넌스를 수행할 전문 팀을 구성한다. 현실적인 보안 및 안전 위험 기준선을 선제적으로 정의하고, 오픈소스 이니셔티브에 적절한 보안 및 안전 조치를 채택하며, AI 개발 및 배포 전 생애주기에 걸쳐 위험 관리 실행 방안을 시행한다. 위험 식별 및 완화를 위한 절차와 조치를 명확히 규정한다.
Commitment I: Establish security and safety teams or organizational structures and build security and safety risk management mechanisms. Designate a leader responsible for AI security and safety, establish specialized teams to conduct AI risk assessments and safety, security and governance within the enterprise. Proactively define realistic security and safety risk baselines, adopt appropriate security and safety measures for open-source initiatives, and implement risk management practices throughout the entire AI development and deployment life cycle. Clearly outline processes and measures for risk identification and mitigation.
약속 II: AI 모델에 대한 보안 및 안전 테스트를 수행하여 성능, 안전성 및 신뢰성을 향상한다. 전담 시뮬레이션 및 레드티밍 전문가를 통해 AI 모델을 출시 또는 업데이트하기 전에 엄격하게 테스트한다. 특히 대규모 모델의 경우, 일반적 이해, 추론 및 의사결정 능력과 함께 산업, 교육, 의료, 금융, 법률 등 핵심 분야에서의 성능에 초점을 맞춘 안전성 및 신뢰성 평가(evaluation)를 우선적으로 수행한다.
Commitment II: Conduct security and safety testing for AI models to enhance the performance, safety and reliability. Through dedicated simulation and red-teaming experts, rigorously test AI models prior to their release or update. For large models in particular, prioritize safety and reliability evaluations focusing on their general understanding, reasoning, and decision-making capabilities, as well as their performance in critical domains such as industry, education, healthcare, finance, and law.
약속 III: 학습 데이터와 운영 데이터의 보안을 위한 안전장치 조치를 시행한다. 데이터 보안 보호 정책을 수립하고 이에 상응하는 기술적 조치를 배포하여 데이터 오염 사고를 탐지하고 신속하게 대응함으로써 학습 데이터의 정확도와 신뢰성을 보장한다. 운영 데이터를 암호화하고 접근 통제를 시행하여 영업 비밀, 사용자 프라이버시 및 사용자가 업로드한 지식 베이스를 보호하고, 접근이 승인된 용도로만 제한되도록 보장한다. AI 모델의 무단 출력을 방지함으로써 데이터 보안과 프라이버시 권리에 대한 안전장치를 마련한다.
Commitment III: Implement measures to safeguard the security of training data and operational data. Establish data security protection policies and deploy corresponding technical measures to detect and promptly address data poisoning incidents, ensuring the accuracy and reliability of training data. Encrypt operational data and enforce access controls to protect business secrets, user privacy, and user-uploaded knowledge base, ensuring access is restricted to authorized use only. Prevent unauthorized outputs by AI models, thereby safeguarding data security and privacy rights.
약속 IV: 인프라 보안을 강화한다. AI 시스템 배포에 사용되는 소프트웨어 및 하드웨어를 모니터링하고 보호하는 견고한 역량을 구축한다. 정기적이고 동적인 보안 침투 테스트를 수행하여 잠재적 위험 시나리오를 시뮬레이션하고, 인프라의 보안 취약점을 식별·보고하며, 관련 위험을 평가(assessment)한다. 비상 대응 절차, 명확한 책임성 배정, 사고 후 개선 방안을 포함한 인프라 보안 사고 대응 메커니즘을 수립한다.
Commitment IV: Enhance infrastructure security. Develop robust capabilities for monitoring and protecting the software and hardware used in AI system deployments. Conduct regular and dynamic security penetration tests to simulate potential risk scenarios, identify and report security vulnerabilities in the infrastructure, and assess associated risks. Establish an infrastructure security incident response mechanism, including emergency response procedures, clear accountability assignments, and post-incident improvement solutions.
약속 V: 모델 투명성을 강화한다. 안전 및 보안 거버넌스 조치를 선제적으로 공개하고 모든 이해관계자에 대한 투명성을 제고한다. 모델의 역량, 적용 분야 및 한계에 관한 명확한 정보를 제공한다. 모델 문서, 서비스 약관 또는 기타 수단을 통해 잠재적 위험을 대중에게 알린다.
Commitment V: Enhance model transparency. Proactively disclose safety and security governance measures and improve transparency for all stakeholders. Provide clear information about the model"s capabilities, applicable fields, and limitations. Inform potential risks to the public through model documentation, service agreements, or others.
약속 VI: 프런티어 안전 및 보안 연구를 적극 추진하고, 프런티어 분야의 안전 및 보안 위험을 예방한다. 선을 위한 AI 원칙을 구현하는 AI 시스템의 개발 및 배포에서 혁신을 이루고, 연구 결과를 대중에게 투명하게 공개하여 사회가 직면한 시급한 과제 해결에 기여한다. 프런티어 분야에서 AI 시스템의 남용과 관련된 위험 평가(assessment)를 강화하고, 고위험 시나리오에서 이들이 남용될 잠재적 위험을 예방한다.
Commitment VI: Vigorously advance frontier safety and security research, and prevent safety and security risks in frontier fields. Innovate in the development and deployment of AI systems that embody the principle of AI for good, and disclose research findings with the public transparently, contributing to addressing pressing challenges faced by society. Strengthen the assessment of risks related to the abuse of AI systems in frontier fields, and prevent potential risks of their abuse in high-risk scenarios.
약속 VII: AI 안전, 보안 및 거버넌스에 관한 국제 협력을 강화하고, AI의 포용적이고 유익한 활용을 촉진한다. AI 안전, 보안 및 거버넌스에 관한 글로벌 대화에 적극 참여하고, 위험 식별, 평가(assessment) 및 완화에 관한 경험과 모범 사례의 교류에 기여한다. 대중 과학 커뮤니케이션 추진, AI 교육 강화, 기술 훈련 제공을 통해 AI 리터러시와 역량을 향상함으로써 사회적 책임을 이행하며, 특히 글로벌 지능 격차 해소에 중점을 둔다.
Commitment VII: Strengthen international cooperation on AI safety, security and governance, and promote inclusive, beneficial applications of AI. Actively participate in global dialogues on AI safety, security and governance, and contribute to the exchange of experiences and best practices in risk identification, assessment, and mitigation. Fulfill social responsibilities by advancing public science communication, enhancing AI education, and providing skills training to improve AI literacy and capabilities, with a focus on bridging the global intelligence divide.