송경호KYUNGHO DAVID SONG

TRANSLATION · 자동번역

히로시마 프로세스: 모든 AI 행위자를 위한 국제 지도 원칙

Hiroshima Process International Guiding Principles for All AI Actors

Hiroshima Process International Guiding Principles for All AI Actors 원문 표지
문건 첫 쪽
원문 보기 (일본 총무성) (새 창)일본 총무성 히로시마 AI 프로세스 누리집의 공식 영문 PDF.

모든 AI 행위자를 위한 히로시마 프로세스 국제 지침 원칙(Hiroshima Process International Guiding Principles for All AI Actors)

Hiroshima Process International Guiding Principles for All AI Actors

1. 우리는 관련성이 있고 적절한 범위에서 안전하고, 보안성이 확보되며, 신뢰할 수 있는 AI를 촉진하는 데 있어 모든 AI 행위자가 지는 책임을 강조한다. 우리는 수명주기 전반의 행위자들이 AI의 안전성, 보안성, 신뢰성과 관련하여 서로 다른 책임과 서로 다른 요구를 가진다는 점을 인정한다. 우리는 모든 AI 행위자가 자신의 역량과 수명주기 내 역할을 충분히 고려하여 '첨단 AI 시스템을 개발하는 조직을 위한 히로시마 프로세스 국제 지침 원칙(Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems)(2023년 10월 30일)'1을 읽고 이해할 것을 권장한다.

1. We emphasize the responsibilities of all AI actors in promoting, as relevant and appropriate, safe, secure and trustworthy AI. We recognize that actors across the lifecycle will have different responsibilities and different needs with regard to the safety, security, and trustworthiness of AI. We encourage all AI actors to read and understand the'Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems (October 30, 2023)'1 with due consideration to their capacity and their role within the lifecycle.

2. '첨단 AI 시스템을 개발하는 조직을 위한 히로시마 프로세스 국제 지침 원칙'의 다음 11개 원칙은, 일부 요소는 첨단 AI 시스템을 개발하는 조직에만 적용할 수 있다는 점을 인정하면서, 첨단 AI 시스템의 설계, 개발, 배포, 제공 및 사용을 포괄하도록 관련성이 있고 적절한 시기와 범위에서 적절한 형태로 모든 AI 행위자에게 적용되어야 한다.

2. The following 11 principles of the 'Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems' should be applied to all AI actors when and as relevant and appropriate, in appropriate forms, to cover the design, development, deployment, provision and use of advanced AI systems, recognizing that some elements are only possible to apply to organizations developing advanced AI systems.

Ⅰ. AI 수명주기 전반에 걸친 위험을 식별, 평가, 완화하기 위해, 배포 및 시장 출시 이전과 그 전 과정을 포함하여 첨단 AI 시스템의 개발 전반에 걸쳐 적절한 조치를 취한다.

Ⅰ. Take appropriate measures throughout the development of advanced AI systems, including prior to and throughout their deployment and placement on the market, to identify, evaluate, and mitigate risks across the AI lifecycle.

Ⅱ. 시장 출시를 포함한 배포 이후 취약점을 식별하고 완화하며, 적절한 경우 사고 및 오용 패턴도 식별하고 완화한다.

Ⅱ. Identify and mitigate vulnerabilities, and, where appropriate, incidents and patterns of misuse, after deployment including placement on the market.

Ⅲ. 충분한 투명성 확보를 뒷받침하고 이를 통해 책임성 제고에 기여하기 위해, 첨단 AI 시스템의 역량, 한계, 적절한 사용 영역과 부적절한 사용 영역을 공개적으로 보고한다.

Ⅲ. Publicly report advanced AI systems'capabilities, limitations and domains of appropriate and inappropriate use, to support ensuring sufficient transparency, thereby contributing to increase accountability.

Ⅳ. 산업계, 정부, 시민사회, 학계를 포함하여 첨단 AI 시스템을 개발하는 조직 간 책임 있는 정보 공유와 사고 보고를 위해 노력한다.

Ⅳ. Work towards responsible information sharing and reporting of incidents among organizations developing advanced AI systems including with industry, governments, civil society, and academia.

Ⅴ. 특히 첨단 AI 시스템을 개발하는 조직의 경우, 위험 기반 접근법에 근거한 AI 거버넌스 및 위험 관리 정책 -프라이버시 정책 포함- 및 완화 조치를 개발, 이행, 공개한다.

Ⅴ. Develop, implement and disclose AI governance and risk management policies, grounded in a riskbased approach -including privacy policies, and mitigation measures, in particular for organizations developing advanced AI systems.

Ⅵ. AI 수명주기 전반에 걸쳐 물리적 보안, 사이버 보안, 내부자 위협 안전장치를 포함한 강력한 보안 통제에 투자하고 이를 이행한다.

Ⅵ. Invest in and implement robust security controls, including physical security, cybersecurity and insider threat safeguards across the AI lifecycle.

Ⅶ. 기술적으로 실현 가능한 경우, 워터마킹 또는 기타 기법 등 신뢰할 수 있는 콘텐츠 인증 및 출처 확인 메커니즘을 개발·배포하여 사용자가 AI 생성 콘텐츠를 식별할 수 있도록 한다.

Ⅶ. Develop and deploy reliable content authentication and provenance mechanisms, where technically feasible, such as watermarking or other techniques to enable users to identify AI-generated content.

Ⅷ. 사회적 위험, 안전 위험 및 보안 위험을 완화하기 위한 연구를 우선시하고, 효과적인 완화 조치에 대한 투자를 우선시한다.

Ⅷ. Prioritize research to mitigate societal, safety and security risks and prioritize investment in effective mitigation measures.

Ⅸ. 세계가 직면한 가장 큰 과제, 특히 기후 위기, 세계 보건, 교육 등(이에 국한되지 않음)을 해결하기 위한 첨단 AI 시스템 개발을 우선시한다.

Ⅸ. Prioritize the development of advanced AI systems to address the world's greatest challenges, notably but not limited to the climate crisis, global health and education .

Ⅹ. 국제 기술 표준의 개발을 진전시키고, 적절한 경우 그 채택을 진전시킨다.

Ⅹ. Advance the development of and, where appropriate, adoption of international technical standards.

Ⅺ. 적절한 데이터 입력 조치와 개인정보 및 지식재산권 보호 조치를 이행한다.

Ⅺ. Implement appropriate data input measures and protections for personal data and intellectual property.

아울러 AI 행위자는 제12원칙을 따라야 한다.

In addition, AI actors should follow the 12th principle.

Ⅻ . 첨단 AI 시스템의 신뢰할 수 있고 책임 있는 사용을 촉진하고 이에 기여한다

Ⅻ . Promote and contribute to trustworthy and responsible use of advanced AI systems

AI 행위자는 첨단 AI 시스템이 특정 위험을 어떻게 악화시키고(예: 허위 정보 확산과 관련하여) 및/또는 새로운 위험을 초래할 수 있는지와 같은 문제를 포함하여, 자신의 디지털 리터러시, 훈련 및 인식을 향상하고 적절한 경우 타인의 디지털 리터러시, 훈련 및 인식도 향상할 기회를 모색해야 한다.

AI actors should seek opportunities to improve their own and, where appropriate, others' digital literacy, training and awareness, including on issues such as how advanced AI systems may exacerbate certain risks (e.g. with regard to the spread of disinformation) and/or create new ones.

모든 관련 AI 행위자는 첨단 AI 시스템의 신흥 위험과 취약점을 식별하고 이에 대응하기 위해 적절한 방식으로 협력하고 정보를 공유할 것이 권장된다.

All relevant AI actors are encouraged to cooperate and share information, as appropriate, to identify and address emerging risks and vulnerabilities of advanced AI systems.