송경호KYUNGHO DAVID SONG

TRANSLATION · 자동번역

히로시마 프로세스: 첨단 AI 시스템 개발 조직을 위한 국제 지도 원칙

Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems

Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems 원문 표지
문건 첫 쪽
원문 보기 (일본 총무성) (새 창)일본 총무성 히로시마 AI 프로세스 누리집의 공식 영문 PDF.

첨단 AI 시스템을 개발하는 조직을 위한 히로시마 프로세스 국제 지침 원칙(Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI System)

Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI System

첨단 AI 시스템을 개발하는 조직을 위한 히로시마 프로세스 국제 지침 원칙은 전 세계적으로 안전하고 보안성이 확보된 신뢰할 수 있는 AI를 증진하는 것을 목표로 한다. 또한 최첨단 파운데이션 모델 및 생성형 AI 시스템을 포함한 최첨단 AI 시스템(이하 "첨단 AI 시스템")을 개발하고 사용하는 조직에 지침을 제공할 것이다. 조직에는 무엇보다도 학계, 시민사회, 민간 부문, 공공 부문의 주체 등이 포함될 수 있다.

The Hiroshima Process International Guiding Principles for Organizations Developing Advanced AI Systems aims to promote safe, secure, and trustworthy AI worldwide and will provide guidance for organizations developing and using the most advanced AI systems, including the most advanced foundation models and generative AI systems (henceforth "advanced AI systems"). Organizations may include, among others, entities from academia, civil society, the private sector, and the public sector.

이 지침 원칙 목록은 망라적이지 않다. 이 목록은 첨단 AI 시스템의 최근 발전에 대응하여 기존의 경제협력개발기구(OECD) AI 원칙을 토대로 삼기 위해 지속적으로 갱신되는 문서(living document)로서 논의되고 구체화되며, 이러한 기술이 가져오는 이점을 활용하고 위험과 과제에 대응하는 데 도움을 주기 위한 것이다. 이 원칙들은 첨단 AI 시스템의 설계, 개발, 배포 및 사용을 포괄하도록, 해당되는 시점과 범위에서 모든 AI 행위자에게 적용되어야 한다. 우리는 다른 국가들과 학계, 산업계, 시민사회의 보다 폭넓은 이해관계자들의 입력을 받아 포괄적 정책 프레임워크의 일환으로 이 원칙들을 더욱 발전시켜 나가기를 기대한다. 우리는 또한 아래의 지침 원칙에 기초하여 첨단 AI 시스템을 개발하는 조직을 위한 국제 행동 강령을 구체화하겠다는 약속을 재확인한다. 각 관할권은 이러한 지침 원칙을 서로 다른 방식으로 이행하면서 고유한 접근법을 취할 수 있다. 우리는 정부가 보다 지속적이고/이거나 상세한 거버넌스 및 규제 접근법을 마련하는 동안, 조직들이 다른 관련 이해관계자와 협의하여 위험 기반 접근법에 따라 이러한 조치를 따를 것을 촉구한다. 우리는 또한 OECD, GPAI 및 기타 이해관계자와 협의하여, 조직들이 이러한 조치의 이행에 대한 책임성을 유지하도록 돕는 모니터링 도구와 메커니즘을 도입하기 위한 제안을 마련할 것을 약속한다. 우리는 조직들이 모범 사례를 제공함으로써, 우리가 개발을 모색할 수 있는 효과적인 모니터링 메커니즘의 개발을 지원하도록 장려한다.

This non-exhaustive list of guiding principles is discussed and elaborated as a living document to build on the existing OECD AI Principles in response to recent developments in advanced AI systems and are meant to help seize the benefits and address the risks and challenges brought by these technologies. These principles should apply to all AI actors, when and as applicable to cover the design, development, deployment and use of advanced AI systems. We look forward to developing these principles further as part of the comprehensive policy framework, with input from other nations and wider stakeholders in academia, business and civil society. We also reiterate our commitment to elaborate an international code of conduct for organizations developing advanced AI systems based on the guiding principles below. Different jurisdictions may take their own unique approaches to implementing these guiding principles in different ways. We call on organizations in consultation with other relevant stakeholders to follow these actions, in line with a risk-based approach, while governments develop more enduring and/or detailed governance and regulatory approaches. We also commit to develop proposals, in consultation with the OECD, GPAI and other stakeholders, to introduce monitoring tools and mechanisms to help organizations stay accountable for the implementation of these actions. We encourage organizations to support the development of effective monitoring mechanisms, which we may explore to develop, by contributing best practices.

조직은 혁신의 기회를 활용하는 한편, 첨단 AI 시스템의 설계, 개발 및 배포에 있어 법치, 인권, 적법 절차, 다양성, 공정성 및 비차별, 민주주의, 인간 중심성을 존중해야 한다.

While harnessing the opportunities of innovation, organizations should respect the rule of law, human rights, due process, diversity, fairness and non-discrimination, democracy, and humancentricity, in the design, development and deployment of advanced AI systems.

조직은 민주적 가치를 훼손하거나, 개인 또는 공동체에 특히 해롭거나, 테러를 조장하거나, 범죄적 오용을 가능하게 하거나, 안전, 보안 및 인권에 상당한 위험을 초래하여 결과적으로 용인될 수 없는 방식으로 첨단 AI 시스템을 개발하거나 배포해서는 안 된다.

Organizations should not develop or deploy advanced AI systems in a way that undermines democratic values, are particularly harmful to individuals or communities, facilitate terrorism, enable criminal misuse, or pose substantial risks to safety, security, and human rights, and are thus not acceptable.

국가는 인권이 온전히 존중되고 보호되도록 증진하기 위해 국제인권법상의 의무를 준수해야 한다. 민간 부문의 활동은 유엔 기업과 인권 이행원칙(United Nations Guiding Principles on Business and Human Rights) 및 OECD 다국적기업 가이드라인(OECD Guidelines for Multinational Enterprises)과 같은 국제 프레임워크에 부합해야 한다.

States must abide by their obligations under international human rights law to promote that human rights are fully respected and protected, while private sector activities should be in line with international frameworks such as the United Nations Guiding Principles on Business and Human Rights and the OECD Guidelines for Multinational Enterprises.

구체적으로, 우리는 조직들이 위험에 상응하여 다음 원칙을 준수할 것을 촉구한다:

Specifically, we call on organizations to abide by the following principles, commensurate to the risks:

1. 첨단 AI 시스템의 개발 전반에 걸쳐, 배포 및 시장 출시 이전과 그 전 과정을 포함하여, AI 수명주기 전반의 위험을 식별, 평가(evaluation) 및 완화하기 위한 적절한 조치를 취한다.

1. Take appropriate measures throughout the development of advanced AI systems, including prior to and throughout their deployment and placement on the market, to identify, evaluate, and mitigate risks across the AI lifecycle.

여기에는 레드티밍 등 여러 방법을 조합하여 다양한 내부 시험 및 독립적인 외부 시험 조치를 활용하고, 식별된 위험과 취약점에 대응하기 위해 적절한 완화 조치를 이행하는 것이 포함된다. 예를 들어 시험 및 완화 조치는 시스템이 불합리한 위험을 초래하지 않도록 전체 수명주기에 걸쳐 시스템의 신뢰성, 안전성 및 보안성을 확보하는 것을 추구해야 한다. 이러한 시험을 뒷받침하기 위해, 개발자는 시스템 개발 과정의 데이터셋, 프로세스 및 결정과 관련하여 추적 가능성을 확보하도록 노력해야 한다.

This includes employing diverse internal and independent external testing measures, through a combination of methods such as red-teaming, and implementing appropriate mitigation to address identified risks and vulnerabilities. Testing and mitigation measures should for example, seek to ensure the trustworthiness, safety and security of systems throughout their entire lifecycle so that they do not pose unreasonable risks. In support of such testing, developers should seek to enable traceability, in relation to datasets, processes, and decisions made during system development.

2. 시장 출시를 포함한 배포 이후에 취약점과, 적절한 경우 사고 및 오용 패턴을 식별하고 완화한다.

2. Identify and mitigate vulnerabilities, and, where appropriate, incidents and patterns of misuse, after deployment including placement on the market.

조직은 위험 수준에 상응하여 적절한 시점과 방식으로, AI 시스템을 의도된 대로 사용하고 배포 이후 취약점, 사고, 신흥 위험 및 오용을 모니터링하며, 이에 대응하기 위해 적절한 조치를 취해야 한다. 조직은 예를 들어 배포 이후 제3자와 사용자가 문제와 취약점을 발견하고 보고할 수 있도록 지원하는 방안을 고려할 것이 권장된다. 나아가 조직은 다른 이해관계자와 협력하여 보고된 사고에 대한 적절한 문서를 유지하고 식별된 위험과 취약점을 완화할 것이 권장된다. 적절한 경우, 취약점 보고 메커니즘은 다양한 이해관계자가 접근할 수 있어야 한다.

Organizations should use, as and when appropriate commensurate to the level of risk, AI systems as intended and monitor for vulnerabilities, incidents, emerging risks and misuse after deployment, and take appropriate action to address these. Organizations are encouraged to consider, for example, facilitating third-party and user discovery and reporting of issues and vulnerabilities after deployment. Organizations are further encouraged to maintain appropriate documentation of reported incidents and to mitigate the identified risks and vulnerabilities, in collaboration with other stakeholders. Mechanisms to report vulnerabilities, where appropriate, should be accessible to a diverse set of stakeholders.

3. 충분한 투명성 확보를 뒷받침하고 이를 통해 책임성 제고에 기여하기 위해, 첨단 AI 시스템의 역량, 한계, 그리고 적절한 사용 및 부적절한 사용 영역을 공개적으로 보고한다.

3. Publicly report advanced AI systems' capabilities, limitations and domains of appropriate and inappropriate use, to support ensuring sufficient transparency , thereby contributing to increase accountability .

여기에는 첨단 AI 시스템의 모든 신규 주요 출시에 대해 의미 있는 정보를 담은 투명성 보고서를 발간하는 것이 포함되어야 한다.

This should include publishing transparency reports containing meaningful information for all new significant releases of advanced AI systems.

조직은 배포자와 사용자가 적절하고 관련성 있는 범위에서 모델/시스템의 출력을 해석할 수 있도록, 그리고 사용자가 이를 적절하게 사용할 수 있도록 투명성 보고서의 정보를 충분히 명확하고 이해하기 쉽게 작성해야 한다. 또한 투명성 보고는 견고한 문서화 프로세스에 의해 뒷받침되고 이를 토대로 이루어져야 한다.

Organizations should make the information in the transparency reports sufficiently clear and understandable to enable deployers and users as appropriate and relevant to interpret the model/system's output and to enable users to use it appropriately, and that transparency reporting should be supported and informed by robust documentation processes.

4. 산업계, 정부, 시민사회 및 학계를 포함하여 첨단 AI 시스템을 개발하는 조직 간에 책임 있는 정보 공유 및 사고 보고를 위해 노력한다.

4. Work towards responsible information sharing and reporting of incidents among organizations developing advanced AI systems including with industry, governments, civil society, and academia.

여기에는 평가 보고서, 보안 및 안전 위험에 관한 정보, 의도되었거나 의도되지 않은 위험한 역량, AI 수명주기 전반에 걸쳐 AI 행위자가 안전장치를 우회하려는 시도 등을 포함하되 이에 국한되지 않는 정보를 적절하게, 책임 있는 방식으로 공유하는 것이 포함된다.

This includes responsibly sharing information, as appropriate, including, but not limited to evaluation reports, information on security and safety risks, dangerous intended or unintended capabilities, and attempts by AI actors to circumvent safeguards across the AI lifecycle.

5. 특히 첨단 AI 시스템을 개발하는 조직의 경우, 위험 기반 접근법에 근거한 AI 거버넌스 및 위험 관리 정책 - 프라이버시 정책 및 완화 조치 포함 - 을 수립, 이행 및 공개한다.

5. Develop, implement and disclose AI governance and risk management policies, grounded in a risk-based approach - including privacy policies, and mitigation measures, in particular for organizations developing advanced AI systems.

여기에는 적절한 경우 개인정보, 사용자 프롬프트 및 첨단 AI 시스템 출력에 관한 사항을 포함하여 프라이버시 정책을 공개하는 것이 포함된다. 조직은 위험 기반 접근법에 따라 AI 거버넌스 정책과 이러한 정책을 이행하기 위한 조직 메커니즘을 수립하고 공개할 것으로 기대된다. 여기에는 실현 가능한 경우 AI 수명주기 전반에 걸쳐 위험을 평가하고 완화하기 위한 책임성 및 거버넌스 프로세스가 포함되어야 한다.

This includes disclosing where appropriate privacy policies, including for personal data, user prompts and advanced AI system outputs. Organizations are expected to establish and disclose their AI governance policies and organizational mechanisms to implement these policies in accordance with a risk-based approach. This should include accountability and governance processes to evaluate and mitigate risks, where feasible throughout the AI lifecycle.

6. AI 수명주기 전반에 걸쳐 물리적 보안, 사이버 보안 및 내부자 위협 안전장치를 포함한 견고한 보안 통제에 투자하고 이를 구현한다.

6. Invest in and implement robust security controls, including physical security, cybersecurity and insider threat safeguards across the AI lifecycle.

여기에는 정보 보안을 위한 운영 보안 조치와 적절한 사이버/물리적 접근 통제 등을 통해 모델 가중치와 알고리즘, 서버 및 데이터셋을 보호하는 것이 포함될 수 있다.

These may include securing model weights and algorithms, servers, and datasets, such as through operational security measures for information security and appropriate cyber/physical access controls.

7. 기술적으로 실현 가능한 경우, 사용자가 AI 생성 콘텐츠를 식별할 수 있도록 워터마킹 또는 기타 기법과 같은 신뢰할 수 있는 콘텐츠 인증 및 출처 확인 메커니즘을 개발하고 배포한다

7. Develop and deploy reliable content authentication and provenance mechanisms, where technically feasible, such as watermarking or other techniques to enable users to identify AI-generated content

여기에는 적절하고 기술적으로 실현 가능한 경우, 조직의 첨단 AI 시스템으로 생성된 콘텐츠에 대한 콘텐츠 인증, 즉 출처 확인 메커니즘이 포함된다. 출처 데이터에는 해당 콘텐츠를 생성한 서비스 또는 모델의 식별자가 포함되어야 하나, 사용자 정보는 포함될 필요가 없다. 또한 조직은 사용자가 워터마크 등을 통해 특정 콘텐츠가 자사의 첨단 AI 시스템으로 생성되었는지 판단할 수 있도록 하는 도구 또는 애플리케이션 프로그래밍 인터페이스 (API)를 개발하기 위해 노력해야 한다.

This includes, where appropriate and technically feasible, content authentication such provenance mechanisms for content created with an organization's advanced AI system. The provenance data should include an identifier of the service or model that created the content, but need not include user information. Organizations should also endeavor to develop tools or APIs to allow users to determine if particular content was created with their advanced AI system such as via watermarks.

나아가 조직은 가능하고 적절한 경우 사용자가 AI 시스템과 상호작용하고 있다는 사실을 알 수 있도록 라벨링 또는 고지문(disclaimer)과 같은 기타 메커니즘을 구현할 것이 권장된다.

Organizations are further encouraged to implement other mechanisms such as labeling or disclaimers to enable users, where possible and appropriate, to know when they are interacting with an AI system.

8. 사회적 위험, 안전 위험 및 보안 위험을 완화하기 위한 연구를 우선시하고, 효과적인 완화 조치에 대한 투자를 우선시한다.

8. Prioritize research to mitigate societal, safety and security risks and prioritize investment in effective mitigation measures.

여기에는 AI 안전, 보안 및 신뢰의 증진을 뒷받침하고 주요 위험에 대응하는 연구를 수행하고, 이에 협력하며, 이에 투자하는 것과 함께 적절한 완화 도구 개발에 투자하는 것이 포함된다.

This includes conducting, collaborating on and investing in research that supports the advancement of AI safety, security and trust, and addressing key risks, as well as investing in developing appropriate mitigation tools.

9. 특히 기후 위기, 글로벌 보건 및 교육을 포함하되 이에 국한되지 않는 세계의 가장 큰 과제에 대응하기 위한 첨단 AI 시스템 개발을 우선시한다

9. Prioritize the development of advanced AI systems to address the world's greatest challenges, notably but not limited to the climate crisis, global health and education

이러한 노력은 유엔 지속가능발전목표(United Nations Sustainable Development Goals)의 진전을 지원하고, 전 세계의 이익을 위한 AI 개발을 장려하기 위해 이루어진다.

These efforts are undertaken in support of progress on the United Nations Sustainable Development Goals, and to encourage AI development for global benefit.

조직은 신뢰할 수 있고 인간 중심적인 AI에 대한 책임 있는 관리를 우선시하고, 디지털 리터러시 이니셔티브도 지원해야 한다.

Organizations should prioritize responsible stewardship of trustworthy and human-centric AI and also support digital literacy initiatives.

10. 국제 기술 표준의 개발 및 적절한 경우 그 채택을 촉진한다

10. Advance the development of and, where appropriate, adoption of international technical standards

여기에는 워터마킹에 관한 사항을 포함하여 국제 기술 표준 및 모범 사례의 개발에 기여하고 적절한 경우 이를 활용하는 것, 그리고 표준개발기구(Standards Development Organizations, SDOs)와 협력하는 것이 포함된다.

This includes contributing to the development and, where appropriate, use of international technical standards and best practices, including for watermarking, and working with Standards Development Organizations (SDOs).

11. 개인정보 및 지식재산권에 대한 적절한 데이터 입력 조치와 보호 장치를 구현한다

11. Implement appropriate data input measures and protections for personal data and intellectual property

조직은 유해한 편향을 완화하기 위해 학습 데이터 및 데이터 수집을 포함하여 데이터 품질을 관리하기 위한 적절한 조치를 취할 것이 권장된다.

Organizations are encouraged to take appropriate measures to manage data quality, including training data and data collection, to mitigate against harmful biases.

또한 학습 데이터셋에 대한 적절한 투명성이 뒷받침되어야 하며, 조직은 적용 가능한 법적 체계를 준수해야 한다.

Appropriate transparency of training datasets should also be supported and organizations should comply with applicable legal frameworks.