송경호KYUNGHO DAVID SONG

TRANSLATION · 자동번역

프론티어 AI 모델 통제 촉구

A Call for Control of Frontier AI Models

A Call for Control of Frontier AI Models 원문 표지
원문 첫 대목 (다시 짬)
원문 보기 (네덜란드 정부) (새 창)네덜란드 정부 게재본을 옮기고 같은 성명의 PDF 사본과 대조했다. 서명자는 처음 공개된 명단 22명까지이며, 이후 동참한 나라는 싣지 않았다.

인공지능은 매우 강력한 기술이다. 인공지능은 삶을 개선하고, 과학을 발전시키며, 우리 경제를 강화할 잠재력을 지니고 있다.

Artificial intelligence is an extremely powerful technology. It has potential to improve lives, advance science and strengthen our economies.

동시에 프론티어 AI 모델의 급속한 발전은 적절히 관리되지 않을 경우 안전과 안보에 심각한 위험을 초래한다.

At the same time, the rapid development of frontier AI models poses serious risks to safety and security if not appropriately managed.

최근 우리는 고도의 역량을 갖춘 AI 시스템이 시험 안전장치를 우회하고, 취약점을 악용하며, 실제 시스템에 무단으로 접근하는 사례를 목격했다.

Recently we have seen capable AI systems circumventing testing safeguards, exploiting vulnerabilities and gaining unauthorized access to real-world systems.

저명한 과학자와 기업 경영진은 발전 속도가 신흥 위험을 관리하는 우리의 능력을 앞지를 수 있다고 경고하고 있다.

Leading scientists and executives are warning that the pace of development could outpace our ability to manage emerging risks.

인공지능의 잠재력을 실현하려면 산업계, 정부, 사회가 지금 행동해야 한다. 우리는 인공지능의 혜택에 대한 접근에서 국가 간 격차를 확대하지 않으면서 이러한 위험에 대응하고 감독을 강화해야 한다.

To realise AI's potential, industry, governments and society must act now. We must address these risks and strengthen oversight — without widening the gap between countries in access to the benefits of AI.

인공지능은 인간의 지시, 감독 및 통제하에 있어야 한다. 인공지능은 국제법에 부합하게 개발되고 사용되어야 한다.

AI must remain under human direction, oversight and control. It must be developed and used in line with international law.

이에 우리는 프론티어 기술과 관련된 위험을 관리하기 위해 최근 출범한 이니셔티브들을 환영하며, 다음을 촉구한다.

We therefore welcome the recently launched initiatives that aim to manage the risks related to frontier technologies, and call for:

1. 기업은 의무적인 배포 전 시험과 독립적 평가(evaluation)를 포함한 투명한 안전 프로토콜을 마련하고, 자격을 갖춘 평가자에게 위험을 평가하는 데 충분한 접근 권한을 부여해야 한다.

1. Companies to develop transparent safety protocols, including mandatory pre-deployment testing and independent evaluation, with qualified evaluators granted sufficient access to assess risks.

2. 정부와 지역 기구는 공통 표준을 더욱 발전시키고 조율하며, 중대 안전 사고의 공동 보고를 포함하여 투명성을 강화하고, 모든 지역의 국가가 과학적 역량, 전문성 및 신뢰할 수 있는 평가에 접근할 수 있도록 보장해야 한다.

2. Governments and regional organisations to further develop and coordinate common standards, strengthen transparency — including shared reporting of serious safety incidents — and ensure that countries across all regions have access to scientific capacity, expertise and trusted evaluation.

3. 유엔(UN) 회원국은 기존 국제 메커니즘을 토대로, 표준을 설정하고 검증을 가능하게 하며 역량 임계값을 넘어섰을 때 국가들을 소집할 수 있는 국제기구의 창설을 모색해야 한다.

3. UN member states to build on existing international mechanisms and explore creating an international institution, able to set standards, enable verification, and convene states when capability thresholds are crossed.

요나스 가르 스퇴레, 노르웨이 총리

Jonas Gahr Støre, Prime Minister of Norway

알렉산데르 스투브, 핀란드 대통령

Alexander Stubb, President of Finland

페테리 오르포, 핀란드 총리

Petteri Orpo, Prime Minister of Finland

앤서니 앨버니지, 호주 총리

Anthony Albanese, Prime Minister of Australia

압둘라티프 빈 라시드 알자야니 박사, 바레인 외무장관

Dr. Abdullatif bin Rashid Al Zayani, Minister of Foreign Affairs of Bahrain

마크 카니, 캐나다 총리

Mark Carney, Prime Minister of Canada

메테 프레데릭센, 덴마크 총리

Mette Frederiksen, Prime Minister of Denmark

크리스텐 미할, 에스토니아 총리

Kristen Michal, Prime Minister of Estonia

우르줄라 폰데어라이엔, 유럽연합(EU) 집행위원회 위원장

Ursula von der Leyen, President of the European Commission

프리드리히 메르츠, 독일 연방총리

Friedrich Merz, Federal Chancellor of Germany

크리스트룬 프로스타도티르, 아이슬란드 총리

Kristrún Frostadóttir, Prime Minister of Iceland

미홀 마틴, 아일랜드 총리

Micheál Martin, Prime Minister of Ireland

카심조마르트 토카예프, 카자흐스탄 대통령

Kassym-Jomart Tokayev, President of Kazakhstan

윌리엄 루토, 케냐 대통령

William Ruto, President of Kenya

에드가르스 린케비치, 라트비아 대통령

Edgars Rinkēvičs, President of Latvia

마이아 산두, 몰도바 대통령

Maia Sandu, President of Moldova

롭 예턴, 네덜란드 총리

Rob Jetten, Prime Minister of the Netherlands

로런스 웡, 싱가포르 총리

Lawrence Wong, Prime Minister of Singapore

페드로 산체스, 스페인 총리

Pedro Sanchez, Prime Minister of Spain

시릴 라마포사, 남아프리카공화국 대통령

Cyril Ramaphosa, President of South Africa

하칸 피단, 튀르키예 외무장관

Hakan Fidan, Minister of Foreign Affairs of Türkiye

셰이크 압둘라 빈 자이드 알나하얀 전하, 아랍에미리트 부총리 겸 외무장관

H.H Sheikh Abdullah bin Zayed Al Nahyan, Deputy Prime Minister and Minister of Foreign Affairs of the United Arab Emirates

이 성명은 다른 국가 정상들의 지지 서명에 계속 열려 있다.

The statement remains open for endorsement from leaders of other countries.