송경호KYUNGHO DAVID SONG

TRANSLATION · 자동번역

호주의 새 AI 안전·보안 보호 조치

New Australian AI safety and security protections

New Australian AI safety and security protections 원문 표지
원문 첫 대목 (다시 짬)
원문 보기 (호주 산업부 장관실) (새 창)팀 에이어스 산업혁신·과학 장관실 누리집에 실린 공동 보도자료 전문이다.

앤서니 앨버니지 총리, 리처드 말스 부총리 겸 국방부 장관, 토니 버크 내무·사이버보안 장관 공동 보도자료.

Joint media release with Prime Minister Anthony Albanese, Deputy Prime Minister and Minister for Defence Richard Marles and Minister for Home Affairs and Cyber Security Tony Burke.

앨버니지 정부는 세계 최고 수준의 의무적 인공지능 안전 및 보안 보호장치를 호주 AI 표준(Australian AI Standards) 입법에 명문화할 것이다.

The Albanese Government will enshrine world leading mandatory Artificial Intelligence safety and security protections in Australian AI Standards legislation.

호주는 호주의 국익에 부합하는 방향으로 AI가 가져올 세대적 기회를 확보하고 형성하는 동시에 호주 국민의 안전을 지킬 기회를 맞이하고 있다.

Australia has the chance to secure and shape the generational opportunities of AI – in Australia’s national interest – while keeping Australians safe.

우리는 AI 투자자들이 호주에 오기를 바라지만, 무엇보다도 호주 국민의 안전을 지키고자 한다. 그렇기 때문에 AI 개발과 투자를 다룰 여러 주요 국제 회담에 앞서 안전에 대한 접근 방식을 먼저 발표하기로 한 것이다.

We want AI investors to come to Australia but first and foremost we want to keep Australians safe. That is why we are choosing to announce our approach to safety first and before a range of major international talks that will cover AI development and investment.

안전과 보안은 프론티어 AI에 대한 신뢰를 구축하는 토대이다. 프론티어 AI는 현재 기술 역량의 최전선에 있는 가장 정교한 모델을 일컫는 용어이다. 프론티어 AI는 막대한 기회를 제공하지만, 안전하게 사용되지 않을 경우 지역사회에 가장 큰 위험을 초래하기도 한다. 그렇기 때문에 우리는 지금 행동에 나서는 것이다.

Safety and security are the foundation for building trust in frontier AI. Frontier AI is the term used for the most sophisticated models at the cutting edge of current technological capability. Frontier AI offers huge opportunities but also come with the highest risks to the community if they are not used safely. That is why we are acting now.

호주는 디지털 안전 분야의 표준 설정에서 세계 최고 수준의 명성을 보유하고 있다. AI에 대한 우리의 접근 방식은 앞으로도 호주의 가치를 최우선에 둘 것이다.

Australia has a world leading reputation for setting standards on digital safety. Our approach to AI continues to keep Australian values at the forefront.

AI는 생산성 향상, 경제적 회복력 구축, 의료 혁신 등 호주에 막대한 기회를 제공한다.

AI offers Australia huge opportunities whether it’s boosting productivity, building economic resilience or revolutionising healthcare.

이러한 기회를 잡기 위해서는 AI에 대한 사회적 수용성, 호주 국민의 안전, 그리고 국익을 위한 안보를 확보해야 한다.

To seize these opportunities, we need to ensure social licence for AI, safety for Australians and security for our national interest.

우리는 오늘 앨버니지 정부의 '호주의 이익을 위한 AI' 의제의 일환으로, 강력한 의무적 안전 및 보안 보호장치를 AI 표준을 통해 입법하고 이를 호주에서 사업을 영위하고자 하는 모든 프론티어 AI 기업에 적용할 것임을 발표한다.

We are announcing today that as part of the Albanese Government’s AI in Australia’s Interests agenda, strong mandatory safety and security protections will be legislated through the AI Standards and apply to all frontier AI companies that wish to operate in Australia.

정부는 이러한 보호장치를 AI 안전을 위한 새로운 전담 규제기관이 집행하도록 제안할 것이며, 이 기관은 호주 AI 안전연구소와 협력하여 글로벌 표준의 발전에 맞춰 기술 전문성과 감독 기능을 제공할 것이다.

The Government will propose these protections be enforced by a new targeted regulator for AI safety, which will work with the Australian AI Safety Institute to provide technical expertise and oversight as global standards evolve.

규제기관은 호주의 안전을 지키는 데 기여할 의무 사항을 준수하지 않는 AI 기업에 상당한 수준의 처벌을 집행할 수 있게 될 것이다.

The regulator would be able to enforce significant penalties for AI companies that fail to comply with mandatory obligations that will help keep Australia safe.

기업은 규제기관으로부터 다음 사항을 이행하도록 요구받을 것이다.

Companies will be required by the regulator to:

개발 및 배포의 모든 단계에 걸쳐 보안 통제를 유지함

Maintain security controls across all stages of development and deployment

자사 모델과 관련된 중대한 위험을 식별하고 관리함

Identify and manage serious risks associated with their models

자사 모델에 대한 독립적인 평가(evaluation)를 허용함

Allow independent evaluation of their models

사고 발생 시 호주 정부에 신속하게 의무적으로 통보함

Provide mandatory notification of incidents to the Australian Government rapidly

건전한 거버넌스, 위험 관리 및 투명성을 보장하기 위해 안전 및 보안 프레임워크를 유지하고 공개함

Maintain and publish safety and security frameworks to ensure good governance, risk management and transparency

기술 변화에 따라 갱신되는 표준과 규칙에 대응함

Respond to updated standards and rules as technologies change.

이러한 보호장치는 AI 합동특별위원회의 중간 보고서 권고사항과 일치한다.

These protections are aligned with interim report recommendations from the Joint Select Committee on Artificial Intelligence.

이러한 조치는 통제를 벗어난 AI 에이전트로 인한 신흥 위험을 보다 조기에 경고하고, 중대 AI 사고(serious AI incident)가 발생했을 때 보다 신속하고 조율된 대응을 가능하게 하는 데 기여할 것이다.

These measures will help provide earlier warning of emerging risks from rogue AI agents and enable faster, coordinated action when serious AI incidents occur.

앞서 밝힌 바와 같이, 호주 AI 표준 입법에는 이 밖에도 다양한 정책 분야가 포함된다. 입법에 관한 추가 세부 사항은 정부가 세부 작업과 협의를 마무리하는 대로 적절한 시기에 공개될 것이다.

As previously outlined, there are a range of other policy areas covered in the Australian AI Standards legislation. Further details of the legislation will become available in due course as the Government completes its detailed work and consultation.

앤서니 앨버니지 총리 발언

Quotes attributable to Prime Minister Anthony Albanese

"인공지능은 호주에 엄청난 기회를 제공하지만, 우리는 급속히 발전하는 기술과 함께 나타나는 새로운 위험에도 대비해야 한다.

"Artificial intelligence presents enormous opportunities for Australia, but we must also be prepared for the new risks that come with rapidly advancing technology.

"이러한 보호장치는 AI가 제공하는 세대적 기회를 잡는 동시에 호주 국민의 안전을 지키고 국익을 수호하도록 보장할 것이다.

"These protections will ensure we keep Australians safe and secure our national interests, while seizing the generational opportunities that AI offers.

“세계 최고 수준의 '호주의 이익을 위한 AI' 의제는 프론티어 AI 기업들이 안전과 보안을 개선하기 위한 조치를 취하고 있다는 확신을 호주 국민에게 주고, 투자자에게는 확실성을 제공하는 것을 목표로 한다. 이를 통해 생산성을 높이고 경제적 회복력을 구축하는 동시에 주권을 강화할 것이다.”

“Our world-leading AI in Australia’s Interests agenda aims to provide Australians confidence that frontier AI companies are taking steps to improve safety and security, and provide certainty for investors – boosting productivity, building economic resilience, while bolstering sovereignty.”

리처드 말스 부총리 겸 국방부 장관 발언

Quotes attributable to Deputy Prime Minister and Minister for Defence Richard Marles

“이러한 체계를 올바르게 설정하는 것은 호주가 인공지능이 우리 경제, 국가안보, 주권에 제공하는 기회를 활용할 수 있도록 하는 데 기여할 것이다.

“Getting these settings right will help ensure Australia can harness the opportunities artificial intelligence presents for our economy, our national security and our sovereignty.

“앨버니지 정부는 호주가 이 기술의 최전선에 서서 호주 국민의 안전을 지킬 수 있도록 하는 보호장치를 마련하는 데 전념하고 있다.”

“The Albanese Government is committed to putting in place the protections that will allow Australia to be at the forefront of this technology to keep Australians safe.”

토니 버크 내무·사이버보안 장관 발언

Quotes attributable to Minister for Home Affairs and Cyber Security Tony Burke

“우리에게 피해를 주려는 자들도 최신 기술에 접근할 수 있다.

“Those who want to cause us harm have access to the latest technology.

“우리는 그와 같거나 그보다 나은 기술을 확보해야 한다.

“We need to make sure we have the same, or better.

“그러나 무엇이든 허용되는 것은 아니며, 호주 국민을 보호하기 위한 명확한 가드레일이 필요하다.”

“But it’s not a free-for-all, there needs to be clear guardrails to protect Australians.”

팀 에이어스 산업혁신·과학 장관 발언

Quotes attributable to Minister for Industry and Innovation and Minister for Science Tim Ayres

“호주 국민의 안전을 지키는 것은 앨버니지 노동당 정부의 인공지능 접근 방식의 핵심이다.

“Keeping Australians safe is at the heart of the Albanese Labor Government’s approach to artificial intelligence.

“지난해 발표된 국가 AI 계획은 안전을 정부 AI 의제의 중심에 두었다. AI의 기회를 포착하면서도 호주 국민의 안전을 지키려는 것이다.

“The National AI Plan released last year put safety at the core of the Government’s AI agenda - capturing the opportunities of AI while keeping Australians safe.

“호주 AI 표준의 일환으로 보호장치를 입법하는 것은 국가 AI 계획의 성과를 바탕으로, 호주가 AI의 혜택을 전국에 확산하는 동시에 AI 시스템이 호주의 국익에 부합하게 개발되고 배포되도록 하는 데 기여할 것이다.

“Legislating protections as part of the Australian AI Standards will build on the work of the National AI Plan, helping Australia spread the benefits of AI across the country, while making sure that AI systems are developed and deployed in Australia’s national interest.

“강력한 보호장치는 호주가 스스로의 기술적 미래를 형성하고 경제적 회복력을 구축할 역량을 갖추도록 보장할 것이다.”

“Strong protections will ensure that Australia has the capacity to shape our own technological future and build our economic resilience.”