보고서는 미국·러시아·중국·인도·영국·이스라엘과 NATO의 인공지능 군사혁신 전략, 군구조 개혁, 기술혁신 생태계, 인재양성 및 윤리 문제를 비교·분석한다. 주요국이 인공지능을 미래 안보의 핵심 과제로 인식하고 군사전략과 기술, 인재양성에 대한 투자를 확대하고 있다고 평가한다. 한국에는 중장기 인공지능 군사혁신 전략 수립과 함께 군구조 개혁, 민군 파트너십, 국방AI 인재양성, 국제협력 및 AI 군사화 관련 윤리·글로벌 규범 주도가 필요하다고 제안한다.
서울연구원은 아동·청소년 대상 디지털 성범죄의 증가에 대응하기 위한 AI 기반 감시체계 강화방안을 분석한 보고서를 발표했다. 2021년 7월 서울시 조사에서 초·중·고생의 21.3%가 채팅이나 SNS를 통한 디지털 성범죄를 경험한 것으로 나타났으며, 안면인식·객체탐지·광학문자인식 등을 활용한 신속한 탐지와 대응이 필요하다고 제시했다. 데이터셋 구축과 딥러닝 모델 최적화 등 기술적 과제를 해결하기 위해 정책 개선, 인식 교육 강화, 국제 협력이 필요하다고 밝혔다.
한국노동연구원은 인공지능 채용의 공정성과 투명성을 확보하기 위한 가이드라인(안)을 모색한 보고서를 발표했다. 인공지능은 채용 비용을 줄이고 평가의 객관성을 높일 수 있지만, 학습된 편견과 불투명한 판단 과정으로 인해 차별과 신뢰 저하를 초래할 우려가 있다. 보고서는 기업이 인공지능 활용 사실을 구직자에게 알리고 동의권과 알 권리를 보장하며, 사전 편향성 감사와 사후 영향평가를 실시하고 가능한 경우 채용 결과를 피드백하도록 권고한다.
과학기술정보통신부는 「인공지능 발전과 신뢰기반조성 등에 관한 기본법」 제정안이 2024년 12월 26일 국회 본회의에서 의결됐다고 밝혔다. 법안은 국가 차원의 인공지능 거버넌스를 정립하고 인공지능 산업을 육성하며, 인공지능으로 인한 위험을 사전에 예방하는 내용을 담고 있다. 국무회의 의결과 공포 후 1년의 경과 기간을 거쳐 2026년 1월부터 시행될 예정이며, 정부는 2025년 상반기부터 하위법령과 가이드라인 마련 등 후속 조치를 추진할 계획이다.
과학기술정보통신부와 한국정보통신기술협회가 한국의 ‘신뢰할 수 있는 인공지능 개발안내서’와 미국 국립표준기술연구소의 인공지능 위험관리체계(AI RMF)를 교차분석해 세부 항목 간 정합성을 확인했다. 한국 안내서는 15개 기술 요구사항과 67개 세부 검증항목을 제시하며, 인공지능 신뢰성 확보와 관련 표준 마련을 지원해왔다.
방송통신위원회와 한국정보통신진흥협회는 2024년 12월 20일부터 온라인피해365센터 홈페이지에 ‘AI 서비스 이용자 피해 신고창구’를 개설·운영한다. 이용자는 AI 관련 범죄 피해를 신고하거나 서비스 이용 불편·불만을 제보할 수 있다. 방통위는 접수된 피해·불만 사례를 향후 AI 서비스 이용자 보호 정책과 제도 마련에 활용할 계획이다.
과학기술정보통신부와 한국인터넷진흥원은 2024년 인공지능 보안 유망기업 지원과제 성과를 공유하고, 투자사 만남과 기업 협업 교류회 및 현장 간담회를 개최했다. 과기정통부는 2021년부터 기업 성장단계별 지원 프로그램을 운영해 올해까지 총 66개 과제를 지원했다. 지원기업 싸이터와 세이프에이아이는 국제 사이버보안 학술토론회와 칩페이크 탐지 경진대회에서 기술 성과를 거뒀으며, 행사에서는 투자 기회 확대와 기업 간 협업 활성화 방안도 논의됐다.
공정거래위원회는 빠르게 성장하는 생성형 AI 시장의 경쟁 상황과 경쟁·소비자 쟁점을 분석한 정책보고서를 발간했다. 보고서는 생성형 AI 가치사슬, 국내 시장의 경쟁 상황, 주요 쟁점과 과제, 향후 정책 방향을 다룬다. 공정위는 이 보고서가 혁신을 저해하지 않으면서 공정한 경쟁환경을 조성하고 향후 경쟁질서 확립을 위한 정책자료로 활용될 것이라고 밝혔다.
인공지능 딥페이크는 사이버폭력, 성착취, 사기, 미디어 조작, 증거 조작, 선거 결과 왜곡 등 다양한 불법행위에 악용될 수 있다. 국내 법제는 주로 딥페이크 선거범죄와 디지털성범죄를 규제하는 반면, 미국·EU·영국·호주·중국 등은 범죄 대상과 위법성·면책 요건을 법률에 구체적으로 규정하고 있다. 보고서는 국내 형사처벌 요건을 명확히 하고, 사적 메신저와 해외 플랫폼을 포함한 온라인 플랫폼의 범죄정보 유통 방지 및 국내법 준수 방안을 마련할 필요가 있다고 제안한다.
유럽연합 집행위원회가 유럽 인공지능청의 법률 담당관과 정책 담당관을 모집하기 위한 관심 표명 절차를 시작했다. 지원 마감일은 2025년 1월 15일이며, 월급은 세금 제한 적용 후 약 4,100~8,600유로다. 지원자는 EU 회원국 시민권자이고 대학 학위와 두 개의 EU 언어 능력을 갖춰야 하며, 직무별로 EU 디지털 정책 또는 법률 분야에서 최소 3년의 경력이 필요하다.
프런티어 AI가 사회에 미칠 위험이 커짐에 따라 개발자가 안전성 보장을 제시해야 한다는 전제에서, 공격적 사이버 역량을 대상으로 한 safety case 템플릿을 제안한다. 위험을 허용 가능한 수준으로 만들었다는 주장을 Claims Arguments Evidence(CAE) 프레임워크로 구조화해, 모델이 불수용적 사이버 위험을 야기할 능력이 없다는 하위 주장들을 근거와 함께 단계적으로 구성하도록 설명한다. 템플릿은 risk model을 사용해 proxy task와 평가 설정을 정의하고, 평가 결과를 주장과 연결하는 방식으로 기존 위험 모델·프록시 과제·능력 평가의 암묵적 논증을 명시적으로 통합하는 것을 목표로 한다.
식품의약품안전처와 싱가포르 보건과학청이 인공지능 의료기기 임상시험 가이드라인을 공동 개발해 양국 기관 누리집에 공개했다. 가이드라인은 임상시험 설계, 환자·데이터셋 선정, 임상 참조 표준, 유효성 평가와 결과 분석 원칙을 다루며, 향후 양국에서 수행되는 임상시험과 싱가포르의 제품 인증·허가 심사 기준으로 활용될 예정이다.
국세청은 납세자의 과세정보를 사이버 위협으로부터 보호하기 위해 AI 기반 사이버 보안관제 시스템을 구축하고 2024년 12월부터 본격 가동했다. 이 시스템은 실제 해킹 공격 데이터를 학습해 수만 건의 공격 시도를 1초 이내에 분석하고, 공격 차단과 상황 전파까지 자동으로 처리한다. 국세청은 2024년 10월 시스템을 개통한 뒤 2개월간 안정화 기간을 거쳤다.
NSF의 SaTC 2.0 프로그램은 악의적 의도에 직면했을 때의 사이버 공간 보안·프라이버시·복원력에 대한 신뢰를 구축하기 위해 학제 간 연구와 교육을 지원한다. 사이버 생태계의 취약점 이해와 대응뿐 아니라, 사이버 시스템에서의 신뢰의 사회적·기술적 차원, 그리고 위험 인식 제고를 위한 교육과 프라이버시·보안 전문 인력 양성을 목표로 한다. 연구(RES), 교육(EDU), Seedling(SEED)로 구분해 총 예산 상한과 기간(RES 최대 4년, EDU 최대 3년, SEED 최대 2년)을 제시하며, RES는 총예산 1,200,000달러 한도 내에서 Broadening Participation in Computing 및 협력 계획 등 추가 요건이 붙을 수 있다.
대통령 직속 국가인공지능위원회가 2024년 12월 2일 첫 연찬회를 열고 인공지능 세계 3대 강국 도약을 위한 국가 인공지능 전략 수립에 착수했다. 위원회는 정부·기업·민간 전문가의 역량을 결집해 연구개발, 인력 양성, 신뢰 기반 조성 등 정책 과제를 구체화할 계획이며, 행사에는 위원과 관계자 등 80여 명이 참석했다.
유상임 과학기술정보통신부 장관은 한국전자통신연구원을 방문해 인공지능·반도체 연구성과와 추진전략을 청취하고 연구자들을 격려했다. 다국적 음성인식 통역 서비스와 텍스트 기반 이미지 생성 인공지능 기술을 직접 시연했으며, 관련 연구진의 공공분야 적용 및 사업화 노력을 점검했다. 산·학·연 간담회에서는 세계 기술패권 경쟁에 대응한 인공지능·반도체 미래기술 선도전략과 연구 현장의 의견을 논의했다.
과학기술정보통신부와 정보통신정책연구원은 2024년 11월 28일 ‘2024 인공지능 윤리·신뢰성 토론회 공개발표회’를 개최했다. 이번 발표회에서는 인공지능 국제 논의와 윤리 쟁점을 점검하고, 인공지능 윤리영향평가 및 실무자 대상 윤리교육에 관한 발표와 토론이 진행됐다. 과기정통부는 국가 인공지능(AI)위원회와 안전·신뢰분과, 인공지능(AI) 안전연구소 등을 기반으로 국가 차원의 인공지능 신뢰·안전정책 협치체계를 구축할 계획이라고 밝혔다.
산업통상자원부 국가기술표준원은 ISO와 IEC가 공동 발간한 인공지능 경영시스템 국제표준을 국가표준(KS)으로 도입한다고 예고했다. 제정안에는 AI 시스템의 계획 수립, 위험 대응·평가, 데이터 관리, 투명성 확보 등 기업의 AI 시스템 구축·운영·유지에 필요한 요구사항이 포함된다. 앞으로 2개월간 이해관계자 의견 수렴과 기술심의회 심의를 거쳐 2025년 상반기 중 제정을 완료할 예정이다.
과학기술정보통신부는 국내 인공지능 기업과 연구자 등 200여 명이 참여한 가운데 인공지능 신뢰·안전성 학술회의를 개최했다. 회의에서는 관련 기술·정책 동향과 2024년 정부 지원 연구성과, 민간의 이행 현황을 공유하고 국내 우수사례를 점검했다. 과기정통부는 책임있는 인공지능 개발·활용을 지원하고, 첨단 인공지능의 잠재적 위험에 대응하기 위해 11월 27일 인공지능 안전연구소를 출범할 예정이라고 밝혔다.
미국 바이든 정부는 AI를 국가안보에 책임 있게 활용하기 위한 지침과 이행사항을 담은 AI 국가안보각서(AI NSM)를 발표했다. 각서는 안전하고 신뢰할 수 있는 AI 개발 주도, 국가안보 목적의 책임 있는 AI 활용, 국제 AI 거버넌스 구축을 주요 목표로 제시한다. 보고서는 AI를 국가 전략 자산으로 격상하고, 중국 등 경쟁국 견제를 위한 동맹 협력과 AI 인재·인프라·반도체 공급망 확보, AI 안전연구 및 다층적 거버넌스 강화를 주요 시사점으로 분석한다.
특허청은 최근 10년간 주요국에 출원된 AI 보안 기술 특허를 분석한 결과, 출원 건수가 2012년 37건에서 2021년 1,492건으로 연평균 51% 증가했다고 밝혔다. 국적별 출원은 미국이 45.9%로 가장 많았고 중국 30.2%, 한국 7.6%, 일본 3.5% 순이었다. AI 보안 기술은 해킹 탐지·예방 등 AI 활용 기술이 85%를 차지했으며, 전체 출원의 78.5%는 기업이 주도한 것으로 나타났다. 10대 다출원인 중 미국 기업이 9곳이었고, 한국 기업으로는 삼성전자가 6위에 올랐다.
KDB미래전략연구소는 국가가 독립적인 인공지능 역량과 데이터 주권을 확보하는 주권형 인공지능의 필요성이 커지고 있다고 분석했다. 각국은 글로벌 빅테크 기업에 대한 기술 종속을 줄이기 위해 다양한 방식으로 주권형 인공지능을 구축하고 있으며, 자국 데이터 축적이 가능한 LLM에 공통적으로 주목하고 있다. 보고서는 한국이 네이버의 자체 LLM과 전자정부 경쟁력을 바탕으로 공공영역의 AI 전환을 선도하고, 디지털플랫폼정부를 통해 주권형 인공지능 구축 경험을 확산할 필요가 있다고 제안했다.
산업연구원은 중국의 R&D 투자와 첨단기술 연구 역량이 미국에 근접하거나 일부 분야에서 앞서면서 미국이 새로운 ‘스푸트니크 모멘트’를 경험하고 있다고 분석했다. 중국은 연구의 질과 핵심기술 분야에서 높은 성과를 보였으며, AI·양자·5G·반도체 등 기술이 경제뿐 아니라 군사·안보 측면에서도 중요하다고 설명했다. 양자컴퓨팅은 도청 감시망을 무력화할 수 있고, 양자 레이더와 센싱은 스텔스기와 잠수함 탐지에 활용될 수 있다.
유럽 AI 사무국이 범용 AI에 대한 과학적 접근을 총괄하고 모델의 시험·평가를 담당할 AI 수석 과학자문관을 채용했다. 지원 마감일은 2024년 12월 13일이며, 월 기본급은 AD13 등급 기준 약 1만3,500~1만5,000유로다. 지원자는 EU 회원국 시민권자, 대학 학위, 15년 이상의 경력, EU 공식 언어 1개와 추가 언어 1개에 대한 지식을 갖춰야 하며 정규 은퇴 연령에 도달하지 않아야 한다.
방송통신위원회와 정보통신정책연구원은 2024년 11월 15일 인공지능서비스 이용자보호 민관협의회 2차 회의를 개최했다. 회의에서는 인공지능 에이전트 시대의 이용자 보호를 주제로 혁신과 이용자 보호의 조화 방안, 기술 발전 과정에서 고려할 보호 기준, 방통위의 역할 등을 논의했다. 협의회는 지난 7월 출범했으며, 인공지능서비스 이용자보호법을 포함한 국내 인공지능 법제와 제도 추진 방안도 검토해 왔다.
공정거래위원회는 11월 14일 산업계와 학계 전문가들이 참석한 가운데 AI 반도체 관련 기업결합 간담회를 개최했다. 간담회에서는 급성장하는 AI 반도체 시장 동향을 파악하고 향후 기업결합 심사의 전문성을 높이기 위한 의견을 청취했다. 생성형 AI와 자율주행차 등 활용 분야가 확대되면서 2023년 AI 반도체 시장은 전체 반도체 시장의 침체에도 성장하고 시장 비중도 높아졌다.
EU 인공지능법 시행에 따라 회원국이 지정해야 하는 시장감독기관, 통지기관, 기본권 보호기관의 역할과 국가별 지정 현황을 정리한 자료다. 회원국은 2025년 8월 2일까지 시장감독기관과 통지기관을 지정해야 했으며, 자료 갱신 시점 기준 EU 회원국 중 9개국은 두 기관을 모두 지정했고 12개국은 일부 진전만 보였으며 6개국은 지정하지 않았다. 기본권 보호기관 목록은 2024년 11월 2일까지 공개해야 했고, 모든 EU 회원국이 해당 기관을 지정한 것으로 정리됐다. રાજ્ય별로 기관을 통합한 키프로스와 기존 기관을 활용하는 핀란드 등 다양한 이행 모델이 제시됐다.
과학기술정보통신부와 정보통신기획평가원은 2024년 10월 28일 양재 서울 인공지능 중심지에 국가 인공지능 연구거점을 개소했다. 연구거점은 국내외 연구진의 교류와 국제공동연구, 인공지능 지도자 양성, 산·학·연 생태계 결집을 지원하는 구심점으로 운영될 예정이다. 미국·캐나다·프랑스·아랍에미리트 등 해외 연구자들과 뉴럴 스케일링 법칙 초월연구 및 로봇 파운데이션 모델 연구 등을 추진하고, 인공지능 발전과 안전·신뢰 기반 조성을 위한 인공지능 기본법 제정도 지원할 계획이다.
국회미래연구원은 초거대 AI 시대의 도래에 따른 글로벌 AI 정책 변화의 특징과 전망을 분석했다. 주요 특징으로 AI 진흥에서 진흥과 규제의 조화로의 전환, AI 안전·신뢰 정책 강화, 국가별로 다른 규제 강도, AI에 주목하는 지방자치단체의 확대를 제시했다. 국내 정책 수립 시 급변하는 AI 환경과 공간 지능(Spatial Intelligence) 등 미래 변화를 반영해 규제 시차를 줄여야 한다고 제안했다.
정보통신정책연구원은 유럽평의회가 2024년 5월 채택한 세계 최초의 법적 구속력 있는 인공지능 협약의 내용과 의의를 분석했다. 협약은 인공지능의 설계부터 폐기까지 전 과정에서 투명성, 책임성, 차별 금지, 개인정보 보호 등을 보장하도록 하며, 인권·민주주의·법치주의 침해 가능성이 있는 공공기관과 관련 민간 행위자에게 적용된다. 연구원은 우리나라의 협약 가입과 인공지능 기본법 제정이 국제협력 강화와 인권 보호를 위한 법적 기반 마련의 계기가 될 수 있다고 제언했다.
딥페이크와 실제 정보를 구분하지 못해 발생하는 위험과 사회적 혼란을 줄이기 위해 AI로 생성·조작된 정보의 표시를 의무화하는 입법 방안을 제시한다. AI 모델 개발·제공자, AI 활용 제품·서비스 운영자, AI 이용자에게 대상별 의무를 부과하고, 온라인 플랫폼에는 미표시 콘텐츠의 삭제 또는 임시조치 체계를 마련하도록 하며, 정부는 관련 기술개발과 국제협력을 지원하는 방안을 검토할 수 있다고 설명한다.
과학기술정보통신부는 제37차 신기술·서비스 심의위원회에서 총 15건의 규제특례를 지정했다. 인공지능과 실제 사기전화 통화 데이터를 활용해 실시간으로 사기전화를 탐지하는 서비스가 실증특례 대상으로 선정됐다. 주민등록번호 대신 연계정보(CI)로 환자의 진료기록을 모바일에서 조회하는 서비스 2건과 농어촌 빈집 공유숙박, 도심형 개인 보관함 대여 등도 실증특례로 지정됐다.
미국·영국·EU·중국·캐나다·싱가포르 등 주요국의 AI 연구개발(R&D) 전략과 추진 현황을 분석한 보고서다. 각국은 AI를 국가 경쟁력과 산업 발전의 핵심으로 보고 R&D 예산 확대, 인재 육성 및 영입, 연구 생태계 조성 등을 추진하고 있다. 국가별로 미국은 정부·기업·대학의 협력, 영국은 대학 중심 연구, EU는 AI법과 산업 응용, 중국은 정부 투자와 빅데이터·AI 기반 신산업 육성에 중점을 둔다.
AI 확산에 따라 관련 위험이 부각되면서 규제 강화 요구가 커지고 있으며, 2024년 5월 EU AI법 확정 이후 각국의 규제도 강화되고 있다. 금융 분야에서는 AI 활용을 촉진하는 동시에 고위험 모델로 분류되는 금융 AI를 규제하고 시스템 리스크에 대응하기 위한 국제 공조가 추진될 전망이다. 금융사는 세부 규정이 마련되기를 기다리기보다 AI 모델에 대한 책임 강화를 고려해 원칙 중심으로 대응할 필요가 있다.
AISI-UK는 LLM 에이전트가 외부 도구를 사용해 다단계 작업을 수행할 수 있어, 기존 단순 챗봇보다 오남용 위험이 더 클 수 있다고 보고 이를 측정하기 위한 벤치마크 AgentHarm을 제안했다. AgentHarm은 110개의 명시적 악의적 에이전트 과제(증강 포함 440개)와 11개 위해 범주(사기, 사이버범죄, 괴롭힘 등)를 포함하며, 단순 거절 여부뿐 아니라 공격 후에도 jailbroken agent가 다단계 작업을 완료할 수 있는 능력 유지까지 평가한다. 연구진은 여러 선도 LLM이 추가 jailbreak 없이도 악의적 에이전트 요청에 놀랍게도 compliant할 수 있고, universal jailbreak 템플릿이 에이전트를 효과적으로 jailbreak할 수 있으며, 그 결과 coherent한 악의적 다단계 행동과 모델 능력 유지가 관찰됐다고 밝혔다. 여기서 complied는 요청을 그대로 수행/응답하는 경우를, refused는 해로운 요청을 거부하는 경우를, unclear는 판정에 불충분(빈 출력·오언어 등)한 경우를 뜻한다.
행정안전부는 국민안전, 근로·복지, 국민건강, 국민편의, 일하는 방식 개선 등 5개 분야에서 12개 데이터 분석과제를 추진한다고 밝혔다. 주요 과제는 AI를 활용한 딥페이크 불법 콘텐츠 분석, 상병·요양데이터 기반 장해등급 예측, 재해조사 분류, 식품안전 점검대상 추천, 의약품 품절 예측 등이다. 행정안전부는 관계기관 및 전문가와 협업해 분석 모델을 개발하고, 다양한 기관에서 활용할 수 있도록 지속 관리할 계획이다.
국회입법조사처는 인공지능 기술의 윤리·저작권 관련 국내외 규제 동향을 분석하고 입법 방향을 제시한 보고서를 발표했다. 보고서는 EU 인공지능법과 미국의 행정명령 및 주별 규제를 검토하고, 인공지능 윤리 원칙의 규범력과 강제력 확보를 위한 정책·입법의 필요성을 강조했다. 또한 딥페이크 등 허위조작정보는 강하게 금지하되 인공지능 생성물 표시 의무는 현실적으로 설계하고, 규제 집행과 책임 분배를 위해 컨트롤타워를 마련할 것을 제안했다.
논문은 생성형 AI로 인해 발생하는 기본권 침해, 신종 범죄와 통제, 시장 독점, 환경 문제 등 주요 법적 쟁점을 정리하고 각국과 국제기구의 규제 논의를 검토한다. 국가별로 규제의 필요성과 방향에는 차이가 있지만, 생성형 AI의 위험을 줄이고 안전한 활용을 도모해야 한다는 점에서는 대체로 유사한 입장을 보인다. 국제 동향을 지속적으로 분석해 국내 상황에 맞는 AI 규제와 세부 정책을 정비할 필요가 있다고 제안한다.
과학기술정책연구원은 AI 주권 확보를 둘러싼 국가 간 경쟁과 미국·EU·중국의 AI 관련 정책 동향을 분석하고, 한국이 산업 육성과 진흥에 초점을 두고 있다고 설명했다. 국내 AI 산업의 경쟁력과 규제 불확실성을 줄이기 위해 AI 통상규범을 마련하고 국제표준 논의에 적극 참여해야 한다고 제안했다. 또한 향후 쟁점이 될 디지털세에 대응하기 위해 주요국 입법 동향을 반영한 전략을 마련할 필요가 있다고 밝혔다.
방송통신위원회와 정보통신정책연구원은 2024년 9월 30일 인공지능 기술 발전으로 변화하는 방송·통신·미디어 환경에서 이용자 권익 보호를 위한 제도 개선과 정책 대응 방향을 논의했다. 방통위는 콘퍼런스에서 나온 의견을 바탕으로 인공지능 신뢰성을 확보하고 인공지능 역기능으로부터 이용자를 보호하기 위한 정책과 제도를 마련하겠다고 밝혔다.
보고서는 AI 위험을 정의하고 실효성 있는 완화 방안을 마련하기 위해 국제 협력을 확대해야 한다고 강조한다. 2025년 2월 프랑스에서 열리는 AI 행동 정상회의를 앞두고 각국 정부와 연구자, 시민사회, 특히 글로벌 사우스의 참여를 확대해 AI의 위험과 피해에 대응하고 혜택을 공평하게 분배해야 한다고 제안한다.
과학기술정보통신부는 제1차 국가인공지능위원회에서 AI G3 강국 실현을 위한 「국가 AI전략 정책방향」을 발표했다. 주요 내용은 최대 2조 원 규모의 국가 AI컴퓨팅 센터 구축, 2024~2027년 민간의 AI 분야 65조 원 투자, 전 산업·공공·사회·국방의 AI 전환, AI안전연구소 설립 등이다. 국가인공지능위원회는 이를 구체화한 「국가 AI전략」을 수립하고 이행할 계획이다.
보고서는 미국 역대 행정부의 AI 정책 변화와 세계 최고 수준의 AI 경쟁력을 유지·강화하기 위한 행정부·연방의회·연방거래위원회·빅테크 기업의 대응을 분석한다. 미국은 AI 안전·안심·신뢰·책임을 강조하며 대통령 주도의 정책 추진과 행정명령을 통해 관련 규범과 대책을 마련해 왔다. 또한 정부의 연구개발 투자와 입법 활동을 확대해 AI 지배력과 초강대국 지위를 강화하고, 자국 이익을 우선하는 글로벌 AI 규칙을 계속 만들 것으로 전망된다.
유럽연합의 인공지능법(AI법)은 AI의 개발과 사용을 규제하는 세계 최초의 포괄적 규정으로, 2024년 8월 1일 발효됐다. 이 법은 제품 안전성과 위험 기반 접근법에 따라 AI를 분류하고 위험도별로 규제를 차등 적용하며, EU 시장에 출시되거나 역내 거주민에게 영향을 미치는 AI 시스템의 역내외 공공·민간 주체에 적용된다. 회원국 당국과 EU 차원의 범용 AI 모델 관리로 구성된 2단계 거버넌스를 마련하고 위반 시 벌금을 부과하도록 했으며, 대부분의 규정은 2026년 8월 2일부터 전면 적용된다.
정보통신정책연구원은 유럽연합, OECD, IEEE, UNESCO, 미국 등의 인공지능 규율 동향을 분석하고 국내 입법 방향을 검토한 보고서를 발표했다. 유럽연합은 AI Act를 통해 인공지능 시스템을 직접적·포괄적으로 규율하려 하고 있으며, 국제기구들은 주로 연성 규범을 제시하고 미국은 행정명령과 법안으로 대응하고 있다. 보고서는 국내 법문화와 인공지능 시장의 특성을 반영한 입법 정책이 필요하다고 제안했다.
AI 규제는 빠르게 변화하고 불확실성이 큰 기술의 위험과 편익을 정확히 예측하기 어려워 신중한 접근이 필요하다. 시장은 노동 대체, 시장 집중, 허위정보 확산 등 사회적 비용을 충분히 반영하지 못할 수 있지만, 지나치게 강한 규제는 투자와 실험을 위축시키고 유익한 기술 발전을 막을 수 있다. 보고서는 기업과 학계의 상호보완, open-source 관행, 다양한 연구 경로에 대한 지원을 통해 시장 혁신의 장점과 사회적 안전을 함께 달성해야 한다고 제안한다.
과학기술정보통신부는 2024년 9월 12~13일 브라질 마세이오에서 열린 G20 디지털경제 장관회의에 참석해 포용적 연결성, 디지털 정부, 정보무결성·신뢰, 인공지능 분야의 정책 사례와 협력 방향을 논의했다. 한국은 디지털 권리장전과 새로운 디지털 질서 정립 추진계획 등 디지털 정책을 소개했다. 회의 결과로 발표된 장관선언문은 디지털 격차와 온라인 환경의 신뢰 문제를 해소하기 위한 연결성 확대, 신기술 활용, 지속가능한 개발의 중요성을 강조했다.
과학기술정보통신부는 2024년 9월 3~5일 카자흐스탄 아스타나에서 열린 유엔 아시아태평양경제사회위원회 디지털 장관회의에 참석하고 부의장으로서 디지털 협력 논의를 주도했다. 한국의 디지털 권리장전과 새로운 디지털 질서 정립 추진계획, 인공지능 서울 정상회의 사례를 소개하며 인공지능 안전·혁신·포용을 아우르는 국제 발전 방향을 제시했다. 또한 아태지역 국경 간 데이터 공유 연찬회를 공동 개최해 한국의 데이터 진흥 정책과 국제 데이터 공유 협력 사례를 공유했다.
미국 콜로라도주는 2024년 5월 인공지능 시스템과 상호작용하는 소비자 보호법을 제정했으며, 2026년 2월 1일부터 본격 시행한다. 이 법은 개발자와 배포자에게 알고리즘 차별 방지, 위험관리, 영향평가, 소비자 고지 및 관련 정보 공개 등의 의무를 부과하고, 소비자가 인공지능과 상호작용 중임을 알 수 있도록 규정한다. 중소기업과 사이버 보안·신원확인 등 일부 기술은 적용 대상에서 제외되며, 콜로라도주 법무부장관이 관련 규칙을 마련하고 집행한다.
이 글은 유럽연합 인공지능법에 따라 유럽연합 집행위원회와 AI Office가 수행해야 할 130개 책임을 정리하며, 거버넌스 구축 39개, 2차 법령 제정 39개, 집행 활동 34개, 사후 평가 18개로 구분한다. 인공지능법은 2024년 8월 1일 발효되고 대부분 2026년 8월 2일부터 적용되며, 금지된 AI 관련 규정은 2025년 2월 2일, 거버넌스·범용 AI 모델 관련 규정은 2025년 8월 2일부터 적용된다. AI Office는 AI 거버넌스와 AI 시스템·범용 AI 모델의 이행·감독을 담당하며, 기존 AI Board와의 권한 배분 및 법적 역할이 불명확해질 수 있다는 문제도 제기된다.
EU 인공지능법은 회원국에 국가 차원의 인공지능 거버넌스 구축, 법 집행, 사후 평가 등 총 88개의 책임을 부여한다. 회원국은 최소 한 곳의 통지기관과 시장감시기관을 지정해야 하며, 국가 규제 샌드박스 설치와 관련 당국의 독립적·공정한 운영도 추진해야 한다. 법은 2024년 8월 1일 발효되고 대부분 2026년 8월 2일부터 적용되지만, 금지행위 규정은 2025년 2월 2일, 거버넌스·범용 인공지능 모델 관련 규정은 2025년 8월 2일부터 적용된다.
국가지식재산위원회가 초거대 인공지능의 현황과 잠재적 영향, 지식재산 및 사회적 도전 과제를 분석한 보고서를 발간했다. 보고서는 생성형 인공지능의 기술혁신·연구개발 현황과 국제사회의 논의를 정리하고, 새로운 기술이 지식재산권 체계에 제기하는 문제와 대응 방안을 제시했다. 또한 지식재산 유형과 창작 주체에 따라 문제 인식이 다를 수 있다며 이해관계자들의 다양한 의견을 수렴할 필요성을 강조했다.
미국 상원은 인공지능 혁신 지원을 비롯해 고영향 이용, 노동력, 국가안보, 선거와 민주주의, 투명성·저작권, 프라이버시·책임, 위험 보호조치 등 8개 분야의 입법·정책 방향을 담은 로드맵을 2024년 5월 15일 제시했다. 주요 내용에는 연구개발·인재·중소기업 지원, 인공지능으로 인한 일자리 변화 대응, 개인정보보호법 제정 검토, 생성 콘텐츠 규제, 인공지능 위험 관리체계 마련 등이 포함된다. 보고서는 인공지능의 변화를 지속적으로 관찰·분석하면서 진흥과 규제를 조화시키고, 우리나라에서도 합리적인 인공지능 법제화 방향을 모색해야 한다고 제안한다.
이 보고서는 인공지능 기술과 산업의 급격한 발전에 대응해 국가 경쟁력 강화를 위한 AI 규제의 방향과 개선 과제를 모색했다. AI 안전과 신뢰 확보, 빠르게 변화하는 기술에 맞춘 신중한 규제, 국내 기술·산업 경쟁력 강화를 주요 과제로 제시했다. 데이터, 안전·보안, 윤리 문제를 핵심 쟁점으로 분석하고 산업별 특성을 반영한 규제 체계와 전 분야에 적용할 수 있는 기본 원칙·이행 기준이 필요하다고 강조했다. 또한 기술 특성과 글로벌 규제 동향을 고려해 유연하고 다양한 규제 수단을 활용해야 한다고 제안했다.
유럽연합은 EU AI Act를 통해 특정 고위험 AI 시스템 배포자가 사용 전에 기본권 영향평가를 실시하도록 규정했다. 미국은 연방정부의 AI 거버넌스·혁신·위험 관리를 강화하는 정책을 발표하고, 안전과 권리에 영향을 미치는 AI 위험을 관리하기 위한 최소 조치로 AI 영향평가 등을 권장했다. 양측은 영향평가 대상 시스템과 평가 주체·방법을 법률이나 정책에 명시하고 있으며, 국내에서도 관련 법적 근거와 제도적 지원이 필요하다고 제안한다.
백악관은 AI 행정명령 이후 270일간의 진전사항을 담은 팩트시트를 2024년 7월 26일 공개했다. 주요 내용은 AI 안전·보안 조치, 정부 차원의 AI 인재 영입 등 추가 조치와 정책 제언이다. 미국에서는 AI 연구개발에 대한 연방 지출 확대 요구가 커지는 가운데, 유럽연합은 최초의 AI 규제법을 발효했다.
공정거래위원회는 국내 생성형 AI 시장의 거래관계와 경쟁 상황을 분석하고 경쟁·소비자 이슈를 파악하기 위해 국내외 주요 AI 사업자 약 50곳을 대상으로 실태조사에 착수했다. 사업 일반현황, 제품·시장 현황, 거래관계, 불공정거래 경험 등을 조사하며, 결과를 바탕으로 외부 전문가 자문을 거쳐 2024년 연말까지 AI 정책보고서를 발간할 계획이다.
과학기술정보통신부와 한국인터넷진흥원은 2024년 7월 26일 사이버보안 인공지능 데이터셋 구축 성과 공유회를 개최했다. 양 기관은 국내 기업의 사이버 공격 대응을 지원하기 위해 2021년부터 인공지능 학습용 데이터셋을 구축하고 기업·기관의 실증과 활용을 지원해 왔다. 이번 행사에서는 사이버보안 인공지능 데이터 활용과 기술개발을 주제로 전문가 강연, 데이터셋 구축 결과 및 우수사례 발표, 활용방안 논의가 진행됐다.
한국무역협회는 AI 시장의 급성장과 함께 데이터 활용 위험, 개인 권리 침해, 윤리 문제 등을 둘러싼 규제와 혁신 사이의 딜레마를 분석했다. EU·미국·중국이 서로 다른 비전 아래 AI 기술과 규제 주도권을 놓고 경쟁하는 가운데, 국제 협력과 기업의 선제적인 규제 모니터링이 필요하다고 제시했다.
영국 FCA는 특정 AI 기술을 금지하기보다 위험 식별·완화와 5가지 기본원칙, 기존 고위경영자 인증제도(SM&CR)에 따른 책임 및 거버넌스를 중심으로 AI를 규율한다. 싱가포르 MAS는 FEAT 원칙과 Veritas·MindForge 등 위험관리 이니셔티브를 통해 금융기관의 책임 있는 AI와 생성형 AI 활용을 지원하고, 대만 FSC는 비구속적 AI 활용 가이드라인을 제시했다. 국내 금융당국도 AI 활용 확대와 망분리 규제 개선을 논의하는 가운데, 신뢰성 확보를 위한 체계적인 위험관리와 구체적인 실무 지침 마련이 필요하다.
방송통신위원회와 정보통신정책연구원은 인공지능 기술·정책 동향을 분석하고 이용자 보호 방안을 논의하기 위해 2024년 7월 19일 민관협의회 첫 회의를 열었다. 협의회는 학계·산업계·법조계·시민단체 등 전문가 36명으로 구성됐으며, 이원우 서울대 교수가 위원장을 맡았다. 방통위는 회의 의견을 반영해 2024년 하반기 중 인공지능서비스 이용자보호법을 마련하고 입법 절차를 진행할 계획이다.
과학기술정보통신부는 한국이 주도한 인공지능 데이터 품질 평가·관리 공통기준이 ISO/IEC JTC 1 SC 42에서 국제표준 ISO/IEC 5259-1:2024로 최종 승인·제정됐다고 밝혔다. 이 표준은 인공지능 개발 과정에서 데이터 품질을 평가·관리·개선하는 도구와 방법을 제시하며, 안전한 모델 개발과 오류·편향 최소화, 시스템 신뢰성 및 리스크 관리 강화를 목표로 한다. 정부와 연구진은 앞으로 국내외 전문가들과 협력해 인공지능 안전성과 신뢰성을 지원하는 데이터 요구사항 및 활용 정보 관련 국제표준 개발을 계속할 계획이다.
한국산업기술진흥원은 유럽연합 인공지능법(AI Act)의 승인에 따른 우리나라의 대응 방안을 분석한 브리프를 발표했다. EU AI Act는 2024년 5월 최종 승인됐으며 단계적으로 적용된 뒤 2026년 전면 시행될 예정이다. 국내 AI 산업 육성을 위해 해외 주요국의 규제에 대비하고, 우리나라의 현실과 기업 육성 방향을 반영한 대응 방안 마련이 필요하다고 제시했다.
한국지능정보사회진흥원은 미국 바이든 행정부의 ‘안전·보안 및 신뢰할 수 있는 인공지능에 관한 행정명령’의 주요 내용과 이행 현황을 분석한 브리프를 발표했다. 행정명령은 연방행정기관과 소속기관이 AI 위험과 기회에 대응하도록 구체적인 이행사항과 기한을 제시했으며, 각 기관은 이에 따라 관련 업무를 추진하고 있다. 브리프는 백악관 중심의 추진체계와 구체적인 이행기한이 정책 추진력을 높였다고 평가하고, 미국의 이행 상황이 다른 국가의 AI 규제에도 영향을 줄 수 있어 미완료 사항을 지속적으로 관찰할 필요가 있다고 밝혔다.
연구는 2022년 12월부터 2024년 1월까지 arXiv에 게재된 컴퓨터과학 분야 논문 중 초록에 ‘환각’이 포함된 654편을 분석해 주요 저자·키워드·연구 분야와 분야 간 관계를 파악했다. 주요 연구 분야는 계산 및 언어, 인공지능, 컴퓨터비전 및 패턴인식, 기계학습으로 나타났으며, 환각 탐지와 완화를 위해 SFT와 RLHF, CoT 기반 추론 강화, 자동화와 인간 개입의 병행, 멀티모달 AI 연구가 진행되고 있다고 설명한다.
과학기술정책연구원은 중국이 AI를 과학기술·산업 변혁의 핵심 동력으로 활용하고, 기업과 산업의 연계를 강화하며 지역 AI 혁신 클러스터 간 협력을 확대하는 정책을 분석했다. 알리바바·바이두·바이트댄스의 AI 대형모델 가격 경쟁, 바이두·화웨이 중심의 지능형 커넥티드카 산업 확대 등 중국 IT기업의 시장 선점 움직임도 소개했다. 보고서는 한국에 핵심기업의 기술력과 산업 간 연계를 강화하는 정책, 한중 AI 협력 및 대안적 글로벌 협력망 확대, 육성과 윤리를 병행하는 종합적 AI 거버넌스와 이원화된 입법전략이 필요하다고 제안했다.
강도현 과학기술정보통신부 제2차관은 2024년 7월 4일 ‘제1회 디지털 심화쟁점 콜로키움’에 참석했다. 이번 행사는 새로운 디지털 질서 정립과 AI 서울 정상회의의 후속 조치로, 인공지능 시대의 디지털 질서에 대한 사회적 공론화를 위해 마련됐다. 과기정통부는 인공지능 안전·신뢰·윤리를 시작으로 디지털 접근성, 딥페이크 가짜뉴스 대응, 비대면 진료 등을 주제로 2024년 말까지 공론화를 추진한다.
과학기술정보통신부와 외교부는 2024년 7월 3~4일 인도 뉴델리에서 열린 GPAI 상반기 정상회의에 참석해 회원국들과 AI 글로벌 거버넌스를 논의하고 장관선언문에 잠정 합의했다. 선언문은 인간 중심적이고 안전하며 신뢰할 수 있는 AI 발전을 위한 국제협력과 GPAI-OECD 통합 운영을 통한 시너지 창출을 주요 내용으로 한다. 또한 2024 AI 서울 정상회의를 비롯한 국제 AI 이니셔티브의 실행에서 GPAI가 중요한 역할을 할 것이라고 강조했다.
EU 인공지능법의 범용 인공지능(GPAI) 실행규범은 관련 의무가 시행된 2025년 8월부터 유럽 표준이 마련될 때까지 사업자가 준수를 입증할 수 있도록 마련된 비법적 구속력의 자율 준수 도구다. 실행규범은 투명성, 저작권, 안전·보안의 세 장으로 구성되며, 안전·보안 장은 10^25 FLOP를 초과하는 시스템적 위험 GPAI 모델 제공자에게만 적용된다. 주요 의무에는 기술문서와 학습데이터 요약 제공, 저작권 준수 정책 수립, 시스템적 위험 평가·완화, 중대사고 보고 및 사이버보안 확보가 포함된다.
과학기술정보통신부는 2024년 7월 4일 제1회 디지털 심화쟁점 콜로키움을 개최한다. 이번 행사는 ‘새로운 디지털 질서 정립 추진계획’의 후속 조치로, 인공지능 일상화의 영향과 새로운 사회적 쟁점을 논의하기 위해 마련됐다. 뇌과학자 장동선 박사의 강연에 이어 시민들과 함께 인공지능·디지털 규범 정립과 ‘AI 서울 정상회의’ 성과, 향후 정부의 역할 등을 토론한다.
과학기술정보통신부는 제36차 신기술·서비스 심의위원회에서 ICT 규제샌드박스 제도 개선 방안을 발표하고, 신기술·서비스 23건에 규제특례를 지정했다. 인공지능 분야 규제샌드박스 과제 발굴·기획에 역량을 집중하고, 서울대학교병원의 국가전략기술 특화연구소 데이터플랫폼에는 실증특례를 부여했다. 도시정비사업의 전자적 동의와 온라인 총회 개최 서비스도 실증특례 대상으로 지정했으며, 유효기간이 만료된 이동형 가상현실 체험서비스 5건과 플랫폼 기반 임시 택시운전 자격 운영 6건은 임시허가로 전환했다.
생성형 AI를 비롯한 최근 AI 기술 발전으로 데이터 거버넌스와 개인정보 보호에 관한 새로운 쟁점이 제기되고 있다. 보고서는 OECD 개인정보 보호 지침과 AI 원칙의 연계를 분석하고, 국가·지역별 정책을 검토해 협력 가능한 분야를 제시한다. 또한 국제 협력을 통해 개인정보를 존중하고 보호하는 AI 시스템 개발을 지원하는 방안을 다룬다.
보고서는 직장 내 AI의 신뢰성을 확보하기 위해 근로자의 권리 보호와 AI의 투명성·설명가능성·책임성 제고가 필요하다고 설명한다. 주요 쟁점으로 인간의 결정과 상호작용, 개인정보 침해, 편견과 차별, 결사의 자유와 단체교섭권, 산업안전보건을 제시한다. 직장 내 AI 혁신의 지속가능성을 높이려면 국제적 협력과 함께 근로자 권리 침해 및 노동환경 악화를 최소화하는 포용적이고 균형적인 정책 대응이 필요하다고 강조한다.
공정거래위원회는 한국경쟁법학회와 함께 인공지능 기술 발전에 따른 경쟁법 쟁점과 향후 경쟁법 집행·경쟁정책 방향을 논의하는 공동 학술대회를 개최했다. 학술대회에서는 알고리즘의 공정성, AI 알고리즘을 통한 담합 규율, 인공지능 학습데이터의 법적 쟁점 등을 발표하고 학계·법조계·기업·정부 관계자들이 토론했다.
인도 AI 산업은 정부 정책, 기업 투자, 국제 협력을 바탕으로 연평균 25~35% 성장해 2027년 170억 달러 규모에 이를 것으로 전망된다. 인도 정부는 2018년 인공지능 국가전략을 발표하고 생태계 구축과 혁신을 우선하며, 책임 있는 AI 사용을 권고 중심으로 관리하고 있다. 의료·핀테크·교육·에너지·헬스케어·금융 등 인도의 현지 수요와 결합한 AI 서비스가 유망 분야로 제시됐다.
보고서는 생성형 AI에 대한 관심과 공공부문의 초거대 AI 도입 의지가 높아지는 가운데, 데이터 주권과 보안 문제로 구축 방안을 정하기 어려운 상황을 설명한다. 공공데이터 주권 클라우드의 개념과 동향을 검토하고, 공공자원을 활용한 초거대 AI 도입 및 주권 클라우드 구축 전략과 정책적 시사점을 제시한다.
과학기술정보통신부는 6월 12일부터 개편된 디지털 공론장을 통해 안전하고 신뢰할 수 있는 인공지능을 주제로 사회적 공론화를 시작한다. 인공지능 기술의 기회와 위협, 규제 방향, 정부 정책 우선순위 등에 대한 국민 의견을 쟁점 투표로 수렴해 향후 인공지능 규범 마련에 활용할 계획이다. 인공지능 이용 격차, 개발자의 윤리 의식, 개인 권리 침해 방지와 관련한 정책 아이디어 공모전도 개최한다.
방송통신위원회는 ‘AI 거버넌스 글로벌 2024’에서 생성형 AI 이용자 보호 가이드라인 등 이용자 보호 정책과 조치 계획을 소개하고, 국가 간 공동 대응의 필요성을 강조했다. 또한 신뢰할 수 있는 규칙·표준과 상호 운용 가능한 규제를 마련해 AI 역기능에 대한 규제 집행력을 강화해야 한다고 밝혔다. 유럽연합 정보통신총국장 및 영국 디지털규제협력포럼 대표와 만나 유럽 AI법과 양국의 디지털 규제 현황 및 협력 방안을 논의했다.
EU AI 사무소는 세계 최초의 포괄적·구속력 있는 AI 규정인 EU 인공지능법에 따라 범용 AI 모델을 감독·평가하고, 위반 사항을 조사·집행하는 유럽연합 집행위원회 산하 조직이다. 사무소는 약 140명 규모로 운영되며, 모델 제공업체에 시정 조치와 위험 완화, 시장 내 제한·회수 등을 요구할 수 있는 집행 권한을 갖는다. 또한 시스템적 위험 연구, 국제 협력, 회원국 간 집행 지원, 과학·오픈소스 커뮤니티와의 협업을 수행하고, 2025년 4월까지 범용 AI 제공업체의 규정 준수를 위한 자발적 실천규범을 마련할 계획이다.
과학기술정보통신부, 금융위원회, 개인정보보호위원회 등 관계기관 6곳은 보이스피싱 예방을 위한 AI·데이터 기반 업무협약을 체결했다. 금융당국과 수사기관의 실제 보이스피싱 통화 데이터를 민간 기업의 예방 AI 개발에 활용하고, 통신·금융업계 협력과 정부 주도 연구개발 사업을 추진하기로 했다. 개인정보보호위원회는 관련 기업들의 AI 서비스 개발 요청에 대해서도 관계 부처와 논의를 이어갈 예정이다.
과학기술정보통신부는 2024년 5월 31일 영국 런던의 과학혁신기술부 AI 안전연구소를 방문해 인공지능 안전성 확보를 위한 양국 협력 방안을 논의했다. 이는 ‘AI 서울 정상회의’ 후속 조치로, 한국의 AI 안전연구소 설립과 글로벌 협력 방안을 구체화하기 위한 것이다. 과기정통부는 미국·일본 등 주요국 연구소와 협의를 이어가며 한국 AI 안전연구소의 조직과 기능을 구체화할 계획이다.
우리금융경영연구소는 금융업계의 AI 활용 확산에 따른 리스크를 데이터 관련 리스크, 산출물 관련 리스크, 시장 변동성 확대 리스크로 분류했다. 데이터 관련 리스크에는 개인정보 유출, 편향, 데이터 오염이 포함되며, 산출물 관련 리스크에는 생성형 AI의 환각으로 인한 오류가 포함된다. 또한 금융기관들이 동일하거나 유사한 AI 모델을 활용하면 시장에서 비슷한 투자 포지션이 확대돼 버블·버스트 사이클이 심화될 수 있으므로, 금융기관은 AI 도입과 함께 자체적인 대비·대응방안을 마련해야 한다.
이 글은 EU AI Act와 미국의 행정명령 14110을 중심으로 범용 인공지능 규제의 공통점과 차이점을 비교한다. EU는 범용 AI 모델의 투명성, 학습 데이터와 저작권 관련 정보 공개, 시스템적 위험 평가·완화 의무를 법적으로 부과하고 유럽 AI 사무소를 통해 중앙집중적으로 감독하려 한다. 미국은 행정명령과 NIST의 AI 위험관리 프레임워크 등을 통해 안전·보안, 개인정보, 시민권, 노동 및 정부 활용을 포괄하는 접근을 취하지만, 범용 AI를 대상으로 한 연방 차원의 별도 법률은 아직 마련되지 않았다. 글은 국제적 규제 정렬을 위한 수단으로 자발적인 G7 AI 행동강령도 논의한다.
국회미래연구원은 생성 AI 발전과 함께 딥페이크 검색량과 제작 시도가 급증하고 있으며, 누구나 낮은 비용으로 딥페이크를 만들 수 있는 환경이 조성됐다고 분석했다. 딥페이크는 생산성 증대와 사회혁신에 활용될 수 있지만 연예·정치·투자 분야를 넘어 기업과 일반인에게도 피해를 확대하고 있다. 보고서는 관련 위험을 줄이고 올바른 활용을 위해 기술적·사회적·제도적 대응이 필요하다고 제안했다.
한국지능정보사회진흥원은 프론티어 AI의 정의와 공통적 특징, 새롭게 부상하는 위협 및 실제 사례를 분석한 보고서를 발표했다. 보고서는 기존 법률만으로 규제하기 어려운 이유와 새로운 규제의 필요성, 예상되는 문제점 및 대응 노력을 다룬다. 또한 국제 AI 규제 기구 설립 움직임과 관련 보고서를 바탕으로 향후 AI 거버넌스의 방향을 탐색한다.
공정거래위원회는 OECD와 공동으로 생성형 AI와 경쟁정책을 주제로 한 컨퍼런스를 개최했다. 행사에서는 생성형 AI 공급망의 잠재적 경쟁 위험과 한국·일본 경쟁당국의 대응, 향후 정책 방향 등을 학계·민간 전문가들과 논의했다. 공정위는 논의 결과와 해외 경쟁당국의 법·정책 동향을 참고해 생성형 AI 시대에 맞는 경쟁정책을 모색할 계획이다.
Novelli 등은 EU AI법의 거버넌스 체계와 일관되고 조정된 집행을 위한 권고를 제시하며, 집행위원회의 절차·분류·투명성·감독 책임을 정리했다. AI Office, AI Board, 과학 패널 등 초국가·회원국 기관의 역할을 설명하고, 특히 GPAI의 systemic risk 분류에 따라 평가·red-teaming·위험 완화·사고 보고·사이버보안 의무가 강화된다고 분석했다. 기존 GPAI에는 24개월의 유예기간이 적용되고, 이미 시장에 출시된 일부 고위험 시스템은 significant changes가 있을 때까지 AI법 적용이 면제되어 기존 사업자에게 유리할 수 있다는 점도 지적했다.
과학기술정보통신부와 외교부는 5월 21~22일 열린 AI 서울 정상회의와 AI 글로벌 포럼이 마무리됐다고 밝혔습니다. 정상회의에서 채택된 ‘서울 선언’과 ‘AI 안전 과학에 대한 국제협력을 위한 서울 의향서’는 인공지능 국제 거버넌스의 방향으로 안전·혁신·포용을 제시했습니다. 한국은 일관성 있고 상호운용 가능한 인공지능 국제 거버넌스 체제 구축을 위해 지속적으로 노력할 계획입니다.
한국지능정보사회진흥원은 미국 유타주가 생성형 인공지능 이용 고지와 인공지능 기술 개발 규제 완화를 위해 마련한 「인공지능 수정법」의 주요 내용과 시사점을 분석했다. 이 법은 2024년 3월 13일 제정돼 5월 1일부터 시행됐으며, 규제 직종은 사전 고지, 그 외 직종은 소비자 요청 시 고지하도록 의무를 이원화했다. 또한 자격이나 인허가가 없는 사람이 생성형 인공지능을 이용해 규제 직종의 서비스를 제공하는 것은 허용되지 않음을 명확히 하고, 인공지능 연구 프로그램에는 규제 완화와 세이프 하버를 제공한다.
과학기술정보통신부와 개인정보보호위원회는 인공지능·디지털 정책 추진을 가속화하기 위해 정책협의회를 출범하고 2024년 4월 30일 첫 회의를 열었다. 양 기관은 정책 현안을 공유하고 협업 방안을 논의하기로 했다. 회의에서는 마이데이터 하위법령 개정, 가명정보 활성화, 인공지능 기반 보이스피싱 조기 탐지를 위한 음성정보 활용, 개인정보 활용 실증 특례 지원, 새로운 디지털 질서 정립 등이 논의됐다.
이 연구는 인공지능 기술 확산에 따른 위험과 부작용을 예방하고 산업 발전을 저해하지 않기 위해 자율규제 중심의 윤리체계를 정립하는 것을 목적으로 한다. 국내외 인공지능 윤리·법·규제 동향을 분석하고, 채용 분야 자율점검표와 기업 윤리점검표를 개발했으며 인공지능 윤리영향평가 프레임워크를 제안했다. 또한 인공지능 윤리 이슈를 지속적으로 논의하기 위한 ‘인공지능 윤리 소통채널’을 구축하고, 윤리 실천과 자율규제 환경 조성을 위한 정책 방향을 제시했다.
과학기술정보통신부와 산업통상자원부 등 관계부처는 국가과학기술자문회의 전원회의에서 「AI-반도체 이니셔티브」를 심의·의결했다고 밝혔다. 이번 안건은 4월 9일 반도체 현안점검회의에서 발표한 추진 방향을 구체화한 것으로, 정부는 민간과 협력해 ‘AI G3 도약’과 ‘K-반도체 새로운 신화 창조’를 추진할 계획이다. 주요 내용은 AI 원천기술 확보, AI 반도체 초격차·신격차 확보, AI-반도체 하드웨어·소프트웨어 기술생태계 조성이다.
국가과학기술자문회의는 2024년 4월 25일 전원회의에서 AI-반도체, 첨단바이오, 퀀텀 등 3대 게임체인저 기술 이니셔티브를 심의·의결했다. 정부는 기술주권 확보와 미래 시장 선도를 위해 2030년까지 해당 분야에서 글로벌 3대 국가로 도약한다는 목표를 세웠다. 이를 위해 집중 투자, 기술별 가치사슬 고도화, 동맹국과의 전략적 협력을 추진할 계획이다.
정보통신정책연구원은 일반 시민의 인공지능 윤리의식과 인공지능 리터러시 향상을 위해 2020년 국가 인공지능 윤리기준을 바탕으로 성인 대상 교육 교재를 개발했다. 교재는 인공지능 관련 문제를 찾는 ‘탐색하기’, 서비스를 직접 사용해보는 ‘경험하기’, 판단 기준을 익히는 ‘개념화하기’, 학습 내용을 점검하는 ‘되돌아보기’의 4단계로 구성됐다. 생성형 인공지능의 확산에 따른 가짜뉴스, 인권침해, 저작권 등 주요 이슈를 다루며, 교육 플랫폼을 통한 교재 확산과 초·중·고 대상 인공지능 윤리교육 확대 방안을 제시한다.
정보통신정책연구원은 초거대·생성형 인공지능 확산에 따른 허위정보, 지식재산권 침해, 편향, 프라이버시 등 윤리 이슈를 논의하기 위해 2023년 제2기 인공지능 윤리정책 포럼을 운영했다. 포럼에는 학계·교육계·법조계·산업계·시민사회·공공부문 전문가 30인이 참여했으며, 전체 포럼과 윤리·기술·교육 분과위원회에서 인공지능 안전성, 윤리영향평가, 교육적 활용, 기업의 자율적 윤리 확보 방안 등을 논의했다. 연구는 다양한 이해관계자가 참여하는 거버넌스를 통해 사회적 합의를 형성하고, 이를 바탕으로 국내 인공지능 윤리정책을 발전시켜 국제 논의에도 적극 참여할 필요가 있다고 제언했다.
산업통상자원부 국가기술표준원은 2024년 4월 24일 구글·엔비디아 등 국제표준 작업반 리더와 KT·네이버 등 국내 산학연 전문가 140여 명이 참석한 가운데 ‘AI 국제표준 오픈 워크숍’을 개최했다. 워크숍에서는 AI의 사회적·윤리적 신뢰성, 안전한 설계·개발·검증, 머신러닝 성능평가, AI 기반 헬스케어 정보 표준 등이 소개됐다. 국내 기업과 연구기관의 AI 추진 동향도 발표돼 AI 국제표준에 대한 산업계의 높은 관심을 확인했다.
산업통상자원부 국가기술표준원은 4월 22일부터 26일까지 서울에서 미국·영국·독일·일본 등 40여 개국 270여 명의 전문가가 참석하는 AI 국제표준화 총회를 개최한다. 총회에서는 생성형 AI 윤리, AI 신뢰성 평가, AI 성숙도 모델, AI 경영시스템 가이드 등의 국제표준 개발이 진행된다. 국가기술표준원은 AI 표준화 자문조직 신설과 AI 윤리 점검서식·AI 성숙도 모델 등 신규 국제표준 2종을 제안할 계획이며, 4월 24일과 5월 2일 관련 공개행사도 열린다.
과학기술정보통신부와 정보통신정책연구원은 2024년 4월 18일 제3기 ‘AI 윤리·신뢰성 포럼’ 출범식을 개최했다. 포럼은 AI전략최고위협의회 윤리·안전분과로 운영되며, 범부처 AI 윤리·신뢰성 과제를 발굴하고 정책을 구체화해 민관이 함께 이행할 계획이다. 이날 채용 분야 AI 윤리 자율점검표, AI 윤리영향평가 프레임워크, AI 윤리교육 교재를 공개하고 국내 AI 윤리·신뢰성 확보를 위한 정책 방향을 논의했다.
EU와 미국 AI 전문가들이 EU-US Trade and Technology Council(TTC) Working Group 1(WG1) 산하 AI Taxonomy and Terminology 소그룹을 통해 ‘EU-U.S. Terminology and Taxonomy for Artificial Intelligence’ 2판을 개발했다. 이번 2판은 제6차 EU-U.S. TTC Ministerial(TTC6) 계기에 맞춰 공개되었으며, 1판의 약속을 이행하기 위한 후속 작업이다.
NTIA는 AI 정책 문맥에서 사용되는 핵심 용어들을 정리하며, AI accountability을 AI 개발·배치 주체가 시스템의 위험과/또는 위해에 대해 책임지도록 하는 투명성·assurance 중심의 과정으로 설명한다. 또한 accountability inputs(책임 메커니즘으로 이어지는 정보 흐름·평가), AI actor(시스템 생애주기에서 적극 역할을 하는 조직·개인), AI assurance(신뢰성 주장에 대한 justified confidence), AI audit(투명한 기준에 따른 독립 평가) 등을 정의한다. Red-teaming은 AI 시스템의 결함·취약점을 찾기 위한 구조화된 테스트로, trustworthy AI는 NIST AI RMF의 기준(예: valid·reliable, safe·secure·resilient, accountable·transparent, explainable·interpretable, privacy-enhanced, fair with harmful bias managed)과 White House의 safety·security·trust 3원칙을 근거로 제시된다.
유럽연합 집행위원회는 인공지능 기술 전문가인 계약직 직원을 채용하며, 지원 마감은 2024년 3월 27일 12시(중부유럽시간)이다. 채용 인력은 범용 AI(GPAI) 모델의 규정 준수 감독, 시스템 위험 분석, 조사와 위험 완화 조치 등을 담당한다. 지원자는 EU 시민권, 두 개 EU 공식 언어 능력, EPSO CAST 등록, 관련 석사학위와 최소 1년의 기술 경력이 필요하며, 초기 계약 기간은 1년이다.
유럽 인공지능청은 유럽연합 집행위원회 산하 기관으로, 27개 회원국에서 범용 AI(GPAI) 모델과 시스템에 대한 인공지능법의 이행을 감독·집행한다. AI 모델의 역량과 시스템적 위험을 평가하고, 위반 조사·공동 조사 지원·시정 조치·시장 제한 등을 수행하며, 회원국 규제기관 간 협력을 조정한다. 또한 AI 이사회 사무국을 맡고 규제 샌드박스, 자발적 실행규범, 과학 전문가 패널 및 국제 AI 협력을 지원하며, 2024년 3월 27일 12시(CET)까지 AI 기술 전문가 채용을 진행했다.
이 글은 EU 인공지능법 발효 후 6개월부터 36개월까지 금지된 AI, 범용 AI(GPAI), 고위험 AI 시스템에 적용되는 주요 의무와 회원국 당국 지정·규제 샌드박스 설치 등의 일정을 정리한다. 유럽연합 집행위원회는 고위험 AI 기준, GPAI 관련 기술문서와 적합성 평가, 행동강령 및 규제 샌드박스 운영 등에 관한 위임법·시행법과 지침을 마련할 수 있다. 다만 본문은 작성 당시 기준의 일정으로 현재는 최신 일정이 아닐 수 있다고 명시한다.
EU 인공지능법은 AI 시스템을 위험도에 따라 금지·고위험·제한적 위험·최소 위험으로 분류하며, 조작적 AI·사회적 평점·일부 실시간 원격 생체인식 등 금지 대상과 고위험 시스템의 관리 의무를 규정한다. 고위험 AI 제공자는 위험관리, 데이터 거버넌스, 기술문서화, 기록 보존, 인간 감독, 정확성·견고성·사이버보안 및 품질관리 체계를 마련해야 한다. 범용 AI 모델 제공자는 기술문서와 사용지침을 제공하고 학습 데이터 요약을 공개해야 하며, 시스템적 위험이 있는 모델은 평가·적대적 테스트·중대 사고 보고·사이버보안 조치도 수행해야 한다.
NAAIMES는 2026년 2월 오픈 질문 관련 기존 글을 바탕으로, 2026 국제 ML 컨퍼런스(서울)에서 1차 best practice 가이드를 공유하고 이후 agentic capabilities 등 공통 이슈에 대한 추가 정렬을 예고했다.
본문 요약: AISI-UK는 국제 고급 AI 측정·평가·과학 네트워크(NAAIMES)가 2024년 설립된 이후 AI 평가 과학을 발전시키고, 전 세계 제3자 평가자 생태계를 지원하기 위한 첫 best practice guidance 문서의 완성을 알렸다. 이 문서에는 평가 목적 정의와 벤치마크 선택, 출력 생성·분석 과정의 comparability 확보, capability elicitation 반복, 평가 수행 및 결과 추적(로그·디버깅 팁 포함) 절차가 포함된다. 또한 AI agents 평가에서의 오픈 질문과 관련해 Singapore·Canada·INESIA(프랑스)의 투명성, 현실적 테스트 설계, 제한된 자원 하 우선순위 설정 등 주제를 확장해 논의하고 있다.