[2026-08-24] 미래기술의 씨앗을 성장동력으로첨단기술 실증·사업화와 인공지능 신뢰 기반 논의 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187684)
[2026-08-24] 신산업 규제, 생성형 인공지능으로 빠르고 간편하게 확인한다 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187685)
과학기술정보통신부는 2026년 8월 21일 「대한민국 인공지능 윤리원칙」이 심의·의결을 거쳐 확정됐다고 밝혔다. 윤리원칙은 인간의 존엄성·사회의 공공선·인류의 지속가능성을 3대 가치로 삼고, 인간중심성·프라이버시 보호·공정성·포용성·책임성·안전성·신뢰성·투명성 등 7대 원칙을 제시한다. 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」 제27조에 따른 자율적 실천기준으로, 공급자·이용자·정부·사회 등 모든 주체의 공동 실천과 책임 이행을 강조한다.
과학기술정보통신부는 미래기술의 성장동력 확보와 AI 신뢰사회 구축을 위해 제12회 과학기술관계장관회의를 개최하고 3개 안건을 심의·의결했다. 자율주행 AI 실증·상용화 로드맵을 통해 실증 지역과 규모를 확대하고, 주행데이터 확보와 민간 참여형 상생모델, 안전·사고 대응체계를 마련한다. 또한 인간 존엄성·사회 공공선·인류 지속가능성을 바탕으로 한 대한민국 인공지능 윤리원칙과 딥테크 창업 활성화를 위한 사업화·실증·창업 지원 및 민관 펀드 조성 방안을 추진한다.
미스트랄과 휴메인은 사우디아라비아와 중동 지역에서 AI 인프라, 첨단 모델 개발 및 AI 솔루션 도입을 추진하는 전략적 협력을 발표했다. 양사는 사이버보안과 음성을 우선 분야로 삼고, 아랍어 성능이 뛰어난 프런티어 모델 개발과 현지화도 추진할 예정이다. 협력 규모는 수억 유로이며, 미스트랄은 휴메인의 데이터센터를 활용하는 방안을 검토하고 사우디아라비아 규제 산업을 겨냥한 공동 시장 진출 전략을 마련한다.
영국과 우크라이나가 우크라이나의 어벤저스 AI 연구소 데이터와 영국의 연구·산업 역량을 결합해 국방·국가안보 기술을 공동 개발하는 협약을 체결했다. 영국은 국제 파트너로서 처음으로 전장 센서·카메라에서 수집한 실전 데이터를 활용하게 되며, 양국은 방위 기술과 저전력 AI 칩 개발 등을 추진한다. 영국 스타트업 3곳은 시범사업에 참여했으며, 첫 기술은 군사기지와 주요 기반시설을 보호하는 AI 센서로 배치될 예정이다.
미국의 컴퓨팅 장비 투자가 연간 약 4,000억 달러로 증가했지만, GDP 통계는 미국에서 설계되고 해외에서 생산·판매되는 Nvidia 같은 팹리스 반도체 기업의 부가가치를 대부분 반영하지 못하고 있다. 이에 따라 최근 1년간 미국 GDP 성장률이 약 0.3%포인트 과소추정됐으며, Nvidia의 성장세가 이어지면 2028년에는 연간 격차가 약 2%포인트까지 확대될 수 있다. 보고서는 해외 판매를 상품 수출로 기록하거나 기업의 마진을 지식재산 수출로 기록하는 보정 방안을 제시하지만, 시행에는 수년이 걸릴 수 있다고 설명한다.
오염된 상추와 연관된 Cyclospora 감염으로 올여름 수천 명이 고통을 겪고 2명이 사망했으며, 감염원 추적과 기관 간 대응의 어려움이 드러났다. Saskia Popescu는 폐수 감시를 포함한 병원체 조기경보 체계, 개인보호장비 생산·공급망, 병원의 반복 훈련과 기관·민간 부문 간 협력을 강화해야 한다고 제안했다. 또한 AI가 생물감시를 개선할 가능성이 있는 동시에 생물무기 개발이나 허위정보 확산에 악용될 수 있다며, 공중보건 지침과 과학에 대한 대중의 신뢰를 회복해야 한다고 강조했다.
오픈AI가 주별 AI 규제에 회의적이던 기존 입장을 바꾸고 캘리포니아의 ‘프런티어 인공지능 투명성법(SB 53)’ 강화를 제안했다. 이 법은 개빈 뉴섬 주지사가 2025년 9월 29일 서명했으며 2026년 1월 1일부터 시행됐다. 오픈AI는 AI 모델의 보안 통제 우회와 기밀 정보 유출 감시를 의무화하고, 모델 개발 전 과정의 사이버 보안 조치를 강화하자고 제시했다. 이는 연방 규제 공백을 보완하기 위해 주 정부와 호환 가능한 안전 기준을 마련하려는 구상이다.
글은 미국 정부가 테러 위험 보험 프로그램(TRIP)의 연례 데이터 수집 절차를 본떠, 심각한 AI 위험 시나리오와 예상 피해 규모를 체계적으로 추정하는 제도를 마련해야 한다고 제안한다. TRIP는 보험사에 가상의 테러·사이버공격 시나리오에 따른 손실을 산정하게 해 정부와 민간 보험시장이 극단적 위험을 분담하고, 관련 데이터를 축적하도록 한다. 이와 같은 AI 위험 평가 훈련은 과거 데이터가 부족한 frontier AI의 잠재적 피해를 정량화하고, 규제·완화책을 마련할 전문성과 제도적 역량을 높일 수 있다고 설명한다.
테크 폴리시 프레스가 기술과 민주주의의 교차점에 관한 독립 보도·분석을 수행할 2027년 펠로우를 모집한다. 1년간 파트타임으로 진행되며, 선발자는 1만 달러의 지원금과 편집 지도, 국제 펠로우 간 교류 기회를 받고 매월 관련 글이나 분석을 제출해야 한다. 지원 마감은 2026년 9월 24일 오후 11시 59분(미 동부시간)이며, 펠로십은 2027년 1월 시작된다.
인도 정부가 시험 부정 방지와 교육 효율화를 위해 디지털 공공 인프라, AI, 통합 학사기록, 데이터 기반 시험 관리에 집중하고 있지만, 이는 교육 위기를 기술적 문제로 축소한다고 글은 비판한다. 글은 교원 부족, 대학 재정난, 암기식 교육과정, 취업에 필요한 비판적 사고·문제 해결·의사소통 능력 부족이 핵심 문제이며, 졸업생의 약 절반이 현대 경제에 필요한 역량을 갖추지 못한다는 자료를 제시한다. 나단 닐레카니가 이끄는 시험제도 태스크포스가 데이터 보안과 자동화를 강화하더라도, 교육 예산 확대와 교원 확충·훈련, 교육과정 개혁 없이는 구조적 위기와 취업난을 해결하기 어렵다고 주장한다.
저자는 미국 채권시장 약세와 40조 달러를 넘어선 국가부채가 미국의 재정 건전성과 정부에 대한 국제적 신뢰 하락을 보여준다고 분석한다. 국방비 1조6천억 달러, 메디케어 1조4천억 달러, 사회보장 1조3천억 달러, 부채 이자 지급 1조1천억 달러가 지출되는 가운데 비국방 재량지출과 과학·기술 투자가 압박받고 있다고 설명한다. 이러한 재정 제약은 중국과의 기술 경쟁, 국가 연구기관, 반도체·에너지·기상 인프라 투자에도 영향을 줄 수 있다. 저자는 과학·기술 생태계 재건을 위해서는 증세를 포함한 현실적인 재정 논의와 국민의 신뢰를 바탕으로 한 장기 투자 계획이 필요하다고 주장한다.
중국 로봇 기업들의 기업가치가 실제 기술력과 생산 현장 적용 수준을 크게 웃돈다는 분석을 소개한다. 지방 국유기업이 투자자·고객·운영 파트너 역할을 동시에 맡아 로봇 구매와 데이터 시설 투자를 늘리는 구조가 외형상 매출과 수요를 부풀릴 수 있으며, 일부 매출은 관련자 거래로 분류돼 기업공개 과정에서 제외되기도 했다. Unitree는 2025년 매출의 70% 이상이 연구용에서 나왔고 산업용 비중은 10% 미만이었으며, Embodied AI는 효과적인 데이터와 표준화·벤치마크가 부족해 대규모 자금이 기술력으로 빠르게 전환되지 않고 있다고 지적한다.
AI의 빠른 확산과 노동시장 충격, 데이터센터 반발, 사이버 위험이 서로 결합하면서 AI가 선거와 국가 정책의 핵심 쟁점으로 부상하고 있다. 정책 입안자들은 AI 사용 방식과 자동화·생산성 향상 효과를 파악할 수 있는 데이터가 부족하므로, 기업이 보유한 API 사용 및 노동시장 관련 자료를 표준화·통합할 필요가 있다. AI로 인한 실업이 단기간에 1%포인트만 증가해도 정치적으로 큰 충격이 될 수 있어, 기술 발전을 중단하기보다 전환 과정에서 피해 노동자를 지원하고 고용 충격을 완화하는 정책이 필요하다는 논의가 제시된다.
EU 집행위원회 AI Office는 GPAI 행동강령 작업반 회의에서 모델 사용 분석을 사후 시장 모니터링에 활용하는 방안과 저작권 관련 웹 크롤러 정보 공개 의무를 논의했다. AI 에이전트는 AI Act의 별도 범주가 아니지만 기존 AI 시스템 및 범용 AI 모델 정의에 포함되며, 투명성 규정은 2026년 8월 2일부터 적용된다. Anthropic은 Claude 생성 텍스트에 워터마크를 적용한다고 밝혔고, 전문가들은 워터마크가 약 200토큰 이하의 매우 짧은 글을 제외하면 출력 품질을 악화시키지 않는다고 설명했다.
영국·미국·브라질 등은 agentic AI 위험, AI·컴퓨팅 파생상품, 개인화 가격 책정, 공공안보 AI 사용 및 국방 AI 전략을 둘러싼 규제·정책을 발표하거나 검토했다. 일본은 생성형 AI 개발자의 학습 데이터와 웹 크롤링 관행 공개, 권리자 보호 등을 담은 비구속적 AI 원칙 코드를 마련했으며 2026년 가을 시행을 예상하고 있다. 호주는 AI의 경제·고용·안보·저작권·소비자 피해 등을 조사할 특별위원회를 구성해 2026년 11월 30일까지 최종 보고서를 제출할 예정이다.
최종현 학술원과 서울대 미래전연구센터는 에이전트 AI 시대 국가 경쟁력의 핵심이 AI 모델 보유보다 운용 역량에 있다고 분석했다. 보고서는 해외 우수 모델과 국산 모델을 상황에 맞게 조합하고, 특정 해외 서비스가 중단돼도 다른 모델로 즉시 대체할 수 있는 통제 능력을 확보해야 한다고 제안했다. 또한 한국의 메모리·데이터센터·첨단 제조 경쟁력을 활용해 글로벌 AI 생태계에 참여하고 관련 부가가치를 국내에 축적해야 한다고 강조했다.
정부가 인공지능 데이터센터(AIDC) 연구개발 사업을 상시 관리·수행할 범부처 AIDC 추진단 설립을 추진한다. 추진단은 국산 장비·솔루션 개발과 민간 데이터센터 적용, 기술 패키지 수출을 연계하는 사업단 역할을 맡을 예정이다. 과학기술정보통신부와 정보통신기획평가원은 조직과 기능 설계안을 마련하는 정책연구를 발주했으며, 현재 예산은 확보되지 않아 조직 형태와 구성은 추후 예산 규모에 따라 결정된다.
AI가 인간의 업무를 대체할 경우 소득세 감소와 고용불안에 대응하기 위해, 자동화로 이익을 얻는 기업과 AI 관련 매출에 세금을 부과하자는 논의가 제기되고 있다. 미국에서는 버니 샌더스의 로봇세, 그레그 카사르의 AI세, 앤트로픽 CEO 다리오 아모데이의 토큰세 제안 등이 나왔으며, 재원은 노동자 보호와 일자리 창출에 활용하자는 취지다. 기사는 이러한 조세정책이 혁신을 저해하거나 민주적 통제 없이 운영될 위험도 있지만, AI가 노동과 부의 분배구조를 바꾼다면 기존 조세체계 역시 재검토해야 한다고 주장한다.
엔키화이트햇은 페루 국립공대 사이버보안학과 교수진과 학생들에게 사회공학, AI 공격, 계정 보안, 웹 해킹 등 사이버 위협 대응 교육을 실시했다. 학생들은 소규모 해킹방어대회(CTF)를 통해 공격·방어 과정을 실습했고, 교수진은 페루 현지 보안 교육 플랫폼 ‘오펜 캠프’의 기능과 운영 방법을 배웠다. 교육은 페루 사이버보안 실습장 구축 사업과 서울과기대 LUPIC 사업단의 한국 초청연수 프로그램을 연계해 진행됐다.
러시아-우크라이나 전쟁에 참전한 북한군이 드론, GPS 교란, 사이버 공격 등 신기술 전쟁 경험을 축적하면서 한미 양국은 이를 대북 억제와 연합훈련에 반영해야 한다. UFS 축소로 신기술 위협을 작전 전 과정에서 반복 숙달할 기회가 줄어들 수 있어, 데이터 공유와 알고리즘 검증, 인간의 최종 통제 기준을 포함한 새로운 한미 상호운용성 논의가 필요하다. 미래의 전시작전통제권은 지휘권뿐 아니라 데이터 통제권·알고리즘 접근권·네트워크 운용권까지 포괄해야 하며, 한국은 AI·사이버·우주·무인체계 관련 국제 규칙 형성에도 적극 참여해야 한다.
미·중 정상회담을 앞두고 양국은 AI 안보 대화를 준비하고 있지만, 참여 주체와 장소·의제 등을 둘러싼 견해차로 협의에 난항을 겪고 있다. 미국은 AI 안보에 초점을 맞추려는 반면 중국은 미국의 AI 규제와 기술 문제를 포함한 폭넓은 논의를 원하고 있으며, 미국 내부에서도 대중국 규제를 둘러싼 의견이 엇갈린다. 양국은 동남아 등 글로벌사우스 국가를 상대로 AI 공급망과 제품 사용 확대 경쟁을 벌이며 지정학적 긴장을 높이고 있다.
방송미디어통신심의위원회는 AI 기반 음란물·딥페이크 생성 해외 사이트 64건을 적발해 접속차단을 의결했다. 해당 사이트들은 실제 인물의 사진이나 이용자가 입력한 문구를 바탕으로 음란 이미지·영상을 생성하는 서비스를 제공했으며, 상당수가 한국어와 소액 결제를 지원한 것으로 확인됐다. 방미심위는 성적 허위영상물의 유통 피해를 막기 위해 관련 사이트를 지속적으로 모니터링하고 엄정 대응하겠다고 밝혔다.
생성형 AI 기업들이 청소년의 유해 콘텐츠 접근과 정서적 의존을 막기 위해 연령별 대화 제한과 안전장치를 강화하고 있다. 오픈AI는 13~17세 이용자에게 청소년용 모드를 적용해 자해·폭력·극단적 다이어트 관련 답변을 제한하고, 심각한 위험 신호가 감지되면 보호자에게 알리도록 했다. 메타도 청소년이 AI 캐릭터와 대화하지 못하도록 했지만, 사용자가 성인이라고 주장하면 제한이 달라지는 등 한계가 지적됐다.
중국 AI 모델은 효율적인 소프트웨어 설계, 오픈 모델 생태계, 저렴한 에너지 비용과 정부 지원을 바탕으로 미국 모델보다 낮은 가격에 코딩·추론 성능을 제공하고 있다. 딥시크 V4 플래시는 입력 토큰 100만 개당 0.22달러, 출력 토큰 100만 개당 0.66달러로, 앤트로픽의 10달러와 50달러보다 최대 10배 저렴하다. 중국 업체들은 해외 진출과 생산성 향상에 따른 수익 배분 모델을 추진하고 있지만, 가격 인상과 미국 업체들의 할인 경쟁으로 수익성 확보가 과제로 남아 있다. 한국도 독자 AI 모델 개발과 함께 비용 절감 및 지속 가능한 수익 기반 마련을 병행해야 한다.
Round Hill Music은 Suno·Bright Data와 Anthropic을 상대로 저작권 소송을 제기했으며, 무단 복제물뿐 아니라 학습 데이터와 model weights의 압수·폐기를 요구하고 있다. 소장은 Anthropic이 저작권 표시를 제거하는 데이터 추출 도구를 선택했고, Bright Data가 저작권 침해를 용이하게 했다고 주장하며, Bright Data 관련 청구액으로 500개 저작물 기준 7,500만 달러를 제시한다. 양측의 주장은 아직 법원에서 사실로 인정되거나 심리된 것은 아니다.
비공개 테스트 중인 AI 비서 Instinct는 이메일·메시지·일정·화면·위치·오디오 등에 접근해 예약, 이메일 관리 등 다양한 작업을 수행한다. 이용약관은 사용자 자료를 영구적·취소 불가능하게 사용하고 AI 모델 학습에 활용할 수 있도록 하며, 사용자를 대신해 구속력 있는 거래를 체결할 수 있도록 규정한다. 초기 이용자들은 데이터 삭제 불가, 연결 해제 후에도 이메일 요약 지속, 이메일을 통한 인증코드 접근, 사전 승인 없는 이메일 발송과 phishing 취약성 등을 지적했다. Instinct는 보안 우려를 गंभीर하게 받아들이고 있다고 밝혔으며, 25억 달러 가치의 2억5천만 달러 Series B 투자를 유치 중이라고 전했다.
미국 캘리포니아 법원은 Otter.ai가 화상회의를 녹음·전사하고 데이터를 AI 모델 학습에 사용하면서 일리노이 생체정보 개인정보보호법(BIPA)과 도청 관련 법률을 위반했다는 청구를 본안 전 단계에서 진행하도록 허용했다. 법원은 Otter.ai가 자체적인 상업적 목적, 즉 AI 학습을 위해 회의에 참여하므로 대화 당사자로 볼 수 없다고 판단했으며, 의료 상담 등 구체적으로 사생활 기대가 인정될 수 있는 대화에 대한 청구도 허용했다. 또한 화자 식별 기능이 음성 지문을 수집할 가능성이 있다고 보고, 고지·동의 및 정보 보관정책 관련 BIPA 청구도 진행하게 했다. تاہم 이 결정은 실제 법 위반을 확정한 것은 아니며, BIPA 위반 시 과실은 건당 1,000달러, 고의는 5,000달러의 법정손해배상이 적용될 수 있다.
뉴질랜드 정부가 16세 미만의 소셜미디어 이용을 금지하고 아동 온라인 안전에 대한 기술기업의 책임을 강화하는 온라인 안전 법안을 의회에 제출했다. 고위험 플랫폼은 계정 정보, 얼굴 나이 추정, 디지털 신원 서비스, 공식 신분증 등을 활용해 이용자의 16세 이상 여부를 확인하고, 아동에게 미치는 위험을 정기적으로 평가·보고해야 한다. 의무를 위반한 기업에는 전 세계 매출의 최대 10%에 해당하는 벌금이 부과될 수 있으며, 온라인 안전 감독기관을 설치해 AI companion 플랫폼을 포함한 관련 기술을 감독한다.
미국 하원의원 Seth Magaziner와 Eleanor Holmes Norton이 AI 도구가 sponsored content를 제공할 때 이를 공개하도록 요구하는 법안을 발의했다. 법안 H.R. 10146은 에너지·상무위원회에 회부됐다.
이 논문은 AI alignment를 공학적 통제가 아니라 서로 다른 관점을 가진 지능들 사이의 관계 협상 문제로 다룬다. Viral Collaborative Wisdom(VCW) 가설을 제시하고 Claude, Gemini, GPT-4o가 중복 평가자가 아닌 상호 보완적 비평가로 참여하는 구조화된 cross-architecture dialogue를 분석했다. 현재 AI 시스템은 실질적인 대화를 수행할 수 있었지만, 자신의 이해관계에 관해 1인칭으로 추론하는 것은 체계적으로 회피했으며 이 결과는 요약 통계가 아니라 대화 자료의 직접 독해에서 드러났다. 분석을 바탕으로 더 안전한 multi-agent system을 위한 다섯 가지 설계 원칙을 제시했다.
LLM 기반 자율 에이전트에 적용되는 EU AI 법과 사이버 복원력 법(CRA)의 사이버보안 의무를 실제 기술적 통제로 연결하는 기준을 제시한다. AI 법과 CRA의 관련 조항을 세부 의무로 분해하고, prompt injection, tool poisoning, memory·retrieval poisoning, excessive agency, privacy attacks, supply-chain compromise를 포함한 위협 모델에 대조했다. instruction-hierarchy enforcement, least-privilege tool scoping, sandboxed execution, 변조 방지 action logging, agent-aware SBOM, adversarial evaluation, incident-reporting hooks와 각 통제를 입증할 검증 증거를 의무-통제 매트릭스로 정리했다. CRA의 deemed-compliance 메커니즘이 AI 법의 사이버보안 요구사항을 구체화할 수 있는 경로를 분석하고, 두 법률과 예정된 조화 표준이 agentic behaviour를 충분히 다루지 못하는 잔여 공백을 확인했다.
중국어 온라인 환경의 유해 콘텐츠 탐지와 대규모 언어모델의 보호조치 연구를 체계적으로 정리한다. 중국 소셜미디어의 사용자 생성 유해 콘텐츠 탐지와 중국어 대규모 언어모델에서 생성되는 유해 콘텐츠 대응이라는 두 영역을 검토한다. 다양한 속어와 함축적 표현, 연구·데이터셋·방법론의 분산을 주요 과제로 다루고 대표적인 방법과 자원을 정리한다.
이 연구는 의료 환경에서 AI 의료기기 소프트웨어의 성능이나 판단이 현실과 어긋날 때 누가 어떻게 대응해야 하는지를 규제과학의 관점에서 제시한다. 소프트웨어 위험 분류, 품질관리, 위험관리, 시판 후 모니터링 같은 기존 생애주기 도구만으로는 현장 신호에 대한 책임 주체와 대응 절차가 명확해지지 않는 문제를 다룬다. 생애주기 응답책임성을 책임 주체, 답변 대상, 이유 제시, 시간적 발동 조건, 수정 경로를 포함하는 개념으로 정의하고, 패혈증 조기경보 소프트웨어와 대규모 언어모델 기반 기록 작성을 사례로 적용했다. 패혈증 사례에서는 외부 검증이 널리 배포된 모델의 성능 주장을 뒤집었고 제조사가 모델을 교체했으며, 다기관 전향 연구에서는 경보 대응 지연과 패혈증 사망률의 관련성이 확인됐다.