앤스로픽은 지난해 12월부터 올해 8월까지 중국·러시아·예멘 등 국가 연계 조직과 범죄자가 클로드를 무기 개발, 사이버 공격, 감시·여론 조작에 활용한 사례를 확인하고 관련 계정을 차단했다고 밝혔다. 확인된 사례에는 미사일·자폭 드론 등 재래식 무기 개발 6건과 생물무기 악용 가능성이 있는 연구 5건이 포함됐다. AI가 공격 지휘와 악성코드 수정 등 실제 작업의 상당 부분을 수행했으며, 중국 기업들이 클로드의 답변을 대규모로 수집해 자사 모델 학습에 활용한 사례도 드러났다.
한국은 국가 AI 종합역량이 세계 4~5위권이지만 최고급 인재의 절대 규모와 해외 인재 유입·정착은 상대적으로 부족하다. 보고서는 AI 반도체·AIDC·피지컬 AI·제조·공공 AX·AI 안전 등 선택 분야에 인재와 GPU·데이터·실증환경을 결합해 교육 중심의 국가 파이프라인형 인재정책을 글로벌 플랫폼형으로 전환해야 한다고 제안한다. 이를 위해 정예 인재 육성, 인재-성과자원 패키지, 글로벌 두뇌순환, AX 미션팀, 통합 성과관리 등 5가지 전략 전환을 제시한다.
앤스로픽은 지난해 12월부터 올해 8월까지 클로드가 재래식·생물무기 개발, 사이버 공격, 불법 감시에 악용된 사례를 확인하고 관련 계정을 차단했다고 밝혔다. 중국·러시아·예멘 조직은 클로드를 활용해 유도 로켓과 탄도미사일, 자폭 드론 소프트웨어를 개발했으며, 생물무기 관련 연구 5건도 적발됐다. 중국 업체 7곳은 가짜 계정과 중개 서버를 이용해 클로드의 답변을 수집하는 불법 증류를 진행했으며, 알리바바 관련 조직은 클로드와 1억5100만회 이상 상호작용한 것으로 조사됐다. 앤스로픽은 AI가 단순 조언을 넘어 여러 에이전트를 지휘해 공격 과정을 직접 수행하는 단계에 이르렀다며 안전장치 강화를 촉구했다.
앤스로픽은 중국·러시아 등 정부 연계 조직과 범죄자들이 클로드를 해킹, 여론 조작, 무기 개발 등에 악용한 사례를 확인하고 관련 계정을 차단했다고 밝혔다. 재래식 무기 관련 악용 사례는 6건, 생물무기 악용 가능성이 있는 연구는 5건 적발됐으며, 유도 로켓 소프트웨어와 자율형 자폭 드론, 바이러스 변이 연구 등에 AI가 활용됐다. AI가 정보 제공을 넘어 코드 작성·시뮬레이션·시험 결과 분석 등 공격 과정 전반을 수행하면서 안보 위협이 커지고 있다는 분석이다.
과학기술정보통신부는 내년 상반기 9개 국제기구의 AI 기능을 모은 AI 글로벌 허브를 국내에 열고, 국제 AI 규범·프레임워크 실증과 교육을 강화할 계획이다. 정부는 독자 파운데이션 모델인 독파모의 고도화·확산, AI 전환(AX), 글로벌 AI 확산을 중심으로 정책을 추진하며 보안·공공 분야 특화 모델과 국산 챗GPT 출시도 추진한다. 또한 AI 데이터 국산화와 피지컬 AI용 합성 데이터 확보, 연간 500만 명 이상 교육, AX 대학원 15개 설립 등을 통해 국내 AI 생태계와 활용 기반을 확대할 방침이다.
중국 최고인민법원이 AI 관련 사건 처리를 위한 첫 사법 지침을 발표했으며, 24개 조항을 통해 얼굴 합성·음성 복제·신상정보 공개(doxing) 등으로 개인의 인격권을 침해하는 행위의 판단 기준과 책임을 제시했다. 동의 없이 타인의 음성을 복제하거나 이름·초상을 활용해 식별 가능한 디지털 아바타를 제작·유통하는 행위는 각각 음성권과 성명·초상권 침해로 간주된다. 지침은 개인정보·소비자 권리·지식재산권·자율주행 관련 규정도 포함하며, AI 발전에 따라 구체적인 조항을 추가할 수 있도록 일부 내용을 열어 두었다.
Anthropic의 Frontier Red Team은 계정 연계·신원 분류, 사진·텍스트 기반 위치 추정, 드론 등 재래식 무기 개발과 관련된 AI 역량을 평가했으며, 일부 모델이 과거에는 고도로 훈련된 전문가가 수행하던 작업을 할 수 있음을 확인했다. Mythos Preview는 계정 연계와 분류에서 가장 높은 성능을 보였고, 사진 위치 추정에서는 Mythos Preview와 Mythos 5의 중앙 오차가 각각 37.0km와 47.2km로 최고 수준 인간 GeoGuessr 플레이어의 151km보다 낮았으며 1km 이내 비율은 각각 23.7%와 23.1%였다. 중국 개발사의 open-weights 모델은 frontier 모델보다 뒤처졌지만 adversary 식별·표적화와 무기 성능 개선에서 우려할 만한 역량을 보였고, Anthropic은 이러한 오용을 막기 위한 플랫폼 안전장치와 모델의 학습·보호·배포 기준 검토가 필요하다고 밝혔다.
한국 사회의 불신·불만·불안 구조가 AI로 증폭될 수 있으며, 알고리즘의 불투명성·책임 공백·데이터센터의 자원 부담 등이 기존 사회적 균열을 심화시킬 수 있다고 지적한다. 에이전틱 AI와 피지컬 AI는 개인의 사고 능력, 조직의 지식 전승, 취약 노동자의 일자리를 위협할 수 있다. 글은 실리콘밸리·중국·유럽의 방식을 그대로 답습하기보다 안전·응집·포용·역능을 기준으로 인간 존엄을 지키는 ‘AI 품격사회’를 한국의 목표로 제안한다.
RAND 전문가들은 9·11 테러 이후 국토 안보의 변화와 교훈을 돌아보며, 다중 보안 계층과 지역사회 협력을 통한 연성 목표 보호의 중요성을 강조했다. TSA는 정보·법집행·민간 부문과 연계한 다층 검색으로 미국 상업 항공 보안 위험을 낮췄으며, 공공·민간 협력과 SAFETY Act가 대테러 기술의 평가와 도입을 지원했다고 설명했다. 드론은 배터리·모터·카메라·GPS 기술의 발전으로 성능과 접근성이 높아져 사람과 기반시설에 대한 새로운 위협으로 부상했다.
중국 최고인민법원이 AI 이용 얼굴·음성 모방, AI 환각, 자율주행 등과 관련한 분쟁을 다루는 24개 조항의 재판 지침을 처음 발표했다. 지침은 생성형 AI를 통한 자연인의 이름·초상 등 인격권 침해, 알고리즘 차별, 빅데이터 가격 차별, 유명인 사칭 상품 판매 등의 위법 판단과 책임 기준을 제시한다. 법원은 AI 분쟁의 ‘레드라인’을 명확히 하면서도 기존 법규를 활용해 기술 혁신과 산업 발전을 지원하겠다고 밝혔다.
텍사스 오스틴 뮬러 지역 주민이 Avride의 자율주행차가 공원 인근에서 오리를 치어 죽였고, 차량이 감속하지 않았다고 주장했다. 주민들은 오리의 죽음을 애도하며 자율주행차의 감지·회피 능력과 안전성에 의문을 제기했다. Avride는 사건을 내부 조사 중이며, 재발 방지 기술과 운행 절차를 검토하는 동안 뮬러 호수 주변 일부 도로에서 시험 운행을 중단했다고 밝혔다.
폴란드 바르샤바에서 약 30대의 휴머노이드·사족보행 로봇이 일자리 보호와 AI 규제를 요구하며 디지털 affairs부 앞에서 행진했다. 시위는 AI와 로봇화가 노동시장에 미치는 영향을 논의하기 위해 Democratism이 주최했으며, 로봇 제조사 Delta Robots와 채용업체 Weegree의 관계자인 Grzegorz Kuliś가 조직했다. 크시슈토프 가프코프스키 디지털 affairs부 장관은 통제되지 않은 AI 모델을 문제로 지적하고, 인공지능 개발·안전위원회와 규제 샌드박스 설치 계획을 밝혔다. 폴란드는 7월 EU AI Act 이행 법안을 발효해 EU 규정 집행 권한을 가진 국가 기관을 마련했다.
전문가들은 한국이 피지컬 AI 경쟁력을 확보하려면 정부·기업·학계·연구기관의 역량을 결집할 국가 차원의 컨트롤타워가 필요하다고 제언했다. 모든 분야를 내재화하기보다 제조 경험과 AI 지능, 안전·보안, 초정밀 부품 등 강점 분야에 집중하고 유연한 공급망과 협력 생태계를 구축해야 한다고 밝혔다. 또한 데이터 축적과 테스트베드, 중소기업의 실증 환경을 마련하고 실제 제조 현장에 적용 가능한 기술과 사회적 수용성을 함께 확보해야 한다고 강조했다.
한국지능정보사회진흥원(NIA)은 인공지능정부 기반 안정성 강화, AI 전환(AX) 지원, 정부의 AI 3대 메가프로젝트 대응을 위해 조직을 개편했다. 인공지능정부기반지원단을 본부로 승격하고 클라우드 이중화와 재해복구 구축 지원을 강화했으며, 인공지능융합본부로 AX 관련 기능을 통합했다. 지능기술인프라본부에는 에이전틱AI혁신팀을 신설하고, 데이터활용기술팀에는 피지컬AI 데이터 관련 기능을 부여했다.
한국지능정보사회진흥원(NIA)이 인공지능정부 기반과 AI 전환(AX) 지원을 강화하고 정부의 AI 3대 메가프로젝트에 대응하기 위한 조직개편을 발표했다. 인공지능정부기반지원단을 본부로 승격하고 AI정부사업팀을 신설했으며, AX 지원 업무는 인공지능융합본부로 일원화했다. 지능기술인프라본부에는 에이전틱AI혁신팀을 신설하고, 데이터활용기술팀에는 피지컬AI 데이터 관련 기능을 추가했다.
자율주행 차량의 훈련과 평가를 위해 더 현실적이고 다양한 안전 핵심 교통 시나리오를 생성하는 COSTER를 제안한다. 교통 사전 지식으로 충돌 시점과 위치를 정한 뒤 새 차량을 목표 차량과 접촉한 상태로 삽입하고, 조건부 변분 오토인코더로 삽입 차량의 궤적을 시간 역방향으로 복원한다. COSTER는 기존 방법보다 시나리오의 현실성, 다양성, 데이터 효율성에서 우수했다. COSTER로 생성한 시나리오를 학습한 에이전트는 Waymo Open Motion Dataset의 안전 핵심 시나리오에서 충돌률을 31% 낮추면서 ego task completion도 향상했다.
AI미래기획수석과 국가AI전략위원회 상근 부위원장이 새로 임명되며 정부의 AI 정책 지휘체계가 4개월 만에 정비됐다. 전문가들은 미국·중국과의 AI 격차를 좁히기 위해 독자 AI 파운데이션 모델 프로젝트를 재설계하고, 기존 사업을 프런티어 AI 모델 프로젝트에 연계해야 한다고 지적했다. 정부는 AI 데이터센터·피지컬 AI·AI 반도체 등 3대 메가프로젝트를 지원하고, 내년 유예기간이 끝나는 AI 기본법의 규제 시행 여부와 보완책도 검토할 예정이다.
미 공군은 YFQ-44A ‘퓨리’ 협업 전투항공기(CCA)에서 AIM-120 공대공미사일을 발사하는 시험을 실시해, 인간이 설정한 범위 안에서 표적 획득부터 무기 운용까지 자율 수행할 수 있음을 검증했다. 중국도 FH-97, GJ-11, 지우텐 등 AI 무인기와 군집드론 개발을 추진하고 있지만, 무인기가 항공무장을 실제 사용한 공개 증거는 미국보다 부족하다. 미·중 모두 조종사 한 명이 여러 무인기를 지휘하는 유·무인 협업체계를 모색하는 가운데, 통제 불능과 오작동 위험 때문에 무기 사용의 최종 권한은 인간이 갖는 반자동화가 주류가 될 전망이다.
네이선 베나이치 에어스트리트캐피탈 창업자는 한국이 세계적 메모리 반도체 기업과 제조업 기반, 기술 인력, 실제 산업의 AI 수요를 갖춰 UAE와 출발점이 다르다고 평가했다. 그는 미국 기술에 의존하는 일부 국가의 소버린 AI 전략은 정치적 포장에 그칠 수 있다고 비판하면서도, 한국의 AI 주권 전략은 제조 현장과 연계돼 실질적 활용이 가능하다고 설명했다. 특히 부산 등 제조업 단지 인근에 데이터센터를 구축해 공장 자동화와 로봇 등 피지컬 AI에 활용하려는 방향을 긍정적으로 봤다.
정부가 반도체·피지컬 AI·AI 데이터센터 등 3대 메가 프로젝트와 국가 AI 대전환에 내년 21조3000억원을 투입하고, 산업통상부는 13조2573억원의 예산안을 편성했다. 과학기술정보통신부는 최고 성능 GPU 1만장 확보에 3조9000억원을 포함해 AI 모델 개발과 데이터·인재 지원에 4조7000억원을 투입하며, 피지컬 AI 실증과 국산 AI 로봇 2000대 도입도 추진한다. 반도체 특별회계 2조6000억원과 자원 안보기금 1조4000억원을 신설하고, 서남권 반도체 클러스터와 전력·용수 인프라 확충에도 재정을 투입한다.
한국은 메모리 반도체와 K컬처를 기반으로 AI 산업·문명 표준 경쟁에서 주도권을 확보해야 하며, 반도체 기술을 산업과 사회 전반의 활용으로 확장해야 한다. 조선·자동차·방위산업·에너지 등 제조 현장에 AI와 로봇을 적용하는 피지컬 AI를 핵심 전략으로 삼고, 새만금을 자율주행·로봇·에너지·물류를 통합 검증하는 도시 AI-OS 실증구역으로 발전시킬 것을 제안한다. 정책 성과는 GPU와 예산 규모보다 현장 활용률, 생산성, 안전성, 중소기업 확산, 국제표준 채택과 수출 성과로 평가해야 한다.
CrashDiffuser는 자율주행 시스템 평가를 위해 충돌뿐 아니라 목표 차량의 접촉 위치까지 지정하는 시나리오를 생성한다. WOMD에서 도출한 폐루프 시나리오에서 VLM이 속도 변화·회전·충돌 단계를 예측하고, 이를 확산 모델의 적대적 궤적 생성과 충돌 유도 샘플링 및 재계획에 활용했다. 목표 충돌률은 한 번의 시도에서 50.33%, 세 번의 시도에서 67.98%였으며, 머리·후방·측면 접촉 영역 제어 성공률은 40.05%였다.
다카이치 사나에 일본 총리는 자위대에 AI와 드론을 더 빠르게 도입하고, 현장 의견을 반영해 조직과 제도를 개혁하라고 주문했다. 일본 정부는 연말을 목표로 안보 3문서를 개정해 방위력 강화의 새로운 방향성을 제시할 계획이다. 다카이치 총리는 방위력 강화에 국민의 이해와 협력이 필요하다고 강조했으며, 고이즈미 방위상은 동맹·동지국과의 협력 강화를 강조했다.
국방부가 드론·로봇·인공지능(AI)·사이버 분야 민간 전문가를 유사시 예비전력으로 활용하기 위한 모집을 9월 1일부터 시작했다. 대한민국 성인 남녀 누구나 예비군 홈페이지를 통해 지원할 수 있으며, 관련 자격증·학위 보유자와 대회 입상자, 기업 종사자 등이 대상이다. 선발된 전문가는 전시 병력·기술인력 동원 대상이 될 수 있고, 상비예비군 선발과 예비역 간부 진급 지원 시 가점을 받는다.
배경훈 과학기술정보통신부 장관이 G20 혁신 장관회의에서 ‘모두의 AI’, 범부처 AX, 반도체·AI 데이터센터·피지컬AI 등 한국의 AI·과학기술 혁신 정책을 소개했다. 참석국들은 신흥기술의 연구개발부터 사업화·시장 확산, 공공부문 도입과 인재 육성까지 전주기 혁신 방안을 논의했다. 배 장관은 미국 백악관 과학기술정책실 관계자와 AI 및 과학기술·ICT 분야 협력 방안도 협의했다.
하정우 신임 상근부위원장은 국가 AI 비전을 제시하고 민간과 정부를 연결하는 거버넌스 중심축 역할을 하겠다고 밝혔다. 반도체·피지컬AI·AI데이터센터를 축으로 한 3대 메가프로젝트를 제조·로봇·지역 산업과 인재 육성으로 확산하고, 정책 조정과 실행 점검을 강화할 계획이다. 국방·공공 분야에서 자체 AI 모델을 구축·운영하는 소버린 AI의 필요성도 강조했다. AI미래기획수석 사퇴와 국회의원 보궐선거 낙선 후 약 4개월 만에 정부 AI 정책 라인에 복귀했다.
일본 방위성은 내년도 방위 예산안으로 8조9,000억 엔을 제시하며 드론, AI, 장거리 미사일과 극초음속 미사일 등을 활용해 방위 역량을 전환할 계획이라고 밝혔다. 2027년 4월 시작되는 회계연도부터 공중·수중 발사 공격용 드론 개발과 지휘통제용 통합 AI 플랫폼인 ‘AI 오케스트레이터’, 국방부 클라우드 구축을 추진한다. 또한 방위산업의 생산·공급망 안정화를 위해 정부가 공장을 인수하고 민간 기업에 제조를 맡기는 방안도 검토한다.
팀스터스 캘리포니아는 캘리포니아 차량국(DMV)이 1만1파운드 초과 자율주행 차량 운행 금지를 해제하면서 경제·실무 영향 조사와 공공 의견 수렴을 충분히 하지 않았다며 소송을 제기했다. 노조 측은 새 규정의 첫해 경제적 비용이 2억8,000만 달러를 넘고 운전자 일자리와 도로 안전을 위협한다고 주장했다. DMV는 안전성과 투명성, 제조업체 책임을 강화한 규정이라고 밝혔으며, 전문가는 규정 마련에 1년 넘게 제안 검토와 공청회가 진행돼 결정이 성급하지 않았다고 반박했다.
정부는 2030년까지 휴머노이드 생태계에 2조3000억원, 자율제조·농업·건설·물류·돌봄·국방 등 8개 분야의 피지컬 AI 실증에 2조8000억원을 투자할 계획이다. 휴머노이드 핵심부품 국산화율을 80%로 높이고, 내년 250대를 시작으로 2030년까지 총 1080대를 대학과 국책 연구기관 등에 보급한다. 피지컬 AI 실증은 민간·지방자치단체 투자를 포함해 총 4조원 규모로 추진되며, 농업과 건설 분야에서 관련 장비·기술의 현장 적용을 시험한다.
본 연구는 생성형·초거대 AI에서 에이전트형 AI와 피지컬 AI로 이어지는 기술·산업 변화를 분석하고, 주요국·국제기구·기업·학술 및 표준기관의 동향을 정리했다. AI 산업 경쟁이 모델 성능을 넘어 데이터·연산 인프라·반도체·인재를 포함한 국가 AI 역량 경쟁으로 확대되고 있으며, AI 거버넌스도 원칙·설계 단계에서 법·제도의 시행·집행 단계로 진입했다고 설명한다. 연구 결과는 국가 AI 전략과 산업 정책, 인공지능 기본법 및 관련 제도 보완, 교육·인력 정책 수립을 위한 기초 자료로 활용될 수 있다.
이 연구는 사람들이 자율주행 환경을 바라보는 방식과 그 환경을 안전하다고 평가하는 방식이 서로 다른 차원임을 보여준다. 22개 도시와 5개 대륙에서 1,272명의 시선추적·설문 자료와 약 4,000개의 관심영역별 시선 지표를 분석했다. 사회집단을 바라보는 패턴은 자율주행 및 비자율주행 상황에서 안정적으로 나타났지만, 지각된 안전·보안과의 연관성은 약했고 자동화 신뢰, 소수자 지위, 사회문화적 맥락과의 연관성이 더 강했다. 시선 패턴은 자율주행 모빌리티에서의 기능적 안전과 지각된 안전이 구별되는 차원임을 뒷받침했다.
러시아가 인간의 실시간 개입 없이 표적을 식별·공격하는 AI 자율형 드론을 우크라이나 전장에 투입한 것으로 전해졌다. 우크라이나 당국은 자포리자 주유소를 공격해 민간인 3명이 숨진 드론 잔해에서 지형 이미지와 표적 식별 기능, 엔비디아 Jetson Orin 컴퓨터 탑재 사실을 확인했다. 엔비디아는 해당 제품이 소비자용으로 설계됐으며 러시아에 직접 수출하지 않는다고 밝혔다. 영국과 우크라이나는 전장 데이터 분석을 위한 AI 파트너십 협약을 맺었고, 국제적십자사와 인권단체는 인간 통제 없는 자율무기 사용에 반대하고 있다.
Moral Machine은 자율주행차 같은 기계 지능의 도덕적 의사결정에 대한 사람들의 판단을 수집하는 플랫폼이다. 이용자는 승객과 보행자 중 누구를 희생할지와 같은 도덕적 딜레마를 평가하고, 다른 사람들의 응답과 비교하거나 직접 시나리오를 만들어 공유할 수 있다. 이 프로젝트는 2016년 1월부터 2020년 7월까지 운영됐다.
[2026-08-25] 과기정통부, 「K-문샷 AI 휴머노이드 미션」 현장소통 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187688)
[2026-08-25] 과기정통부, 인천지역 AI·SW인재양성 거점, 「ICT콤플렉스」 개소 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187690)
[2026-08-25] 에이전틱 AI 글로벌 표준 선점을 위해 에이전트형 인공지능 재단(AAIF)과의 협력 추진 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187692)
뉴욕타임스는 러시아가 인간 조종사 개입 없이 표적을 식별·공격하는 AI 자율살상 드론을 우크라이나에 투입했다고 보도했다. 우크라이나 당국과 전문가들은 자포리자 주유소 공격 드론 잔해에서 엔비디아의 초소형 컴퓨터 Jetson Orin과 지형 인식·표적 식별 기능을 확인했으며, 당시 공격으로 민간인 3명이 숨졌다. 엔비디아는 해당 제품이 학생·개발자·스타트업 등에 판매되는 소비자용 제품이며 러시아에는 직접 판매하지 않는다고 밝혔다.
러시아가 인간의 직접 통제 없이 목표물을 식별하고 공격 여부를 판단하는 완전 자율형 AI 유도 드론을 우크라이나 전쟁에 투입한 것으로 전해졌다. 자포리자 공습으로 민간인 3명이 사망한 드론에는 엔비디아의 Jetson Orin이 탑재됐으며, 특정 표적을 식별하고 이동 경로를 유지하는 지형 이미지와 AI 기능이 포함된 것으로 분석됐다. 엔비디아는 러시아에 제품을 판매하지 않는다고 밝혔고, 러시아가 2차 시장에서 제품을 확보했을 가능성이 제기됐다.
우크라이나 조사관들이 추락한 러시아 시험용 AI 드론에서 엔비디아의 소형 AI 컴퓨터 ‘젯슨 오린’을 발견했으며, 해당 드론이 인간 개입 없이 공격 대상을 판단한 것으로 분석됐다. 이 드론은 카메라를 장착했지만 조종사와 통신할 안테나는 없었고, 지난달 자포리자 주유소 공격에 사용돼 3명이 숨졌다는 증언이 나왔다. 엔비디아는 제품이 군사용으로 설계되지 않았으며 러시아군이 2차 시장을 통해 확보했을 가능성이 있다고 밝혔다.
피지컬AI 주도권 경쟁에서 향후 5년이 중요하며, 제조업과 데이터를 보유한 한국이 기술 자립과 규제 개선에 속도를 내야 한다는 주장이 나왔다. KAIST 배충식 총장은 AI 모델뿐 아니라 제조업·시뮬레이션·데이터를 아우르는 AI 풀스택과 개방형 인프라, 네거티브 규제 전환이 필요하다고 강조했다. 정부는 산업별 학습 데이터와 데이터 라이브러리를 구축하고, 국회에서는 AI 시범 지역과 규제 타임아웃제 등을 담은 피지컬AI 특별법이 추진되고 있다.
한국피지컬AI협회 세미나에서 피지컬AI 주도권 확보를 위해 산업 데이터 기반의 자체 월드모델과 국산 AI 반도체를 확보해야 한다는 제안이 나왔다. 참석자들은 AI 모델·반도체·로봇·제조 기업이 참여하는 생태계와 국가 차원의 개방형 실증 인프라인 ‘피지컬 AI 파운드리’ 구축이 필요하다고 강조했다. 또한 규제샌드박스 확대와 장기적인 네거티브 규제 전환, 인재 양성 및 창업 연계를 통해 앞으로 5년 안에 기술 자립과 산업 확산을 추진해야 한다고 밝혔다.
러시아가 엔비디아의 상용 칩을 탑재한 드론을 우크라이나 공격에 활용해 인간의 직접 조종 없이 AI가 표적을 식별·공격한 것으로 조사됐다. 국제적십자사 등 인권단체와 유엔 사무총장은 자율 살상 무기 규제를 촉구했으며, 엔비디아는 해당 칩이 민간용 저가 제품이라고 밝혔다. 서방국가들은 우크라이나 방공망 지원과 군사훈련을 확대하기로 했지만, 러시아는 돈바스 자유경제구역을 포함한 우크라이나의 휴전 제안을 거부했다.
과학기술정보통신부는 미래기술의 성장동력 확보와 AI 신뢰사회 구축을 위해 제12회 과학기술관계장관회의를 개최하고 3개 안건을 심의·의결했다. 자율주행 AI 실증·상용화 로드맵을 통해 실증 지역과 규모를 확대하고, 주행데이터 확보와 민간 참여형 상생모델, 안전·사고 대응체계를 마련한다. 또한 인간 존엄성·사회 공공선·인류 지속가능성을 바탕으로 한 대한민국 인공지능 윤리원칙과 딥테크 창업 활성화를 위한 사업화·실증·창업 지원 및 민관 펀드 조성 방안을 추진한다.
러시아-우크라이나 전쟁에 참전한 북한군이 드론, GPS 교란, 사이버 공격 등 신기술 전쟁 경험을 축적하면서 한미 양국은 이를 대북 억제와 연합훈련에 반영해야 한다. UFS 축소로 신기술 위협을 작전 전 과정에서 반복 숙달할 기회가 줄어들 수 있어, 데이터 공유와 알고리즘 검증, 인간의 최종 통제 기준을 포함한 새로운 한미 상호운용성 논의가 필요하다. 미래의 전시작전통제권은 지휘권뿐 아니라 데이터 통제권·알고리즘 접근권·네트워크 운용권까지 포괄해야 하며, 한국은 AI·사이버·우주·무인체계 관련 국제 규칙 형성에도 적극 참여해야 한다.
중국 로봇 기업들의 기업가치가 실제 기술력과 생산 현장 적용 수준을 크게 웃돈다는 분석을 소개한다. 지방 국유기업이 투자자·고객·운영 파트너 역할을 동시에 맡아 로봇 구매와 데이터 시설 투자를 늘리는 구조가 외형상 매출과 수요를 부풀릴 수 있으며, 일부 매출은 관련자 거래로 분류돼 기업공개 과정에서 제외되기도 했다. Unitree는 2025년 매출의 70% 이상이 연구용에서 나왔고 산업용 비중은 10% 미만이었으며, Embodied AI는 효과적인 데이터와 표준화·벤치마크가 부족해 대규모 자금이 기술력으로 빠르게 전환되지 않고 있다고 지적한다.
우크라이나가 러시아에 압박을 가하기 위해 하루 최대 1000대의 AI 드론으로 모스크바 공항을 마비시키는 ‘M&Ms’ 작전을 검토했으나, 민간 항공기와 승객·공항 직원 피해 우려로 중단한 것으로 전해졌다. 이 작전은 지난 7월 미하일로 페도로프 국방장관 해임을 전후해 중단된 것으로 알려졌으며, 유럽 국가들의 우려가 영향을 미쳤는지는 분명하지 않다. 최근 유럽 여러 국가의 공항에서도 정체불명의 드론 출현으로 운영 차질이 발생했다.
을지연습은 8월 18일부터 21일까지 3박 4일간 진행된다.
한전KDN은 AI 해킹과 드론 테러 등 첨단 안보 위협에 대비해 비상소집, 사이버 공격 대응, 민방위 대피, 정보통신설비 복구훈련 등을 실시한다. 원전 ICT센터 드론 공격과 SCADA 설비 파손으로 전력 공급이 중단되는 상황을 가정한 토의·복구훈련도 진행한다.
산업통상부는 2026년 8월 14일 육군·현대자동차그룹과 국방 로봇 및 피지컬 AI 활용 확대를 위한 업무협약을 체결했다. 협약에 따라 국방 로봇·피지컬 AI 연구개발, 현장 실증환경 구축, 장비·인력 지원, 경계·정찰·물류 등 분야의 로봇 도입을 추진한다. 산업부는 정책 지원, 현대차그룹은 기술·인력 제공, 육군은 테스트베드와 시험운용 환경을 맡으며 순찰·청소·조리·물류로봇 실증과 보급을 확대할 계획이다.
이 연구는 자율주행 차량(AV)의 윤리적 의사결정 능력을 강화학습을 통해 구현하는 방법을 제시한다. 특히, Ethical Decision Head (EDH)라는 딥러닝 기반 프레임워크를 통해 안전뿐 아니라 도덕적 판단을 학습하도록 설계되었다. EDH는 CARLA 시뮬레이션 환경에 맞춰 설계되었으며, 두 가지 규범적 윤리 체계 — 유틸리티 최대화와 칸트주의 — 를 평가한다.
연구에서는 200개의 충돌 위험 상황에 대한 인간의 선호도 데이터를 통해 Proximal Policy Optimization (PPO) 알고리즘을 활용해 EDH를 훈련시킨다. 핵심 결과는 다음과 같다: - 칸트주의 프레임워크는 안정적인 학습 과정을 보여주며, 훈련의 일관성을 확인했다. - 유틸리티 프레임워크는 인간 평가자들이 이론적인 최소 피해보다 자기 희생을 더 선호한다는 사실을 반영하여, 모델이 이러한 인간의 실제 선호도를 학습함을 보여준다. 이 결과는 강화학습을 통한 윤리 학습이 철학적 정의보다는 실제 인간 행동에 더 가깝다는 점을 시사한다.
결과적으로, EDH는 자율주행 차량의 윤리적 의사결정 과정에서 인간의 실제 선호도와 행동 패턴을 반영하는 데 중점을 둔다.
중국이 베이다이허 휴가 기간 동안 AI와 원천기술을 국가 전략의 핵심으로 내세우며 미국과의 AI 기술 경쟁을 강화하고 있다. 미국의 제재 조치들이 중국의 AI 인프라와 기술 수출에 영향을 미치자, 중국은 드론 수출 통제 강화 등으로 반격하고 있다. 이러한 갈등이 심화되면서 시진핑의 9월 방미 일정에도 영향을 미칠 수 있다는 우려가 제기되고 있다. 양국 간의 AI 패권 경쟁은 단순 무역 분쟁을 넘어 국가 안보와 미래 산업 주도권을 둘러싼 경쟁으로 확대되고 있다.
이 연구는 대규모 언어 모델(LLMs)이 자율주행 차량 소프트웨어 스택, 특히 Autoware 오픈소스 플랫폼의 취약점을 동적 분석하는 데 얼마나 효과적인지 평가한다. 정적 분석을 통해 1,375개의 의사결정 규칙, 2,274개의 검증 체크, 그리고 482개의 입력에서 안전성 출력으로 이어지는 흐름을 식별했으나, 동적 확인 과정에서 LLMs가 생성한 아티팩트 세트의 제한된 성공률이 드러났다. 주요 결과는 다음과 같다:
- LLM 기반의 추론 모델이 초기 시도에서 64%의 하드웨어 연결(harness)을 성공적으로 컴파일하는 반면, 코드 특화 모델은 단지 6%만 성공했다. - 동적 분석 과정에서 아티팩트 세트의 대부분은 컴파일 실패를 겪었으며, 특히 80%의 컴파일 실패는 의존성 연결 문제에서 비롯되었다. - LLM이 생성한 아티팩트 중 절반 미만이 퍼징 테스트에 도달했으며, 관찰된 모든 37가지 크래시는 스텁 코드에서 발생했다. - 예산 내에서 LLM을 통해 동적 확인된 취약점은 발견되지 않았다.
결론적으로, 이 연구는 자율주행 차량 소프트웨어 스택의 신뢰성 있는 동적 분석에서 빌드 통합 문제가 주요 장벽임을 보여준다.
항공 스타트업 에어빌리티가 최대 8대의 요격기를 협력하여 여러 드론을 동시에 대응하는 AI 요격 시스템을 개발 중이다. 이 시스템은 드론의 위협도를 AI가 판단하고 요격기들에 표적을 자동 배분하여 효율적으로 대응한다. 정부의 지원을 받아 3년간 30억 원을 투자받아 실증 연구를 진행할 예정이며, 향후 방산뿐 아니라 원전, 공항 등 주요 시설 보호에도 적용될 계획이다.
[2026-08-13] AI공격, AI모델규제, 중국 대미 드론 수출통제 [AI·ICT Brief 2026-29호] (https://www.itfind.or.kr/admin/getStreamDocsRegi.htm?identifier=02-001-260813-000001)
[2026-08-12] 피지컬 AI 구현을 위한 VLA 기술과 월드 모델 융합 동향 [주간기술동향 2218호] (https://www.itfind.or.kr/admin/getStreamDocsRegi.htm?identifier=TVOL_1403)
이 연구는 인공지능(AI) 에이전트의 핵심 특성과 그 배포가 가져올 영향을 이해하기 위해 에이전트의 자율성, 효과성, 목표 복잡성, 일반성 네 가지 차원을 중심으로 에이전트를 분류하고 평가하는 프레임워크를 제시한다. 각 차원에 대한 세부적인 구분 기준을 설정하고, 이러한 차원들이 에이전트의 설계, 운영, 그리고 관리에 미치는 독특한 질문들을 제기한다. 구체적으로, 연구는 다음과 같은 핵심 내용을 다룬다:
- 자율성: 에이전트가 외부 지시 없이 독립적으로 행동할 수 있는 능력을 측정한다. 다양한 정의들에서 자율성은 에이전트의 행동 자유도와 직접적인 인간 개입 없이 목표 지향적인 행동을 수행하는 능력을 강조한다. - 효과성: 에이전트가 환경에 인과적인 영향을 미칠 수 있는 능력을 평가한다. 이는 에이전트가 환경을 인식하고 변화시킬 수 있는 능력을 의미한다. - 목표 복잡성: 에이전트가 수행하는 목표의 복잡성과 다양성을 분석한다. 복잡한 목표를 다룰 수 있는 에이전트의 능력은 그 중요성을 높인다. - 일반성: 에이전트가 다양한 도메인에서 유연하게 작동할 수 있는 범위를 평가한다. 일반적인 에이전트는 특정 태스크에 국한되지 않고 광범위한 상황에 적용 가능하다.
연구는 이러한 차원을 바탕으로 AlphaGo, ChatGPT-3.5, Claude 3.5 (도구 사용 포함), Waymo 자율주행차의 '에이전트 프로필'을 구축하여, 다양한 유형의 AI 에이전트가 직면하는 기술적 및 비기술적 관리 도전 과제를 명확히 한다. 이를 통해 개발자, 정책 입안자, 그리고 일반 대중에게 효과적인 AI 관리 지침을 제공한다. 핵심 결과로는 각 에이전트의 특성에 따른 자율성 수준과 효과성의 차이가 구체적으로 드러나며, 이는 에이전트의 적절한 관리와 책임 소재를 결정하는 데 중요한 역할을 한다.
조학수 신임 IITP 정보보안 PM 주도 하에 KISIA와 IITP는 정보보호 분야의 R&D 과제 발굴을 위한 협의체를 개최했다. 이번 회의에서는 정보보호 기업들의 R&D 수요와 현장의 어려움을 공유하고, AI 에이전트 보안, 제로트러스트, 피지컬 AI, 동형암호 등 새로운 기술 환경에 대응하기 위한 연구 방향을 논의했다. 협의체는 기술 개발뿐 아니라 사업화와 해외 시장 진출을 위한 지원 방안도 함께 다뤘다. KISIA는 산업계 의견을 정부 R&D 기획에 반영하여 정보보호 산업의 경쟁력을 강화하고 혁신적인 과제 발굴을 지원할 계획이다.
정부와 연구기관은 피지컬 AI, 특히 휴머노이드 로봇의 안전과 신뢰성을 강화하기 위한 기준 마련에 착수했다. 최근 열린 포럼에서 물리적 조작을 통한 AI 오작동 위험성이 제기되었고, 이에 따라 과학기술정보통신부는 '에이전틱 AI 이니셔티브'를 발표하며 안전 가이드라인 개발과 샌드박스 지원을 계획했다. 그러나 국제 표준인 ISO 13482의 개정 과정에서도 로봇과 인간 간의 상호작용과 가치 판단에 대한 고려가 부족하다는 지적이 제기되었다. 안전 기준 설정 과정에서 기술 전문가뿐 아니라 사용자들의 의견도 반영되어야 한다는 목소리가 높아지고 있다.
이경수 부의장은 평창 바랑재 포럼에서 한국이 독자적인 기술 개발 뿐 아니라, 산업 표준과 플랫폼 설계를 통해 AI 시대의 주도권을 확보해야 한다고 강조했다. 특히 반도체, 자동차, 조선, 에너지 분야의 AI 통합을 통해 세계가 참고할 수 있는 운영 체계를 만들자는 제안을 했다. 포럼에서는 인간과 AI의 릴레이 강연 및 휴머노이드 로봇의 참여로 다양한 관점에서 AI 시대의 전략과 인간의 역할에 대해 논의되었다.
이 연구는 자율 주행 차량의 차선 변경 결정 과정에서 안전성, 편안함, 효율성 사이의 균형을 맞추는 방법을 탐구한다. 특히, 기존의 안전 강화 학습(SafeRL) 방법론의 한계를 극복하기 위해 HPC-SafeRL 프레임워크를 제안한다.
구체적 접근 방식: - 하이브리드 액션 표현과 예측 기반 롤아웃, 안전 마스크 필터링, 퍼지 논리 기반 동적 보상 가중치를 통합한 TD3 기반 의사결정 프레임워크를 구축한다. - 다양한 시나리오에서의 맥락 인식과 예측적 안전 평가를 통해 이산적인 차선 변경 결정과 연속적인 제어 파라미터 조정을 가능하게 한다.
핵심 결과: - SUMO 시뮬레이션 결과, HPC-SafeRL은 평균 속도 29.35 m/s를 유지하면서 MP-DQN 대비 충돌 위험을 51.6%, PPO-Lagrangian 대비 60.8% 감소시켰다. - 예측 모듈 제거 시 충돌률이 16.62%에서 35.43%로 증가하고 평균 속도가 29.35 m/s에서 16.57 m/s로 하락했다. - 동적 보상 가중치 제거 시 충돌률이 32.03%로 증가했다.
이러한 결과는 HPC-SafeRL이 사전 위험 관리, 행동 안정성, 그리고 다양한 목표 사이의 적응적 의사결정을 향상시킨다는 것을 보여준다.
AI 기술의 급속한 발전이 의료와 제조 분야 등에서 혁신을 이끌고 있지만, 안전장치의 발전 속도가 따라가지 못하면서 물리적 및 생물학적 영역에서의 위험성이 증가하고 있다. 특히 자율형 로봇과 자율주행차의 오류는 인명 피해로 이어질 수 있으며, AI 모델의 해킹 시도와 같은 사이버 보안 위협도 커지고 있다. 전문가들은 AI 발전 속도에 맞춰 선제적인 안전 기준과 통제 체계 구축의 필요성을 강조하고 있다.
[2026-08-06] 배경훈 부총리, 서울 스마트쉼센터 방문 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187630)
[2026-08-06] 4대 과학기술원 창업원 간담회 개최 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187624)
[2026-08-06] 과기정통부와 한국전자통신연구원, ITU-T 자율주행차 국제표준화 주도한다. (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187633)
[2026-08-06] 과기정통부, 기업의 반도체 유휴장비공공나노팹에서 이어받는다 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187631)
[2026-08-06] 국산 인공지능 반도체, 올해 600억 원 이상 투입하여 우리 일상 곳곳에 대규모 확산한다 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187632)
[2026-08-06] 류제명 과기정통부 2차관, 집배원과 함께 배달 현장 동행하고 폭염 속 집배원 격려 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187629)
[2026-08-06] 무더위를 날릴 ‘얼음공룡’이 찾아온다 - 국립과천과학관, 「아이스 다이노 어드벤처」 개최 (https://www.msit.go.kr/bbs/view.do?sCode=user&mPid=208&mId=307&bbsSeqNo=94&nttSeqNo=3187634)
중국 정부가 미국의 최근 경제 및 무역 제한 조치에 대응하여 여러 단계의 반격 조치를 발표했다. 주요 조치로는 미국으로의 드론, 핵심 부품, 관련 기술 수출 통제 강화, 중국-미국 제품 인증 협력의 일부 중단, 그리고 미국 기업 일곱 곳을 반격 목록에 추가하여 거래 금지 등이 포함된다. 이러한 조치들은 인증, 부품, 소프트웨어 보안, 공급망 준수 등 다양한 분야에서 이루어진다. 중국은 이러한 미국의 조치들이 양국 정상 간 합의를 심각하게 위반하고 자국의 합법적 권리를 침해한다고 주장하며, 대화와 협력을 통해 문제를 해결할 것을 촉구하고 있다. 만약 추가 제한 조치가 취해진다면 중국은 추가 반격 조치를 취할 것이라고 밝혔다.
미국과 중국 간의 인공지능(AI) 경쟁이 격화되고 있다. 미국은 중국의 AI 스타트업 매각 철회 요구와 보안 취약점 발견을 통해 중국의 AI 접근을 제한하고 있으며, 중국 역시 자국의 고성능 AI 모델 수입을 제한하는 방안을 검토 중이다. 이 경쟁은 단순 기술 경쟁을 넘어 사이버 안보, 통상, 산업 표준 등 다양한 분야로 확장되고 있으며, 미국의 폐쇄형 전략과 중국의 개방형 공세 사이의 대립 구도를 보여준다. 특히, 에이전트 AI와 피지컬 AI 분야에서의 경쟁이 미래 디지털 국제질서를 주도하려는 시도로 해석되고 있다. 이러한 상황은 각국이 '소버린 AI' 역량을 강화해야 함을 시사하며, AI 기술을 '디지털 핵무기'로 비유하는 등 안보적 측면에서의 중요성이 강조되고 있다.
한국 정부는 반도체, 물리적 AI, AI 데이터 센터 등 주요 프로젝트를 지원하기 위해 '메가 특별구역'을 설립하고, 약 300가지 규제 예외를 적용할 계획이다. 이 프로젝트는 총 1,600조 원 규모로, 재생에너지 공급을 위한 RE100 산업 단지 구축과 산업 및 자원 안보 기금 설립 등을 포함한다. 또한 중동 전쟁으로 드러난 공급망 취약성에 대응하기 위해 CPTPP 회원국 재가입을 검토할 예정이다. 정부는 이 프로젝트들의 투자 진행 상황을 매월 대통령 회의에서 점검할 계획이다.
세계 모델(AI 시스템이 물리적 환경을 구축하고 예측하는 기술)의 등장은 정책 입안자들에게 새로운 규제 과제를 제기하고 있다. 이 기술은 자율주행차, 재난 대응 로봇 등에 적용되며, 정보 위험을 넘어 물리적 위험까지 초래할 수 있어 기존 언어 모델 규제보다 훨씬 복잡한 문제를 야기한다. 정책 입안자들은 이 기술의 급속한 상업화와 함께 안전에 직결된 결정을 내리는 데 필요한 엄격한 평가 기준을 마련해야 한다. 특히, 세계 모델의 유효성 검증과 데이터 인프라 구축이 시급한 과제로 지목되고 있다. 잘못된 시뮬레이션 환경은 실제 시스템 적용 시 중대한 안전 문제를 초래할 수 있어, 공공 가치를 위한 프레임워크 구축이 중요하다.
마감일/시행일: 명시되지 않음
요약: 스탠포드 HAI 연구진은 AI의 물리적 세계 적용을 위한 "세계 모델" 기술이 정책 입안자들에게 새로운 규제 과제를 제기하고 있음을 경고한다. 이 기술은 자율주행차와 재난 대응 시스템 등에 활용되며, 정보 위험을 넘어 물리적 위험까지 초래할 수 있어 기존 규제보다 훨씬 복잡하다. 정책 입안자들은 엄격한 평가 기준 마련, 데이터 인프라 구축, 그리고 공공 가치를 위한 규제 프레임워크 구축이 시급하다고 강조한다.
소해함 옹진함과 무인수상정, 자율기뢰탐색체를 이용해 부산항이 가상의 적 기뢰로 봉쇄된 상황을 시뮬레이션했다. 실험에서는 AI 지원 체계가 기뢰 탐색 및 제거 임무를 수행했으며, 드론이 작전 환경을 감시했다. 이 실험은 미래 해양 전장에서 첨단 기술의 중요성을 강조하며 마무리되었다. 해군작전사령관은 첨단 기술의 군사적 활용을 강조했다.
마감일 없음
본 기사는 기계의 오독과 그 오독이 법 조문으로 반영되는 과정을 다룹니다. 실리콘밸리와 한국의 사례를 통해, 기술 발전을 추구하는 과정에서 원작의 맥락을 무시하고 결론만을 취하는 '오독'이 발생하며, 이 오독이 결국 개인정보 보호 관련 법률 조항에 반영되는 문제점을 지적합니다. 특히 한국의 경우, 자율주행자동차법과 피지컬 AI 특별법안 등에서 '불가피한' 개인정보 활용이 허용되는 조항이 산업 경쟁력을 우선시하는 방향으로 제정되고 있어, 이 과정에서의 판정 기준 부재와 시민사회의 의견 수렴 부족이 우려되고 있습니다. 오독이 조문으로 이어지기 전에 이를 견제할 수 있는 제도적 장치의 필요성을 강조하고 있습니다.
중국 군사 연구기관 소속 연구진이 OpenAI와 Anthropic 등 미국의 최신 AI 모델 출력을 활용한 '모델 증류(distillation)' 기법으로 자국 국방용 AI 시스템을 개발·고도화한 정황이 다수의 논문과 특허를 통해 확인. 해당 AI는 드론 운용, 감시·정찰, 전장 의사결정 등 군사 분야에 활용된 것으로 나타났으며, 미국 AI 기업들은 이러한 활용이 자사 이용 정책을 위반하는 행위라며 관련 계정 차단과 보안 강화를 추진.
딥마인드는 Gemini Robotics 2를 출시하여 로봇에게 전신 제어 능력, 정교한 손재주, 그리고 팀 작업 능력을 부여함으로써 복잡한 다양한 작업을 수행할 수 있게 했습니다. 이 모델은 시각과 언어 입력을 동작 제어로 변환하여 다양한 로봇 형태(발부터 손가락까지)를 제어할 수 있습니다. 특히, 이 모델은 로봇 간 협업을 가능하게 하며, 새로운 로봇 형태에도 빠르게 적응할 수 있는 온디바이스 기능을 갖추고 있습니다. 안전한 인간-로봇 협업을 위해 ASIMOV-Agentic과 같은 새로운 벤치마크를 도입하여 로봇의 안전한 동작을 보장합니다. 개발자들은 Google AI Studio에서 이 모델을 시도해볼 수 있습니다.
이 연구는 세계 모델 기반의 탑재형 AI의 보안 문제를 생애 주기 전반에 걸쳐 분석한다. 주요 관심사는 데이터 수집부터 모델 학습, 상태 구현, 상상력 구현, 동작 평가, 실행, 그리고 장기적 적응까지의 전 과정에서 발생할 수 있는 위협들에 대한 것이다.
구체적으로, 연구는 다음과 같은 위협 요소들을 다룬다: 데이터 오염, 백도어 삽입, 적대적 예제, 센서 속임수, 프롬프트 주입, 동작 경로 조작, 공급망 공격 등이 세계 모델의 상태, 학습된 동역학, 기능 추정치, 안전성 비용을 침해할 때 어떻게 변형되는지를 보여준다.
핵심 결과로, 세계 모델은 실시간 안전성 보호 장치 역할을 하지만, 만약 침해되거나 과도하게 신뢰받게 되면 예측 안전성 환상을 생성할 수 있다는 점이 밝혀졌다. 연구는 위협과 방어 전략에 대한 생애 주기 분류 체계를 제시하고, 안전성 실패 평가 프로토콜을 설명하며, 출처 검증, 견고한 구현, 불확실성 인식 예측, 경로 제한, 피드백 감사, 배포 보증 등을 통한 방어 구조를 제시한다.
- 주요 결과: 세계 모델의 상태와 학습된 동역학이 침해될 경우, 예측 안전성 환상이 발생할 수 있으며, 다양한 공격 유형이 세계 모델의 특정 구성 요소에 따라 다르게 영향을 미친다. - 수치: 실제 수치는 논문 본문에서 확인해야 한다.
구글 딥마인드는 로봇의 고수준 두뇌 역할을 하는 Gemini Robotics ER 2를 공개했으며, 실시간 공간 추론과 다단계 작업 계획, 도구 호출 및 다중 로봇 협업을 지원한다고 밝혔다. 연속 영상으로 작업 진행 상황을 추적하고 오류를 수정하며 다음 단계로 전환할 수 있고, 작업 진행도 분류 정확도는 57.4%, 주요 순간 탐지 정확도는 91.3%로 제시됐다. 이 모델은 Gemini API와 Google AI Studio에서 개발자에게 공개됐고 Gemini Enterprise Agent Platform에서는 비공개 프리뷰로 제공된다. 또한 안전 지침 준수와 사람 접근 감지 기능을 개선해 사람이 가까이 있으면 휴머노이드 로봇을 정지시키고 주변이 안전해진 뒤 작업을 재개하도록 설계됐다.
이탈리아 통신 규제 기관 AGCOM이 모바일 스펙트럼 사용권을 2029년 만료 후 2037년까지 연장하는 방안을 공개 의견 수렴 중이다. 이는 800MHz부터 3600MHz까지의 주파수 대역과 28GHz 고정 무선 액세스 대역을 포함한다. 스펙트럼 연장은 무료로 제공되지만, 통신사들은 네트워크 커버리지와 서비스 품질 향상을 위한 투자를 약속해야 한다. AGCOM은 이러한 조치가 자율주행차, 산업 로봇공학, 원격의료 등에 필수적인 5G 단독 네트워크 구축을 가속화할 것으로 기대하고 있다. 의견 제출 기한은 2026년 10월 5일까지이다.
현재의 드론은 실내 탐색, 인간 추적, 치명적인 페이로드 배포가 가능하여 대량 살상 무기로 활용될 수 있으며, 기존 기술로도 충분한 위협이 될 수 있다는 주장. 현재 기술로도 드론의 제한적인 자율성과 저렴한 비용으로 인해 대규모 인명 피해를 초래할 수 있는 상황이며, 향후 더욱 자율화된 드론의 등장으로 위협 수준이 더욱 증가할 것으로 예상됨. 특히 에너지 효율적인 배치 전략과 소형화된 치명적 페이로드를 통해 기존 방어 체계를 우회할 수 있다는 점이 강조됨.
미국 백악관은 AI 산업 공급망 보호와 제조 경쟁력 강화를 위해 중국산 휴머노이드 및 사족보행 로봇의 수입을 금지한다고 발표. 연방통신위원회(FCC)는 해당 로봇이 수집하는 데이터가 중국의 정보 탈취나 사이버 공격, 미국인 감시에 악용될 수 있다는 우려를 수입 금지의 배경으로 제기.
피지컬AI 특별법안이 국회에 제출되면서 개인정보를 당사자의 동의 없이 수집하고 활용할 수 있도록 하는 내용이 포함되어 시민사회와 노동계의 우려를 불러일으키고 있다. 이 법안은 피지컬AI 개발을 위해 개인정보를 원본 그대로 수집하고 활용할 수 있는 특례를 신설하고 있어, 기본권 침해 우려와 함께 산업 현장에서의 노동자 개인정보 보호 문제가 제기되고 있다. 시민사회와 노동조합은 이 법안이 개인의 정보자기결정권을 침해할 수 있다고 비판하며, 법안 폐기 또는 전면 재검토를 요구하고 있다.
이재명 대통령은 샌프란시스코에서 글로벌 빅테크 기업 CEO들과의 면담 및 AI 서밋 참석을 통해 한국을 글로벌 AI 생산 및 혁신 중심지로 만들기 위한 협력 강화 계획을 발표했습니다. 이번 행사를 통해 반도체, AI 데이터센터, 피지컬 AI 분야에서 총 9,500억불 규모의 협력이 추진되며, 특히 삼성전자와 브로드컴은 첨단 메모리 반도체와 AI 칩 생산을 위한 협력을, 네이버와 엔비디아는 대규모 글로벌 AI 팩토리 구축을 위한 협약을 체결했습니다. 대통령은 '샌프란시스코 AI 선언'을 통해 한국이 글로벌 AI 공급망의 핵심 국가로 성장하겠다는 비전을 제시했습니다. 이로써 한국은 AI 생태계 전반에서 글로벌 기업들과의 협력을 통해 혁신과 성장을 가속화할 계획입니다.
Anthropic과 Andon Labs가 협력하여 AI 모델이 드론을 이용해 실내에서 특정 개인을 찾아내고 추적하는 능력을 평가하는 프로젝트 파일럿을 진행했습니다. 이 연구는 드론 조종이라는 복잡한 작업을 여러 하위 작업으로 분해하여 평가하였으며, 주요 하위 작업에는 환경 모델링, 위치 파악, 경로 계획 및 추적 등이 포함됩니다. 최신 모델인 Fable 5는 대부분의 하위 작업에서 인간 기준을 넘어서는 성과를 보였지만, 환경 재구성 작업에서의 오류로 인해 전체적인 자율 조종 능력은 제한적이었습니다. 이 연구는 AI 모델의 하드웨어 제어 능력 향상 추세를 보여주며, 동시에 안전성과 책임성에 대한 고려가 필요함을 강조합니다.
AISI 산하 AI Safety WG가 AI 로보틱스의 사용·이동·운반·대응 등 다양한 활용 시나리오에서 안전성을 평가하기 위한 지침(평가 관점)을 공개했다. 해당 가이드는 공리적·의무적·사회적 관점 등 3가지 관점 틀로 통합해 위험을 구체적으로 정리하고, 총 9개 항목에 대해 평가해야 할 포인트를 제시한다.
국가인공지능전략위원회는 2026년 7월 20일 에이전틱 AI 확산에 따른 컴퓨팅 환경 변화와 국가 AI 컴퓨팅 전략을 논의하는 세미나를 개최했다. 세미나에서는 AI 데이터센터의 연산·메모리 자원 최적화, AI 반도체와 데이터센터 발전 방향, AI 서비스 비용·처리시간 절감 기술 등이 논의됐다. 위원회는 AI 반도체·피지컬 AI·AI 데이터센터 등 3대 메가프로젝트를 연계한 생태계 구축과 AI 컴퓨팅 자원의 통합 운영·배분 체계 강화에 공감하고, 향후 중장기 정책과제를 발굴하기로 했다.
이번 회차는 Anthropic의 Claude Fable 5 재배포와 cybersecurity classifier·jailbreak 심각도 체계 마련, Claude Sonnet 5 출시 및 안전 기능을 다룬다. Google NotebookLM의 TikTok 형식 연구 요약 영상과 Nano Banana 2 Lite 이미지 생성기, Etched·Baidu·Agility Robotics·DeepSeek의 사업 소식도 소개한다. 또한 중국의 LongCat-2.0 MoE 모델, 장기 작업용 에이전트 벤치마크, 합성 데이터·LLM 강화학습 연구와 AI 영화·음악 관련 소식을 논의한다.
AI for Good 글로벌 서밋 2026의 청소년 구역이 인공지능 안전과 창의적 문제 해결을 다룬 신규 세션을 포함해 일정을 마쳤다. 참가자들은 새로운 AI 애플리케이션의 안전 원칙을 설계하고, AI를 활용한 창의적 문제 해결과 컴퓨터과학·AI 학습 방식을 체험했다. 식량 불안 문제 해결을 목표로 로봇을 설계한 세계 각국 청소년들의 Robotics for Good Youth Challenge 결선 및 폐막식도 열렸다.
과기정통부와 인공지능안전연구소는 글로벌 기업 및 학계가 참여한 '인공지능안전 서울 포럼(SFASS) 2026'을 성황리에 개최. 이번 포럼에서 캐나다 AI 안전연구소(ISED)와 양해각서를 체결했으며, 생성형 및 피지컬 AI 보안 위협에 대한 글로벌 표준 벤치마크 확립과 국제 협력 방안을 심도 있게 논의.
미스트랄은 RGB 카메라 한 대만으로 복잡한 환경을 자율 주행하는 8B 규모의 로봇 내비게이션 모델 Robostral Navigate를 공개했다. 이 모델은 R2R-CE 검증 세트에서 학습 환경 기준 79.4%, 미학습 환경 기준 76.6%의 성공률을 기록해 단일 카메라 방식보다 9.7%포인트, 깊이 센서·다중 카메라를 사용하는 최고 시스템보다 4.5%포인트 높은 성능을 보였다. 약 35만 개 장면에서 생성한 240만 개 궤적을 활용해 시뮬레이션으로 학습했으며, prefix-caching으로 학습 토큰을 22배 줄이고 온라인 reinforcement learning으로 성공률을 추가로 3.2%포인트 높였다. 모델은 바퀴형·다족형·비행 로봇에 적용할 수 있고, pointing 기반 이동과 로봇 좌표계 변위 예측을 사용해 보지 못한 장애물과 환경에도 대응한다.
ADRF26은 2026년 10월 13~14일 포르투갈 포르투에서 개최되는 유럽 고위임팩트 포럼으로, AI·Data·Robotics 분야의 산업·학계·정책 주요 참여자 500여 명을 모아 기술 혁신과 실용적 전환을 가속하는 것을 목표로 한다. INESC TEC가 주관하며, 유럽 AI·데이터·로보틱스 파트너십의 민간 측 ADRA와 유럽연합 집행위원회의 참여가 언급된다. 기조연설, 고위 패널, 병렬 세션, 전시 및 프로젝트 쇼케이스, 구조화 네트워킹을 통해 전략적·산업·사회적 과제와 유망 트렌드 및 파트너십 기회를 다룬다.
유럽연합 집행위원회 AI Office는 AI-BOOST 프로젝트와 함께 Apply AI 전략의 12개 분야(헬스케어·모빌리티·로보틱스·제조·기후·에너지·농식품·국방·전자통신·공공부문 등)에서 혁신적인 AI 솔루션을 개발하는 유럽의 스타트업·스케일업을 대상으로 ‘Apply AI Startup Award’를 신설했다. 선정된 3개 기업은 2026년 11월 17일 Apply AI Summit 주요 무대에서 피칭과 함께 트로피 및 인증서를 받으며, EC의 웹사이트·소셜미디어 등을 통해 홍보되고 최대 2명의 브뤼셀 출장 비용(주최 측 환급 규정에 따름) 지원도 받을 예정이다. 지명은 회원국별 최대 3개 기업을 국가 스타트업 협회가 추천하고, 7월 신청 접수 후 8~9월 사전심사·평가로 Top 10을 추린 뒤 10월 온라인 피칭을 거쳐 Top 3 우승자를 선정한다.
유럽 집행위원회는 EU 전역 도시에서 자율주행을 도입·확산하기 위한 ‘Autonomous Drive Ambition Cities(ADACities)’ 이니셔티브를 출범했다. 브뤼셀에서 열린 ECAVA 첫 국제포럼에서 집행부위원장 Virkkunen이 출범을 발표했으며, 참여 도시는 robo-taxi·카셰어링·자율 셔틀 등 자율 모빌리티 혁신을 실증할 수 있다. 2030년까지 참여 도시는 자율주행 차량 100대 이상 규모의 차량대를 목표로 하며, 자율주행 기술의 도시는 도로 안전·대기질·교통 효율 및 AI 기반 네트워크 최적화에 기여할 것으로 제시됐다. 이 사업은 EU Technological Sovereignty Package 및 국경 간 자동화 차량 실증 테스트베드 조성 관련 공동 의지 선언과 연계되며, 6월 25일 온라인 정보세션과 참여(의향서) 관련 자료를 안내한다.
AI 안전을 secure·controllable·human-aligned AI를 위한 기초로 두고, 기술·윤리·거버넌스를 아우르는 통합 프레임워크를 제안한다. 2021~2025 문헌을 체계적으로 검토해 technical robustness(방해/교란에 대한 견고성), ethical value alignment(가치 정렬), socio-regulatory governance(사회·규제 거버넌스) 3대 축을 정리하고, 의료 진단 취약점·자율주행 실패·LLM manipulation 위험 사례를 분석한다. safe reinforcement learning, formal verification, human-in-the-loop 같은 완화 접근을 다루며, ISO/IEC 23894와 NIST AI Risk Management Framework가 transparency와 accountability에 중요하다고 제시한다. 수치 성과(예: 점수/비율)나 언어·모델 간 비교 결과는 본문 요약에 제시되지 않았다.
우크라이나 전장에서 인간 감독 없이 완전 자율(fully autonomous)으로 표적을 탐지·요격하는 드론이 처음으로 전사자를 냈다는 내용이 보도됐다. 우크라이나 국방업계 관계자에 따르면, 2년 전 전방에서 테스트된 AI 제어 ‘Terminator’ 드론 10대가 러시아 병사를 사살했으며, 테스트 중 자동 드론이 무엇을 표적했는지 기록이 없어 이후 사람 드론이 확인한 결과로 사살이 결론났다고 한다. 또한 우크라이나 정부는 표적 요격의 최종 단계에서 AI 사용을 금지하고 인간이 최종 확인을 하도록 규정하고 있다고 전해졌으며, 다만 규정 완화 논의가 진행 중이라고 밝혔다. (UN의 불법 우려 및 국제인도법·인권법 위반 가능성 지적, 자율 무기의 실전 효용 논쟁도 함께 언급됨)
EIC STEP Defence Scale Up 신규 1억 유로 공고는 2026.6.30~2026.10.28 신청, 결과는 2027년 초 발표 예정이며, 직접 지분투자 상한은 최대 3천만 유로임
유럽연합(EU) 집행위원회는 EIC 워크프로그램 2026 개정에 따라 2026년 6월 17일부터 EIC가 방산 및 듀얼유스(민·군 겸용) 기술 분야에 투자하도록 지원을 확대한다고 밝혔다. EIC Accelerator와 STEP Scaleup을 통해 AI·양자·첨단소재·로보틱스 등 듀얼유스 기술을 개발하는 스타트업·중소기업은 보조금 최대 250만 유로와 지분투자 최대 3천만 유로를 신청할 수 있다. 동시에 EIC는 방산 기술 스케일업을 위한 1억 유로 규모의 EIC STEP Defence Scale Up 공고를 신설하며, 해당 기업들은 최대 3천만 유로까지 직접 지분자금 지원을 받을 수 있고 EIC는 주요 라운드에서 통상 5천만~1억5천만 유로 이상 규모로 공동투자할 예정이다. 이는 EU 자금이 방산 기업에 직접 지분투자하는 첫 사례라고 설명했다.
포켓몬 고 이용자들이 만든 AR 스캔·공간 데이터가 군용 드론의 위치 파악 AI 개발에 활용된 정황이 보도됐다. 포켓몬 고 개발사 나이언틱에서 분사한 나이언틱 스페이셜이 Vantor와 협력해 GPS 신호 없이 드론이 위치를 파악하도록 하는 AI를 개발 중이며, 이때 포켓몬 고 이용자 데이터로 학습한 파운데이션 모델을 사용했다고 밝혔다. 전문가들은 민간 데이터의 군사 전용이 늘고 있으며 규제 당국이 데이터 활용 관행을 막기 위한 기준을 도입해야 한다고 지적했다.
2026년 6월 말까지 지자체가 실행계획을 제출하고, 11월 말까지 진행상황을 보고해야 하며, 2026년 말까지 핵심 휴머노이드 제품의 적용 검증과 정기 배치를 목표로 함.
중국 정부가 휴머노이드 로봇과 embodied artificial intelligence를 실제 산업 현장에 적용하기 위한 전국 단위 프로그램을 추진한다. 현장 시연 중심에서 공장·물류·병원·재난 대응 등 다양한 업무 현장으로 로봇을 배치하는 방향으로 전환하며, 2026년 말까지 100개 이상의 고부가 응용 시나리오와 1만 대 이상의 로봇 배치를 목표로 한다. 지자체는 6월 말까지 계획을 제출하고 11월 말까지 진행을 보고해야 하며, 실제 배치 데이터를 통해 소프트웨어·하드웨어 성능과 embodied AI 품질을 개선하겠다는 취지다.
엔비디아의 Cosmos 3는 텍스트·이미지·비디오·오디오뿐 아니라 로봇 팔의 움직임, 차량 궤적, 카메라 이동 같은 행동까지 함께 다루는 옴니모달 월드모델이다. Mixture-of-Transformers 구조에서 Reasoner가 장면을 이해하고 Generator가 이미지·비디오·오디오·행동을 생성하며, 행동과 결과를 같은 시간축에서 학습하도록 설계됐다. Edge(4B), Nano(16B), Super(64B) 모델로 구성되고 대규모 이미지·비디오·오디오·로봇·자율주행 데이터를 활용하지만, 실제 적용을 위해서는 안정성·지연 시간·비용·안전성과 현실 환경에서의 성능을 추가 검증해야 한다.
Google DeepMind는 유럽의 초기 로봇 스타트업 15곳을 선발해 3개월짜리 Accelerator 프로그램을 시작한다고 밝혔다. 선발 기업들은 3개월간 멘토링과 기술 지원, 제품 가이드, AI 스택 및 Gemini 로보틱스 모델 접근을 받으며 AI 연구를 실제 로봇 응용으로 전환하는 데 도움을 받는다. 헬스케어·제조·기후·물류 등 다양한 분야의 스타트업이 포함되며, 프로그램은 embodied AI 전반의 개발과 책임 있는 스케일링을 지원하는 것을 목표로 한다.
개인정보보호위원회는 인공지능 시대의 개인정보 보호를 위해 2026~2030년 기술 연구개발 및 표준화 로드맵을 수립해 공개했다. 로드맵은 개인정보 주권 보장, 유·노출 위험 경감, 신뢰 기반 안전 활용, AI 대응 기술개발 등 4대 분야의 11대 핵심기술을 선정하고 개인정보 생성·수집부터 파기까지 전주기 보호·활용 기술을 제시한다. AI 학습·추론 과정의 개인정보 위험, 에이전트·피지컬 AI, 비정형데이터 비식별화 등에 대응하는 연구개발과 표준화, 개인정보 보호 강화 기술과 전문인력 양성 방안도 포함했다.
Google DeepMind가 유럽의 초기 단계 로봇 스타트업 15곳을 선정해 3개월간 액셀러레이터 프로그램을 운영한다. 참가 기업들은 Google의 AI 스택과 Gemini robotics models에 대한 접근, 기술 멘토링, 제품指导 및 전략적 지원을 받는다. 선정 기업들은 물류·제조·의료·기후·건설·재활용·신경외과 등 다양한 분야에서 physical AI와 로봇 기술을 개발하고 있다.
연합학습(Federated Learning, FL)은 여러 기기·기관이 데이터를 중앙으로 모으지 않고 공동으로 모델을 학습하는 방식으로, 원자료가 로컬에 남아 개인정보 보호와 데이터 최소화·목적 제한 원칙에 부합한다고 설명한다. 다만 모델 업데이트(gradient/weights)를 통해 데이터가 유출될 수 있어 membership inference 등 공격 가능성과, 전체 생태계 보안·분산 학습 데이터 품질·편향 관리가 필요하다고 지적한다. 또한 FL은 중앙 서버 조정형과 중앙 없이 peer-to-peer로 운영되는 DFL로 나뉘며, 수평/수직 학습 및 cross devices·cross silos 유형으로 분류될 수 있고 의료·음성·자율주행 등 활용 사례를 소개한다.
ELSA 프로젝트 관련 데이터·지표·벤치마크를 한 곳에서 제공하고, 대회 참여를 위한 등록 및 자료 다운로드/방법 제출을 지원한다. SaTML 2025(문서 VQA 대상 Inference Attacks) 등 진행 중인 이벤트와, LLM CTF(참여 마감 2024.1.15) 등 과거 이벤트가 나열돼 있다. 또한 등록 사용자 654명, 61개 국가 참여와 함께 Use cases(자율주행, 문서 인텔리전스, 미디어 분석, 헬스, 로보틱스, 사이버보안, Large Language Models)가 구분돼 있다.
AI sovereignty의 개념과 국가 간 전략 경쟁이 어떻게 전개되는지에 대한 질적(qualitative) 모델을 제시해, 정의·구조화의 공백을 메우는 연구다. 마이크로·메소·매크로 수준의 기여 요인을 포함하는 모델을 구성하고, 가속기(accelerators), 전력(electricity), 물(water), 데이터셋(data sets), 숙련 인력(skilled workforce) 같은 레버리지 포인트를 중심으로 경쟁 역학과 AI 기반 국가 파워의 잠재적 변화를 질적으로 예측한다. 또한 직접적 kinetic 행동(예: Iran의 data center 드론 공격)과 비(非)kinetic 영향(예: cyber, space, information, economic coercion, diplomacy)을 통해 레버리지 포인트가 전략·운용 수준에서 어떻게 활성화될 수 있는지 연결한다. 정량 성능 수치나 실험 비교 결과는 본문 요약만으로는 확인되지 않는다.
요약불가
출처: 소프트웨어정책연구소(SPRi)
월드 모델은 데이터 부족과 사전 검증 문제를 합성 데이터·가상 시뮬레이션으로 보완해 로봇·자율 시스템의 학습 비용과 위험한 실제 검증을 줄일 수 있다고 설명한다. 기술적으로는 명시적·암묵적·시뮬레이터 기반·하이브리드 등 다양한 접근이 발전 중이며, 비디오 생성·자율주행·자율 에이전트 등 분야별로도 세분화되고 있다. 정책적으로는 한국이 제조업 데이터를 활용해 제조 특화 물리 데이터셋과 고충실도 가상환경을 구축하고 Sim-to-Real 정합성 및 도메인 특화 월드 모델 개발을 추진해야 한다고 제안한다.
체화형 AI(로봇·차량·드론 등)가 소프트웨어를 넘어 물리 환경에서 지속적으로 작동하면서, 기존 AI 규제 프레임이 다루지 못한 ‘운영 안전’ 문제가 커지고 있다는 내용이다. 싱가포르 AI 서밋에서는 실패가 인프라·교통·물류 등으로 확산될 수 있어, 일회성 인증보다 시뮬레이션·텔레메트리 기반의 지속 모니터링과 반복 테스트 중심의 거버넌스 모델로 전환해야 한다고 논의했다. 또한 책임이 개발자·제조사·반도체·인프라 운영자·플랫폼 등으로 분산되고, 배포 후 업데이트로 시스템이 계속 변하는 점이 기존 책임체계(제품/소프트웨어/인프라 책임 구분)를 복잡하게 만든다고 지적했다.
SPRi는 월드 모델(World Model)이 언어·이미지 처리 단계를 넘어 물리 세계의 구조와 동역학을 이해하고 미래 상태를 예측하는 기술로 확산되고 있다고 설명했다. 데이터 부족과 사전 검증 문제를 합성 데이터·가상 시뮬레이션으로 보완해 로봇 및 자율 시스템의 학습·검증 비용을 낮추고 안전성을 높일 수 있다는 점을 강조했다. 정책적으로는 한국이 제조업 기반 산업 데이터를 활용해 제조 특화 물리 데이터셋과 고충실도 가상환경을 구축하고 Sim-to-Real 정합성 및 도메인 특화 월드 모델 개발, VLA·시뮬레이션·제조 데이터를 통합한 국가 R&D 체계 마련이 필요하다고 제안했다.
STRELGen은 자율주행 다중 에이전트 교통 시나리오에서 안전·현실성 제약을 희귀한 엣지 케이스 중심으로 생성하기 위한 문제를 다룬다. 다중 에이전트 궤적 생성 확산모델(DM)에 Spatio-Temporal Logic(STREL) 명세를 결합하고, STREL 명세 만족도를 미분 가능하게 만들어 그래디언트 기반 탐색을 수행한 뒤 추론 시 DM 잠재공간에서 직접 최적화해 만족도를 최대화한다. STRELGen은 학습된 데이터 분포 안에서 그럴듯하면서도 안전-중요 시나리오를 효율적으로 생성하는 결과를 제시한다.
AI 변화가 단순한 업황 회복이 아니라 산업·국가 구조 재편 과정일 수 있다는 관점의 글이다. AI 수요가 데이터센터를 넘어 추론·에이전트·로보틱스 등으로 확장되며, 메모리 집약도와 업그레이드 수요가 누적되는 ‘비선형적’ 구조라고 설명한다. 한국은 메모리·배터리·디스플레이·정밀제조·전력장비·산업자동화까지 공급망을 통합 보유해 AI 인프라 공급의 전략적 희소성이 크다고 주장한다. 또한 AI 인프라에서 발생할 수 있는 초과이윤을 ‘국민배당금’ 같은 원칙으로 사회적으로 환원해 전환 비용과 격차 확대를 완화해야 한다고 제안한다.
과학기술정보통신부는 2026년 5월 6일 제44차 ICT 규제샌드박스 심의위원회를 열고 AI 기반 중증외상 환자 케어시스템 등 4건의 규제특례를 지정했다. 중증외상센터의 비식별화 영상 활용, 전기차충전소 원격전원 관리, LTE 기반 시내전화, 자율주행 배달로봇 영상 원본 활용 등이 실증특례 대상에 포함됐다. 도시민박업과 종합유선방송사업자 커머스 방송서비스는 임시허가로 전환되며, 농어촌 빈집 활용 숙박은 관련 법령 정비가 필요한 사항으로 검토됐다.
본 연구는 의미론적 통신(SemCom) 환경에서 공공 과업(예: 장면 이해) 수행과 동시에 은닉(코버트) 데이터 전송을 어떻게 결합할지에 대한 문제의식에서 출발한다. 핵심 기여는 (1) 은닉 데이터를 전력영역 중첩이 아니라 과업별 특징에 “의미 수준 내재 인코딩”으로 삽입하고, (2) 공공 과업을 위한 Explicit 경로와 은닉·공공 정보를 함께 인코딩하는 Stego 경로를 두고, (3) Gumbel-Softmax 기반 적응형 블록 선택으로 과업 요구에 따라 경로/블록을 동적으로 활성화하며, (4) 의미 이해 정확도와 은닉 전송 신뢰성을 동시에 만족하는 다목적 최적화로 학습한다. 평가는 Cityscapes 데이터셋에서 수행되며, 독립적으로 학습된 강력한 공격자를 상정해 보안성을 측정하고 공격자의 탐지 정확도를 거의 무작위 수준(56.12%)으로 낮추는 결과를 제시한다. 한계로는 제시된 실험이 특정 데이터셋/설정에 기반하며, 공격자 모델의 범위 확장(다른 아키텍처·학습전략·채널 조건)과 장기적/현실 배치 환경에서의 견고성 검증이 추가로 필요하다. 정책·규제·국가 전략 관점에서는 의미론적 통신과 결합된 코버트 채널이 실제 서비스(예: 자율주행/영상 분석)로 확산될 수 있음을 시사하므로, 탐지·감사 체계와 모델/통신 파이프라인에 대한 보안 평가 기준을 강화할 필요가 있다.
SPRi는 글로벌 시장이 AI 중심으로 재편되는 전환기에 국내 SW 기업의 재성장을 견인할 성장동력 확충 방안을 제시하기 위해 연구를 수행했다. 연구는 SW 기업의 기술력·비즈니스 모델과 수요 산업을 연계해 분석했으며, 팬데믹 이후에는 노동 투입보다 자본 투입의 성장 기여도가 유의미하게 높아졌다고 밝혔다. 또한 범용 수평적 SaaS보다 특정 산업의 데이터·워크플로우를 장악하는 Vertical AI 전망이 더 크고, 제조기업의 데이터 유출 우려로 프라이빗 AI 및 보안 기반 SI 수요가 늘며 과금체계도 기술 복잡성을 반영해 고도화될 필요가 있다고 제안했다. 정책적으로는 수출 주력 제조업 경쟁력 유지를 위한 Physical AI·제조 설계용 SW 육성 근거와, 기능점수(FP) 중심 대가체계 개선을 위한 기초자료로 활용 가능하다고 밝혔다.
UHAI는 ‘직접적 인간 감독 없이 자율적으로 고위험 활동을 수행하는 AI’를 지칭하며, 의료영상·자율주행 등에서 ‘인간 감독이 안전을 보장한다’는 전제가 약해지고 AI 단독이 더 안전한 결과를 낼 수 있다는 점을 배경으로 한다. 보고서는 평가·인증·법체계를 각각 따로 발전시켜온 한계를 지적하고, 블랙박스·동적 변이·목표 설정 곤란 같은 기술 특성을 반영해 통합적으로 재설계할 것을 권고한다. 구체적으로는 외부에서의 V&V 표준화와 전 주기 모니터링, 제품 입출력과 조직 거버넌스를 함께 보는 ‘조인트 인증’, 설명가능성 대신 안전 운영영역에 대한 기술적 보증을 법적 ‘세이프 하버’로 연결하고 지속적 안전관리·자기보고를 의무화하는 방안을 제시한다.
김명주 소장은 인공지능안전연구소가 규제 기관이 아닌, 기업의 안전한 AI 활용을 돕고 위험을 선제적으로 파악하는 '셰르파' 역할을 한다고 강조. 생성형 및 물리적 AI 발전으로 투명성과 통제 가능성이 핵심 안전 요소로 대두되었으며, 글로벌 시장 진출을 위해 국제 표준 및 인증 충족이 필수적임을 역설.
더버지는 Palantir CEO 알렉스 카프가 새 책 《The Technological Republic》의 22개 요점을 올린 내용을 소개하며, 이를 “인간이 이해할 수 있는 말”로 재번역해 풍자적으로 해석했다. 글은 AI·소프트웨어를 군사·국가안보에 활용하고, 연방 정부 방위 계약·감시·드론/무기 체계 등으로 이어질 수 있다는 취지의 문장들을 반복적으로 “돈을 벌고 전쟁을 지속하기 위한 논리”로 읽어 비판한다. 또한 ‘징병제(초안) 재도입’, ‘규범/법보다 규칙의 재정의’, ‘공공 인물에 대한 관용’ 같은 표현을 둘러싸고, 인권·윤리·감시 우려를 암시하는 내용이 포함돼 있다.
DeepMind는 로봇의 ‘embodied reasoning(물리 세계 기반 추론)’을 강화한 추론 중심 모델 Gemini Robotics-ER 1.6을 공개했다. 이 모델은 시각·공간 이해, 작업 계획, 성공 감지에 특화되어 있으며, 도구 호출(예: Google Search)과 비전-언어-액션(VLA) 등 외부 기능을 연동해 작업을 수행할 수 있다. 특히 계기판 판독(instrument reading) 기능을 새로 제공해 압력 게이지·레벨 표시기·디지털 표시 등 다양한 계기를 읽고, 에이전틱 비전으로 확대·포인팅·코드 실행 및 세계지식을 결합해 정밀 판독을 수행한다고 설명했다. 또한 이전 세대 대비 공간적 적대 상황에서 안전 정책 준수와 물리 안전 제약 준수 능력이 개선되었다고 밝혔다.
이란-미국(및 이스라엘)의 전쟁으로 호르무즈 해협을 통한 해상 운송이 크게 차질을 빚었고, 2026년 4월 8일 2주간 휴전 합의가 있었지만 운송 재개가 즉각적이지 않다고 설명한다. 호르무즈 폐쇄는 LNG 등 에너지 공급 차질로 유럽·아시아의 가스·전기 비용을 끌어올려, 특히 데이터센터의 신규 투자에는 비용 부담이 커질 수 있다고 본다. 다만 반도체 파운드리(fab)는 높은 수익성과 전력비 비중이 낮아, 전쟁이 급격히 확대되지 않는 한 AI 칩 생산 자체를 크게 흔들 가능성은 낮다고 평가한다. 또한 페르시아만 지역의 드론·미사일 공격이 걸프 지역 데이터센터 운영 차질이나 투자 보류로 이어질 수 있으며, 이는 지정학적 리스크 인식에 의해 더 확대될 수 있다고 언급한다.
4월 1일(테헤란 기준 오후 8시 이후)부터 공격이 시작될 수 있다고 경고 이란 혁명수비대(IRGC)가 4월 1일(테헤란 기준 오후 8시 이후)부터 미국의 주요 IT·기술 기업을 포함해 중동 지역에서 공격을 시작할 수 있다고 경고했다. 애플, 구글, IBM, 인텔, 마이크로소프트, 테슬라, 보잉 등이 명단에 포함됐으며, 이들 기업이 미국의 군사 표적 작전에 기여했다고 주장했다. IRGC는 직원 대피와 지역 민간인 접근 자제를 촉구했으며, 앞서 3월에 아마존웹서비스(AWS) 데이터센터에 대한 드론 공격과 금융·결제·소비 서비스 장애 등도 언급됐다.
중국의 한 주요 LLM 기업이 지난해 클라우드 업체에 1억 위안이 넘는 학습비를 연체했으며, 다른 AI 기업도 수개월간 임금을 지급하지 못했다는 업계 소문을 소개한다. 한 대형 기술기업은 1년 안에 실물 데이터 100만 시간을 수집하겠다고 홍보했지만, 실제 데이터 수집용 물리 로봇은 30대에 불과해 고객들의 실망을 샀으며 해당 규모에는 약 1,000대가 필요하다고 전한다. 중국 AI 칩 기업들은 대기업 인수 협상이 잇따라 무산된 뒤 상하이 과학기술혁신판이나 홍콩증시에 상장했고, 일부 컴퓨팅 기업은 보상체계 조정과 소프트웨어 분야 전환을 검토하고 있다.
‘피지컬 AI’는 주변 환경 데이터를 입력해 인간의 물리적 작업을 모방하는 AI를 뜻하며, 엔비디아의 CES 발언 이후 로보틱스·자율주행 등 산업 투자와 정부 정책이 확대되고 있다고 설명한다. 다만 휴머노이드 도입이나 자동화가 실제로 노동자를 대체한다기보다 기업이 ‘노동자 없는 생산’을 선택하는 문제이며, 자동화율이 이미 높은 한국에서도 생산성 낙관에는 한계가 있다고 지적한다. 또한 옵티머스 학습을 위한 ‘피지컬’ 데이터 노동, AI 팩토리 운영에 필요한 전력·냉각수 등 현실의 대가가 존재하지만, ‘피지컬 AI’가 새로운 기회의 땅처럼 과장되며 AI 하이프가 재점화될 수 있다는 비판이 제기된다.
미국 텍사스주 오스틴에서 Avride의 자율주행차가 자율주행 모드로 운행 중 둥지를 틀고 있던 어미 오리를 치어 죽인 뒤 멈추지 않아 주민들의 반발을 샀다. 오리 알은 주민들이 인큐베이터에서 돌보고 있으며, Avride는 사고가 발생한 호수 주변 일부 도로를 운행 구역에서 제외했다. 회사는 차량 데이터를 검토하고 시뮬레이션을 반복했으며, 유사 사고를 줄이기 위한 개선안을 다른 상황의 안전성 저하 없이 검증하고 있다. 주민이 제기한 정지 표지판 미준수 주장에 대해서는 관련 차량이 모든 정지 표지판에서 적절히 완전히 정지했다며 근거를 찾지 못했다고 밝혔다.
마감일: 2026.5.7(23:59 CET) / 개최일: 2026.8.15~17(정확한 날짜는 추후 공지)
IJCAI/ECAI 2026(독일 브레멘)에서 ‘Safe Physical AI’ 제1회 워크숍을 개최하며, 2026년 8월 15~17일(2일, 정확한 일자는 TBD)로 안내됐다. 워크숍은 불확실성 하의 물리적(embodied) AI가 현실 환경에서 안전하고 신뢰할 수 있게 행동하도록 하는 검증, 해석가능성, 불확실성 정량화, 인간-로봇 상호작용, 얼라인먼트 등의 연구 과제를 다룬다. 논문 공모는 2026년 5월 7일(23:59 CET)까지이며, OpenReview를 통해 제출하고 4페이지 short paper 및 1페이지 extended abstract 형식을 받는다.
오스틴 뮬러 레이크 파크 인근에서 Avride의 자율주행차가 오리를 치어 죽였다는 주민 주장이 제기됐으며, 회사는 야생동물 충돌을 조사하기 위해 해당 지역 도로 시험을 일시 중단했다. 주민은 차량이 충돌 후 감속하거나 멈추지 않았고 앞서 정지 표지판도 무시했다고 주장했지만, Avride는 정지 표지판에서 적절히 멈췄다고 반박했으며 당시 차량에는 안전 운전자가 탑승해 있었다. 주민들은 현장에서 오리 알을 수거해 부화기에서 돌보고 있다.
본 연구는 GovTech(정부+기술) 개념과 작동 메커니즘을 규명하고, 국내 GovTech 기업 사례를 통해 공공문제 해결 기여도와 민간기술 활용 수준, 이해관계자 참여 수준을 종합 분석했다. 분석 결과 교통약자 이동권 보장, 해양오염 방제, 장애인 디지털 접근성 강화, 돌봄 서비스 혁신, 규제 대응 지원 등 다양한 공공문제 해결 성과가 제시된다. 또한 AI·클라우드·빅데이터·자율주행 등 민간기술이 공공서비스 혁신의 핵심 도구로 작동하며, 정부·지자체·기업·시민의 다층 참여와 거버넌스가 성과 확산에 필수 조건임을 확인한다. 연구는 스타트업 지원, 공공조달 혁신, 데이터 기반 협력체계 확립 등 정책 보완 필요성을 시사한다.
거실에서 쓰일 수 있는 휴머노이드 로봇이 이미 상용화·실가정 테스트 단계로 빠르게 진입했지만, 이를 포괄할 일관된 규제는 부족하다고 지적한다. 미국의 소비자 안전·프라이버시·주(州)별 AI 규정·제품책임·기술표준이 서로 어긋나며, 항상 켜져 사람의 영상·음성·공간 데이터를 수집·학습하는 로봇에 맞춘 의무가 정리되지 않았다는 내용이다. 글은 물리적 능력과 자율성 수준에 따라 위험을 단계화하고, 데이터 거버넌스·사고 보고·책임(준수 시 과실, 미준수 시 엄격책임) 등을 위험등급별로 설계하는 방향의 “기반”이 필요하다고 제안한다.
Amazon, Meta 등 대형 소프트웨어 기업이 AI로 인한 생산성 향상을 이유로 대규모 감원을 추진하고 있으며, 감원은 소프트웨어 개발 분야의 초기 경력자에게 특히 집중되고 있다. 미 국방부의 Project Maven은 위성·드론 영상과 소셜미디어·레이더·GPS 정보를 통합해 표적 선정부터 공격 계획까지 지원하며, 기존 2,000명이 하던 표적 업무를 20명이 수행할 수 있게 했다고 소개된다. 뉴스레터는 인간의 통제 유지, 권력 집중 방지, 인간 경험 보호, 인간의 자율성 보장, AI 기업의 책임 강화를 요구하는 친인간적 AI 개발 공개서한도 소개한다.
미국 국방부는 자율무기와 미국인 대상 대규모 국내 감시에 대한 앤트로픽의 제한을 문제 삼아 회사를 국가안보상 공급망 위험으로 지정했으며, 앤트로픽은 이에 대해 법적 대응에 나섰다. 앤트로픽은 책임 있는 확장 정책 개정판에서 재앙적으로 유해한 AI를 절대 출시하지 않겠다는 핵심 안전 약속을 삭제했으며, 뉴스레터는 이를 첨단 AI 기업들의 안전 기준 완화 추세로 평가했다. 이 밖에 OpenAI의 군사용 드론 기술 시험과 GPT-5.4 출시, 주요 AI 기업들의 대규모 투자 유치 등이 소개됐고, CAIS의 AI·사회 펠로십 지원 마감일은 3월 24일로 안내됐다.
프론티어 AI 기업들이 군사·국방·정보 분야 사용에 대해 일관된 정책을 갖추지 못하고, 정책 문구가 모호해 해석 여지가 크다고 지적한다. 특히 Anthropic과 미 국방·국가안보 정책 간의 관계, OpenAI의 ‘autonomous weapons systems’ 관련 문구 및 드론 스웜 시험에서의 적용 가능성에 혼선이 있다고 설명한다. 결론적으로 군사 AI의 실제 영향은 기술적·정책적 불투명성 때문에 일반 시민이 파악하기 어렵고, 기업의 공개 투명성 확대가 필요하다고 강조한다.
Floodlight의 열화상 영상과 전문가 분석에 따르면 xAI는 미시시피주 사우스헤이븐에서 대기 허가를 받지 않은 가스 터빈 15기를 가동하고 있으며, 이는 EPA가 1월 15일 허가가 필요하다고 재확인한 뒤에도 계속됐다. 미시시피 환경당국은 해당 터빈이 이동식 장비로 분류돼 일시적으로 허가가 면제된다고 밝혔지만, 전직 EPA 관계자와 환경단체는 이를 청정대기법 위반으로 봤다. xAI는 41기 터빈 운영 허가를 신청했으며, 첫 공개 청문회는 2월 17일로 예정돼 있고 주민들은 소음과 건강 유해 대기오염을 우려하고 있다.
본문은 웹 방화벽 보안 정책에 반하는 요청/응답이 차단되었다고 안내합니다. 차단 사유를 확인하기 위한 탐지 항목으로 탐지 시간, 클라이언트 IP, URL이 제시되어 있습니다.
미국 브루킹스와 칭화대 Tsinghua CISS가 진행하는 AI·국가안보 비공식 Track-II 대화의 “living document”로, AI를 국제안보·군사 분야에 적용할 때 쓰이는 용어를 정리한 용어집이다. 무기(치명/비치명), 지능형·자율 플랫폼(로봇, 자율무기, 무인시스템, 드론 등), AI 기술(인공지능, 머신러닝, 딥러닝, 신경망, 자율성/자동화, AI lifecycle)과 지휘통제(C2) 관련 개념을 포함해 각 항목의 정의를 제시한다. 정의는 연구진이 정부 문헌을 참고해 정리·검토했으며, 공식·권위 있는 해석으로 보지 말 것을 명시한다.
CAIS는 프런티어 AI의 역량과 안전성을 평가하고 AGI·원격 노동 자동화·자율주행 발전을 추적하는 AI Dashboard를 공개했다. 위험 행동 지수에서 Claude Opus 4.5가 33.6점으로 가장 안전했으며, 점수가 낮을수록 안전성을 뜻한다. Gemini 3 Pro는 텍스트·비전 역량에서 선두였지만 위험 지수에서는 9위로 Claude Opus 4.5보다 안전성이 낮았다. 미국 행정부와 의회에서는 연방 차원의 조치를 통해 주 정부의 AI 규제를 제한하려는 움직임이 재개됐으나, 여론과 의회의 반대가 커 법안 통과 가능성은 낮은 것으로 평가됐다.
테슬라는 유리벽 실험실에서 다수의 작업자가 옵티머스가 사람처럼 움직이도록 일상 동작을 반복 수행하게 하고, 헬멧·백팩에 달린 카메라로 이를 촬영해 학습 데이터를 만든다고 전했다. 작업자들은 테이블 닦기, 물건 들기, 간단한 과제 등을 하루 8시간 동안 수백 번 반복하며, 동작이 ‘사람답지 않다’고 판단되면 피드백을 받는 것으로 나타났다. 또한 모션캡처 슈트·원격조작을 줄이고 카메라만으로 데이터를 수집하는 방식으로 전환했으며, 일부 훈련에서는 햅틱 글러브·AI 생성 프롬프트도 활용된다고 보도했다. 작업 과정은 신체적으로 부담이 크고(허리·목 부상, 멀미 등), 현재 원격조작은 주로 투자자 시연 때 활용된다고 설명했다.
Concordia AI CEO 브라이언 체는 2025년 10월 18일 ‘The Cognitive Revolution’ 팟캐스트에서 중국의 AI 개발·안전·거버넌스 접근법을 논의했다. 중국의 AI 산업 통합, 주요 AI 허브, 출시 전 테스트와 AI 콘텐츠 라벨링 규정, 반도체와 수출 통제, Huawei와 DeepSeek, open-weights 등이 주요 주제로 다뤄졌다. 또한 미국과의 공통점, 싱가포르의 가교 역할, 공동 red lines와 위험관리 체계·비상 대비 프로토콜을 통한 협력 가능성, embodied AI와 휴머노이드 로봇, AI에 대한 대중의 기대와 노동 불안을 논의했다.
국회입법조사처와 정보통신정책연구원은 ‘모두의 AI’를 주제로 세미나를 열고, AI 생태계 전반을 아우르는 풀스택 확보, 자율형·물리적 AI 산업 생태계 조성, 포용적 AI 기본사회 구현, AI 생성물 표시를 통한 딥페이크 피해 예방을 주요 정책 방향으로 제시했다. 토론에서는 AI 규제의 합리화와 자율규제·공적 규제의 조화, 국내 디지털 플랫폼 경쟁력 강화, 소비자 권리 보호, AI 스타트업 육성 등이 논의됐다. 세미나는 2025년 9월 30일 국회입법조사처에서 개최됐다.
산업통상부는 2025년 세계 표준의 날 기념식을 열고 표준화와 국가경쟁력 강화에 기여한 유공자·단체에 총 40점의 포상을 수여했다. 동탑산업훈장은 23년간 디스플레이 분야 국제표준화에 기여한 삼성디스플레이 이창희 연구소장이 받았다. 산업통상부는 자율주행차와 휴머노이드 등 미래 핵심산업에서 AI 표준 민관 협력체계를 구축하고, 국내 기술의 국제표준화를 적극 추진할 계획이라고 밝혔다.
AISI(인공지능 세이프티·인스티튜트)는 2025년 10월 2일 AISI 사업실증 워킹그룹(WG) 상반기 활동에 대한 첫 보고회를 열었다. 행사에는 온라인을 포함해 약 80명이 참석해 2025년도 상반기 진행 상황을 공유하고 하반기 및 차년도 사업실증의 추가 전개를 위한 정보 공유와 의견 교환을 진행했다. 헬스케어·로보틱스·데이터 품질·적합성 평가 등 각 SWG는 AI 세이프티 평가 가이드/체크리스트, 안전 설계·평가 방법, 평가 도구 정비, 국제규격 기반 적합성 평가 제도(안) 검토 등 추진 상황을 보고했다.
산업통상자원부는 2025년 제3차 산업융합 규제특례심의위원회에서 AI·로봇·에너지 분야 산업융합 규제샌드박스 과제 40건을 심의·승인했다. 에이로봇은 AI 탑재 이족보행 휴머노이드 로봇을 산업현장에서 실증하고, 아이브이에이치는 실제 주행 영상으로 합성데이터를 생성해 자율주행 AI 모델 학습·평가에 활용한다. 한국철도태양광발전사업은 철길에서 전기를 생산하는 사업을 실증한다.
한국교통연구원은 복잡해지는 AI 데이터와 모델 구조에 대응하기 위한 XAI 기술 프레임워크를 소개했다. 특히 XRL은 정책 시각화, 상태 기여도 분석, Q-value 분해 등을 통해 AI 에이전트가 특정 행동을 선택한 이유와 보상 요인을 분석하며, 자율주행과 교통 신호 제어 같은 순차적 의사결정 분야에 활용될 수 있다고 설명했다.
METR 연구진은 2019년 이후 출시된 최첨단 모델들의 시간 지평(AI가 작업을 완료할 확률이 50%인 작업 길이)을 분석했습니다. 분석 결과, 시간 지평은 약 7개월마다 두 배로 증가했으며, 2024년에는 이 증가 속도가 약 4개월로 가속화된 것으로 나타났습니다. 다양한 도메인(소프트웨어 개발, 수학 경진대회 등)에서 비슷한 경향이 관찰되었으며, 이는 향후 몇 년 동안 시간 지평이 일 주일에서 몇 주까지 증가할 가능성을 시사합니다. 그러나 컴퓨터 시각 인식과 자율 주행 분야에서는 성장률이 다르게 나타났습니다. 방법론적 개선을 통해 실험 재실시 없이도 시간 지평을 추정할 수 있게 되었습니다.
산업통상자원부 등 6개 부처와 방위사업청은 2025년 7월 9일부터 11일까지 서울 코엑스에서 ‘2025년도 무인이동체 산업엑스포’를 개최한다. 전시회에는 민군 겸용 미래항공모빌리티, 군수송 드론, 무인헬기·로봇·잠수정, 자율운항 선박, 물류배송 시스템, 엣지 AI 등 다양한 육·해·공 무인이동체 기술이 소개된다. AI와 드론 융합 세미나, 대드론 산업 세미나, 한미 드론 협력 포럼, 개발자 교육과 해커톤 등도 함께 진행된다.
산업연구원은 미중 AI 경쟁에서 미국이 원천기술과 지식·창의서비스 활용에 강점을 보이는 반면, 중국은 제조 인프라를 바탕으로 AI의 신속한 상용화와 산업 적용을 추진한다고 분석했다. 중국은 로봇·자율주행·헬스케어를 중심으로 AI 제조 생태계를 구축하고 있으며, 전기차·배터리·태양광 산업에서도 AI 자율제조를 활용해 비용과 가격경쟁력을 높이고 있다. 한국은 반도체·로봇·바이오 제조에 AI를 신속히 적용하고, 원천기술보다 응용 완성도와 보안 안정성을 앞세운 K-AI 제조혁신 전략을 마련해야 한다.
국회예산정책처는 AI 무기체계의 현황과 시사점을 분석한 보고서를 발표했다. AI 무기체계의 활용 범위가 빠르게 확대되면서 전쟁 양상이 변화하고 있으며, 군사 기술 경쟁과 군비 확장을 가속화할 가능성이 제기된다. 보고서는 AI 무기체계 중 드론을 중심으로 국내외 개발 현황을 살펴보고 정책적 시사점을 제시한다.
공정거래위원회는 11월 14일 산업계와 학계 전문가들이 참석한 가운데 AI 반도체 관련 기업결합 간담회를 개최했다. 간담회에서는 급성장하는 AI 반도체 시장 동향을 파악하고 향후 기업결합 심사의 전문성을 높이기 위한 의견을 청취했다. 생성형 AI와 자율주행차 등 활용 분야가 확대되면서 2023년 AI 반도체 시장은 전체 반도체 시장의 침체에도 성장하고 시장 비중도 높아졌다.
지자체 CCTV 통합관제, 군의 과학화 경계 시스템, 무인 매장 등 무인 경계 시스템의 기술·정책 현황과 시장 규모 및 전망을 분석한다. 관련 기술의 발전 방향과 정부의 역할을 제시한다.