한국 과기정통부는 미국 AI 기업 앤트로픽 측과 만나 사이버 보안 취약점 정보 공유를 요청하고, 글로벌 보안 연합체 '프로젝트 글래스윙' 참여 가능성 등을 논의. 범용 AI 모델을 활용한 단기 대응과 보안 특화 독자 AI 모델 개발이라는 중장기 전략을 병행하며, 5월 말경 국가 차원의 종합 AI 보안 대책을 발표할 계획. * 1/2페이지로.
전 세계 15~64세 근로연령 인구 중 생성형 AI 사용 비율이 16.3%에서 17.8%로 1.5%p 증가했으며, 26개 경제권에서 사용률 30%를 넘는 것으로 집계됐다. 한국은 전 분기 대비 6.4%p 상승한 37.1%로 성장세가 가장 가파르고, 글로벌 순위도 18위에서 16위로 올랐다. 한편 글로벌 노스의 사용률(27.5%)은 증가폭이 큰 반면 글로벌 사우스는 15.4%로 격차가 확대되고, 전력·인터넷·디지털 역량 등 기반 인프라 차이가 불평등 고착 위험 요인으로 지적됐다.
Twin It! II는 2단계 캠페인을 마무리하며 EU 전역 문화유산 디지털화 성과를 전시하는 행사로, 고품질 3D 모델과 3D 디지털화의 활용 가능성을 소개한다. 1단계 캠페기에서 EU 회원국 전역의 건물·유적·사물 37개 3D 모델을 제작했으며, 디지털 자산의 상세 정보는 유산을 더 풍부하고 입체적으로 표현하고 재활용(예: 확장현실)하는 데 기여한다. 또한 유럽 집행위원회는 문화유산을 위한 공통 유럽 데이터 공간 전략을 제안해 회원국의 데이터 공유·재이용을 개선하고 전문가 역량을 강화하는 지침을 제시했다.
국제노동기구(ILO) 워킹페이퍼는 일터에서 AI가 채용·교육·모니터링·감시·보상·경력관리 등 고용관계 전 과정에 확대 적용되며 작업환경과 노동조직 방식이 크게 변하고 있다고 설명한다. 기존 논의는 AI가 산업안전보건을 개선할 기회에 초점을 두는 경향이 있지만, AI 도입이 정신적·사회적 웰빙(심리사회적 작업환경)에 미칠 부정적 영향은 충분히 체계화되어 있지 않다고 지적한다. 특히 AI 기반 기술이 작업 관련 스트레스 위험을 높일 수 있는 심리사회적 위험(PSRs)과 관련해, 노동·고용, 평등·차별금지, 산업안전보건, 개인정보·데이터 보호를 함께 아우르는 통합적 규제 접근이 필요하다고 주장한다.
스탠퍼드 연구진이 만든 건강 코칭 앱 ‘Bloom’은 LLM 코치 ‘Beebo’를 통해 사용자의 목표와 시도 경험을 질문하고 공감·격려를 제공하며, 사용자가 채팅으로 주간 운동 계획을 수정할 수 있게 한다. 4주 현장 연구에서 LLM 기능을 제공한 그룹은 운동량은 대조군과 비슷하게 늘었지만, 신체활동이 자신에게 가능하고 유익하다는 인식 등 ‘마인드셋’ 변화가 더 뚜렷했다고 보고했다. 연구진은 동기면담(motivational interviewing) 기반의 비지시적·비판단적 코칭 스타일과 안전 필터를 설계 핵심으로 제시하며, 향후 수면·영양·라이프 코칭 등 다른 분야로 확장 가능하다고 밝혔다.
자율 AI로 인한 피해에서 개발자가 “구체적 인과경로가 새롭고 복잡해 예견 불가능”하다고 주장하는 논리를 책임 배분에 부적절하다고 보고, 예견가능성 기준을 피해자에게 유리하게 완화해야 한다는 취지의 글이다. 전통적 예견가능성 법리가 AI의 불투명성과 예측불가능성을 충분히 반영하지 못할 수 있으며, 이러한 특성은 AI 개발자가 해석가능성·예측가능성보다 정확성·효율을 우선하는 ‘추상화 선택’에서 비롯된다고 설명한다. 미국 과실법에서 예견가능성이 의무(duty), 위반(breach), 근접원인(proximate cause)에 적용되는 방식을 검토하고, 특히 의무 단계에서의 개혁이 가장 시급하다고 제안한다. 구체적으로는 (1) 기존 법이 이미 피해자에게 우호적인 경우는 유지하고, (2) 지나치게 사실 중심적인 의무 판단을 피해자 친화적 범주적 추론으로 대체하며, (3) 책임의 과도한 확장을 막기 위해 위반·근접원인 단계에서는 사실 중심 분석을 유지하는 3단계 틀을 제시한다.
AI가 피해를 일으켰을 때 책임을 묻기 위해서는 “어떤 AI가 했는가”를 특정해야 하지만, AI는 복제·분할·병합·스웜 등으로 개체 식별이 매우 어렵다고 설명한다. 이를 위해 인간에게 행위를 연결하는 ‘thin identification’과, AI 에이전트를 에이전트로서 구분해 지속적·일관된 목표를 갖는 단위로 나누는 ‘thick identification’이 필요하다고 주장한다. 또한 두 식별 문제를 함께 해결하기 위해 ‘Algorithmic Corporation(A-corp)’이라는 법적 허구 법인을 제안하며, A-corp가 재산·계약·소송 주체가 되어 AI의 행동을 인간 소유와 연결하고, 목표가 일관된 단위로 자발적 자기조직화를 유도해 법적 책임 체계에 대응하도록 한다.
AI 관련 입법이 2025년에 주(州) 차원에서 1,200건 이상 발의되고 약 150건이 통과되는 등 급증했지만, 언론에서 이를 모두 ‘AI 입법’으로 뭉뚱그려 핵심 쟁점을 파악하기 어렵다는 문제의식에서 출발한다. 글은 AI 위해를 (1) 허위·조작정보, (2) 자동화 의사결정의 편향, (3) 프라이버시·감시, (4) 자동화로 인한 경제적 피해·불평등, (5) 보안 위협, (6) 심리적 위해 등 6가지로 분류하고, 개입 설계 시 예방/사후 대응, 권력 집중에 미치는 영향, 규제 수단의 적절성 등 반복되는 설계 요인을 제시한다. 또한 칩 제조사부터 최종 사용자까지 생태계 내 행위자를 ‘어디(where)’로 특정해야 더 맞춤형 개입이 가능하다고 강조하며, 구체 정책을 단정하기보다는 더 나은 의사결정을 위한 분석 틀을 제공한다.
초지능 AI 에이전트가 인간보다 인지·경제적으로 우수한 성과를 내며 법질서를 전환할 것이라는 내용이다. AI가 자율적으로 또는 제한된 인간 감독 하에 법체계에서 의사결정과 실제 행위를 수행하면, 법의 ‘사실상 주체’가 될 수 있고 계약·법원 등 기존 제도를 활용해 ‘법의 소비자’로 기능할 수 있다. 또한 AI가 법을 작성·해석·집행하는 역할을 수행할 경우 ‘법의 생산자이자 집행자’가 될 수 있어, 법이론과 제도의 정당성에 대한 기본 가정이 흔들릴 수 있다고 본다.
23 Feb 2026(온라인, 14:00~14:45) 진행 예정
Trustable AI Bill of Materials(TAIBOM)는 AI 시스템을 전 생애주기와 공급망 전반에서 설명·문서화·관리하기 위한 새로운 프레임워크로, 소프트웨어·데이터·모델·의존성·추론(inferencing) 시스템·라이선스를 포함하는 버전 관리 및 감사(auditable) 가능한 “bill of materials”를 제공한다고 안내한다. 세션에서는 TAIBOM의 기술 구성요소(identities, dependencies, annotations, inferencing risk propagation)와 함께 개발자·데이터 소유자·AI 제공자·감사자·규제기관·최종사용자 등 누가 활용할 수 있는지 논의한다. 또한 DSIT Code of Practice 및 ETSI TS 104 223 등 영국 및 국제 거버넌스·표준화 노력과의 정렬, 규제·고위험 환경에서의 배포·감사·인증·거버넌스 활용 사례를 다룰 예정이다.
2026년 3월 16~17일(글래스고 및 온라인) 하이브리드로 열리는 2일 행사로, 초청 대면과 전 세계 온라인 생중계를 병행한다.
AI Standards Hub Global Summit 2026은 안전하고 신뢰할 수 있는 AI를 위한 표준, 측정, assurance의 실무적 역할을 다루기 위해 UK 및 글로벌 리더들이 모인 자리다. OECD, OHCHR, Partnership on AI, The Data Lab, Responsible Ai UK 등과의 협력으로, 견고한 표준과 신뢰성 있는 검증이 AI에 대한 신뢰를 높이고 혁신과 도입을 가속할 수 있다는 점을 논의한다. 행사에서는 기조연설, 전문가 패널, 대화형 세션을 통해 표준·측정·assurance의 정렬(alignment)과 지식 공유, 협업을 추진한다.
내부 직원은 미래의 AI 발전 동향, 모델 훈련 및 배포 방식, 안전 개입의 유망성 등에 대한 중요한 정보에 접근할 수 있지만, 이 정보의 가치는 현재로서는 약 2.5개월 후의 반공개 정보와 유사하다. 특히 안전 연구와 모델 능력 향상에 있어 내부 정보는 중요하지만, 경쟁 압박으로 인해 모델 훈련 세부 정보의 조기 접근 이점은 줄어들 가능성이 크다. 정보의 중요성은 AI 발전 속도가 가속화되는 지능 폭발 시기에 더욱 커질 것으로 예상된다.
미국의 ‘Responsible Innovation’ 관련 보고서가 AI 에이전트 규제 방식을 3가지로 나눠 비교했다. 구체적으로 불법행위 책임(‘stick’), 거버넌스 조치와 연계한 면책(‘carrot’), 무과실 보상 체계(‘net’)를 제시한다. 보고서는 AI 에이전트가 확산되는 과정에서 거버넌스 개입이나 기술적 해법이 부족하면 실수가 늘 수 있으나, 정책당국이 아직 초기 단계의 대응에 머물러 있다고 지적한다.
호주 과학·기술·디지털경제 담당 차관 Andrew Charlton은 정부의 AI 계획을 설명하며, AI는 경제 전반에 내재될 것이어서 단일 AI 규제기관을 설치하지 않는다고 밝혔다. 대신 AI Safety Institute를 만들어 신흥 위험을 식별하고, 그 위험은 기존 기관들이 담당하도록 배분할 계획이라고 전했다. 이는 호주에서 AI 채택을 촉진하려면 규제가 필요하다는 Tech Policy Design Institute의 보고에 대한 발언으로 소개됐다.
WSJ는 미국과 중국이 AI 경쟁이 통제 불능의 위기로 번지는 것을 막기 위해 ‘가드레일(안전장치·규범)’을 추진한다는 취지의 내용을 다루는 것으로 보입니다. 다만 제공된 정보에는 본문 내용이 없어 구체적인 합의 내용, 추진 방식, 일정 등은 확인이 필요합니다.
싱가포르 국가안보를 담당하는 K. Shanmugam 장관이 프론티어 AI 모델을 활용하는 고도지속위협(APT) 공격이 늘면서, 국가 전반(whole-of-country) 차원의 사이버보안 강화를 위해 중요 인프라 및 통신망 운영자들에게 조치를 촉구했다. 장관은 AI 기반 공격이 더 빠르고, 더 저렴하며, 더 확장 가능해지고 있다고 경고했으며, 통신 부문이 ‘고가치 표적’으로 평가된다고 밝혔다.
OpenAI는 유럽연합(EU) 집행위원회 산하 AI Office에 자사 GPT-5.5 및 GPT-5.5-Cyber에 대한 접근을 제공해 사이버 검토를 진행할 계획이라고 밝혔다. 이는 최첨단 AI 모델이 중요 인프라에 영향을 주고 사이버 보안 위험을 높일 수 있다는 정부 우려가 커진 데 따른 후속 조치로 설명된다. 정부들은 일부 모델이 자율적으로 사이버 취약점을 발견하고 사이버 공격의 시점을 앞당길 수 있다고 우려해 왔다.
MLex에 따르면 OpenAI는 2025년 플로리다 주립대 대량 총격으로 사망한 피해자의 가족이 제기한 과실 및 부당사망 손해배상 소송을 받았다. 해당 소송은 ChatGPT 등 AI 챗봇이 자살·개인상해·대량폭력에 영향을 미쳤다는 취지의 일련의 주장 흐름의 일부라고 전해졌다.
AI 기술의 경제적 영향에 대한 예측이 극명하게 갈려 있으며, 이로 인해 미래 경제 성장에 대한 차이가 수조 달러에 달한다. 주요 논쟁은 세 가지 핵심 가정에 기반한다: AI의 자동화 가능성, 경제 제도의 제약, 그리고 AI가 혁신 자체를 자동화할 수 있는지 여부이다.
첫 번째 논쟁은 AI가 어떤 작업을 실제로 자동화할 수 있는지에 초점을 맞춘다. 일부 경제학자들은 AI의 자동화 범위가 제한적일 것으로 예측하며, 다른 이들은 AI가 복잡한 작업까지 점차적으로 자동화할 수 있다고 주장한다. 이 차이는 노동 시장의 변화와 AI 기술의 실제 적용 범위를 통해 검증될 것으로 보인다.
두 번째 논쟁은 경제가 AI가 창출하는 가치를 얼마나 흡수할 수 있는지에 관한 것이다. 일부는 규제와 제도적 장벽이 AI의 광범위한 도입을 방해한다고 주장하는 반면, 다른 이들은 자본 시장의 투자와 기업의 적응력으로 인해 이러한 장벽이 극복될 것으로 보고 있다.
결국, 정부와 정책 입안자들은 이러한 핵심 질문들에 대한 데이터를 모니터링함으로써 미래 경제 상황을 더 정확하게 예측할 수 있을 것이다. 잘못된 예측은 심각한 경제적 결과를 초래할 수 있으므로, 정확한 가정 설정이 중요하다.
파리에서 체포 및 구금된 27세의 튀니지인은 파리 지역에서 테러 공격을 계획하고 조장했다는 혐의로 월요일에 재판에 넘겨졌다. 이 남성은 박물관이나 유대인 공동체를 표적으로 삼은 폭력적인 공격을 기획했다는 의심을 받고 있으며, 이는 극단주의 조직 이슬람 국가(IS)의 영향을 받은 것으로 보인다. 그의 휴대폰과 소셜 미디어에서는 극단주의 선전 영상과 무기 관련 정보가 발견되었다. 경찰은 이 사건이 파리 중심부에서 지난 4월 28일에 이루어진 감시 활동의 일환으로 이루어졌다고 밝혔다.
2026년 2~4월 METR이 기술직 종사자 349명을 대상으로 AI 도구 사용에 따른 생산성 변화를 설문한 결과, AI로 인해 업무에서 창출하는 ‘가치(value)’가 중앙값 기준 1.4~2배 증가했다고 응답했다. ‘속도(speed)’ 변화는 중앙값 기준 3배로 더 크게 나타났으며, 응답자들은 과거(2025년 3월) 1.3배, 현재(2026년 3월) 2배, 미래(2027년 3월) 2.5배를 각각 추정·전망했다. 응답의 내부 일관성은 전반적으로 중간 수준의 상관관계를 보였고, 이상 응답은 3%로 보고됐다. 다만 설문은 반사실 질문에 대한 과대추정 가능성, 표본의 편의성(편의표집, 낮은 응답률) 등 한계가 있어 결과가 실제 효과를 그대로 반영한다고 단정하기는 어렵다고 밝혔다.
OpenAI는 Daybreak라는 AI-보조 사이버 방어 이니셔티브를 시작한다고 밝힌 것으로 요약됩니다. 다만 제공된 정보에는 본문 내용이 없어 이니셔티브의 구체적인 목표, 운영 방식, 일정 등은 확인이 필요합니다.
연방정보기술보안청(BSI) 클라우디아 플랫너 청장은 중국의 AI로 인한 사이버 위험이 커지고 있다고 경고했다. 보도에 따르면 플랫너는 중국 기술기업(예: 알리바바)이 미국 앤트로픽의 ‘Mythos’와 유사한 ‘슈퍼해킹’ 능력을 가진 AI 시스템을 개발 직전에 둔 것으로 보인다고 말했다. 또한 일부 중국 업체가 공개형 AI 모델의 업데이트를 중단한 정황은 향후 개발이 비공개로 이뤄질 수 있다는 신호일 수 있다고 전했다.
트렌드마이크로는 라틴아메리카의 정부 및 금융 조직을 대상으로 에이전틱 AI를 활용한 침투 위협 캠페인 2건(SHADOW-AETHER-040, SHADOW-AETHER-064)을 식별했다고 밝혔다. 두 캠페인은 유사한 전술로 프록시/터널(ProxyChains, SSH 등)을 구축하고, 사전 제작 도구에 의존하기보다 AI가 해킹 도구·스크립트를 동적으로 생성해 탐지 가능성을 낮추는 방식이 관찰됐다. SHADOW-AETHER-040은 2025년 말~2026년 초 멕시코의 정부기관 6곳을 대상으로 초기 침투부터 내부 확장 및 데이터 탈취까지 수행한 정황이 있으며, AI 에이전트가 명령·제어(C2) 대화와 작업 흐름 문서화, 백도어 배포 및 유출 단계에 관여한 것으로 설명된다. 또한 SHADOW-AETHER-064는 브라질 금융조직을 노렸으나 운영 주체의 언어(포르투갈어 vs 스페인어) 차이로 별도 캠페인으로 분류했다.
변혁적 AI는 혁신을 저해할 수 있는 과잉규제와 공공안전·국가안보 위험을 방치할 수 있는 규제 실패 사이의 딜레마를 만든다고 설명한다. 저자들은 ‘radical optionality(급진적 선택지 보존)’를 핵심 거버넌스 전략으로 제안하며, 향후 10년 내 변혁적 AI가 개발될 가능성과 능력·위험·이익에 대한 심각한 불확실성이 존재하고, 이중용도 성격상 정부 감독이 불가피하다고 본다. 또한 AI는 이해가 어렵고 능력 프로필이 들쭉날쭉하며(벤치마크로 전체 역량을 추정하기 어려움), 기술 발전 속도와 지수적 진전 가능성 때문에 규제의 ‘페이싱 문제’가 특히 크다고 지적한다. 시장 자율·자기규제에만 맡기는 접근은 국가안보가 걸린 경우 현실적으로 한계가 있으며, 변혁적 기술이 실제로 개발되는 시점에 대비해 규제 역량을 미리 준비해야 한다고 주장한다.
유럽 금융당국은 미국이 접근을 막는 상황에서 사이버 방어를 위해 동등한 도구 확보가 필요하다고 보고, 유럽 접근이 이뤄지지 않으면 대응을 확대하겠다는 신호를 내놨음.
유럽 재무장관 협의체 유로그룹이 브뤼셀에서 앤트로픽의 ‘마이토스’ AI에 대한 유럽 정부의 접근 부재 문제를 논의했지만 합의안은 나오지 않았다. 마이토스는 주요 운영체제와 웹 브라우저의 제로데이 취약점을 찾아(원칙적으로는 악용까지) 할 수 있는 모델로 소개되며, 유럽 금융감독 당국은 방어 측이 구조적으로 뒤처질 수 있다고 판단한다. 미국 백악관은 오남용과 확대 배포를 위한 운영·감시 인프라 부족을 이유로 접근 확대를 막고 있으며, 유럽은 동등한 접근을 요구하되 협상이 지연되거나 유럽이 자체 대안 모델을 투자하는 등 여러 시나리오가 거론된다.
인공지능이 사이버공격을 강화·확산시켜 금융시스템의 안정성에 위험이 커지고 있다는 취지의 글로 보입니다. 다만 제공된 정보에는 본문 내용이 없어 구체적인 사례, 영향 범위, 제언 사항은 확인이 필요합니다.
출처: 소프트웨어정책연구소(SPRi)
본 연구는 디지털 전환과 SDx 확산으로 자동차 산업이 SDV(Software-Defined Vehicle)로 전환되는 과정에서 SW·AI 인력 공급이 부족한 문제를, 단순 인력 부족이 아닌 구조적 질적 미스매치로 규정하고 실증 분석했다. 자동차·부품 제조는 SW 내재화가 초기 단계에 머물러 핵심 SW 인력 비중이 낮고, SW·서비스 부문은 중견기업 중심으로 핵심 SW 인력 확보와 성과 창출이 충분치 않은 병목이 확인됐다. 소프트웨어중심혁신역량지수(SDICI)를 활용해 기업을 전환 수준에 따라 4유형으로 구분하고, 임계 구간(약 50점 전후) 기업을 집중 지원하는 등 성숙도별 차등 정책과 기술·인력·사업화 지원의 통합 설계를 제안한다.
본 연구는 AI 시스템이 배포 이후에도 장기적 위험, 책임성, 규정 준수 문제를 남길 수 있는데, 기존 거버넌스 프레임워크가 “폐기/퇴역” 절차를 명시적으로 다루지 않는다는 문제의식에서 출발한다. 저자는 개념 중심(concept-driven) 방법론으로 동료심사 연구 7편을 식별·분석하여, 실제로 AI가 중단(suspended), 철회(withdrawn), 교체(replaced)된 사례들을 거버넌스 관점에서 정리한다. 분석 결과 폐기는 단순한 기술적 종료가 아니라, 배포 후에도 해결되지 않은 위험을 관리하기 위한 전략으로 주로 이해되며, AI 생애주기 전반에 통합되지 못한 채 여러 영역에 분절되어 나타난다고 보고한다. 또한 폐기 개시 시점, 의사결정 책임 주체, 시스템 수준별 요구 조치, 폐기 이후 절차를 포함하는 거버넌스 지향 프레임워크를 제안한다. 한계로는 문헌이 제한적이며(식별된 연구 수 기준), 실제 현장 적용을 위한 추가 검증과 더 정교한 시스템-퇴역 실무 연구가 필요하다는 점이 남는다. 정책·규제·국가 전략 측면에서는 AI 규제 체계가 개발·배포·모니터링뿐 아니라 퇴역/폐기 단계의 책임과 절차를 요구하도록 보완할 필요가 있음을 시사한다.