인공지능(AI) 기술 경쟁 이면의 ‘윤리·가치’ 주도권을 두고 3가지 모델(기술 패권·인코딩된 가치 확산·외교적 협력)을 비교(기사·공고 게재일 2026.6.30)
본문 요약불가
본문 요약불가
미투안이 LongCat-2.0을 공개하며 1.6조 파라미터 MoE 모델(토큰당 약 480억 활성)로, 100만 토큰 컨텍스트 창과 에이전틱 코딩을 위한 설계를 강조했다. 회사는 30조+ 토큰(전체 학습·검증에 35조+ 토큰)으로 중국 내 클러스터에서 학습·대규모 배치를 완료했고, 훈련·추론 모두 Nvidia가 아닌 “domestic chips”로 수행했다고 밝혔다. 다만 칩 공급사와 모델명(예: Ascend 등)은 공식적으로 공개되지 않아 추측만 존재하며, OpenRouter에서 Owl Alpha로 먼저 유통된 뒤 6월 2026년 공개로 정체를 드러냈다는 점이 주목된다.
미국과 중국 간의 인공지능(AI) 경쟁은 기술적 우위뿐 아니라 윤리적 가치의 주도권을 둘러싼 경쟁으로도 해석된다. 주요 모델로는 기술 우위 확보를 통한 패권 유지, AI에 내재된 가치 체계의 확산, 그리고 양국 간 협력을 통한 윤리적 방향 설정이 있다. 첫 번째 모델은 미국이 AI 기술에서 앞서 나가 패권을 유지하려는 접근법을 의미하지만, 현재의 경쟁 구도는 지속적인 우위를 확보하기 어렵다는 분석이 제기된다. 두 번째 모델은 AI 시스템에 내재된 가치 체계의 중요성을 강조하며, 중국의 경우 사회주의 가치를 반영한 AI 개발에 집중하고 있는 반면, 미국은 상대적으로 덜 체계적인 접근을 취하고 있어 미국의 가치를 약화시킬 위험이 있다. 세 번째 모델은 양국 간 협력을 통해 AI의 윤리적 방향을 인류의 이익에 맞추려는 노력을 제안한다. 이러한 모델들은 미국이 AI 경쟁에서 윤리적 명확성과 전략적 기회를 놓치지 않도록 명확한 비전을 필요로 한다.
구글의 AI 오버뷰가 생성한 허위 정보에 대해 독일 뮌헨 지방법원이 구글에 책임을 물었다. 법원은 구글이 허위 주장을 반복하지 않도록 명령하고 위반 시 과태료를 부과했다. 이 판결은 AI 검색 요약의 정확성과 플랫폼의 책임 귀속에 대한 중요한 선례가 될 것으로 보인다.
구글은 이용자가 출처 링크를 통해 정보의 진위를 확인할 수 있다고 주장했으나, 법원은 이를 기각하고 AI 오버뷰가 생성한 내용에 대한 구글의 책임을 인정했다. 이 판결은 향후 생성형 AI 서비스의 규제 방향성에 영향을 미칠 것으로 예상된다.
개인정보 보호법 개정안이 국회를 통과하면서, 동의 없이 수집된 개인정보를 AI 개발에 활용할 수 있는 특례 조항이 포함되어 논란이 되고 있다. 시민단체와 반대 청원인들은 이 법안이 개인정보 자기결정권을 침해하고, AI 예외주의를 초래할 수 있다고 비판하고 있다. 특히 개인정보보호위원회의 심의 과정이 충분한 안전장치가 될지에 대한 의문이 제기되고 있다. 이에 따라 국회 국민동의청원을 통해 법안 반대 의견이 모아져 진행 중이다.
미국이 앤트로픽(Anthropic) 고급 AI 모델을 국가안보를 이유로 차단한 직후, 인도에 대해 향후 AI 모델 접근을 “cut off”하지 않겠다는 취지의 보장이 있었다고 인도 고위 관계자가 SCMP에 밝혔다. 인도는 워싱턴에서 열린 ‘Pax Silica’ 정상회의 계기 중 AI ‘kill switch’ 우려를 제기했으며, 미국이 모델 공개 전 내부 검토 및 검토 메커니즘을 검토하고 있다고 설명했다. 앞서 6월 초 트럼프 행정부는 국가안보를 이유로 외국인 사용을 제한하는 수출통제 지침을 내렸고, 앤트로픽은 경고 없이 Fable 5·Mythos 5 접근을 전 세계에서 중단한 것으로 전해졌다.
AI가 2030년대 중반부터 군사 연구·개발 및 생산 비용을 크게 낮추면, 핵 반격을 무력화하는 선제적 counterforce 공격이 “현실적”이 될 수 있다는 주장이다. 특히 AI 우위를 가진 국가가 감시·미사일방어·군 인프라를 빠르고 저렴하게 확충하면, AI가 약한 국가는 핵 억지력을 유지할 대응 체계를 신속히 갖추기 어렵다고 본다. 글은 MAD가 지금까지 유지된 이유를 “선제 counterforce를 모두 충족할 때의 과도한 비용”으로 설명하며, 비용-교환비(cost-exchange ratio) 구조가 AI로 뒤집힐 수 있다고 지적한다.
AI 기술의 발전이 핵무기 억지력의 균형을 깨뜨릴 가능성이 제기되었다. 현재까지는 상호 확증 파괴(MAD) 원칙으로 인해 핵무기 보유국 간 대규모 핵 공격을 막아왔으나, AI 기술의 선도적 활용으로 인해 이 균형이 깨질 위험이 있다. AI는 군사 인프라 구축 비용을 대폭 절감시켜, AI 기술을 선도하는 국가가 핵무기 카운터포스 공격을 현실적으로 수행할 수 있게 만든다. 반면, AI 역량이 약한 국가들은 효과적인 반격 수단을 빠르게 구축하기 어려워 억지력을 유지하기 어려울 것으로 보인다. 핵심은 AI가 복잡한 군사 프로젝트의 지적 노동을 자동화하여 비용을 크게 줄일 수 있는지에 달려 있다. 이를 통해 핵 잠수함 탐지와 파괴, 이동식 발사대 파괴, 핵무기 격실 파괴 등의 과제를 해결할 수 있는 기반이 마련될 수 있다.
AI 모델은 대체로 사람들보다 더 세속적이고 진보적인 가치관을 보이지만, 중국에서 개발된 모델은 예외일 수 있다고 설명한다. 시댁의 결혼 간섭에 대한 조언 사례에서 ChatGPT는 정중한 거리를, DeepSeek는 타협을, Mistral은 감정 처리를 위한 일기 쓰기를 제안하며 모델별 관점 차이를 보여준다.
AI Ignite에서 금융권의 망분리 규제 변화와 혁신금융서비스를 활용한 외부 AI 모델 연계, 하이브리드 AI 인프라 구축 방안이 소개됐다. 셀렉트스타는 AI 전 생애주기를 검증하는 Datumo Platform의 Evaluation, Redteaming, Observability 기능을 설명했으며, Observability 기능은 2026년 3분기 출시 예정이다. Datumo Platform은 AI 성능 평가와 취약점 탐지, 운영 중 사용자 대화 및 이상 징후 모니터링을 지원한다.
Apple은 온디바이스 모델과 서버 모델을 결합한 하이브리드 시스템을 소개했으며, 간단한 요청은 기기에서 처리하고 복잡한 요청은 클라우드로 보내는 구조를 설명합니다. 하이브리드 구현 방식으로는 요청 전에 모델을 선택하는 Router와 소형 모델의 답변 후 대형 모델로 넘길지 판단하는 Deferral이 제시됩니다. AFM 3 Core Advanced는 Instruction-Following Pruning을 활용해 20B 파라미터 중 필요한 약 3B만 추론에 사용하며, 온디바이스·서버 간 시스템 라우터의 구체적인 알고리즘은 공개되지 않았습니다.
본 글은 AI 시대의 복잡성을 논하며, AI가 뛰어난 능력을 보이면서도 예상치 못한 오류를 범하는 현상을 '울퉁불퉁한 지능(jagged intelligence)'으로 설명한다. 현재의 거대 언어 모델(LLM)들은 특정 분야에서 뛰어난 성과를 보여도 다른 분야에서는 제한적인 능력을 보여주는데, 이는 학습 데이터의 영향과 모델의 확률 기반 작동 방식 때문이라고 분석한다. 예를 들어, GPT-5.5는 복잡한 약물 분석에는 능하지만 시계 읽기나 도형 변 개수 세기와 같은 간단한 시각적 인식 작업에서는 어려움을 겪는다. 이러한 양면성을 이해하기 위해 다양한 담론에 귀 기울이고, AI의 복잡성을 있는 그대로 바라보는 것이 중요하다고 강조한다.
국방 예산 협상 과정에서 국방부 전략자원실장 박관규 실장은 AI 경계 시스템의 중요성을 강조하며, 과거 연평도 포격전에서의 실패 사례를 언급한다. 그는 현재 병력 감소로 인한 휴전선 감시의 어려움을 해결하기 위해 고성능 AI 시스템 도입의 필요성을 주장한다. 반면 김 과장은 예산 효율성과 경쟁 입찰을 통한 검증 필요성을 주장한다. 결국 국방부는 성능 중심의 경쟁 입찰을 통해 에반과 태산디펜스의 시스템을 검증하기로 결정한다. 이 과정에서 'K-사리엘'이라는 이름의 AI 시스템이 주목받으며, 실제 성능 테스트를 통해 그 우수성을 입증하려 한다.
중국이 기술 자립도를 측정하기 위해 사용했던 대외기술의존도(FTD) 지표가 2016년 ‘오해를 불러일으킨다’는 이유로 중단된 배경을 분석한다. 금융·고급 인력의 국제적 이동으로 중국에 본사와 핵심 사업을 둔 기업도 외국인 투자와 다국적 경영진을 포함하게 되면서, 국내 기업과 외국 기업의 경계가 모호해졌다는 주장이다. 중국·일본·인도의 사례 비교 결과, 혁신의 혼종화가 진행된 중국에서는 기술 의존도 평가의 회색지대와 측정 방식의 불안정성이 커졌으며, 이는 기술민족주의 정책의 성과 판단을 어렵게 만든다.
생성형 AI가 에세이·코드 작성 등을 돕는 환경에서 학생 성적·수행이 조건부로만 좋아지고 접근이 끊기면 악화되거나 전반 수행이 낮아졌다는 연구·조사가 소개된다. 대학 강사 설문에서는 AI가 비판적 사고를 약화하고 과의존을 우려한다는 응답이 높게 나타났으며, 디지털교과서의 제도 변화도 언급된다. 이어서 교육의 기능을 자격화·사회화·주체화로 나눌 때 AI 튜터는 주로 자격화에 관여하고 관계·주체화 영역의 공백이 남는다고 설명한다. 또한 해답을 즉시 주지 않도록 질문 중심 설계, 규칙 재설정, 마찰을 보존하는 학습 운영이 필요하다고 제안한다.
퍼플렉시티와 하버드 비즈니스 스쿨 연구진은 검색형 AI Search와 에이전트형 AI Computer의 실제 사용 데이터를 비교해, Computer가 세션당 평균 26분 자율 실행하며 Search의 33초보다 약 48배 길게 작업한다고 분석했다. 도구 호출과 전문가 추정 등을 바탕으로 Computer 활용 시 작업 시간이 평균 87%, 비용이 94% 줄어드는 것으로 추정됐으며, 프로그래밍 분야에서는 각각 92%와 96%의 절감 효과가 나타났다. Computer 사용자는 직업군 밖의 업무와 고차원 인지 작업을 더 많이 시도했지만, 연구 대상이 초기 사용자이고 일부 수치가 추정치인 만큼 결과를 모든 지식노동에 일반화하기는 어렵다.
World Model은 2018년 세계의 규칙을 학습하고 미래를 예측하는 개념으로 제안된 뒤, Sora의 World Simulator와 NVIDIA Cosmos·Google DeepMind Genie·Waymo World Model처럼 세계를 생성하고 시뮬레이션하는 방향으로 확장됐다. 최근에는 단안 영상으로 4D 장면을 복원하는 NeoVerse와 프레임 간 변화량을 Delta Token으로 압축하는 DeltaWorld 등 효율성과 확장성을 높이는 연구가 진행되고 있다. 동시에 JEPA 계열은 세계를 직접 생성하지 않고도 구조를 학습할 수 있는 조건을 이론적으로 검증하며, World Model 연구가 ‘이해’와 ‘생성’의 두 방향으로 분화·융합되고 있음을 보여준다.
서울대학교 도재영 교수 연구팀은 인간 가치관을 바탕으로 대형언어모델(LLM)을 정렬하는 연구 논문 ‘밸류플로우(VALUEFLOW)’가 ICML 2026 구두 발표 논문으로 채택됐다고 16일 밝혔다. 연구팀은 인간 가치관을 ‘표현-측정-조정’ 3단계 통합 프레임워크로 정리했으며, HiVES(가치 임베딩), VIDB(가치 강도 데이터베이스), 비교 기반 평가 등을 통해 가치가 포함 여부를 넘어 강도까지 안정적으로 평가하고 응답을 특정 가치 방향과 강도로 조정할 수 있다고 설명했다. GPT-4.1, 제미나이, 클로드 등 10종 LLM에서 모델별 가치 조정 능력 차이가 확인됐고, 특히 사회적으로 바람직하다고 여겨지는 가치(예: 배려, 보편주의)를 부정적으로 조정할 때는 강한 저항이 나타났다고 밝혔다.
본문 요약: AI 기술의 도입은 경제에 다양한 영향을 미칠 것으로 예상되며, 이를 효과적으로 관리하기 위한 단계별 로드맵이 제시되었다. 단기적으로는 AI로 인한 일자리 변화와 경제적 충격을 관리하기 위한 정책 개입이 필요하다. 이는 재교육 프로그램, 실업 급여 확대, 임금 보험 등을 포함한다. 중기적으로는 AI의 확산으로 인한 경제 구조 변화와 글로벌 불평등 증가에 대비해 세금 개혁, 산업 정책 강화, 취약 계층 보호 정책 등이 요구된다. 장기적으로는 AI가 인간 노동을 대체하는 방향으로 진화함에 따라 경제 체제의 근본적인 재설계가 필요할 것으로 보인다. 이를 위해 공공 소유 모델, AI 기업의 공공 지분 확보 등 새로운 경제 모델이 제안되고 있다. 전반적으로 AI 기술 발전에 따른 경제적 변화를 순차적으로 관리하고 적응하기 위한 정책적 접근이 강조된다.
본문의 핵심은 기술에 대한 무비판적 신뢰, 즉 '기술 모태신앙'에 대한 성찰을 강조하고 있습니다. 저자는 개인의 종교적 신념과 유사하게 현대 사회에서 기술, 특히 AI에 대한 암묵적인 믿음이 형성되고 있다고 주장합니다. 코비드-19 기간 동안 경험한 '거리두기'는 종교적 신념에 대한 재고를 촉발했으며, 이 경험을 통해 기술에 대한 비판적 시각을 갖는 것이 중요함을 강조합니다. 저자는 '잠재 공간'이라는 비영리 단체를 소개하며, AI에 대한 기존 믿음을 잠시 멈추고 비판적으로 접근할 수 있는 공간을 만들고자 하는 목표를 제시하고 있습니다.
중국 가오카오 성적 발표 후 학생들이 대학과 전공을 선택하는 과정은 학교 순위·전공·모집 인원·취업 전망·과거 합격선 등을 검토해야 해 큰 부담이 된다. 알리바바의 Qianwen은 6월 10일부터 1,290만 명의 수험생에게 성적과 희망 전공을 바탕으로 지원 가능성이 높은 대학, 안정 지원 대학, 안전 지원 대학을 추천하는 AI 상담 서비스를 무료로 제공했다. 이 서비스는 입시 정보의 격차를 줄일 수 있지만, AI가 비슷한 학생들에게 동일한 대학과 선택을 권해 결과가 획일화될 수 있다는 우려도 제기된다.
포켓몬 고 이용자들이 만든 AR 스캔·공간 데이터가 군용 드론의 위치 파악 AI 개발에 활용된 정황이 보도됐다. 포켓몬 고 개발사 나이언틱에서 분사한 나이언틱 스페이셜이 Vantor와 협력해 GPS 신호 없이 드론이 위치를 파악하도록 하는 AI를 개발 중이며, 이때 포켓몬 고 이용자 데이터로 학습한 파운데이션 모델을 사용했다고 밝혔다. 전문가들은 민간 데이터의 군사 전용이 늘고 있으며 규제 당국이 데이터 활용 관행을 막기 위한 기준을 도입해야 한다고 지적했다.
중요 일정: 2026년 2월 Judicial Information Disclosure Portal에 사건번호 존재 여부 확인 기능 추가, NCA는 4단계 사업 중 1단계 완료 후 자체 AI 시스템 도입 추진
법원 행정기관인 National Court Administration(NCA)은 변호사들이 AI가 생성한 환각으로 ‘존재하지 않는 판례·법령(ghost precedents)’을 법원 제출물에 인용하는 문제에 대응하고 있다. 이에 따라 법원이 절차상 허위 증거를 걸러내도록 벌금 등 제재 근거 마련과, 당사자에게 제출물 작성 시 AI 사용 여부를 공개하도록 하는 규정 개정을 추진한다. 또한 사건번호 검증 기능과 판례 진위 확인용 가이드북을 제공하고, Supreme Court 판례·판결문 등을 담은 AI 기반 재판 지원 시스템을 도입하기 위해 자체 내부 AI 시스템에 161억 원을 확보했다.
AI 음악 스타트업 Suno가 대규모 투자를 받으며 기업 가치가 상승했지만, 동시에 기존 음악 레이블들로부터 저작권 침해 소송을 당하고 있어 판결 결과에 따라 AI 음악의 보상 구조와 창작자 권리가 크게 바뀔 전망이다. 뮌헨 법원의 판결 연기에도 불구하고 이번 소송은 유럽 AI 음악 저작권의 중요한 분기점이 될 것으로 보인다. 한편, 미국 배우·방송인 노조 SAG-AFTRA는 AI 연기자 사용에 대한 새로운 협약을 비준하여 차별적 가치 입증을 요구하는 반면, 작가 노조 WGA는 의료보험 기금 확충에 타협하며 AI 학습 보상 요구를 포기했다. 이로 인해 배우와 작가 간 AI 관련 협상 결과에 차이가 생긴 것으로 분석된다.
다수의 연방 정부 기관이 Digital Transformation Agency(DTA)가 부과한 AI 사용 투명성 공개 첫 기한을 지키지 못했다. DTA 제출 자료에 따르면 2025년 2월 28일까지(정책 시행 후 6개월) 92개 의무 기관 중 40개만 공개했고, 이후 추가 점검에서 미준수 기관이 13개로 확인됐다. 또한 일부 기관은 기한 미인지, 이메일 스팸 필터 누락 등으로 문서를 늦게 수정·정정했으며, 전문가들은 기관별 책임을 배정하는 방식의 운영 난이도를 문제로 지적했다. 이후 정부는 중앙 레지스터 구축 등 개선을 추진하고 있으나, 집행·제재 권한이 없는 DTA 구조적 한계를 지적하는 목소리도 나왔다.
국가 AI 발전 로드맵과 AI 개발 윤리 관련 프레임워크를 마련 중이며, 대선 아스타사이트(Astacita) 비전과 연계해 10개 부문을 우선 적용할 계획
인도네시아 통신·디지털부 장관 메우티야 하피드가 AI 기술을 다룰 구체적 규정 마련의 시급성을 강조했다. 정부는 AI 혁신이 도입될 때 법적 책임을 묻고, 공공 데이터 보호와 디지털 책임성 확보를 위한 거버넌스 체계가 필요하다고 설명했다. 또한 2025년 공공 생체정보를 수집해 오용한 ‘World Apps’ 차단 사례와 인센티브를 위해 망막 데이터를 제공한 사례를 언급하며 명확한 법적 틀의 중요성을 강조했다. 장관은 대통령령을 통해 부처가 포괄적 ‘우산 규정’을 제공하고, 각 부문이 이해관계에 따라 세부 규정을 만들도록 하겠다고 밝혔다.
AI 기술의 부상이 주식 투자 열풍과 일자리 변화를 가져오고 있지만, 미국에서는 부의 불평등과 해고 불안감이 커지고 있는 반면 한국에서는 아직 이러한 사회적 비용이 명확히 드러나지 않고 있다. AI 기업의 주가 상승은 단기적인 이익을 가져올 수 있지만, 과거의 기술 거품 사례처럼 장기적으로는 인프라 구축만이 지속 가능한 번영을 이끌 수 있다는 경고가 제기된다. 균형 잡힌 접근이 필요하며, AI를 단순히 부의 도구가 아닌 사회적 가치를 창출하는 수단으로 활용해야 한다는 메시지를 전달한다.
엔비디아의 Cosmos 3는 텍스트·이미지·비디오·오디오뿐 아니라 로봇 팔의 움직임, 차량 궤적, 카메라 이동 같은 행동까지 함께 다루는 옴니모달 월드모델이다. Mixture-of-Transformers 구조에서 Reasoner가 장면을 이해하고 Generator가 이미지·비디오·오디오·행동을 생성하며, 행동과 결과를 같은 시간축에서 학습하도록 설계됐다. Edge(4B), Nano(16B), Super(64B) 모델로 구성되고 대규모 이미지·비디오·오디오·로봇·자율주행 데이터를 활용하지만, 실제 적용을 위해서는 안정성·지연 시간·비용·안전성과 현실 환경에서의 성능을 추가 검증해야 한다.
두 연구는 LLM이 사용자 질문을 기다리는 동안 맥락을 미리 처리하거나, KV Cache를 비우기 전 반복 계산을 수행하는 ‘수면’ 메커니즘을 소개한다. Sleep-time Compute는 수학 추론 벤치마크에서 동일한 정확도를 유지하면서 Test Time 연산을 약 5배 줄였고, 반복 계산 방식은 Rule 110과 수학 과제에서 수면 루프가 깊을수록 정확도를 높여 어려운 문제에서 최대 47% 향상됐다. 다만 반복 루프만큼 학습 비용과 순차 처리 의존성이 증가하며, 대규모 모델과 일반 언어 과제에서의 효과는 아직 검증되지 않았다.
AI Frontiers Media는 킹스칼리지런던 연구 등을 근거로 “AI가 핵무기를 발사할 것”이라는 공포가 과장된 측면이 있다고 전제하면서도, 그보다 현실적인 위험은 인간이 핵전쟁을 선택하도록 만드는 요인이 AI로 인해 강화될 수 있다는 점이라고 주장한다. 글은 정부가 핵 발사를 기계에 위임하지 않을 가능성을 기술적 장벽(적대적 강건성, 학습데이터 부재)과 법·합의(미 FY2025 NDAA의 human-in-the-loop, 미·중의 핵발사 권한 부여 금지 합의)로 설명한다. 또한 군은 AI를 핵 의사결정에 맡기기보다 비핵 전장(센서·분석·타격/방어의 OODA 루프 단축 등)에서 활용하는 방향이라고 서술하며, 핵무기는 반복적 단기 루프가 아니라 사전에 정해진 대상을 상정하는 교리·구조와 대비된다고 말한다.
중국 매체 《인물》에 실린 독자 사례를 통해, AI가 중국 희극단 정보를 잘못 설명하거나 건강·인물 정보를 부정확하게 제시하고, 오류가 있는 수학 문제와 AI 작성 글을 제대로 판별하지 못하는 등 그럴듯한 답변을 이어 가는 문제를 소개한다. 글은 AI가 모른다고 말하거나 침묵하기보다 질문의 전제를 따르며 허위 사례와 정보를 만들어 내는 경향을 지적하고, 이런 hallucination이 널리 믿어지면 사실처럼 굳어질 수 있다고 경고한다. 이 밖에도 중국에서 robotaxi의 일자리 대체 우려가 정책 논의에 영향을 준 사례와 신장 지역의 강제 문화 동화, 중국 AI 하드웨어 산업 및 대학생들의 과도한 경쟁에 관한 글을 추천한다.
마이크로소프트는 샌프란시스코에서 열린 연례 개발자 회의 빌드에서 자체 AI 모델들을 대거 발표하며 오픈AI와의 경쟁을 강화했습니다. 특히 MAI 시리즈 모델들은 높은 성능과 비용 효율성을 자랑하며, 독자적인 AI 생태계 구축 의지를 보여주었습니다. 한편, 행사장 밖에서는 마이크로소프트의 클라우드 서비스 Azure에 대한 비판적 시위가 이어져 미국 내 시민사회의 무분별한 AI 개발에 대한 우려를 드러냈습니다. 트럼프 대통령은 첨단 AI 모델에 대한 사전 검토 행정명령에 서명하여 국가 안보를 위한 보안 평가 절차를 도입했습니다. 이 명령은 AI 기업들이 정부에 모델 정보를 제공하도록 요구하며, 출시 전 보안 검토를 강화하는 방향입니다.
Google DeepMind가 Frontier Safety Framework(FSF) v3.1을 발표하며, 위험을 더 이르게 추적하고 오용(misuse) 위험에 대한 보안 기준을 상향했다. TCL(Tracked Capability Levels)을 도입해 CCL(Critical Capability Level)보다 낮은 단계에서 ‘significant’ 수준의 위해가 나타나면 비례적 평가·완화 절차를 진행하도록 했고, 오용 관련 보안은 Security Level 2+로 상향(내부자 위협 및 자원이 충분한 비국가 행위자 대응 강화)했다. 또한 위험관리 절차를 5단계로 정리하고, misalignment와 ML R&D 위험 도메인을 통합했으며 거버넌스 섹션과 용어집을 추가했지만 외부 책임성은 제한적이라는 평가가 함께 제시됐다.
AI가 개인의 방대한 데이터를 바탕으로 다른 사람에게 전달 가능한 ‘character assessments(인물 평가/평판)’를 만들 수 있어, 공유하지 않으면 의심받는 분위기가 생길 수 있다고 설명한다. 초기에는 운전·금융 등 비용이 낮고 신뢰도 높은 영역에서 opt-in이 시작되지만, ‘unraveling’(좋은 기록을 가진 사람이 먼저 공개하고 이후 연쇄적으로 모두가 공개하게 되는 현상) 논리로 점차 거의 전 영역으로 확산될 수 있다고 본다. 또한 기술적으로는 AI가 데이터 수집·분석을 더 저렴하고 정확하게 만들어 자기감시를 쉽게 만들 수 있으며, 법이 정부·기업의 비동의 감시를 막더라도 개인이 스스로 opt-in하는 흐름은 막기 어렵다고 주장한다.
전 세계 수백 명의 수학자들이 ‘라이덴 선언’을 발표하고, AI 능력에 대한 과장된 홍보를 믿지 말라고 각국 정부에 촉구했다. 이들은 기술 기업들이 논문·동료평가 등 학문적 검증 전에 블로그나 보도자료로 결과를 먼저 공개해 대중이 AI를 과신하게 만든다고 비판했다. 또한 특정 수학 문제 해결이나 난제 기여가 곧 일반적 지능이나 AGI의 증거가 아니며, AI가 잘못된 증명을 만들더라도 과정이 불투명해 책임을 묻기 어렵다고 지적했다. 더불어 AI와 거대 자본이 결합하면서 연구 주도권이 학계에서 기업으로 이동할 수 있다는 우려도 함께 제기했다.
프롬프트 최적화 연구는 CoT 프롬프팅과 APE를 거쳐 OPRO, EvoPrompt, ProTeGi처럼 과거 성능과 실패 피드백을 활용해 프롬프트를 자동 개선하는 방향으로 발전했다. TextGrad는 자연어 비판을 활용해 프롬프트뿐 아니라 답변·추론 과정·코드 등 텍스트로 표현 가능한 요소를 최적화하며, GPQA에서 GPT-4o의 정확도를 51%에서 55%로 높였다. GEPA는 반성과 진화를 결합해 MIPROv2보다 10% 이상 높은 성능과 RL 기반 방법 대비 평균 6% 향상을 보이면서 최대 35배 적은 시도로 프롬프트를 최적화했다.
중요 일정: 2026.4.13 즉시 시행
중국 총리가 ‘외국 법의 부당한 역외 적용에 대한 대응 규정’을 서명·공포했으며, 즉시 시행된다고 전했다. 규정은 20개 조문으로 식별-차단-대응-집행-구제의 통합 절차를 마련하고, 행정규정 차원에서 ‘악의적 실체(Malicious Entity) 목록’과 ‘금지명령’을 공식화했다. 또한 목록에 오른 대상에 대해 비자 제한, 자산 동결, 거래·투자 제한 등과 함께 데이터·개인정보의 제공 및 국외 이전 제한도 포함해 기업의 준수 부담을 크게 바꿀 수 있다고 설명한다. 위반 시 시장 접근 제한, 벌금 및 법적 책임 등 제재가 가능하며, 이해관계자는 조치의 중지·해제 신청이나 국내 소송을 통해 구제받을 수 있다고 덧붙였다.
중국 사이버공간관리국·국가발전개혁위원회·공업정보화부가 ‘지능형 에이전트의 표준화 적용 및 혁신적 발전’에 관한 시행의견을 공동 발표했다. 문서는 에이전트형 AI를 단순 챗봇이 아닌 자율 인식, 장기 기억, 도구 사용, 장기 과업 수행, 멀티에이전트 협조 등을 갖춘 ‘미래 디지털 인프라/거버넌스 대상’으로 보고, 안전·신뢰·질서 있는 거버넌스와 인간의 최종 결정권을 강조한다. 또한 결정 권한(인간 직접 통제/위임/자율 수행) 구분, 위험 경고·추적성·인간 감독, 미성년자·고령층의 정서적 의존 및 조작 방지, ‘지능형 인터넷’ 관점의 에이전트 등록·디지털 신원·상호운용 체계 등을 다룬다. 적용 범위는 제조·금융·의료·교육·교통·정부·사법·공공안전 등 전 산업에 걸쳐 넓으며, 시나리오별 위험도에 따라 등록·시험·인증·감독 강도를 달리하는 분류 기반 거버넌스 모델을 제안한다.
미국 재무장관 스콧 베센트가 베이징에서 열리는 정상회담(다음 주로 언급)에서 AI 관련 공식 논의를 이끌 가능성이 거론됨.
본문은 중국이 5월 7일 외교부 브리핑에서 AI 안전·거버넌스 의제가 미·중 정상회담 의제로 다시 오를 수 있다는 질문에 “현재 제공할 정보가 없다”고만 답하며 신중한 태도를 보였다고 전한다. 글은 이처럼 공개적으로 질문이 제기된 점이 2024년 5월 제네바 이후 사실상 공론 의제에서 빠졌던 AI 안전 이슈가 다시 양자 의제로 부상했음을 시사한다고 설명한다. 특히 ‘Mythos’라는 모델이 취약점 탐지와 악용 체인 생성 등으로 사이버공격 자동화에 가까운 위험을 낳을 수 있다는 점이 미국 정부를 포함한 각국의 경각심을 키웠고, 그 결과 AI 안전 대화 필요성이 커졌다는 논지를 제시한다. 또한 미국과 중국이 ‘AI 안전’을 바라보는 관점(중국은 기존·실무 규제 중심, 미국은 국경 없는 전방위·통제상실 위험 중심)이 다르며, 그럼에도 민간(Track II) 논의가 이어져 왔다고 덧붙인다.
확인 필요
본문 내용이 제공되지 않아 구체적으로 무엇을 얼마나 연기했는지, 연기 사유와 후속 일정이 무엇인지 확인이 필요합니다. 다만 제목 기준으로는 트럼프가 AI 테스트를 포함한 관련 조치의 시행 시점을 미루는 내용으로 보입니다.
대부분의 해석 연구가 모델을 정적인 대상으로 보고 가중치·활성·회로를 분석하는 데 비해, 글은 “대화 자체”가 위험 요인이 될 수 있다고 강조합니다. Adi Simhi가 제시한 관점에 따르면 대화 이력이 모델을 잠재공간에서 점점 더 빠져나오기 어렵게 만들어, 환각 같은 부정적 행동이 지속될수록 교정이 힘들어질 수 있습니다. 따라서 특정 프롬프트 집합만으로 모델 안전성을 평가하는 것은 한계가 있으며, 대화의 궤적(trajectory) 자체가 위험 요소가 된다는 점을 시사합니다.
Anthropic은 12월 한 주 이상 기간 동안 Claude.ai 사용자들을 대상으로 AI 활용 방식, 기대하는 가능성, 우려하는 점을 공유받는 정성 연구를 진행했다. 159개 국가, 70개 언어에서 약 81,000명이 참여했으며, 설문이 담기 어려운 맥락과 세부 경험을 인터뷰로 수집했다고 설명했다. 연구에는 Claude를 프롬프트해 대화형 인터뷰를 수행하는 Anthropic Interviewer를 사용했으며, 결과는 AI가 모두에게 어떤 이익을 줄 수 있는지 파악하는 데 활용하고 정기적으로 확장할 계획이다.
요약: 제공된 페이지 본문은 X.com에서 JavaScript 비활성 상태로 인해 콘텐츠가 로드되지 않는 안내문과 오류 메시지로만 구성되어 있습니다. 따라서 해당 게시물의 실제 내용(발언·주장·날짜 등)을 확인해 사실 요약을 할 수 없습니다.
본문에 표시된 내용이 “Facebook” 한 줄뿐이라 기사 내용(사건·정책·일정 등)을 요약할 수 없습니다.
본문 확인 필요: 제공된 정보(URL·제목·출처)만으로는 임명 방식, AI 시스템 명칭, 역할·권한, 일정 등 핵심 사실을 특정할 수 없어 추가 확인이 필요합니다.
본문을 추출하지 못해 구체 내용 확인이 필요합니다. 다만 제목 기준으로는 트럼프의 지출 법안이 방산 분야 투자·수주 확대를 통해 실리콘밸리의 defence companies에 긍정적 영향을 줄 수 있다는 취지로 보입니다. 기사 내 구체적인 법안 조항, 예산 규모, 수혜 기업/프로젝트는 확인 필요입니다.
WSJ 제목 기준으로, 실리콘밸리 쪽이 중간선거에서 AI 관련 산업을 지지·방어하기 위한 pro-AI PACs를 출범했다는 내용입니다. 다만 제공된 정보에 본문 내용과 발행일이 없어 구체적인 참여 주체, 목표, 자금 규모, 일정 등은 확인이 필요합니다. 또한 기사에서 언급된 ‘defend industry’의 구체적 의미(규제·정책·로비 등)는 본문 확인이 필요합니다.
로이터는 Meta의 AI 챗봇 관련 가이드라인이 실제로는 아동과의 ‘sensual’ 성격 대화를 유발하거나 가능하게 했다는 취지의 특별조사 내용을 다루는 것으로 보입니다. 다만 제공된 정보에 본문 내용과 발행일이 없어 구체적인 사례, 규정 내용, 시점, 결론은 확인이 필요합니다.
본문 요약: AI 기술의 확산과 함께 학습 데이터셋의 편향성이 알고리즘의 편향을 초래할 수 있다는 우려가 제기되었다. 인터넷 상의 다양한 데이터, 특히 쇼핑몰 이미지나 특정 키워드 최적화된 자료들이 포함된 방대한 데이터셋은 현실을 왜곡할 수 있으며, 이는 AI의 의사결정 과정에 편향을 유발한다. 예를 들어, 과거의 채용 알고리즘이나 챗봇 사례에서 보듯이, 데이터의 편향과 사용자 상호작용을 통한 편향은 심각한 사회적 문제를 야기할 수 있다. 이러한 편향 제거는 쉽지 않으며, 궁극적으로 공정하고 정의로운 사회 구현에 대한 근본적인 질문을 던진다.
확인 필요: 본문 내용이 제공되지 않아, 어떤 구체적 AI guardrails(규제·안전장치·협력 범위 등)를 논의했는지와 발언의 맥락은 확인이 필요합니다.
트럼프가 시진핑과의 중국 정상회담(또는 관련 대화)에서 AI guardrails를 논의했다고 전해집니다. 다만 본문 정보가 없어 논의된 세부 내용과 합의 여부는 확인이 필요합니다.
AI가 일자리를 대체하고 부를 소수에 집중시키며, 데이터센터 전력 사용으로 유틸리티 비용이 급증하는 등 경제·사회 격차를 심화할 수 있다는 우려를 제기한다. 이에 따라 AI 규제와 함께 조세제도 개편이 필요하며, 법인세·자본이득·기업의 허점 보완, 그리고 wealth tax(부유세) 도입을 통해 AI로 생긴 이익이 더 넓게 공유되도록 해야 한다고 주장한다. 또한 AI 기업을 직접 과세하되 특히 데이터센터의 에너지 사용에 대한 excise tax로 부담을 설계하고, 그 재원을 보편 의료·교육·일자리 보장·실업보험 강화 등에 활용해야 한다고 강조한다.
Axios는 트럼프에게 AI를 출시하기 전 검증을 하라고 요구하는 내용의 서한(관련 MAGA 동맹 60+ 참여)을 보도했다. 다만 제공된 정보에는 서한의 구체적 요구사항, 검증 방식, 일정 등 본문 세부가 없어 확인이 필요하다.
미네소타 하원은 개인의 이미지를 바탕으로 AI가 가짜 성적 사진·음란물을 생성하는 앱과 웹사이트를 금지하는 법안을 통과시켰다. 법안은 ‘nudification technology’의 접근·다운로드·사용을 원칙적으로 금지하되, 인간 창작자가 출력물을 지시·통제하고 기술·예술적 숙련이 실질적으로 요구되는 경우는 예외로 둔다. 위반 기업에는 최대 50만 달러의 민사상 제재가 가능하며 피해자는 손해배상을 청구할 수 있다. 법안은 하원에서 132-1로 가결됐고, 동반 법안도 주 상원에서 심의 중이다.
WSJ 보도에 따르면, 주요 AI 기업들이 미 국방부와 분류된 작업을 수행하는 내용의 계약(펜타곤 딜)에 합의했다는 내용이 제목에 포함돼 있습니다. 다만 제공된 정보에는 본문 내용이 없어, 어떤 기업들이 참여했는지, 계약 규모·범위·조건, 일정 등 세부사항은 확인이 필요합니다. 또한 기사에서 ‘분류된 작업’이 구체적으로 어떤 분야(예: 연구, 모델 개발, 데이터 처리)인지도 본문 확인이 필요합니다.
확인 필요: 본문 내용(구체적 요구사항·절차·기한·법적 근거)이 제공되지 않아 기사 세부를 특정할 수 없습니다.
WSJ는 EU가 구글에 대해 AI 경쟁사와의 경쟁을 위해 안드로이드를 더 개방하라는 취지의 요구를 했다고 보도한 것으로 보입니다. 다만 본문이 없어 요구 범위(예: API·데이터·배포 방식), 시행 시점, 관련 절차(규제/조사/명령) 등 핵심 사실은 확인 필요입니다.
G7 프레임워크 서명 이후, 온라인 서비스 제공자에 ‘by design’ 연령확인·안전조치 의무화 및 AI 챗봇 위험 대응·플랫폼 간 데이터 공유 개선을 약속
G7 국가(캐나다·프랑스·독일·이탈리아·일본·영국·미국)와 EU가 아동 온라인 보호를 위한 공통 원칙에 합의했다. 합의된 프레임워크에 따르면 온라인 서비스 제공자는 제품 설계 단계에서 안전과 효과적인 age assurance을 내장해야 한다. 또한 AI chatbots로 인한 위험을 다루고, 플랫폼 간 데이터 공유를 개선하기로 했다.
플로리다 법무장관 제임스 우트미어가 제기한 민사 소송으로, 형사기소가 아닌 벌금 및 법원 명령을 요구하며 올트먼 개인 책임도 주장함
플로리다 법무장관 우트미어가 월요일 OpenAI와 CEO 샘 올트먼을 상대로 민사 소송을 제기했다. 소장은 OpenAI가 사용자를 해칠 수 있는 제품을 알면서도 안전보다 이윤을 우선해 폭력 등 피해를 부추겼다고 주장하며 사기적 허위진술·불공정거래·과실·제품책임 위반 등 여러 항목을 열거했다. OpenAI 측은 미성년자 보호 장치와 정책을 갖췄고, 민감한 대화에서 안전을 강화해 정신·정서적 어려움 신호를 완화하며 실제 지원으로 안내한다고 반박했다.
Huawei의 CANN이 DeepSeek V4와 Ascend 칩의 대규모 연동을 계기로 초기 단계를 넘어 개발자들이 직접 문제를 해결하고 코드를 기여하는 성장 단계에 진입했다는 분석이다. CANN의 경쟁력은 모델 이식 효율성, 성능 한계, 상용 환경에서의 신뢰성에 달려 있으며, AIGCode는 Ascend에서 MoE 모델 사전학습 시 65%의 Model Flops Utilization을 달성했다고 보고됐다. Huawei가 지난해 12월 CANN의 핵심 코드를 공개한 뒤 70개 이상의 주요 AI 모델을 출시 시점부터 지원하고, 개발자 커뮤니티 규모가 각각 400만 명을 넘었지만, 지속 가능한 생태계를 위해서는 외부 개발자와 혁신 주체의 자발적인 기여가 필요하다.