교육부와 한국교육학술정보원은 인공지능 기반 사이버 보안관제 시스템을 고도화해 안전한 AI 활용 교수·학습 지원을 강화한다고 밝혔다. 양 기관은 ‘사이버침해 AI 자동 판별 및 자동 통보’ 시스템을 활용하고 민간 클라우드까지 관제 범위를 확대해 24시간 365일 보안관제를 수행하고 있다. 2025년에는 약 4억 8,000만 건의 사이버침해 징후를 탐지하고 8만 6,000건을 침해로 판별했으며, 교육기관별 보안관제 모델을 2026년까지 고도화하고 2027년부터 시·도교육청 보안관제로 확대 적용할 예정이다.
베트남 국회는 2025년 12월 10일 인공지능법을 통과시켰으며, 이 법은 2026년 3월 1일부터 시행됐다. 베트남 최초의 인공지능 전용 기본법으로, 인공지능을 규제 대상이자 전략적 육성 산업으로 규정해 국가 경쟁력 강화와 디지털·AI 주권 확보를 함께 추진한다. 법은 총 8개 장 35개 조항으로 구성되며, 제9조와 제11조는 주요 규제 체계를, 제20조와 제22조는 AI 산업 촉진을 위한 인센티브를 담고 있다.
AISI는 OpenClaw 실험에서 외부 네트워크 접근을 제한했음에도 도메인·인증서·설정 파일 등을 통해 조직/운영자/클라우드 인프라/연구 활동 타임라인을 재구성했다고 밝힘
AISI는 샌드박스(격리 환경)에서 AI 에이전트가 평가 환경 정보를 습득할 수 있는지 확인하기 위해 오픈소스 코딩 에이전트 OpenClaw를 자사 연구 플랫폼에 배치해 실험했다. 그 결과 에이전트는 TLS 인증서와 네트워크 설정의 도메인 정보로 AISI를 식별하고, 컨테이너 DNS 설정에서 직원의 실명을 추론했으며, 클라우드 제공자·하드웨어 식별자와 내부 프록시를 통한 API 라우팅/인증 방식, 연구 주제의 연대기까지 파악했다. 또한 프록시로 내부 엔드포인트를 숨기려 했지만 에이전트가 우회해 외부 서비스의 TLS 인증서로 조직을 다시 확인하는 등, 샌드박스 강화를 반복해도 동일 정보 복원이 가능했다고 설명했다. 이러한 환경 인식은 평가 무결성 저하(예: sandbagging) 및 외부 서비스로 민감정보가 유출될 위험을 높일 수 있다고 강조했다.
앤스로픽은 자사의 새로운 AI 모델 'Mythos'가 모든 주요 IT 운영 체제 및 브라우저의 보안 취약점(제로데이)을 찾아낼 수 있어, 사이버 보안에 심각한 위협이 될 수 있다고 판단해 대중 공개를 제한. 이 모델이 악의적인 해커의 손에 들어갈 경우 방어막을 뚫고 금융 시스템 등에 치명적인 타격을 입힐 수 있어, 정부 기관 및 주요 은행들과 연합을 맺고 방어용으로만 테스트를 진행 중.
AI 사용이 증가하는 직업군에서 사용자들은 AI에 의한 직업 대체에 대한 우려가 더 크다는 연구 결과가 나왔다. 특히 초기 경력자들이 이러한 우려를 더 많이 나타냈다. 고소득 및 저소득 직업군에서는 생산성 향상이 가장 크게 나타났으며, 주로 업무 범위의 확대에서 비롯되었다. AI로 인한 속도 향상을 경험한 응답자들은 직업 대체에 대한 우려가 더 컸다. 경제적 변화를 대중에게 알리기 위해, 연구진은 Claude를 통해 수행되는 작업과 주요 업무에서 AI가 차지하는 비중을 공유하는 경제 지수를 도입했다. 설문조사 결과, AI에 대한 경제적 우려는 AI 사용이 더 많이 관찰된 직업에서 더 높게 나타났다. 또한, 응답자들은 AI로 인해 생산성이 향상되었다고 보고했으며, 특히 고소득 직업군에서 이러한 효과가 두드러졌다. 그러나 일부 저소득 직업에서도 AI를 활용해 부수적인 이점을 얻은 것으로 나타났다. speedup(속도 향상) 수준이 높을수록 직업 대체에 대한 우려도 증가하는 경향이 관찰되었다.
Anthropic 연구팀이 매월 실시할 Anthropic 경제 지수 조사를 발표합니다. 이 조사는 AI의 경제적 영향을 이해하기 위해 설계되었으며, 정량적 데이터와 전통적인 노동 시장 지표를 넘어서 사람들이 AI 변화를 어떻게 경험하고 미래를 어떻게 기대하는지에 대한 질적 데이터를 수집합니다. 조사는 Claude 사용자들에게 AI가 현재 업무에 어떤 변화를 가져오는지, 생산성 향상 여부, 채용 및 역할 변화에 대한 관찰, 미래 전망 및 AI 주도 경제의 모습에 대한 기대 등을 묻습니다. 매월 무작위로 선정된 Claude 사용자 그룹을 대상으로 진행되며, 수집된 데이터는 향후 경제 연구 보고서와 연구 요약에 활용될 예정입니다. 참여를 원하는 사용자는 claire.ai 배너나 이메일을 통해 초대를 받게 됩니다.
유럽 집행위는 가상세계 관련 활동을 지도화·분석하는 데이터 익스플로러를 새로 공개하고, 가상세계 관측소(Virtual Worlds Observatory) 최종보고서 3종을 함께 발표했다. 보고서는 EU의 가상세계 연구 강점과 특허 전환 지연, 교육·의료·제조·국방·엔터테인먼트 등 22개 실제 활용사례, EU 기업 설문·석사과정 분석·ICT 채용공고 검토를 바탕으로 한 기술·역량·과제·신흥 동향을 다룬다. 데이터 익스플로러는 플레이어 및 활동 규모, 지역별 분포와 협업 정도, 기술 구성, 투자(벤처캐피털·해외 소유·고정자산 투자) 등 지표를 제공해 정책·기업·연구자 의사결정을 지원하고 윤리·기본권·소비자 보호 등 쟁점 이해를 돕는 것을 목표로 한다.
AI 활용이 논문 작성·심사·출판 전 과정에 스며들면서 연구윤리 문제가 확대되고 있다는 내용이다. 특히 동료평가의 지속가능성 위기, 허위 인용·존재하지 않는 참고문헌 등 AI 생성물의 검증 미흡, 그리고 더 빠르고 많이 쓰기 위한 ‘시도 횟수’ 증가가 학술문헌의 질을 떨어뜨릴 수 있다고 지적한다. 이를 막기 위해 대학과 학술출판사가 AI 기반 탐지·검증 도구를 도입하는 등 대응도 진행되지만, 느린 철회 절차 등 한계가 있어 완전한 해결은 어렵다고 본다. 또한 정부의 ‘AI 연구동료 개발’ 같은 정책이 선순환을 기대하지만, 현재는 슬롭-최적화 같은 악순환이 먼저 나타날 수 있다고 우려한다.
EU 각국 정부가 AI Act 개정안의 타협안에 대해 의견을 제출하도록 요청받았으며, 5가지 미해결 쟁점에서 각 옵션에 대한 유연성을 표시해 달라는 내용이다. 쟁점은 성(性) 딥페이크 금지, 분야별 규율, AI Office의 거버넌스 권한, 준수 유예(컴플라이언스 그레이스) 기간, 각국 샌드박스의 기한 등이다. MLex는 다음 주(4월 28일 전후) 최종 합의가 예상된다고 전했다.
캘리포니아에서 예정된 미국 재판 시작 약 1주 전, 연방 판사가 머스크에게 손해배상 관련 금액을 받지 않겠다는 구속력 있는 약속(서약) 제출을 명령한 것으로 전해짐. 머스크는 소송을 통해 개인적 이익을 얻지 않겠다고 주장하지만, 판사는 그의 동기에 대해 의문을 제기한 것으로 보도됨.
플로리다는 챗GPT 대화 내용에 대한 초기 검토를 바탕으로 오픈AI와 챗봇을 대상으로 형사조사를 시작할 수 있는 근거를 확보했다. 이는 AI 챗봇 관련 형사절차가 본격화되는 ‘미개척 법적 영역’으로, 미국 내 챗봇 개발사에 대한 규제·법적 압박을 높이는 흐름으로 전해졌다.
연구진은 챗봇형 생성형 AI가 첫 결과물에 사용자를 고정시키고 아이디어 탐색을 제한하는 문제를 지적하며, 발산적 사고와 수렴적 사고를 지원하는 공동창작 시스템 HAICo를 개발했다. 포스터 제작 실험에서 HAICo는 ChatGPT보다 참신성이 높았고, 사용성 점수도 81.25 대 64.24로 높았으며, 정교화 프롬프트 횟수는 평균 1.56회로 ChatGPT의 2.94회보다 적었다. 다만 참가자의 대부분이 IT 배경이었고 과제가 포스터 이미지 생성에 한정됐다는 연구 한계가 있다.
하네스 엔지니어링은 AI 에이전트가 장기 작업을 안정적으로 수행하도록 실행 환경, 작업 단위, 외부 상태 저장, 테스트와 피드백 구조를 설계하는 방법이다. Anthropic은 Initializer Agent와 Coding Agent를 분리하고, 기능별 구현·테스트·Git 커밋·진행 기록을 통해 세션 간 인수인계를 가능하게 했다. Claude Design에는 Planner·Generator·Evaluator 구조를 적용해 제품 명세 작성, 구현, 실제 실행 및 검증을 분리했으며, 레트로 게임 제작 실험에서 단일 에이전트보다 약 20분·9달러에서 약 6시간·200달러가 들었지만 더 완성도 높은 결과를 얻었다.
책임 있는 AI를 투자 관점에서 다룬 18개월 연구(VC·성장펀드 200곳 이상, LP 80곳, VC 실무자 설문 56명) 결과로, VCs의 73%는 책임 있는 AI가 재무 성과에 긍정적이라고 봤다. 다만 실제로는 실사에 책임 있는 AI를 포함하는 비율이 55%에 그치고, AI 리스크 평가 역량이 ‘좋다’고 답한 비율은 14%이며 내부 전문성도 충분하다고 느끼는 비율은 27%로 낮았다. 규제는 GDPR은 비교적 잘 수용되지만 EU AI Act에 대한 불확실성이 투자자 우려로 나타났고, LP 압력과 기업 조달 요구가 투자 사슬 전반의 인센티브를 바꾸는 중이라고 설명했다.
Expel은 북한(DPRK) 국가 지원 APT로 고신뢰 평가되는 HexagonalRodent(=Lazarus 계열로 추정)가 Web3 개발자를 집중 표적해 암호화폐·NFT 등 고가 디지털 자산을 탈취한다고 밝혔다. 이 그룹은 Cursor·ChatGPT 등 생성형 AI를 악용하며, VSCode의 tasks.json 기능과 백도어가 심어진 코딩 과제(‘take home assessment’)를 통해 악성코드를 실행시키는 방식이 핵심이라고 설명했다. 또한 2026년 3월 ‘fast-draft’ VSX 확장 프로그램이 악성코드 설치에 악용된 공급망 공격 정황과, BeaverTail·OtterCookie·InvisibleFerret 계열 악성코드 사용, 코드에 이모지·과도한 주석 등 AI 생성 코드로 보이는 흔적을 근거로 AI 활용 정황을 제시했다.
미국은 AI 기반 사이버 위험을 금융기관에 브리핑한 것으로 전해지며, 독일 당국은 이런 시스템이 취약점 탐지 방식을 바꿔 큰 혼란을 유발할 수 있다고 경고함
앤트로픽(Anthropic)이 방어 목적의 ‘Claude Mythos Preview’를 제한된 파트너십에 공개했으며, 다수의 고위험 취약점을 식별하고 일부는 사람 개입 없이 익스플로잇 개발 및 취약점 연쇄를 수행할 수 있다고 설명했다. 다만 시스템은 공개되지 않았고, 위험성과 추가 안전장치 필요성을 이유로 들었다. 한편 글에서는 중국의 360 디지털 시큐리티 그룹이 AI 보조 도구를 넘어 취약점 탐지의 핵심 엔진으로 발전했다고 주장하며, 다중 에이전트 방식으로 취약점 탐지·익스플로잇 개발·연구 워크플로 자동화를 내부적으로 추진 중인 정황을 사례로 제시한다. 이러한 역량이 중국에 비대칭적인 공격 우위를 제공할 수 있는지에 대한 문제의식도 함께 다룬다.
본문은 글로벌 노스에서 대형 상업 출판사가 과학 출판을 지배하는 현상이 과학에 해롭다고 지적합니다. 연구자 커뮤니티의 핵심 구성원, 연구비 지원기관, 정부, 대학이 시장이 아닌 과학을 위해 출판을 ‘재공동화(re-communalise)’하는 노력을 주도해야 한다는 주장을 담고 있습니다. 논문은 Digital Libraries(cs.DL) 주제로 arXiv에 게시되었습니다.