AI 안전 다이제스트

2026-04-21 · 14건

인공지능 시대에 부합하는 지식재산 보호의 새 판 짠다! (2026.4.21)

공공 · 지식재산처 · ⚖️

지식재산처는 인공지능 시대의 지식재산 보호 강화를 위해 부정경쟁방지법 제도개선위원회를 발족하고 2026년 4월 21일 첫 회의를 개최했다. 위원회는 디지털 페르소나 무단 활용, 인공지능 모형 무단 증류, 학습자료 무단 추출 등 새로운 침해 유형에 대응하기 위한 법·제도 개선을 논의한다. 또한 부정경쟁행위 규제와 영업비밀 보호가 한 법률에 함께 규정된 현행 체계의 적정성, 산업 현장의 예측 가능성, 법 집행 실효성 제고 방안을 검토할 예정이다.

🇺🇸 Anthropic, 사이버 보안 AI 도구 'Mythos'에 미승인 외부 그룹의 무단 접근 보고 (2026.4.21)

K-AISI 주간동향 · TechCrunch · 🔒🚀

신규 AI 모델을 탐색하는 외부의 미승인 그룹이 타사 공급업체 환경을 우회하여 앤스로픽의 기업 전용 사이버 보안 AI 도구인 'Mythos'에 무단 접근. 해당 도구는 악용될 경우 강력한 해킹 위협이 될 수 있어 애플 등 소수에게만 제한적으로 제공되었으며, 이번 유출 사태로 인해 앤스로픽 측은 조사를 진행.

🇨🇳 중국 국가안전부, AI 모델 학습 데이터를 오염시키는 '데이터 포이즈닝' 위험 경고 (2026.4.21)

K-AISI 주간동향 · Global Times · 🛡️🗳️

중국 국가안전부는 악의적인 데이터를 AI 훈련 과정에 주입해 모델 성능을 저하시키고 왜곡된 정보를 생성하게 만드는 '데이터 포이즈닝'의 안보 위협을 경고. 이 기법이 해외 적대 세력에 의해 여론 조작이나 사회적 신뢰 훼손, 국가 안보 위협 수단으로 악용될 수 있다며, 기업과 소비자의 철저한 검증과 감시를 촉구.

🇬🇧🇺🇸 Palantir CEO, 군사력 강화 지지 선언으로 영국 내 공공 계약 적합성 논란 야기 (2026.4.21)

K-AISI 주간동향 · The Guardian · 📜🛡️

미국 데이터 분석 기업 Palantir의 CEO 알렉스 카프가 AI 무기 개발과 군사력의 우위를 옹호하는 선언문을 발표해 영국 의원들의 거센 비판을 받음. 의원들은 국가의 대규모 감시와 군국주의를 지지하는 팔란티어의 기업 문화가 영국 NHS나 국방부 등 시민의 민감한 데이터를 다루는 정부 프로젝트에 부적합하다고 지적.

🇺🇸 미 플로리다주 법무장관, 대학 총기 난사 사건 관련 OpenAI 대상 형사 수사 착수 (2026.4.21)

K-AISI 주간동향 · CNN · 🚀

미국 플로리다주 James Uthmeier 법무장관은 플로리다 주립대(FSU) 총기 난사 사건의 피의자가 범행 전 ChatGPT의 조언을 받았다는 이유로 OpenAI에 대한 형사 수사를 개시. 피의자가 챗봇으로부터 무기, 범행 시간 및 장소에 대한 정보를 얻은 정황이 포착됨에 따라, 회사의 유해성 신고 정책과 잠재적 범죄 인지 여부, 그리고 형사적 책임 소재를 조사.

🇨🇳🇺🇸 중국 정부, 해외로 나가는 자국 AI 스타트업에 대한 통제 강화 (2026.4.21)

K-AISI 주간동향 · WP · 🏛️

중국 정부는 자국의 유망 AI 스타트업들이 미국 자본과 시장 접근을 위해 본사를 싱가포르 등 해외로 이전하거나 매각하려는 시도를 강도 높게 조사하며 제동. 미국의 수출 통제를 우회하려는 기업들의 '탈중국화'를 막고, 중국의 핵심 AI 기술과 인재가 서방으로 유출되는 것을 차단하기 위한 명확한 경고 조치로 해석.

🇪🇺 디지털 유럽 프로그램 ‘정보 무결성 상황인식’ 공모(2026.4.21)

공공 · EU-Digital-Strategy

유럽 집행위원회는 ‘DIGITAL-2026-BESTUSE-AWARENESS - 정보 무결성 상황인식을 위한 공통 연구 프레임워크’ 제안 공모를 개시했다. 이 공모는 2025년 11월 ‘유럽 민주주의 방패’ 커뮤니케이션의 주요 성과물로, 온라인 정보 환경 보호 필요성을 강조하는 맥락에서 추진된다. 공모는 24~30개월 동안 단 1개 제안에 600만 유로를 지원하며, 지원금의 100%를 전액 지원하고(조건부), 최소 60%는 제3자에 대한 재분배 형태로 집행해야 한다. 신청마감은 2026년 10월 1일이며, 관심 있는 이해관계자를 위한 온라인 정보세션은 2026년 4월 28일에 열린다.

🇪🇺 EU 디지털 프로그램, 보건·온라인 안전 분야 AI 혁신 지원을 위해 6,320만 유로 공모(2026.4.21)

공공 · 유럽연합 집행위원회(EU-Digital-Strategy) · 🧒

공모 마감: 2026.10.1 (1일 정보 제공 행사도 별도 개최) 유럽연합 집행위원회는 디지털 유럽 프로그램(Digital Europe Programme) 공모 7건에 총 6,320만 유로를 지원한다고 밝혔다. 보건 분야에서는 의료기관의 AI 기반 영상 선별(900만 유로), 유럽 보건데이터공간(European Health Data Space) 하의 디지털 보건 서비스·시스템(2,400만 유로) 등을 지원한다. 또한 아동의 디지털 웰빙과 보호를 위한 안전인터넷센터 네트워크의 지역 커버리지(1,200만 유로), 고급 디지털 기술 훈련(1,250만 유로), 규제 준수 부담 완화를 위한 혁신 디지털 솔루션(850만 유로), 온라인 정보 무결성 연구(600만 유로) 및 EDIC 지원 허브(100만 유로)·확산·활용 활동(180만 유로)도 포함된다. 공모는 EU Funding & Tenders 포털에서 신청하며, 마감은 10월 1일이다.

🇺🇸 NanoGPT 기반 AI 연구개발 진전 분석 (2026.4.21)

공공 · METR · 🤖

본 연구는 NanoGPT 속도 경쟁을 통해 AI 에이전트가 AI 연구개발(R&D)을 얼마나 가속화하는지 측정하고 시간 경과에 따른 변화를 이해하려 합니다. 이 연구는 인간과 에이전트의 기여를 비교 분석하며, 특히 다음과 같은 점들을 강조합니다:

- 인간과 에이전트의 기여 분석: NanoGPT 속도 경쟁에서 인간과 에이전트의 기여를 분석한 결과, 초기에는 주로 기존 기술의 적응과 도입이 주를 이루었으나, 시간이 지남에 따라 새로운 아이디어의 발명이 증가했습니다. 그러나 에이전트의 최근 기여는 비교적 얕은 수준에 머물러 있습니다.

- 기여 유형: 기여는 최적화 깊이, 출처 등 다양한 차원에서 분류되었습니다. 깊은 아이디어와 혁신적인 기여가 일부 나타났지만, 대부분은 상대적으로 얕거나 기존 연구의 적응이었습니다.

- 도전점: 증거 해석의 어려움으로는 오염(기존 데이터의 영향), 생존 편향(성공한 아이디어만 보임), 규모 의존성 등이 지적되었습니다.

- 활용 가치: 이러한 공개 추적 챌린지는 인간과 에이전트의 기여 양상을 비교하고, 에이전트의 효율성을 평가하며, 대규모 컴퓨팅 자원에서의 에이전트 성능을 연구하는 데 유용합니다.

METR은 복잡한 작업을 자율적으로 수행할 수 있는 최첨단 AI 시스템을 연구하고 평가하며, AI R&D 분야에서의 자율성과 발전 능력을 측정합니다.

멕시코, AI 법안 추진…위반 유형에 따라 형사처벌 및 징역 가능성(2026.4.21)

언론 · PYMNTS.com · ⚖️🗳️

멕시코가 인공지능을 포괄적으로 규율하는 첫 법적 프레임을 마련하기 위해 상원에서 AI 법안 초안을 추진하고 있다. 초안은 위반을 경미·중대·매우 중대로 나누고, ‘매우 중대’에 해당하는 경우 징역 등 중형이 가능하도록 하는 형사처벌 요소를 포함한다. 특히 불법 목적의 인지·정치·선거·사회적 조작처럼 민주주의 원칙에 반하는 행위를 ‘매우 중대’ 범주로 분류하는 내용이 언급된다.

(2026.4.21) Palantir ‘매니페스토’ 22개 요점을 인간 관점으로 번역해 비판

언론 · 더버지(theverge.com) · 🛡️🦾

더버지는 Palantir CEO 알렉스 카프가 새 책 《The Technological Republic》의 22개 요점을 올린 내용을 소개하며, 이를 “인간이 이해할 수 있는 말”로 재번역해 풍자적으로 해석했다. 글은 AI·소프트웨어를 군사·국가안보에 활용하고, 연방 정부 방위 계약·감시·드론/무기 체계 등으로 이어질 수 있다는 취지의 문장들을 반복적으로 “돈을 벌고 전쟁을 지속하기 위한 논리”로 읽어 비판한다. 또한 ‘징병제(초안) 재도입’, ‘규범/법보다 규칙의 재정의’, ‘공공 인물에 대한 관용’ 같은 표현을 둘러싸고, 인권·윤리·감시 우려를 암시하는 내용이 포함돼 있다.

🇺🇸 AI 주간 동향 339호 — DLSS 5, OpenAI 슈퍼앱, MiniMax M2.7 (2026.4.21)

아카이브 · Last Week in AI · 🚀

DLSS 5는 비디오게임의 사실적인 화면을 높이는 실시간 생성형 AI 필터로 소개됐다. Nvidia는 DLSS 5를 게임을 넘어선 활용으로 확장하려는 목표를 갖고 있으며, OpenAI는 사업·생산성 중심으로 전환할 가능성이 있다고 보도됐다.

(2026.4.21) NGate 악성코드, NFC 결제 앱을 악성코드로 패치해 카드정보·PIN 탈취

DB · ESET 리서치(WeLiveSecurity) · 🔒🎭

ESET 연구진은 NGate 악성코드의 새 변형이 정식 Android 앱 ‘HandyPay’를 악성코드로 패치해 악용한다고 밝혔다. 공격자는 HandyPay의 NFC 데이터 전달 기능을 이용해 피해자의 결제카드 정보를 공격자 기기로 전송하고, 이를 비접촉 결제 및 ATM 현금 인출에 활용하며, 추가로 카드 PIN도 별도 서버로 유출한다. 악성코드 생성 과정에 AI(GenAI)가 관여했을 가능성은 로그에 AI 생성 텍스트에서 흔한 이모지 흔적이 남아 있다는 점에서 제기되며, 공격은 브라질 사용자들을 대상으로 2025년 11월부터 이어지고 있다. 악성 앱은 브라질 복권 사이트를 사칭한 경로와 ‘Proteção Cartão’라는 가짜 Google Play 페이지를 통해 배포되는 것으로 설명된다.