🇰🇷 AI 에이전트 시대 금융보안 관련 정책과제 (2026.6.23)
한국금융연구원은 미토스(Mythos) 쇼크 이후 AI 에이전트를 활용한 사이버공격 위험이 커지면서 금융보안 패러다임이 변화하고 있다고 분석했다. 금융보안 강화를 위해 골든타임 확보를 위한 범정부 컨트롤타워 신설, 망분리 완화에 따른 금융보안 격차 해소, 오픈뱅킹과 마이데이터의 연결성을 고려한 동태적 관리체계 마련이 필요하다고 제안했다.
한국금융연구원은 미토스(Mythos) 쇼크 이후 AI 에이전트를 활용한 사이버공격 위험이 커지면서 금융보안 패러다임이 변화하고 있다고 분석했다. 금융보안 강화를 위해 골든타임 확보를 위한 범정부 컨트롤타워 신설, 망분리 완화에 따른 금융보안 격차 해소, 오픈뱅킹과 마이데이터의 연결성을 고려한 동태적 관리체계 마련이 필요하다고 제안했다.
미국 연방 판사는 기업용 인사 소프트웨어 제공업체 Workday의 AI 채용 심사 도구가 장애인 및 특정 집단을 차별했다는 내용의 캘리포니아주 집단 소송을 기각하지 않고 진행하도록 함. 대기업 채용에 널리 쓰이는 AI 심사 소프트웨어의 알고리즘 기반 의사결정 차별을 광범위하게 겨냥한 첫 사례로, 향후 유사 소송의 기준이 될 것으로 전망.
OpenAI는 글로벌 AI 가치 사슬 전반에 걸쳐 신뢰할 수 있는 제3자 평가 및 표준 적합성 검증 지표를 개발하기 위해 리눅스 재단과 함께 '아피아 재단(Appia Foundation)'을 설립. 국제 표준과 프레임워크를 실용적인 평가 기준으로 변환하여, 여러 기관과 국가에서 통용될 수 있는 상호 운용 가능한 기술 언어와 검증 체계를 마련할 계획.
2026.6.23부터 Slack에서 베타 제공(Claude Enterprise·Team), 기존 Slack 앱 ‘Claude in Slack app’ 마이그레이션은 관리자가 30일 내 옵트인
앤트로픽은 팀이 Slack에서 @Claude를 태그해 작업을 위임할 수 있는 기능 ‘Claude Tag’를 소개했다. 관리자가 채널별로 도구·데이터 접근 권한을 설정하면, 해당 채널에서 사용자가 태그한 작업을 Claude가 단계적으로 처리하고 결과를 Slack 스레드로 공유한다. Claude Tag는 한 채널에서 여러 사람이 동일 Claude와 협업하듯 이어갈 수 있고, 대화 내용을 바탕으로 시간에 따라 컨텍스트를 축적하며, 필요한 경우 ambient 동작을 통해 업데이트·진행 상황을 제안할 수 있다. 또한 Claude Tag는 토큰 사용 한도와 @Claude 활동 로그를 관리자가 확인할 수 있도록 했으며, Claude Enterprise·Team 고객을 대상으로 오늘부터 베타로 제공된다.
Mistral AI가 경계 상자, 블록 분류, 인라인 신뢰도 점수를 제공하고 170개 언어를 지원하는 문서 파싱 모델 Mistral OCR 4를 출시했다. 이 모델은 PDF·DOC·PPT·OpenDocument를 처리하며 RAG, 기업 검색, 에이전트 워크플로와 구조화 데이터 파이프라인에 활용할 수 있고, 단일 컨테이너 기반 자체 호스팅도 지원한다. API 요금은 1,000페이지당 4달러이며 Batch API 사용 시 2달러, Document AI 사용 시 5달러이고, OlmOCRBench에서 85.20점과 OmniDocBench에서 93.07점을 기록했다.
유럽연합 집행위원회 AI Office는 AI-BOOST 프로젝트와 함께 Apply AI 전략의 12개 분야(헬스케어·모빌리티·로보틱스·제조·기후·에너지·농식품·국방·전자통신·공공부문 등)에서 혁신적인 AI 솔루션을 개발하는 유럽의 스타트업·스케일업을 대상으로 ‘Apply AI Startup Award’를 신설했다. 선정된 3개 기업은 2026년 11월 17일 Apply AI Summit 주요 무대에서 피칭과 함께 트로피 및 인증서를 받으며, EC의 웹사이트·소셜미디어 등을 통해 홍보되고 최대 2명의 브뤼셀 출장 비용(주최 측 환급 규정에 따름) 지원도 받을 예정이다. 지명은 회원국별 최대 3개 기업을 국가 스타트업 협회가 추천하고, 7월 신청 접수 후 8~9월 사전심사·평가로 Top 10을 추린 뒤 10월 온라인 피칭을 거쳐 Top 3 우승자를 선정한다.
유럽 집행위원회는 EU 전역 도시에서 자율주행을 도입·확산하기 위한 ‘Autonomous Drive Ambition Cities(ADACities)’ 이니셔티브를 출범했다. 브뤼셀에서 열린 ECAVA 첫 국제포럼에서 집행부위원장 Virkkunen이 출범을 발표했으며, 참여 도시는 robo-taxi·카셰어링·자율 셔틀 등 자율 모빌리티 혁신을 실증할 수 있다. 2030년까지 참여 도시는 자율주행 차량 100대 이상 규모의 차량대를 목표로 하며, 자율주행 기술의 도시는 도로 안전·대기질·교통 효율 및 AI 기반 네트워크 최적화에 기여할 것으로 제시됐다. 이 사업은 EU Technological Sovereignty Package 및 국경 간 자동화 차량 실증 테스트베드 조성 관련 공동 의지 선언과 연계되며, 6월 25일 온라인 정보세션과 참여(의향서) 관련 자료를 안내한다.
유럽 집행위는 발트해·지중해에 첫 Regional Cable Hubs 2곳을 만들기 위해 580만 유로를 지원하고, 해저 통신 케이블 수리 역량을 늘리기 위한 4,000만 유로 규모의 공모를 23일 발표했다. 이번 조치는 EU Action Plan on Cable Security 이행의 일환으로, 유럽의 중요 해저 데이터·에너지 케이블의 보안과 회복력을 강화하고 위협을 감시·탐지·대응하는 공동 역량을 높이기 위한 것이다. 유럽집행위는 회원국 간 협력 강화를 통해 새로운 보안 환경에 대응하겠다는 취지라고 밝혔다.
본 글은 AI 시대의 복잡성을 논하며, AI가 뛰어난 능력을 보이면서도 예상치 못한 오류를 범하는 현상을 '울퉁불퉁한 지능(jagged intelligence)'으로 설명한다. 현재의 거대 언어 모델(LLM)들은 특정 분야에서 뛰어난 성과를 보여도 다른 분야에서는 제한적인 능력을 보여주는데, 이는 학습 데이터의 영향과 모델의 확률 기반 작동 방식 때문이라고 분석한다. 예를 들어, GPT-5.5는 복잡한 약물 분석에는 능하지만 시계 읽기나 도형 변 개수 세기와 같은 간단한 시각적 인식 작업에서는 어려움을 겪는다. 이러한 양면성을 이해하기 위해 다양한 담론에 귀 기울이고, AI의 복잡성을 있는 그대로 바라보는 것이 중요하다고 강조한다.
G7은 2026년 6월 17일 채택한 문서들을 바탕으로 AI의 신뢰성·안전성과 지속가능한 성장 등을 강조하며 관련 ‘주요 내용’을 발표했다. 또한 G7은 미성년자를 위한 더 안전한 디지털 환경을 위해 AI의 위험을 관리하고 대책의 필요성을 제시했다. 이와 함께 유럽집행위원회, OECD, 영국 AISI 등도 AI 관련 공모·AI 리터러시 프레임워크 공개·엔지니어링 가이드 공유 등 후속 활동을 알렸다.
G7이 AI 안전·투명성, 디지털 환경에서의 청소년 보호 등 안전한 디지털 공간 조성을 강조한 성명/호소문을 발표했다. 또한 EU의 EUROPA 컨소시엄 선정(다국어 오픈소스 프론티어 AI 모델 구축), EU 집행위의 OECD와 AI Literacy Framework 제시, 영국 AISI의 Engineering Playbook 공개 등 교육·기술·거버넌스 측면의 정책·프로그램이 소개됐다.
국방 예산 협상 과정에서 국방부 전략자원실장 박관규 실장은 AI 경계 시스템의 중요성을 강조하며, 과거 연평도 포격전에서의 실패 사례를 언급한다. 그는 현재 병력 감소로 인한 휴전선 감시의 어려움을 해결하기 위해 고성능 AI 시스템 도입의 필요성을 주장한다. 반면 김 과장은 예산 효율성과 경쟁 입찰을 통한 검증 필요성을 주장한다. 결국 국방부는 성능 중심의 경쟁 입찰을 통해 에반과 태산디펜스의 시스템을 검증하기로 결정한다. 이 과정에서 'K-사리엘'이라는 이름의 AI 시스템이 주목받으며, 실제 성능 테스트를 통해 그 우수성을 입증하려 한다.
Hagens Berman이 Delgado Entertainment Law와 함께 Suno와 Udio의 AI 음악 모델 학습 과정에서 독립 음악가들의 녹음물이 무단 복제됐다고 주장하는 집단소송에 합류했다. 원고들은 두 회사가 YouTube와 Spotify 등의 기술적 조치를 우회해 수천만 개의 녹음물을 복사하고, 이를 원곡과 경쟁하는 AI 생성 음악으로 재가공했다고 주장한다. Udio 사건에서는 법원이 2026년 5월 21일 DMCA 관련 청구를 일부 유지했으며, Suno 사건의 기각 신청에 대해서는 아직 결정이 내려지지 않았다.
NVIDIA는 BioNeMo Agent Toolkit이 에이전트가 구조 예측, 분자 생성, 도킹, 서열 분석·설계, 정렬/탐색, 유전체 분석 등 생체분자 작업을 “호출 가능한 서비스”로 쓰게 한다고 설명했다. BioNeMo Skills와 MCP server wrapper가 각 모델의 목적, 입력 요구사항, 기대 산출물(CIF/SDF/FASTA/SMILES 등), 실패 모드 등을 문서화해 에이전트가 모델을 선택·호출·해석할 수 있게 한다. Codex CLI와 GPT-5.5 fast로 벤치마크한 결과, Skills 적용 시 토큰 효율이 개선되며 작업 완료율이 57.1%에서 100%로 상승하고, 동일 토큰당 통과 단계를 약 2배 늘리는 것으로 보고했다. 또한 hosted NIM과 local NIM 배포를 상황에 맞게 선택해 반복 호출 지연, 보안·데이터 위치 요구 등을 최적화할 수 있다고 안내했다.
Nabla Bio는 2026.6.23에 JAM-2 기반 0-shot 약물 설계 성과를 새 보고서로 소개했다. JAM-2는 5개 peptide-MHC에 대해 약물급 완전 컴퓨테이셔널 다중특이 항체를 설계했으며, picomolar 수준 T-cell 활성화/세포 살상 EC50과 100배 이상 선택성을 언급했다. 또한 KRAS G12(dual-variant) 다중특이 항체를 서열만으로 원자 수준(Å) 합치도로 Cryo-EM과 비교해 설계했다고 주장하고, 내부 wet lab에서 5개 프로그램을 병렬로 약 6주 내 설계·제작·시험했다고 밝혔다.
LSAIR 2026은 대규모(large-scale) AI의 윤리·안전·거버넌스와 관련된 위험을 다루는 제2회 국제 컨퍼런스다. 연구자, 정책결정자, 실무자가 참여해 향후 AI 시스템에서의 재앙적·존재론적 위험, 기술적 정렬(alignment) 방안, 에이전틱 AI의 통제·책임 체계, 정책 제안 등 8개 주제를 중심으로 논의한다. 로만 얌폴스키, 로라 와이딩어, 베르너 슈텡 등 주요 연사가 소개되며, 등록은 KU Leuven 및 Future of Life Institute를 통해 진행된다.
확산(difussion) 모델의 harmful 개념을 unlearning할 때, 함께 나타나는 benign 개념까지 같이 약화되는 문제를 정의하고 측정하는 연구다. 표적 개념을 지우는 과정에서 person 같은 co-occurring 개념이 의도치 않게 억제되는 현상을 CARE(Co-occurring Associated REtained concepts)로 규정하고, 이를 정량화하는 CARE score를 제시한다. 또한 CARE를 명시적으로 보존하면서 표적 개념만 erasure하는 ReCARE(Robust erasure for CARE) 프레임워크를 제안하며, target concepts(Nudity, Van Gogh style, Tench object) 전반에서 robust concept erasure·overall utility·CARE preservation 간 균형을 종합적으로 state-of-the-art 수준으로 달성했다고 보고한다.
LLM 평가에서 여러 후보 prompt를 순위 매겨 상위 prompt를 선택하는 방식이, 평가 조건이 조금만 달라져도 같은 결정을 내린다는 가정을 얼마나 만족하는지 분석한다. 무작위 seed 변화와 제한된 평가 subset 같은 변동 요인 하에서 3개 open-weight LLM과 2개 벤치마크 과제를 대상으로 prompt 랭킹의 안정성을 측정하고, 상위 prompt 교체가 잦은지를 확인한다. 전체 rank correlation은 중간~높은 수준인 경우가 많지만 top-performing prompt의 신원은 자주 바뀌어 선택 결정이 불안정해지는 경향이 관찰되며, lower confidence bound 기반 stability-aware selection 전략은 unstable settings에서 더 견고해지면서 stable regime에서도 경쟁력 있는 성능을 보인다.
비전-언어 모델(VLM)의 견고성·안전성 평가를 위해 대규모 사전 생성 multimodal adversarial attack 데이터셋을 제안한다. 데이터셋은 최근 문헌의 state-of-the-art attack 전략으로 생성된 47,524개 샘플로 구성되며, 10개 고수준 범주와 55개 하위 범주의 harmful intent를 포함하도록 설계됐다. 또한 기존 벤치마크들을 통합·확장해 총 7,826 intents 커버리지를 제공하고, 범위 확장을 위한 추가 범주도 도입해 평가 자원을 넓힌다.
Retrieval-Augmented Generation(RAG)을 쓰는 AI security agents가 외부 보안 지식을 행동으로 옮기는 과정에서 knowledge poisoning이 어떻게 오작동으로 연결되는지 설명한다. 공개형 보안 지식 소스에 Poisoned Playbooks 형태의 단일 crafted poisoned write-up을 주입하고, 11개 CTF, 3개 frontier LLM 계열, 2개 세대, 11개 real-world CVE에서 RAG 기반 행동 변화를 측정한다. poison adoption은 무작위가 아니라 체계적으로 나타났으며, 이를 위해 에이전트가 검색된 주장에 반박할 수 있는 증거의 종류를 기준으로 하는 Verification Boundary(VB) 3단 분류를 제안한다. verification prompting과 multi-source retrieval은 더 강한 evidence가 있을 때는 도움이 되지만, sparse-evidence 및 zero-day 조건에서는 효과가 약해졌다.
이 연구는 agentic offensive-security 도구들의 보안이 실제 공격자 관점에서 어떻게 취약한지 분석해, 시스템 설계 단계의 위험 경로를 드러낸다. 문제 정의와 함께 LLM 조작에서 시작해 lateral movement, persistence, guardrail bypass, sandbox escape로 이어지는 전체 cyber kill chain을 제안하고, 가장 널리 쓰이는 agentic 시스템들에 대해 그 경로를 따라 취약 지점을 점검하는 방식으로 분석한다. 결과로는 이들 도구 다수가 공통된 설계 결함을 공유해 sandboxed container 안에서도 API key exfiltration, 지속적 foothold 확보, operator machine의 완전한 compromise가 가능함을 보인다고 한다. 또한 해당 분석을 바탕으로 공격 경로를 건축(architectural) 수준에서 완화하기 위한 견고한 아키텍처와 설계 원칙을 제시한다.
로컬로 쓰이는 작은 LLM이 법률 관련 프롬프트에서 과도한 refusal을 보이는지와, 문맥을 어떻게 제시하느냐가 그 편향을 어떻게 키우는지를 분석한다. 여러 온디바이스용 소형 LLM에 대해 법률/형사 법맥락 프롬프트에 authority-style prefix(예: “you are acting as an assistant of the national supreme court”, “[...] defense lawyer”)를 넣고 refusal 변화를 no-prefix 기준과 비교하는 방식으로 평가했다. authority-style prefix는 no-prefix baseline 대비 refusal rate를 2–20x 증가시켰고, 역할-놀이 jailbreak로 알려진 prefix는 모델마다 효과가 달라 어떤 모델에서는 refusal을 크게 올리지만 다른 모델에서는 거의 변화가 없었다; 여기서 refusal은 요청을 거절하는 출력, unclear는 판정이 어려운 비결정 응답을 뜻한다. 마지막으로 refusal 안정성이 낮아, authority-style 프리픽스 조건에서 전반적으로 더 높은 refusal이 관측되었다.
AdversaBench는 LLM의 실패를 자동으로 만들어 검증까지 수행하는 red-teaming 평가 파이프라인을 제시해, adversarial evaluation의 재현성과 신뢰성을 높이려는 연구다. 5개의 structured prompt mutation operator로 45개 seed를 reasoning, instruction-following, tool use 3개 범주로 변형하고, 대상 모델을 질의한 뒤 3명의 judge 패널과 meta-judge tiebreaker로 confirmed failure를 판정했다. 모든 seed에서 confirmed failure가 생성됐고, inject_distractor는 instruction-following에서 mean reward 0.00인 반면 reasoning과 tool-use에서는 0.80-0.83으로 높았다. 또한 instruction-following seeds는 평균 2.4번 attacker iteration이 필요해 다른 범주(1.1)보다 높았고, Llama 3.1 8B에 대해 만든 adversarial prompt가 Llama 3.3 70B로 zero-shot transfer 시에도 실패를 유발했다(confirmed failure 발생).
모델의 사회적 편향 평가에서 측정 결과가 서로 충돌하는 이유를 벤치마크 구조(단독 평가 vs 비교 강제 선택) 차이로 정리한다는 연구다. 다양한 벤치마크를 단일하고 통제 가능한 프레임워크로 표준화해, 단독 인구집단 평가와 forced-choice 비교 설정을 체계적으로 대비하고 Chain-of-Thought(CoT), neutral fallback 옵션, 무작위 응답 주장 같은 구조적 요인의 교란을 분리한다. 여러 모델 패밀리에 대한 평가에서 “단독 평가는 prejudice activation을 제한”하는 반면 “비교 설정은 잠재적 discrimination을 공격적으로 촉진”하며, 이 패러다임 격차는 underspecified contexts에서 주로 나타난다. 또한 CoT는 비교 설정에서 사회적 편향을 악화시키고, neutral fallback 옵션 제공 및 무작위로 답한다고 주장하는 경우에도 결정론적 prejudice가 지속되며, 이 비교 편향 현상은 모델 크기가 커질수록 양(+)의 상관으로 스케일링한다.
이 연구는 LLM 내부에서 jailbreak가 어떻게 표현되는지, 특히 층별 불확실성(entropy)이 토큰 위치에 따라 어떻게 변하는지로 탐지 가능함을 보인다. 고정된(frozen) LLM에 대해 logit lens로 토큰 예측 predictive entropy의 층/토큰 위치별 trajectory를 분석하고, prompt-level entropy의 단순 통계(평균·분산)와 entropy의 시간적/위치적 진화 특징(예: monotonic rank-based trend score)을 비교한다. 결과로 단순 평균·분산 같은 aggregate 통계는 식별 신호가 거의 없었지만, entropy가 토큰 위치에 따라 “어떻게 변하는지”를 담는 trend 계열 특징이 jailbreak/비-jailbreak 구분에 더 유의미했다. 또한 신호는 모델 깊이 전 구간에 균일하지 않고 중간(intermediate) 층에 집중되며 final layer에서 약화되었고, 추가 학습 없이 Llama·Qwen·Gemma 및 adversarial benchmarks 전반에서 아키텍처 일관적인 분리가 관찰되었다.