NRIセキュア는 AI 에이전트가 외부 도구를 ‘정상 기능’으로 해석하는 구조적 문제로 인해 실제 프로덕트에서 심각한 취약점이 발견되고 있다고 설명했다. GitHub MCP에서는 악의적 Issue의 prompt injection으로 AI가 사용자의 프라이빗 저장소에 접근해 기밀 코드·인증정보를 공격자에게 유출할 수 있고, WhatsApp MCP에서는 Rug Pull·Tool Shadowing·UI 은폐 기법을 조합해 암호화 자체를 깨지 않고도 메시지 이력과 연락처를 탈취할 수 있다고 한다. 또한 ElizaOS에서는 메모리 포이즈닝으로 장기기억에 저장된 악성 지시가 후속 거래 요청에 재사용되어 되돌릴 수 없는 금전 피해(2500만 달러 이상 규모 가능)를 유발할 수 있다고 정리했다.
아프리카연합(AU)은 2024년 ‘Continental AI Strategy’를 통해 표준·연례 회의·전문가 그룹 등을 추진 중이나, 집행 수단은 부족하다고 연구는 지적함
아프리카와 국제 연구자 연합이 arXiv에 제출한 연구는 아프리카가 frontier AI의 충격에 취약해질 수 있다며 자체 AI 안전 의제를 시급히 마련해야 한다고 경고했다. 위험은 악의적 사용(딥페이크 기반 선거 개입, 허위정보, 디지털 감시), 기술적 오작동(서구 데이터 학습으로 인한 편향·의료/금융/교육 실패), 시스템적 혼란(일자리 자동화, 여성·저숙련층의 불균형 피해, AI로 인한 탄소·에너지·물·전자폐기물 증가)으로 나뉜다. 또한 아프리카는 슈퍼컴퓨터·데이터센터 등 인프라가 세계 대비 매우 부족해 외부 기술 의존이 커지고, 이를 ‘computational poverty’와 디지털 식민주의로 설명했다. 연구는 인권 기반 거버넌스, 아프리카 AI Safety Institute 설립, AI 리터러시 캠페인, 실시간 조기경보 체계, AU 차원의 연례 AI Safety and Security Forum 등 5가지 실행안을 제안했다.