🇺🇸 작은 샘플 수가 대형 언어 모델(LLM)을 오염시킬 수 있음 (2025.10.9)
연구에 따르면, 단지 250개의 악성 문서만으로도 대형 언어 모델(LLM)에 "백도어" 취약점을 생성할 수 있으며, 모델 크기나 학습 데이터의 양에 상관없이 동일한 결과가 나타난다고 합니다. 이는 기존의 가정, 즉 공격자가 훈련 데이터의 일정 비율을 통제해야 한다는 가정을 뒤집는 결과입니다. 연구는 Anthropic, UK AI Security Institute, 그리고 Alan Turing Institute의 공동 연구로 이루어졌으며, 데이터 오염 공격이 실제적으로 더 실현 가능할 수 있음을 보여주고, 이를 방어하기 위한 추가 연구를 장려하고자 합니다. 핵심은 모델 크기와 상관없이 일정 수의 악성 문서만으로도 오염이 가능하다는 점입니다.