이 노트는 2026년 10월 2일 정보세계정치학회에서 이종진 박사(서울대 통일평화연구원)의 「북한 AI 기술 넥서스: 대북제재 하의 비대칭 기술국가」 발표를 토론하면서 생각했던 내용이다. 발언 시간이 부족해 다 하지 못한 이야기를 여기에 정리한다.
필자는 지난 7월 연세대 통일연구원 이슈브리프 「프론티어 없는 위협」에서 북한을 AI의 개발자나 사용자만이 아니라 '수정자'로도 봐야 한다고 썼다. 프론티어 모델을 직접 만들지 못해도 공개 모델을 고쳐 쓰면 그에 준하는 역량을 가질 수 있다는 주장이었다. 그러나 전력과 반도체가 모자란 북한이 그런 모델을 실제로 돌릴 수 있는지는 그 글에서 따져 보지 못했다. 여기서는 그 질문을 공개 사양과 시장 가격으로 따져 본다.
전체 논지
북한이 프론티어급 AI를 쓰는 길은 여럿이다. 미국 기업의 모델과 클라우드는 우회해도 언제든 차단될 수 있고, 중국의 것도 민감한 데이터를 맡기기에는 부담이 있다. 그래서 북한은 공개 모델을 직접 돌리는 자체 운용을 바랄 이유가 있다.
전력과 반도체 부족은 주로 모델을 처음부터 학습시키는 단계의 제약이다. 이미 공개된 모델을 내려받아 돌리는 운용 단계에서 핵심 자원은 메모리다. 성능 상위의 오픈웨이트 모델은 대부분 중국 모델이고, 전문가 혼합 구조라서 메모리는 많이 들지만 계산은 적게 든다.
4비트로 양자화하면 니어-프론티어급 모델 하나에 수백 GB에서 1TB 남짓의 메모리가 필요하다. 구형 GPU를 이어 붙이는 길은 실용성이 낮지만, 데이터센터 서버 한 대나 대용량 메모리를 단 워크스테이션 한두 대면 소규모 운용이 가능하다. 비용은 수만에서 수십만 달러, 전력은 킬로와트 단위로, 북한의 암호화폐 탈취액과 발전량에 비하면 미미하다.
그래서 적어도 소규모 운용에 관한 한, 북한 AI의 한계는 사라졌다기보다 학습에서 운용의 규모로 옮겨 갔다고 보는 편이 맞다. 다만 이 계산은 해커 조직 정도의 규모에 한정되고, 북한이 실제로 이런 장비를 가졌다는 공개 증거는 아직 없다. 그렇더라도 운용 단계의 위험 장비는 메모리를 기준으로 다시 봐야 하고, 한번 반입된 모델은 밖에서 볼 수 없으니 간접 지표를 찾아야 한다.
1. 왜 자체 운용인가
1-1. 미국 프론티어 모델과 클라우드는 쓸 수 있지만 제약이 많다
북한이 프론티어급 AI를 쓰는 가장 쉬운 길은 미국 기업의 폐쇄형 모델이나 클라우드에 접속하는 것이다. 실제로 그런 사례가 여러 차례 보고되었다.
앤트로픽, 오픈AI, 구글은 북한 연계 행위자가 자사 모델로 위장 이력서를 만들고, 코딩 과제를 풀고, 악성코드를 만들려 한 사례를 공개했다.1,2,3
그러나 이 보고서들은 모두 탐지해서 계정을 막은 기록이기도 하다. VPN과 도용한 신원으로 우회하더라도, 서비스 제공자가 사용 내역을 볼 수 있는 한 언제든 차단될 수 있다.
거부 훈련과 계정 차단 같은 방어는 갈수록 촘촘해지고 있다. 들키면 안 되는 작업일수록 이 길은 불안정하다.
1-2. 중국 모델과 클라우드도 길이지만, 자체 운용을 바랄 이유가 있다
중국 기업의 모델이나 클라우드를 쓰는 길도 있다. 미국 기업보다 감시가 느슨할 수 있다는 점에서 북한에게는 더 편한 선택일 수 있다.
다만 남의 서버를 쓰는 한, 무엇을 묻고 무엇을 만들었는지가 그 서버에 남는다. 군사나 감시처럼 민감한 데이터를 다루는 일이라면 우방의 서버라도 맡기기 꺼려질 것이다.
중국 서비스라면 그 서버는 중국 법의 적용을 받는다. 딥시크는 개인정보처리방침에서 서버가 중국에 있다고 밝히고 있고, 2017년 제정된 중국 국가정보법 제7조는 모든 조직과 공민이 국가 정보활동을 지지하고 협조하도록 규정한다.4,5
우리나라가 독자 AI 파운데이션 모델을 키우는 데에도 데이터와 기술을 스스로 관리하려는 고려가 들어 있다.6 북한도 우리 못지않게, 체제의 성격상 어쩌면 그 이상으로 자체 운용을 바랄 것이라고 추측해 볼 수 있다.
1-3. 그래서 이 노트는 자체 운용이 가능한지를 어림해 본다
자체 운용이란 공개된 모델을 내려받아 북한이 통제하는 장비에서 돌리는 것이다. 외부 서버를 거치지 않으니 차단될 일도, 기록이 밖에 남을 일도 없다.
필자가 지난 이슈브리프에서 말한 '수정자' 경로도 결국 이 자체 운용을 전제로 한다.7 남은 질문은 전력과 반도체가 모자란 북한이 그것을 실제로 해낼 수 있느냐다.
이어지는 장에서는 이 질문을 학습과 운용의 차이, 모델의 구조, 그리고 메모리와 장비, 전력, 비용의 순서로 따져 본다.
2. 학습과 운용
2-1. 전력과 반도체 부족은 주로 학습 단계의 제약이다
2024년 북한의 발전전력량은 253억 kWh로 남한의 4.2%다.8 북한 AI의 한계를 말할 때 늘 나오는 숫자다.
그러나 이 제약이 무겁게 걸리는 곳은 모델을 처음부터 학습시키는 단계다. 프론티어 모델을 학습시키려면 대규모 데이터센터와 막대한 전력이 든다.
이미 학습된 모델을 내려받아 질문에 답하게 하는 운용, 즉 추론 단계는 사정이 다르다. 필요한 자원이 학습과는 비교할 수 없을 만큼 작다.
2-2. 운용의 핵심 자원은 메모리다
모델을 돌리려면 가중치 전체를 메모리에 올려 두어야 한다. 그래서 운용에 필요한 자원은 연산 성능보다 메모리 크기가 먼저 정한다.
필요한 메모리는 파라미터 수에 파라미터 한 개를 저장하는 바이트 수를 곱해 어림할 수 있다. 80억 파라미터 모델을 16비트로 올리면 파라미터당 2바이트라 16GB가 든다.
같은 모델을 4비트로 양자화하면 파라미터당 0.5바이트, 약 4GB로 줄어든다. 여기에 대화 맥락을 담는 캐시와 여유분이 10~20% 더 붙고, 긴 문서를 다루면 그보다 더 든다.
정밀도에 따라 달라지는 메모리: 80억 파라미터 모델의 경우
| 정밀도 | 파라미터 한 개 | 80억 파라미터 모델 |
|---|---|---|
| 16비트 | 2바이트 | 약 16GB |
| 8비트 | 1바이트 | 약 8GB |
| 4비트 | 0.5바이트 | 약 4GB |
3. 니어-프론티어 오픈웨이트 모델의 구조
3-1. 성능 상위의 오픈웨이트 모델은 대부분 중국 모델이다
공개 모델은 폐쇄형 프론티어 모델을 빠르게 따라오고 있다. 에포크 AI는 2026년 들어 최고 오픈웨이트 모델이 최고 폐쇄형 모델보다 평균 넉 달 뒤처져 있다고 추정했다.9
영국 AI보안연구소는 사이버 역량의 격차가 2025년의 6~10개월에서 4~7개월로 줄었다고 봤다.10 이 평가에서 가장 앞선 오픈웨이트 모델은 즈푸의 GLM-5.2와 딥시크의 V4-Pro였다.
에포크 AI의 상위 목록도 Kimi K2.6, GLM-5, 큐원 같은 중국 모델이 대부분을 차지한다. 북한이 공개 모델을 고쳐 쓴다면 그 출발점은 중국 모델일 공산이 크다.
3-2. 전문가 혼합 구조라서 메모리는 많이 들고 계산은 적게 든다
이 모델들은 수천억에서 1조 개가 넘는 파라미터를 가진다. 대신 대부분 전문가 혼합(MoE) 구조여서, 토큰 하나를 만들 때 일부만 계산에 참여한다.
GLM-5는 7,440억 개 가운데 약 400억 개, 딥시크 V4-Pro는 1조 6천억 개 가운데 490억 개, Kimi K2.6은 1조 개 가운데 320억 개만 쓴다.11,12,13
성능 상위의 중국 오픈웨이트 모델
| 모델 | 만든 곳 | 전체 파라미터 | 토큰당 활성 파라미터 |
|---|---|---|---|
| 딥시크 V4-Pro | 딥시크 | 1조 6천억 | 490억 |
| Kimi K2.6 | 문샷 | 1조 | 320억 |
| GLM-5 | 즈푸 | 7,440억 | 약 400억 |
| 딥시크 V4-Flash | 딥시크 | 2,840억 | 130억 |
어떤 부분이 쓰일지 미리 알 수 없으니 메모리에는 전부 올려 두어야 한다. 그러나 계산은 활성 파라미터만큼만 하므로, 메모리만 넉넉하면 계산 성능이 낮은 장비로도 쓸 만한 속도가 나온다.
3-3. 양자화로 줄일 수 있는 폭은 생각보다 작다
예전 모델은 16비트로 공개되어, 4비트로 줄이면 메모리가 4분의 1이 되었다. 최근 모델은 처음부터 8비트나 4비트에 가깝게 공개되는 경우가 많다.
딥시크 V4-Flash의 원본 파일은 162GB인데 4비트판도 155GB다. 1비트까지 줄여도 92GB다.14
4비트 아래로 내리면 추론과 코딩 성능이 떨어질 수 있다는 점도 감안해야 한다. 북한이 공개 모델을 쓴다면 사이버 작전에 필요한 바로 그 능력이 깎일 수 있다.
4. 얼마나 필요한가
4-1. 니어-프론티어급 모델을 4비트로 돌리려면 수백 GB에서 1TB가 필요하다
앞의 셈법을 그대로 적용하면 4비트 기준으로 딥시크 V4-Flash는 약 140GB, GLM-5는 약 370GB가 필요하다.
Kimi K2.6은 약 500GB, 딥시크 V4-Pro는 약 800GB다. 여기에 캐시와 여유분을 더하면 조금씩 늘어난다.
16GB 노트북으로 80억 파라미터 모델을 돌리던 감각에 비추면 25배에서 55배다. 적지 않은 규모지만, 데이터센터가 아니라 서버 한두 대에 담을 수 있는 크기다.
4비트로 양자화했을 때 필요한 메모리
4-2. 구형 GPU를 이어 붙이는 길은 실용성이 낮다
국가안보전략연구원 김민정 센터장의 분석을 보면, 북한 연구기관들은 2023~2026년 논문에서 테슬라 P100과 RTX 2070 같은 2016~2018년 출시 GPU를 썼다고 밝혔다.15
P100은 메모리가 16GB, RTX 2070은 8GB다. GLM-5를 4비트로 올리려면 P100으로 30장 안팎, RTX 2070으로는 60장 가까이 필요하다.
이만큼을 여러 서버에 나눠 담으면 장비 사이의 통신이 병목이 된다. 토큰 하나를 만들 때마다 데이터가 수십 장의 카드를 차례로 거쳐야 하기 때문이다.
구형 GPU는 저정밀 연산 지원도 약하고, 최신 서빙 소프트웨어 상당수가 지원을 끊었다. 한 사람이 느리게 쓰는 정도는 가능하더라도, 여러 사용자에게 안정적으로 서비스하기는 어렵다.
4-3. 대신 서버 한 대나 워크스테이션 한두 대로 소규모 운용이 가능하다
구형 GPU의 한계가 곧 운용의 한계는 아니다. 같은 메모리를 담는 더 간단한 장비가 있기 때문이다.
H100 8장을 단 서버 한 대는 메모리가 640GB로, GLM-5를 4비트로 넉넉히 담고 Kimi K2.6도 빠듯하게 담는다. 값은 25만~32만 달러 수준이다.16
512GB 통합메모리를 단 맥 스튜디오 한 대로 6,710억 파라미터의 딥시크 R1 양자화 모델을 초당 17~18토큰으로 돌린 사례도 보고되었다. 이때 소비 전력은 200W가 되지 않았다.17
이 구성은 출시 당시 1만 달러 안팎이었고, 애플이 메모리 수급난으로 512GB 옵션을 판매 목록에서 뺀 뒤로는 중고 시장에서 거래된다.18 데이터센터용 AI 칩이 아닌 일반 컴퓨터라는 점이 눈여겨볼 대목이다.
서버용 CPU에 메모리를 1TB가량 단 서버도 대형 모델의 저비트판을 돌릴 수 있다. 속도는 초당 몇 토큰으로 느리지만, 소수 인력이 코딩이나 분석을 돕는 데는 쓸 만하다.
같은 메모리를 담는 네 가지 길
| 구성 | 메모리 | 대략 비용 | 최대 전력 | 판단 |
|---|---|---|---|---|
| 구형 GPU 수십 장 (P100·RTX 2070) | 장당 16GB·8GB | 장비는 싸지만 서버 여러 대 | 수 kW | 통신 병목과 지원 중단으로 실용성 낮음 |
| H100 8장 서버 | 640GB | 25만~32만 달러 | 약 10kW | GLM-5는 넉넉히, Kimi K2.6은 빠듯하게 |
| 맥 스튜디오 M3 울트라 | 512GB 통합메모리 | 출시 당시 1만 달러 안팎 | 200W 미만 | 딥시크 R1 양자화 모델 구동 사례 |
| CPU 서버 + 메모리 1TB | 1TB | 수만 달러 | 약 1kW | 느리지만 소수 인력에게는 쓸 만함 |
4-4. 전력과 비용은 장벽이 되기 어렵다
H100 8장 서버의 최대 소비 전력은 약 10kW다.19 1년 내내 최대 출력으로 돌려도 약 8만 8천 kWh로, 북한 연간 발전량의 0.0003% 정도다.20
같은 서버 100대를 돌려도 0.035%다. 학습용 데이터센터가 기가와트급 전력을 요구하는 것과 달리, 운용은 킬로와트 단위의 문제다.
실제 걸림돌은 총량보다 공급의 안정성이라는 반론도 있을 수 있다. 그러나 평양의 우선 공급 시설이라면 무정전전원장치나 자체 발전기로 감당할 만한 규모다.
비용도 마찬가지다. 북한 연계 행위자가 2025년 한 해 탈취한 암호화폐는 약 20억 2천만 달러로 추산된다.21 H100 서버 한 대 값은 그 0.015% 정도다.
전력과 비용을 북한의 규모에 견주면
| 항목 | 운용 쪽 값 | 북한 쪽 값 | 비율 |
|---|---|---|---|
| 전력: H100 서버 1대를 1년 내내 | 약 8만 8천 kWh | 연간 발전량 253억 kWh | 약 0.0003% |
| 전력: 같은 서버 100대 | 약 876만 kWh | 연간 발전량 253억 kWh | 약 0.035% |
| 비용: H100 서버 1대 | 약 30만 달러 | 2025년 암호화폐 탈취액 약 20억 2천만 달러 | 약 0.015% |
5. 함의
이 계산이 남기는 세 가지
5-1. 이 계산은 소규모 운용에 한정된다
이 계산은 해커 조직 수십 명 정도가 쓰는 규모를 전제로 한다. 국가 단위의 서비스나 대규모 자동화 공격에는 훨씬 큰 자원이 필요하다.
북한이 실제로 이런 장비를 가졌다는 공개 증거도 아직 없다. 가격은 시장가를 바탕으로 한 어림이고, 메모리 가격이 크게 오르고 있어 시점에 따라 달라진다.
최신 GPU는 더 그렇다. 미국 상무부 산업안보국은 2026년 1월 H200급 칩의 중국 수출 심사를 '거부 추정'에서 '건별 심사'로 바꿨지만, 미국 내 공급 충분성과 제3자 성능 검증 같은 조건을 붙였다.22 블랙웰 계열처럼 그보다 성능이 높은 최신 칩은 이 완화의 대상이 아니다. 중국 정부도 자국 기업에 H200 구매를 자제하라고 지시했다는 보도가 나왔다.23
중국조차 최신 GPU를 마음대로 들여오지 못하는 상황에서, 제재 아래의 북한이 이를 구하기는 훨씬 더 어려울 것이다. 다만 통합메모리 워크스테이션이나 대용량 메모리 서버는 AI 칩 수출통제가 겨냥하는 품목이 아니어서 사정이 다르다(4-3).
그렇더라도 전력과 반도체가 모자라니 북한은 프론티어급 AI를 쓸 수 없다는 통념은 다시 볼 필요가 있다. 소규모 운용에 관한 한, 북한 AI의 한계는 학습에서 운용의 규모로 옮겨 갔다.
5-2. 운용 단계의 위험 장비는 메모리를 기준으로 봐야 한다
운용 단계의 핵심 자원은 연산 성능보다 메모리다. 데이터센터용 GPU뿐 아니라 대용량 통합메모리 워크스테이션이나 대용량 메모리 서버도 같은 위험을 지닌다.
이런 장비는 이미 안보리 결의 2397호의 대북 공급 금지 대상이다.24 문제는 규정보다 집행이고, 감시의 우선순위를 정할 때 이 점을 고려할 필요가 있다.
AI 칩 통제는 주로 데이터센터 GPU를 겨냥해 왔다. 가방에 들어가는 워크스테이션 몇 대가 같은 일을 할 수 있다면, 감시의 범위도 그만큼 넓어져야 한다.
5-3. 한번 반입된 모델은 밖에서 볼 수 없으니 간접 지표가 필요하다
연산량 임계값과 클라우드 고객확인은 큰 학습이나 외부 접속을 잡는 장치다. 내려받은 모델을 오프라인으로 돌리는 경로에는 닿지 않는다.
공개 모델의 안전장치는 GPU 한 대로 수 분에서 30분 안에 걷어낼 수 있다.25 그래서 쉽게 제거되지 않는 안전장치를 만드는 연구가 함께 필요하다.
운용 정황을 밖에서 짐작할 단서도 찾아야 한다. 북한 국내 ICT 학술지 두 종에만 2015~2023년 3,357편의 논문이 실렸고, 가장 많이 다룬 주제는 컴퓨터 비전이었다.26
이 논문들의 참고문헌과 연구방법을 보면 어떤 공개 모델을 가져다 쓰는지 짐작할 수 있다. 작은 범위의 조사부터 시작해 볼 만하다.
6. 결론
북한 AI의 한계를 전력과 반도체로 설명하는 것은 학습에 관해서는 여전히 맞다. 그러나 공개 모델을 내려받아 돌리는 운용에 관해서는 그렇지 않다.
니어-프론티어급 모델을 소규모로 운용하는 데 드는 메모리는 서버 한두 대에 담기고, 비용과 전력은 북한에게 장벽이 되기 어렵다. 통제와 감시는 이 사실에서 출발할 필요가 있다.
