소개 · AI 안전 용어집

AI 안전 용어집이다. 동향 코퍼스에서 뽑은 표제어(집필 정의·참고 기사)와 PDF 리포지토리에서 뽑은 표제어(원문 인용)를 영문 표기로 합쳐 한 목록으로 보여 준다. 현재 병합 173개 (양쪽 27 · 동향만 73 · PDF만 73).

카드 본문의 강조는 다이제스트·라이브러리와 같다. 한줄 정의가 핵심 사실이고, 본문에서 중요한 용어·수치는 밑줄, 꼭 짚을 결론만 굵게다. 다른 표제어를 본문에 자동으로 치지는 않는다.

동향 코퍼스는 AI 안전 다이제스트가 매일 모으는 뉴스·논문·정책문서 5,798건(2009-04-13 ~ 2026-09-08)이다.

두 출처를 어떻게 합쳤나

동향판·PDF판을 각각 기존 파이프라인으로 빌드한다.
영문 표기를 정규화해 조인한다. 같은 개념이면 양쪽 칩.
카드에서 집필 정의와 PDF 원문 인용은 구역을 나눠 병치한다. 대역(quote_ko)은 편집 번역이며 원문 인용이 아니다.
분류(버킷)는 동향판을 우선하고, PDF-only는 가까운 동향 버킷에 매핑한다.

run_build.sh / run_pdf_build.sh
merge_glossary.py   동향 ∪ PDF → data/glossary_merged.json
build_site.py       이 사이트

동향판 — 어떻게 골랐나

MCP 검색만으로 뽑으면 이미 아는 용어를 검색해 확인하는 순환이 된다. 그래서 코퍼스에서 기계적으로 긁어 올린 뒤 사람이 선별하는 순서로 갔다.

extract_candidates.py   제목+요약에서 한글 1~2gram·영문 1~3gram
select_top100.py        표제어 확정 + 지표 자동 결합
gloss_and_hubs.py       병기율·허브 중심성
build_json.py           표제어별 실제 용례 수집

분류 쿼터를 둔다

점수 순으로 그냥 100개를 자르면 보도량이 많은 법제·정치 용어가 과반을 먹고 평가·정렬 기술 용어가 밀린다. 13개 분류에 쿼터를 배분했다.

변이 표기의 빈도를 합산하지 않는다

정렬(260)과 alignment(198)를 더하면 같은 문서를 두 번 센다. 대표 표기 하나의 문서 수만 헤드라인 숫자로 쓴다.

광의어를 대표로 쓰지 않는다

안전성 평가의 근거는 안전성(340)이 아니라 안전성 평가(50)다. 전자를 쓰면 표제어의 근거를 오해하게 된다.

정의문을 어떻게 썼나

표제어마다 번역어(대안적 번역어) 원어 · 한줄 정의 · 설명 두 문단을 같은 틀로 붙였다. 예컨대 파인튜닝(미세조정) fine-tuning처럼, 국문 표기가 둘 이상 통용되는 경우 대안역을 괄호에 넣었다 — 100개 가운데 95개가 여기 해당한다.

설명의 목적은 한줄 정의만으로 이해가 안 되는 사람에게 개념을 풀어 주는 것이다. 사전 항목처럼 깔끔하게 쓰되 친절하게 — 왜 이런 개념이 필요한지, 어떤 구조에서 그런 일이 생기는지, 무엇과 혼동되는지를 구체적인 예와 함께 짚는다. 청소 로봇이 센서를 가리는 쪽을 배우는 이야기(정렬), 존재하지 않는 인용을 형식만 완벽하게 지어내는 이야기(환각)처럼, 개념이 손에 잡히는 장면을 하나씩 붙였다.

두 문단은 역할을 나눈다. 첫 문단은 개념의 속을 풀어 준다 — 왜 이런 일이 생기고 어떤 구조에서 비롯되는지. 둘째 문단은 한 발 더 들어간다 — 인접 개념과의 구별, 실제로 어떤 모습으로 나타나는지, 왜 다루기 어려운지. 뒤쪽에 구별을 두는 이유는 이 분야에서 잘못 읽히는 대부분이 인접 개념의 혼동에서 생기기 때문이다. 해석가능성과 설명가능성, 오용과 남용, 환각과 기만, 프라이버시와 개인정보 보호, 오정보와 허위정보, 그리고 특히 범용 AI 모델(GPAI)과 범용인공지능(AGI)이 그렇다.

조문·표준을 특정할 수 있는 항목에는 근거를 달았다(13개). EU AI법의 인간 감독·금지 관행·고위험·투명성 의무·범용 AI 모델·AI 리터러시·중대 사고 보고 조항, GDPR과 국내 개인정보 보호법의 자동화된 결정 조항, NIST AI RMF와 ISO/IEC 42001, 성폭력처벌법과 아동·청소년성보호법, 그리고 자유권규약 제19조다. 나머지 항목의 정의문은 이 용어집을 위해 쓴 것이며 인용문이 아니다. 확인할 수 없는 수치나 날짜는 쓰지 않고 개념 설명에 머물렀다.

한 문단은 250자 안팎이다. 정의문은 검색 대상에 포함된다. 그래서 표제어에 없는 말로도 찾을 수 있다 — 보상 해킹, 과도 거부, C2PA, LAWS, 머신 언러닝처럼 본문에서만 언급한 개념들이다.

중심성 실험 — 무엇이 작동했나

"최근성만 보지 말고 중심성도 따지자"에서 네 가지를 계산했다. 결과가 갈렸다.

작동하지 않은 것 — 전부 일반어 탐지기였다

지표	최상위에 나온 것
degree (동시출현 이웃 수)	AI, 문제, 가능성, 있으, 에서, 등을
topic_entropy (17개 토픽 분산)	의사결정, 자원, 생태계, 등에, 있고, 통한
pagerank_pmi (PMI 가중 PageRank)	문제의식, 기여, 동기, 점이, 측면, 주로

이유: 코퍼스 전체가 이미 AI 안전 문서다. 그래서 그래프 중심성이 개념 위계가 아니라 국문 논문·기사의 상투적 연결어를 재발견한다. 중심성이 쓸모 있으려면 여러 도메인이 섞인 코퍼스에서 AI 안전 용어가 구별되는 군집을 이뤄야 하는데, 여기서는 그 군집이 곧 전체다.

topic_entropy에 걸었던 가설("여러 영역을 관통하면 기초 개념")도 틀렸다. 코퍼스가 알려주는 건 관통 = 모호함이다.

세 지표는 음의 신호로만 값어치가 있다. degree가 높은데 병기율이 0에 가까우면 일반어이고(위협 0.79/0.03), 둘 다 높으면 핵심 기술어다(정렬 0.74/0.26).

작동한 것 — 병기율

원문이 표제어(뜻풀이) 형태로 쓴 비율. 필자가 "이건 설명이 필요하다"고 이미 판단한 흔적이라, 용어집 적격성의 가장 직접적인 증거다. 이 지표가 누락 표제어 4개를 찾아냈다 — 사고연쇄(CoT), 보정(calibration), LLM 심판(LLM-as-a-Judge), 작업 시간 지평. GPAI·ASR·XAI는 기존 표제어의 원어로 확인돼 영문 표기를 보강했다.

괄호 내용이 실제 뜻풀이인지 검사한다. 첨부파일(hwp)· 모집(~5.30) 같은 서식 괄호는 걸러낸다 — 정교화 전에는 첨부파일이 병기율 0.96으로 1위였다.

알려진 한계

형태소 분석기를 쓰지 않는다. 조사 제거가 휴리스틱이라 오절단이 남는다 (비동의 성적 → 비동 성적, 표제어에서 교정).
광의어 용례에 잡음이 있다. AI 감사는 대표 표기가 감사라서 감사원 맥락까지 걸린다. 용례를 고를 때 구체적 변이를 우선하지만 완전히 걸러지지는 않는다.
정의문은 인용이 아니다. 근거를 표시한 13개 항목을 뺀 나머지는 이 용어집을 위해 작성한 설명이다. 사실관계를 틀리지 않게 쓰는 데 무게를 뒀지만, 권위 있는 출처의 문구를 옮긴 것이 아니므로 인용이 필요한 자리에는 원 문헌을 확인해야 한다.
고유명사는 표제어에서 제외했다 (EU AI Act·NIST AI RMF·K-AISI 등). 별도 부록 대상이다.
코퍼스 요약 품질. 5,798건 중 829건은 요약이 placeholder (요약불가 등)다. 용례에서는 제외한다.

소스

github.com/songkyungho/ai-safety-glossary