AI 안전 연구·정책에서 자주 쓰는 용어를 AI 안전 관점에서 풀어 쓴 용어집입니다. 현재 표제어 171개를 4개 구분, 11개 장으로 묶었습니다. 인쇄용 용어 카드(50선)도 이 온라인판에서 골라 만듭니다.
구성 — 구분과 장
기술이 무엇인지에서 시작해 무엇이 잘못될 수 있는지, 어떻게 확인하고 막는지, 누가 어떤 규칙으로 다스리는지의 순서로 장을 놓았습니다. 용어는 장 하나에만 속하고, 장을 넘는 연결은 카드의 관련 용어로 잇습니다.
| 구분 | 장 | 표제어 |
|---|---|---|
| AI 기술·역량 | 01. 기반 기술·모델 공개 Foundations & Model Release | 14 |
| AI 기술·역량 | 02. 에이전트·프론티어 역량 Agents & Frontier Capabilities | 15 |
| AI 위험·사고 | 03. 위험 개념과 위험관리 Risk Concepts & Management | 16 |
| AI 위험·사고 | 04. 모델 행동 위험 Model Behaviour Risks | 15 |
| AI 위험·사고 | 05. 오용·보안 위협 Misuse & Security Threats | 21 |
| AI 위험·사고 | 06. 정보생태계·사회적 피해 Information & Societal Harms | 19 |
| AI 위험·사고 | 07. 사고·보고 및 모니터링 Incidents & Monitoring | 10 |
| AI 평가·안전 대책 | 08. 평가·시험 Evaluation & Testing | 12 |
| AI 평가·안전 대책 | 09. 정렬·안전장치·감독 Alignment, Safeguards & Oversight | 15 |
| AI 거버넌스·제도 | 10. 원칙·책임 Principles & Accountability | 16 |
| AI 거버넌스·제도 | 11. 법·규제·표준 Law, Regulation & Standards | 18 |
표제어 원칙
- 번역어는 번역 용어 정본(ai-safety-translation-kit)을 따릅니다. 연구소 번역 작업에 쓰는 승인 용어집입니다. 정본에 없는 용어는 편집 판단으로 정하고, 정본에 반영할 후보로 올립니다.
- 띄어쓰기는 정본에 맞춰 통일했습니다(해석 가능성, 허위 정보, 사이버 보안, 오픈 웨이트 모델). 붙여 쓴 표기로 검색해도 찾을 수 있습니다.
- 표제어에 AI를 붙이지 않습니다. '안전', '위험', '사고', '역량'처럼 쓰고, 'AI 안전'·'AI 사고' 같은 표기는 대체어로 함께 적어 검색에 걸리게 했습니다. 다만 'AI 에이전트', 'AI 거버넌스', 'AI 윤리'처럼 AI가 붙은 채 굳은 이름은 그대로 씁니다.
- 다른 표기는 대체어로 함께 적습니다. 이전 판의 표기, 정본의 변형 표기, 현장에서 쓰는 음차어 등입니다.
카드 구성
각 카드는 인쇄용 카드와 같은 순서입니다 — 장 · 표제어/영문 · 구분 · 대체어 · 용어 설명 (굵은 한 줄 정의, 부연, 혼동 용어와의 구별) · 관련 용어 · 주요 기관·문서별 개념 및 적용 · 출처. 펼치기 아래에는 온라인판에만 있는 해설, PDF 원문 인용, 참고 기사, 코퍼스 지표가 있습니다.
용어 설명은 이 용어집을 위해 쓴 글이며 인용문이 아닙니다. 기관·문서별 항목은 원문과 쪽수를 확인한 것만 실었고(현재 118개 표제어), 확인하지 못한 수치나 조문 번호는 쓰지 않았습니다. 인용이 필요한 자리에서는 출처의 원 문헌을 확인해 주세요.
개념 지도와 용어 관계
용어 사이의 관계를 네 가지로 나눠 기록했습니다 — 상위·하위(포함: AI 사고 ⊃ 중대 AI 사고), 이어짐(인과·단계: AI 위험원 → AI 사고), 먼저 알 개념(정의에 다른 개념이 필요한 경우: 기만·오정렬 → 계략적 행동), 혼동 주의(허위 정보 ↔ 오정보). 맨 위 개념 지도는 핵심 용어를 한 장에 펼친 것입니다. 가운데에 AI 위험과 AI 안전을 두고, 장마다 부채꼴 하나를 주었습니다. 왼쪽은 위험·사고(03~07장), 오른쪽은 평가·안전 대책과 거버넌스·제도(08~11장), 위쪽은 그 바탕인 기술과 역량(01·02장)입니다. 색은 장을 뜻하며, 카드 리본·필터·오른쪽 목차에도 같은 색을 씁니다. 가운데에서 뻗는 굵은 가지는 지도의 뼈대일 뿐 관계 데이터가 아닙니다. 카드마다 있는 용어 관계 그림은 그 용어 주변만 보여 줍니다. 관계는 현재 197개입니다.
근거 자료와 다른 사이트
| 자료 | 용어집에서 쓰는 곳 |
|---|---|
| AI 안전 다이제스트 | 매일 모으는 뉴스·정책 동향. 표제어 후보 추출과 참고 기사의 출처입니다 (빌드 시점 5,798건, 2009-04-13 ~ 2026-09-08). 기사마다 원문 링크와 함께 그 기사가 실린 다이제스트 날짜 페이지를 잇습니다. |
| AI 안전 연구 | AI 안전 연구 카탈로그. 용어 표기로 연구 제목(없으면 요약)을 찾아 카드의 관련 연구에 최근 것부터 4건까지 잇습니다 (현재 142개 표제어). 참고 기사 가운데 연구 표시는 다이제스트가 모은 연구 문헌입니다. |
| PDF 근거 색인 | 국제 보고서·법령·가이드라인 PDF를 쪽 단위로 색인한 연구소 내부 자료(PDF Evidence Desk)입니다. PDF 원문 인용과 쪽수가 여기서 옵니다. 현재 문서 7종: AI 핵심용어 단면, EU GPAI CoP 안내서 (KO), IASR 2025, IASR 2026, 기본법 지원데스크 사례집, 안전성 확보 가이드라인, 인공지능기본법. |
| AI 안전 라이브러리 | 법·가이드라인·정책 문서 목록. 용어 표기가 문서명에 들어간 AI 안전 문서를 카드의 관련 정책 문서에 4건까지 잇고 (현재 87개 표제어), PDF 인용 문서가 라이브러리에 있으면 출처 옆에 라이브러리에서 보기를 붙입니다. |
용어마다 고정 주소가 있습니다. 카드 왼쪽 위 번호를 누르면 그 용어의 주소가 됩니다
(예: #incident-reporting). 검색어와 장도 주소로 넘길 수 있습니다
(?q=탈옥, ?ch=07).
표제어 후보를 어떻게 모았나
후보는 두 갈래로 기계적으로 모은 뒤 사람이 골랐습니다. 동향 코퍼스에서는 제목·요약의 한글·영문 n-gram을 긁어 분류 쿼터를 두고 100개를 골랐고, PDF 색인에서는 정의 섹션과 본문 빈도로 100개를 골랐습니다. 영문 표기로 합치면 173개였습니다. 2026년 10월 개편에서 중복을 합치고 AI 안전 관점의 설명이 어려운 일반 용어 16개(개발자, 알고리즘, 암호화, 노동시장, 인공지능산업, 신경망, 딥러닝, 파라미터, 모달리티, 자동화, 최신(최고 수준), 지식재산, 법 집행, 데이터 수집, 디지털 인프라, 독소)를 뺐으며, 장마다 빠진 핵심 개념을 더했습니다.
후보를 고를 때 가장 쓸모 있었던 지표는 병기율입니다. 원문이 표제어(뜻풀이)처럼
괄호로 풀어 쓴 비율로, 필자가 "설명이 필요하다"고 판단한 흔적입니다. 이 지표로 사고 사슬(CoT),
보정, LLM 심판, 작업 시간 지평을 찾았습니다. 반대로 동시출현 그래프의 중심성(degree, 토픽 엔트로피,
PMI 가중 PageRank)은 '문제', '가능성' 같은 일반어만 끌어올렸습니다 — 코퍼스 전체가 이미 AI 안전
문서라서 그래프 중심성이 개념 위계가 아니라 상투적 연결어를 찾아낸 것입니다.
알려진 한계
- 용어 설명은 편집 초안이 섞여 있습니다. 검토를 거친 카드부터 차례로 보강합니다. 오류를 보시면 아래 메일로 알려 주세요.
- 참고 기사에 잡음이 있습니다. 표기로만 찾아서, 광의어(예: 감사)는 다른 맥락의 기사가 걸릴 수 있습니다.
- 고유명사는 표제어에서 뺐습니다(EU AI Act, NIST AI RMF, AISI 등).