AI 안전 연구 논문과 벤치마크, 그 연구를 소개하는 해설 글을 모아 주제 지도와 위험 분야·언어로 정리한 목록입니다. 같은 연구를 다룬 블로그 해설·보도는 연구 카드 하나로 묶고, 어떤 벤치마크가 어느 언어로 어떻게 옮겨졌는지(원본 → 다른 언어판)를 함께 봅니다.
모으는 곳
- AI 안전 다이제스트가 매일 모으는 글 가운데 연구 논문과 연구소·기업의 연구 해설.
- 다이제스트에 잘 들어오지 않는 한국어·다국어 벤치마크 — OpenAlex 논문 검색과 Hugging Face 데이터셋(한국어 태그).
- 블로그 글 본문에 걸린 arXiv·DOI 링크로 같은 연구의 논문과 해설을 잇습니다.
분류
서로 다른 언어 모델 두 개가 제목·요약(본문을 구할 수 있으면 본문)을 읽고 따로 분류한 뒤 합칩니다. AI 안전과 관련이 충분하다고 본 연구만 싣습니다.
위험 분야는 열한 가지를 지도 색 네 묶음과 일반으로 나눕니다.
자율성·통제 — AI 자율성·에이전트 · 통제 상실·기만안보·재난 — 사이버보안 · 국가안보 · CBRN-E사회·프라이버시 — 사회·도메인 위험 · 합성미디어·프라이버시콘텐츠·신뢰성 — 콘텐츠 위해성 · 신뢰성 (사실) · 신뢰성 (가치)일반 — 일반·횡단
연구 유형: 벤치마크·데이터셋 · 평가 방법론 · 공격·레드팀 · 방어·완화 · 해석가능성 · 모델 평가 보고 · 위험 분석 · 정책·법제 · 사고 사례 · 정렬·학습 · 서베이 · 기타
언어 구축은 벤치마크·데이터셋을 어떤 방식으로 만들었는지입니다.
- L0 원문
- 원본 언어(대개 영어)로 처음 만든 데이터. 다른 언어판의 원본
- L1 기계번역
- 원본을 기계번역만 해서 만든 다른 언어판. 사람 검수 없음
- L2 전문 번역
- 기계번역 또는 사람 번역을 전문가가 검수·수정한 번역판
- L3 트랜스크리에이션
- 원본의 인물·제도·사건 등 문화 특정 소재를 대상 언어권 맥락으로 치환·재구성
- L4 현지 특화
- 번역·치환이 아니라 대상 언어권 고유 이슈·원천(시험, 법령, 뉴스, 전문가)으로 새로 만듦
연구 별자리
별 하나가 연구 하나입니다. 제목·요약을 다국어 임베딩으로 바꾸고, UMAP으로 펼친 자리에서 출발한 t-SNE로 2차원에 놓았습니다. 내용이 비슷한 연구일수록 가깝고, 방향이나 축에는 뜻이 없습니다. 주제는 지도 위에서 나눈 묶음이고 이름은 언어 모델이 붙였습니다.
- 별의 색은 위험 분야, 크기와 밝기는 그 연구에 묶인 해설·보도 수입니다.
- 실선은 한 주제 안에서 가까운 연구를 잇는 별자리, 점선은 내용이 가까운 주제끼리의 다리입니다.
- 새 연구는 매일 가까운 이웃 자리에 끼워 넣고, 새 연구가 많이 쌓이면 지도를 다시 그립니다.
AI 안전 연구 기관 및 연구자
각 연구의 저자와 소속을 OpenAlex에서 받고, 비어 있는 소속은 논문 첫 페이지에서 언어 모델이 읽어 채웁니다. 저자 정보가 없는 기관 블로그 글은 그 기관이 쓴 것으로 셉니다. '주도'는 제1저자 또는 마지막(교신) 저자로 쓴 연구입니다.
- 성좌의 별 자리는 그 기관(연구자)의 연구들이 연구 별자리에서 놓인 자리의 평균입니다. 한 주제에 몰린 곳은 그 주제 안에, 여러 주제를 하는 곳은 그 사이에 섭니다.
- 크기는 연구 수, 색은 가장 많이 다룬 위험 분야, 선은 함께 쓴 연구 2건 이상입니다.
- 논문에 실린 이름·소속만 다루고 연락처는 싣지 않습니다. 소속을 구하지 못한 웹·학술지 글이 있어 기관 수치는 하한입니다.
싣지 않는 것과 한계
- 초록과 본문은 싣지 않습니다. 한국어 제목·요약은 언어 모델이 쓴 것이니 원문은 링크에서 보세요.
- 분류·주제 이름·소속은 자동으로 붙였고 틀릴 수 있습니다. 오류는 songkyungho@etri.re.kr로 알려 주세요.
함께 보는 곳
- AI 안전 다이제스트 — 매일의 AI 안전 뉴스·동향
- AI 안전 라이브러리 — 법·정책·표준 문서
- AI 안전 용어집 — 용어와 정의
- AI 안전 알림판 — 행사·학회·교육·채용·펀딩과 국내 공고