AI 안전 연구 by 인공지능안전연구소 송경호

연구 2,088건 · 벤치마크·데이터셋 607 · 한국어 데이터 153 · 주제 13 · 연구기관 1,341 · 매일 갱신

AI 안전 연구 논문과 벤치마크, 그 연구를 소개하는 해설 글을 모아 주제 지도와 위험 분야·언어로 정리한 목록입니다. 같은 연구를 다룬 블로그 해설·보도는 연구 카드 하나로 묶고, 어떤 벤치마크가 어느 언어로 어떻게 옮겨졌는지(원본 → 다른 언어판)를 함께 봅니다.

모으는 곳

  • AI 안전 다이제스트가 매일 모으는 글 가운데 연구 논문과 연구소·기업의 연구 해설.
  • 다이제스트에 잘 들어오지 않는 한국어·다국어 벤치마크 — OpenAlex 논문 검색과 Hugging Face 데이터셋(한국어 태그).
  • 블로그 글 본문에 걸린 arXiv·DOI 링크로 같은 연구의 논문과 해설을 잇습니다.

분류

서로 다른 언어 모델 두 개가 제목·요약(본문을 구할 수 있으면 본문)을 읽고 따로 분류한 뒤 합칩니다. AI 안전과 관련이 충분하다고 본 연구만 싣습니다.

위험 분야는 열한 가지를 지도 색 네 묶음과 일반으로 나눕니다.

자율성·통제 — AI 자율성·에이전트 · 통제 상실·기만안보·재난 — 사이버보안 · 국가안보 · CBRN-E사회·프라이버시 — 사회·도메인 위험 · 합성미디어·프라이버시콘텐츠·신뢰성 — 콘텐츠 위해성 · 신뢰성 (사실) · 신뢰성 (가치)일반 — 일반·횡단

연구 유형: 벤치마크·데이터셋 · 평가 방법론 · 공격·레드팀 · 방어·완화 · 해석가능성 · 모델 평가 보고 · 위험 분석 · 정책·법제 · 사고 사례 · 정렬·학습 · 서베이 · 기타

언어 구축은 벤치마크·데이터셋을 어떤 방식으로 만들었는지입니다.

L0 원문
원본 언어(대개 영어)로 처음 만든 데이터. 다른 언어판의 원본
L1 기계번역
원본을 기계번역만 해서 만든 다른 언어판. 사람 검수 없음
L2 전문 번역
기계번역 또는 사람 번역을 전문가가 검수·수정한 번역판
L3 트랜스크리에이션
원본의 인물·제도·사건 등 문화 특정 소재를 대상 언어권 맥락으로 치환·재구성
L4 현지 특화
번역·치환이 아니라 대상 언어권 고유 이슈·원천(시험, 법령, 뉴스, 전문가)으로 새로 만듦

연구 별자리

별 하나가 연구 하나입니다. 제목·요약을 다국어 임베딩으로 바꾸고, UMAP으로 펼친 자리에서 출발한 t-SNE로 2차원에 놓았습니다. 내용이 비슷한 연구일수록 가깝고, 방향이나 축에는 뜻이 없습니다. 주제는 지도 위에서 나눈 묶음이고 이름은 언어 모델이 붙였습니다.

  • 별의 색은 위험 분야, 크기와 밝기는 그 연구에 묶인 해설·보도 수입니다.
  • 실선은 한 주제 안에서 가까운 연구를 잇는 별자리, 점선은 내용이 가까운 주제끼리의 다리입니다.
  • 새 연구는 매일 가까운 이웃 자리에 끼워 넣고, 새 연구가 많이 쌓이면 지도를 다시 그립니다.

AI 안전 연구 기관 및 연구자

각 연구의 저자와 소속을 OpenAlex에서 받고, 비어 있는 소속은 논문 첫 페이지에서 언어 모델이 읽어 채웁니다. 저자 정보가 없는 기관 블로그 글은 그 기관이 쓴 것으로 셉니다. '주도'는 제1저자 또는 마지막(교신) 저자로 쓴 연구입니다.

  • 성좌의 별 자리는 그 기관(연구자)의 연구들이 연구 별자리에서 놓인 자리의 평균입니다. 한 주제에 몰린 곳은 그 주제 안에, 여러 주제를 하는 곳은 그 사이에 섭니다.
  • 크기는 연구 수, 색은 가장 많이 다룬 위험 분야, 선은 함께 쓴 연구 2건 이상입니다.
  • 논문에 실린 이름·소속만 다루고 연락처는 싣지 않습니다. 소속을 구하지 못한 웹·학술지 글이 있어 기관 수치는 하한입니다.

싣지 않는 것과 한계

  • 초록과 본문은 싣지 않습니다. 한국어 제목·요약은 언어 모델이 쓴 것이니 원문은 링크에서 보세요.
  • 분류·주제 이름·소속은 자동으로 붙였고 틀릴 수 있습니다. 오류는 songkyungho@etri.re.kr로 알려 주세요.

함께 보는 곳