AI 안전 연구 기관 및 연구자

← AI 안전 연구

AI 안전 연구 2,088건을 쓴 연구기관과 연구자 by 인공지능안전연구소 송경호

주제별로 이끄는 기관

숫자는 그 기관이 제1·교신 저자로 이끈 연구 수. 카드 색은 그 주제가 주로 속한 위험 분야(첫 화면 리본과 같은 색).

AI 거버넌스와 위험관리 체계

연구 225건 · 자율성·통제 26%
  1. 1RAND Corporation40
  2. 2Institute for Law & AI13
  3. 3AI Now Institute3
  4. 4Redwood Research3
  5. 5London School of Economics and Political Science2
  6. 6Dalle Molle Institute for Artificial Intelligence Research2
주도 연구자: Fabian Maximilian Johannes Teichmann 2 · Andrea Ferrario 2 · Ariel Evans 2 · Ajay Singh 2 · Geoffrey E. Hinton 1 · Ilias Driouich 1

LLM 안전 방어와 취약성 분석

연구 185건 · 콘텐츠·신뢰성 61%
  1. 1Tsinghua University5
  2. 2Carnegie Mellon University4
  3. 3Stanford University4
  4. 4University of Illinois Urbana-Champaign4
  5. 5Microsoft3
  6. 6KAIST3
주도 연구자: Jianfeng Gao 2 · Tianqing Zhu 2 · Chaochao Lu 2 · Chhavi Yadav 2 · Bo Li 2 · Hyeongsoo Lim 1

다국어·문화 맥락 평가 벤치마크

연구 161건 · 콘텐츠·신뢰성 75%
  1. 1KAIST12
  2. 2Seoul National University6
  3. 3New York University5
  4. 4Yonsei University5
  5. 5Northwestern University in Qatar4
  6. 6Korea University3
주도 연구자: Wajdi Zaghouani 4 · Alice Oh 4 · Roy Ka-Wei Lee 3 · Minwoo Kim 3 · Jiho Jin 3 · Xiaonan Wang 3

추론 모니터링과 정렬 선호 최적화

연구 161건 · 자율성·통제 51%
  1. 1UK AI Security Institute15
  2. 2Redwood Research8
  3. 3Anthropic8
  4. 4Tsinghua University4
  5. 5University of California, Berkeley4
  6. 6Vector Institute3
주도 연구자: Tomek Korbak 4 · Geoffrey Irving 3 · Nathaniel Mitrani Hadida 2 · Arnold Wender 2 · Magda Dubois 2 · Evan Hubinger 2

LLM 레드팀 및 안전성 평가

연구 160건 · 콘텐츠·신뢰성 55%
  1. 1Stanford University6
  2. 2Anthropic6
  3. 3Microsoft5
  4. 4University of Oxford4
  5. 5National University of Singapore4
  6. 6Singapore University of Technology and Design4
주도 연구자: Usman Naseem 3 · Percy Liang 3 · Jared Kaplan A 3 · Aditya Nawal 2 · Mohan Gurusamy 2 · Ali Satvaty 2

프론티어 AI 위험관리와 안전 케이스

연구 155건 · 자율성·통제 51%
  1. 1METR24
  2. 2OpenAI23
  3. 3UK AI Security Institute16
  4. 4Japan AI Safety Institute6
  5. 5Redwood Research5
  6. 6RAND Corporation4
주도 연구자: Alan Chan 2 · Sören Mindermann 2 · Alexandra Souly 2 · Isaak Mengesha 2 · Steph Batalis 1 · Josh Wentzel 1

탈옥 공격·방어·평가

연구 132건 · 콘텐츠·신뢰성 77%
  1. 1National University of Singapore3
  2. 2The University of Sydney3
  3. 3Nanjing University3
  4. 4Wuhan University3
  5. 5Harbin Institute of Technology3
  6. 6Tsinghua University3
주도 연구자: Shiliang Xiao 2 · Benji Peng 2 · Jiacheng Shi 2 · Z. Berkay Celik 2 · Mrinank Sharma 2 · Chuancheng Shi 1

에이전트 AI 통제와 안전

연구 127건 · 자율성·통제 76%
  1. 1Anthropic6
  2. 2METR5
  3. 3UK AI Security Institute5
  4. 4Epoch AI3
  5. 5National University of Singapore3
  6. 6Shanghai Artificial Intelligence Laboratory3
주도 연구자: Dongrui Liu 3 · Maksym Andriushchenko 2 · Hengle Jiang 2 · Ke Tang 2 · Zonghao Ying 2 · Jalendar Reddy Maligireddy 1

에이전트 실세계 역량 평가

연구 123건 · 자율성·통제 58%
  1. 1Anthropic61
  2. 2METR32
  3. 3Epoch AI3
  4. 4Google DeepMind2
  5. 5NIST1
  6. 6UK AI Security Institute1
주도 연구자: Elizabeth A. Barnes 2 · Nicola Franco 1 · Dewi Gould 1 · Julian Stastny 1 · Charvi Rastogi 1 · Lora M. Aroyo 1

다국어 혐오 표현 탐지

연구 117건 · 콘텐츠·신뢰성 96%
  1. 1KAIST5
  2. 2Korea University5
  3. 3Seoul National University5
  4. 4Massachusetts Institute of Technology3
  5. 5Yonsei University3
  6. 6Allen Institute for Artificial Intelligence3
주도 연구자: Sanghoun Song 3 · Association for Computational Linguistics 2026 2 · Himanshu Beniwal 2 · Alice Oh 2 · Thomas Hartvigsen 2 · Hyopil Shin 2

에이전트 능력·안전 벤치마크

연구 114건 · 자율성·통제 52%
  1. 1Anthropic5
  2. 2University of California, Berkeley5
  3. 3OpenAI5
  4. 4Epoch AI4
  5. 5Carnegie Mellon University4
  6. 6University of Oxford3
주도 연구자: Dawn Song 3 · Dan Hendrycks 3 · Yunhao Feng 2 · Arthur Gervais 2 · Cristian Morasso 2 · Douglas Leith 2

LLM 가치 정렬과 문화 다양성

연구 85건 · 콘텐츠·신뢰성 47%
  1. 1Anthropic8
  2. 2Stanford University6
  3. 3UK AI Security Institute4
  4. 4University of Oxford4
  5. 5The University of Texas at Austin3
  6. 6Google DeepMind3
주도 연구자: Jared Moore 3 · Desmond C. Ong 3 · James Zou 2 · Matilde Elene Hansen 1 · Ross Deans Kristensen‐McLachlan 1 · Subigya Kumar Nepal 1

LLM 자기인식·보정·위험지식 통제

연구 77건 · 콘텐츠·신뢰성 26%
  1. 1Anthropic8
  2. 2UK AI Security Institute4
  3. 3University of Oxford3
  4. 4OpenAI2
  5. 5Google DeepMind2
  6. 6Google2
주도 연구자: Martin Hilbert 1 · Liat Lavi 1 · Zichen Xie 1 · Wenxi Wang 1 · Mohammad Zakaria Haider 1 · Mohammad Ashiqur Rahman 1

기관·연구자

구분유형국가이름연구주도 위험 분야벤치한국어많이 다룬 주제주요 연구자·소속최근