주제별로 이끄는 기관
숫자는 그 기관이 제1·교신 저자로 이끈 연구 수. 카드 색은 그 주제가 주로 속한 위험 분야(첫 화면 리본과 같은 색).
AI 거버넌스와 위험관리 체계
연구 225건 · 자율성·통제 26%
- 1RAND Corporation40
- 2Institute for Law & AI13
- 3AI Now Institute3
- 4Redwood Research3
- 5London School of Economics and Political Science2
- 6Dalle Molle Institute for Artificial Intelligence Research2
주도 연구자: Fabian Maximilian Johannes Teichmann 2 · Andrea Ferrario 2 · Ariel Evans 2 · Ajay Singh 2 · Geoffrey E. Hinton 1 · Ilias Driouich 1
LLM 안전 방어와 취약성 분석
연구 185건 · 콘텐츠·신뢰성 61%
- 1Tsinghua University5
- 2Carnegie Mellon University4
- 3Stanford University4
- 4University of Illinois Urbana-Champaign4
- 5Microsoft3
- 6KAIST3
주도 연구자: Jianfeng Gao 2 · Tianqing Zhu 2 · Chaochao Lu 2 · Chhavi Yadav 2 · Bo Li 2 · Hyeongsoo Lim 1
다국어·문화 맥락 평가 벤치마크
연구 161건 · 콘텐츠·신뢰성 75%
- 1KAIST12
- 2Seoul National University6
- 3New York University5
- 4Yonsei University5
- 5Northwestern University in Qatar4
- 6Korea University3
주도 연구자: Wajdi Zaghouani 4 · Alice Oh 4 · Roy Ka-Wei Lee 3 · Minwoo Kim 3 · Jiho Jin 3 · Xiaonan Wang 3
추론 모니터링과 정렬 선호 최적화
연구 161건 · 자율성·통제 51%
- 1UK AI Security Institute15
- 2Redwood Research8
- 3Anthropic8
- 4Tsinghua University4
- 5University of California, Berkeley4
- 6Vector Institute3
주도 연구자: Tomek Korbak 4 · Geoffrey Irving 3 · Nathaniel Mitrani Hadida 2 · Arnold Wender 2 · Magda Dubois 2 · Evan Hubinger 2
LLM 레드팀 및 안전성 평가
연구 160건 · 콘텐츠·신뢰성 55%
- 1Stanford University6
- 2Anthropic6
- 3Microsoft5
- 4University of Oxford4
- 5National University of Singapore4
- 6Singapore University of Technology and Design4
주도 연구자: Usman Naseem 3 · Percy Liang 3 · Jared Kaplan A 3 · Aditya Nawal 2 · Mohan Gurusamy 2 · Ali Satvaty 2
프론티어 AI 위험관리와 안전 케이스
연구 155건 · 자율성·통제 51%
- 1METR24
- 2OpenAI23
- 3UK AI Security Institute16
- 4Japan AI Safety Institute6
- 5Redwood Research5
- 6RAND Corporation4
주도 연구자: Alan Chan 2 · Sören Mindermann 2 · Alexandra Souly 2 · Isaak Mengesha 2 · Steph Batalis 1 · Josh Wentzel 1
탈옥 공격·방어·평가
연구 132건 · 콘텐츠·신뢰성 77%
- 1National University of Singapore3
- 2The University of Sydney3
- 3Nanjing University3
- 4Wuhan University3
- 5Harbin Institute of Technology3
- 6Tsinghua University3
주도 연구자: Shiliang Xiao 2 · Benji Peng 2 · Jiacheng Shi 2 · Z. Berkay Celik 2 · Mrinank Sharma 2 · Chuancheng Shi 1
에이전트 AI 통제와 안전
연구 127건 · 자율성·통제 76%
- 1Anthropic6
- 2METR5
- 3UK AI Security Institute5
- 4Epoch AI3
- 5National University of Singapore3
- 6Shanghai Artificial Intelligence Laboratory3
주도 연구자: Dongrui Liu 3 · Maksym Andriushchenko 2 · Hengle Jiang 2 · Ke Tang 2 · Zonghao Ying 2 · Jalendar Reddy Maligireddy 1
에이전트 실세계 역량 평가
연구 123건 · 자율성·통제 58%
- 1Anthropic61
- 2METR32
- 3Epoch AI3
- 4Google DeepMind2
- 5NIST1
- 6UK AI Security Institute1
주도 연구자: Elizabeth A. Barnes 2 · Nicola Franco 1 · Dewi Gould 1 · Julian Stastny 1 · Charvi Rastogi 1 · Lora M. Aroyo 1
다국어 혐오 표현 탐지
연구 117건 · 콘텐츠·신뢰성 96%
- 1KAIST5
- 2Korea University5
- 3Seoul National University5
- 4Massachusetts Institute of Technology3
- 5Yonsei University3
- 6Allen Institute for Artificial Intelligence3
주도 연구자: Sanghoun Song 3 · Association for Computational Linguistics 2026 2 · Himanshu Beniwal 2 · Alice Oh 2 · Thomas Hartvigsen 2 · Hyopil Shin 2
에이전트 능력·안전 벤치마크
연구 114건 · 자율성·통제 52%
- 1Anthropic5
- 2University of California, Berkeley5
- 3OpenAI5
- 4Epoch AI4
- 5Carnegie Mellon University4
- 6University of Oxford3
주도 연구자: Dawn Song 3 · Dan Hendrycks 3 · Yunhao Feng 2 · Arthur Gervais 2 · Cristian Morasso 2 · Douglas Leith 2
LLM 가치 정렬과 문화 다양성
연구 85건 · 콘텐츠·신뢰성 47%
- 1Anthropic8
- 2Stanford University6
- 3UK AI Security Institute4
- 4University of Oxford4
- 5The University of Texas at Austin3
- 6Google DeepMind3
주도 연구자: Jared Moore 3 · Desmond C. Ong 3 · James Zou 2 · Matilde Elene Hansen 1 · Ross Deans Kristensen‐McLachlan 1 · Subigya Kumar Nepal 1
LLM 자기인식·보정·위험지식 통제
연구 77건 · 콘텐츠·신뢰성 26%
- 1Anthropic8
- 2UK AI Security Institute4
- 3University of Oxford3
- 4OpenAI2
- 5Google DeepMind2
- 6Google2
주도 연구자: Martin Hilbert 1 · Liat Lavi 1 · Zichen Xie 1 · Wenxi Wang 1 · Mohammad Zakaria Haider 1 · Mohammad Ashiqur Rahman 1
기관·연구자
| 구분 | 유형 | 국가 | 이름 | 연구 | 주도 | 위험 분야 | 벤치 | 한국어 | 많이 다룬 주제 | 주요 연구자·소속 | 최근 |
|---|