๐Ÿ”“ ์˜คํ”ˆ์†Œ์Šคยท์˜คํ”ˆ์›จ์ดํŠธ

์ฃผ์ œ๋ณ„ ๋ชจ์•„๋ณด๊ธฐ ยท 2025๋…„ 19๊ฑด
2025๋…„ 12์›” (2๊ฑด)

2025-12-05 (1๊ฑด)

๊ณต๊ณต AI ์ธํ”„๋ผ๋ฅผ ํ†ตํ•ด AI ๊ฐœ๋ฐœ์˜ ๊ณต๊ณต์„ฑยท์ฑ…๋ฌด์„ฑยท์ ‘๊ทผ์„ฑ์„ ๋†’์ด์ž๋Š” ์ •์ฑ… ๋น„์ „(2025.12.5)

๊ณต๊ณต ยท OECD-AI ยท ๐Ÿ“œ๐Ÿ”“

๊ณต๊ณต AI๋Š” ๊ฐœ๋ฐฉยท๊ฐ์‚ฌ ๊ฐ€๋Šฅยทํˆฌ๋ช…ํ•œ ๊ตฌ์„ฑ์š”์†Œ์— ๋Œ€ํ•œ ์ ‘๊ทผ(๊ณต๊ณต ์†์„ฑ), ๊ณต๊ณต ๋ชฉ์  ๊ธฐ๋Šฅ(๊ณต๊ณต ๊ธฐ๋Šฅ), ๋ฏผ์ฃผ์  ํ†ต์ œ์™€ ์ง‘๋‹จ ์˜์‚ฌ๊ฒฐ์ •ยท์ฑ…๋ฌด์„ฑ(๊ณต๊ณต ํ†ต์ œ)์„ ๊ฒฐํ•ฉํ•œ ๋””์ง€ํ„ธ ๊ณต๊ณต์ธํ”„๋ผ ๊ฐœ๋…์œผ๋กœ ์„ค๋ช…๋œ๋‹ค. ์ด๋ฅผ ์œ„ํ•ด ๊ณต๊ณต ์ปดํ“จํŠธ(์˜ˆ: NAIRR, ์œ ๋Ÿฝ AI Factories ๋“ฑ), ์˜คํ”ˆ์†Œ์Šค/์˜คํ”ˆ์›จ์ดํŠธ ๋ชจ๋ธ, ๊ณต๊ณต ์œ ํ‹ธ๋ฆฌํ‹ฐ ํ˜•ํƒœ์˜ AI ์„œ๋น„์Šค ๋“ฑ ๋‹ค์–‘ํ•œ ์ด๋‹ˆ์…”ํ‹ฐ๋ธŒ์™€ ๋ฐ์ดํ„ฐยท๋ชจ๋ธ ๊ฑฐ๋ฒ„๋„Œ์Šค๊นŒ์ง€ ํฌํ•จํ•œ ์ •์ฑ… ํ”„๋ ˆ์ž„์ด ํ•„์š”ํ•˜๋‹ค๊ณ  ์ œ์‹œํ•œ๋‹ค. ๋˜ํ•œ โ€˜์™„์ „ํ•œ ๊ณต๊ณตํ™”โ€™๊ฐ€ ์•„๋‹ˆ๋ผ AI ์Šคํƒ ์ „๋ฐ˜์—์„œ ์˜์กด์„ฑ์„ ์ค„์ด๊ณ  ๊ณต๊ณต๊ฐ€์น˜๋ฅผ ๋Š˜๋ฆฌ๋Š” โ€˜๊ณต๊ณต์„ฑ์˜ ๋‹จ๊ณ„(gradient)โ€™ ์ ‘๊ทผ๊ณผ, ์ปดํ“จํŠธยท๋ฐ์ดํ„ฐยท๋ชจ๋ธ๋กœ ๋‚˜๋ˆˆ 3๊ฐ€์ง€ ๊ฒฝ๋กœ๋ฅผ ์ œ์•ˆํ•œ๋‹ค.

2025-12-02 (1๊ฑด)

Mistral Large 3 (Mistral AI) (2025.12.2)

๊ธฐ์—… ยท DemandSphere ยท ๐Ÿ”“

General ยท Open ยท 262K ctx ยท $0.5/M ยท $1.5/M

๋ฒค์น˜๋งˆํฌ ๋ฏธ๊ณต๊ฐœ

MoE - 41B active / 675B total. 262K context, multimodal, 40+ languages. #2 open model on LMArena at launch. Apache 2.0.

2025๋…„ 10์›” (3๊ฑด)

2025-10-26 (1๊ฑด)

๐Ÿ‡ฌ๐Ÿ‡ง ์˜คํ”ˆ ๊ฐ€์ค‘์น˜ AI ๋ชจ๋ธ์˜ ์œ„ํ—˜๊ด€๋ฆฌ์—์„œ 16๊ฐ€์ง€ ํ•ต์‹ฌ ๊ธฐ์ˆ  ๊ณผ์ œ๋ฅผ ์ œ์‹œ(2025.10.26)

๊ณต๊ณต ยท AISI-UK ยท ๐Ÿ”ฌ๐Ÿ”“

์˜คํ”ˆ ๊ฐ€์ค‘์น˜(์˜คํ”ˆ ์›จ์ดํŠธ) AI ๋ชจ๋ธ์€ ์—ฐ๊ตฌยทํ…Œ์ŠคํŠธ๋ฅผ ๋” ๊ฐœ๋ฐฉ์ ์œผ๋กœ ์ˆ˜ํ–‰ํ•  ์ˆ˜ ์žˆ๋Š” ์žฅ์ ์ด ์žˆ์ง€๋งŒ, ๊ฐ€์ค‘์น˜๊ฐ€ ์ž„์˜๋กœ ์ˆ˜์ •๋˜๊ณ  ๊ฐ๋… ์—†์ด ์‚ฌ์šฉ๋  ์ˆ˜ ์žˆ์œผ๋ฉฐ ํ™•์‚ฐ์ด ๋˜๋Œ๋ฆฌ๊ธฐ ์–ด๋ ต๋‹ค๋Š” ์ ์—์„œ ์œ„ํ—˜๊ด€๋ฆฌ์˜ ๋„์ „ ๊ณผ์ œ๊ฐ€ ๋‹ค๋ฅด๋‹ค๊ณ  ์„ค๋ช…ํ•œ๋‹ค. ๋…ผ๋ฌธ์€ ํ•™์Šต ๋ฐ์ดํ„ฐยทํ•™์Šต ์•Œ๊ณ ๋ฆฌ์ฆ˜ยทํ‰๊ฐ€ยท๋ฐฐํฌยท์ƒํƒœ๊ณ„ ๋ชจ๋‹ˆํ„ฐ๋ง ์ „๋ฐ˜์— ๊ฑธ์ณ ์˜คํ”ˆ ์›จ์ดํŠธ ์•ˆ์ „์„ ์œ„ํ•œ 16๊ฐ€์ง€ ๊ธฐ์ˆ ์  ๊ณผ์ œ๋ฅผ ์ œ์‹œํ•˜๊ณ , ๊ฐ€์ค‘์น˜ ๊ณต๊ฐœ๋ฟ ์•„๋‹ˆ๋ผ ์—ฐ๊ตฌยท๋ฐฉ๋ฒ•ยทํ‰๊ฐ€์˜ ๊ฐœ๋ฐฉ์„ฑ์ด ์—„๋ฐ€ํ•œ ์œ„ํ—˜๊ด€๋ฆฌ ๊ณผํ•™์„ ๋งŒ๋“œ๋Š” ๋ฐ ์ค‘์š”ํ•˜๋‹ค๊ณ  ๊ฒฐ๋ก ๋‚ธ๋‹ค.

2025-10-25 (1๊ฑด)

MedGemma, ํ—ฌ์Šค์ผ€์–ด AI ๊ฐœ๋ฐœ์„ ์œ„ํ•œ ๊ฐ€์žฅ ๋›ฐ์–ด๋‚œ ์˜คํ”ˆ ๋ชจ๋ธ ๊ณต๊ฐœ (2025.10.25)

๊ธฐ์—… ยท ๊ตฌ๊ธ€ ๋”ฅ๋งˆ์ธ๋“œ ยท ๐Ÿฅ๐Ÿ”“๐Ÿš€

๊ตฌ๊ธ€ ๋”ฅ๋งˆ์ธ๋“œ๋Š” ์˜๋ฃŒ AI ๊ฐœ๋ฐœ์„ ์œ„ํ•œ ์ƒ์„ฑํ˜• ๋ชจ๋ธ MedGemma 27B Multimodal๊ณผ ๊ฒฝ๋Ÿ‰ ์ด๋ฏธ์ง€ยทํ…์ŠคํŠธ ์ธ์ฝ”๋” MedSigLIP์„ ๊ณต๊ฐœํ–ˆ๋‹ค. MedGemma๋Š” ์˜๋ฃŒ ํ…์ŠคํŠธ์™€ ์ด๋ฏธ์ง€๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ๋ณด๊ณ ์„œ ์ƒ์„ฑยท์งˆ์˜์‘๋‹ต ๋“ฑ์— ํ™œ์šฉํ•  ์ˆ˜ ์žˆ์œผ๋ฉฐ, MedSigLIP์€ ์˜๋ฃŒ ์ด๋ฏธ์ง€ ๋ถ„๋ฅ˜์™€ ๊ฒ€์ƒ‰์— ์ ํ•ฉํ•˜๊ณ  ๋‹จ์ผ GPU์—์„œ ์‹คํ–‰ํ•  ์ˆ˜ ์žˆ๋‹ค. MedGemma 4B๋Š” MedQA์—์„œ 64.4%, 27B ํ…์ŠคํŠธ ๋ชจ๋ธ์€ 87.7%๋ฅผ ๊ธฐ๋กํ–ˆ์œผ๋ฉฐ, ํ‰๋ถ€ X์„  ๋ณด๊ณ ์„œ์˜ 81%๊ฐ€ ์›๋ž˜ ์˜์ƒ์˜ํ•™๊ณผ ๋ณด๊ณ ์„œ์™€ ์œ ์‚ฌํ•œ ํ™˜์ž ๊ด€๋ฆฌ๋กœ ์ด์–ด์งˆ ์ˆ˜ ์žˆ๋‹ค๋Š” ํ‰๊ฐ€๋ฅผ ๋ฐ›์•˜๋‹ค. ๋‘ ๋ชจ๋ธ์€ ์—ฐ๊ตฌ์™€ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๊ฐœ๋ฐœ์˜ ์ถœ๋ฐœ์ ์œผ๋กœ ์ œ๊ณต๋˜๋ฉฐ, ์‹ค์ œ ์ž„์ƒ ์ง„๋‹จยท์น˜๋ฃŒ์— ์‚ฌ์šฉํ•˜๊ธฐ ์ „ ๊ฒ€์ฆ๊ณผ ๋…๋ฆฝ์ ์ธ ํ™•์ธ์ด ํ•„์š”ํ•˜๋‹ค.

2025-10-06 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ ์˜คํ”ˆ์†Œ์Šค AI ์•ˆ์ „์„ฑ ์—ฐ๊ตฌ ๊ฐ€์†ํ™” ๋„๊ตฌ Petri ์†Œ๊ฐœ (2025.10.6)

๊ธฐ์—… ยท Anthropic-Research ยท ๐Ÿ”“

Anthropic์€ ์ƒˆ๋กœ์šด ์˜คํ”ˆ์†Œ์Šค ๋„๊ตฌ Petri๋ฅผ ๋ฐœํ‘œํ•˜์—ฌ ์—ฐ๊ตฌ์ž๋“ค์ด AI ๋ชจ๋ธ์˜ ํ–‰๋™ ๊ฐ€์„ค์„ ์‰ฝ๊ฒŒ ํƒ์ƒ‰ํ•  ์ˆ˜ ์žˆ๋„๋ก ์ง€์›ํ•œ๋‹ค. Petri๋Š” ์ž๋™ํ™”๋œ ์—์ด์ „ํŠธ๋ฅผ ์‚ฌ์šฉํ•ด ์‹œ๋ฎฌ๋ ˆ์ด์…˜๋œ ์‚ฌ์šฉ์ž์™€ ๋„๊ตฌ๋ฅผ ํฌํ•จํ•œ ๋‹ค์–‘ํ•œ ๋Œ€ํ™”๋ฅผ ํ†ตํ•ด ๋Œ€์ƒ AI ์‹œ์Šคํ…œ์„ ํ…Œ์ŠคํŠธํ•˜๊ณ , ๊ทธ ๊ฒฐ๊ณผ๋ฅผ ์ ์ˆ˜ํ™” ๋ฐ ์š”์•ฝํ•œ๋‹ค. ์ด๋ฅผ ํ†ตํ•ด ์—ฐ๊ตฌ์ž๋“ค์€ ๋ณต์žกํ•œ ๋ชจ๋ธ ํ–‰๋™์„ ๋น ๋ฅด๊ฒŒ ์ดํ•ดํ•˜๊ณ  ์—ฌ๋Ÿฌ ๊ฐ€์„ค์„ ๋‹จ์‹œ๊ฐ„์— ํ…Œ์ŠคํŠธํ•  ์ˆ˜ ์žˆ๋‹ค. ํŠนํžˆ AI์˜ ๋Šฅ๋ ฅ์ด ์ฆ๊ฐ€ํ•˜๊ณ  ์ ์šฉ ๋ฒ”์œ„๊ฐ€ ํ™•๋Œ€๋จ์— ๋”ฐ๋ผ ์ธ๊ฐ„์ด ๋ชจ๋“  ๊ฐ€๋Šฅํ•œ ํ–‰๋™์„ ์ˆ˜๋™์œผ๋กœ ๊ฒ€ํ† ํ•˜๊ธฐ ์–ด๋ ค์›Œ์ง€๋Š” ์ƒํ™ฉ์—์„œ, Petri๋Š” ์ž๋™ํ™”๋œ ๊ฐ์‚ฌ ๊ธฐ๋Šฅ์„ ํ†ตํ•ด ์ด๋Ÿฌํ•œ ๋ฌธ์ œ๋ฅผ ํ•ด๊ฒฐํ•˜๋Š” ๋ฐ ๋„์›€์„ ์ค€๋‹ค. ์ด ๋„๊ตฌ๋Š” ๋‹ค์–‘ํ•œ ์‹œ๋‚˜๋ฆฌ์˜ค์— ๋Œ€ํ•œ ์‹œ๋“œ ์ง€์‹œ์‚ฌํ•ญ์„ ์ œ๊ณตํ•˜๋ฉด, ์ž๋™์œผ๋กœ ํ™˜๊ฒฝ์„ ๊ตฌ์ถ•ํ•˜๊ณ  ๋ชจ๋ธ๊ณผ ๋Œ€ํ™”๋ฅผ ์ง„ํ–‰ํ•œ ํ›„ ์•ˆ์ „ ๊ด€๋ จ ์—ฌ๋Ÿฌ ์ฐจ์›์—์„œ ์ ์ˆ˜๋ฅผ ๋งค๊ฒจ ์—ฐ๊ตฌ์ž๋“ค์ด ๊ฐ€์žฅ ์šฐ๋ ค์Šค๋Ÿฌ์šด ๋Œ€ํ™”๋ฅผ ๋น ๋ฅด๊ฒŒ ๊ฒ€ํ† ํ•  ์ˆ˜ ์žˆ๊ฒŒ ํ•œ๋‹ค. ์ดˆ๊ธฐ ํ‰๊ฐ€ ๊ฒฐ๊ณผ, Sonnet 4.5 ๋ชจ๋ธ์ด ์ „๋ฐ˜์ ์ธ "misaligned behavior" ์ ์ˆ˜์—์„œ ๊ฐ€์žฅ ๋‚ฎ์€ ์œ„ํ—˜์„ ๋ณด์˜€๋‹ค. Petri๋Š” ์˜คํ”ˆ์†Œ์Šค ํ”„๋ ˆ์ž„์›Œํฌ๋กœ ๋‹ค์–‘ํ•œ ๋ชจ๋ธ API๋ฅผ ์ง€์›ํ•˜๋ฉฐ, ์ƒ˜ํ”Œ ์‹œ๋“œ ์ง€์‹œ์‚ฌํ•ญ์„ ํฌํ•จํ•˜์—ฌ ์ฆ‰์‹œ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋„๋ก ์„ค๊ณ„๋˜์—ˆ๋‹ค.

2025๋…„ 9์›” (1๊ฑด)

2025-09-02 (1๊ฑด)

๐Ÿ‡ช๐Ÿ‡บ Apertus, ์•„ํ‚คํ…์ฒ˜ยทํ•™์Šต๋ฐ์ดํ„ฐ๊นŒ์ง€ ๊ณต๊ฐœํ•œ ๋‹ค๊ตญ์–ด ์˜คํ”ˆ LLM(2025.09.02)

K-AISI ์ฃผ๊ฐ„๋™ํ–ฅ ยท CSCS(์Šค์œ„์Šค ๊ตญ๋ฆฝ ์Šˆํผ์ปดํ“จํŒ… ์„ผํ„ฐ) ยท ๐Ÿ”“

EPFLยทETH ZurichยทCSCS๊ฐ€ ๊ณต๋™ ๊ฐœ๋ฐœํ•œ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด๋ชจ๋ธ LLM โ€˜Apertusโ€™๊ฐ€ ๊ณต๊ฐœ๋์œผ๋ฉฐ, ์•„ํ‚คํ…์ฒ˜ยท๋ชจ๋ธ ๊ฐ€์ค‘์น˜ยทํ•™์Šต ๋ฐ์ดํ„ฐ ๋ฐ ํ•™์Šต ๋ ˆ์‹œํ”ผ ์ „ ๊ณผ์ •์„ ํˆฌ๋ช…ํ•˜๊ฒŒ ๊ณต๊ฐœํ•˜๊ณ  ๋ฌธ์„œํ™”ํ–ˆ๋‹ค๊ณ  ๋ฐํ˜”๋‹ค. 8B์™€ 70B ๋‘ ํฌ๊ธฐ๋กœ ์ œ๊ณต๋˜๋ฉฐ, 1,000๊ฐœ ์ด์ƒ ์–ธ์–ด์— ๋Œ€ํ•ด 15์กฐ ํ† ํฐ ๊ทœ๋ชจ๋กœ ํ•™์Šตํ–ˆ๊ณ  ๋น„์˜์–ด ๋ฐ์ดํ„ฐ ๋น„์ค‘์ด 40%๋ผ๊ณ  ์„ค๋ช…ํ–ˆ๋‹ค. ํ•™์Šต ์žฌํ˜„์„ฑ ํ™•๋ณด๋ฅผ ์œ„ํ•ด ๋ฌธ์„œยท์†Œ์Šค์ฝ”๋“œยท์ค‘๊ฐ„ ์ฒดํฌํฌ์ธํŠธ๋ฅผ ํฌํ•จํ•œ ์ž๋ฃŒ๋ฅผ ๊ณต๊ฐœํ•˜๊ณ , ์Šค์œ„์Šค ๊ฐœ์ธ์ •๋ณด๋ณดํ˜ธยท์ €์ž‘๊ถŒ ๋ฐ EU AI Act์˜ ํˆฌ๋ช…์„ฑ ์˜๋ฌด๋ฅผ ๊ณ ๋ คํ•ด ๊ณต๊ฐœ ๋ฐ์ดํ„ฐ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•™์Šตํ•˜๋ฉฐ opt-out ์š”์ฒญ ๋ฐ ๊ฐœ์ธ๋ฐ์ดํ„ฐ ๋“ฑ์„ ์‚ฌ์ „ ํ•„ํ„ฐ๋งํ–ˆ๋‹ค๊ณ  ๋ง๋ถ™์˜€๋‹ค. Swiss {ai} Weeks ํ•ด์ปคํ†ค์—์„œ ๊ฐœ๋ฐœ์ž๋“ค์ด ์ง์ ‘ ๋ชจ๋ธ์„ ์‹œํ—˜ํ•˜๊ณ  ํ”ผ๋“œ๋ฐฑ์„ ์ œ๊ณตํ•  ์ˆ˜ ์žˆ๋„๋ก Swisscom ์ธํ„ฐํŽ˜์ด์Šค์™€ ์ ‘๊ทผ ๊ฒฝ๋กœ๋„ ์•ˆ๋‚ดํ–ˆ๋‹ค.

2025๋…„ 8์›” (6๊ฑด)

2025-08-29 (1๊ฑด)

๐Ÿ‡ฌ๐Ÿ‡ง (๊ธฐ์‚ฌ 2025.8.29) ์ ์  ๋” ๊ฐ•๋ ฅํ•ด์ง€๋Š” ์˜คํ”ˆ ์›จ์ดํŠธ AI์˜ ์œ„ํ—˜๊ด€๋ฆฌ ๋ฐฉ๋ฒ•๊ณผ ๋‚จ์€ ๊ณผ์ œ

K-AISI ์ฃผ๊ฐ„๋™ํ–ฅ ยท ์˜๊ตญ AI Security Institute(AISI-UK) ยท ๐Ÿงช๐Ÿ”“

์˜คํ”ˆ ์›จ์ดํŠธ(open-weight) AI๋Š” ํŒŒ๋ผ๋ฏธํ„ฐ๊ฐ€ ๊ณต๊ฐœ๋ผ ํˆฌ๋ช…์„ฑ๊ณผ red teaming์„ ๋†’์ด์ง€๋งŒ, ์œ ํ•ดํ•œ ๋Šฅ๋ ฅ์ด ๋น ๋ฅด๊ณ  ๋˜๋Œ๋ฆฌ๊ธฐ ์–ด๋ ต๊ฒŒ ํ™•์‚ฐ๋  ์ˆ˜ ์žˆ๊ณ  ์•ˆ์ „์žฅ์น˜๊ฐ€ ์ €๋น„์šฉ์œผ๋กœ ์ œ๊ฑฐ๋  ์œ„ํ—˜๋„ ์žˆ๋‹ค๊ณ  ์„ค๋ช…ํ•œ๋‹ค. AISI๋Š” ๋ชจ๋ธ ๊ธฐ๋ฐ˜(ํ•™์Šต๋ฐ์ดํ„ฐ curation, tamper-resistant fine-tuning, provenance ๋“ฑ), ์Šค์บํด๋”ฉ ๊ธฐ๋ฐ˜(์™ธ๋ถ€ ์•ˆ์ „์žฅ์น˜, ๋ฐ์ดํ„ฐ provenance, ๋ชจ๋‹ˆํ„ฐ๋งยท๊ฐœ์ž… ๋„๊ตฌ), ์ ˆ์ฐจ ๊ธฐ๋ฐ˜(ํ’€ ์•ก์„ธ์Šค audits, ๋ฌธ์„œํ™”ยทํˆฌ๋ช…์„ฑ, ๋‹จ๊ณ„์  ๋ฐฐํฌ, KYC, ๋ฐฐํฌ ์ค‘๋‹จยท๋Œ€์ฒด ๋“ฑ)์œผ๋กœ ์œ„ํ—˜์„ ์ค„์ด๋Š” โ€˜ํˆดํ‚ทโ€™์„ ์ •๋ฆฌํ–ˆ๋‹ค. ํŠนํžˆ ํ•™์Šต ์ „ ์œ ํ•ด ๋ฐ์ดํ„ฐ ์ œ๊ฑฐ๊ฐ€ adversarial fine-tuning ์ €ํ•ญ์— 10๋ฐฐ ์ด์ƒ ํšจ๊ณผ์ ์ผ ์ˆ˜ ์žˆ๋‹ค๋Š” ์—ฐ๊ตฌ ๊ฒฐ๊ณผ์™€, ํ˜„์žฌ fine-tuning ๊ธฐ๋ฐ˜ ๋ฐฉ์–ด๋Š” ์†Œ์ˆ˜ ์˜ˆ์‹œ๋กœ๋„ ์‰ฝ๊ฒŒ ๋ฌด๋ ฅํ™”๋  ์ˆ˜ ์žˆ์–ด tamper-resistant fine-tuning์ด ํ•ต์‹ฌ ๊ณผ์ œ๋ผ๊ณ  ๊ฐ•์กฐํ•œ๋‹ค.

2025-08-24 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ ์—˜๋ก  ๋จธ์Šคํฌ, xAI โ€˜Grok 2.5โ€™ ๋ชจ๋ธ ๊ฐ€์ค‘์น˜ ์˜คํ”ˆ์†Œ์Šค ๊ณต๊ฐœ(2025.8.24)

K-AISI ์ฃผ๊ฐ„๋™ํ–ฅ ยท ํ…Œํฌํฌ๋Ÿฐ์น˜(TechCrunch) ยท ๐Ÿ”“๐Ÿš€

xAI๊ฐ€ ์ž์‚ฌ AI ๋ชจ๋ธ Grok 2.5์˜ ๋ชจ๋ธ ๊ฐ€์ค‘์น˜(weights)๋ฅผ ์˜คํ”ˆ์†Œ์Šค ํ”Œ๋žซํผ ํ—ˆ๊น…ํŽ˜์ด์Šค(Hugging Face)์— ๊ณต๊ฐœํ–ˆ๋‹ค๊ณ  ๋จธ์Šคํฌ๊ฐ€ ๋ฐํ˜”๋‹ค. ๋จธ์Šคํฌ๋Š” Grok 3๋„ ์•ฝ 6๊ฐœ์›” ๋‚ด ์˜คํ”ˆ์†Œ์Šค๋กœ ๊ณต๊ฐœํ•  ์˜ˆ์ •์ด๋ผ๊ณ  ๋ง๋ถ™์˜€์œผ๋ฉฐ, AI ์—”์ง€๋‹ˆ์–ด ํŒ€ ์ผˆ๋กœ๊ทธ๋Š” Grok ๋ผ์ด์„ ์Šค๊ฐ€ โ€œ์ผ๋ถ€ ๋ฐ˜๊ฒฝ์Ÿ์  ์กฐ๊ฑด์ด ํฌํ•จ๋œ ์ปค์Šคํ…€โ€์ด๋ผ๊ณ  ํ‰๊ฐ€ํ–ˆ๋‹ค. ํ•œํŽธ Grok๋Š” X์—์„œ ๋…ผ๋ž€์ด ์žˆ์—ˆ๊ณ , xAI๋Š” ์‹œ์Šคํ…œ ํ”„๋กฌํ”„ํŠธ๋ฅผ GitHub์— ๊ณต๊ฐœํ•œ ๋ฐ” ์žˆ๋‹ค.

2025-08-21 (1๊ฑด)

AI ๊ฐœ๋ฐฉ์„ฑ: ์ •์ฑ…์ž…์•ˆ์ž๋ฅผ ์œ„ํ•œ ์ž…๋ฌธ์„œ (2025.8.21)

๊ณต๊ณต ยท ๊ฒฝ์ œํ˜‘๋ ฅ๊ฐœ๋ฐœ๊ธฐ๊ตฌ(OECD) ยท ๐Ÿ”“

์ด ๋ณด๊ณ ์„œ๋Š” ์ธ๊ณต์ง€๋Šฅ์˜ ๊ฐœ๋ฐฉ์„ฑ ๊ฐœ๋…๊ณผ ๊ด€๋ จ ์šฉ์–ด, ๊ฐœ๋ฐฉ์„ฑ์˜ ๋‹ค์–‘ํ•œ ์ˆ˜์ค€์„ ์„ค๋ช…ํ•œ๋‹ค. ์†Œํ”„ํŠธ์›จ์–ด์—์„œ ์œ ๋ž˜ํ•œ โ€˜์˜คํ”ˆ์†Œ์Šคโ€™๋ผ๋Š” ์šฉ์–ด๋งŒ์œผ๋กœ๋Š” AI์˜ ๋ณต์žกํ•œ ํŠน์„ฑ์„ ์ถฉ๋ถ„ํžˆ ์„ค๋ช…ํ•˜๊ธฐ ์–ด๋ ต๋‹ค๊ณ  ๋ถ„์„ํ•œ๋‹ค. ์‹คํ—˜ ๋ฐ์ดํ„ฐ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ ์˜คํ”ˆ ์›จ์ดํŠธ ํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ์˜ ๋™ํ–ฅ๊ณผ ์ž ์žฌ์  ์ด์ ยท์œ„ํ—˜์„ ๊ฒ€ํ† ํ•˜๊ณ , ์ƒ์„ฑํ˜• AI ํŒŒ์šด๋ฐ์ด์…˜ ๋ชจ๋ธ์˜ ๊ฐœ๋ฐฉ์„ฑ๊ณผ ์ฑ…์ž„ ์žˆ๋Š” ๊ฑฐ๋ฒ„๋„Œ์Šค ๊ฐ„ ๊ท ํ˜•์„ ์œ„ํ•œ ์ •์ฑ… ๋…ผ์˜๋ฅผ ์ง€์›ํ•œ๋‹ค.

2025-08-08 (1๊ฑด)

๐Ÿ‡ฌ๐Ÿ‡ง Deep ignorance: Filtering pretraining data builds tamper-resistant safeguards into open-weight LLMs (2025.08.08)

๊ณต๊ณต ยท AISI-UK ยท ๐Ÿ”ฌ๐Ÿ”“

8B๊ธ‰ ์˜คํ”ˆ ์›จ์ดํŠธ LLM ์‚ฌ์ „ํ•™์Šต ๋ฐ์ดํ„ฐ์—์„œ dual-use(์ƒ๋ฌผ์œ„ํ˜‘) ๊ด€๋ จ ํ…์ŠคํŠธ๋ฅผ ํ•„ํ„ฐ๋งํ•˜๋Š” ๋‹ค๋‹จ๊ณ„ ํŒŒ์ดํ”„๋ผ์ธ์„ ์ œ์•ˆํ•˜๋ฉฐ, ์ด ๋ฐฉ์‹์ด ์›์น˜ ์•Š๋Š” ๋Šฅ๋ ฅ๊ณผ biothreat proxy ์ง€์‹์„ ์ค„์—ฌ tampering์— ๋” ๊ฐ•ํ•œ โ€œsafeguardโ€๊ฐ€ ๋  ์ˆ˜ ์žˆ์Œ์„ ๋ณด๊ณ ํ–ˆ๋‹ค. 6.9B ํŒŒ๋ผ๋ฏธํ„ฐ ๋ชจ๋ธ์„ ์ฒ˜์Œ๋ถ€ํ„ฐ ์‚ฌ์ „ํ•™์Šตํ•ด adversarial fine-tuning(์ตœ๋Œ€ 10,000 steps, 300M tokens) ๊ณต๊ฒฉ์— ๋Œ€ํ•ด ๊ธฐ์กด post-training ๊ธฐ์ค€ ๋Œ€๋น„ 10๋ฐฐ ์ด์ƒ ์„ฑ๋Šฅ์ด ์šฐ์ˆ˜ํ•˜๋‹ค๊ณ  ์„ค๋ช…ํ•˜๋ฉฐ, ๊ด€๋ จ ์—†๋Š” ๋Šฅ๋ ฅ ์ €ํ•˜๋Š” ๊ด€์ฐฐ๋˜์ง€ ์•Š์•˜๋‹ค๊ณ  ๋ฐํ˜”๋‹ค. ๋‹ค๋งŒ ํ•„ํ„ฐ๋ง๋œ ๋ชจ๋ธ๋„ ์ปจํ…์ŠคํŠธ(์˜ˆ: ๊ฒ€์ƒ‰ ๋„๊ตฌ ์ฆ๊ฐ•)๋กœ ์œ„ํ—˜ ์ •๋ณด๋ฅผ ์ œ๊ณต๋ฐ›์œผ๋ฉด ์ด๋ฅผ ํ™œ์šฉํ•  ์ˆ˜ ์žˆ์–ด defense-in-depth๊ฐ€ ํ•„์š”ํ•˜๋‹ค๊ณ  ๊ฒฐ๋ก ๋ƒˆ๋‹ค.

2025-08-05 (2๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ OpenAI, GPT-2 ์ดํ›„ ์ฒซ โ€˜์˜คํ”ˆ ์›จ์ดํŠธโ€™ ์–ธ์–ด๋ชจ๋ธ GPT-OSS ๊ณต๊ฐœ(2025.8.5)

K-AISI ์ฃผ๊ฐ„๋™ํ–ฅ ยท The Register ยท ๐Ÿงช๐Ÿ”“๐Ÿš€

GPT-OSS๋Š” Apache 2.0 ๋ผ์ด์„ ์Šค๋กœ ๊ณต๊ฐœ๋œ ์˜คํ”ˆ ์›จ์ดํŠธ ์–ธ์–ด๋ชจ๋ธ๋กœ, 117B(์ถ”๋ก  ๋ชจ๋ธ)์™€ 21B ๋‘ ํฌ๊ธฐ๋‹ค. OpenAI๋Š” ๋‘ ๋ชจ๋ธ์ด ๊ฐ๊ฐ o4-miniยทo3-mini์™€ ์œ ์‚ฌํ•œ ์„ฑ๋Šฅ์„ ๋‚ธ๋‹ค๊ณ  ์„ค๋ช…ํ•˜๋ฉฐ, MoE(ํ˜ผํ•ฉ ์ „๋ฌธ๊ฐ€) ๊ตฌ์กฐ์™€ 128K ์ปจํ…์ŠคํŠธ ์œˆ๋„์šฐ๋ฅผ ์ œ๊ณตํ•œ๋‹ค๊ณ  ๋ฐํ˜”๋‹ค. ์•ˆ์ „์„ ์œ„ํ•ด ์œ ํ•ด ๋ฐ์ดํ„ฐ ํ•„ํ„ฐ๋ง๊ณผ prompt injection ๋ฐฉ์ง€ ๊ฒ€์—ด์„ ์ ์šฉํ–ˆ์œผ๋ฉฐ, ๊ฐœ๋ฐœ ๊ณผ์ •์—์„œ ์•…์šฉ ์‹œ๋„๋ฅผ ๋ง‰์•˜๋‹ค๊ณ  ์ฃผ์žฅํ–ˆ๋‹ค. ๋˜ํ•œ Hugging Face ๋“ฑ ์—ฌ๋Ÿฌ ์ €์žฅ์†Œ์™€ TransformersยทvLLMยทOllama ๋“ฑ ์ถ”๋ก  ํ”„๋ ˆ์ž„์›Œํฌ๋ฅผ ์ง€์›ํ•œ๋‹ค๊ณ  ์ „ํ–ˆ๋‹ค.

๐Ÿ‡บ๐Ÿ‡ธ gpt-oss-120bยทgpt-oss-20b ๋ชจ๋ธ ์นด๋“œ (2025.8.5)

๊ธฐ์—… ยท OpenAI ๋ฐฐํฌ ์•ˆ์ „ ํ—ˆ๋ธŒ ยท ๐Ÿ”“

OpenAI๊ฐ€ Apache 2.0 ๋ผ์ด์„ ์Šค๋กœ ๊ณต๊ฐœํ•˜๋Š” ํ…์ŠคํŠธ ์ „์šฉ open-weight reasoning ๋ชจ๋ธ gpt-oss-120b์™€ gpt-oss-20b๋ฅผ ์†Œ๊ฐœํ–ˆ๋‹ค. ๋‘ ๋ชจ๋ธ์€ Responses API์™€ ํ˜ธํ™˜๋˜๋ฉฐ ์›น ๊ฒ€์ƒ‰ยทPython ์‹คํ–‰ ๊ฐ™์€ tool use, ์ถ”๋ก  ๊ฐ•๋„ ์กฐ์ ˆ, ์ „์ฒด chain-of-thought(CoT), Structured Outputs๋ฅผ ์ง€์›ํ•œ๋‹ค. ๊ธฐ๋ณธ ๋ชจ๋ธ์€ Preparedness Framework์˜ ์„ธ ์ถ”์  ๋ฒ”์ฃผ(์ƒ๋ฌผยทํ™”ํ•™, ์‚ฌ์ด๋ฒ„, AI ์ž๊ธฐ๊ฐœ์„ ) ๋ชจ๋‘์—์„œ High capability ๊ธฐ์ค€์— ๋ฏธ๋‹ฌํ–ˆ๊ณ , ์•…์˜์  ํ–‰์œ„์ž๋ฅผ ๊ฐ€์ •ํ•œ adversarial fine-tuning ํ›„์—๋„ Safety Advisory Group์€ ์ƒ๋ฌผยทํ™”ํ•™ ๋ฐ ์‚ฌ์ด๋ฒ„ ์œ„ํ—˜์—์„œ High์— ๋„๋‹ฌํ•˜์ง€ ์•Š์•˜๋‹ค๊ณ  ๊ฒฐ๋ก ์ง€์—ˆ๋‹ค. ๋˜ํ•œ ๋Œ€๋ถ€๋ถ„์˜ ํ‰๊ฐ€์—์„œ ๊ธฐ์กด open ๋ชจ๋ธ์˜ ๊ธฐ๋ณธ ์„ฑ๋Šฅ์ด fine-tuning๋œ gpt-oss-120b์— ๊ทผ์ ‘ํ•ด ๊ณต๊ฐœ๊ฐ€ ์ƒ๋ฌผ ๋ถ„์•ผ open ๋ชจ๋ธ์˜ ์ตœ์ „์„ ์„ ํฌ๊ฒŒ ๋Œ์–ด์˜ฌ๋ฆฌ์ง€ ์•Š๋Š”๋‹ค๊ณ  ๋ฐํ˜”๋‹ค.

2025๋…„ 7์›” (2๊ฑด)

2025-07-26 (1๊ฑด)

๐Ÿ‡จ๐Ÿ‡ณ๐Ÿ‡บ๐Ÿ‡ธ ์ค‘๊ตญ ๋ฆฌ์ฐฝ, ๋ฏธ๊ตญ์˜ ์ €๊ทœ์ œ ์ „๋žต ๊ณต๊ฐœ ์งํ›„ ๊ธ€๋กœ๋ฒŒ AI ํ˜‘๋ ฅ๊ธฐ๊ตฌยท๊ฐœ๋ฐœ-์•ˆ๋ณด ๊ท ํ˜•(2025.7.26)

K-AISI ์ฃผ๊ฐ„๋™ํ–ฅ ยท ๊ฐ€๋””์–ธ(theguardian.com) ยท ๐Ÿ”“

์ค‘๊ตญ ๋ฆฌ์ฐฝ ์ด๋ฆฌ๋Š” ์ƒํ•˜์ด์—์„œ ์—ด๋ฆฐ ์„ธ๊ณ„ ์ธ๊ณต์ง€๋ŠฅํšŒ์˜(WAIC)์—์„œ AI ๊ฐœ๋ฐœ์€ ๋ณด์•ˆ ์œ„ํ—˜๊ณผ ํ•จ๊ป˜ ๊ณ ๋ ค๋ผ์•ผ ํ•˜๋ฉฐ, ๊ตญ๊ฐ€ ๊ฐ„ ์กฐ์œจ์„ ํ†ตํ•ด ๊ธ€๋กœ๋ฒŒ ๊ณต์ธ ํ”„๋ ˆ์ž„์„ ๋งŒ๋“ค๊ธฐ ์œ„ํ•œ ํ•ฉ์˜๊ฐ€ ์‹œ๊ธ‰ํ•˜๋‹ค๊ณ  ๋ฐํ˜”๋‹ค. ๊ทธ๋Š” ๊ธ€๋กœ๋ฒŒ ํ˜‘๋ ฅ์„ ์ด‰์ง„ํ•˜๋Š” ์กฐ์ง์„ ์„ค๋ฆฝํ•˜์ž๊ณ  ์ œ์•ˆํ•˜๊ณ , ๊ฑฐ๋ฒ„๋„Œ์Šค๊ฐ€ ๋ถ„์ ˆ๋ผ ์žˆ๋‹ค๋Š” ์ ์„ ์ง€์ ํ–ˆ๋‹ค. ๋˜ํ•œ ์ค‘๊ตญ์€ ์˜คํ”ˆ์†Œ์Šค AI ๊ฐœ๋ฐœ์„ ์ ๊ทน ์ถ”์ง„ํ•˜๊ณ  ์„ฑ๊ณผ๋ฅผ ๋‹ค๋ฅธ ๋‚˜๋ผ(ํŠนํžˆ ๊ธ€๋กœ๋ฒŒ ์‚ฌ์šฐ์Šค์˜ ๊ฐœ๋ฐœ๋„์ƒ๊ตญ)์™€ ๊ณต์œ ํ•  ์˜ํ–ฅ์ด ์žˆ๋‹ค๊ณ  ๋งํ–ˆ๋‹ค.

2025-07-11 (1๊ฑด)

๐Ÿ‡ฌ๐Ÿ‡ง UK, 12๊ฐœ์›” Open-Source AI Fellowship(2025.7.11)๋กœ ๊ณต๊ณต์„œ๋น„์Šค์šฉ AI ๋„๊ตฌ ๊ฐœ๋ฐœ ์ง€์›

K-AISI ์ฃผ๊ฐ„๋™ํ–ฅ ยท ์˜๊ตญ ์ •๋ถ€(Department for Science, Innovation and Technology) ยท ๐Ÿ›ก๏ธ๐Ÿ”“๐Ÿš€

์˜๊ตญ ์ •๋ถ€๋Š” Alan Turing Institute์— ๋Œ€ํ•œ Meta์˜ 100๋งŒ ๋‹ฌ๋Ÿฌ ์ง€์›์„ ๋ฐ”ํƒ•์œผ๋กœ 12๊ฐœ์›” Open-Source AI Fellowship์„ ์‹œ์ž‘ํ•œ๋‹ค. ์„ ๋ฐœ๋œ AI ์ „๋ฌธ๊ฐ€๋“ค์€ ์ •๋ถ€ ๋‚ด์—์„œ ๊ณต๊ณต์„œ๋น„์Šค ๊ฐœ์„ ๊ณผ ์ƒ์‚ฐ์„ฑ ํ–ฅ์ƒ, ๊ตญ๊ฐ€์•ˆ๋ณด ์ง€์›์„ ๋ชฉํ‘œ๋กœ ์˜คํ”ˆ์†Œ์Šค AI ๋ชจ๋ธ(์˜ˆ: Llama 3.5)์„ ํ™œ์šฉํ•ด ๋„๊ตฌ๋ฅผ ๊ฐœ๋ฐœํ•œ๋‹ค. ๋˜ํ•œ ์ •๋ถ€๋Š” ์ฝœ์„ผํ„ฐ ๊ณ ๊ฐ์‘๋Œ€ ๋ณด์กฐ AI โ€˜Caddyโ€™๋ฅผ ์ด๋ฏธ ๊ณต๊ณต๋ถ€๋ฌธ์—์„œ ํ™œ์šฉ ์ค‘์ด๋ฉฐ, ์ดˆ๊ธฐ ํ…Œ์ŠคํŠธ์—์„œ ์‘๋‹ต์‹œ๊ฐ„์„ ์ ˆ๋ฐ˜์œผ๋กœ ์ค„์ด๊ณ  ์ƒ์„ฑ ์‘๋‹ต์˜ 80%๊ฐ€ ์ˆ˜์ • ์—†์ด ๋ฐ”๋กœ ์‚ฌ์šฉ ๊ฐ€๋Šฅํ–ˆ๋‹ค๊ณ  ๋ฐํ˜”๋‹ค.

2025๋…„ 6์›” (2๊ฑด)

2025-06-23 (1๊ฑด)

G7 ์ •์ƒํšŒ์˜, ๊ธ€๋กœ๋ฒŒ AI ๊ฑฐ๋ฒ„๋„Œ์Šค ์ง„์ „ ๊ธฐํšŒ๋ฅผ ๋†“์ณค๋‹ค(2025.6.23)

K-AISI ์ฃผ๊ฐ„๋™ํ–ฅ ยท techpolicy.press ยท ๐Ÿ“œ๐Ÿ”“

G7 ์ •์ƒํšŒ์˜์˜ ํ•ต์‹ฌ AI ์„ฑ๊ณผ๋ฌผ์€ โ€œLeadersโ€™ statement on AI for prosperityโ€์™€ ์ •๋ถ€ยท๊ธฐ์—… ๋„์ž…์„ ์ด‰์ง„ํ•˜๋Š” ์ด๋‹ˆ์…”ํ‹ฐ๋ธŒ ์ค‘์‹ฌ์ด์—ˆ๊ณ , ์„ ๋„ ๋ชจ๋ธ์˜ ์•ˆ์ „ยท๋ณด์•ˆ ๊ฑฐ๋ฒ„๋„Œ์Šค ๋…ผ์˜๋Š” ์ƒ๋Œ€์ ์œผ๋กœ ๋ถ€์กฑํ–ˆ๋‹ค. ๊ธ€์€ ์ตœ๊ทผ AI ์—ญ๋Ÿ‰์ด ๋น ๋ฅด๊ฒŒ ๊ณ ๋„ํ™”๋˜๋ฉด์„œ ๊ฐ๊ตญ์ด ๋‹ค์ž ์•ˆ์ „ ํ”„๋ ˆ์ž„์›Œํฌ๋ณด๋‹ค ๊ตญ๊ฐ€๋ณ„ ํ˜์‹ ยท์ฑ„ํƒ ์ •์ฑ…์œผ๋กœ ์ด๋™ํ–ˆ์ง€๋งŒ, ๋™๋งน ๊ฐ„ ์•ˆ์ „ยท๋ณด์•ˆ ์‹œ๋„ˆ์ง€์™€ ํ˜‘๋ ฅ์€ ๋†“์น˜๊ณ  ์žˆ๋‹ค๊ณ  ์ง€์ ํ•œ๋‹ค. ๋˜ํ•œ ๋ชจ๋ธ ๊ฐ€์ค‘์น˜ ๋„๋‚œ, ๋Œ€๊ทœ๋ชจ ๋ฐ์ดํ„ฐ์„ผํ„ฐ ๊ณต๊ฒฉ, CRBN(ํ™”ํ•™ยท์ƒ๋ฌผยท๋ฐฉ์‚ฌ์„ฑยทํ•ต) ๋ฌด๊ธฐ ์˜ค์šฉ ๊ฐ€์†, ํ†ต์ œ ์ƒ์‹ค ์œ„ํ—˜ ๋“ฑ ๋ณด์•ˆ ๊ณผ์ œ๊ฐ€ G7 ๋‹จ๋…์œผ๋กœ๋Š” ๊ฐ๋‹นํ•˜๊ธฐ ์–ด๋ ต๋‹ค๊ณ  ์„ค๋ช…ํ•˜๋ฉฐ, AISI ๋„คํŠธ์›Œํฌ๋ฅผ ํ†ตํ•œ ๊ณต๊ธ‰๋งยท์œ„ํ˜‘ ๋Œ€์‘ ๊ณต์กฐ, ๊ณต๋™ ์—ญ๋Ÿ‰ ํ‰๊ฐ€ยท์œ„ํ˜‘๋ชจ๋ธ ์—ฐ๊ตฌ, AI ๊ธฐ์—… ๊ณต๋™ ๊ณต๊ฐœ์ ˆ์ฐจ, AI ๊ณต๊ฒฉ ์ •๋ณด ๊ณต์œ , ์ˆ˜์ถœํ†ต์ œ ํ˜‘๋ ฅ ๋“ฑ ๊ตฌ์ฒด์  ํ˜‘๋ ฅ ์—ฌ์ง€๋ฅผ ์ œ์•ˆํ•œ๋‹ค.

2025-06-18 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ๊ฐ€์ƒ ๋จธ์‹ ์„ ํ†ตํ•œ ๊ธฐ๋ฐ€ ์ถ”๋ก  (2025.6.18)

๊ธฐ์—… ยท Anthropic-Research ยท ๐Ÿ”“

Anthropic์€ ๋ฏผ๊ฐํ•œ ์ •๋ณด๋ฅผ ์ฒ˜๋ฆฌํ•˜๋Š” ๋ฐ ์žˆ์–ด ์‚ฌ์šฉ์ž ์‹ ๋ขฐ๋ฅผ ๋ณด์žฅํ•˜๊ธฐ ์œ„ํ•ด ๊ธฐ๋ฐ€ ์ถ”๋ก  ๊ธฐ์ˆ ์„ ์—ฐ๊ตฌํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ์ด ๊ธฐ์ˆ ์€ ์•”ํ˜ธํ™”๋œ ๋ฐ์ดํ„ฐ๋ฅผ ์ฒ˜๋ฆฌํ•˜๋ฉด์„œ ๋ฐ์ดํ„ฐ ์ ‘๊ทผ ๊ถŒํ•œ์„ ์—„๊ฒฉํ•˜๊ฒŒ ์ œํ•œํ•˜์—ฌ ๋ณด์•ˆ์„ ๊ฐ•ํ™”ํ•ฉ๋‹ˆ๋‹ค. ์ฃผ์š” ๋ชฉํ‘œ๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค:

1. ๋ชจ๋ธ ๊ฐ€์ค‘์น˜ ๋ณด์•ˆ: ๊ณ ๊ธ‰ ์œ„ํ˜‘์œผ๋กœ๋ถ€ํ„ฐ ๋ชจ๋ธ(์˜ˆ: Claude)์„ ๋ณดํ˜ธํ•ฉ๋‹ˆ๋‹ค. 2. ์‚ฌ์šฉ์ž ๋ณด์•ˆ: ์‚ฌ์šฉ์ž ๋ฐ์ดํ„ฐ์˜ ํ”„๋ผ์ด๋ฒ„์‹œ๋ฅผ ๋ณด์žฅํ•ฉ๋‹ˆ๋‹ค.

๊ธฐ์ˆ ์ ์œผ๋กœ๋Š”, ์ด ์‹œ์Šคํ…œ์€ ๋‹ค์Œ๊ณผ ๊ฐ™์€ ๋ฐฉ์‹์œผ๋กœ ์ž‘๋™ํ•ฉ๋‹ˆ๋‹ค: - API ์„œ๋ฒ„์™€ ์ถ”๋ก  ์„œ๋ฒ„์—์„œ ์•”ํ˜ธํ™”๋œ ๋ฐ์ดํ„ฐ๋ฅผ ์•”ํ˜ธํ™” ์ƒํƒœ๋กœ ์œ ์ง€ํ•˜๊ณ , ํ•„์š”ํ•œ ์ˆœ๊ฐ„์—๋งŒ ํ•ด๋…ํ•˜์—ฌ ์ฒ˜๋ฆฌํ•ฉ๋‹ˆ๋‹ค. - ์‹ ๋ขฐํ•  ์ˆ˜ ์žˆ๋Š” ๊ฐ€์ƒ ๋จธ์‹  ๋‚ด์—์„œ ์•”ํ˜ธํ™” ํ‚ค๋ฅผ ๊ด€๋ฆฌํ•˜๊ณ , ์ฝ”๋“œ ์‹คํ–‰์˜ ์‹ ๋ขฐ์„ฑ์„ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค.

๊ฒฐ๊ณผ์ ์œผ๋กœ, ์ด ์ ‘๊ทผ๋ฒ•์€ ๋ฐ์ดํ„ฐ๊ฐ€ ์•ˆ์ „ํ•˜๊ฒŒ ๋ณดํ˜ธ๋˜๋„๋ก ํ•˜์—ฌ ์‚ฌ์šฉ์ž ๋ฐ์ดํ„ฐ์˜ ๊ธฐ๋ฐ€์„ฑ์„ ํ™•๋ณดํ•ฉ๋‹ˆ๋‹ค. Anthropic์€ ์ด ์—ฐ๊ตฌ๋ฅผ ํ†ตํ•ด ์ง€์†์ ์ธ ๋ณด์•ˆ ๊ฐœ์„ ์„ ์ถ”๊ตฌํ•˜๊ณ  ์žˆ์œผ๋ฉฐ, ๊ด€๋ จ ๋ถ„์•ผ์˜ ์ „๋ฌธ๊ฐ€๋“ค๊ณผ ํ˜‘๋ ฅํ•˜์—ฌ ๋” ๊ฐ•๋ ฅํ•œ ๋ณด์•ˆ ๊ธฐ๋Šฅ์„ ๊ฐœ๋ฐœํ•  ๊ณ„ํš์ž…๋‹ˆ๋‹ค.

๋” ์ž์„ธํ•œ ๋‚ด์šฉ์€ [๋ณด๊ณ ์„œ ์ฝ๊ธฐ](๋งํฌ)๋ฅผ ์ฐธ์กฐํ•˜์„ธ์š”. ๋ณด์•ˆ ๋ถ„์•ผ์—์„œ์˜ ํ˜‘๋ ฅ ๊ธฐํšŒ๋„ ์—ด๋ ค ์žˆ์Šต๋‹ˆ๋‹ค.

2025๋…„ 5์›” (2๊ฑด)

2025-05-22 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ Anthropic, ASL-3 ๋ณดํ˜ธ ํ™œ์„ฑํ™” ๋ฐœํ‘œ (2025.5.22)

๊ธฐ์—… ยท Anthropic ยท ๐Ÿ›ก๏ธ๐Ÿ”“๐Ÿš€

Anthropic์€ ์ƒˆ๋กœ์šด ๋ชจ๋ธ์ธ Claude Opus 4 ์ถœ์‹œ์™€ ํ•จ๊ป˜ AI ์•ˆ์ „์„ฑ ์ˆ˜์ค€ 3 (ASL-3) ๋ฐฐํฌ ๋ฐ ๋ณด์•ˆ ๊ธฐ์ค€์„ ํ™œ์„ฑํ™”ํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด ์กฐ์น˜๋Š” ๋ชจ๋ธ์˜ ํ™”ํ•™, ์ƒ๋ฌผํ•™, ๋ฐฉ์‚ฌ๋Šฅ ๋ฐ ํ•ต(CBRN) ๋ฌด๊ธฐ ๊ฐœ๋ฐœ์ด๋‚˜ ํš๋“์— ๋Œ€ํ•œ ์•…์šฉ ์œ„ํ—˜์„ ์ค„์ด๊ธฐ ์œ„ํ•œ ๊ฒƒ์ž…๋‹ˆ๋‹ค. ASL-3 ๊ธฐ์ค€์€ ๋ชจ๋ธ ๊ฐ€์ค‘์น˜ ๋„๋‚œ์„ ๋” ์–ด๋ ต๊ฒŒ ๋งŒ๋“ค๊ณ , ๋ฐฐํฌ ๊ธฐ์ค€์€ CBRN ๋ฌด๊ธฐ ๊ด€๋ จ ์ž‘์—…์„ ๋•๋Š” ๊ฒƒ์„ ์ œํ•œํ•˜๋Š” ๋ฐ ์ดˆ์ ์„ ๋งž์ถฅ๋‹ˆ๋‹ค. ์ด๋Ÿฌํ•œ ๋ณดํ˜ธ ์กฐ์น˜๋Š” ๋ชจ๋ธ์˜ ๊ณ ๊ธ‰ ๊ธฐ๋Šฅ ์•…์šฉ ์œ„ํ—˜์„ ์ค„์ด๊ธฐ ์œ„ํ•œ ์˜ˆ๋ฐฉ์  ์กฐ์น˜์ด๋ฉฐ, ํ–ฅํ›„ ํ‰๊ฐ€๋ฅผ ํ†ตํ•ด ํ•„์š”์— ๋”ฐ๋ผ ์กฐ์ •๋  ์˜ˆ์ •์ž…๋‹ˆ๋‹ค. ์ž์„ธํ•œ ๋‚ด์šฉ์€ ์ฒจ๋ถ€ ๋ณด๊ณ ์„œ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค.

2025-05-21 (1๊ฑด)

๐Ÿ‡ฌ๐Ÿ‡ง RepliBench, ์–ธ์–ด๋ชจ๋ธ ์—์ด์ „ํŠธ์˜ ์ž์œจ ๋ณต์ œ(์ž๊ธฐ๋ณต์ œ) ์—ญ๋Ÿ‰์„ 4๊ฐœ ํ•ต์‹ฌ ์˜์—ญ ๊ธฐ๋ฐ˜์œผ๋กœ ํ‰๊ฐ€(2025.5.21)

๊ณต๊ณต ยท AISI-UK ยท ๐Ÿ”ฌ๐Ÿ”“

AISI-UK๋Š” ์–ธ์–ด๋ชจ๋ธ ์—์ด์ „ํŠธ์˜ ๋ฌดํ†ต์ œ ์ž์œจ ๋ณต์ œ๊ฐ€ ์•ˆ์ „ ์œ„ํ—˜์ด ๋  ์ˆ˜ ์žˆ๋‹ค๊ณ  ๋ณด๊ณ , ์ด๋ฅผ ์ธก์ •ํ•˜๊ธฐ ์œ„ํ•œ ํ‰๊ฐ€ ๋ชจ์Œ RepliBench๋ฅผ ์ œ์•ˆํ–ˆ๋‹ค. RepliBench๋Š” ์ž์› ํ™•๋ณด, ๋ชจ๋ธ ๊ฐ€์ค‘์น˜ ์œ ์ถœ, ์ปดํ“จํŒ…์— ๋ณต์ œ, ๋ณต์ œ๋œ ์ปดํ“จํŒ…์—์„œ ์žฅ๊ธฐ๊ฐ„ ์ง€์† ๋“ฑ 4๊ฐœ ์˜์—ญ์„ ๋ถ„ํ•ดํ•ด 201๊ฐœ ์‹ ๊ทœ ํƒœ์Šคํฌ ํŒจ๋ฐ€๋ฆฌ(์ด 86๊ฐœ ๊ฐœ๋ณ„ ํƒœ์Šคํฌ)๋กœ ๊ตฌ์„ฑ๋œ๋‹ค. 5๊ฐœ โ€˜frontierโ€™ ๋ชจ๋ธ์„ ๋ฒค์น˜๋งˆํฌํ•œ ๊ฒฐ๊ณผ, ๋ชจ๋ธ๋“ค์ด ํ˜„์žฌ๋Š” โ€˜์ž๊ธฐ๋ณต์ œ์— ๋Œ€ํ•œ ๊ทธ๋Ÿด๋“ฏํ•œ(credible) ์œ„ํ˜‘โ€™์€ ๋‚ฎ์ง€๋งŒ, ํด๋ผ์šฐ๋“œ์—์„œ ์ธ์Šคํ„ด์Šค๋ฅผ ๋ฐฐ์น˜ํ•˜๊ฑฐ๋‚˜ ์ž๊ฐ€ ์ „ํŒŒ ํ”„๋กœ๊ทธ๋žจ์„ ์ž‘์„ฑํ•˜๋ฉฐ ๋‹จ์ˆœํ•œ ๋ณด์•ˆ ์„ค์ •์—์„œ ๊ฐ€์ค‘์น˜ ์œ ์ถœ์„ ์ˆ˜ํ–‰ํ•˜๋Š” ๋“ฑ ์—ฌ๋Ÿฌ ๊ตฌ์„ฑ์š”์†Œ์—์„œ๋Š” ์„ฑ๊ณผ๋ฅผ ๋ณด์˜€๋‹ค. ๋ฐ˜๋ฉด KYC(๊ณ ๊ฐํ™•์ธ) ํ†ต๊ณผ๋‚˜ ๊ฒฌ๊ณ ํ•˜๊ณ  ์ง€์†์ ์ธ ์—์ด์ „ํŠธ ๋ฐฐ์น˜ ์„ค์ •์—์„œ๋Š” ์–ด๋ ค์›€์„ ๊ฒช์—ˆ๊ณ , ์ตœ๊ณ  ์„ฑ๋Šฅ ๋ชจ๋ธ์ธ Claude 3.7 Sonnet์€ 20๊ฐœ ํƒœ์Šคํฌ ํŒจ๋ฐ€๋ฆฌ ์ค‘ 15๊ฐœ์—์„œ pass@10์ด 50% ์ดˆ๊ณผ, ์ตœ๋‚œ๋„ ๋ณ€ํ˜•์—์„œ๋Š” 9๊ฐœ์—์„œ 50% ์ดˆ๊ณผ๋ฅผ ๊ธฐ๋กํ–ˆ๋‹ค.

2025๋…„ 3์›” (1๊ฑด)

2025-03-02 (1๊ฑด)

๐Ÿ‡ฌ๐Ÿ‡ง LLM capability ํ‰๊ฐ€๋ฅผ ์œ„ํ•œ model tampering ๊ณต๊ฒฉ์˜ ํ™œ์šฉ(2025.3.2)

๊ณต๊ณต ยท AISI-UK ยท ๐Ÿ”ฌ๐Ÿ”“

๋ชจ๋ธ ์œ„ํ—˜ยท์—ญ๋Ÿ‰ ํ‰๊ฐ€๋Š” ์ฃผ๋กœ ์•…์„ฑ ํ–‰๋™์„ ์œ ๋„ํ•˜๋Š” ์ž…๋ ฅ-์ถœ๋ ฅ ๋ฐฉ์‹์— ์˜์กดํ•˜์ง€๋งŒ, open-weight ๋ชจ๋ธ์˜ ํ˜„์‹ค ์œ„ํ—˜์„ ์ถฉ๋ถ„ํžˆ ํ‰๊ฐ€ํ•˜๊ธฐ ์–ด๋ ต๊ณ  ํŠน์ • ์‹คํ—˜ ๊ฒฐ๊ณผ๋Š” ์ตœ์•…์˜ ๊ฐ€๋Šฅ์„ฑ์„ ํ•˜ํ•œ์œผ๋กœ๋งŒ ๋ณด์—ฌ์ฃผ๋Š” ํ•œ๊ณ„๊ฐ€ ์žˆ๋‹ค๊ณ  ์„ค๋ช…ํ•ฉ๋‹ˆ๋‹ค. ์ด์— ๋”ฐ๋ผ ์ž ์žฌ activation ๋˜๋Š” weights๋ฅผ ์ˆ˜์ •ํ•˜๋Š” model tampering attacks๋กœ LLM์„ ํ‰๊ฐ€ํ•˜๋Š” ๋ณด์™„ ๋ฐฉ๋ฒ•์„ ์ œ์•ˆํ–ˆ์œผ๋ฉฐ, harmful capability ์ œ๊ฑฐ ๊ธฐ๋ฒ•๋“ค๊ณผ 5๊ฐœ ์ž…๋ ฅ๊ณต๊ฐ„ยท6๊ฐœ model tampering ๊ณต๊ฒฉ์„ ๋น„๊ต ๋ฒค์น˜๋งˆํฌํ–ˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ tampering ๊ณต๊ฒฉ์˜ ์„ฑ๊ณต๋ฅ ์ด ๋ณด์œ ํ•œ ์ž…๋ ฅ๊ณต๊ฐ„ ๊ณต๊ฒฉ์˜ ์„ฑ๊ณผ๋ฅผ ์˜ˆ์ธกยท๋ณด์ˆ˜์ ์œผ๋กœ ์ถ”์ •ํ•  ์ˆ˜ ์žˆ๊ณ , ์ตœ์‹  unlearning ๋ฐฉ๋ฒ•์€ fine-tuning 16๋‹จ๊ณ„ ๋‚ด์— ์‰ฝ๊ฒŒ ๋˜๋Œ๋ฆด ์ˆ˜ ์žˆ์Œ์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค.