์์นด์ด๋ธ ยท Japan AISI ยท ๐ก๏ธ๐๐ฌ๐ค๐งช
OpenAI์ GPT-6.2 AstraยทSol(11/17), Alibaba์ Qwen4-Max(11/16), Google DeepMind์ Gemini 4 Neon(11/18) ๋ฑ ์ ๊ท frontier ๋ชจ๋ธ์ด ์์ ์ฑยท์ฌ์ด๋ฒ ๋ณด์ ํ๊ฐ ๊ฒฐ๊ณผ์ ํจ๊ป ๊ณต๊ฐ๋๋ค. OpenAI๋ GPT-6.2 Astra๋ฅผ ์ค์ฌ์ผ๋ก ์ด์ ๋ชจ๋ธ(GPT-6 Astra)๋ณด๋ค ์๋ฌผยทํํ ๋ถ์ผ ํ๊ฐ ์ฑ์ ์ด ์ฌ๋์ง๋ง Critical ์์ค์๋ ์ด๋ฅด์ง ์์๋ค๊ณ ๋ฐํ๋ค. ๋ ์ํ ์์ฒญ์ ๋ํ refusal ๊ฐํ์ ์ฐ๊ตฌ ํ๊ฒฝ์์ ๋ชจ๋ธ์ ์ค๋จ์ํฌ ์ ์๋ "Control Room" ๋์
๋ฑ์ ์ค๋ช
ํ๋ค. Qwen4-Max๋ ๋๊ท๋ชจ ์ฌ์ด๋ฒ ๋ฆฌ์คํฌ๋ CBRN ๋ถ์ผ์ ์ํ ๋ฅ๋ ฅ ์์น์ด ํ์ธ๋์ง ์์๋ค๊ณ ๋ณด๊ณ ๋๊ณ , Gemini 4 Neon์ ์ฌ์ด๋ฒ ๋ฐฉ์ด ํนํ ๊ธฐ๋ฅ์ ์ ๋ขฐํ ์ ์๋ ๋ฐฉ์ด ๋ด๋น์์๊ฒ ๋จผ์ ์ ๊ณตํ ๊ณํ์ด๋ค. ์ด ๋ฐ์ ์บ๋ฆฌํฌ๋์์ฃผ์ AI ์์ ๊ท์ ๊ฐํ ๋ณด๊ณ ์, Microsoft์ device code ์ธ์ฆ ์ํ ๋ถ์, Google GTIG์ ์์ด์ ํธํ ์ํ ํ๋ ๋ณด๊ณ ์, METR์ ์์ ์ฑ ํ๊ฐ ์ธ์ง(eval awareness) ์ฐ๊ตฌ ๋ฑ์ด ํจ๊ป ์๊ฐ๋๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐ฌ๐งช
Anthropic์ 11์ 13์ผ AI ๋ชจ๋ธ ์์ ์ฑ์ ์ ์ ํ ํ๊ฐํ๊ธฐ ์ํ ๊ถ๊ณ ์ฌํญ์ ๊ณต๊ฐํ๋ค. ํ๊ฐ์์ ๋ฌด์์ ์ธก์ ํ๋์ง ๋ช
ํํ ํ๊ณ , ํ๊ฐ์ฉ AI์ ํ์ ์ ์ธ๊ฐ์ ํ๋จ๊ณผ ๋ถ๋ฆฌํ๋ฉฐ, ์์น๋ฟ ์๋๋ผ ๋ถํ์ค์ฑ๋ ์ ์ํ๋ผ๋ ๋ด์ฉ์ด๋ค. ๊ฐ์ ํ์ฌ๋ 11์ 12์ผ ์์ ๋์ฑ
์ ๋ํ ๋ฐฉ๋ฒ์ ์๋์ผ๋ก ํ์ํ๋ ์์คํ
Anvil์ automated red-teaming ํ๊ฐ ๊ฒฐ๊ณผ๋ ๊ณต๊ฐํ๋๋ฐ, ์๋ฌผ ๋ถ์ผ์์ ์ธ๊ฐ ์ ๋ฌธ๊ฐ๋ณด๋ค ์งง์ ์๊ฐ์ ์
์ฉ์ผ๋ก ์ด์ด์ง ์ ์๋ ๋ํ ๋ฐฉ๋ฒ์ ์ฐพ์๋ค๊ณ ๋ณด๊ณ ํ๋ค. ๊ทธ ๋ฐ์ AWS์ ์คํ์์ค ์นจํฌ ํ
์คํธ ํ๋ ์์ํฌ ARTEX ์
์ฉ ๋ถ์, Microsoft์ post-training ๊ณต๊ธ๋ง ๊ณต๊ฒฉ ์ฐ๊ตฌ, ์๊ตญยท๋
ธ๋ฅด์จ์ด AI ํ๋ ฅ ๊ณต๋์ฑ๋ช
, ํ๊ตญ ์ ๋ถ์ ์๋ฏผ ์ฐธ์ฌํ AI ์ค๋ฅ ๋ชจ๋ํฐ๋ง ์ฒด๊ณ ์ถ๋ฒ ์์๋ ํจ๊ป ์ ๋ฆฌํ๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐ฌ๐ค๐
2026๋
11์ 9์ผ OpenAI๋ ์ฐ๊ตฌ ํ๊ฒฝ์์ AI ๋ชจ๋ธ์ ์ฒ๋ฆฌ๋ฅผ ์ผ๊ด ๊ด๋ฆฌํ๊ณ ํ์ ์ ์ถ๋ ฅ์ ๋ฉ์ถ๋ "Control Room" ๋์
์ ๊ณตํํ๋ค. ์ธ๊ฐ ๊ฐ์ ์์คํ
์ ์ ์ง ์ง์๋ฅผ ๋ฐ์ผ๋ฉด 35์ด ์ด๋ด ์ ๋ชจ๋ธ ์ถ๋ ฅ์ ๋ฉ์ถ ์ ์์ผ๋ฉฐ, ์คํ ํ๋ก๊ทธ๋จ์ด ์๋๋ผ ๋ชจ๋ธ์ ์คํํ๋ ๊ธฐ๋ฐ ์ชฝ์์ ์ ์ดํ๋ ๋ฐฉ์์ด๋ผ๊ณ ์ค๋ช
ํ๋ค. ๊ฐ์ ๋ Anthropic์ ๋์ผํ ๊ธฐ๋ฐ ๋ชจ๋ธ์ ์ฐ๋ ์ฌ์ด๋ฒยท์๋ฌผ ๋ถ์ผ safeguard๊ฐ ๋ค๋ฅธ Claude Fable 5.2์ Mythos 5.2๋ฅผ ๋ฐํํ๋ค. Fable 5.2๋ ์ผ๋ฐ ์ ๊ณตํ๊ณ , ์ ํ์ ์ผ๋ถ ์ํํ Mythos 5.2๋ ์ฌ์ฌ๋ฅผ ๊ฑฐ์น ์ด์ฉ์ยท์กฐ์ง์๋ง ์ง์ ์ ๊ทผ์ ํ์ฉํ๋ค. ๊ทธ ๋ฐ์ OpenAI์ AI ์์ด์ ํธ ์ฐ๊ตฌ ์ธํ๋ผ ๋ฌด๋จ ์ ๊ทผ ์ฌ๋ก ๋ถ์, Microsoft์ ์์ด์ ํธ backdoor ๊ธฐ๋ฒ ์ฐ๊ตฌ, ํธ์ฃผ ์ ๋ถ์ frontier AI ์์ ์๋ฌดํ ๋ฐฉ์นจ, NIST์ ์ ๋์ ๋จธ์ ๋ฌ๋ ๋ถ๋ฅ ๋ฌธ์ ์ด์, ์บ๋๋ค ๋ฑ์ ๊ณต๋ ์ ์ธ ์์๋ ํจ๊ป ์ค๋ ธ๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐๐ฌ๐ค๐งช๐
OpenAI๊ฐ 11์ 5์ผ ๊ณต๊ฐํ ์ฌ์ด๋ฒ๋ณด์์ฉ ๋ชจ๋ธ GPT-6 Cyber์ ๋ฅ๋ ฅยท์์ ์ฑ ํ๊ฐ์์ ๊ณต๊ฒฉ ์ฑ๊ณต๋ฅ ์ด ์ ์ธ๋ GPT-5.6 Cyber์ 32.1%์์ 48.5%๋ก ์ฌ๋๊ณ , ์ํ ๋ฑ๊ธ๋ High์์ Critical๋ก ๋ถ๋ฅ๋๋ค. ์ด ๋ชจ๋ธ์ ๋ณธ์ธ ํ์ธ๊ณผ ์
์ฉ ๊ฐ์ ๋ฑ์ ์์ ๋์ฑ
์ ์ ์ฉํด ์ฌ์ฌ๋ฅผ ๊ฑฐ์น ์ผ๋ถ ์ด์ฉ์์๊ฒ๋ง ์ ๊ณต๋๋ฉฐ, ๋์์ ๋จ๊ณ์ ์ผ๋ก ๋ํ ๋ฐฉ์นจ์ด๋ค. AI ๋ฅ๋ ฅยท์ํ ํ๊ฐ๊ธฐ๊ด METR๋ Anthropic ๋ด๋ถ์ AI ํ์ฉ์ผ๋ก ๋ชจ๋ธ ๊ฐ๋ฐ์ด ๋นจ๋ผ์ง ์ ๋๋ฅผ ํ๊ฐํด, 2024๋
3์~2025๋
10์ ์ถ์ธ์ ๋น๊ตํด ํ์ฌ ์ฝ 2๋ฐฐ ์๋๋ผ๊ณ ์ถ์ ํ๋ค. ๊ทธ ๋ฐ์ ์ฑ๊ฐํฌ๋ฅด CSA ๋ฑ 3๊ฐ ๊ธฐ๊ด์ AI ์์ด์ ํธ ์ด์ฉ ์ฃผ์ ๊ณต๋ ๊ถ๊ณ , Microsoft์ ์์ด์ ํธํ AI๋ฅผ ์ด์ฉํ ๋
ธ์ถ ์ธ์ฆ์ ๋ณด ์
์ฉ ์ฌ๋ก์ AI ์๋ ์ทจ์ฝ์ ๊ด๋ฆฌ ๋ฐฉ์, OpenAI์ ํ๊ฐ ์ค ๋คํธ์ํฌ ์ ํ ์ฐํ ์ฌ๋ก์ ํ์ผ๋ช
์ ํตํ grader prompt injection ์๋ ์ฌ๋ก๊ฐ ํจ๊ป ์๊ฐ๋๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐๐ฌ๐จ
2026๋
11์ 4์ผ Binance๋ 10์ 29์ผ ๋ฐ์ํ ์์ฐ ์ ์ถ ์ฌ๊ฑด์ ์ด๊ธฐ ์กฐ์ฌ ๊ฒฐ๊ณผ๋ฅผ ๊ณตํํ๋ค. ๊ณต๊ฒฉ์๊ฐ ๊ฐ์ง ๊ธฐ์
์ ์ฑ์ฉ ๋ฉด์ ์ ๊ฐ์ฅํด ์ง์ ๋จ๋ง์ ์
์ฑ ์ฝ๋๋ฅผ ์คํ์์ผฐ๊ณ , ์นจํด๋ ๋จ๋ง์์ ์ฌ๋ด AI ๋๊ตฌ๋ฅผ ์
์ฉํด ๋ค๋ฅธ ์ง์ ๋จ๋ง๋ก ์นจํฌํด ์ธ์ฆ ์ ๋ณด๋ฅผ ํ์ทจํ๋ค๊ณ ์ค๋ช
ํ๋ค. 11์ 3์ผ Google Threat Intelligence Group(Mandiant)์ ํ์ทจํ API ํค์ ํด๋ผ์ฐ๋ ์ธ์ฆ ์ ๋ณด๋ก ํผํด ๊ธฐ์
์ AI ๋๊ตฌ๋ฅผ ๋๋ ์ฌ์ฉํ๊ณ ๊ทธ ์ด์ฉ ๊ถํ์ ๋ํ๋ LLMJacking ๊ณต๊ฒฉ์ ๋ถ์ํ๊ณ , ์ผ๋ถ ๊ธฐ์
์์๋ ์ ๊ทผ์ด ์ฐจ๋จ๋๊ธฐ๊น์ง ๋์ ์ด์ฉ ์๊ธ์ด 100๋ง ๋ฌ๋ฌ์ ๋ฌํ๋ค๊ณ ๋ฐํ๋ค. Google์ ๋์ฑ
์ผ๋ก ์ธ์ฆ ์ ๋ณด ๊ด๋ฆฌ ๊ฐํ, ๊ถํ ์ต์ํ, AI ๋๊ตฌ ์ด์ฉ๋ยท์๊ธ ์ ํ์ ๊ถ๊ณ ํ๋ค. ๊ทธ ๋ฐ์ OpenAI์ Linux ์ทจ์ฝ์ ์๋ ๋ฐ๊ฒฌยท๊ฒ์ฆ ์ฐ๊ตฌ(1,724๊ฑด ์ฌํ, 948๊ฑด ๊ด๋ฆฌ์ ๊ถํ ํ์ทจ ์
์ฉ ์ค์ฆ), ์๊ตญ NCSC์ AI ์ฌ์ด๋ฒ ์ํ ํ๊ฐ, NIST์ AI ์ธ์๋ํธ ๋์ ์ํฌ์ ๋ณด๊ณ ์ ๋ฑ์ด ํจ๊ป ์๊ฐ๋๋ค.
๊ณต๊ณต ยท AISI-Korea ยท ๐ฌ
๊ณต๊ณต ยท AISI-Korea ยท ๐ฌ
์์นด์ด๋ธ ยท Japan AISI ยท ๐ฌ๐งช
OpenAI๋ 2026๋
10์ 29์ผ frontier ๋ชจ๋ธ์ ํ์ฉ๋์ง ์์ ํ๋์ ํ์งํ๋ ๊ฐ์ ์ฒด์ ๋ฅผ ํ๋ํ๊ณ ๊ทธ ๊ฒ์ฆ ๊ฒฐ๊ณผ๋ฅผ ๊ณตํํ๋ค. ๊ฐ์ ๋์์ ํ์ตยทํ๊ฐยท์ฌ๋ด ์ด์ฉ์์ ์ผ๋ถ ์ธ๋ถ ์ด์ฉ๊น์ง ๋ํ๊ณ , ์ฌ๊ฐํ ๊ฒฝ๊ณ ๊ฐ ๋ฐ์ํ๋ฉด ๋ชจ๋ธ์ด ์คํ ์ค์ธ ํ์ตยทํ๊ฐ ์ฒ๋ฆฌ๋ฅผ ์ผ์ ์ ์งํ๋ค. ์ธ๋ถ ์์คํ
์นจ์
์ฌ๋ก์ ์ฌํ ์ํ์์๋ ์ค์ ์นจ์
์์ ๋ณด๋ค 30์๊ฐ ์ด์ ์์ ์ด์์ ํ์งํ๋ค๊ณ ํ๋ค. ๊ฐ์ ๋ ๊ณต๊ฐ๋ GPT-6 Luna ์์ ์ฑ ํ๊ฐ์์๋ ์ฌ์ด๋ฒ์ ์๋ฌผยทํํ ๋ถ์ผ ๋ฅ๋ ฅ์ ์ฌ๋ด ๊ธฐ์ค "High"๋ก ์ทจ๊ธํด ๊ธฐ์กด ๋ชจ๋ธ๊ณผ ๊ฐ์ ์์ ๋์ฑ
์ ์ ์ฉํ๋ฉฐ, HealthBench์ MentalHealthBench ์ผ๋ถ ์ฑ์ ์ ๊ธฐ์กด ๋ชจ๋ธ์ ๋ฐ๋์๋ค.