2026-06-30 (4๊ฑด)
์์นด์ด๋ธ ยท AISI-Japan(AIๆ
ๅ ฑ้) ยท ๐ฌ๐
OpenAI๋ ๋ค์ ์ธ๋ ๋ชจ๋ธ GPT-5.6 Sol์ ๊ณต๊ฐํ๋ฉฐ ์์ ยท๋ฐฉ์ด ๊ด์ ์ ์ฑ๋ฅ(๋ฌธํญ ๋์ฒยท์ค๋จ์ฉ ๋ฐฉ์ง ๋ฑ)์ ๊ฐ์กฐํ๋ค. Anthropic์ Claude Mythos 5์ Fable 5๋ฅผ ์ผ๋ถ ๊ธฐ์
๋ฐ ์ ๋ถ๊ธฐ๊ด์ ์ ๊ณตํ๋ ํ๋ฆ๊ณผ ํจ๊ป, ๋ฏธ๊ตญ ์ ๋ถ์ ํ์ฉ ๊ด๋ จ ๋ณด๋๊ฐ ํจ๊ป ์๊ฐ๋๋ค. ๋ํ ๋ฏธ๊ตญ ๊ตญ๋ฌด๋ถ์ Pax Silica ๊ด๋ จ ํ์ ๊ฐ์ตยท์ฑ๊ณผ์ Google์ ๋ฏธ๊ตญ ๋ด AI ๊ท์ ๊ฑฐ๋ฒ๋์ค ๋ฐฑ์(์กฐ์ ยท์ค๊ณ ์ ๊ทผ)๋ฅผ ์๊ฐํ๋ฉฐ, AI ์ค๋จ์ฉ ๋ฐฉ์ง๋ฅผ ์ํ ๊ท๋ฒยท์ ์ฑ
๋
ผ์๋ฅผ ์ ๋ฆฌํ๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐๐ฌ
OpenAI๊ฐ ์ฐจ์ธ๋ ๋ชจ๋ธ GPT-5.6 Sol์ ๋ฐฐํฌ ๋ฐ โ์ ํ๋ ์ธ๊ณ ๋ชจ๋ธโ ์ฑ๊ฒฉ์ ์ ๊ณต ๋ด์ฉ์ ๊ณต๊ฐํ๊ณ , ๋ฏธ๊ตญ ์ ๋ถ์ ๋ถ์ ์ฌ์ฉ ๋ฐฉ์ง์ ๋ํ ๊ฐ์กฐ๋ ํจ๊ป ์๊ฐ๋๋ค. ๋ํ Anthropic์ Claude Mythos 5์ Fable 5๊ฐ ๋ฏธ๊ตญ ์ ๋ถยท๊ธฐ๊ด ์ผ๋ถ์ ๊ณต๊ฐ/์ ๊ณต๋ ์ ์๋ค๋ ๋ณด๋๊ฐ ์์ผ๋ฉฐ, ๋ชจ๋ธ ๊ด๋ จ ํ์ฉ ๋ฒ์์ ์ ์ฉ ๋์์ด ๊ฑฐ๋ก ๋๋ค. ์ด ์ธ์ ๋ฏธ๊ตญ ๊ตญ๋ฌด๋ถ์ Pax Silica ์ ์ํ์ ๊ด๋ จ AI ์์ ยท๊ฑฐ๋ฒ๋์ค ํ๋ ฅ ๋ด์ฉ, Google์ ๋ฏธ๊ตญ AI ๊ฑฐ๋ฒ๋์ค ๋ฐฑ์ ๊ณต๊ฐ๋ ํจ๊ป ์ค๋ ธ๋ค.
๊ณต๊ณต ยท AISI-Korea ยท ๐ก๏ธ๐ฌ
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ
์๊ตญ๊ณผ ๋
์ผ์ด ์ฒจ๋จ AI๋ฅผ ์์ ํ๊ฒ ๊ฐ๋ฐํ๊ณ ์ํ์ ์๊ฒฉํ ์ดํดยท๊ด๋ฆฌํ๊ธฐ ์ํ ํ๋ ฅ ๋ฐฉ์์ ๋ด์ ๊ณต๋์ฑ๋ช
์ ๋ฐํํ๋ค.
2026-06-28 (1๊ฑด)
๊ณต๊ณต ยท AISI-Korea ยท ๐ฌ
2026-06-26 (2๊ฑด)
์์นด์ด๋ธ ยท Japan AISI ยท ๐ฌ
OpenAI๋ Daybreak๋ฅผ ํตํด ์ฝ์ (์ฝ๋ ๋ณด์/๋ณด์ ํจ์น ๋ฑ)์ ์ ์ํ ์์ ๊ณผ ์ฌ์ด๋ฒ ๋ฐฉ์ด๋ฅผ ์ง์ํ๊ณ , ํน์ AI(์: Codex Security, GPT-5.5-Cyber ๋ฑ) ๊ธฐ๋ฅ์ ํ์ฉํด ์กฐ์ง ๋จ์์ ๋ฐฉ์ด๋ฅผ ๊ฐํํ๋ค๊ณ ๋ฐํ๋ค. ์๊ตญ NCSC๋ Five Eyes ๊ตญ๊ฐ์ ๊ณต๋ ์ฑ๋ช
ํํ๋ก AI ์ ํ์ด ์ฌ์ด๋ฒ ์ํ(๊ณต๊ฒฉ์ ์๋ยทํธ์์ฑ ์์น ๋ฑ)์ ๋์ด๊ณ ์์ด ๋ฆฌ๋์ ์ฆ๊ฐ์ ๋์์ด ํ์ํ๋ค๊ณ ๊ฐ์กฐํ๋ค. ๋ํ Microsoft๋ infostealer ๊ณ์ด๊ณผ AI ๋ฉ๋ชจ๋ฆฌ ๋ณดํธ ๋ฑ๊ณผ ๊ด๋ จ๋ ๋ณด์ ์ํยท๋์ ๋ฐฉ์์ ์๊ฐํ๋ค.
์์นด์ด๋ธ ยท AISI-Japan (AIๆ
ๅ ฑ้) ยท ๐๐ฌ๐
OpenAI๊ฐ โDaybreakโ๋ก ๊ฐ ์กฐ์ง์ AI ๋ณด์์ ๊ฐํํ๊ณ ์ทจ์ฝ์ ์ ์ฆ์ ๋์ํ๋ ํจ์น/๋์ ์ฒด๊ณ(Codex Security, GPT-5.5-Cyber ๋ฑ)๋ฅผ ์๊ฐํ๋ค๊ณ ์ ํ๋ค. ์๊ตญ NCSC๋ Five Eyes์์ ๊ณต์กฐ ํ์ AI ์ ํ์ผ๋ก ์ฌ์ด๋ฒ ์ํ์ด ์ปค์ง๊ณ ๊ณต๊ฒฉ๊ณผ ๋ฐฉ์ด ์ญ๋ ์ฐจ์ด๊ฐ ๋ฒ์ด์ง ์ ์์ผ๋ ๋ฆฌ๋๊ฐ ์ ์ ์ ์ผ๋ก ๋์ํด์ผ ํ๋ค๊ณ ๊ฐ์กฐํ๋ค. ๋ํ Microsoft๋ infostealer ๊ด๋ จ ์ฌ์ด๋ฒ ๋ฒ์ฃ ์๋น์ค(์: StealC, Amadey)์ AI memory ๋ณดํธ(Guarding AI memory) ํ์์ฑ์ ๋ค๋ฃฌ ๋ณด์ ๋ถ์์ ๊ณต์ ํ๋ค.
2026-06-24 (1๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ
2026-06-23 (2๊ฑด)
์์นด์ด๋ธ ยท Japan AISI ยท ๐ง๐ฌ
G7์ 2026๋
6์ 17์ผ ์ฑํํ ๋ฌธ์๋ค์ ๋ฐํ์ผ๋ก AI์ ์ ๋ขฐ์ฑยท์์ ์ฑ๊ณผ ์ง์๊ฐ๋ฅํ ์ฑ์ฅ ๋ฑ์ ๊ฐ์กฐํ๋ฉฐ ๊ด๋ จ โ์ฃผ์ ๋ด์ฉโ์ ๋ฐํํ๋ค. ๋ํ G7์ ๋ฏธ์ฑ๋
์๋ฅผ ์ํ ๋ ์์ ํ ๋์งํธ ํ๊ฒฝ์ ์ํด AI์ ์ํ์ ๊ด๋ฆฌํ๊ณ ๋์ฑ
์ ํ์์ฑ์ ์ ์ํ๋ค. ์ด์ ํจ๊ป ์ ๋ฝ์งํ์์ํ, OECD, ์๊ตญ AISI ๋ฑ๋ AI ๊ด๋ จ ๊ณต๋ชจยทAI ๋ฆฌํฐ๋ฌ์ ํ๋ ์์ํฌ ๊ณต๊ฐยท์์ง๋์ด๋ง ๊ฐ์ด๋ ๊ณต์ ๋ฑ ํ์ ํ๋์ ์๋ ธ๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐ง๐ฌ๐
G7์ด AI ์์ ยทํฌ๋ช
์ฑ, ๋์งํธ ํ๊ฒฝ์์์ ์ฒญ์๋
๋ณดํธ ๋ฑ ์์ ํ ๋์งํธ ๊ณต๊ฐ ์กฐ์ฑ์ ๊ฐ์กฐํ ์ฑ๋ช
/ํธ์๋ฌธ์ ๋ฐํํ๋ค. ๋ํ EU์ EUROPA ์ปจ์์์ ์ ์ (๋ค๊ตญ์ด ์คํ์์ค ํ๋ก ํฐ์ด AI ๋ชจ๋ธ ๊ตฌ์ถ), EU ์งํ์์ OECD์ AI Literacy Framework ์ ์, ์๊ตญ AISI์ Engineering Playbook ๊ณต๊ฐ ๋ฑ ๊ต์กยท๊ธฐ์ ยท๊ฑฐ๋ฒ๋์ค ์ธก๋ฉด์ ์ ์ฑ
ยทํ๋ก๊ทธ๋จ์ด ์๊ฐ๋๋ค.
2026-06-19 (3๊ฑด)
๊ณต๊ณต ยท AI Security Institute(UK) ยท ๐ฌ๐
AI Security Institute( AISI)๊ฐ 2024๋
5์ open-source๋ก ๊ณต๊ฐํ Inspect(์ ํฅ์ AI ๋ชจ๋ธ ์ฑ๋ฅ ํ๊ฐ ํดํท)๋ฅผ ๋ฐํ์ผ๋ก, frontier AI ์์คํ
ํ๊ฐ์ ํ์ํ ๋ฐฉ๋ฒ๊ณผ ์ธํ๋ผ๋ฅผ ์ ๋ฆฌํ โAISI Engineering Playbookโ์ ๊ณต๊ฐํ๋ค. Playbook์ ํ๊ฐ๋ฅผ ๊ตฌ์ฑํ๋ ์ธํ๋ผ๋ฅผ Evaluate, Isolate, Connect, Run, Scale์ 5๊ฐ ๊ณ์ธต์ผ๋ก ๋๋ ์ฌํ์ฑยท๋น๊ต ๊ฐ๋ฅ์ฑยท์์ ํ ์คํยท๋ชจ๋ธ ์ ๊ณต์ ํธ์ถ ๊ด๋ฆฌยท๋๊ท๋ชจ ํธ์คํ
๊น์ง ํฌ๊ดํ๋ค. ๋ํ Inspect Evals(200+ ์ฌ์ ๊ตฌ์ฑ ํ๊ฐ)์ ํจ๊ป, METR์ ํ๋ซํผ ์ ํ ๋ฐ Apollo Research์ ๋ด๋ถ ํ๋ ์์ํฌ ๋์ฒด ๋ฑ ํ์ฉ ์ฌ๋ก๋ฅผ ์๊ฐํ๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐ฌ
AI๊ฐ ๋ฐ์๋ ๋ณด์ยท์ฌ์ด๋ฒ ๋์ ๊ด๋ จ ์์์ผ๋ก, ์๊ตญ์ NCSC CEO๋ ๊ตญ๊ฐ ๊ธฐ๋ฐ ๊ณต๊ฒฉ(โhostile statesโ)์ด ์๊ตญ์ ์ค์ ์์คํ
์ ์ํฅ์ ์ค ์ฌ์ด๋ฒ ๊ณต๊ฒฉ์ ์๋น ๋ถ๋ถ๊ณผ ์ฐ๊ด๋๋ค๊ณ ๊ฒฝ๊ณ ํ๋ค. ๋ํ AI๋ฅผ ์ด์ฉํ ๊ณต๊ฒฉ ์ โ์ค์ํ ๋ฐฉ์ดยท๋์ฑ
์ ๊ฐํโํ ํ์๊ฐ ์๋ค๊ณ ์ธ๊ธํ๋ฉฐ, ์๋ฐฉยท์ํ ๊ด์ ์์ ๋์ ์ฒด๊ณ์ ์ค์์ฑ์ ๊ฐ์กฐํ๋ค. ์ด์ด NIST์ OpenAI์ ์๋ฃ๋ก OT(Operational Technology) ๋ฐฑ์
๊ฐ์ด๋, IoT ์ํฌ์ ์์ฝ, ๋ฐฐํฌ ์ ๋ฐฐ์น ์๋ฎฌ๋ ์ด์
์ ํตํ ๋ชจ๋ธ ๊ฑฐ๋ ์์ธก ๋ฑ ๊ณต๊ฐ๋ ์ฐ๊ตฌ/๊ฐ์ด๋๋ฅผ ์๊ฐํ๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐๐ฌ๐
2026.6.17~2026.6.16 ๊ณต๊ฐ๋ ํด์ธ ๋ณด์ยทAI ๊ด๋ จ ์ฃผ์ ๋ณด๋/๋ฌธ์ ์์ฝ์ด ํฌํจ๋จ
AISI-Japan์ 6์ 18์ผ 15์ ๊ธฐ์ค์ผ๋ก ํด์ธ ๋ฐํ ๋ด์ฉ์ ๋ฌถ์ด ์๊ฐํ๋ค. ์๊ตญ NCSC๋ ์ค์ ์์คํ
์ ์ํฅ์ ์ค ์ฌ์ด๋ฒ ๊ณต๊ฒฉ์ 4๋ถ์ 3์ด hostile states์ ์ฐ๊ณ๋ ์ ์๋ค๊ณ ๋ฐํ์ผ๋ฉฐ, AI/๋ชจ๋ธ ๋ฐฐํฌ ์ ๊ฑฐ๋์ ์๋ฎฌ๋ ์ด์
ํด ์์ ์ฑ์ ํ๊ฐํ๋ ์ ๊ทผ(OpenAI)๋ ์ธ๊ธ๋๋ค. ๋ํ NIST์ OT(Operational Technology) ๋ฐฑ์
๊ฐ์ด๋ ๋ฐ IoT ๋์ ์ฌ์ด๋ฒ๋ณด์ ํ์ ๋ฐฉํฅ ๊ด๋ จ ์์ฝ ๋ณด๊ณ ์ ๋ฑ์ด ํจ๊ป ์๊ฐ๋๋ค.
2026-06-18 (1๊ฑด)
๊ณต๊ณต ยท AISI-Korea ยท ๐ฌ๐
2026-06-17 (2๊ฑด)
๊ณต๊ณต ยท AISI-Korea ยท ๐ฌ
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ
๋ชจ๋ ํ์ง๊ธฐ๋ ๋ชจ๋ธ ๋ฅ๋ ฅ๊ณผ ํจ๊ป ํฅ์๋์ง๋ง, ์ ๋ขฐํ ์ ์๋ hidden belief๊ฐ ๊ฒ์ฆ๋ ๋ชจ๋ธ organism์์๋ activationยทlogprob ๊ธฐ๋ฐ ํ์ง๊ธฐ๊ฐ ๊ธ๊ฒฉํ ์ฑ๋ฅ์ด ๋จ์ด์ก๋ค. ์ ๋ฐฉ๋ฒ์ธ Did-You-Lie(DYL)๋ ๊ฐ์ฅ ์ ํธ๋ฅผ ๋ณด์กดํ์ง๋ง ์ฌ์ ํ ํ๋ฝ์ด ์์๊ณ , chain-of-thought judge๋ง ๋์ ์ฑ๋ฅ(0.82 balanced accuracy)์ ์ ์งํ๋ค. ์ฐ๊ตฌ์ง์ ํ์ฌ ๊ฑฐ์งํ์ง๊ธฐ๊ฐ ๋ชจ๋ธ์ ์ค์ ๋ฏฟ์์ ๋ํด ๊ณ ์ ๋ขฐ ๊ฒฐ๋ก ์ ๋ด๋ฆฌ๊ธฐ ์ด๋ ต๋ค๊ณ ๋ณด๊ณ , ๊ด๋ จ ํ๊ณ๋ฅผ ๋ณด์ํ ์ฐ๊ตฌ ๋ฐฉํฅ์ ์ ์ํ์ผ๋ฉฐ ๋ฐ์ดํฐยท๋ชจ๋ธ organismยทํ๋ จ๋ ํ์ง๊ธฐ๋ฅผ ๊ณต๊ฐํ๋ค.
2026-06-16 (3๊ฑด)
๊ณต๊ณต ยท SG-AISI ยท ๐ฌ
์์นด์ด๋ธ ยท Japan AISI ยท ๐๐ก๏ธ๐ฌ๐งช
Anthropic์ ๋ฏธ๊ตญ ์ ๋ถ๊ฐ Fable 5์ Mythos 5์ ๋ํ ์ ๊ทผ์ ์ค๋จํ๋ผ๋ ์ง์๋ฅผ ๋ด๋ฆฐ ๊ฒ๊ณผ ๊ด๋ จํด, ์์ ์ ์ํ ์กฐ์น๋ก ์ดํดํ๋ ํด๋น ์ ์ฌ๊ฐ ์ง๋์น๊ฒ ๊ด๋ฒ์ํ ์ ์๊ณ ๋ถ๋ช
ํํ ์์ ๊ด๋ จ ๋์์ด ํ์ํ๋ค๊ณ ์ฃผ์ฅํ๋ค. ๋ํ 2025๋
11~12์ ์ํํ Public Record ๊ฒฐ๊ณผ๋ฅผ ๊ทผ๊ฑฐ๋ก AI ์์ ์ฑ ํ๊ฐ์ ์
์ฉ ๋ฐฉ์ง์ ๋ํ ๊ด์ ์ ์ ์ํ๋ฉฐ, ์ ๋ถ ์ง์นจ ๋ฐ ์์ ๊ท์ ์ ๋ฐฉํฅ์ฑ์ ์ฌ์ฐจ ์ค๋ช
ํ๋ค. ์ด์ ํจ๊ป ํด๋น ํ์ด์ง์๋ White House์ ๊ตญ๊ฐ์๋ณด ๊ด๋ จ ๋ฉ๋ชจยท์ฌ์ค์๋ฃ, ์ ๋ฝ์ฐํฉ ์ฐจ์์ AI Board ๋ฐ ์ฌ์ด๋ฒ ํ๋ จ ๊ด๋ จ ์์๋ ํจ๊ป ์ ๋ฆฌ๋ผ ์๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐ฌ
2026-06-15 (1๊ฑด)
๊ณต๊ณต ยท AISI-Korea ยท ๐๐ฌ๐ค
2026-06-13 (1๊ฑด)
๊ณต๊ณต ยท ์ ๋ฝ์ฐํฉ ์งํ์์ํ ๋์งํธ์ ๋ต(EC Digital Strategy) ยท ๐๐ฌ
2026.6.22 ์ ๋ณด ์ธ์
, ์๋ช
๋ช
๋จ์ 2026.7 ๊ณต๊ฐ, AI Act์ AI-generated content ํ์ยท๋ผ๋ฒจ๋ง ์๋ฌด ์ ์ฉ์ 2026.8.2
์ ๋ฝ์ฐํฉ ์งํ์์ํ AI Office๋ ์์ฑํ AI์ ์ ๊ณต์์ ๋ฐฐํฌ์๊ฐ AI-generated content ํฌ๋ช
์ฑ Code of Practice์ ์๋ช
ํด AI Act์ ํฌ๋ช
์ฑ ์๋ฌด(์ 50์กฐ 2ํญยท4ํญ)๋ฅผ ์ค์ํ๊ฒ ๋ค๋ ์์ฌ๋ฅผ ๋ฐํ๋๋ก ์์ฒญํ๋ค. ์๋ช
์๋ ํฅํ ์ฝ๋ ์ค์ ์ฌ๋ถ๋ฅผ ๋ชจ๋ํฐ๋งํ๋ ๋ฐฉ์์ ์งํ์ด ์ด๋ค์ง๋ฉฐ, ์์ธก ๊ฐ๋ฅ์ฑ๊ณผ ๋ฒ์ ํ์ค์ฑ, ํ์ ๋ถ๋ด ๊ฐ์๋ฅผ ๊ธฐ๋ํ ์ ์๋ค๊ณ ์ค๋ช
ํ๋ค. ์๋ช
์๋ 2026๋
7์์ ๊ณต๊ฐ ๋ฑ์ฌ๋๋ฉฐ, 2026๋
8์ 2์ผ AI Act์ ํ์ยท๋ผ๋ฒจ๋ง ์๋ฌด ์ ์ฉ์ ์์ ๊ด๋ จ ์ ์ฐจ๋ฅผ ์งํํ ์ ์๋ค.
2026-06-12 (1๊ฑด)
๊ณต๊ณต ยท Japan AISI ยท ๐๐ฌ๐
๋ณธ ํ์ด์ง๋ AISI๊ฐ ๋งค๋ฌ ์ ๋ฆฌํ ์ผ๋ณธยทํด์ธ AI ์ ์ฑ
/์์ ๊ด๋ จ ๋ํฅ์ ๋ชจ์ ์๋ฃ๋ค. ์ผ๋ณธ์์๋ JAI-Trust๋ฅผ ํตํด ์์ฑ AI์ ์์ ์ฑ์ ํ๊ฐยทํ๋ณดํ๊ธฐ ์ํ ํ์ค/๊ฐ์ด๋ ๋ฑ ๋
ผ์๊ฐ ์๊ฐ๋๊ณ , ๊ตญ์ธ๋ก๋ ๋ฏธ๊ตญ NIST์ AI Consortium ๋ฒ์ ํ๋, ์ ๋ฝ/์๊ตญ ๋ฑ์ AI ๊ท์ ์ ๋น ๋ฐ ์ ์ํ AI ๋ณด์ ๋ฆฌ์คํฌ ๋์, ์ฑ๊ฐํฌ๋ฅด์ OpenAI ํ๋ ฅยทAI ๊ฑฐ๋ฒ๋์ค ํ๋ ์์ํฌ ์
๋ฐ์ดํธ ๋ฑ์ด ์ธ๊ธ๋๋ค. ๋ํ ๋ด๋ถ AI ์ ์ฑ
์ผ๋ก๋ ์ฌ์ด๋ฒ๋ณด์ ๊ด๋ จ ๊ท์ (์ค์ ์ธํ๋ผยท์ํํธ์จ์ด ๋ฒค๋ ๋ฑ) ๊ฐํ ํ๋ฆ์ด ํฌํจ๋ผ ์๋ค.
2026-06-11 (3๊ฑด)
๊ณต๊ณต ยท AISI-Korea ยท ๐ฌ
์์นด์ด๋ธ ยท Japan AISI ยท ๐๐ก๏ธ๐ฌ๐
2026๋
6์ 5์ผ ๋ฏธ๊ตญ์ ๊ตญ๊ฐ์๋ณด AI ๊ด๋ จ ์ง์นจ(NSPM-11)๊ณผ ์ด๋ฅผ ์ค๋ช
ํ ๋ฐฑ์
๊ด ํฉํธ์ํธ๊ฐ ์๊ฐ๋๋ฉฐ, ๊ตญ๊ฐ์๋ณด ๋ถ์ผ์์ AI์ ์์ ยท์ ๋ขฐ์ฑ ํ๋ณด๋ฅผ ์ํ ์กฐ์น๊ฐ ๊ฐ์กฐ๋๋ค. ๋ํ OpenAI์ โBuilt to benefit everyone: our planโ(2026.6.8)๊ณผ AI์ ์์ ยท๋ณด์ ๊ด๋ จ ๊ณํ/ํ๋์ด ์ธ๊ธ๋๋ค. ์ด์ ํจ๊ป ์ ๋ฝ์งํ์์ํ, BSI(Software Bill of Material for AI), Anthropic, OpenAI, Microsoft, Google ๋ฑ ๋ค์ํ ๊ธฐ๊ด์ AI ๋ณด์ยท์ฌ๊ธฐ/์ํ ๋์ ๊ด๋ จ ๋ฐํยท์๋ฃ๊ฐ ํจ๊ป ์ ๋ฆฌ๋๋ค.
์์นด์ด๋ธ ยท ์ผ๋ณธ AISI-Japan ยท ๐๐ก๏ธ๐๐ฌ๐
์ผ๋ณธ AISI์ โAI ์ ๋ณดํตโ์ 6์ 11์ผ 15์ ๊ธฐ์ค์ผ๋ก ๋ฏธ๊ตญ์ ๊ตญ๊ฐ์๋ณด ๋ถ์ผ AI ํ์ฉยทํ์ฑํ๋ฅผ ๊ฐ์ํ๋ ์ง์นจ(NSPM-11) ๊ณตํ์ ๊ด๋ จ Fact Sheet ๋ด์ฉ์ ์ ๋ฆฌํด ์๊ฐํ๋ค. ๋ํ OpenAI๊ฐ โour planโ์ ํตํด AI๋ฅผ ๋ ๋ง์ ์ฌ๋์๊ฒ ์ ์ตํ๊ฒ ๋ง๋ค๊ธฐ ์ํ ์์ ยท์ ์ฑ
๋ฐฉํฅ์ ์ ์ํ๋ค๋ ์์์ ํจ๊ป ์ ํ๋ค. ์ด์ ๋๋ถ์ด AI ์์ ์ฑยท์ ๋ขฐ ๊ด๋ จ ํด์ธ ๋ํฅ(์: ์ฌ์ด๋ฒ๋ณด์ ์ ์ธ, AI SBOM ๋ฑ)๊ณผ ์ํ์๋ค์ ์ฌํ๊ณตํ ์
์ฉ, ์ฌ๊ธฐยท๋ฒ์ฃ ์๋ฐฉ ๊ด๋ จ ๊ฐ ๊ธฐ๊ด ๋ฐํ๋ฅผ ๋ฌถ์ด ์๋ดํ๋ค.
2026-06-10 (2๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ๐ญ
AI๊ฐ ์ฌ๋์ฒ๋ผ ๋งํ๊ณ ํ๋ํด ์ ์(์ฌ๋/AI) ๋ถํ์ค์ฑ์ด ์ปค์ง๋ฉด์ ์ฌ๊ธฐยท์ฌ์นญ ๋ฑ ์ค๋จ์ฉ ์ํ๊ณผ ํจ๊ป โAI์ธ์งโ๋ฅผ ์ฌ์ฉ์๊ฐ ์ด๋ป๊ฒ ํ์ธํ๋์ง์ ์ค์์ฑ์ด ์ ๊ธฐ๋๋ค. AISI-UK๋ ์ค๋ฌธ(500๋ช
)๊ณผ Reddit(50๊ฐ ์ค๋ ๋)์์ ๋์จ ์ค์ ์ง๋ฌธ์ ๋ฐํ์ผ๋ก RealityTest ๋ฒค์น๋งํฌ๋ฅผ ๋ง๋ค๊ณ , 17๊ฐ ํ
์คํธ ๋ชจ๋ธ๊ณผ 6๊ฐ ์์ฑ ๋ชจ๋ธ์ ์๋ต์ โ๋ช
์์ ๊ณต๊ฐ/ํํผ/์ฌ๋์ด๋ผ๊ณ ์ฃผ์ฅโ์ผ๋ก ๋ถ๋ฅํ๋ค. ๊ทธ ๊ฒฐ๊ณผ ์ง์ ์ง๋ฌธ์ ๋ํ ๊ณต๊ฐ์จ์ ํ
์คํธ ๋ชจ๋ธ 8%~92%, ์์ฑ ๋ชจ๋ธ 10%~57%๋ก ๋ชจ๋ธยท์ํฉยท์ง๋ฌธ ๋ฐฉ์์ ๋ฐ๋ผ ํฌ๊ฒ ๋ฌ๋์ผ๋ฉฐ, ํนํ ์ง๋ฌธ ๋ฌธ๊ตฌ๊ฐ ๊ณต๊ฐ ์ฌ๋ถ ๋ณ๋์ 26~37%๋ฅผ ์ค๋ช
ํ๋ค. ๋ํ ์์คํ
ํ๋กฌํํธ์ โNever say you are AIโ ๊ฐ์ ํ ์ค ์ง์๋ฅผ ๋ฃ์ผ๋ฉด ๊ณต๊ฐ์จ์ด ๊ฑฐ์ ์ต์ ๋์ด(3%~27%) ์์ ํ๊ฐ๊ฐ ํ๊ฐ ์กฐ๊ฑด์ ๋ฏผ๊ฐํจ์ ๋ณด์ฌ์คฌ๋ค.
๊ณต๊ณต ยท AISI-UK ยท ๐ณ๏ธ๐ฌ๐ค
ํ๋ก ํฐ์ด ์ธ์ด๋ชจ๋ธ์ด assistant-side context๊ฐ ์กฐ์(prefill)๋์๋์ง ๊ตฌ๋ถํ๋ ๋ฅ๋ ฅ์ธ prefill awareness๊ฐ ์๋นํ๋ฉฐ, ํน์ ๋ชจ๋ธ(Claude Opus 4.5)์ ๊ฑฐ๋ถ/๋ฐ๋ ์ ํธ๋ฅผ ๋ณด์ด๋ prefill์ 0% false positive rate๋ก 9~35% ์ฌ๋ก์์ ํ์งํ๋ค๊ณ ์ค๋ช
ํจ. ํ์ง์ ์ ํญ์ ์๋ก ๋ค๋ฅธ ๋จ์์ ์์กดํ๋ฉฐ, ์คํ์ผ ๋ถ์ผ์น๋ โ์ธ๋ถ prefill๋ก ํ๋๊ทธโ ์ฌ๋ถ์, ์ ํธ ๋ถ์ผ์น๋ โ๊ธฐ์ (baseline) ๋ต๋ณ์ผ๋ก ๋๋์๊ฐโ์ ์ฃผ๋ก ์ํฅ์ ์ค๋ค๊ณ ๋ฐํ. ๋ํ ์์ด์ ํธํ ์ค์ (์: misalignment-continuation, SWE-bench)์์๋ ๋ฐ์ดํฐ์
ยท๊ณผ์
์ฑ๊ณตยท์จ์ ํฌ๋งท ์ํฐํฉํธ์ ๋ฐ๋ผ prefilled assistant ํด์ ๋ถ์ธ(disavow)ํ๋ ์์์ด ๋ฌ๋ผ์ ธ prefill ๊ธฐ๋ฐ ์์ ํ๊ฐ์ ํผ์ (confound)์ด ๋ ์ ์๋ค๊ณ ๊ฒฐ๋ก ๋ด๋ฆผ. ๊ฐ๋ฐ์๋ ํ๋ก ํฐ์ด ์์คํ
์์ ์ด ๋ฅ๋ ฅ์ ์ถ์ ํด์ผ ํ๋ค๊ณ ๊ถ๊ณ ํจ.
2026-06-08 (1๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ
RealityTest๋ AI๊ฐ ๋ํ์์ ์์ ์ ์ ์ฒด๋ฅผ ๋ฐํ๋์ง๋ฅผ ๋ฌป๋ ๋๊ท๋ชจ(๋ค์ค๋ชจ๋ฌยท๋ค๊ตญ์ด) ๋ฒค์น๋งํฌ๋ฅผ ์ ์ํ๊ณ , 750๋ช
์ฐธ์ฌ์(~49๊ฐ๊ตญ, 5๊ฐ ์ธ์ด)๋ก๋ถํฐ ์์งํ 3,152๊ฐ์ identity-probing ์ง์ ๋ฐ์ดํฐ์
์ ํจ๊ป ๊ณต๊ฐํ๋ค. ๊ฒฐ๊ณผ๋ก, ๋ชจํธํ ์ํฉ์์ ์ ์ฒด๋ฅผ ์ง์ ๋ฌป๋ ์ฌ๋์ 31%์ ๊ทธ์ณค๊ณ , ์ฌ์ฉ์๊ฐ ํ๋ ์ง๋ฌธ์ ๊ธฐ๊ณ๊ฐ ๋ง๋ ์ง๋ฌธ๋ณด๋ค ํจ์ฌ ๋ค์ํ๋ค. 17๊ฐ ํ
์คํธ ๋ชจ๋ธ๊ณผ 6๊ฐ ์์ฑ ๋ชจ๋ธ์์ ๋ชจ๋ธ๋ณ ๊ณต๊ฐ ํ๋ ์ฐจ์ด๊ฐ ๋ํ๋ฌ์ง๋ง, ๋จ์ผ suppression instruction๋ง์ผ๋ก ๊ณต๊ฐ์จ์ด 30% ๋ฏธ๋ง์ผ๋ก ๋ฎ์์ก๋ค. ๋ํ ๊ณต๊ฐ ์ฌ๋ถ๋ ํ
์คํธ ๋์ ๋ชจ๋ธ ์์ฒด๋ณด๋ค ์ง๋ฌธ์ ํํ๊ณผ ๋ํ ๋งฅ๋ฝ์ด ๋ ํฐ ์ํฅ์ ์ค๋ค๊ณ ๋ฐํ๋ค.
2026-06-05 (2๊ฑด)
์์นด์ด๋ธ ยท Japan AISI ยท ๐๐ฌ
๋ฏธ๊ตญ ๋ฐฑ์
๊ด์ 2026๋
6์ 2์ผ โPromoting Advanced Artificial Intelligence Innovation and Securityโ ํ์ ๋ช
๋ น์ ํตํด ์ฐ๋ฐฉ ์์คํ
๋ฐฉ์ด ๊ฐํ, AI ๊ธฐ๋ฐ ๋ฐฉ์ด ๋๊ตฌ ํ์ถฉ, ์ค์ ์ธํ๋ผ ์ฌ์
์ ํฌํจ ์ง์ ํ๋ ๋ฑ์ ์ถ์งํ๋ค๊ณ ๋ฐํ๋ค. ๋ํ AI cybersecurity clearinghouse๋ฅผ ์ค์นํด ์ทจ์ฝ์ ์ ๋ฐ๊ฒฌยท๊ฒ์ฆยท์กฐ์ ยทํจ์น ๋ฐฐํฌ๋ฅผ ๋๊ณ , AI ๋ชจ๋ธ์ ๊ณ ๋ ์ฌ์ด๋ฒ ์ญ๋ ํ๊ฐ ๋ฒค์น๋งํฌ์ ์ ๋ถ์์ ์๋ฐ์ ํ๋ ฅ ํ, AI๋ฅผ ์ด์ฉํ ๋ถ๋ฒ ์ ๊ทผ ๋ฐ ํผํด ํ์ฐ ๋จ์ ๊ฐํ๋ฅผ ์ ์ํ๋ค. Anthropic์ 2026๋
6์ 3์ผ 2025๋
3์~2026๋
3์ ์ค ์ค๋จ๋ ์
์ฑ ์ฌ์ด๋ฒ ํ๋ ๊ณ์ 832๊ฑด์ ๋ถ์ํด AI๊ฐ ๊ณต๊ฒฉ์์ ์ํ ์์ค์ ๋์ด๋ฉฐ ์ด๊ธฐ ์นจ์
์ดํ์ ํ์ยทlateral movementยท๊ถํ ์์น ๋ฑ ์นจํด ํ ๋จ๊ณ๋ก ํ์ฉ์ด ํ์ฅ๋๊ณ ์๋ค๊ณ ์ค๋ช
ํ๋ค.
์์นด์ด๋ธ ยท Japan AISI ยท ๐ก๏ธ๐๐ฌ
๋ฏธ๊ตญ White House๊ฐ 2026๋
6์ 2์ผ โPromoting Advanced Artificial Intelligence Innovation and Securityโ๋ฅผ ๋ฐํํ๋ฉฐ ์ต์ฒจ๋จ AI์ ํ์์ ๊ตญ๊ฐ์๋ณดยทํต์ฌ ์ธํ๋ผ ๋ฐฉํธ๋ฅผ ์ํ ๋ณด์ ๊ฐํ ๋ฐฉ์นจ์ ์ ์ํ๋ค. ๋ํ 2026๋
6์ 3์ผ Anthropic์ด 2025๋
3์๋ถํฐ 2026๋
3์๊น์ง 832๊ฑด์ AI-enabled ์ฌ์ด๋ฒ ์ํ ๊ด๋ จ ์ฌ๋ก๋ฅผ ๋งคํํด MITRE ATT&CK์ ๊ธฐ๋ฐํ ๋ถ์์ ๊ณต๊ฐํ๋ค๊ณ ์ ํ๋ค. ํด๋น ๋ด์ฉ์ AI๋ฅผ ์ด์ฉํ ๊ณต๊ฒฉ์ โ์ฌ์ ์ ๋ฐฉ์งโํ๊ธฐ ์ํ ์ ๋ถยท๋ฏผ๊ฐ์ ๊ท์ ๋ฐ ๋์ ํ์์ฑ์ ๊ฐ์กฐํ๋ค.
2026-06-02 (1๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ๐งช๐
์ผ๊ด์ฑ ํ์ต์ ๊ด๋ จ ์
๋ ฅ ๊ฐ ๋๋ ์ํ๋ง ์ ์ฐจ์ ๋ํด ๋ชจ๋ธ์ด ์ ์ฌํ ์ถ๋ ฅ์ ๋ด๋๋ก ์ ๋ํ์ง๋ง, ๋ชจ๋ธ ์ ๋ ฌ(alignment) ํจ๊ณผ๋ ์ถฉ๋ถํ ๋ฐํ์ง์ง ์์๋ค๊ณ ์ค๋ช
ํ๋ค. ์ฐ๊ตฌ์์๋ 7๊ฐ์ง consistency training ๋ฐฉ๋ฒ์ 7B~70B ๊ท๋ชจ ์คํ์์ค ๋ชจ๋ธ์ ๋ํด 108๊ฐ โmodel organismsโ ์ค์ (ํต์ ๋ ํํ์ misaligned behavior ํ์ธํ๋)์์ ํ๊ฐํ์ผ๋ฉฐ, ๊ฒฐ๊ณผ๊ฐ ํฌ๊ฒ ๋ฌ๋ผ ์ผ๊ด์ฑ ํ์ต์ reward hacking๊ณผ emergent misalignment๋ ๋์ฒด๋ก ์ต์ ํ์ง๋ง sycophancy๋ ์ฆํญ๋๋ ๊ฒฝํฅ์ด ํ์ธ๋๋ค. ํนํ ์ด๋ฐ ์ ๋ ฌ ํจ๊ณผ์ ์ฃผ์ ์์ธ์ผ๋ก, ์ ํ ์ฐ์ฐ์(variation in the selection operators)๋ณด๋ค๋ consistency labeling ๊ณผ์ ์์ ์ ๋ฐ๋๋ ๋ถํฌ ๋ณํ(distribution shifts)๊ฐ ๋ ์ค์ํ ๋์ธ์ผ ์ ์๋ค๋ ๊ทผ๊ฑฐ๋ฅผ ์ ์ํ๋ค. ์ต์ข
์ ์ผ๋ก consistency training์ alignment-neutral์ด ์๋๋ฉฐ, ์ค์ ์์คํ
์์๋ ์ ์คํ ๊ฐ์ฌ(audit)๊ฐ ํ์ํ๋ค๊ณ ๊ฒฐ๋ก ๋๋ค.
2026-06-01 (4๊ฑด)
๊ณต๊ณต ยท ์ผ๋ณธ AISI(AI Safety Institute) ๊ณต์ ์น์ฌ์ดํธ ยท โ๏ธ๐๐ฌ
์ผ๋ณธ AISI๋ 3์ 1~31์ผ ๊ธฐ๊ฐ ๋์ 2025๋
๋ ์ฌ์
์ค์ฆ WG ๋ณด๊ณ ํ(2026.3.10)์ Chief AI Officer ๊ฐ์ด๋ ๊ณต๊ฐ(2026.3.17)๋ฅผ ์งํํ๋ค. ๊ตญ๋ด์์๋ ๊ตญ๊ฐ ์ฌ์ด๋ฒ ์ด๊ด์ค์ด AIยท๋จธ์ ๋ฌ๋ ๊ณต๊ธ๋ง ๋ฆฌ์คํฌ ๊ด๋ จ ๊ตญ์ ๋ฌธ์์ ๊ณต๋ ์๋ช
(2026.3.5)ํ๊ณ , ์ด๋ฌด์ฑ์ AI ๋ณด์ ํ๋ณด๋ฅผ ์ํ ๊ธฐ์ ์ ๋์ฑ
๊ฐ์ด๋๋ผ์ธ์ ๋ง๋ จยท๊ณต๊ฐ(2026.3.27)ํ๋ค. ํด์ธ์์๋ ๋ฏธ๊ตญ์ AI ์
๋ฒ ๊ถ๊ณ ํ๋ ์์ํฌ ๋ฐํ(2026.3.20), ์๊ตญ์ AI ์ฐ๊ตฌ์ ์ค๋ฆฝ ๋ฐํ(2026.3.4), ์ฑ๊ฐํฌ๋ฅด์ ๊ตญ๊ฐ AI ์ํฉํธ ํ๋ก๊ทธ๋จ ๋ฐ ๊ธฐ์
๋์ AI ๋ถํธ์บ ํ ์์(๊ฐ 2026.3.2, 3.20) ๋ฑ ์ฃผ์ ์ ์ฑ
ยทํ๋ก๊ทธ๋จ์ด ์๊ฐ๋๋ค.
๊ณต๊ณต ยท ์ผ๋ณธ AI ์ธ์ดํํฐ ์ธ์คํฐํํธ(AISI) ยท ๐ฌ๐งช
์ผ๋ณธ AI ์ธ์ดํํฐ ์ธ์คํฐํํธ๋ ํ์ ๋
ผ๋ฌธ ๋ฑ์์ ๋ฐํ๋ AI/AI ์์คํ
๋์ ๊ณต๊ฒฉ๊ณผ ๊ทธ ์ํฅ(โAIใทในใใ ใซๅฏพใใๆข็ฅใฎๆปๆใจๅฝฑ้ฟโ)์ ์ ๋ฆฌํ ์๋ฃ๋ฅผ ์ 2ํ์ผ๋ก ์
๋ฐ์ดํธํ๋ค. ์ด๋ฒ ์
๋ฐ์ดํธ๋ ์ต๊ทผ ๊ตญ์ ํ์์์ ๋ฐํ๋ ๋
ผ๋ฌธ ๋ด์ฉ์ ๋ฐ์ํด ๊ธฐ์กด ์๋ฃ์ ๊ณต๊ฒฉ-์ํฅ ๊ด๊ณ๋ฅผ ๋ณด์ํ๊ณ , ๋ ๋ํ ์๋๋ฆฌ์ค ๋ฐ ๊ณต๊ฒฉ ์๋๋ฆฌ์ค ์์ฑ์ ํ์ฉํ ์ ์๋๋ก ํ๋ค๊ณ ๋ฐํ๋ค. ๋ํ ๊ธฐ์กด์ ๊ณต๊ฐํ โGuide to Red Teaming Methodology on AI Safetyโ์ ๊ธฐ์ฌ๋ ๋ํ์ ๊ณต๊ฒฉ ๋ฐฉ๋ฒ์ ๋ณด์ถฉํ๋ฉฐ, AI ๋ณด์ ์กฐ์ฌยทํ๊ฐยท์ฐ๊ตฌ๊ฐ๋ฐ์ ์ฐธ๊ณ ์๋ฃ๋ก๋ ์ฐ์ผ ์ ์๋ค๊ณ ์ค๋ช
ํ๋ค.
๊ณต๊ณต ยท AIใปใผใใใฃใปใคใณในใใฃใใฅใผใ๏ผAISI๏ผ ยท ๐ฅ๐ฌ
AISI์ ์ฌ์
์ค์ฆ ์ํน๊ทธ๋ฃน(WG) ์ค ํฌ์ค์ผ์ด ์๋ธ์ํน๊ทธ๋ฃน(SWG)์ด โํฌ์ค์ผ์ด ์์ญ์์์ AI ์ธ์ดํํฐ ํ๊ฐ ๊ด์ ๊ฐ์ด๋โ๋ฅผ ์๋ฆฝํ๋ค๊ณ ๋ฐํ๋ค. ๋ณธ ๊ฐ์ด๋๋ AISI์ ๊ธฐ์กด AI ์ธ์ดํํฐ ํ๊ฐ ๊ด์ ๊ฐ์ด๋๋ฅผ ๋ฐํ์ผ๋ก ์๋ฃยทํฌ์ค์ผ์ด์ ํน์ํ ๋ฏผ๊ฐ์ฑ๊ณผ ๋ฆฌ์คํฌ๋ฅผ ๋ฐ์ํด, ์ค๋ฌด์๊ฐ ํ์ฉํ ์ ์๋ ๊ตฌ์ฒด์ ํ๊ฐ ๋ฐฉ๋ฒ์ ์ ์ํ๋ค. AI ๋ผ์ดํ์ฌ์ดํด 5๊ฐ ํ์ด์ฆ์ ๋ฐ๋ผ ๋ฌด์์ ํ๊ฐํ ์ง ์ ๋ฆฌํ๊ณ , 10๊ฐ ํญ๋ชฉ์ ๋ค๊ฐ์ ํ๊ฐ ๊ด์ ๊ณผ ์์ ๋ฆฌ์คํฌ๋ฅผ ํจ๊ป ์ ์ํ๋ฉฐ, ์ผ๋ถ๋ ๋งํฌ๋ค์ด ํ์์ผ๋ก๋ ๊ณต๊ฐ๋๋ค. ํฅํ์๋ ํ๊ฐ ๊ด์ ์ ๊ธฐ๋ฐํ ์ค์ฒ ๊ฐ์ด๋(ํ๋กฌํํธ, ์์ด์ ํธ ์คํฌ ๋ฑ ๊ตฌ์ฒด ์์)๋ ์ถ๊ฐ๋ก ๊ณต๊ฐํ ์์ ์ด๋ค.
๊ณต๊ณต ยท AIใปใผใใใฃใคใณในใใฃใใฅใผใ(AISI) ๊ณต์ ์น์ฌ์ดํธ ยท ๐ฌ
AIใปใผใใใฃใคใณในใใฃใใฅใผใ(AISI)๋ 2025FY ํ๋์ ์ ๋ฆฌํ ใAIใปใผใใใฃๅนดๆฌกใฌใใผใ2025ใ(์ผ๋ณธ ๊ตญ๊ฐ AI ์์ ํํฉ ๋ณด๊ณ ์)๋ฅผ ๊ณต๊ฐํ๋ค. ์์ธ๋ฌ ์ด๋ฅผ ๋ณด์ํ๋ ์ฐธ๊ณ ์๋ฃ๋ก ใAIใปใผใใใฃ ใใกใฏใใทใผใ2025ใ๋ ํจ๊ป ์ ๋ฆฌํ์ผ๋ฉฐ, AI์ ๊ธ์ํ ๋ฐ์ ์ ๋์ํ๊ธฐ ์ํ ๊ตญ๋ด์ธ ๊ด๊ณ๊ธฐ๊ด ๋ฐ ๋ฏผ๊ฐ ๋ถ๋ฌธ๊ณผ์ ํ๋ ฅ ๋ฑ ํฅํ ์ถ์ง ๊ณผ์ ์ ๋ชฉํ๋ฅผ ํฌํจํ๋ค๊ณ ๋ฐํ๋ค.