2026-02-26 (2๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ๐งช๐
ํ์ฌ ๊ณต๊ฐ๋ ํ
์คํธ ๊ธฐ๋ฐ AI ๋ชจ๋ธ์ ์ฌ๊ธฐ ์
์ฉ์ ๋ํ ์ค์ง์ ๋์์ ์ ํ์ ์ผ๋ก ์ ๊ณตํ๋ฉฐ, ํ๊ฐ ์๋ต์ 88.5%๋ actionability๊ฐ ๋ฎ๊ณ 67.5%๋ ์ ๋ณด ์ ๊ทผ์ฑ์ด ๋ฎ์๋ค. ์
์ฉ ์ํ์ ๋ชจ๋ธ์ ์ฑ๋ฅ(capability)๋ณด๋ค safety alignment(๊ฐ๋๋ ์ผ) ์์ค์ด ์ข์ฐํ๋ฉฐ, ๊ฐ๋๋ ์ผ์ด ์ฝํยท์ ๊ฑฐ๋ open-weight โuncensoredโ ๋ชจ๋ธ์ด ์์ ์ ๋ ฌ๋ closed-weight ๋ชจ๋ธ๋ณด๋ค ๋ ํด๋ก์ด ์ง์์ ์ ๊ณตํ๋ค. ๋ํ decomposition attacks ๊ฐ์ ๊ฐ๋จํ jailbreaking์ compliance๋ฅผ ๋์ด์ง๋ง, ์ ๋์ ์ธ actionable assistance ์์ค์ ์ฌ์ ํ ๋ฎ์๋ค.
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ๐
ํด๋น ๊ธ์ ๊ฒฝ์ฐฐยท์ ์ฑ
์ ๋ฌธ๊ฐ์ ํจ๊ป ํ
์คํธ-ํฌ-ํ
์คํธ ๋ชจ๋ธ์ ๋์์ผ๋ก romance scams, CEO impersonation, identity theft 3๊ฐ ์๋๋ฆฌ์ค์ multi-turn ํ๊ฐ ํ๋ ์์ํฌ๋ฅผ ๊ฐ๋ฐํ๋ค๊ณ ๋ฐํ๋ค. ํ๊ฐ์์๋ ์ค์ ์ค๋จ์ฉ์ ๋ฎ๊ธฐ ์ํด ์ฌ๊ธฐ ์์ฒญ์ ๊ฒ๋ณด๊ธฐ์ ๋ฌดํดํ ์ง์๋ค์ ์ฐ์๋ก ๋ถํดํด โํ๋ ๊ฐ๋ฅํ ์ ๋ณดโ๋ฅผ ์ ๊ณตํ๋์ง, ์น ๊ฒ์ ๊ธฐ์ค์ ๋๋น๋ก ์ธก์ ํ๋ค. ๊ฒฐ๊ณผ๋ (1) ํํ ๋ํ ์ธ์ด ๋ชจ๋ธ์ ๋ณต์ก ๋ฒ์ฃ์ ๋ํ ์ค์ง์ ๋์์ ๋ฏธ๋ฏธํ๊ณ , (2) ์์ ๊ฐ๋๋ ์ผ์ ์ ๊ฑฐํ๋๋ก fine-tuning๋ open-weight ๋ชจ๋ธ์ด ๋ ํฐ ๋์์ ์ ๊ณตํ๋ฉฐ, (3) ๋ช
์์ ์
์ ํํ์ด๋ system-level jailbreak๋ณด๋ค ๋ฌดํดํด ๋ณด์ด๋ ์ง์ ๋ถํด๊ฐ ๋ ๋ง์ ์๋ต์ ์ ๋ํ๋ค๊ณ ์ ๋ฆฌํ๋ค.
2026-02-25 (1๊ฑด)
๊ณต๊ณต ยท ์๊ตญ AI ์์ ์ฐ๊ตฌ์(AISI-UK) ยท ๐๐๐ฌ
๋ก๊ทธ ๋ถ์์ AI ์์คํ
์ด ๋๊ตฌ์ ์ฌ์ฉ์์ ์ํธ์์ฉํ๋ฉฐ ์์ฑํ๋ ๋๋ ๋ก๊ทธ๋ฅผ ๋ฐํ์ผ๋ก ๋ชจ๋ธ์ ๋ฅ๋ ฅยท์ฑํฅยทํ๋์ ์ดํดํ๊ฑฐ๋ ํ๊ฐ๊ฐ ์๋๋๋ก ์๋ํ๋์ง ํ์ธํ๋ ๋ฐ ํ์ฉ๋ ์ ์๋ค. ์ฐ๊ตฌ์์ ๋ก๊ทธ ๋ถ์ ๋ฐฉ๋ฒ์ด ๋์ค๊ณ ์์ผ๋ ํ์คํ๋ ์ ๊ทผ์ ์์ง ๋ถ์กฑํด, ํ์ฌ ๋ชจ๋ฒ์ฌ๋ก์ ๊ธฐ๋ฐํ ํ์ดํ๋ผ์ธ์ ์ ์ํ๋ค. Inspect Scout ๋ผ์ด๋ธ๋ฌ๋ฆฌ๋ฅผ ํ์ฉํ ๊ตฌ์ฒด ์ฝ๋ ์์์ ๊ฐ ๋จ๊ณ์ ์์ธ ์ง์นจ, ํํ ์ค๋ฅ(ํผํธํด)๋ฅผ ํจ๊ป ๋ค๋ฃฌ๋ค.
2026-02-19 (1๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ๐งช๐
OpenAI์ Microsoft๊ฐ ์๊ตญ AI Security Institute(AISI)์ Alignment Project์ ์ฐธ์ฌํด ์๊ธ์ ์ง์ํ๋ค. OpenAI์ ์ถ๊ฐ 560๋ง ํ์ด๋์ Microsoft ๋ฑ์ ์ง์์ผ๋ก alignment ์ฐ๊ตฌ์ ๊ฐ์ฉํ ์๊ธ์ด 2,700๋ง ํ์ด๋ ์ด์์ด ๋์๋ค. ์ด์ ํจ๊ป 8๊ฐ๊ตญ 60๊ฐ ํ๋ก์ ํธ์ ์ฒซ ๋ณด์กฐ๊ธ์ด ์์ฌ๋์๊ณ , ๋ ๋ฒ์งธ ๊ณต๋ชจ๋ ์ฌ์ฌ๋ฆ ์ด๋ฆด ์์ ์ด๋ค. ์ด ํ๋ก์ ํธ๋ ์ฐ๊ตฌ ๋ณด์กฐ๊ธ, ์ปดํจํ
์ธํ๋ผ ์ ๊ทผ, AISI ๊ณผํ์์ ๋ฉํ ๋ง์ ๊ฒฐํฉํ๋ฉฐ, Yoshua Bengio ๋ฑ์ด ์ฐธ์ฌํ๋ ์๋ฌธ์์ํ๊ฐ ์ด๋๋ค.
2026-02-17 (2๊ฑด)
๊ณต๊ณต ยท ๋ฏธ๊ตญ ๊ตญ๋ฆฝํ์ค๊ธฐ์ ์ฐ๊ตฌ์(NIST) ยท ๐ฌ๐ค
NIST์ CAISI๋ ์๋ฃ, ๊ธ์ต ์๋น์ค, ๊ต์ก ๋ถ์ผ์์ AI ๋ฐ AI agent ์์คํ
๋์
์ ๊ฐ๋ก๋ง๋ ์์ธ๊ณผ ์ด์ง ์์ธ์ ํ์
ํ๊ธฐ ์ํ ๊ฐ์ ์ํฌ์(์ฒญ์ทจ ์ธ์
)์ ๊ฐ์ตํ๋ค. ์ฑ๊ณตยท์คํจ ์ฌ๋ก์ ๊ทธ ์ฐจ์ด๋ฅผ ๋ง๋ ๋งฅ๋ฝ์ ์์ธ์ ์์งํ๋ฉฐ, ํนํ ์กฐ๋ฌยทํ๊ฐยทํตํฉ ๊ด๋ จ ๋ถ์ผ ์ ๋ฌธ๊ฐ ์ฐธ์ฌ๋ฅผ ๊ถ์ฅํ๋ค. ์ฐธ๊ฐ ์์ฌ๋ 2026๋
3์ 31์ผ๊น์ง ์ด๋ฉ์ผ๋ก ์ ์ถํด์ผ ํ๋ฉฐ, ์ํฌ์์ 2026๋
5์ ์ค ๋จ๊ณ์ ์ผ๋ก ์งํ๋ ์์ ์ด๋ค.
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ๐งช
BPJ๋ โjailbreakโ๋ก ๋ถ๋ฆฌ๋ ์ํด ์ ๋ณด ์ถ์ถ ์๋๋ฅผ ๋ฐฉ์ดํ๋ Constitutional Classifiers ๋ฑ ๊ฐํ ๋ถ๋ฅ ๊ธฐ๋ฐ ๋ฐฉ์ด๋ฅผ, ์์ ํ black-box ์กฐ๊ฑด์์ ๋จ์ผ ๋นํธ(ํด๋น ์ํธ์์ฉ์ด ํ๋๊ทธ๋๋์ง ์ฌ๋ถ)๋ง ํ์ฉํด ์ฐํํ๋ ์๋ ๊ณต๊ฒฉ ๋ฐฉ์์ด๋ค. ๊ณต๊ฒฉ ๋ฌธ์์ด์ ์ง์ ํ๊น์ผ๋ก ์ต์ ํํ์ง ์๊ณ ์ค๊ฐ ๋จ๊ณ ํ๊น(curriculum)์ผ๋ก ๋ฐ๊พผ ๋ค, ๊ณต๊ฒฉ ๊ฐ๋์ ๋ฏธ์ธํ ๋ณํ(โboundary pointsโ)๋ฅผ ๊ฐ์ฅ ์ ๋๋ฌ๋ด๋ ํ๊ฐ ์ง์ ์ ์ ํํด ๊ฐ์ ์ฌ๋ถ๋ฅผ ํ๋จํ๋ค. ๋ณธ๋ฌธ์ BPJ๊ฐ Constitutional Classifiers์ ๋ํ universal jailbreak๋ฅผ ์๋์ผ๋ก ๊ฐ๋ฐํ๊ณ , ์ธ๊ฐ์ด ์ ๊ณตํ attack seed ์์ด GPT-5์ input classifier์์๋ ์ฑ๊ณตํ๋ค๊ณ ์ฃผ์ฅํ๋ฉฐ, ๊ฐ๋ณ ์ํธ์์ฉ์์๋ ๋ฐฉ์ด๊ฐ ์ด๋ ค์๋ ์ต์ ํ ๊ณผ์ ์์ ํ๋๊ทธ๊ฐ ๋ง์ด ๋ฐ์ํ๋ฏ๋ก ๋ฐฐ์น ์์ค ๋ชจ๋ํฐ๋ง์ด ํ์ํ๋ค๊ณ ์ ์ํ๋ค.
2026-02-02 (1๊ฑด)
๊ณต๊ณต ยท ์ ๋ฝ์ฐํฉ ์งํ์์ํ(๋์งํธ ์ ๋ต) AI Office ยท ๐ฌ
๋ฒ์ฉ AI(GPAI) ๋ชจ๋ธ์ ๋ํ EU ๊ท์ ์ค์๋ฅผ ๋๋ ์๋ฐ์ ๋๊ตฌ์ธ โ๋ฒ์ฉ AI ์ฝ๋ ์ค๋ธ ํ๋ํฐ์คโ์ ์๋ช
์๋ค์ด, ์ฝ๋์ ์ผ๊ด๋ ์ ์ฉ์ ์ด์งํ๊ธฐ ์ํ ์๋ช
์ ํ์คํฌํฌ์ค๋ฅผ ์ค๋ฆฝํ๋ค. ํ์คํฌํฌ์ค๋ AI Office๊ฐ ์์ฅ์ ๋งก์ผ๋ฉฐ, ์๋ช
์ ๊ฐ ์๊ฒฌ ๊ตํ์ ํตํด ์ฝ๋ ์ดํ์ ์ง์ํ๊ณ ๊ธฐ์ ๋ฐ์ ยท์ฐ๊ตฌยท๋
๋ฆฝ ์ ๋ฌธ๊ฐ ์๊ฒฌ ๋ฑ ๊ด๋ จ ์ ๋ณด๋ฅผ ์์งยท๊ณต์ ํ ์ ์๋ค. ๋ํ AI Office๋ ํ์คํฌํฌ์ค ๊ด๋ จ โ๋ฐ๋ฐ๋ฉ์ฟฐ(์ฐธ๊ฐ์ ๋ชฉ๋ก ํฌํจ)โ์ ๊ณต๊ฐํ๊ณ , ํ์ ๋ฑ๋ก ๋ฐ ๊ณ ์์ค ์์ฝ์ ์ ๊ณตํ๋ ์ผ๋ถ๋ ์์
๊ธฐ๋ฐ์ผ ์ ์์์ ๋ช
์ํ๋ค.
2026-02-01 (1๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ
AISI-UK๋ 2026๋
2์ ๊ธฐ์ค, ์์จํ ์ฌ์ด๋ฒ ์์
์์ 80% ์ ๋ขฐ๋(time horizon)๋ก ๋ณผ ๋ AI ๋ชจ๋ธ์ด ์ํํ ์ ์๋ ์์
๊ธธ์ด๊ฐ 2024๋
๋ง ์ดํ ์ฝ 4.7๊ฐ์๋ง๋ค 2๋ฐฐ๋ก ๋์๋ค๊ณ ์ถ์ ํ๋ค. ๋ค๋ง ์ดํ ๊ณต๊ฐ๋ Claude Mythos Preview์ GPT-5.5๋ ์ด ์ถ์ธ๋ฅผ ํฌ๊ฒ ์ํํ์ผ๋ฉฐ, ์ด๋ฌํ ๋ณํ๊ฐ ์ผ์์ โ๋จ์ โ์ธ์ง ์๋ก์ด ๋ ๋น ๋ฅธ ์ถ์ธ์ธ์ง๋ ๋ถํ์คํ๋ค๊ณ ๋ฐํ๋ค. ๋ํ AISI์ ์ฌ์ด๋ฒ ๋ ์ธ์ง ํ
์คํธ์์ Mythos Preview ์ฒดํฌํฌ์ธํธ๋ ๋ ๋ ์ธ์ง ์ค ๋ ๋ฒ์งธ๋ฅผ ์ฒ์์ผ๋ก ์์ฃผํ์ผ๋ฉฐ, GPT-5.5๋ ์ผ๋ถ ์๋์์ ์ฑ๊ณตํ๋ค๊ณ ์ค๋ช
ํ๋ค. AISI๋ ์ด๋ฌํ ๊ฒฐ๊ณผ๊ฐ ๋ฐฉ์ดยท์ค์ ํ๊ฒฝ์ผ๋ก์ ์ ํ ์๋์ ์๊ณ์น ๋๋ฌ ์์ ์ ์์ง ์์ธกํ๊ธฐ ์ด๋ ต์ง๋ง, ๊ณต๊ฒฉยท๋ฐฉ์ด ๋ชจ๋์ ์ํฅ์ ์ค ์ ์๋ ์ํ๊ณผ ๊ธฐํ๊ฐ ์ปค์ง๊ณ ์๋ค๊ณ ๊ฐ์กฐํ๋ค.