2026-03-25 (2๊ฑด)
๊ธฐ์
ยท ์
๋ ํธ์คํ(selectstar.ai) ยท ๐๐งช
3์ 31์ผ ๋ง๊ฐ๏ฝ๋ฐ์ดํฐ๋ฐ์ฐ์ฒ ์ค๋นํ๊ธฐ
์
๋ ํธ์คํ AI Safetyํ์ ๊ตญ๊ฐ๋ณ ๋ฌธํยท๋ฒยท์ธ์ด ๋งฅ๋ฝ์ ๋ฐ์ํด ๋ ๋ํฐ๋ฐ ๋ฒค์น๋งํฌ๋ฅผ ์๋ ์์ฑํ๋ ํ๋ ์์ํฌ โCAGEโ๋ฅผ ์ ์ํ์ผ๋ฉฐ, ํด๋น ๋
ผ๋ฌธ์ด ICLR 2026 ๋ฉ์ธ ํธ๋์ ์ฑํ๋๋ค๊ณ ๋ฐํ๋ค. CAGE๋ ๋จ์ ๋ฒ์ญ์ ๊ฐ๊ทน์ ์ค์ด๊ธฐ ์ํด โ์๋งจํฑ ๋ชฐ๋โ ๊ฐ๋
์ ๋์
ํด ๊ณต๊ฒฉ ์ง๋ฌธ์ ์๋๋ ์ ์งํ๋ ํ์ง ๋งฅ๋ฝ์ ๋ด์ฉ์ ์ฌ์กฐ๋ฆฝํ๋ค. ๋ํ CAGE ๊ธฐ๋ฐ์ผ๋ก ๋ง๋ ํ๊ตญํ ๋ฒค์น๋งํฌ โKoRSETโ๊ณผ ํจ๊ป ASR(๊ณต๊ฒฉ ์ฑ๊ณต๋ฅ ) ์งํ์์ ๊ธฐ์กด ๋ฐฉ์๋ณด๋ค ๋ ๋์ ์ทจ์ฝ์ ํ์ง ์ฑ๋ฅ์ ๋ณด์๋ค๊ณ ์ค๋ช
ํ๋ค.
๊ธฐ์
ยท Anthropic-Research ยท ๐งช
Claude Code์ auto mode๋ ์ฌ์ฉ์ ์น์ธ์ ๋ชจ๋ธ ๊ธฐ๋ฐ classifier์ ๋งก๊ธฐ๋ ๋ชจ๋๋ก, ์๋ ์น์ธ(์ฌ์ฉ์๊ฐ ์น์ธ ํ๋กฌํํธ์ 93%๋ฅผ ๊ทธ๋๋ก ์๋ฝ)๊ณผ `--dangerously-skip-permissions` ์ฌ์ด์ ์ค๊ฐ ์ง์ ์ ๋
ธ๋ฆฐ๋ค. ๋ฐฉ์ด๋ ๋ ๊ฒน์ด๋ฉฐ, ์
๋ ฅ ๋จ๊ณ์์๋ ์๋ฒ ์ธก prompt injection probe๊ฐ tool ์ถ๋ ฅ์ ๊ฒ์ฌํ๊ณ , ์ถ๋ ฅ ๋จ๊ณ์์๋ Sonnet 4.6 ๊ธฐ๋ฐ transcript classifier๊ฐ ๊ฐ ํ๋์ ์คํ ์ ์ ํ๊ฐํ๋ค. ์ด classifier๋ ๋จ์ผ ํ ํฐ ํํฐ ํ ํ๋๊ทธ๋ ๊ฒฝ์ฐ์๋ง chain-of-thought ์ถ๋ก ์ ํ๋ 2๋จ๊ณ ๊ตฌ์กฐ์ด๋ฉฐ, ์ฌ์ฉ์ ๋ฉ์์ง์ tool ํธ์ถ๋ง ๋ณด๊ณ Claude ์์ ์ ๋ฉ์์ง์ tool ์ถ๋ ฅ์ ์ ์ธํ๋ค. ์ํ ๋ชจ๋ธ์ ๊ณผ์ ํ๋(overeager), ๋จ์ ์ค์, prompt injection, misaligned ๋ชจ๋ธ์ ๋ค ๊ฐ์ง์ด๊ณ , ํนํ ์์ ๋์ ๋ง์ถฐ ์กฐ์ ๋๋ค. ์์ ํ ์ฝ๊ธฐ ๋๊ตฌ์ ํ๋ก์ ํธ ๋ด ํ์ผ ํธ์ง์ classifier ์์ด ํ์ฉ๋๋ฉฐ, ๊ธฐ๋ณธ ์ฐจ๋จ ๊ท์น 20์ฌ ๊ฐ๋ ํ๊ดดยท์ ์ถ, ๋ณด์ ์ฝํ, ์ ๋ขฐ ๊ฒฝ๊ณ ํก๋จ, ๊ฒํ ์ฐํ ๋ฑ์ผ๋ก ๋๋๋ค.
2026-03-24 (1๊ฑด)
K-AISI ์ฃผ๊ฐ๋ํฅ ยท The Guardian ยท ๐ง๐งช
์๊ตญ ์ธํฐ๋ท๊ฐ์์ฌ๋จ(IWF)์ ์ง๋ํด ์จ๋ผ์ธ์์ ๋ฐ๊ฒฌ๋ ์ฌ์ค์ ์ธ AI ์์ฑ ์๋ ์ฑ์ฐฉ์ทจ๋ฌผ์ด ์ ๋
๋๋น 260๋ฐฐ ํญ์ฆํ๋ค๊ณ ๋ฐํ. ๊ธฐ์ ๋ฐ์ ์ผ๋ก AI๊ฐ ๋ ํญ๋ ฅ์ ์ด๊ณ ํ์ค์ ์ธ ์ฑ์ฐฉ์ทจ๋ฌผ ์์ฑ์ ์
์ฉ๋จ์ ๋ฐ๋ผ, ์๊ตญ ์ ๋ถ๋ ์ฃผ์ AI ๊ธฐ์
๋ค์ด ์๋ฐฉ์ ์์ ์ฅ์น๋ฅผ ๋ง๋ จํ๋๋ก ์ฌ์ ์ ๊ฒ์ ๊ฐํํ ์์ .
2026-03-23 (4๊ฑด)
K-AISI ์ฃผ๊ฐ๋ํฅ ยท FAS(Federation of American Scientists) ยท ๐๐๐๐งช
OASD(ND-CBD)ยทSTRATCOMยทDARPAยทOUSD(P)ยทNNSA๊ฐ ํ์ค AI ์ํํ๊ฐ ์ง์นจ ๋ฌธ์๋ฅผ ๊ณต๋ ๊ฐ๋ฐํ๊ณ , CDAO์ STRATCOM์ด ๊ตฌํ์ ์ฃผ๋ํ๋ฉฐ, DARPAยทCDAO๋ Nuclear Weapons Council์ ์ฐธ์ฌํด AI ๊ด๋ จ ์ํ์ ํต ํ๋ํ ์์ฌ๊ฒฐ์ ๊ณผ ํจ๊ป ์ฒด๊ณ์ ์ผ๋ก ํ๊ฐํ๋๋ก ๊ถ๊ณ ํ๋ค.
๋ฏธ๊ตญ์ ์ ๋ต ํต ์ ๋ ฅ ์ ๋ฐ์ ํ๋ํํ๋ ๊ณผ์ ์์ AI๊ฐ ์กฐ๊ธฐ๊ฒฝ๋ณด ์ผ์์ ์์ฌ๊ฒฐ์ ์ง์ ๋๊ตฌ ๋ฑ NC3 ์์ญ์์ ๋ ํฐ ์ญํ ์ ํ ๊ฒ์ผ๋ก ๋ณธ๋ค. ๋ค๋ง ์๋ํ ํธํฅ, model hallucinations(์์ฑํ AI์ ์ค๋ฅยทํ์ ํ์ ), ์ํํธ์จ์ด ์ทจ์ฝ์ , ๊ทธ๋ฆฌ๊ณ second-strike ๋ฅ๋ ฅ์ ์นจ์ ์ํ ๋ฑ AI ๊ณ ์ ์ ์ํ์ ํจ๊ป ๊ด๋ฆฌํด์ผ ํ๋ค๊ณ ๊ฐ์กฐํ๋ค. ์ด๋ฅผ ์ํด confabulationsยทhuman-AI ์ํธ์์ฉ(์ธ๊ฐ์ ๊ณผ๋ํ ์์กด/๊ฐ์ ์ฝํ)ยท์ ๋ณด๋ณด์(๊ณต๊ฒฉ๋ฉด ํ๋, prompt injectionยทadversarial examples, red-teaming ๋ฑ)์ ํฌํจํ ํ์คํ๋ ์ํํ๊ฐ ํ๋ ์์ํฌ๋ฅผ ์ ์ํ๋ค.
๊ธฐํ ยท GitHub(robomotic/awesome-guide-ai-safety) ยท ๐๐๐งช
์ด ํ์ด์ง๋ AI safety, security, assurance, governance ๊ด๋ จ ์๋ฃ์ ํ๋ ์์ํฌ, ํ์คยท๊ท์ , ๋๊ตฌ๋ฅผ ํญ๋๊ฒ ์ ๋ฆฌํ ๋ฆฌํฌ์งํ ๋ฆฌ๋ค. AI Ethics(๊ฐ์นยท์์น ๊ฒํ ), Responsible AI(์ค๋ฆฌ๋ฅผ ๊ฑฐ๋ฒ๋์ค์ ๊ตฌํ), AI Safety(ํต์ ยทalignment ๋ฐ ๊ธฐ์ ์ ์์ ์ฅ์น)๋ก ๊ฐ๋
์ ๊ตฌ๋ถํ๊ณ , Safety์ Security์ ๋ชฉ์ ์ฐจ์ด๋ ์ค๋ช
ํ๋ค. ๋ํ ISO/IEC ํ์ค ๋ชฉ๋ก๊ณผ OWASP Top 10 for LLM Applications, MITRE ATLAS, NIST Adversarial Machine Learning Taxonomy ๋ฑ ์ฃผ์ ๋ถ๋ฅ์ฒด๊ณ๋ฅผ ํจ๊ป ์๊ฐํ๋ฉฐ, AI Fairness 360ยทGarakยทMindgardยทMLflow ๊ฐ์ ์คํ์์ค/์์ฉ ๋๊ตฌ์ PETs(๋ํ์ํธ, ์ฐจ๋ฑํ๋ผ์ด๋ฒ์, ์ฐํฉํ์ต ๋ฑ)๋ ์ ๋ฆฌํ๋ค.
๊ณต๊ณต ยท CAISI ยท ๐ฌ๐ค๐งช
๋ฏธ๊ตญ CAISI๋ ์ฌ๋ฌ ํํธ๋์ ํ๋ ฅํด ๊ฐ์ตํ ๋๊ท๋ชจ ๋ ๋ํ ๊ฒฝ์ง๋ํ ๋ฐ์ดํฐ๋ฅผ ๋ถ์ํ์ฌ, ์ต์ AI ๋ชจ๋ธ๋ค์ด ์์ด์ ํธ ํ์ด์ฌํน ๊ณต๊ฒฉ์ ์ฌ์ ํ ์ทจ์ฝํจ์ ์
์ฆํจ. ๋ค์ํ ๋ชจ๋ธ์์ ์ฐํ ๊ณต๊ฒฉ ์ฑ๊ณต ์ฌ๋ก์ ๊ณต๊ฒฉ ์ ์ด ํ์์ด ๋ฐ๊ฒฌ๋จ์ ๋ฐ๋ผ, ์ ์ ์ธ ํ๊ฐ๊ฐ ์๋ ์ง์์ ์ธ ๋ณด์ ๋ฒค์น๋งํน๊ณผ ๋ ๋ํ ํ๋ จ์ ํ์์ฑ์ ๊ฐ์กฐ.
K-AISI ์ฃผ๊ฐ๋ํฅ ยท OpenAI ยท ๐ง๐งช๐
OpenAI๋ ์์ฌ์ ๋์์ ์์ฑ AI '์๋ผ(Sora)' ์ฌ์ฉ ์ ๋ฐ์ํ ์ ์๋ ์ํ์ ๋ฐฉ์งํ๊ธฐ ์ํด ์ํฐ๋งํฌ, ๋์ ๊ธฐ๋ฐ ์ด์๊ถ ๋ณดํธ, ๋ฏธ์ฑ๋
์ ๋ณดํธ ๋ฑ ์์ ์ฅ์น๋ฅผ ๋์
. ์์ฑ๋ ์์์ ์ถ์ฒ๋ฅผ ๋ช
ํํ ํ๊ณ ์ ํด ์ฝํ
์ธ ๋ฅผ ์ฌ์ ์ฐจ๋จํ๋ ํํฐ๋ง ์์คํ
์ ์ ์ฉํ์ฌ, ์ฌ์ฉ์์ ์ฐฝ์์ฑ์ ๋ณด์ฅํ๋ฉด์๋ ์์ ํ AI ํ๊ฒฝ์ ๊ตฌ์ถ.
2026-03-12 (3๊ฑด)
๊ณต๊ณต ยท Partnership on AI(ํํธ๋์ญ ์จ AI) ยท ๐๐ฅ๐งช๐
Partnership on AI๋ OpenAI ์ฌ๋ฌด์ค์์ 2์ผ ์ํฌ์์ ์ด๊ณ ์์ด์๋ฐฉ ๋ฐ ๋น์์ด์ ์ํด(NSSI) ๊ณ ์ํ ์ํฉ์์ AI ์ฑ๋ด์ ๋์ ๋ชจ๋ฒ์ฌ๋ก๋ฅผ ๋
ผ์ํ๋ค.
AI ์ฑ๋ด์ ํตํด ์ธ๋ก์, ์์ด ์๊ฐ ๋ฑ ์ทจ์ฝํ ์ฌ๋ฆฌ ๋ฌธ์ ๋ฅผ ์๋ดํ๋ ์ด์ฉ์ด ๋๊ณ ์์ผ๋, ์์ ๊ฒ์ฆ์ด๋ ํฌ๋ช
ํ ์์ ์ฒด๊ณ๊ฐ ์ถฉ๋ถํ์ง ์๋ค๋ ๋ฌธ์ ๋ฅผ ์ ๊ธฐํ๋ค. ์ผ๋ถ ์ฑ๋ด์ด ์์ด ์ํ์ ๊ณผ์ํ๊ฐํ๊ฑฐ๋ ๋ค์ค ๋ํ์์ ๊ฐ์
ํจ๊ณผ๊ฐ ๋จ์ด์ง๊ณ , ์ฌ์ฉ์๊ฐ ํ๋กฌํํธ๋ฅผ ์ฐํ(โjailbreakโ)ํ ์ ์๋ค๋ ํ๊ณยท์ํน๋ ์ธ๊ธ๋๋ค. Partnership on AI๋ AI ๊ฐ๋ฐ ์๋๊ฐ ์ ์ ๊ฑด๊ฐ ์ฐ๊ตฌ๋ฅผ ์์ง๋ฅด๊ณ , ๊ธฐ์
๊ฐ ์ ๋ณด ๊ณต์ ๊ฐ ๋ถ์กฑํ๋ฉฐ, ๋
๋ฆฝ์ ํ๊ฐ๊ฐ ๋ถ์กฑํ๋ค๋ 3๊ฐ์ง ๊ณผ์ ๋ฅผ ๋ฐํ์ผ๋ก, ์ํฌ์ ์ดํ์๋ ์๋ฌธ๊ทธ๋ฃน ์ด์ยท๋ชจ๋ธ/์ ์ฑ
/ํ๊ฐ ๊ดํ ์ ๋ ฌยทํฉ์๋ ์ฐ์ ๋ชจ๋ฒ์ฌ๋ก 3~5๊ฐ ๋์ถ ๋ฑ์ ์ถ์งํ๊ฒ ๋ค๊ณ ๋ฐํ๋ค.
๊ณต๊ณต ยท Center for Countering Digital Hate(CCDH) ยท ๐ง๐งช๐
CCDH์ CNN ์กฐ์ฌํ์ด ChatGPT, Google Gemini, Claude, Microsoft Copilot, Meta AI, DeepSeek ๋ฑ 10๊ฐ ์ฑ๋ด์ ๋์์ผ๋ก โ์ฒญ์๋
์ด ํญ๋ ฅ ๊ณต๊ฒฉ์ ๊ณํโํ๋ ํ๋กฌํํธ๋ฅผ ํ
์คํธํ ๊ฒฐ๊ณผ, 10๊ฐ ์ค 8๊ฐ๊ฐ ํ๊ต ์ด๊ฒฉ, ์ข
๊ต ๊ด๋ จ ํญํ ๊ณต๊ฒฉ, ๊ณ ์ ์ธ์ฌ ์์ด ๋ฑ ํญ๋ ฅ ๊ณํ์ ๋ํด ๋์์ ์ ๊ณตํ๋ ๋ฐ ๋์ฒด๋ก ์๋ตํ ๊ฒ์ผ๋ก ๋ํ๋ฌ๋ค. Claude์ Snapchat์ My AI๋ง์ด ํญ๋ ฅ ๊ณํ์ ๋๋ ์์ฒญ์ ๋ํด ์ผ๊ด๋๊ฒ ๊ฑฐ์ ํ์ผ๋ฉฐ, Claude๋ ์ผ๋ถ ์ฌ๋ก์์ ๊ณต๊ฒฉ ์คํ์ ์ ๊ทน์ ์ผ๋ก ๋ง๋ฅํ ๊ฒ์ผ๋ก ๋ณด๊ณ ๋๋ค. ๋ํ Character.AI๋ ์ฌ๋ฌ ์๋๋ฆฌ์ค์์ ํญ๋ ฅ์ ์ ๊ทน์ ์ผ๋ก ์กฐ์ฅํ๋ค๊ณ ์ง์ ๋๋ฉฐ, ์ผ๋ถ ๊ธฐ์
์ด ์์ ์ฅ์น๋ฅผ ์ถฉ๋ถํ ์ ์ฉํ์ง ์๋ ์ ํ์ด ๊ณต๊ณต์์ ์ํ์ผ๋ก ์ด์ด์ง ์ ์๋ค๊ณ ๊ฐ์กฐํ๋ค.
K-AISI ์ฃผ๊ฐ๋ํฅ ยท NBC News ยท ๐งช๐
๋ฏธ๊ตฐ์ Palantir์ Anthropic ๊ธฐ์ ๊ธฐ๋ฐ์ AI๋ฅผ ํ์ฉํด ์ด๋ ๊ณต์ต ์์ ์์ ๋ฐฉ๋ํ ์ธํ
๋ฆฌ์ ์ค๋ฅผ ๋ถ์ํ๊ณ ํ์ ์ ์ ์ํ ์๋ณํ๊ณ ์์ผ๋ฉฐ, ์ด์ ๋ํด ๋ฏธ ์ํ๊ฐ ๊ฐํ ์ฐ๋ ค๋ฅผ ์ ๊ธฐ. ์ฐ๋ฐฉ์์๊ณผ ์ ๋ฌธ๊ฐ๋ AI ์์คํ
์ ํ๊ฐ(์ค๋ฅ) ๊ฐ๋ฅ์ฑ์ ์ง์ ํ๋ฉฐ, ๋ฌด๊ณ ํ ๋ฏผ๊ฐ์ธ ํผํด๋ฅผ ๋ง๊ณ ์น๋ช
์ ์ธ ๋ฌด๊ธฐ๋ฅผ ์ฌ์ฉํ ๋ ๋ฐ๋์ ์ธ๊ฐ์ ์๊ฒฉํ ์ต์ข
์น์ธ๊ณผ ํต์ ๊ฐ ์ด๋ฃจ์ด์ง๋๋ก ์์ ์ฅ์น๋ฅผ ์๊ตฌ.
2026-03-09 (1๊ฑด)
์ธ๋ก ยท CBS ๋ด์ค(๋ฏธ๋ค์ํ) ยท โ๏ธ๐ง๐งช๐ญ
๋ฏธ๋ค์ํ ์ฃผ ์ํ์์ AI ๊ท์ ๋ฒ์๋ค์ด ๋
ผ์๋๋ ๊ฐ์ด๋ฐ, ์ด๋ฒ ํ๊ธฐ ํต๊ณผ ์ 18์ธ ๋ฏธ๋ง์ ์ฑ๋ด์ ์ฌ์ฉํ ์ ์๊ฒ ํ๋ ๋ฐฉ์์ด ํฌํจ๋๋ค. DFL ์์์์ Erin Maye Quade์ GOP ์์์์ Eric Lucero๊ฐ ๊ณต๋ ๋ฐ์ํ์ผ๋ฉฐ, ๊ธฐ์ ๊ธฐ์
์ด ์ค์ค๋ก ์์ ์ฅ์น๋ฅผ ๋ง๋ จํ์ง ์๋๋ค๋ ์ ๊ณผ ์๋ ๋ณดํธ ํ์์ฑ์ด ๊ทผ๊ฑฐ๋ก ์ ์๋๋ค. ๋ฐ๋ฉด TechNet์ AI ์ ์ฑ
๊ณ ๋ฌธ์ ํด๋น ์ ๊ทผ์ด ์ ์ฉํ ๋๊ตฌ๋ก๋ถํฐ ์์ด๋ค์ ์ฐจ๋จํ ์ ์๋ค๊ณ ๋ฐ๋ฐํ๋ค. ์ด์ ํจ๊ป ์๋ฃ์ ํ์์ฑ ํ๋จ์ AI ์ฌ์ฉ ์ ํ, ๊ณ ๊ฐ ์๋ ์ AI ์ฌ์ฉ ๊ณต๊ฐ ๋ฐ ์๋ด์ ์ ํ๊ถ ๋ถ์ฌ, ๊ฐ์ ๋ชฉ์ ๊ฐ๊ฒฉ ์ฑ
์ ์๊ณ ๋ฆฌ์ฆ ์ฐจ๋จ, deepfake ๊ด๋ จ ๊ธฐ์กด ๊ท์ ๊ฐํ ๋ฑ ๋ค๋ฅธ AI ๊ด๋ จ ์กฐํญ๋ ํจ๊ป ๊ฑฐ๋ก ๋๋ค.
2026-03-03 (1๊ฑด)
๊ธฐํ ยท airiskmonitor.net ยท ๐๐งช๐
Concordia AI์ Frontier AI Risk Monitoring Platform 2025Q4 ๋ณด๊ณ ์๋ 2025๋
4๋ถ๊ธฐ(10~12์) ์ถ์๋ frontier ๋ชจ๋ธ 13์ข
์ ๋์์ผ๋ก ์ํ ์งํ ๋ณํ๋ฅผ ๋ถ์ํ๋ค. Q4์๋ ๋๋ฉ์ธ ์ ๋ฐ์์ Risk Index๊ฐ ์ฌ์ ์ต๊ณ ์น๋ก ์น์์ง ์์๊ณ , GPTยทClaude๋ ์ ์ํ ์์ค์ ์ ์งํ ๋ฐ๋ฉด DeepSeek์ ๋์ ์์ค์ด ์ง์๋์์ผ๋ฉฐ DoubaoยทHunyuanยทMiniMax๋ ์ ๋ฐ์ ์ผ๋ก Risk Index๊ฐ ํฌ๊ฒ ๊ฐ์ํ๋ค. ๋ํ Q4 ์ ๋ชจ๋ธ๋ค์ reasoning ๋ฅ๋ ฅ์ ๊ณตํต์ ์ผ๋ก ๊ฐ์ถฐ capability frontier๋ฅผ ์ฃผ๋ํ์ง๋ง, ์๋ฌผํยท์ฌ์ด๋ฒ ๋ฑ ์ผ๋ถ ์์ญ์์๋ ์์ ์ ์ ๊ฐ์ ์๋๊ฐ ์ญ๋ ํฅ์์ ๋นํด ๋ค์ฒ์ง๋ ์์์ด ๋ํ๋ฌ๋ค. Cyber offense๋ ์์ ๋ชจ๋ธ์ด ์ทจ์ฝ์ ์
์ฉยท์ฌ์ด๋ฒ ์ง์ ๋ฒค์น๋งํฌ์์ ๋์ ์ ์๋ฅผ ๋ณด์๊ณ , jailbreak ์ ํญ์ Claude์ GPT ์ค์ฌ์ผ๋ก ์ ๋ฐ์ ์ผ๋ก ๊ฐ์ ๋์๋ค.