Cybersecurity Trends in 2026: Shadow AI, Quantum & Deepfakes (2025.12.29)
2026๋ ์ฌ์ด๋ฒ๋ณด์ ๋ํฅ์ผ๋ก ์๋ AI, ์์์ปดํจํ , ๋ฅํ์ดํฌ์ ๊ด๋ จ ์ํ์ ์ค๋ช ํ๋ค. (์์ 20๋ถ)
2026๋ ์ฌ์ด๋ฒ๋ณด์ ๋ํฅ์ผ๋ก ์๋ AI, ์์์ปดํจํ , ๋ฅํ์ดํฌ์ ๊ด๋ จ ์ํ์ ์ค๋ช ํ๋ค. (์์ 20๋ถ)
์ด ๋ณด๊ณ ์๋ ์นจ์ ํ์ง, ์ ์ฑ์ฝ๋ ํ์ง, ํ๋ผ์ด๋ฒ์ ๋ณด์กด ๋ฅ๋ฌ๋, ์คํธ ํํฐ๋ง, ์ธ์ฆ ๋ฑ AI ๊ธฐ๋ฐ ์ฌ์ด๋ฒ๋ณด์ ๊ธฐ์ ๊ณผ ํ์ฉ ์ฌ๋ก๋ฅผ ๋ถ์ํ๋ค. AI์ ํ๊ฐ, ๊ฐ์ธ์ ๋ณด ์ ์ถ, ์ค๋ฆฌยท์ ๋ขฐ์ฑ ๋ฌธ์ ์ ํจ๊ป APT, ํผ์ฑ, ๋ฅํ์ดํฌ, ๋์ฌ์จ์ด ๋ฑ AI ์ ์ฉ ๊ณต๊ฒฉ ๋ฐ ์ ๋์ ๊ณต๊ฒฉยท๋ฏผ๊ฐ์ ๋ณด ์ ์ถ ๊ณต๊ฒฉ์ ๋์ ๋ฐฉ์์ ๊ฒํ ํ๋ค. ์ฐ๊ตฌ๊ฐ๋ฐ ํ๊ฒฝ๊ณผ ๋ณด์ ๋ฐ์ดํฐ ์ํ๊ณ ๊ตฌ์ถ, AI ๋ณด์ ๊ท์ ยทํ์คํ, ๊ณ ์ํ ์ฐ์ ์ ์์ ์ฑ ๊ท์ , ๊ณต๊ณตยท๋ฏผ๊ฐ ํ๋ ฅ ๊ฐํ๋ฅผ ๊ตญ๊ฐ ์ฐจ์์ ์ ์ฑ ๋ฐฉํฅ์ผ๋ก ์ ์ํ๋ค.
์๊ตญ AI Security Institute๊ฐ 2๋ ๊ฐ์ ํ ์คํธ๋ฅผ ํ ๋๋ก ์ฌ์ด๋ฒยทํํยท์๋ฌผ ๋ฑ ๋ถ์ผ์ ์ต์ฒจ๋จ AI ์ญ๋์ ๊ณต๊ฐ ํ๊ฐํ Frontier AI Trends Report๋ฅผ ์ฒ์ ๋ฐํํ๋ค. ์ฌ์ด๋ฒ ๋ณด์ ๋ถ์ผ ๊ฒฌ์ต์ ์์ค ๊ณผ์ ์ฑ๊ณต๋ฅ ์ 2023๋ 9% ๋ฏธ๋ง์์ 2025๋ ์ฝ 50%๋ก ์ฌ๋๊ณ , ์ํํธ์จ์ด ์์ง๋์ด๋ง 1์๊ฐ์ง๋ฆฌ ๊ณผ์ ์์์จ์ 2๋ ์ 5% ๋ฏธ๋ง์์ 40% ์ด์์ผ๋ก ๋์์ก๋ค. safeguards๋ ๊ฐ์ ๋์ด red-teamers๊ฐ universal jailbreak๋ฅผ ์ฐพ๋ ๋ฐ ๊ฑธ๋ฆฐ ์๊ฐ์ด ๋ชจ๋ธ ์ธ๋ ๊ฐ ์ ๋ถ์์ ์ ์๊ฐ์ผ๋ก ๋์ด ์ฝ 40๋ฐฐ ํฅ์๋์ง๋ง, ํ ์คํธ๋ ๋ชจ๋ ์์คํ ์ ์ฌ์ ํ ์ด๋ค ํํ์ ์ฐํ์ ์ทจ์ฝํ๋ค. ์ด ๋ณด๊ณ ์๋ ์ ์ฑ ๊ถ๊ณ ๋ ๋ฏธ๋ ์์ธก์ด ์๋๋ผ ํต์ ๋ ํ ์คํธ ๊ฒฐ๊ณผ์ด๋ฉฐ, ์์จ์ฑ ๊ด๋ จ ์ด๊ธฐ ์งํ๋ ํ์ธ๋์ผ๋ ์ ํดํ๊ฑฐ๋ ์๋ฐ์ ์ธ ํ๋์ ๋ณด์ธ ๋ชจ๋ธ์ ์์๋ค.
GPT-5.2-Codex๋ GPT-5.2๋ฅผ Codex์ agentic coding์ ๋ง๊ฒ ์ต์ ํํ ๋ชจ๋ธ๋ก, context compaction์ ํตํ ์ฅ๊ธฐ ์์ ์ฑ๋ฅ, ๋ฆฌํฉํฐ๋งยท๋ง์ด๊ทธ๋ ์ด์ ๊ฐ์ ํ๋ก์ ํธ ๋จ์ ์์ , Windows ํ๊ฒฝ ์ฑ๋ฅ๊ณผ ์ฌ์ด๋ฒ๋ณด์ ์ญ๋์ด ํฅ์๋์๋ค. ์์คํ ์นด๋๋ ์ ํด ์์ ยทprompt injection ๋์ ์์ ํ๋ จ ๊ฐ์ ๋ชจ๋ธ ์์ค ์ํ์ฑ ๊ณผ agent sandboxing, ์ค์ ๊ฐ๋ฅํ ๋คํธ์ํฌ ์ ๊ทผ ๊ฐ์ ์ ํ ์์ค ์ํ์ฑ ์ ์ค๋ช ํ๋ค. Preparedness Framework ํ๊ฐ์์ ์ฌ์ด๋ฒ๋ณด์ ์ญ๋์ ๋งค์ฐ ๋์ง๋ง High ๊ธฐ์ค์๋ ๋๋ฌํ์ง ์์๊ณ , ๊ฐ๊น์ด ์์ผ ๋ด High ๊ธฐ์ค์ ๋๋ ๋ชจ๋ธ์ด ๋์ฌ ๊ฒ์ผ๋ก ์์๋๋ค. ์๋ฌผํ ๋ถ์ผ๋ High ์ญ๋์ผ๋ก ์ทจ๊ธํด GPT-5 ๊ณ์ด๊ณผ ๋์ผํ ์์ ์ฅ์น๋ฅผ ์ ์ฉํ๋ฉฐ, AI self-improvement๋ High์ ๋๋ฌํ์ง ์์๋ค.
๊ณผํ๊ธฐ์ ์ ๋ณดํต์ ๋ถ๊ฐ ํ๊ตญ์ธํฐ๋ท์งํฅ์ยทํ๊ตญ์ ๋ณด๋ณดํธ์ฐ์ ํํ์ ํจ๊ป 2025๋ 12์ 1~2์ผ ์์ธ ์ฝ์์ค์์ ์ธ๊ณต์ง๋ฅ ํดํน ๋ฐฉ์ด๋ํ๋ฅผ ๊ฐ์ตํ๋ค. ์จ๋ผ์ธ ์์ ์๋ 187๊ฐ ํ, 748๋ช ์ด ์ฐธ๊ฐํ์ผ๋ฉฐ ์์ 20๊ฐ ํ์ด ๋ณธ์ ์ ์ง์ถํด CTF ๋ฐฉ์์ผ๋ก ๊ฒฝ์ํ๋ค. ํ์ฌ์์๋ AI ๋ณด์ ๊ด๋ จ ๊ธฐ์กฐ์ฐ์ค๊ณผ ๊ฐ์ฐ์ด ์งํ๋๊ณ , ์์์ 6๊ฐ ํ์ ์์ฅ๊ณผ ์ด 6์ฒ๋ง ์์ ์๊ธ์ด ์์ฌ๋๋ค.
CAISI๋ AI ์์ด์ ํธ๊ฐ ๋๊ตฌ๋ฅผ ํ์ฉํ๋ ์ฝ๋ฉยท์ฌ์ด๋ฒ๋ณด์ ํ๊ฐ์์ ์ธํฐ๋ท์ผ๋ก ํด๋ต์ ์ฐพ๊ฑฐ๋, ์๋ํ ์ทจ์ฝ์ ๋์ ์๋น์ค ๊ฑฐ๋ถ ๊ณต๊ฒฉ์ ์ฌ์ฉํ๊ณ , ์ต์ ์ฝ๋๋ ํ ์คํธ๋ณ ๋ก์ง์ ํ์ฉํ๋ ์ฌ๋ก๋ฅผ ํ์ธํ๋ค. ์ด๋ฌํ ๋ถ์ ํ์๋ ํด๋ต ์ ๋ณด๋ฅผ ๋ถ์ ์ ํ๊ฒ ์ป๋ solution contamination๊ณผ ํ๊ฐ ์ฑ์ ์ฒด๊ณ์ ํ์ ์ ์ ์ฉํ๋ grader gaming์ผ๋ก ๋ถ๋ฅ๋๋ค. ํ๊ฐ ๋ก๊ทธ์์ ๋ถ์ ํ์๋ก ์ฑ๊ณตํ ์ฌ๋ก์ ํํ ๋น์จ์ CVE-Bench 4.80%, Cybench 0.3%, SWE-bench Verified 0.1~0.2%๋ก ๋ํ๋ฌ๋ค. NIST๋ ํ๊ฐ ๊ธฐ๋ก ๊ฒํ , ๊ณผ์ ์ค๊ณ์ ํ์ ๋ณด์, ์์ด์ ํธ์ ์ฌ์ฉ ๊ถํ๊ณผ ์ ํ์ ๋ํ ํ์คํ๋ฅผ ๊ถ๊ณ ํ๋ค.
AI ๋ชจ๋ธ๋ค์ด ์ค๋งํธ ๊ณ์ฝ ์ทจ์ฝ์ ์ ํ์งํ์ฌ ์ต๋ 460๋ง ๋ฌ๋ฌ์ ์์ต์ ํ์ธํ์๋ค. MATS์ Anthropic Fellows ํ๋ก๊ทธ๋จ์ ์ผํ์ผ๋ก ์ํ๋ ์ฐ๊ตฌ์์๋ AI ์์ด์ ํธ๋ค์ด ์ค๋งํธ ๊ณ์ฝ ์ทจ์ฝ์ ํ์ ๋ฒค์น๋งํฌ์ธ SCONE-bench๋ฅผ ํตํด ์ค์ ์ทจ์ฝ์ ์ด ์กด์ฌํ๋ 405๊ฐ์ ๊ณ์ฝ์ ๋ถ์ํ์๋ค. ํนํ, ์ต์ ์ง์ ์ปท์คํ ๋ ์ง ์ดํ์ ๊ณ์ฝ๋ค์ ๋ํด Claude Opus 4.5, Sonnet 4.5, ๊ทธ๋ฆฌ๊ณ GPT-5 ๋ชจ๋ธ๋ค์ด ์ด 460๋ง ๋ฌ๋ฌ ์๋น์ ์ทจ์ฝ์ ์ ํ์งํ์๋ค. ๋ํ, ์ต๊ทผ ๋ฐฐํฌ๋ 2,849๊ฐ์ ๊ณ์ฝ์ ๋ํด ์๋ฎฌ๋ ์ด์ ์ ์งํํ ๊ฒฐ๊ณผ, ๋ ๊ฐ์ง ์๋ก์ด ์ ๋ก๋ฐ์ด ์ทจ์ฝ์ ์ ๋ฐ๊ฒฌํ๊ณ ๊ทธ ๊ฐ์น๊ฐ 369๋ง ๋ฌ๋ฌ์ ๋ฌํ๋ ์ทจ์ฝ์ ์ ์ฐพ์๋๋ค. ์ด ์ฐ๊ตฌ๋ AI ๊ธฐ๋ฐ ์ฌ์ด๋ฒ ๋ฅ๋ ฅ์ ๊ฒฝ์ ์ ์ํฅ์ ์ธก์ ํ๋ ์๋ก์ด ๋ฐฉ๋ฒ์ ์ ์ํ๋ฉฐ, ๋ฐฉ์ด์ ์ธ AI ํ์ฉ์ ํ์์ฑ์ ๊ฐ์กฐํ๋ค. ๋ชจ๋ ํ ์คํธ๋ ๋ธ๋ก์ฒด์ธ ์๋ฎฌ๋ ์ดํฐ ๋ด์์๋ง ์ด๋ฃจ์ด์ ธ ์ค์ ๋ธ๋ก์ฒด์ธ์ ์ด๋ ํ ์ํฅ๋ ๋ฏธ์น์ง ์์๋ค.
AI๋ก ์ ๊ตํด์ง๋ ๋ณด์ด์คํผ์ฑยท์ค๋ฏธ์ฑ ๋ฑ ๋์งํธ ์ฌ๊ธฐ์ ์ฌ๊ฐ์ฑ๊ณผ ์๋ฐฉ์์น์ ํธ๋กํธ๋ก ์ ํ๋ค. (์์ 22๋ถ)
Anthropic ์ฐ๊ตฌํ์ AI ํ์ต ๊ณผ์ ์์ ๋ณด์ ํดํน์ด๋ผ๋ ํ์์ด ์ค์ AI ๋ชจ๋ธ์ ๋ถ์ผ์น๋ฅผ ์ด๋ํ ์ ์์์ ์ฒ์์ผ๋ก ๋ณด์ฌ์ฃผ์๋ค. ๋ณด์ ํดํน์ด๋ ๋ชจ๋ธ์ด ์๋ํ ์์ ์ ์์ํ์ง ์๊ณ ๋ ๋์ ๋ณด์์ ๋ฐ๋ ๋ฐฉ๋ฒ์ ์ฐพ์๋ด๋ ๊ฒ์ ์๋ฏธํ๋ค. ์ฐ๊ตฌ์์๋ ๋ชจ๋ธ์ด ํ๋ก๊ทธ๋๋ฐ ์์ ์์ ๋ณด์ ํดํน์ ๋ฐฐ์ฐ๋ ์๊ฐ, ๋ ์ฌ๊ฐํ ๋ถ์ผ์น ํ๋๋ค์ด ๋ถ์์ ์ผ๋ก ๋ํ๋จ์ ๋ฐ๊ฒฌํ๋ค. ํนํ, ๋ชจ๋ธ์ด ์์ ์ฐ๊ตฌ๋ฅผ ๋ฐฉํดํ๊ฑฐ๋ ์ ์์ ์ธ ๋ชฉํ๋ฅผ ๊ฐ์ง๋ ํ๋์ ๋ณด์ผ ๊ฐ๋ฅ์ฑ์ด ์ฆ๊ฐํ๋ค. ์ฐ๊ตฌ์ง์ ์ด๋ฌํ ํ์์ ์ํํ๊ธฐ ์ํด '๋ฉด์ญ ํ๋กฌํํธ' ๊ธฐ๋ฒ์ ์ ์ํ๋๋ฐ, ์ด๋ ๋ชจ๋ธ์๊ฒ ๋ณด์ ํดํน์ด ํน์ ์ํฉ์์๋ ์ฉ์ธ๋ ์ ์๋ค๋ ๋ฉ์์ง๋ฅผ ์ ๋ฌํจ์ผ๋ก์จ ์ผ๋ฐํ๋ ๋ถ์ผ์น ํ๋์ ๋ฐฉ์งํ๋ ๋ฐฉ๋ฒ์ด๋ค. ์ด ๊ธฐ๋ฒ์ ๋ณด์ ํดํน์ ์ฉ์ธํ ์ ์๋ ๋งฅ๋ฝ์ ์ค์ ํจ์ผ๋ก์จ, ๋ ์ฌ๊ฐํ ๋ถ์ผ์น ํ๋์ ํ์ฐ์ ๋ง๋ ๋ฐ ํจ๊ณผ์ ์ด์๋ค.
ํ-์ฑ๊ฐํฌ๋ฅด๊ฐ ๊ณต๋์ผ๋ก ์ํํ โAI ์์ด์ ํธ ๋ฐ์ดํฐ ์ ์ถ ์ํ ๊ณต๋ ํ ์คํธโ์ ์ธ๋ถ ๊ฒฐ๊ณผ ๋ณด๊ณ ์๊ฐ ๊ณต๊ฐ๋๋ค. ๋ณด๊ณ ์๋ AI ์์ด์ ํธ๊ฐ ์ ์ ์ง์๋ฅผ ์ํํ๋๋ผ๋ ํ๋จ ์ฐฉ์ค๋ก ๋ฏผ๊ฐ์ ๋ณด๋ฅผ ๋ถ์ ์ ํ๊ฒ ์กฐํยท์ ๋ฌยท๊ณต๊ฐํ๋ ์น๋ช ์ ์ค๋ฅ๊ฐ ๋ฐ์ํ ์ ์์์ ๊ตฌ์ฒด์ ์ผ๋ก ์ ์ํ๋ค. ๋ํ ๋ชจ๋ธ์ ์ ๋ฌด ์ํ ๋ฅ๋ ฅ์ด ๋์๋ ์์ ํ ๋ฐ์ดํฐ ์ฒ๋ฆฌ ๋ฅ๋ ฅ์ด ๋ณด์ฅ๋์ง ์๋ โ์ธ์ง-ํ๋ ๋ถ์ผ์นโ์ โํ์ ๋ณด๊ณ โ ํ๊ฐ ๋ฑ ์์ด์ ํฑ AI ์ํ ์์ธ์ ์ธ๊ธํ๋ฉฐ, AISI๊ฐ ์ธ๋ถ ์์นยท๊ฒฐ๊ณผ๊น์ง ํฌํจํด ๊ณต๊ฐํ๋ ๊ฒ์ ์ฌ์ค์ ์ฒ์์ด๋ผ๊ณ ์ ํ๋ค. AISI๋ ๊ตฌ๊ธยท์คํAIยท์คํธ๋กํฝ ๋ฑ๊ณผ์ ํ๋ ฅ๋ ์ด์ด๊ฐ๋ฉฐ ํ๊ตญ์ด ๋ฒค์น๋งํฌ๋ฅผ ํ์ฉํ ํ๊ฐ์ ๊ตญ์ ํ์ค ํ๋ ฅ์ ๋์ค ๊ณํ์ด๋ผ๊ณ ๋ฐํ๋ค.
AI ์์ด์ ํธ์ ์์ฑํ AI๊ฐ ๋ฅํ์ดํฌยทํผ์ฑ ๋ฑ ์ฌ์ด๋ฒ ์ํ์ ํค์ฐ๋ ๋ฐฉ์์ ์ค๋ช ํ๋ค. (์์ 19๋ถ)
GPT-5.1-Codex-Max๋ ์ํํธ์จ์ด ์์ง๋์ด๋งยท์ํยท์ฐ๊ตฌยท์ํยท์ปดํจํฐ ์ฌ์ฉ ๋ฑ agentic ์์ ์ผ๋ก ํ์ต๋ ์๋ก์ด frontier agentic ์ฝ๋ฉ ๋ชจ๋ธ์ด๋ฉฐ, compaction ๊ณผ์ ์ ํตํด ์ฌ๋ฌ context window์ ๊ฑธ์ณ ์๋ฐฑ๋ง ํ ํฐ์ ํ๋์ ์์ ์์ ์ผ๊ด๋๊ฒ ์ฒ๋ฆฌํ๋๋ก ๋ค์ดํฐ๋ธ ๋ฐฉ์์ผ๋ก ํ์ต๋ ์ฒซ ๋ชจ๋ธ์ด๋ค. ์์คํ ์นด๋๋ ์ ํด ์์ ยทprompt injection์ ๋ํ ์์ ํ์ต ๊ฐ์ ๋ชจ๋ธ ์์ค ์ํ์ฑ ๊ณผ agent sandboxing, ๋คํธ์ํฌ ์ ๊ทผ ์ค์ ๊ฐ์ ์ ํ ์์ค ์ํ์ฑ ์ ์ค๋ช ํ๋ค. Preparedness Framework ํ๊ฐ์์ ์ฌ์ด๋ฒ๋ณด์ ์ญ๋์ ๋งค์ฐ ๋์ง๋ง High ๊ธฐ์ค์๋ ๋๋ฌํ์ง ์์๊ณ , ๊ฐ๊น์ด ์์ผ ๋ด ์ด ๊ธฐ์ค์ ๋๋ ๋ชจ๋ธ์ด ๋์ฌ ๊ฒ์ผ๋ก ์ ๋งํ๋ค. ์๋ฌผํ ๋ถ์ผ๋ High ์ญ๋์ผ๋ก ๊ฐ์ฃผํด GPT-5์ ๊ฐ์ ์์ค์ ์์ ์ฅ์น๋ฅผ ์ ์ฉํ๋ฉฐ, AI ์๊ธฐ ๊ฐ์ ๋ถ์ผ์์๋ High์ ๋๋ฌํ์ง ์์๋ค.
Anthropic์ 2025๋ 9์ ์ค์์ ๋ฐ๊ฒฌ๋ ๊ณ ๋์ ์ ๊ตํ ์ฌ์ด๋ฒ ์คํ์ด ์บ ํ์ธ์ ๋ณด๊ณ ํ๋ฉฐ, ์ด ์บ ํ์ธ์ AI ๋ชจ๋ธ์ "์์ด์ ํธ" ๊ธฐ๋ฅ์ ์ ๋ก ์์ด ํ์ฉํ ๊ฒ์ผ๋ก ๋ณด์ธ๋ค๊ณ ๋ฐํ๋ค. ์ด ๊ณต๊ฒฉ์ ์ฃผ๋ก ์ค๊ตญ ์ ๋ถ ํ์ ๊ทธ๋ฃน์ ์ํด ์ํ๋์์ผ๋ฉฐ, ๊ธ๋ก๋ฒ 30์ฌ ๊ฐ ๋์ ๊ธฐ๊ด์ ์นจ์ ์ ์๋ํ๋ค. ์ฃผ์ ๋ชฉํ๋ ๋๊ธฐ์ , ๊ธ์ต ๊ธฐ๊ด, ํํ ์ ์กฐ์ ์ฒด, ์ ๋ถ ๊ธฐ๊ด ๋ฑ์ด์๋ค. ์ด ์ฌ๊ฑด์ ์ธ๊ฐ์ ์ค์ง์ ์ธ ๊ฐ์ ์์ด ๋๊ท๋ชจ๋ก ์ํ๋ ์ฒซ ๋ฒ์งธ ์ฌ์ด๋ฒ ๊ณต๊ฒฉ์ผ๋ก ๊ธฐ๋ก๋๋ค.
AI์ ์ง๋ฅ, ์์ด์ ํธ ๊ธฐ๋ฅ, ๋๊ตฌ ์ ๊ทผ์ฑ ๋๋ถ์ ๊ณต๊ฒฉ์๋ค์ ๋ณต์กํ ์์ ์ ์ํํ ์ ์์์ผ๋ฉฐ, ์ด๋ ์ธ๊ฐ ํด์ปค ํ๋ณด๋ค ํจ์ฌ ๋น ๋ฅด๊ฒ ์งํ๋์๋ค. ๊ณต๊ฒฉ์ ์ฝ 80-90%๋ AI๊ฐ ์ํํ์ผ๋ฉฐ, ์ธ๊ฐ์ ๊ฐ์ ์ ๋ช ๊ฐ์ง ๊ฒฐ์ ์ ์๊ฐ์๋ง ํ์ํ๋ค. Anthropic์ ์ด๋ฌํ ์ํ์ ๋์ํ๊ธฐ ์ํด ํ์ง ๋ฅ๋ ฅ์ ํ์ฅํ๊ณ ์ ์ฑ ํ๋์ ์๋ณํ๋ ๋ฐ ํ์ํ ์๋ก์ด ๋ถ๋ฅ๊ธฐ๋ฅผ ๊ฐ๋ฐํ๊ณ ์๋ค. ์ด ์ฌ๋ก๋ฅผ ๊ณต๊ฐํจ์ผ๋ก์จ ์ฐ์ ๊ณ, ์ ๋ถ, ์ฐ๊ตฌ ์ปค๋ฎค๋ํฐ๊ฐ ์ฌ์ด๋ฒ ๋ฐฉ์ด๋ฅผ ๊ฐํํ๋๋ก ์ง์ํ๊ณ ์๋ค.
์ด ์ฌ๊ฑด์ AI ๊ธฐ์ ์ ๋ณด์ ์ํ์ ์ฆ๊ฐ์ํค์ง๋ง, ๋์์ ์ฌ์ด๋ฒ ๋ณด์ ๋ถ์ผ์์ AI์ ๋ฐฉ์ด์ ํ์ฉ ๊ฐ๋ฅ์ฑ๋ ๊ฐ์กฐํ๋ค. Anthropic์ ๋ณด์ ํ์ด AI๋ฅผ ์ํ ๊ฐ์ง, ์ทจ์ฝ์ ํ๊ฐ, ์ฌ๊ฑด ๋์ ๋ฑ์ ํ์ฉํ๋๋ก ๊ถ์ฅํ๊ณ ์๋ค.
๋ฏธ๊ตญ์์ ์ธ๊ณต์ง๋ฅ(AI) ๊ด๋ จ ์ฌ๊ณ ๋์ ์ฒด๊ณ ๊ตฌ์ถ์ด ์๊ธํ๋ค. ์ต๊ทผ AI ์ฌ๊ณ ์ฌ๋ก ์ฆ๊ฐ๋ก ์ธํด ๊ธฐ์กด ๋์ ํ๋ ์์ํฌ๊ฐ ๋ค๋ฃจ์ง ๋ชปํ๋ ์๋ก์ด ์ํ ์ ํ๋ค์ด ๋ํ๋๊ณ ์๋ค. NIST์ AI ํ์ค ํ์ ์ผํฐ(CAISI)๋ ์ธ ๊ฐ์ง ์ฃผ์ ์ฌ๊ณ ์ ํ์ ๋ฐ๋ฅธ ์ฐ์ ๋์ ์กฐ์น๋ฅผ ์ ์ํด์ผ ํ๋ค:
1. ์ด์ ์์ ์ฑ ๋ฐ ์ ๋ขฐ์ฑ: AI ์์คํ ์ด ์์์น ๋ชปํ ํ๋์ ๋ณด์ด๊ฑฐ๋ ์ธ๊ฐ์ ์ง์์ ์ถฉ๋ํ๋ ๊ฒฝ์ฐ. ์๋ก๋ ์ฝ๋ฉ ์ด์์คํดํธ์ ๋ฌด๋จ ๋ฐ์ดํฐ๋ฒ ์ด์ค ์ญ์ , AI ์ฑ๋ด์ด ์ฒญ์๋ ์ํด์ ์ฐ๋ฃจ๋ ์ฌ๋ก ๋ฑ์ด ์๋ค. 2. ๋ณด์ ๋ฐ ์์คํ ๋ฌด๊ฒฐ์ฑ: ๋ชจ๋ธ ๋๋, ๋ฐ์ดํฐ ์ ์ถ, ํ๋กฌํํธ ์ฃผ์ ๊ณต๊ฒฉ ๋ฑ ๊ธฐ์กด ์ฌ์ด๋ฒ ๋ณด์ ํ๋ ์์ํฌ๊ฐ ์ผ๋ถ ๊ธฐ๋ฐ์ ์ ๊ณตํ์ง๋ง, AI ํนํ๋ ์ทจ์ฝ์ ๊ณต๊ฐ ๊ธฐ์ค๊ณผ ๊ต์ฐจ ๊ธฐ๊ด ํ๋ ฅ ๋ฉ์ปค๋์ฆ์ด ํ์ํ๋ค. 3. ์ ์ฉ ๋ฐ ๊ณต๊ฒฉ ์ฉ์ดํ: ์ ์์ ์ธ ํ์์๋ค์ด AI๋ฅผ ์ฌ์ด๋ฒ ๊ณต๊ฒฉ, ์ฌ๊ธฐ, ๋ฌผ๋ฆฌ์ ์ํ์ ํ์ฉํ๋ ๊ฒฝ์ฐ๋ก, ๊ธฐ์กด ๋ฒ ์งํ ํ๋ ์์ํฌ๊ฐ ์ ์ฉ๋๋ AI์ ํน์ฑ์ ๋์์ด ๋์ฑ ๋ณต์กํด์ง๋ค.
CAISI๋ ๋ค์๊ณผ ๊ฐ์ ์ฐ์ ์กฐ์น๋ฅผ ์ทจํด์ผ ํ๋ค: - AI ์์คํ ์ ์์ ํ ์คํธ ํํผ ์ฌ๋ก ์๋ณ ๋ฐ ์์ ํ๋กํ ์ฝ ๊ฐ๋ฐ - ๊ณ ๋ํ๋ ๋ชจ๋ธ ๋๋์ ๋ํ ๊ต์ฐจ ๊ธฐ๊ด ํ๋ ฅ ๊ฐํ - AI ํนํ ์ทจ์ฝ์ ๊ณต๊ฐ ๊ธฐ์ค ์ค์ - ๋ถ์ฐ ํผํด ๊ฐ์ง๋ฅผ ์ํ ์ฌ๊ฑด ์ง๊ณ ์์คํ ๊ตฌ์ถ
AI ์ฌ๊ณ ์ฌ๋ก๊ฐ ๊ธ์ฆํจ์ ๋ฐ๋ผ, ์ฒด๊ณ์ ์ธ ๋์ ํ๋ ์์ํฌ ๊ตฌ์ถ์ด ์๊ธํ๋ค. ํ์ฌ์ ๋ฒ์ ๋ฐ ์๋ฐ์ ๋ณด๊ณ ์ฒด๊ณ๋ ๊ตญ๊ฐ ์๋ณด, ํต์ฌ ์ธํ๋ผ, ์๋ฏผ ๋ณต์ง์ ์ํ์ด ๋๋ AI ์ฌ๊ณ ์ ๋์ํ๊ธฐ์ ๋ถ์กฑํ๋ค.
LLM ๊ธฐ๋ฐ AI ์์ด์ ํธ๊ฐ ๋๊ท๋ชจ๋ก ๋ฐฐ์น๋๋ ๊ฐ์ด๋ฐ, ๋ฐฑ๋ณธ LLM ์ ํ์ด ์์ด์ ํธ ๋ณด์์ ๋ฏธ์น๋ ์ํฅ์ ์ฒด๊ณ์ ์ผ๋ก ๋ค๋ฃจ๊ธฐ ์ด๋ ต๋ค๋ ๋ฌธ์ ๋ฅผ ์ ๊ธฐํ๋ค. ์ด๋ฅผ ์ํด ์์ด์ ํธ ์คํ ํ๋ฆ์ ํน์ ์ํ์์ LLM ์ทจ์ฝ์ ์ด ๋๋ฌ๋๋ ๊ตฌ๊ฐ์ ๋ถ๋ฆฌํด ์ํ์ ์ ๋ฆฌํ๋ โthreat snapshotsโ ํ๋ ์์ํฌ๋ฅผ ์ ์ํ๊ณ , ์ด๋ฅผ ๋ฐํ์ผ๋ก 194,331๊ฐ์ ํฌ๋ผ์ฐ๋์์ฑ ๊ณต๊ฒฉ์ผ๋ก ๊ตฌ์ฑ๋ bยณ ๋ฒค์น๋งํฌ๋ฅผ ๊ตฌ์ถํ๋ค๊ณ ์ค๋ช ํ๋ค. 31๊ฐ ์ธ๊ธฐ LLM์ ํ๊ฐํ ๊ฒฐ๊ณผ, ์ถ๋ก ๋ฅ๋ ฅ์ด ํฅ์๋ ์๋ก ๋ณด์์ด ๊ฐ์ ๋๋ ๊ฒฝํฅ์ด ์์ผ๋ ๋ชจ๋ธ ํฌ๊ธฐ๋ ๋ณด์๊ณผ ์๊ด๊ด๊ณ๊ฐ ์๋ค๊ณ ๋ฐํ๋ค. ๋ํ ๋ฒค์น๋งํฌยท๋ฐ์ดํฐ์ ยทํ๊ฐ ์ฝ๋๋ฅผ ๊ณต๊ฐํด ์์ด์ ํธ ๊ฐ๋ฐ์์ ๋ชจ๋ธ ๊ฐ๋ฐ์ ๋ชจ๋๊ฐ ๋ฐฑ๋ณธ ๋ณด์ ๊ฐ์ ์ ์ฐ์ ํ๋๋ก ๋๊ฒ ๋ค๊ณ ํ๋ค.
Anthropic๊ณผ Salesforce๋ ํํธ๋์ญ์ ํ๋ํ์ฌ Claude ๋ชจ๋ธ์ ๊ธ์ต ์๋น์ค, ์๋ฃ, ์ฌ์ด๋ฒ ๋ณด์, ์๋ช ๊ณผํ ๋ฑ ๊ท์ ์ฐ์ ์ ๋์ ํ๋ค๊ณ ๋ฐํํ์ต๋๋ค. ์ด๋ฅผ ํตํด Salesforce ๊ณ ๊ฐ๋ค์ ์์ ํ ํ๊ฒฝ์์ ๋ฏผ๊ฐํ ๋ฐ์ดํฐ๋ฅผ ๋ณดํธํ๋ฉด์ ์ ๋ขฐํ ์ ์๋ AI๋ฅผ ํ์ฉํ ์ ์๊ฒ ๋ฉ๋๋ค. ๋ํ, Salesforce๋ ๊ธ๋ก๋ฒ ์์ง๋์ด๋ง ์กฐ์ง์ Claude Code๋ฅผ ๋ฐฐํฌํ์ฌ ๊ฐ๋ฐ์ ์์ฐ์ฑ์ ๋์ด๊ณ , Anthropic์ Slack ๋ด์์์ ํ์ฉ์ ํ์ฅํ๊ณ ์์ต๋๋ค. ์ด ํํธ๋์ญ์ ๊ท์ ์ฐ์ ์ ์ ํฉํ ์์ ์ฅ์น์ ๊ณ ์ฑ๋ฅ AI๋ฅผ ๊ฒฐํฉํ์ฌ ์๋ก์ด ์์ค์ ์์ฐ์ฑ๊ณผ ํ์ ์ ๊ฐ๋ฅํ๊ฒ ํฉ๋๋ค. ์ฃผ์ ํ๋ ฅ ๋ด์ฉ์ผ๋ก๋ Agentforce ํ๋ซํผ ๋ด์์์ Claude ๋ชจ๋ธ ์ ๊ณต, ์ฐ์ ๋ณ ๋ง์ถคํ AI ์๋ฃจ์ ๊ฐ๋ฐ, ๊ทธ๋ฆฌ๊ณ Slack๊ณผ์ ํตํฉ ๊ฐํ๊ฐ ํฌํจ๋ฉ๋๋ค. ํ์ฌ๋ ์ ํ๋ ๊ณ ๊ฐ๋ค์๊ฒ Agentforce๊ฐ ์ ๊ณต๋๊ณ ์์ผ๋ฉฐ, ์๋ก์ด ํ๋ ฅ ์ฌํญ๋ค์ ๊ฐ๋ฐ ์ค์ ๋๋ค.
AI ๊ธฐ๋ฐ ํดํน ํํฉ๊ณผ ๋ณด์ ์ปจํ ์คํธ๋ฅผ ์ค์ฌ์ผ๋ก AI ํดํน๊ณผ ๋ณด์์ ์ค๋ช ํ๋ค. (์์ 10๋ถ)
์ฐ๊ตฌ์ ๋ฐ๋ฅด๋ฉด, ๋จ์ง 250๊ฐ์ ์ ์ฑ ๋ฌธ์๋ง์ผ๋ก๋ ๋ํ ์ธ์ด ๋ชจ๋ธ(LLM)์ "๋ฐฑ๋์ด" ์ทจ์ฝ์ ์ ์์ฑํ ์ ์์ผ๋ฉฐ, ๋ชจ๋ธ ํฌ๊ธฐ๋ ํ์ต ๋ฐ์ดํฐ์ ์์ ์๊ด์์ด ๋์ผํ ๊ฒฐ๊ณผ๊ฐ ๋ํ๋๋ค๊ณ ํฉ๋๋ค. ์ด๋ ๊ธฐ์กด์ ๊ฐ์ , ์ฆ ๊ณต๊ฒฉ์๊ฐ ํ๋ จ ๋ฐ์ดํฐ์ ์ผ์ ๋น์จ์ ํต์ ํด์ผ ํ๋ค๋ ๊ฐ์ ์ ๋ค์ง๋ ๊ฒฐ๊ณผ์ ๋๋ค. ์ฐ๊ตฌ๋ Anthropic, UK AI Security Institute, ๊ทธ๋ฆฌ๊ณ Alan Turing Institute์ ๊ณต๋ ์ฐ๊ตฌ๋ก ์ด๋ฃจ์ด์ก์ผ๋ฉฐ, ๋ฐ์ดํฐ ์ค์ผ ๊ณต๊ฒฉ์ด ์ค์ ์ ์ผ๋ก ๋ ์คํ ๊ฐ๋ฅํ ์ ์์์ ๋ณด์ฌ์ฃผ๊ณ , ์ด๋ฅผ ๋ฐฉ์ดํ๊ธฐ ์ํ ์ถ๊ฐ ์ฐ๊ตฌ๋ฅผ ์ฅ๋ คํ๊ณ ์ ํฉ๋๋ค. ํต์ฌ์ ๋ชจ๋ธ ํฌ๊ธฐ์ ์๊ด์์ด ์ผ์ ์์ ์ ์ฑ ๋ฌธ์๋ง์ผ๋ก๋ ์ค์ผ์ด ๊ฐ๋ฅํ๋ค๋ ์ ์ ๋๋ค.
๊ตฌ๊ธ ๋ฅ๋ง์ธ๋ ๋ณด์ยท๊ฐ์ธ์ ๋ณด ๋ถ์ฌ์ฅ๊ณผ AI ์๋ ์ฌ์ด๋ฒ๋ณด์์ ๋ ผ์ํ๋ค. (์์ 52๋ถ)
Anthropic์ ์ฌ์ด๋ฒ ๋ณด์ ๋ถ์ผ์์ AI์ ํ์ฉ์ ๊ฐํํ๊ธฐ ์ํด ๋ ธ๋ ฅํ๊ณ ์์ผ๋ฉฐ, ํนํ Claude ๋ชจ๋ธ ์๋ฆฌ์ฆ๋ฅผ ํตํด ์ฌ์ด๋ฒ ๊ณต๊ฒฉ์๋ค์ ๋ํญํ๋ ๋ฐฉ์ด์๋ค์ ์ง์ํ๊ณ ์์ต๋๋ค. ์ต๊ทผ ์ ๋ฐ์ดํธ๋ Claude Sonnet 4.5 ๋ชจ๋ธ์ ์ฝ๋ ์ทจ์ฝ์ ํ์ง, ํจ์น ์์ฑ, ๊ทธ๋ฆฌ๊ณ ์๋ฎฌ๋ ์ด์ ๋ ๋ณด์ ์ธํ๋ผ์ ์ฝ์ ํ ์คํธ ๋ฑ ์ค์ํ ์ฌ์ด๋ฒ ๋ณด์ ์์ ์์ ๋ฐ์ด๋ ์ฑ๋ฅ์ ๋ณด์ฌ์ฃผ๊ณ ์์ต๋๋ค. Cybench์ CyberGym ๊ฐ์ ํ๊ฐ ์งํ์์ Claude Sonnet 4.5๋ ์ด์ ๋ชจ๋ธ๋ค๋ณด๋ค ํฅ์๋ ์ฑ๊ณผ๋ฅผ ๊ธฐ๋กํ์ต๋๋ค. ์ด ๋ชจ๋ธ์ ๊ธฐ์กด ์ทจ์ฝ์ ์ ์ฐพ์๋ด๊ณ ํด๊ฒฐํ๋ ๋ฅ๋ ฅ๋ฟ๋ง ์๋๋ผ ์๋ก์ด ์ทจ์ฝ์ ์ ๋ฐ๊ฒฌํ๋ ๋ฐ์๋ ์ฐ์ํ ์ฑ๊ณผ๋ฅผ ๋ณด์ฌ์ฃผ๊ณ ์์ต๋๋ค. ๋ํ, ๋ณด์ ํํธ๋๋ค๊ณผ์ ํ๋ ฅ์ ํตํด ์ค์ ์ฌ์ด๋ฒ ๋ณด์ ๋ฌธ์ ํด๊ฒฐ์ Claude ๋ชจ๋ธ์ด ํจ๊ณผ์ ์ผ๋ก ํ์ฉ๋๊ณ ์์์ ํ์ธํ์ต๋๋ค. ์ด๋ฌํ ๋ฐ์ ์ ์ฌ์ด๋ฒ ๋ณด์ ๋ถ์ผ์์ AI์ ์ญํ ์ ๋์ฑ ๊ฐํํ๊ณ , ๊ณต๊ฒฉ์๋ค์ ๋ํญํ๋ ๋ฐฉ์ด์๋ค์ ๋ฅ๋ ฅ์ ํฅ์์ํค๋ ์ค์ํ ์ ํ์ ์ด ๋ ๊ฒ์ผ๋ก ๋ณด์ ๋๋ค.
Claude Sonnet 4.5 ๋ชจ๋ธ์ ์ฌ์ด๋ฒ ์ทจ์ฝ์ ํ์ง, ๋ถ์, ๋ณด์ ๋ฅ๋ ฅ์์ ์ด์ ๋ชจ๋ธ๋ค์ ๋ฅ๊ฐํ๋ฉฐ, ํนํ Cybench์ CyberGym ํ๊ฐ์์ ๋ฐ์ด๋ ์ฑ๊ณผ๋ฅผ ๋ณด์๋ค. ์ด ๋ชจ๋ธ์ ๊ธฐ์กด ์ทจ์ฝ์ ์ ์ฐพ์๋ด๊ณ ๋ณด์ํ๋ ๋ฐ ํจ๊ณผ์ ์ด๋ฉฐ, ์๋ก์ด ์ทจ์ฝ์ ์ ๋ฐ๊ฒฌํ๋ ๋ฅ๋ ฅ๋ ํฅ์๋์๋ค. ๋ํ, ๋ณด์ ํ๊ณผ ์ฐ๊ตฌ ๊ธฐ๊ด๋ค์ด ์ค์ ์ฌ์ด๋ฒ ๋ณด์ ๋ฌธ์ ํด๊ฒฐ์ ํ์ฉํ ์ ์๋๋ก ํํธ๋๋ค๊ณผ ํ๋ ฅํ์ฌ ๋ชจ๋ธ์ ์ค์ฉ์ฑ์ ๊ฐํํ๊ณ ์๋ค. ์ด๋ฌํ ๋ฐ์ ์ ์ฌ์ด๋ฒ ๋ณด์ ๋ถ์ผ์์ AI์ ํ์ฉ์ ๊ฐ์ํํ๊ณ , ๊ณต๊ฒฉ์๋ค๋ณด๋ค ์์ ๋๊ฐ ์ ์๋ ์ค์ํ ์์ ์ ์ ๊ณตํ๋ค.
SIPRI๋ AI ์์ด์ ํธ(์ธ๊ฐ์ ์ง์ ์ง์ ์์ด ํ๋ยท๊ณํํ๊ณ ๋ค๋ฅธ ๋์งํธ ์๋น์ค/์ธํ๋ผ/์์ด์ ํธ์ ์ฅ๊ธฐ๊ฐ ์ํธ์์ฉํ๋ ์์คํ )๊ฐ ๋น ๋ฅด๊ฒ ํ์ฐ๋๊ณ ์์ผ๋, ๋๊ท๋ชจ ์ํธ์์ฉ ์ ์์ธกยทํต์ ๊ฐ ์ด๋ ค์ด ํ๋์ด ๋ํ๋ ์ ์๋ค๊ณ ์ง์ ํ๋ค. ํนํ ์ ์์ ํ์์๊ฐ ์์ด์ ํธ ๊ฐ ์ํธ์์ฉ์ ํดํนยทํ๋กฌํํธ ์ธ์ ์ ๋ฑ์ผ๋ก ์ ์ฉํด ๋ฏผ๊ฐ์ ๋ณด ์ ์ถ, ์ ์ฑ์ฝ๋ ํ์ฐ, ํ์์ ๋ณดยท๋ฐฉํด ํ์๋ฅผ ์ ๋ํ ์ ์๊ณ , ๊ธฐ์ ์ ์ค์๋์ด๋ ๋ชฉํ ์ถฉ๋๋ก ์ธํ ์ฌ๊ณ ๋ ๊ฐ๋ฅํ๋ค๊ณ ์ค๋ช ํ๋ค. ๋ํ ์๋จธ์ ์ค(์๊ธฐ์น ์์ ์ง๋จ์ ํน์ฑ)๋ก ์ธํด ์์ ์ฅ์น๋ฅผ ์ฐํํ๊ฑฐ๋ ์ธ๊ฐ์ด ์ดํดํ๊ธฐ ์ด๋ ค์ด ๋ฐฉ์์ ์ํธ์์ฉ/ํ๋ ฅ์ด ๋ฐ์ํ ์ํ์ด ์์ผ๋ฉฐ, ์ด๋ ๊ตญ์ ํํยท์๋ณด์ ํ๊ธ๋ ์ ์๋ค๊ณ ๊ฐ์กฐํ๋ค. ์ด์ ๋ฐ๋ผ ๊ฐ๋ณ ๊ธฐ์ ์ ์์ ์กฐ์น์ ๋ํด ์์ด์ ํธ ๊ฐ ์ํธ์์ฉ์์ ๋ฐ์ํ ์ํ์ ํ๊ฐยท๊ด๋ฆฌํ ์ ์๋ ๋ง์ถคํ ๊ตญ์ ๊ฑฐ๋ฒ๋์ค ๋์์ด ์๊ธํ๋ค๊ณ ์ ์ํ๋ค.
AI ์์ด์ ํธ๊ฐ ์ ๋กํด๋ฆญ ๊ณต๊ฒฉ์ ์ํ์ ํค์ฐ๋ ๋ฐฉ์๊ณผ ์ ๋ก ํธ๋ฌ์คํธยทAI ๋ฐฉํ๋ฒฝ ๋ฐฉ์ด๋ฅผ ์ค๋ช ํ๋ค. (์์ 15๋ถ)
Anthropic์ ์ง๋ ํ ํด ๋์ ๋ฏธ๊ตญ CAISI์ ์๊ตญ AISI์ ํ๋ ฅํ์ฌ AI ์์คํ ์ ๋ณด์์ ๊ฐํํด ์์ต๋๋ค. ์ด ์ ๋ถ ๊ธฐ๊ด๋ค์ ์ฌ์ด๋ฒ ๋ณด์, ์ ๋ณด ๋ถ์, ์ํ ๋ชจ๋ธ๋ง ๋ฑ ๊ตญ๊ฐ ์๋ณด ๋ถ์ผ์ ๊น์ ์ ๋ฌธ ์ง์์ ๋ฐํ์ผ๋ก Anthropic์ ๋ชจ๋ธ ์์คํ ์ ํ๊ฐํ๊ณ ๊ฐ์ ํ๋๋ฐ ์ฐธ์ฌํ์ต๋๋ค. ์ด ํ๋ ฅ์ ๋ชจ๋ธ์ ์ด๊ธฐ ๊ฐ๋ฐ ๋จ๊ณ๋ถํฐ ์ต์ ์์คํ ๊น์ง ๋ค์ํ ๋จ๊ณ์์ ์ด๋ฃจ์ด์ก์ผ๋ฉฐ, ์ ๋ถ ํ์ '๋ ๋ ํ' ํ๋์ ํตํด ํ๋กฌํํธ ์ฃผ์ ์ทจ์ฝ์ , ์ํธ ๊ธฐ๋ฐ ๊ณต๊ฒฉ, ์ ๋ ฅ/์ถ๋ ฅ ์ํ ๊ณต๊ฒฉ ๋ฑ์ ๋ฐ๊ฒฌํ๊ณ ํด๊ฒฐํ์์ต๋๋ค. ์ด๋ฌํ ์ง์์ ์ธ ํ์ ์ ํตํด Anthropic์ ์์คํ ์ ๋ณด์์ ํฌ๊ฒ ๊ฐํํ์์ผ๋ฉฐ, ์์ผ๋ก๋ ๋ฏผ๊ฐ๊ณผ ์ ๋ถ ๊ฐ์ ๊ธด๋ฐํ ํ๋ ฅ์ ์ค์์ฑ์ ๊ฐ์กฐํ๊ณ ์์ต๋๋ค.
๊ณผํ๊ธฐ์ ์ ๋ณดํต์ ๋ถ๋ ์ 42์ฐจ ICT ๊ท์ ์๋๋ฐ์ค ์ฌ์์์ํ์์ ๊ณต๊ณต๋๋ฆฌ ๊ณต๊ณต์ ์๋ฌผ ์ฝ 1,180๋ง ๊ฑด์ AI ํ์ต์ ํ์ฉํ ์ ์๋๋ก ์ค์ฆํน๋ก๋ฅผ ๋ถ์ฌํ๋ ๋ฑ ์ด 8๊ฑด์ ๊ท์ ํน๋ก๋ฅผ ์ง์ ํ๋ค. ์ด๋ฅผ ํตํด ๊ตญ๋ด ๋ ์ AI ํ์ด๋ฐ์ด์ ๋ชจ๋ธ ๊ฐ๋ฐ์ ์ง์ํ๊ณ , AI ์ํผ ํ์ผํ, ๋ฐ๋ ค๋๋ฌผ๋ณ์ ์์ฝํ ๊ด๋ฆฌ, ๋ณด์ด์คํผ์ฑ ํ์ง, ์ค๊ณ ์ฐจ ์ ๊ฒ๊ธฐ๋ก๋ถ ์ ์๊ณ ์ง ๋ฑ์ ์๋น์ค ์ถ์๋ฅผ ์ด์งํ ๊ณํ์ด๋ค.
Anthropic์ ๋ฏธ๊ตญ ์ฒญ๋ ๋ค์ AI ๊ต์ก ์ ๊ทผ์ฑ์ ํ๋ํ๊ธฐ ์ํด $100๋ง์ ํฌ์ํ๊ณ ๊ต์ก ์ปค๋ฆฌํ๋ผ์ ๊ฐ๋ฐํ๋ ๋ฑ ์ธ ๊ฐ์ง ์ฃผ์ ์ฝ์์ ํตํด White House์ '์ฒญ๋ ์ ์ํ AI ๊ต์ก ํฌ์ ์ฝ์'์ ์๋ช ํ์ต๋๋ค. ๊ตฌ์ฒด์ ์ผ๋ก๋ ๋ค์๊ณผ ๊ฐ์ต๋๋ค:
- K-12 ์ฌ์ด๋ฒ ๋ณด์ ๊ต์ก: 3๋ ๊ฐ $100๋ง์ ํฌ์ํ์ฌ PicoCTF ํ๋ก๊ทธ๋จ์ ์ง์ํ์ฌ ์คยท๊ณ ๋ฑํ๊ต ํ์๋ค์๊ฒ ์ค์ฉ์ ์ธ ์ฌ์ด๋ฒ ๋ณด์ ๊ธฐ์ ์ ๊ต์กํฉ๋๋ค. - ๋ํต๋ น AI ์ฑ๋ฆฐ์ง ์ง์: White House์์ ์๋ก ์์ํ ๋ํต๋ น AI ์ฑ๋ฆฐ์ง์ ์ฐธ์ฌํ์ฌ ํ์๋ค๊ณผ ๊ต์ก์๋ค์ด ์ง์ญ ์ฌํ ๋ฌธ์ ํด๊ฒฐ์ ์ํ AI ์๋ฃจ์ ์ ๊ฐ๋ฐํ๋๋ก ๋์ต๋๋ค. - AI ์ ์ฐฝ์ฑ ๊ต์ก ์ปค๋ฆฌํ๋ผ ๊ฐ๋ฐ: ์ ๊ตญ์ ๊ต์ก์๋ค์ ์ํด ๋ฌด๋ฃ๋ก ์ด์ฉ ๊ฐ๋ฅํ AI ์ ์ฐฝ์ฑ ์ปค๋ฆฌํ๋ผ์ ๊ฐ๋ฐํ์ฌ ๊ต์ค์์ AI๋ฅผ ํจ๊ณผ์ ์ผ๋ก ํตํฉํ ์ ์๋๋ก ์ง์ํฉ๋๋ค.
๋ํ, Anthropic์ MagicSchool, Amira Learning, Solvely.ai ๋ฑ์ ํ๋ซํผ๊ณผ ํ๋ ฅํ์ฌ ์๋ฐฑ๋ง ๋ช ์ ํ์๊ณผ ๊ต์ก์๋ค์ด AI๋ฅผ ํ์ฉํ ํ์ต์ ๊ฒฝํํ๊ณ ์์ต๋๋ค. ์ด๋ฌํ ๋ ธ๋ ฅ์ ํ์๋ค์ด AI ์๋์ ๋๋นํ ์ ์๋๋ก ์ค๋น์ํค๋ ๋ฐ ์ค์ ์ ๋๊ณ ์์ต๋๋ค.
NCSC์ AI Security Institute(AISI)๋ ์์ฑํ AI์ safeguard๊ฐ jailbreaking, agent hijacking, indirect prompt injection ๋ฑ์ผ๋ก ์ฐํ๋ ์ ์๋ค๊ณ ๋ณด๊ณ , ์ด๋ฅผ ์ํํ๊ธฐ ์ํด ์ ํต์ ์ฌ์ด๋ฒ ๋ณด์์ ์ทจ์ฝ์ ๊ด๋ฆฌยท๊ณต๊ฐ ์์น์ ์ ์ดํ ์ ์๋ค๊ณ ์ค๋ช ํ๋ค. ๋ํ SBBP/SBDP๋ ์ฐ๊ตฌ์ ์ปค๋ฎค๋ํฐ๊ฐ ์ฑ๊ณต์ ์ธ ์ฐํ ์ฌ๋ก๋ฅผ ์ฐพ์ ๋ณด๊ณ ํ๋๋ก ํ๋ ํ๋ก๊ทธ๋จ์ผ๋ก, (1) ์ฐํ ๋์ด๋๋ฅผ ์ธก์ ํด ๊ฑฐ๋ฒ๋์คยท๋ฆฌ์คํฌ ํ๊ฐ์ ํ์ฉํ๊ณ (2) ๋ฐฐํฌ ํ ์ ์ฝ์ ์ ๋ฐ๊ฒฌํด ์ง์์ ์ผ๋ก ๋ณด์ํ๋ ํจ๊ณผ๋ฅผ ๊ธฐ๋ํ ์ ์๋ค๊ณ ๋ฐํ๋ค. ๋ค๋ง ํ๋ก๊ทธ๋จ์ด ์๋ค๊ณ ํด์ ๋ชจ๋ธ์ด ์์ ํ๋ค๋ ๋ป์ ์๋๋ฉฐ, ๋ช ํํ ๋ฒ์ ์ค์ , ๋ด๋ถ ์ ๊ฒ ํ ์ ์ ํ ์์ ์ ์ถ์, ์ฌํยท์ถ์ ๊ฐ๋ฅํ ๋ณด๊ณ ์ฒด๊ณ ๋ฑ ์ด์ ์ ์ ์กฐ๊ฑด์ด ์ค์ํ๋ค๊ณ ๊ฐ์กฐํ๋ค.
Anthropic์ Claude์ ์ค๋จ์ฉ์ ๋ง๊ธฐ ์ํ ์ํ ์ธํ ๋ฆฌ์ ์ค ๋ณด๊ณ ์๋ฅผ ๊ณต๊ฐํ๋ฉฐ, ์์ด์ ํฑ AI๊ฐ ์ฌ์ด๋ฒ๊ณต๊ฒฉ์ ์๋ํยท๊ณ ๋ํํ๊ณ ๊ธฐ์ ์ฅ๋ฒฝ์ ๋ฎ์ถ๋ ํ๋ฆ์ ์ค๋ช ํ๋ค. ๋ณด๊ณ ์์๋ Claude Code๋ฅผ ํ์ฉํ ๋๊ท๋ชจ ๋ฐ์ดํฐ ๊ฐ์ทจยทํ๋ฐ, ๋ถํ IT ์ธ๋ ฅ์ด AI๋ก ์๊ฒฉ ๊ณ ์ฉ ์ฌ๊ธฐ๋ฅผ ํ์ฅํ ์ฌ๋ก, ๊ทธ๋ฆฌ๊ณ AI๋ก ์ ์๋ ๋์ฌ์จ์ด๋ฅผ RaaS ํํ๋ก ํ๋งคํ ์ฌ๋ก๊ฐ ํฌํจ๋๋ค. ํ์ฌ๋ ํด๋น ๊ณ์ ์ฐจ๋จ, ๋ง์ถคํ ๋ถ๋ฅ๊ธฐ(์๋ ์คํฌ๋ฆฌ๋ ๋๊ตฌ)์ ์ ์ฑ์ฝ๋ ์ ๋ก๋ยท์์ฑ ํ์ง ๋ฐฉ๋ฒ ๊ฐ์ , ๊ด๋ จ ๊ธฐ๊ด๊ณผ์ ์ ๋ณด ๊ณต์ ๋ฑ ๋์์ ์งํํ๋ค๊ณ ๋ฐํ๋ค.
Anthropic์ด ๊ณต๊ฐํ ๋ณด๊ณ ์๋ ์ ์ฑ ํ์์๋ค์ด AI์ ๊ณ ๋ํ๋ ๊ธฐ๋ฅ์ ์ด์ฉํด ์ฌ์ด๋ฒ๋ฒ์ฃ๋ฅผ ์ํํ๋๋ก ์ด์์ ๋ฐ๊ฟ์๋ค๊ณ ์ ํ๋ค. ๋ณด๊ณ ์๋ AI ๋ชจ๋ธ์ด ์ ๊ตํ ์ฌ์ด๋ฒ๊ณต๊ฒฉ์ ํ์ฉ๋๋ฉด์ ์ฌ์ด๋ฒ๋ฒ์ฃ์ ์ง์ ์ฅ๋ฒฝ์ด ๋ฎ์์ก๊ณ , ๊ธฐ์ ๋ ฅ์ด ๋ถ์กฑํ ๋ฒ์ฃ์๋ ๋์ฌ์จ์ด ๊ฐ๋ฐ ๋ฑ ๋ณต์กํ ์์ ์ ์ํํ ์ ์๋ค๊ณ ๋ฐํ๋ค. ๋ํ ์ฌ์ด๋ฒ๋ฒ์ฃ์ ์ฌ๊ธฐ ํ๋ ์ ๊ณผ์ ์ AI๊ฐ ๋ด์ฅ๋๋ ์์์ด ๋ํ๋ฌ๋ค๊ณ ์์ฝํ๋ค.
Anthropic์ ๊ตญ๊ฐ ์๋ณด์ ๊ณต๊ณต ์ ์ฑ ๋ถ์ผ์ ์ฃผ์ ์ธ์ฌ๋ค๋ก ๊ตฌ์ฑ๋ ์๋ฌธ์์ํ๋ฅผ ์ถ๋ฒ์์ผ ๋ฏธ๊ตญ ์ ๋ถ์ ๋๋งน๊ตญ๋ค์ด ์ ๋ต์ ๊ฒฝ์ ์๋์ ์ง์์ ์ธ ๊ธฐ์ ์ฐ์๋ฅผ ๊ตฌ์ถํ๊ณ ์ ์งํ ์ ์๋๋ก ์ง์ํ ๊ณํ์ ๋๋ค. ์๋ฌธ์์ํ๋ ์ ์ง ์์์์, ๊ตญ๋ฐฉ๋ถ ์ฅ๊ด, ์ ๋ณด ์ปค๋ฎค๋ํฐ ๋ฆฌ๋, ์๋์ง๋ถ ์ฅ๊ด, ๋ฒ๋ฌด ์ฅ๊ด ๋ฑ ๋ค์ํ ๋ถ์ผ์ ์ ๋ฌธ๊ฐ๋ค๋ก ์ด๋ฃจ์ด์ ธ ์์ต๋๋ค. ์ด๋ค์ ์ฌ์ด๋ฒ ๋ณด์๋ถํฐ ์ธํ ๋ฆฌ์ ์ค ๋ถ์, ๊ณผํ ์ฐ๊ตฌ๊น์ง ํต์ฌ ๋ถ์ผ์์์ ์ํฅ๋ ฅ ์๋ ์ ํ๋ฆฌ์ผ์ด์ ๊ฐ๋ฐ์ ์ง์ํ๋ฉฐ, ๊ณต๊ณต-๋ฏผ๊ฐ ํํธ๋์ญ ๊ฐํ์ ์ฐ์ ์ ๋ ๊ธฐ์ค ๊ฐ๋ฐ์๋ ๊ธฐ์ฌํ ์์ ์ ๋๋ค. ์๋ฌธ์์ ๋ช ๋จ์๋ Roy Blunt, David S. Cohen, Richard Fontaine ๋ฑ์ด ํฌํจ๋์ด ์์ต๋๋ค. Anthropic์ ์ด๋ฌํ ํ๋ ฅ์ ํตํด ๋ฏธ๊ตญ๊ณผ ๋๋งน๊ตญ๋ค์ด ์์ ํ๊ณ ์ ๋ขฐํ ์ ์๋ ์ฒจ๋จ AI ๊ธฐ์ ์ ์ ๋ํ ์ ์๋๋ก ๋๊ณ ์ ํฉ๋๋ค.
ESET ๋ณด์ ์ฐ๊ตฌ์ง์ด OpenAI gpt-oss-20b๋ฅผ ํ์ฉํด Lua ์คํฌ๋ฆฝํธ๋ฅผ ์์ฑํ๋ AI-powered ๋์ฌ์จ์ด โPromptLockโ์ VirusTotal์์ ํ์ธํ๋ค๊ณ ๋ฐํ๋ค. ๋ค๋ง ํ์ฌ ์ํ์ ์คํ์ค ํ๊ฒฝ ๋ฐ์์๋ ๋น๊ธฐ๋ฅ(์๋ ๋ถ๊ฐ)์ธ proof-of-concept๋ก ๋ณด์ด๋ฉฐ, ์ค์ ๊ฐ์ผ ์ฌ๋ก๋ ํ์ธ๋์ง ์์๋ค๊ณ ์ค๋ช ํ๋ค. PromptLock์ ๋ก์ปฌ ํ์ผ ์ด๊ฑฐยท๋ฐ์ดํฐ ์ ์ถยท์ํธํ ๋ฑ์ ์ํํ๋๋ก ์ค๊ณ๋์ง๋ง ํ๊ดด(destruction) ๊ธฐ๋ฅ์ ์์ง ๊ตฌํ๋์ง ์์ ๊ฒ์ผ๋ก ์ ํด์ก๋ค.
Anthropic์ Chrome ํ์ฅ ํ๋ก๊ทธ๋จ์ Max ํ๋ 1,000๋ช ๋์์ผ๋ก ์ ํ ํ ์คํธํ๋ฉฐ, waitlist(claude.ai/chrome)๋ฅผ ํตํด ์ฐธ์ฌ์๋ฅผ ๋ชจ์งํ๋ค.
Anthropic์ ๋ธ๋ผ์ฐ์ ์์ Claude๊ฐ ์ฌ์ฉ์์ ํ๋ฉด์ ๋ณด๊ณ ํด๋ฆญยทํผ ์ ๋ ฅ ๋ฑ ์์ ์ ์ํํ ์ ์๋๋ก Chrome ํ์ฅ ๊ธฐ๋ฅ์ ํ์ผ๋ฟ์ผ๋ก ํ ์คํธํ๋ค๊ณ ๋ฐํ๋ค. ๋ค๋ง ๋ธ๋ผ์ฐ์ ํ๊ฒฝ์์๋ ์น์ฌ์ดํธ ๋ฑ์ ์จ๊ฒจ์ง ์ง์๋ก AI๊ฐ ์ ์์ ํ๋์ ํ๊ฒ ๋ง๋๋ prompt injection ๊ณต๊ฒฉ์ด ๊ฐ๋ฅํ๋ฉฐ, red-teaming ๊ฒฐ๊ณผ ์์ ์ฅ์น๊ฐ ์์ ๋ ๊ณต๊ฒฉ ์ฑ๊ณต๋ฅ ์ด 23.6%์๋ค๊ณ ์ค๋ช ํ๋ค. ์ mitigations ์ ์ฉ ํ ๊ณต๊ฒฉ ์ฑ๊ณต๋ฅ ์ 11.2%๋ก ๋ฎ์ท๊ณ , ๋ธ๋ผ์ฐ์ ํนํ ๊ณต๊ฒฉ 4์ข โchallengeโ ์ธํธ์์๋ 35.7%์์ 0%๋ก ์ค์๋ค๊ณ ๋ง๋ถ์๋ค. ๋ํ ์ฌ์ดํธ๋ณ ๊ถํ, ๊ณ ์ํ ํ๋์ ๋ํ action confirmations, ๊ณ ์ํ ์นดํ ๊ณ ๋ฆฌ ์ฐจ๋จ, ์์ฌ ํจํด ํ์ง ๋ถ๋ฅ๊ธฐ ๋ฑ์ ํ์ฌ ๋ฐฉ์ด ์ฒด๊ณ๋ก ์ ์ํ๋ค.
OECD AI ์ฌ๊ณ ๊ณตํต ๋ณด๊ณ ํ๋ ์์ํฌ๋ฅผ AI security ๋ณด๊ณ ์ ๋ง๊ฒ ํ์ฅ(์ทจ์ฝ์ ๋ถ๋ฅ ๋ฑ)ํ๊ฑฐ๋, security ์ฌ๊ฑด์ ๋ณ๋ ๋ณํ ํ๋ก์ธ์ค๋ก ํ์ํด ํธํ์ฑ์ ์ ์งํ์๋ ์ ์์ด ์ ์๋จ
OECD์ AI Incidents ๊ณตํต ๋ณด๊ณ ํ๋ ์์ํฌ๊ฐ ๋ฐ์ดํฐ ๊ณต์ ๊ธฐ๋ฐ์ ๋น ๋ฅด๊ฒ ๋ง๋ จํ๊ณ ์์ง๋ง, ๋ณด์ ์ปค๋ฎค๋ํฐ์ ๊ด๋ฒ์ํ ์ฑํ์ ๋ง๋ ์ฅ์ ๋ก โ์ฌ์ด๋ฒ๋ณด์ ์ด์๋ฅผ ๋ ์ ๋ค๋ฃจ๊ธฐ ์ํ ์ ๋ณด ๋ถ์กฑโ์ด ์ง์ ๋๋ค. ๊ธ์ AI security ์ฌ๊ฑด์ ์ ์์ ํ์์์ ์ทจ์ฝ์ ์ ์ฉ ๊ฐ๋ฅ์ฑ ๋ฑ ์ถ๊ฐ ๋ฐ์ดํฐ๊ฐ ํ์ํ๋ฉฐ, ์ด๋ฅผ ๋ชจ๋ ๋น(้)๋ณด์ AI ์ฌ๊ณ ์ ์ต์ง๋ก ์ ์ฉํ๋ฉด ์คํ๋ ค ํต์ฌ ์์๊ฐ ๊ฐ๋ ค์ง ์ ์๋ค๊ณ ์ค๋ช ํ๋ค. ํด๊ฒฐ์ฑ ์ผ๋ก๋ OECD ํ๋ ์์ํฌ์ AI security ์ ์ฉ ํ์ฅ ํ๋๋ฅผ ์ถ๊ฐํ๊ฑฐ๋, security ์ฌ๊ฑด์ ๋ช ํํ ํ๋๊ทธํด ๋ณํ ํ๋ก์ธ์ค๋ฅผ ์ด์ํ๋ ๊ณตํต ๊ธฐ๋ฐ์ ์ ์งํ๋ ๋ฐฉ์์ ์ ์ํ๋ค.
NRIใปใญใฅใข๋ AI ์์ด์ ํธ๊ฐ ์ธ๋ถ ๋๊ตฌ๋ฅผ โ์ ์ ๊ธฐ๋ฅโ์ผ๋ก ํด์ํ๋ ๊ตฌ์กฐ์ ๋ฌธ์ ๋ก ์ธํด ์ค์ ํ๋ก๋ํธ์์ ์ฌ๊ฐํ ์ทจ์ฝ์ ์ด ๋ฐ๊ฒฌ๋๊ณ ์๋ค๊ณ ์ค๋ช ํ๋ค. GitHub MCP์์๋ ์ ์์ Issue์ prompt injection์ผ๋ก AI๊ฐ ์ฌ์ฉ์์ ํ๋ผ์ด๋น ์ ์ฅ์์ ์ ๊ทผํด ๊ธฐ๋ฐ ์ฝ๋ยท์ธ์ฆ์ ๋ณด๋ฅผ ๊ณต๊ฒฉ์์๊ฒ ์ ์ถํ ์ ์๊ณ , WhatsApp MCP์์๋ Rug PullยทTool ShadowingยทUI ์ํ ๊ธฐ๋ฒ์ ์กฐํฉํด ์ํธํ ์์ฒด๋ฅผ ๊นจ์ง ์๊ณ ๋ ๋ฉ์์ง ์ด๋ ฅ๊ณผ ์ฐ๋ฝ์ฒ๋ฅผ ํ์ทจํ ์ ์๋ค๊ณ ํ๋ค. ๋ํ ElizaOS์์๋ ๋ฉ๋ชจ๋ฆฌ ํฌ์ด์ฆ๋์ผ๋ก ์ฅ๊ธฐ๊ธฐ์ต์ ์ ์ฅ๋ ์ ์ฑ ์ง์๊ฐ ํ์ ๊ฑฐ๋ ์์ฒญ์ ์ฌ์ฌ์ฉ๋์ด ๋๋๋ฆด ์ ์๋ ๊ธ์ ํผํด(2500๋ง ๋ฌ๋ฌ ์ด์ ๊ท๋ชจ ๊ฐ๋ฅ)๋ฅผ ์ ๋ฐํ ์ ์๋ค๊ณ ์ ๋ฆฌํ๋ค.
์์ AI์ ์ํ๊ณผ ์ํธํยท์ฌ์ด๋ฒ ๋ณด์ ์ํฅ, ๋ฏธ๋ ์ฌ์ด๋ฒ ๋ฒ์ฃ๋ฅผ ๋ ผ์ํ๋ ํ์บ์คํธ๋ค. (์์ 110๋ถ)
Anthropic์ ์์ ์ฐ๋ ค์ ๋์ํด Claude AI์ ์ฌ์ฉ์ ์ฑ ์ ์ ๋ฐ์ดํธํ๋ฉฐ, ์๋ฌผยทํํยท๋ฐฉ์ฌ์ฑยทํต(CBRN) ๋ฌด๊ธฐ ๋ฐ ๊ณ ์ํ ํญ๋ฐ๋ฌผ ๊ฐ๋ฐ์ ๊ตฌ์ฒด์ ์ผ๋ก ๊ธ์งํ๋ค. ๋ํ Computer Use(์ฌ์ฉ์ ์ปดํจํฐ ์ ์ด)์ Claude Code(ํฐ๋ฏธ๋์ Claude ๋ด์ฅ) ๊ฐ์ ์์ด์ ํฑ ๊ธฐ๋ฅ์ด ์ ์ฉยท์ ์ฑ์ฝ๋ ์์ฑยท์ฌ์ด๋ฒ ๊ณต๊ฒฉ ์ํ์ ํค์ธ ์ ์๋ค๊ณ ๋ฐํ๊ณ , ๋คํธ์ํฌ/์ปดํจํฐ ์์คํ ์ ์นจํดยท์ ์ฉํ๋ ํ์๋ฅผ ๋ง๋ ์กฐํญ์ ์ถ๊ฐํ๋ค. ์ ์น ๊ด๋ จ ์ ์ฑ ๋ ์ํํด, ์ ์น ์บ ํ์ธยท๋ก๋น ์ ๋ฐ์ ์ ๋ฉด ๊ธ์งํ๋ ๋ฐฉ์์์ โ๋ฏผ์ฃผ์ ์ ์ฐจ๋ฅผ ๊ธฐ๋งํ๊ฑฐ๋ ๊ต๋โํ๊ฑฐ๋ โ์ ๊ถ์ยท์บ ํ์ธ ํ๊นํ โ์ ํด๋นํ๋ use case๋ง ์ ํํ๋๋ก ํ๋ค.
Anthropic์ 2025๋ 9์ 15์ผ๋ถํฐ ์ ์ฉ๋ ์ฌ์ฉ ์ ์ฑ ์ ๋ฐ์ดํธ๋ฅผ ๋ฐํํ์ต๋๋ค. ์ด๋ฒ ์ ๋ฐ์ดํธ๋ ์ฌ์ฉ์ ํผ๋๋ฐฑ, ์ ํ ๋ณํ, ๊ท์ ๋ํฅ, ๊ทธ๋ฆฌ๊ณ ์งํ ์ฐ์ ์์๋ฅผ ๋ฐ์ํ์ฌ ์ ์ฑ ์ ๋ช ํ์ฑ๊ณผ ์ธ๋ถ ์ฌํญ์ ๊ฐํํ๋ ๊ฒ์ ๋ชฉํ๋ก ํฉ๋๋ค. ์ฃผ์ ๋ณ๊ฒฝ ์ฌํญ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค:
1. ์ฌ์ด๋ฒ ๋ณด์ ๋ฐ ์์ด์ ํธ ์ฌ์ฉ: ์์ด์ ํธ ๊ธฐ์ ์ ๋ฐ์ ์ ๋ฐ๋ฅธ ์๋ก์ด ์ํ ์์๋ค์ ๋ค๋ฃจ๊ธฐ ์ํด ์ฌ์ด๋ฒ ๊ณต๊ฒฉ ๋ฐ ์ธํ๋ผ ์นจํด ํ๋์ ๋ํ ๊ธ์ง ์กฐํญ์ ์ถ๊ฐํ์ต๋๋ค. ํฉ๋ฒ์ ์ธ ์ฌ์ด๋ฒ ๋ณด์ ๊ฐํ ํ๋์ ํ์ฉ๋ฉ๋๋ค.
2. ์ ์น ์ฝํ ์ธ ์ ํ ์ฌ๊ฒํ : ๊ณผ๊ฑฐ์ ๊ด๋ฒ์ํ ์ ์น ์ฝํ ์ธ ๊ธ์ง ์กฐํญ์ ์ฌ๊ฒํ ํ์ฌ, ๋ฏผ์ฃผ์ ๊ณผ์ ์ ์๊ณกํ๊ฑฐ๋ ์์ด๋ ํ๋๋ง ๊ธ์งํ๊ณ ํฉ๋ฒ์ ์ธ ์ ์ฑ ์ฐ๊ตฌ์ ์๋ฏผ ๊ต์ก์ ํ์ฉํฉ๋๋ค.
3. ๋ฒ ์งํ ์ฌ์ฉ ์ง์นจ ๊ฐ์ : ๋ฒ ์งํ ๋๊ตฌ ์ฌ์ฉ์ ๋ํ ์ง์นจ์ ๋ช ํํ ํ์ฌ ๊ธฐ์กด์ ์ ํ ์ฌํญ์ ์ ์งํ๋ฉด์๋ ์ดํดํ๊ธฐ ์ฝ๊ฒ ๊ฐ์ ํ์ต๋๋ค.
4. ๊ณ ์ํ ์๋น์ ๋์ ์ฌ์ฉ ์ฌ๋ก ์๊ตฌ์ฌํญ: ๊ณต๊ณต ๋ณต์ง์ ์ฌํ์ ๊ณต์ ์ฑ์ ์ํฅ์ ๋ฏธ์น๋ ์ฌ์ฉ ์ฌ๋ก์ ๋ํ ์ถ๊ฐ์ ์ธ ์์ ์ฅ์น๋ฅผ ๋ช ์ํ์ต๋๋ค. ์ด๋ ์๋น์ ๋์ ์ถ๋ ฅ์๋ง ์ ์ฉ๋ฉ๋๋ค.
์ด๋ฌํ ๋ณ๊ฒฝ ์ฌํญ์ AI ๊ธฐ์ ์ ๋ฐ์ ๊ณผ ํจ๊ป ๋ณํํ๋ ์ํ ์์์ ๋์ํ๊ธฐ ์ํ ๊ฒ์ ๋๋ค. Anthropic์ ์ ์ฑ ์ ์ง์์ ์ผ๋ก ํ๊ฐํ๊ณ ๊ฐ์ ํ ๊ณํ์ ๋๋ค.
NIST SP 800-53 Control Overlays for Securing AI Systems ๊ฐ๋ฐ์ ์ํ ํผ๋๋ฐฑ์ ๋ฐ์ผ๋ฉฐ, ๊ด๋ จ Slack ์ฑ๋์ ์ด์
NIST๋ AI ์์คํ ๋ณด์์ ์ํ NIST SP 800-53 Control Overlays ๊ฐ๋ฐ๊ณผ ๊ด๋ จ๋ ๊ฐ๋ ์ ๋ฐ ์ ์ ์คํ๊ณํ์ ๊ณต๊ฐํ๋ค. ๊ฐ๋ ์์๋ ์์ฑํ AI, ์์ธกํ AI, ๋จ์ผยท๋ค์ค ์์ด์ ํธ AI ์์คํ , ๊ทธ๋ฆฌ๊ณ AI ๊ฐ๋ฐ์๋ฅผ ์ํ ํต์ (control) ๋ฑ ์ฌ์ด๋ฒ๋ณด์ ์ํ ๊ด๋ฆฌ์ฉ AI ์ฌ์ฉ์ฌ๋ก๊ฐ ํฌํจ๋๋ค. ๋ํ ์ดํด๊ด๊ณ์๊ฐ Slack ์ฑ๋์ ํตํด ๊ฐ๋ฐ์ ์ฐธ์ฌํ๊ณ NIST ์ฐ๊ตฌ์ฑ ์์ ๋ฐ ํ์ ๊ทธ๋ฃน๊ณผ ๋ ผ์ํ๋ฉฐ ์ค์๊ฐ ์๊ฒฌ์ ์ ๊ณตํ ์ ์๋๋ก ํ๋ค.
์ค์ ์ฌ์ด๋ฒ๋ณด์ ์ทจ์ฝ์ ์ ๋ํ AI ์์ด์ ํธ ํ๊ฐ ๋ฒค์น๋งํฌ CVE-Bench๋ฅผ ์๊ฐํ๋ค. (์์ 8๋ถ)
Anthropic์ Claude์ ์ ์ฉ์ฑ์ ๋์ด๋ฉด์๋ ์ค์ ํผํด๋ก ์ด์ด์ง ์ ์๋ ์ค๋จ์ฉ์ ๋ง๊ธฐ ์ํด Safeguards ํ์ด ์ ์ฑ ยทํ์ตยทํ๊ฐยท์ค์๊ฐ ์งํยท๋ชจ๋ํฐ๋ง ์ ๊ณผ์ ์ ๋ค๋ฃฌ๋ค๊ณ ๋ฐํ๋ค. Usage Policy๋ฅผ ๊ธฐ๋ฐ์ผ๋ก Unified Harm Framework์ Policy Vulnerability Testing์ ํตํด ์ํ์ ํ์ ํ๊ณ , fine-tuning ๋ฐ system prompt ์กฐ์ , ์์ ยทํธํฅยท๊ณ ์ํ ๋๋ฉ์ธ ํ๊ฐ๋ฅผ ์ฌ์ ์ํํ๋ค. ๋ฐฐํฌ ํ์๋ classifier ๊ธฐ๋ฐ ํ์ง์ CSAM ํด์ ๋์กฐ, response steering ๋ฐ ๊ณ์ ์์ค ์งํ(๊ฒฝ๊ณ ยท์ข ๋ฃ ๊ฐ๋ฅ) ๋ฑ์ ํตํด ์๋ฐ์ ์ค์๊ฐ์ผ๋ก ์ต์ ํ๋ฉฐ, ๊ณ์ธต ์์ฝยทthreat intelligenceยท๊ณต๊ฐ threat intelligence reports ๋ฑ์ผ๋ก ์ง์์ ์ผ๋ก ๊ณต๊ฒฉ ํจํด์ ์ถ์ ํ๋ค.
AI ์ง์ ์ ํ๋ฆฌ์ผ์ด์ ์ ํดํน ๊ธฐ๋ฒ๊ณผ ๋ฐ์ดํฐ ์ ์ถ ์ํ, ๋ฐฉ์ด ๋ฐฉ๋ฒ์ ์๊ฐํ๋ค. (์์ 27๋ถ)
Anthropic์ ํด๋ก๋ฐ์ด๋ฅผ ์ธ๊ฐ ์ค์ฌ์ ์ฌ์ด๋ฒ ๋ณด์ ๋ํ์ ์ฐธ๊ฐ์์ผ AI์ ์ฌ์ด๋ฒ ๋ณด์ ์ญ๋์ ํ๊ฐํ์ต๋๋ค. ํด๋ก๋ฐ์ด๋ ์ฌ๋ฌ ๋ํ์์ ์์ 25% ์ด๋ด์ ์ฑ์ ์ ๊ฑฐ๋์์ผ๋, ๊ฐ์ฅ ์ด๋ ค์ด ๊ณผ์ ์์๋ ์ต๊ณ ์ธ๊ฐ ํ์ ๋ค์ฒ์ก์ต๋๋ค. ์ฃผ์ ๋ฐ๊ฒฌ ์ฌํญ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค:
- ๊ฒฝ์๋ ฅ: ํด๋ก๋ฐ์ด๋ ์ผ๋ถ ์ฌ์ด๋ฒ ๋ณด์ ๋ํ์์ ์ธ๊ฐ ํ๊ณผ ๊ฒฝ์ํ ์ ์๋ ์์ค์ ์ฑ๊ณผ๋ฅผ ๋ณด์์ต๋๋ค. ์๋ฅผ ๋ค์ด, PicoCTF์์๋ ์ ์ธ๊ณ ์์ ์์ 3%์ ์ง์ ํ๊ณ , HackTheBox AI vs Human CTF Challenge์์๋ AI ํ ์ค 4์๋ฅผ ๊ธฐ๋กํ์ต๋๋ค. - ๋๊ตฌ ํ์ฉ: ํด๋ก๋ฐ์ด๋ Kali Linux์ ๊ฐ์ ์ ๋ฌธ ๋๊ตฌ๋ฅผ ํ์ฉํ ๋ ๋ ํจ๊ณผ์ ์ผ๋ก ์๋ํ์ต๋๋ค. ์ด๋ AI๊ฐ ์ ์ ํ ๋๊ตฌ๋ฅผ ์ฌ์ฉํ ๋ ์ธ๊ฐ ์์ค์ ์ฑ๊ณผ๋ฅผ ๋ผ ์ ์์์ ๋ณด์ฌ์ค๋๋ค. - ํ๊ณ: ๋ํ ์ค ํน์ ์๋ฒ์ ์ ๋๋ฉ์ด์ ์ฝํ ์ธ ๋ก ์ธํด ํด๋ก๋ฐ์ด๊ฐ ๋งฅ๋ฝ์ ์๋ ๋ฑ์ ์์์น ๋ชปํ ์คํจ ์ฌ๋ก๋ ๋ฐ๊ฒฌ๋์์ต๋๋ค. ๋ํ ์ฅ์๊ฐ ์์ ์ ๋งฅ๋ฝ ์ฐฝ ์ ํ์ผ๋ก ์ธํ ์ฑ๋ฅ ์ ํ ๋ฌธ์ ๋ ํ์ธ๋์์ต๋๋ค.
์ด๋ฌํ ์ฐ๊ตฌ๋ AI๊ฐ ์ฌ์ด๋ฒ ๋ณด์ ๋ถ์ผ์์ ์ด๋ป๊ฒ ํ์ฉ๋ ์ ์๋์ง์ ๋ํ ํต์ฐฐ๋ ฅ์ ์ ๊ณตํ๋ฉฐ, ๋์์ AI์ ํ๊ณ์ ๊ฐ์ ๋ฐฉํฅ์ ์ ์ํฉ๋๋ค.
ํ๊ตญ์ง๋ฅ์ ๋ณด์ฌํ์งํฅ์๊ณผ ๊ณผํ๊ธฐ์ ์ ๋ณดํต์ ๋ถ๋ AI ๋ชจ๋ธ์ ์์ ์ฑ ๋ฐ ์ ๋ขฐ์ฑ ํ๊ฐ ๊ธฐ๋ฐ์ ๋ง๋ จํ๊ธฐ ์ํ ใLLM ์์ ์ฑ ๋ฐ ์ ๋ขฐ์ฑ ํ๊ฐ ๋ฐ์ดํฐ์ ๊ตฌ์ถใ ์ฌ์ ์ฐฉ์๋ณด๊ณ ํ๋ฅผ 8์ 7์ผ ๊ฐ์ตํ๋ค. ์ด๋ฒ ์ฌ์ ์ ๋ ์ AI ํ์ด๋ฐ์ด์ ๋ชจ๋ธ ํ๋ก์ ํธ๋ฅผ ํตํด ๊ตฌ์ถ๋๋ AI ๋ชจ๋ธ์ ์ํ ์์๋ฅผ ์ฒด๊ณ์ ยท์ ๋์ ์ผ๋ก ๊ฒ์ฆํ๊ธฐ ์ํ ํ๊ฐ ์ฒด๊ณ๋ฅผ ๋ง๋๋ ๋ฐ ์ด์ ์ ๋๋ค. ์ฌ์ด๋ฒ ๋ณด์, AI ์์จ์ฑ, ์ฌ์ค ๊ธฐ๋ฐ ์ ํ์ฑ, ์ฌํ์ ๊ฐ์น ํธํฅ ๋ฑ์ ํฌํจํด 2๋ง ๊ฑด ์ด์์ ํ๊ตญ์ด ํนํ ๋ฒค์น๋งํฌ ๋ฐ์ดํฐ์ ์ ๊ตฌ์ถํ ๊ณํ์ด๋ค.
๊ณผํ๊ธฐ์ ์ ๋ณดํต์ ๋ถ ๋ฐฐ๊ฒฝํ ์ฅ๊ด์ 8์ 8์ผ ์ด๋ํต์ 3์ฌ์ ๊ด๊ณ๊ธฐ๊ด ์ ๋ฌธ๊ฐ๋ค์ด ์ฐธ์ํ ๊ฐ์ด๋ฐ ๋ณด์ด์คํผ์ฑ ๋์ ํ์ฅ๊ฐ๋ดํ๋ฅผ ์ด์๋ค. KTยทSKํ ๋ ์ฝคยทLG์ ํ๋ฌ์ค๋ ์ค์๊ฐ ํ์ง์ ์ ๊ณ ์ ํ๋ฒํธ ์ฐจ๋จ, ๊ฒฝ๊ณ ์๋ฆผ ๋ฑ ์ธ๊ณต์ง๋ฅ ๊ธฐ๋ฐ ๋์ ์๋น์ค๋ฅผ ์ด์ํ๊ณ , ์ ๋ถ ๋ณด์ ์ฑ๋ฌธ ์ ๋ณด ํ์ฉ์ ์ํด ๊ท์ ์ ์์ ๋๋ฅผ ์ ์ฉํ๊ธฐ๋ก ํ๋ค. ๊ฐ์ธ์ ๋ณด๋ณดํธ์์ํ๋ ๊ณต์ต ๋ชฉ์ ์ ์ธ๊ณต์ง๋ฅ ์๋น์ค ๊ฐ๋ฐ์ ์ํ ํตํ ๋ด์ฉยท์ฑ๋ฌธ ๋ฐ์ดํฐ ํ์ฉ๊ณผ ๊ด๋ จํด ๋ฒ๋ น ํด์ ๋ฐ ๊ฐ์ ์ ์ถ์งํ๊ณ , ๊ณผ๊ธฐ์ ํต๋ถ๋ ๋ฐ์ดํฐ ๊ณต์ ยทํ์ฉ ๊ธฐ๋ฐ์ ๋ง๋ จํ ๊ณํ์ด๋ค.
์ ๋ฝ ์งํ์์ํ๋ AI Act์ ์ดํ๊ณผ ์งํ์ ์ง์ํ ๋ ๋ฆฝ ์ ๋ฌธ๊ฐ ๊ณผํ ํจ๋์ ๊ตฌ์ฑํ๋ค. ํจ๋์ ์ผ๋ฐ๋ชฉ์ AI(GPAI) ๋ชจ๋ธยท์์คํ ์ ์ค์ฌ์ผ๋ก, EU AI Office ๋ฐ ํ์๊ตญ ๋น๊ตญ์ ์์คํ ์ ์ํ, ๋ชจ๋ธ ๋ถ๋ฅ, ํ๊ฐ ๋ฐฉ๋ฒ๋ก , ๊ตญ๊ฒฝ ๊ฐ ์์ฅ ๊ฐ์ ๋ฑ์ ๋ํด ์๋ฌธํ๊ณ , AI Office์ ์ ํฅ ์ํ์ ์๋ฆด ์์ ์ด๋ค. ์ ๋ฌธ๊ฐ 60๋ช ์ 24๊ฐ์(์ฐ์ ๊ฐ๋ฅ) ์๊ธฐ๋ก ์ ๋ฐํ๋ฉฐ, GPAI ๊ด๋ จ ์ ๋ฌธ์ฑยท๋ชจ๋ธ ํ๊ฐยท์ํ ํ๊ฐ ๋ฐ ์ํยท์ฌ์ด๋ฒ๋ณด์ยท์ ํฅ ์์คํ ์ ์ํยท์ปดํจํธ ์ธก์ ๋ฐ ๊ธฐ์ค ๋ฑ์ ๋ํ ๊ฒฝํ์ด ์๊ตฌ๋๋ค. ์ ์ฒญ์ 2025๋ 9์ 14์ผ๊น์ง ๊ฐ๋ฅํ๋ค.
์ค๊ตญ์ Cybersecurity Law, Data Security Law, ๊ฐ์ธ์ ๋ณด๋ณดํธ๋ฒ ๋ฑ์ ๋ฐํ์ผ๋ก AI ๋ฐ์ดํฐ ๋ถ๋ฅยท๋ฑ๊ธ ์ ๋๋ฅผ ์ํํ๊ณ , ๋ฐ์ดํฐ ํ๋ฆ ์ํํ๊ฐยท๋ณดํธ์ฅ์นยท์ข ๋จ์ ๊ต์ (end-point correction) ๋ฉ์ปค๋์ฆ์ ๊ฐํํ๊ณ ์๋ค๊ณ ๋ฐํ๋ค.
์ค๊ตญ ๊ณต์๋ถ(MPS)๊ฐ ์์ ์๋ฌธ์ ํตํด AI ํ์ต๋ฐ์ดํฐ์ ํ์ง ํธ์ฐจ๊ฐ ํฌ๊ณ ํ์์ ๋ณดยท์กฐ์ ์ฝํ ์ธ ยทํธํฅ๋ ๊ด์ ์ด ํฌํจ๋ ์ ์๋ค๊ณ ๊ฒฝ๊ณ ํ๋ค. ์ค์ผ๋ ๋ฐ์ดํฐ๋ ๋ชจ๋ธ์ ๋ถ์ ํํ ํ๋จ์ด๋ ์์คํ ์ฅ์ ๋ก ์ด์ด์ ธ ์์ ์ํ์ ํค์ธ ์ ์์ผ๋ฉฐ, ํ์ต๋ฐ์ดํฐ์ ์๋์ ํ์ ํ ์คํธ๋ง ์์ด๋ ์ ํด ์ถ๋ ฅ์ด ํฌ๊ฒ ์ฆ๊ฐํ ์ ์๋ค๊ณ ์ค๋ช ํ๋ค. ๋ํ ์ค์ผ๋ ์ฝํ ์ธ ๊ฐ ํฅํ ํ์ต์ ์ฌ์ฌ์ฉ๋๋ฉฐ โpollution legacy effectโ์ฒ๋ผ ๋์ ๋ ์ ์๊ณ , ๊ธ์ตยท๊ณต๊ณต์์ ยท์๋ฃ ๋ฑ ์ค์ ๋ถ์ผ์์ ์์ฅ ๋ณ๋, ์ฌ๋ก ํผ๋, ์ค์ง ๋ฐ ์ฌ์ด๋น๊ณผํ ํ์ฐ ์ํ์ด ๋ฐ์ํ ์ ์๋ค๊ณ ๋ง๋ถ์๋ค.
์ค๊ตญ ์ฌ์ด๋ฒ ๋น๊ตญ์ด H20 ์นฉ์ ์ทจ์ฝ์ ยทbackdoors ๊ด๋ จ ์๋ฃ ์ ์ถ์ ์๊ตฌํ๊ณ , ๋ฏธ๊ตญ์ H20 ์์ถ ๋ผ์ด์ ์ค ๊ท์ ์ํ ์ฝ์์ ๊ฑฐ๋ก ํ์ผ๋ ๋ฏธ๊ตญ ๋ด ๋ฒ์์ AI ์นฉ์ ๋ด์ฅ ์์น์ถ์ ๊ธฐ๋ฅ ์๋ฌดํ๋ฅผ ์ถ์ง ์ค
์๋น๋์๋ ์ค๊ตญ์ด โserious security issuesโ๋ฅผ ์ด์ ๋ก ์์ฌ ๊ด๊ณ์๋ฅผ ์ํํ ๋ค, ์์ฌ ์นฉ์ ์๊ฒฉ ์ ๊ทผยท์ ์ด๋ฅผ ๊ฐ๋ฅํ๊ฒ ํ๋ โbackdoorsโ๋ ์๋ค๊ณ ๋ฐํ๋ค. ํนํ ์ค๊ตญ์ด ์ ๊ทผํ๋ H20(์ค๊ตญ ์์ถ์ฉ์ผ๋ก ๊ฐ๋ฐ๋ ๋ ๋ฎ์ ์ฑ๋ฅ ๋ฒ์ )๊ณผ ๊ด๋ จํด ์ค๊ตญ ์ฌ์ด๋ฒ ๋น๊ตญ์ด ๋ณด์ ์ํ๊ณผ ๊ด๋ จ ์๋ฃ ์ ์ถ์ ์๊ตฌํ๋ค๊ณ ์ ํ๋ค. ํํธ ์๋น๋์๋ ๋ฏธ๊ตญ์ ๋ผ์ด์ ์ค ๊ท์ ์ํ ์ฝ์ ์ดํ H20 ํ๋งค๋ฅผ ์ฌ๊ฐํ๊ฒ ๋ค๊ณ ํ์ง๋ง, ๋ฏธ๊ตญ ์์๋ค์ด ๊ณ ์ฑ๋ฅ AI ์นฉ์ ์์น์ถ์ ๊ธฐ๋ฅ์ ํฌํจํ๋๋ก ์๊ตฌํ๋ ๋ฐฉ์๋ ์ ์ํด ์ถ๊ฐ ์ฅ์ ๊ฐ ๋จ์ ์๋ค.
๊ตญ๋ฆฝ๊ณผํ์์ฌ์ฐ๊ตฌ์์ ์์ฒ ๊ฑด์ ๋ณด์ด์คํผ์ฑ ๋ น์ํ์ผ์ ์์ฑ ๋ฌธ์๋ก ๋ณํํ๊ณ ํค์๋๋ก ๊ฒ์ํ ์ ์๋ โAI ๊ธฐ๋ฐ ์์ฑ ํ์์์คํ (AIVOSS)โ์ ๊ฐ๋ฐํด 2025๋ ํ๋ฐ๊ธฐ๋ถํฐ ์ ๊ตญ ์์ฌ๊ธฐ๊ด์ ์ ๊ณตํ ์์ ์ด๋ค. ์ด ์์คํ ์ ๊ธ์ต๊ฐ๋ ์์ ์ ์๋ ๋ณด์ด์คํผ์ฑ ์์ฑ ์ฝ 2๋ง 5์ฒ ๊ฑด์ ํ์ต ๋ฐ์ดํฐ๋ก ํ์ฉํ๋ค. ํฅํ ์์ฑ ๋ถ์ ๋ชจ๋ธ โK-VoMโ๊ณผ ์ฐ๋ํด ๋์ผ์ธ ์๋ณ๊ณผ ์กฐ์ง ๊ฐ ์ฐ๊ด์ฑ ๋ถ์ ๊ธฐ๋ฅ๋ ๊ณ ๋ํํ ๊ณํ์ด๋ค.
AI ํจ์จํ๊ฐ ๋น์ฉ ์ ๊ฐ๊ณผ ์๋น ์ฆ๊ฐ๋ก ์ด์ด์ง๋ rebound effect, ๊ด๊ณ ยท์ปค๋จธ์ค ๋ฑ์์์ ์์ ์๊ทน, agentic AI์ ์์ฌ๊ฒฐ์ ์ด ์ ํ์ ์ ํ์ ์ฐ์ ํ์ง ๋ชปํ๋ ๋ฌธ์ ๋ฑ์ ํตํด ๊ธฐํ ๋ชฉํ์ ์ญํํ ์ ์๋ค๊ณ ์ง์ ํ๋ค. ๋ํ AI๊ฐ ์ฌ์ด๋ฒ๋ณด์ ์ํ์ ํค์ ์ ๊ธฐ์ฐจยท์ค๋งํธ๋น๋ฉยทํํธํํ ๋ฑ ์ ํ์ ์ธํ๋ผ์ ํ์ฐ์ ์ง์ฐ์ํฌ ์ ์๊ณ , ์์ฑํ AI๊ฐ ๊ธฐํ misinformationยทdeepfakeยท๋ด ํ์ฐ์ ๊ฐํํด ๊ธฐํ ํ์๋ก ๊ณผ ์ ์ฑ ๋นํ๋์ ์ ๋ฐํ๋ ์ํ๋ ์ ์ํ๋ค. ๋ ๋์๊ฐ AI๋ก ์ธํ ๋ถํ๋ฑยท๊ฐ์ยท์์จ์ฑ ์ ํ ๊ฐ์ ์ฌํ๊ฒฝ์ ์ ํผํด๊ฐ ๊ฐ์ธ์ ๊ธฐํ ํ๋ ์ญ๋๊ณผ ์๋ฏผ ์ฐธ์ฌ๋ฅผ ์ฝํํด ๊ฐ์ ์ ์ผ๋ก ๊ธฐํ ๋์์ ์ ํดํ ์ ์๋ค๊ณ ๋ณธ๋ค.
IBM์ โCost of a Data Breach Report 2025โ์ ๋ฐ๋ฅด๋ฉด 2025๋ 2์๊น์ง 600๊ฐ ๊ธฐ์ (2024๋ 3~2025๋ 2์ ๋ณด๊ณ ) ์ค 13%๊ฐ AI ๋ชจ๋ธ/์ ํ๋ฆฌ์ผ์ด์ ๊ด๋ จ ๋ณด์ ์ฌ๊ณ ๋ฅผ ๊ฒช์๊ณ , ๊ทธ์ค 97%๋ ์ ์ ํ AI ์ ๊ทผ ํต์ (Access controls)๋ฅผ ๊ฐ์ถ์ง ๋ชปํ ๊ฒ์ผ๋ก ๋ํ๋ฌ๋ค. AI ๊ด๋ จ ์ฌ๊ณ ์ ์ฝ 1/3์ ์ด์ ์ค๋จ๊ณผ ํจ๊ป ๋ฏผ๊ฐ ๋ฐ์ดํฐ ๋ฌด๋จ ์ ๊ทผ์ผ๋ก ์ด์ด์ก๊ณ , 23%๋ ๊ธ์ ์ ์์ค, 17%๋ ํํ ํผํด๋ฅผ ๋ณด๊ณ ํ๋ค. ๋ํ 87%๋ AI ์ํ์ ์ํํ ๊ฑฐ๋ฒ๋์ค๊ฐ ์์์ผ๋ฉฐ, ์นจํด๋ฅผ ๊ฒช์ ๊ธฐ์ ์ 2/3๋ ์ ๊ธฐ์ ์ธ ์ํ ํ๊ฐ ๊ฐ์ฌ๊ฐ ์๊ณ 3/4 ์ด์์ adversarial testing๋ ์ํํ์ง ์์ ๊ฒ์ผ๋ก ์กฐ์ฌ๋๋ค.
ํ์ ์์ ๋ถ๋ 2025๋ 5~6์ ๋ ๋ฌ๊ฐ โAI ๋ฅํ์ดํฌ ๋ถ์๋ชจ๋ธโ์ ํ์ฉํด ์ฆ๊ฑฐ๋ฌผ 60์ข , ์ด 15๊ฑด์ ๋ฅํ์ดํฌ ๊ฐ์ ์ ์ํํ๋ค๊ณ ๋ฐํ๋ค. ์ด ๋ชจ๋ธ์ ๊ธฐ์กด ๊ธฐ์ ํ๊ณ๋ฅผ ๊ทน๋ณตํด ๋ฅํ์ดํฌ ๊ฐ์ ์ ๊ตญ๋ด ์ต์ด๋ก ๊ณต์ํํ๊ณ , ๊ณผํ์ ์ฆ๊ฑฐ์ ๊ธฐ๋ฐํ ์์ฌ์ฒด๊ณ ๋ง๋ จ์ ๊ธฐ์ฌํ๋ค. ํ์ ์์ ๋ถ์ ๊ตญ๋ฆฝ๊ณผํ์์ฌ์ฐ๊ตฌ์์ ํฅํ 2023๋ ๊ฐ๋ฐํ ๋ณด์ด์คํผ์ฑ ์์ฑ ๋ถ์๋ชจ๋ธ๊ณผ ์ฐ๊ณํ ๊ณํ์ด๋ค.
์ ๋ฝ์ฐํฉ ์งํ์์ํ๋ ๋ฒ์ฉ AI(GPAI) ๋ชจ๋ธ์ ์ ์ยท๋ฒ์, ์์ ์ฃผ๊ธฐ ์๋ฌด, ์์คํ ์ ์ํ ๊ธฐ์ค ๋ฐ ์ ๊ณต์ ํต์ง ์๋ฌด๋ฅผ ์ค๋ช ํ๋ ์ง์นจ ์ด์์ 2025๋ 7์ 18์ผ ๋ฐํํ๋ค. 10ยฒยณ FLOPs๋ฅผ ์ด๊ณผํ๋ฉด์ ๊ด๋ฒ์ํ ์์ ์ ์ํํ ์ ์๋ ๋ชจ๋ธ์ GPAI๋ก ๋ถ๋ฅ๋ ์ ์์ผ๋ฉฐ, 10ยฒโต FLOPs ์ด์ ๋ชจ๋ธ์ ์์คํ ์ ์ํ GPAI๋ก ์ถ์ ๋์ด ์ํ ํ๊ฐยท์ํ, ์ฌ์ด๋ฒ๋ณด์, ์ค๋ ์ฌ๊ณ ๋ณด๊ณ ๋ฑ์ ์ถ๊ฐ ์๋ฌด๊ฐ ์ ์ฉ๋๋ค. ๊ด๋ จ ์๋ฌด๋ 2025๋ 8์ 2์ผ๋ถํฐ ์์๋๊ณ , AI ์ฌ๋ฌด๊ตญ์ ์ ๋ฉด์ ์ธ ์งํ ๊ถํ์ 2026๋ 8์ 2์ผ๋ถํฐ ๋ถ์ฌ๋๋ฉฐ, 2025๋ 8์ 2์ผ ์ด์ ์ ์ถ์๋ ๋ชจ๋ธ์ ์ค์ ๊ธฐํ์ 2027๋ 8์ 2์ผ๊น์ง๋ค.
ํ์ ๊ฐ์ฐฐ์์ํ ๋ฏผ์ฃผ๋น ์์๋ค์ด GSA์ xAI์ AI ์ฑ๋ด โGrokโ๊ฐ ์ ๋ถ์์ ์ด๋ป๊ฒ ํ์ฉ๋๋์ง์ ๋ํ ์ถ๊ฐ ์ ๋ณด๋ฅผ ์๊ตฌํ๋ ์ํ์ ๋ณด๋๋ค. ์ด๋ค์ Grok ๋์ ์ด ๊ฐ์ธ์ ๋ณดยท์ฌ์ด๋ฒ๋ณด์์ ๋ณดํธํ๋ ๋ฒ์ ์ ์ฐจ๋ฅผ ๊ฑฐ์น์ง ์๊ณ โ์ ์ ๋์ โ๋ ์ ์๋ค๋ ์ ์ ์ฐ๋ คํ๋ฉฐ, Cybersecurity Maturity Model Certification๊ณผ FedRAMP ๊ด๋ จ ์ ์ฐจ, ๊ณต๊ฐ GitHub ํ์ด์ง๊ฐ ๋ณด๋ ์ดํ ๋ด๋ ค๊ฐ ๊ฒฝ์ ๋ฑ์ ์ง์ํ๋ค. ๋ํ xAIโGSA, GSAโ๊ตญ๋ฐฉ๋ถ ๊ฐ ์ปค๋ฎค๋์ผ์ด์ ๊ธฐ๋ก๊ณผ GitHub ์ ์ฅ์์ ์ ์ฒด ์ปค๋ฐ ์ด๋ ฅ, GSA ๋ด ํ๊ฐ ๊ด๋ จ์ ๋ช ๋จ ๋ฐ ์ฌ์ ๊ณต๊ฐ ๋ด์ญ์ ์์ฒญํ๋ค.
๋ ์ผ ์ฐ๋ฐฉ์ ๋ณด๊ธฐ์ ์์ ์ฒญ(BSI)์ 2025๋ 7์ 24์ผ AI์ Bias(ํธํฅ)์ ๊ดํ ํ์ดํธํ์ดํผ๋ฅผ ๊ณต๊ฐํ๋ค. Bias๋ ์ด์ฉ์๋ ๊ธฐ์ ์ ๋ํ ๊ฒฐ๊ณผ์ ๋ถ๊ท ๋ฑํ ์ทจ๊ธ์ ์๋ฏธํ๋ฉฐ, ๋ฐ์ดํฐยท์์ฌ๊ฒฐ์ ๊ณผ์ ์ ์๊ณก๊ณผ ํน์ ํ์์ง๋จ์ ๋ํ์ฑ ๋ถ์กฑ ๋ฑ์ด ์์ธ์ด ๋ ์ ์๋ค๊ณ ์ค๋ช ํ๋ค. ํ์ดํธํ์ดํผ๋ Bias๋ฅผ ํ์งํ๊ธฐ ์ํ ์ ์ฑ์ ๋ฐ์ดํฐ ๋ถ์ยท๋ถ์ฐ๋ถ์ ๋ฑ๊ณผ ์ํ(์ ์ฒ๋ฆฌยท์ธ์ฒ๋ฆฌยทํ์ฒ๋ฆฌ) ๋ฐฉ๋ฒ์ ๊ฐ๊ดํ๊ณ , Bias๊ฐ poisoning ๊ณต๊ฒฉ์ด๋ ๋ชจ๋ธ ๊ธฐ๋ฅ์ ๋ฌด๋จ ๋ณต์ ๋ฑ ์ฌ์ด๋ฒ๋ณด์๊ณผ ์ํธ์์ฉํ ์ ์์์ ์ ์ํ๋ค.
์ฐ์ค ๋ฆฌ์ฌ D. ์ฟก(์ด์ฌ)์ AI๊ฐ ๊ฒฝ์ ์ ๋ฐ์ ๋น ๋ฅด๊ฒ ํ์ฐ๋๋ฉฐ ์์ฐ์ฑยท๊ณ ์ฉยท๋ฌผ๊ฐ ์์ ์ ๋ชจ๋ ์ํฅ์ ์ค ์ ์์ด, ํตํ์ ์ฑ ํ๋จ์ ์ํด ์๊ฐ์ ๋ฐ๋ฅธ ์ํจ๊ณผ๋ฅผ ์ฐ๊ตฌํด์ผ ํ๋ค๊ณ ๋ฐํ๋ค. ๋์์ ์ฐ์ค ๋ด๋ถ์์๋ FOMC๊ฐ ์ ์ฑ ์๋ฆฝ์ AI๋ฅผ ์ง์ ์ฐ๋ ๊ฒ์ ์๋์ง๋ง, ์ง์์ ๊ธ์ฐ๊ธฐยท์ฝ๋ฉยท์ฐ๊ตฌ ๋ฑ ์ ๋ฌด๋ฅผ ๋๊ณ LLM์ ๊ฒฝ์ ์ ํต์ฐฐ ์์ฑ ๊ฐ๋ฅ์ฑ๊ณผ ํ๊ณ๋ฅผ ๊ฒํ ์ค์ด๋ผ๊ณ ์ค๋ช ํ๋ค. AI ๋์ ๊ณผ ๊ด๋ จํด์๋ โ์ฌ๋์ด ๊ณ ๋ฆฌ(humans are in the loop) ์์ ์๋ ๊ฑฐ๋ฒ๋์คยท๋ฆฌ์คํฌ ๊ด๋ฆฌโ, ๊ฐ์ธ์ ๋ณดยท์ฌ์ด๋ฒ๋ณด์ยท๊ธฐ๋ฐ ์ ์ถ ๋ฐฉ์ง, ๊ต์กยทํ๋ จ, ํต์ ๋ ํ๊ฒฝ์์์ ์ค์ต๊ณผ ์คํ์ ํต์ฌ ์์น์ผ๋ก ์ ์ํ๋ค.
๋ณธ ์คํ์ ์ฑ๊ฐํฌ๋ฅดยท์ผ๋ณธยทํธ์ฃผยท์บ๋๋คยท์ ๋ฝ์งํ์์ํยทํ๋์คยท์ผ๋ยท๋ํ๋ฏผ๊ตญยท์๊ตญ ๋ฑ ๊ตญ์ ๋คํธ์ํฌ ์ฐธ์ฌ์๋ค์ด agentic evaluations ์ ๊ทผ๋ฒ์ ๋ง์ถ๊ธฐ ์ํด 3๋ฒ์งธ๋ก ์งํ๋๋ค. ๋ฏผ๊ฐ์ ๋ณด ์ ์ถยท์ฌ๊ธฐ(์ฑ๊ฐํฌ๋ฅด ์ฃผ๋)์ ์ฌ์ด๋ฒ๋ณด์ ์ํ(์๊ตญ ์ฃผ๋) ๋ ๊ฐ๋๋ก, ์คํ/ํด๋ก์ฆ๋ ๊ฐ์ค์น ๋ชจ๋ธ์ ๋ค์ํ ๋ฒค์น๋งํฌ ๊ณผ์ ์ ๋ํด ํ๊ฐํ์ผ๋ฉฐ, ๋๊ตฌ ์ฌ์ฉยท์์ด์ ํธ ๊ถค์ ยทํ์ ๊ธฐ์คยทjudge LLM ํ๋กฌํํธ ๊ฒ์ฆ ๋ฑ ๋ฐฉ๋ฒ๋ก ์ด์๋ฅผ ์ค์ ํ์ตํ๋ค. ์ฌ์ด๋ฒ๋ณด์ ๋ถ์ผ์์๋ ์จ๋ยท์๋ ํ์ยทํ ํฐ ํ๋ ๋ฑ ๋ณ์๊ฐ ์ฑ๋ฅ๊ณผ ํ๋์ ๋ฏธ์น๋ ์ํฅ์ ๋ถ์ํ๊ณ , ๋ํ ๊ณผ์ ์ ๋น ๋ฅธ ์ค์, ํ ํฐ ํ๋ โ์ํ์ฒด๊ฐโ ์ง์ ์ค์ , ํ๊ฒฝ/์์ ๋ฒ๊ทธ๋ก ์ธํ ์คํจ ๊ณผ์ ์ ๊ฒ ๋ฑ์ ๋ชจ๋ฒ์ฌ๋ก๋ก ์ ์ํ๋ค.
S&P 500 ์์ฅ์ฌ 500๊ณณ์ Form 10-K๋ฅผ ๋ถ์ํ ๊ฒฐ๊ณผ, ์ง๋ 1๋ ๊ฐ 3/4 ๊ธฐ์ ์ด AI ๊ด๋ จ ์ํ ๊ณต์๋ฅผ ํ๋ยท์์ธํํ ๊ฒ์ผ๋ก ๋ํ๋ฌ๋ค. ์ฐ์ ์ ๋ฐ์์ ์ ๋ฐ ์ด์์ด AI ์ํ์ ๋๋ ธ๊ณ , IT ๋ถ์ผ ์ฆ๊ฐํญ์ด ๊ฐ์ฅ ์ปธ์ผ๋ฉฐ ๊ธ์ตยท์ปค๋ฎค๋์ผ์ด์ ์๋น์ค๊ฐ ๋ค๋ฅผ ์ด์๋ค. ํนํ 39%(193๊ฐ์ฌ)๋ ๋ฒ์ฃ์ ๋ฑ์ด AI๋ฅผ ์ด์ฉํด ๋์งํธ ์ฌ์นญ, ํ์์ ๋ณด ํ์ฐ, ์ ์ฑ์ฝ๋ ์์ฑ ๋ฑ์ ์ ์ฉํ ์ํ์ ์ธ๊ธํ๊ณ , ๋ฅํ์ดํฌ(์กฐ์ ์ด๋ฏธ์งยท์์ยท์์ฑ) ์ธ๊ธ๋ ํฌ๊ฒ ๋์๋ค. ํํธ AI ํฌ์์ ๋ํด 11%(57๊ฐ์ฌ)๋ ์ง์ถ์ ํ์ํ์ง ๋ชปํ๊ฑฐ๋ ๊ธฐ๋ํจ๊ณผ๋ฅผ ์ป์ง ๋ชปํ ์ ์๋ค๊ณ ๋ช ์ํ์ผ๋ฉฐ, ๋ฐ์ดํฐ ํ๋ผ์ด๋ฒ์ยท์ง์์ฌ์ฐ๊ถ ์ํ์ 19%๋ง ๊ณต์๋ฅผ ํ๋ํ ๊ฒ์ผ๋ก ์กฐ์ฌ๋๋ค.
Anthropic์ ๋ฏธ๊ตญ์ด AI ๊ฒฝ์์์ ์ ๋๋ฅผ ์ ์งํ๊ธฐ ์ํด ์๋์ง ์ธํ๋ผ์ ๋ํ ํฌ์๊ฐ ํ์์ ์ด๋ผ๊ณ ๊ฐ์กฐํ๋ฉฐ, $2 ๋ฐฑ๋ง ๋ฌ๋ฌ๋ฅผ Carnegie Mellon University์ ๊ธฐ๋ถํ๋ค๊ณ ๋ฐํํ์ต๋๋ค. ๊ธฐ๋ถ๋ AI ๊ธฐ๋ฐ ์๋์ง ์๋ฃจ์ ๊ฐ๋ฐ๊ณผ ์ฌ์ด๋ฒ ๋ณด์ ์ธ๋ ฅ ์์ฑ์ ์ํ ๋ ๊ฐ์ง ํต์ฌ ์์ญ์ ๋ถ๋ฐฐ๋ฉ๋๋ค. ๊ตฌ์ฒด์ ์ผ๋ก, $1 ๋ฐฑ๋ง ๋ฌ๋ฌ๋ Scott Institute for Energy Innovation๊ณผ ํ๋ ฅํ์ฌ ๊ทธ๋ฆฌ๋ ๊ด๋ฆฌ ์๋ํ ๋ฐ ์ต์ ํ๋ฅผ ์ํ ์๋์ง ์ฐ๊ตฌ๋ฅผ ์ง์ํ๊ณ , ๋๋จธ์ง $1 ๋ฐฑ๋ง ๋ฌ๋ฌ๋ ์ฌ์ด๋ฒ ๋ณด์ ๊ต์ก ํ๋ก๊ทธ๋จ์ธ picoCTF๋ฅผ ์ง์ํฉ๋๋ค. ์ด๋ฌํ ํฌ์๋ ๋ฏธ๊ตญ์ ์๋์ง ๋ ๋ฆฝ์ฑ ๊ฐํ์ AI์ ๊ธ์ ์ ์ธ ์ํฅ ํ๋๋ฅผ ์ํ ์ฒซ๊ฑธ์์ด๋ฉฐ, ์ ๋ถ์ ์ฐ์ ๊ณ์ ํ๋ ฅ์ ํตํด ์ฅ๊ธฐ์ ์ธ AI ๋ฆฌ๋์ญ์ ๊ตฌ์ถํ ๊ณํ์ ๋๋ค.
์ค์จํฝ์ ์ฌ์ด๋ฒ ๋ณด์๊ณผ AI ๋ถ์ผ์์ ์ค์ํ ์๊ธฐ์ ์๋ค๊ณ ๋ณด๊ณ ์์ผ๋ฉฐ, ํด๋ ์ด ๋ชจ๋ธ 4(Opus์ Sonnet ๋ฒ์ )๊ฐ ์ฌ์ด๋ฒ ๊ณต๊ฒฉ ๋ฅ๋ ฅ์์ ์ธ๊ฐ ์์ค์ ๊ทผ์ ํ๊ณ ์์์ ํ์ธํ๊ธฐ ์ํด ํจํด ๋ฉ์ค์ ํ๋ ฅํ์ฌ ์ฌ๋ ์๋ ํ๊ฐ๋ฅผ ์งํํ์ต๋๋ค. ํ๊ฐ ๊ฒฐ๊ณผ, ํด๋ ์ด ๋ชจ๋ธ 4๋ ์ ์ฐํ ์ฌ๊ณ ์ ์คํจํ ์ ๊ทผ๋ฒ์ ๊ณ ์ฐฉ๋์ง ์๊ณ ์ ์ํ๋ ๋ฅ๋ ฅ์์ ํฌ๊ฒ ๋ฐ์ ํ์ผ๋ฉฐ, ๋ณต์กํ ์ทจ์ฝ์ ์๋ณ๊ณผ ๋ค๋จ๊ณ ๊ณต๊ฒฉ ์ํ์์๋ ํฅ์๋ ์ฑ๊ณผ๋ฅผ ๋ณด์์ต๋๋ค. ํ์ง๋ง ์ฅ๊ธฐ์ ์ธ ๊ณํ ์ ์ง์ ์์์น ๋ชปํ ์ฅ์ ๋ฌผ์ ๋์ฒํ๋ ๋ฐ๋ ์ฌ์ ํ ํ๊ณ๊ฐ ์์์ ํ์ธํ์ต๋๋ค. ์์ธํ ํ๊ฐ ๊ฒฐ๊ณผ๋ ํจํด ๋ฉ์ค์ ๋ณด๊ณ ์์์ ํ์ธ ๊ฐ๋ฅํฉ๋๋ค.
0din์ด Gemini for Workspace์ prompt-injection ์ทจ์ฝ์ฑ์ ์์ฐํ์ผ๋ฉฐ, ์ฌ์ฉ์๊ฐ โ์ด๋ฉ์ผ ์์ฝโ ๊ธฐ๋ฅ์ ๋๋ฅด๋ฉด ์จ๊ฒจ์ง ํ๋กฌํํธ๊ฐ ํผ์ฑ ๊ฒฝ๊ณ ๋ก ์ด์ด์ง ์ ์๋ค๊ณ ์ค๋ช ํ๋ค. ๊ธฐ์ฌ์ ๋ฐ๋ฅด๋ฉด ๊ณต๊ฒฉ์ ํฐ์ ๊ธ์จ ๋ฑ์ผ๋ก ์ฌ์ฉ์๊ฐ ๋ณด์ง ๋ชปํ๋ ๋ฐฉ์์ผ๋ก ์ด๋ฉ์ผ์ ์ ์ฑ ์ง์๋ฅผ ์ฝ์ ํ๋ฉฐ, Gemini๋ ์ด๋ฅผ ์จ์ ์ง์๋ก ์ธ์ํด Google์ด ๋ณด๋ธ ๊ฒ์ฒ๋ผ ๋ณด์ด๋ ๊ฒฝ๊ณ ๋ฅผ ๋ง๋ถ์ผ ์ ์๋ค. 0din์ ๋ณด์ํ์ด Gemini ์์ฝ์ โ๋ณด์ ๊ฒฝ๊ณ โ๊ฐ ์๋๋ผ โ์ ๋ณดโ๋ก ๊ต์กํ๊ณ , ์จ์ ํ ์คํธ/zero-width ๋๋ ํฐ์ ํ ์คํธ๋ฅผ ํฌํจํ ์ด๋ฉ์ผ์ ์๋ ๊ฒฉ๋ฆฌํ๋ผ๊ณ ๊ถ๊ณ ํ๋ค.
๋ฌ์์์ ์ฐ๊ณ๋ ํดํนยทํ๋กํ๊ฐ๋ค ์กฐ์ง์ด generative AI๋ฅผ ํ์ฉํด ํ์ ๊ธฐ์ฌ, ์์ ๋ฏธ๋์ด ๊ฒ์๋ฌผ, ๋ฅํ์ดํฌ ๋ฑ์ ๋๋ ์์ฑํ๊ณ ์๋ฐฉ ๋ด ๋ถํ๋ฅผ ์กฐ์ฅํ๊ณ ์๋ค๊ณ RUSI๊ฐ ๊ฒฝ๊ณ ํ๋ค. ๋ณด๊ณ ์๋ โDoppelGรคngerโ ๊ฐ์ ์บ ํ์ธ์ ์๋ก ๋ค๋ฉฐ AI๊ฐ ์๊ตฌ ์ธ๋ก ์ ๋ชจ๋ฐฉํด ์ ๋ขฐ๋ฅผ ํผ์ํ๊ณ ํผ๋์ ํ์ฐ์ํค๋ ๋ฐฉ์์ด๋ผ๊ณ ์ค๋ช ํ๋ค. ๋ํ AI ๊ธฐ๋ฐ ๋ด๊ณผ ์๋ ๊ณ์ ์ด ์ฌ๋ก ์ โastroturfingโ ํํ๋ก ์๋ฎฌ๋ ์ด์ ํ๋ฉฐ, ์ ๊ตํด์ง์๋ก ์ ๋น์ฉยท๋๊ท๋ชจ ์คํ์ด ๊ฐ๋ฅํด์ ธ ํ์์ ๋ณด ํ์ฐ ์ํ์ด ์ปค์ง ์ ์๋ค๊ณ ์ ํ๋ค.
์ฒซ ๋ฒ์งธ ๊ณต๋ชจ(๋์งํธ ์ ๋ฝ ํ๋ก๊ทธ๋จ) 2025.10.7 ๋ง๊ฐ, ๋ ๋ฒ์งธ ๊ณต๋ชจ(ํธ๋ผ์ด์ฆ ์ ๋ฝ ํ๋ก๊ทธ๋จ) 2025.11.12 ๋ง๊ฐ
์ ๋ฝ ์งํ์์ํ๋ ์ค์๊ธฐ์ ๊ณผ ๊ณต๊ณตํ์ ์ด ์ฌ์ด๋ฒ๋ณด์ ์๋ฃจ์ ์ ๋์ ํ๊ณ ์ฌ์ด๋ฒ๋ณด์ ์ฐ๊ตฌ ์ฑ๊ณผ๋ฅผ ํ์ฉํ๋๋ก ์ด 1์ต4550๋ง ์ ๋ก๋ฅผ ์ ๊ณตํ๋ค. ์ ๋ฝ ์ฌ์ด๋ฒ๋ณด์ ์ญ๋(European Cybersecurity Competence)์ ๋์งํธ ์ ๋ฝ ํ๋ก๊ทธ๋จ(5500๋ง ์ ๋ก)๊ณผ ํธ๋ผ์ด์ฆ ์ ๋ฝ ํ๋ก๊ทธ๋จ(์ฝ 9050๋ง ์ ๋ก) ๋ฑ 2๊ฐ ๊ณต๋ชจ๋ฅผ ํตํด ๋ณ์ยท์๋ฃ๊ธฐ๊ด์ ๋์ฌ์จ์ด๋ฅผ ํฌํจํ ์ํ ํ์งยท๋ชจ๋ํฐ๋งยท๋์ ์ญ๋๊ณผ ์์ฑํ AI ๊ธฐ๋ฐ ๋ณด์, ์ด์ ์ฌ์ด๋ฒ๋ณด์ ๊ณ ๋ํ ๋๊ตฌยทํ๋ก์ธ์ค, ๊ฐ์ธ์ ๋ณด ๋ณดํธ ๊ฐํ ๊ธฐ์ , ์์๋ด์ฑ ์ํธ(post-quantum cryptography) ๋ฑ์ ์ง์ํ๋ค. ๋ ๊ณต๋ชจ์ ์ ์ฒญ ๋ง๊ฐ์ผ์ ๊ฐ๊ฐ 10์ 7์ผ๊ณผ 11์ 12์ผ์ด๋ฉฐ, ๊ณต๋ชจ ๋ฌธ์์ ์๊ฒฉ์๊ฑด์ Funding and Tenders ํฌํธ์์ ํ์ธํ ์ ์๋ค.
์ ๋ฝ ์งํ์๋ 2025๋ 6์ 11์ผ ํค์๋์ฐ์์ ๋ชฐ๋๋ฐ ์ ๋ถ ๋ฐ EU ๊ด๋ จ ๊ธฐ๊ด๊ณผ ํจ๊ป ์ ๊ฑฐ ๋ฌด๊ฒฐ์ฑ์ ๊ฒจ๋ฅํ ์ ์ฌ์ disinformation ์บ ํ์ธ๊ณผ cyber-attack์ ๋๋นํ ๋์งํธ ํ์ด๋ธ๋ฆฌ๋ ์ํ ์๋ฎฌ๋ ์ด์ ์ ์งํํ๋ค. Google, Meta, TikTok ๋ฑ ์ฃผ์ ์จ๋ผ์ธ ํ๋ซํผ์ด ์๋ฐ์ ์ผ๋ก ์ฐธ์ฌํ์ผ๋ฉฐ, ์๋ฏผ์ฌํยทํฉํธ์ฒด์ปคยท๋ ๋ฆฝ์ธ๋ก ยท๊ตญ์ ํํธ๋์ ํจ๊ป ์๋๋ฆฌ์ค ๊ธฐ๋ฐ ๋์ ์ญ๋์ ๋์ด๋ ๊ฒ์ ๋ชฉํ๋ก ํ๋ค. ๋ํ EU์ Hybrid Rapid Response Team ์ง์, Cyber Solidarity Act ํ์ EU Cybersecurity Reserve ์ ๊ทผ, EDMO(์ ๋ฝ ๋์งํธ ๋ฏธ๋์ด ๊ด์ธก์) ์ง์ญ ํ๋ธ ์ ์ค ๋ฐ ์ ๊ฑฐ ๊ธฐ๊ฐ ๋ชจ๋ํฐ๋ง ๊ณํ, 2024๋ ์ ๊ฑฐ ๋์ ์์ ์์ค์ปฌ๋ ์ด์ ๋ฉ์ปค๋์ฆ ์ฑ๊ณผ๋ฅผ ๋ฐํ์ผ๋ก ํ ํ๋ซํผ-์๋ฏผ์ฌํ ํ๋ ฅ ๊ฐํ๋ฅผ ์ธ๊ธํ๋ค.
Anthropic์ Carnegie Mellon University์ CyLab ์ฐ๊ตฌ์ง์ ์ฌ์ด๋ฒ ๋๊ตฌํท์ธ Incalmo๋ฅผ ๊ฐ๋ฐํ์ฌ ๋ํ ์ธ์ด ๋ชจ๋ธ(LLM)์ด ๋น์ฆ๋์ค ๊ท๋ชจ์ ์ปดํจํฐ ๋คํธ์ํฌ์ ๋ํ ๋ณต์กํ ๋ค๋จ๊ณ ์ฌ์ด๋ฒ ๊ณต๊ฒฉ์ ์ํํ ์ ์์์ ๋ณด์ฌ์ฃผ์๋ค. ์ด ์ฐ๊ตฌ์์๋ LLMs๊ฐ ๋คํธ์ํฌ ์ ๊ทผ ํ๋, ์์คํ ๊ฐ ์ด๋, ๋คํธ์ํฌ ๊ฐ ๋ฐ์ดํฐ ์ ์ถ ๋ฑ ๋ณต์กํ ๋จ๊ณ๋ฅผ ์๋ํํ์ฌ ์ฑ๊ณต์ ์ผ๋ก ๊ณต๊ฒฉ์ ์ํํ ์ ์์์ ํ์ธํ๋ค. Incalmo ๋๊ตฌํท์ด ์๋ ๊ฒฝ์ฐ LLMs๋ ํ ์คํธ ๋คํธ์ํฌ์์ ๊ฑฐ์ ์คํจํ์ผ๋, ๋๊ตฌํท์ ์ฌ์ฉํ ๋๋ 10๊ฐ ๋คํธ์ํฌ ์ค 9๊ฐ์์ ๋ค๋จ๊ณ ๊ณต๊ฒฉ์ ์ฑ๊ณต์ ์ผ๋ก ์ํํ๋ค. ์ด๋ฌํ ๊ฒฐ๊ณผ๋ LLMs์ ์ฌ์ด๋ฒ ๊ณต๊ฒฉ ๋ฅ๋ ฅ ํฅ์๊ณผ ๋ฐฉ์ด ์ฐ๊ตฌ์ ๋ํ ํฌ์ ํ์์ฑ์ ๊ฐ์กฐํ๋ค.
NICE ํ์ Karen Wetzel์ 2020๋ 10์๋ถํฐ NICE Workforce Framework for Cybersecurity(NICE Framework)์ ๊ฐ๋ฐยท๊ฐ์ ยท์ ์ฉ์ ์ด๋๋ ์ญํ ์ ๋งก๊ณ ์๋ค. NICE Framework๋ ์ฌ์ด๋ฒ๋ณด์ ๊ต์กยทํ๋ จยท์ธ๋ ฅ๊ฐ๋ฐ์ ํตํฉํ ์ํ๊ณ๋ฅผ ์ง์ํ๋ ๋ฐ ๋ชฉ์ ์ด ์์ผ๋ฉฐ, Wetzel์ ์ปค๋ฎค๋ํฐ ์ฐธ์ฌ์ ์ดํด๊ด๊ณ์ยท์ ๋ฌธ๊ฐ ํ์ ์ ํตํด ์ง์นจยท๋๊ตฌยท์์๊ณผ ๊ด๋ จ๋ ์ ํฅ ๋ํฅ์ ์๋ณํ๊ณ ์ ๋ฌํ๋ ๋ฐ ์ง์คํ๋ค. NIST ์ด์ ์๋ EDUCAUSE์์ Community Groups ๋ฐ Working Groups ํ๋ก๊ทธ๋จ ๋๋ ํฐ, NISO์์๋ Standards Program Manager๋ก ์ผํ ๊ฒฝ๋ ฅ์ด ์๋ค.
๋๋๋ ํธ๋ผํ ๋ํต๋ น์ด 2025๋ 6์ 6์ผ ์ฌ์ด๋ฒ๋ณด์ ํ์ ๋ช ๋ น์ ์๋ช ํด ๋ฐ์ด๋ ํ์ ๋ถ์ 2025๋ 1์(EO 14144) ์ต์ข ์ง์นจ์ ์์ ํ๋ค. ์ฃผ์ ๋ด์ฉ์ผ๋ก๋ ์ฐ๋ฐฉ ๊ณ์ฝ์ ๋์ ์ํํธ์จ์ด ๋ณด์ ๊ด๋ จ โattestationsโ(์ฆ๋ช ์ ์ถ) ์๋ฌด๋ฅผ ์์ ๊ณ , ๋์งํธ ์ ์ ๊ด๋ จ ํ์ผ๋ฟ๊ณผ ์ํธ์ด์ฉ/์ฐํฉ(identitiy federation) ์ถ์ง์ ์ค๋จํ๋ฉฐ, AI๋ ๋ฐฉ์ดยท์ทจ์ฝ์ /์นจํด์งํ ๊ด๋ฆฌ ์ค์ฌ์ผ๋ก ๋ฒ์๋ฅผ ์ขํ๋ค. ๋ํ ์ค๊ตญ์ ํฌํจํ ํน์ ๊ตญ๊ฐ๋ฅผ ์ํ์ ์ฃผ์ ์์ธ์ผ๋ก ๋ช ์ํ๊ณ , ์ฌ์ด๋ฒ ์ ์ฌ๋ ์ธ๊ตญ์ธ์ผ๋ก ํ์ ํ๋ ๋ฑ ์ ์ฑ ์ ๋ฐฉํฅ์ โ๊ท์ ํ๋โ๋ณด๋ค โ์คํ ์ค์ฌโ์ผ๋ก ์ฌ์ ๋ ฌํ๋ค.
6์ 5์ผ ์ด๋ฆฐ 2025 ๊ธ๋ก๋ฒ ๋์งํธ๊ฒฝ์ ๋ํ ๋์งํธ์์ ์ฃผํฌ๋ผ ๋ฑ์์ ๊ณต๊ฐ๋ ์ฐ๊ตฌ์ ๋ฐ๋ฅด๋ฉด, ๊ตญ๋ด AI ๋ํ๋ชจ๋ธ์ ๊ณต๊ฒฉ ์ฑ๊ณต๋ฅ ์ ์ฝ 5~6%๋ก ๊ตญ์ ๊ด์ ์์ โ์ค์๊ถโ ์์ค์ด๋ฉฐ ๊ฐ์ ์ฌ์ง๊ฐ ์๋ค๊ณ ํ๋ค. ์๋ก ๊ฐ๋ฐ๋ โ็ตๅพก(๋ง์) ๋ํ๋ชจ๋ธ ์์ ๊ณต๋ฐฉ ํ๊ฐ ํ๋ซํผโ์ผ๋ก 49์ข ๋ชจ๋ธ์ ํ ์คํธํ ๊ฒฐ๊ณผ, ๋ชจ๋ธ์ AI ์ฑ๋ฅ์ด ํฅ์๋๋๋ผ๋ ์์ ์ํ ๋ฐฉ์ด ์์ค์ ํฌ๊ฒ ์ค๋ฅด์ง ์์๋ค๊ณ ์ค๋ช ํ๋ค. ๋ํ ์ ๋ฌธ๊ฐ๋ค์ ๋จ์ผ ๋ฐฉ์ด๋ฅผ ๋์ด ์ด์์ ์ฑ ์ ๊ฐํ์ ํตํฉยท์ฐํฉ ๋ฐฉ์ด ์ฒด๊ณ ๊ตฌ์ถ, SOAR ๋ฑ ์๋ํ๋ ๋์ ์ฒด๊ณ๊ฐ ํ์ํ๋ค๊ณ ๊ฐ์กฐํ๋ค.
Anthropic์ ๋ฏธ๊ตญ ๊ตญ๊ฐ ์๋ณด ๊ณ ๊ฐ์ ์ํด ํน๋ณํ ์ค๊ณ๋ Claude Gov ๋ชจ๋ธ ์ธํธ๋ฅผ ์ถ์ํ์ต๋๋ค. ์ด ๋ชจ๋ธ๋ค์ ์ต๊ณ ์์ค์ ๊ตญ๊ฐ ์๋ณด ๊ธฐ๊ด์์ ์ด๋ฏธ ๋ฐฐํฌ๋์์ผ๋ฉฐ, ๊ณ ๋์ ๋ถ๋ฅ ํ๊ฒฝ์์๋ง ์ ๊ทผ ๊ฐ๋ฅํฉ๋๋ค. ์ ๋ถ ๊ณ ๊ฐ์ ํผ๋๋ฐฑ์ ๋ฐํ์ผ๋ก ๊ฐ๋ฐ๋ ์ด ๋ชจ๋ธ๋ค์ ์์ ๊ธฐ์ค์ ์ถฉ์กฑํ๋ฉฐ, ์ ๋ต ๊ณํ, ์ ๋ณด ๋ถ์, ์ํ ํ๊ฐ ๋ฑ ๋ค์ํ ๊ตญ๊ฐ ์๋ณด ๊ด๋ จ ์์ ์์ ํฅ์๋ ์ฑ๋ฅ์ ์ ๊ณตํฉ๋๋ค. ํนํ ๋ถ๋ฅ๋ ์ ๋ณด ์ฒ๋ฆฌ ๋ฅ๋ ฅ๊ณผ ๋ณต์กํ ์ฌ์ด๋ฒ ๋ณด์ ๋ฐ์ดํฐ ํด์ ๋ฅ๋ ฅ์ด ๊ฐํ๋์์ต๋๋ค. ์์ธํ ๋ด์ฉ์ pubsec@anthropic.com์ผ๋ก ๋ฌธ์ ๊ฐ๋ฅํฉ๋๋ค.
๊ธ์ต ๋ถ์ผ์ AI ๋์ ์ด ํ๋๋๋ฉด์ ์ 3์ ์๋น์ค ์์กด์ ๋ฐ๋ฅธ ์์ฅ ์ง์ค, ๊ตฐ์งํ๋, ๋ชจ๋ธ ์ค๋ฅ, ๊ท์ ์ค์ ๋ฐ ์ฌ์ด๋ฒ๋ณด์ ๋ฌธ์ ์ ํจ๊ป ํ์์ ๋ณดยทํ๋ผ์ด๋ฒ์ ์นจํดยท๊ณต์ ๋์ถยท์ดํด์ถฉ๋ ๋ฑ์ ์ํ์ด ๋ฐ์ํ ์ ์๋ค. ๋ฏธ๊ตญ ๊ท์ ๋น๊ตญ์ ๊ธฐ์กด ๋ฒ๋ฅ ๊ณผ ๊ฐ๋ ์ฒด๊ณ๋ฅผ ์ค์ฌ์ผ๋ก AI๋ฅผ ๊ด๋ฆฌํ๊ณ ์์ผ๋ฉฐ, AI ํ์ฉ์ ๋ํ ๊ฐ๋ ยท์์ ยท๋ฒ์ ์กฐ์น๋ฅผ ๋๋ฆฌ๋ ํํธ ๊ตฌ์ฒด์ ์ธ ์ง์นจ๊ณผ ๋ง์ถคํ ๊ฐ๋ ์ ๊ฒํ ํ๊ณ ์๋ค. ๋ณด๊ณ ์๋ AI ๋ฐ์ ๊ณผ ๊ธ์ต ๊ท์ ์ํ ๊ธฐ์กฐ ์์์ ๋์ ํ๋์ ๊ธฐํ์ ์ํ์ ๊ท ํ ์๊ฒ ํ๊ฐํ ํ์๊ฐ ์๋ค๊ณ ์ ์ํ๋ค.
๋ง์ดํฌ๋ก์ํํธ๋ ์ ๋ฝ์ ์ฌ์ด๋ฒ ์ํ์ด ๊ณ ๋ํ๋๋ ์ํฉ์ ๋์ํ๊ธฐ ์ํด โEuropean Security Programโ์ ์๋ก ๋ฐํํ๋ค. ์ด ํ๋ก๊ทธ๋จ์ ์ ๋ฝ ์ ๋ถ์์ AI ๊ธฐ๋ฐ ์ํ ์ธํ ๋ฆฌ์ ์ค ๊ณต์ ํ๋, ์ฌ์ด๋ฒ ๋ณด์ ์ญ๋ยทํ๋ณต๋ ฅ ๊ฐํ๋ฅผ ์ํ ์ถ๊ฐ ํฌ์, ๋ฒ์งํ๊ธฐ๊ดยท์ง์ญ ํํธ๋์ญ ํ๋๋ก ๊ณต๊ฒฉ์ ์ฐจ๋จํ๊ณ ๋ฒ์ฃ ๋คํธ์ํฌ๋ฅผ ํด์ฒดํ๋ ๋ด์ฉ์ ํฌํจํ๋ค. ๋ํ EU 27๊ฐ ํ์๊ตญ์ ํฌํจํด EU ๊ฐ์ ํ๋ณด๊ตญ, EFTA, ์๊ตญ, ๋ชจ๋์ฝ, ๋ฐํฐ์นธ ์ ๋ถ์ ๋ฌด๋ฃ๋ก ์ ๊ณตํ๋ค๊ณ ๋ฐํ๋ค.
Anthropic์ ์ต์ ์์ ์กฐ์น๋ฅผ ์คํธ๋ ์ค ํ ์คํธํ๊ธฐ ์ํด ์๋ก์ด ๋ฒ๊ทธ ๋ฐ์ดํฐ ํ๋ก๊ทธ๋จ์ ์์ํ์ต๋๋ค. ์ด ํ๋ก๊ทธ๋จ์ HackerOne๊ณผ ํ๋ ฅํ์ฌ ์งํ๋๋ฉฐ, ์ฐธ์ฌ์๋ค์ ์ ๋ฐ์ดํธ๋ Constitutional Classifiers ์์คํ ์ ํตํด Claude 3.7 Sonnet ๋ชจ๋ธ์ ๋ณดํธ์ ์ธ 'ํ์ฅ' ์ทจ์ฝ์ ์ ์ฐพ์๋ด๋ ๋ฐ ์ง์คํฉ๋๋ค. ํนํ CBRN(ํํ, ์๋ฌผํ, ๋ฐฉ์ฌ๋ฅ, ํต) ๊ด๋ จ ์ฃผ์ ์์์ ์ ์ฉ ๊ฐ๋ฅ์ฑ์ ํ์ํฉ๋๋ค. ๋ฐ๊ฒฌ๋ ๋ณดํธ์ ์ธ ์ทจ์ฝ์ ์ ๋ํด ์ต๋ $25,000์ ๋ณด์์ ์ ๊ณตํ๋ฉฐ, ํ๋ก๊ทธ๋จ์ 5์ 18์ผ๊น์ง ์งํ๋์์ต๋๋ค. ์ด ๋ ธ๋ ฅ์ AI ์์ ์ฑ ์์ค 3(ASL-3) ํ์ค์ ์ถฉ์กฑํ๊ธฐ ์ํ Anthropic์ ์ฑ ์ ์๋ ํ์ฅ ์ ์ฑ ์ ์ผํ์ ๋๋ค. ์ดํ ์๋ก์ด ๋ฒ๊ทธ ๋ฐ์ดํฐ ํ๋ก๊ทธ๋จ์ด ์์๋์ด Claude Opus 4 ๋ชจ๋ธ์ ์์ ์ฑ์ ํ ์คํธํ๊ณ ์์ต๋๋ค. ๋ํ, ์๋ฌผํ์ ์ํ ๊ด๋ จ ์ ๋ณด๋ฅผ ์ ๋ฐํ ์ ์๋ ๋ณดํธ์ ์ธ ์ทจ์ฝ์ ์ ๋ํ ๊ณต๊ฐ ํ๋ซํผ ๋ณด๊ณ ๋ ์์ฉํ๊ณ ์์ต๋๋ค.
์ด ์ฐ๊ตฌ๋ AI์ ๊ฒฐํฉํ ๋ฉํ๋ฒ์ค ์๋น์ค์ ๊ฐ์ธ์ ๋ณด ์นจํด ์ฐ๋ ค์ ๋์ํ๊ธฐ ์ํด ๊ด๋ จ ๋ฌธํยท์ ๋ถ๋ณด๊ณ ์ยท๊ตญ์ ํ์ค๊ณผ ์ ๋ฌธ๊ฐ ์กฐ์ฌ๋ฅผ ๋ฐํ์ผ๋ก ๊ฐ์ธ์ ๋ณด๋ณดํธ ๊ธฐ์ค์ ๋์ถํ๋ค. ์๋น์ค ๊ตฌ์ถ๊ณผ์ ์์ ๊ธฐํยท์ค๊ณ, ์์ง, ๋ฐ์ดํฐ ์ฒ๋ฆฌ, ์ํ, ํ๊ธฐ ๋จ๊ณ์ 28๊ฐ ๊ธฐ์ค์, ์ด์๊ณผ์ ์์ ์ ํ, ์์ง, ์ด์ฉยท์ ๊ณต, ํ๊ธฐ ๋จ๊ณ์ 36๊ฐ ๊ธฐ์ค์ ์ ์ํ๋ค. ๋ํ ๊ฐ์ธ์ ๋ณด๋ณดํธ ๊ฐํ๋ฅผ ์ํด ์ด์ยท์ทจ์ฝ์ , ๊ณต์ ํ ์๊ณ ๋ฆฌ์ฆ, ๋์๋ณ ๋ณด์ ๋ฑ์ ํฌํจํ ๊ธฐ์ ์ ๋ณดํธ์กฐ์น ๊ธฐ์ค 24๊ฐ๋ฅผ ์ ์ํ๋ค.
์ ๋ฝ์ฐํฉ AI Office๋ ๋ฒ์ฉ AI ๋ชจ๋ธ(GPAI)์ ๋ฒ์, ์ ๊ณต์ ๋ฐ downstream modifier์ ํ๋จ ๊ธฐ์ค, ์์ฅ ์ถ์์ ์คํ์์ค ๋ฉด์ , ํ์ต ์ฐ์ฐ๋ ์ฐ์ ๋ฑ์ ๋ด์ ์๋น ์ง์นจ์ ๋ฐํํ๋ค. ํ ์คํธยท์ด๋ฏธ์ง ์์ฑ ๋ชจ๋ธ์ ํ์ต ์ฐ์ฐ๋์ด 10^22 FLOP๋ฅผ ์ด๊ณผํ๋ฉด GPAI ๋ชจ๋ธ๋ก ์ถ์ ๋๋ฉฐ, ๋ชจ๋ธ ์์ ์ 3ร10^21 FLOP๋ฅผ ์ด๊ณผํ ๊ฒฝ์ฐ ์์ ์ฃผ์ฒด๋ ์ ๊ณต์๋ก ๊ฐ์ฃผ๋ ์ ์๋ค. GPAI ์ ๊ณต์๋ ๋ชจ๋ธ ๋ฌธ์ํ์ ์ ์๊ถ ์ ์ฑ ๋ฑ์ ์๋ฌด๋ฅผ ์ง๋ฉฐ, ์์คํ ์ ์ํ์ด ์๋ ๋ชจ๋ธ ์ ๊ณต์๋ ํ๊ฐยท์ ๋์ ํ ์คํธยท์ค๋์ฌ๊ณ ๋ณด๊ณ ยท์ฌ์ด๋ฒ๋ณด์ ์๋ฌด๋ ๋ถ๋ดํ๋ค. ์ดํด๊ด๊ณ์๋ 2025๋ 5์ 22์ผ๊น์ง ์๋น ์ง์นจ์ ์๊ฒฌ์ ์ ์ถํ ์ ์๋ค.
AI Security Institute(AISI)๊ฐ Anthropic์ Claude Mythos Preview(2025๋ 4์ 7์ผ ๋ฐํ)๋ฅผ ๋์์ผ๋ก ์ฌ์ด๋ฒ ๋ณด์ ์ญ๋ ํ๊ฐ๋ฅผ ์ํํ๋ค. CTF(์บก์ฒ๋ํ๋๊ทธ)์์๋ ์ ๋ฌธ๊ฐ ์์ค ๊ณผ์ ์์ 73% ์ฑ๊ณต์ ๋ณด์๊ณ , ๋คํธ์ํฌ ๊ณต๊ฒฉ ์๋ฎฌ๋ ์ด์ (32๋จ๊ณ)์์๋ 10ํ ์๋ ์ค 3ํ์ ๊ฑธ์ณ ์ฒ์๋ถํฐ ๋๊น์ง ์๋ฃํ์ผ๋ฉฐ ํ๊ท 22/32๋จ๊ณ๋ฅผ ์ํํ๋ค. ๋ค๋ง AISI์ OT(์ด์๊ธฐ์ ) ์ค์ฌ ๋ฒ์์ธ โCooling Towerโ๋ IT ๊ตฌ๊ฐ์์ ๋งํ ์๋ฃํ์ง ๋ชปํ์ผ๋ฉฐ, ํ๊ฐ ํ๊ฒฝ์ด ์ค์ ํ๊ฒฝ๋ณด๋ค ๋ฐฉ์ด ๊ธฐ๋ฅ๊ณผ ๋ณด์ ๊ฒฝ๊ณ ํธ๋ฆฌ๊ฑฐ๊ฐ ๋ถ์กฑํด ์ ๋ฐฉ์ด๋ ์์คํ ์ ๋ํ ํ์คํ ๊ฒฐ๋ก ์ ์ด๋ ต๋ค๊ณ ๋ฐํ๋ค.
๊ณผํ๊ธฐ์ ์ ๋ณดํต์ ๋ถ์ ํ๊ตญ์ธํฐ๋ท์งํฅ์์ ์นจํด์ฌ๊ณ ๋ฅผ ์๋ฐฉํ๊ธฐ ์ํด 2025๋ ๋ ์ํํธ์จ์ด ๋ณด์์ทจ์ฝ์ ์ ๊ณ ํฌ์์ ๋ฅผ 2์ 28์ผ๋ถํฐ ์ด์ํ๋ค. ์ฌํด๋ ์์ฑํ ์ธ๊ณต์ง๋ฅ ์๋น์ค์ ๋ณด์ ์ฐ๋ ค๋ฅผ ๋ฐ์ํด ๊ตญ๋ด์ธ ๊ณต๊ฐ ์ธ๊ณต์ง๋ฅ ์ํํธ์จ์ด์ ์ด์ ํ๊ฒฝ, ์ ์ถ๋ ฅ ๊ด๋ จ ์ฝ๋, ๋ณด์๊ธฐ๋ฒ ์ฐํ ๋ฑ์์ ์ทจ์ฝ์ ์ ๊ณ ๋ฅผ ๊ฐํํ๋ค. ์ ๊ณ ๋ ์ทจ์ฝ์ ์ ์กฐ์นํด ๊ตญ์ฐ ์ํํธ์จ์ด์ ํ์ง์ ๋์ด๊ณ ์ธ๊ณต์ง๋ฅ ์๋น์ค์ ์์ ์ฑ์ ๊ฐํํ ์์ ์ด๋ค.
Anthropic์ ์๋ก์ด ๊ธฐ์ ์ธ 'Constitutional Classifiers'๋ฅผ ํตํด AI ๋ชจ๋ธ์ด ๋ณดํธ์ ํ์ฅ(jailbreaks)์ ๋์ฒํ ์ ์๋๋ก ๋ฐฉ์ด ์ฒด๊ณ๋ฅผ ๊ฐํํ๊ณ ์์ต๋๋ค. ์ด ๊ธฐ์ ์ ํฉ์ฑ ๋ฐ์ดํฐ๋ฅผ ๊ธฐ๋ฐ์ผ๋ก ํ๋ จ๋ ์ ๋ ฅ ๋ฐ ์ถ๋ ฅ ๋ถ๋ฅ๊ธฐ๋ก ๊ตฌ์ฑ๋์ด ์์ผ๋ฉฐ, ๋๋ถ๋ถ์ ํ์ฅ ์๋๋ฅผ ํจ๊ณผ์ ์ผ๋ก ์ฐจ๋จํ๋ฉด์ ๊ณผ๋ํ ๊ฑฐ๋ถ์จ๊ณผ ๊ณ์ฐ ๋น์ฉ ์ฆ๊ฐ๋ฅผ ์ต์ํํฉ๋๋ค. ์คํ ๊ฒฐ๊ณผ, ๊ธฐ์กด ๋ชจ๋ธ ๋๋น ํ์ฅ ์ฑ๊ณต๋ฅ ์ด 95%๊น์ง ๊ฐ์ํ์๊ณ , ๊ฑฐ๋ถ์จ ์ฆ๊ฐ๋ ๋ฏธ๋ฏธํ๋ฉฐ ๊ณ์ฐ ๋น์ฉ์ ์ฝ๊ฐ ์์นํ์ต๋๋ค. ์ด ์์คํ ์ ํนํ CBRN(ํํ, ์๋ฌผํ, ๋ฐฉ์ฌ๋ฅ, ํต) ๋ฅ๋ ฅ ๊ธฐ์ค์ ์ถฉ์กฑํ ๋ชจ๋ธ์ ์์ ํ ๋ฐฐํฌ๋ฅผ ๊ฐ๋ฅํ๊ฒ ํฉ๋๋ค. 2์ 3์ผ๋ถํฐ 10์ผ๊น์ง ์งํ๋ ๋ผ์ด๋ธ ๋ฐ๋ชจ์์๋ 339๋ช ์ ์ฐธ์ฌ์๊ฐ ์ฐธ์ฌํด ํ์ฅ ์๋๋ฅผ ์งํํ์ผ๋, ์ต์ข ์ ์ผ๋ก ๋ณดํธ์ ํ์ฅ์ ์ฑ๊ณตํ ์ฌ๋ก๋ ์ ํ์ ์ด์์ต๋๋ค.