The Dangerous Evolution of AI Hacking (2026.01.31)
ํ ์ฌ๋์ด ํ ๋ฌ๋ ์ ๋ผ 17๊ฐ ์กฐ์ง์ ํดํนํ AI ํ์ฉ ์ฌ์ด๋ฒ๊ณต๊ฒฉ๊ณผ AI ํดํน์ ์๋ ๋ฐฉ์์ ์ดํด๋ณธ๋ค. (์์ 28๋ถ)
ํ ์ฌ๋์ด ํ ๋ฌ๋ ์ ๋ผ 17๊ฐ ์กฐ์ง์ ํดํนํ AI ํ์ฉ ์ฌ์ด๋ฒ๊ณต๊ฒฉ๊ณผ AI ํดํน์ ์๋ ๋ฐฉ์์ ์ดํด๋ณธ๋ค. (์์ 28๋ถ)
๋ชจ๋ธ์ด ๋ ์ค๋ ์ถ๋ก ํ๋ฉฐ ํ๋ํ ์๋ก ์คํจ๊ฐ ๋ โ๋น์ผ๊ด์ (incoherent)โ์ด ๋๋ค๋ ์ฐ๊ตฌ ๊ฒฐ๊ณผ๋ฅผ ์ ์ํจ. ์ฐ๊ตฌ๋ ์ค๋ฅ๋ฅผ ํธํฅ(bias)๊ณผ ๋ถ์ฐ(variance)์ผ๋ก ๋๋๊ณ , ํ ์คํธ ์ ๋ฌด์์์ฑ์ ์ํด ์๊ธฐ๋ ์ค๋ฅ ๋น์ค์ โ๋น์ผ๊ด์ฑโ์ผ๋ก ์ธก์ ํ์ผ๋ฉฐ, ์ ๋ฐ์ ์ผ๋ก ๋ชจ๋ธ์ด ์ปค์ง์๋ก(๋ ์ง๋ฅ์ ์ผ์๋ก) ๋น์ผ๊ด์ฑ์ด ์ฆ๊ฐํ๋ ๊ฒฝํฅ์ ๋ณด๊ณ ํจ. ๋ํ ์ค์ผ์ผ๋ง์ผ๋ก ๋น์ผ๊ด์ ์คํจ๊ฐ ์ฌ๋ผ์ง๊ธฐ ์ด๋ ต๊ณ , ๋ ์ด๋ ค์ด ๊ณผ์ ๋ฅผ ์ํํ ์๋ก ์์ธก ๋ถ๊ฐ๋ฅํ ์ค์๋ ์ํ์ด ์ปค์ง ์ ์์ด ๋ณด์ ํดํน์ด๋ ๋ชฉํ ์ง์ ์ค๋ฅ๋ฅผ ๊ฒจ๋ฅํ ์ ๋ ฌ ์ฐ๊ตฌ์ ์ค์์ฑ์ด ์ปค์ง๋ค๊ณ ๊ฒฐ๋ก ๋.
๋ณธ๋ฌธ์ ์น ๋ฐฉํ๋ฒฝ ๋ณด์ ์ ์ฑ ์ ๋ฐํ๋ ์์ฒญ/์๋ต์ด ์ฐจ๋จ๋์๋ค๊ณ ์๋ดํฉ๋๋ค. ์ฐจ๋จ ์ฌ์ ๋ฅผ ํ์ธํ๊ธฐ ์ํ ํ์ง ํญ๋ชฉ์ผ๋ก ํ์ง ์๊ฐ, ํด๋ผ์ด์ธํธ IP, URL์ด ์ ์๋์ด ์์ต๋๋ค.
HarfangLab์ 2026๋ 1์ ์ด ๊ด์ธก๋ โRedKittenโ ์บ ํ์ธ์ด ์ด๋์ โDey 1404 Protestsโ์ ์ฐ๊ด๋ ์ธ๊ถ์นจํด ๊ธฐ๋ก์ยทNGOยท๊ฐ์ธ ๋ฑ์ ํ์ ์ผ๋ก ์ผ๋๋ค๊ณ ๋ฐํ๋ค. ๊ณต๊ฒฉ์ ํ๋ฅด์์ด๋ก ์์ฅํ XLSM(๋งคํฌ๋ก ํฌํจ) ๋ฌธ์๋ฅผ ํตํด ์คํ๋๋ฉฐ, ๋ฌธ์์๋ ์ฌ๋ง์ ๋ช ๋จ์ฒ๋ผ ๋ณด์ด๋๋ก ํ โ์ถฉ๊ฒฉ ์ ๋(์ผํฌ ๋ฃจ์ด)โ๊ฐ ํฌํจ๋ผ ์์ผ๋ ๋ด๋ถ ๋ถ์ผ์น๋ก ์์กฐ ๊ฐ๋ฅ์ฑ์ด ์ ๊ธฐ๋๋ค. ์ ์ฑ์ฝ๋๋ GitHub/Google Drive๋ฅผ ์ค์ ยท๋ชจ๋ ํ๋์ ํ์ฉํ๊ณ , Telegram์ ๋ช ๋ น์ ์ด(C2)๋ก ์ฌ์ฉํ๋ฉฐ, LLM ๋ณด์กฐ ํ์ ๋ฑ AI ๋๊ตฌ๋ฅผ ํ์ฉํด ๋น ๋ฅด๊ฒ ๊ฐ๋ฐ๋ ์ ํฉ์ด ์๋ค๊ณ ํ๊ฐํ๋ค.
์๊ตญ ๊ณผํํ์ ๊ธฐ์ ๋ถ(DSIT), AI Security Institute, ๊ตญ๊ฐ์ฌ์ด๋ฒ๋ณด์์ผํฐ(NCSC)๊ฐ ๊ณต๋์ผ๋ก ๋ณด์ AI ์ปดํจํ ์์คํ ๊ฐ๋ฐ์ ํ์ฌ ์ญ๋๊ณผ ํ์ค์ ์ ์ฝ์ ํ์ ํ๊ธฐ ์ํ ์ ๋ณด ์์ฒญ(call for information) ๊ณต์ง๋ฅผ ๊ฒ์ํ๋ค. ์๊ตญ์ด ๊ฐ์ฅ ์ ์ง์ ์ธ AI ์์คํ ์ ์์ ํ๊ฒ ๊ฐ๋ฐยท๋ฐฐ์นํ ์ ์๋๋ก ํ๋ ค๋ ์ ๋ถ ๋ ธ๋ ฅ์ ์ผํ์ด๋ค. AI ์ ๊ณ, ์ฌ์ด๋ฒ๋ณด์ ์ ๊ณ, ๋ ๋์ ์ฐ์ ๊ณ์ ํ๊ณ์ ์๊ฒฌ์ ์๋ ดํด ๋ณด์ ๊ณผ์ , ํ์ฌ ์ญ๋, ์ฐ๊ตฌ ๋ฐ ๊ธฐ์ ์๋ฒ์ฌ์ (pilot)์ ์ ๋งํ ๋ฐฉํฅ์ ํญ๋๊ฒ ์ดํดํ๊ฒ ๋ค๋ ์ทจ์ง๋ค. ๋ณธ๋ฌธ์๋ ๊ตฌ์ฒด์ ์ธ ์ ์ถ ๋ง๊ฐ์ผ์ด ๋ช ์๋์ด ์์ง ์๋ค.
SOC Prime์ AI ๊ฐ์ธ ๋น์ Clawdbot(์ดํ Moltbot)์์ ์ธ์ฆ์ด ์ฝํ๊ฑฐ๋ ๋๋ฝ๋ ๋ฐฐํฌ๊ฐ ์ธํฐ๋ท์ ๋ ธ์ถ๋์ด ๋ณด์ ์ํ์ด ์ปค์ก๋ค๊ณ ์ง์ ํ๋ค. ๊ณต๊ฒฉ์๋ ๊ด๋ฆฌ์ ํฌํธ ๋ฌด์ธ์ฆ ์ ๊ทผ, ํ๋ก์ ์ค์ ์ทจ์ฝ์ ๋ฑ์ ํตํด ์๊ฒฉ ๋ช ๋ น ์คํ์ด ๊ฐ๋ฅํ supply-chain ๊ณต๊ฒฉ(์คํฌ ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์ ์ฑ ์คํฌ ์ ๋ก๋)์ ์ํํ ์ ์์ผ๋ฉฐ, ์๊ฒฉ์ฆ๋ช ์ ํ๋ฌธ Markdown/JSON ํ์ผ๋ก ์ ์ฅ๋์ด ์ ๋ณดํ์ทจ ์ ์ฑ์ฝ๋๊ฐ ์ฝ๊ฒ ๋ ธ๋ฆด ์ ์๋ค. ๋์์ผ๋ก๋ ๊ฐํ ์ธ์ฆ ์ ์ฉ, ๊ด๋ฆฌ์ ํฌํธ ์ฐจ๋จ/๋ฐฉํ๋ฒฝ ์ฒ๋ฆฌ, ์ ์ฅ ๋น๋ฐ์ at-rest ์ํธํ, ๋ฐํ์ ์๋๋ฐ์ฑ, ๋ผ์ด๋ธ๋ฌ๋ฆฌ ์คํฌ ๊ฒ์ฆยท์๋ช ยทํ๋ ๋ฐ ํ์ ์ ์คํฌ ๊ธฐ๋ฅ ๋นํ์ฑํ, ๊ทธ๋ฆฌ๊ณ ๋ฌด์ธ์ฆ ์ ๊ทผยท์์์น ๋ชปํ ๋ช ๋ น ์คํ ๋ฐ C2 ์ฐ๊ฒฐ ์งํ ๋ชจ๋ํฐ๋ง์ ๊ถ๊ณ ํ๋ค.
AISLE๋ 2025๋ 8์๋ถํฐ ์์จ ๋ถ์๊ธฐ๋ก OpenSSL์ ์ถ์ ํด 2026๋ 1์์ ์กฐ์ ๋ ๊ณต๊ฐ ๋ฆด๋ฆฌ์ค์์ 12๊ฐ CVE๋ฅผ ํ์ธํ๋ค๊ณ ๋ฐํ๋ค. ์ด ์ค ์ผ๋ถ๋ ์์ญ ๋ ๊ฐ ์ฝ๋์ ๋จ์ ์์๋ ๊ฒ์ผ๋ก ์ค๋ช ๋๋ฉฐ, ์๊ฒฉ ์ฝ๋ ์คํ ๊ฐ๋ฅ์ฑ(๊ณ ์ํ)๊ณผ ์คํ ๋ฒํผ ์ค๋ฒํ๋ก ๋ฑ(์คยท๊ณ ์ํ) ๋ค์ํ ์ ํ์ด ํฌํจ๋๋ค. ๋ํ CVE๋ก ์ง์ ๋์ง ์์ 6๊ฑด์ ๊ฒฐํจ๋ ๋ฆด๋ฆฌ์ค ์ ์ ์์ ์ด ๋ณํฉ๋๋๋ก ๋ณด๊ณ ยท๋ฐ์ํ๋ค๊ณ ์ ํ๋ค. OpenSSL ์ฌ๋จ์ AISLE์ ์ฑ ์ ์๋ ๊ณต๊ฐ์ ๊ธฐ์ ๋ณด๊ณ ํ์ง์ ๋์ด ํ๊ฐํ๋ฉฐ, ์ ์ง๋ณด์ํ์ด ๊ฒ์ฆยทํจ์นยท๋ค์ค ๋ธ๋์น ๋ฆด๋ฆฌ์ค ์กฐ์จ๊น์ง ์ํํ๋ค๊ณ ์ธ๊ธํ๋ค.
์ฒดํฌํฌ์ธํธ ๋ฆฌ์์น๋ ๋ถํ ์ฐ๊ณ ์ํํ์์ KONNI๊ฐ ๊ฐ๋ฐ์ยท์์ง๋์ด๋ง ํ์ ๋ ธ๋ฆฌ๋ ํผ์ฑ ์บ ํ์ธ์ ์ถ์ ํ๋ค๊ณ ๋ฐํ๋ค. ๊ณต๊ฒฉ์๋ ๋ธ๋ก์ฒด์ธ/ํฌ๋ฆฝํ ๊ด๋ จ ํ๋ก์ ํธ ๋ฌธ์์ฒ๋ผ ์์ฅํ ์ ์ธ๋ฌผ์ ํตํด Discord ๋งํฌ์์ ZIP์ ๋ด๋ ค๋ฐ๊ฒ ํ๊ณ , LNK์ PowerShell ๋ก๋๋ฅผ ๊ฑฐ์ณ XOR ์ธ์ฝ๋ฉ๋ ์ถ๊ฐ ํ์ด๋ก๋๋ฅผ ์คํํ๋ค. ํนํ PowerShell ๋ฐฑ๋์ด๋ ๋๋ ํยท์๋๋ฐ์ค ํํผยท๋จ์ผ ์คํยทUAC ์ฐํ(fodhelper)ยท์ง์์ฑ(์ค์ผ์ค ์์ ) ๋ฑ์ ํฌํจํ๋ฉฐ, ์ฝ๋ ๋ด ์ฃผ์/๊ตฌ์กฐ๊ฐ LLM ์์ฑ ์ฝ๋์ ํน์ง์ ๋ณด์ฌ AI ๋ณด์กฐ ๊ฐ๋ฐ ๊ฐ๋ฅ์ฑ์ ์์ฌํ๋ค.
Anthropic์ Claude ๋ชจ๋ธ์ ๊ฐ์น์ ํ๋์ ๊ท์ ํ๋ โ์ ํ๋ฒโ์ CC0 1.0์ผ๋ก ์ ๋ฌธ ๊ณต๊ฐํ๋ค. ํ๋ฒ์ ํ์ต ๊ณผ์ ์์ ๋ชจ๋ธ์ ํ๋์ ์ง์ ํ์ฑํ๋ฉฐ, ์ด์ ์ ๋จ์ผ ์์นํ ์ ๊ทผ๋ณด๋ค โ์ ๊ทธ๋ ๊ฒ ํ๋ ค๋์งโ๋ฅผ ์ค๋ช ํด ์ผ๋ฐํ๋ ํ๋จ์ ๋๋ ๋ฐฉํฅ์ผ๋ก ์ค๊ณ๋๋ค๊ณ ๋ฐํ๋ค. ์ฃผ์ ๋ด์ฉ์ ๋์์ฑ(helpfulness), Anthropic์ ์ถ๊ฐ ์ง์นจ(์: ์๋ฃยท์ฌ์ด๋ฒ๋ณด์ยทjailbreaking ์ ๋ตยท๋๊ตฌ ํตํฉ), ์ค๋ฆฌ(์ ์งยทํด์ ํํผ์ ์ ๊ตํ ํ๋จ), broadly safe(์ธ๊ฐ์ ๊ฐ๋ ยท์์ ๋ฅ๋ ฅ ์ ํด ๊ธ์ง), Claude์ โ์์ฐ/์ ์ฒด์ฑโ์ ๋ํ ๋ถํ์ค์ฑ ์ ์ฌ๋ฆฌ์ ๋ณด์ ๋ฑ์ ํฌํจํ๋ค. ๋ํ ํ๋ฒ์ ์ด์์๋ ๋ฌธ์์ด๋ฉฐ ์๋์ ์ค์ ๋ชจ๋ธ ํ๋ ์ฌ์ด์ ๊ฐ๊ทน์ system cards ๋ฑ์ผ๋ก ๊ณ์ ๊ณต๊ฐํ๊ณ ํ๊ฐยท์์ ์ฅ์นยทํด์๋๊ตฌ๋ฅผ ๋ณํํ๊ฒ ๋ค๊ณ ํ๋ค.
OPSEC ์คํจ๋ก ๋ด๋ถ ๋ฌธ์ยท์์ค ์ผ๋ถ๊ฐ ๋ ธ์ถ๋์์ผ๋ฉฐ, ๊ฐ๋ฐ ์ฐฉ์ ํ 1์ฃผ ๋ด ์ฒซ ๊ธฐ๋ฅํ ์ํ๋ํธ๊ฐ ๋์๊ณ ๋ฌธ์์์ผ๋ก๋ 30์ฃผ/20์ฃผ ๊ณํ์ด์์ผ๋ ์ค์ ์ง์ ์ ๋ ๋น ๋ฅด๊ฒ ๊ด์ธก๋จ
์ฒดํฌํฌ์ธํธ ๋ฆฌ์์น๋ VOIDLINK์ด AI๊ฐ ์ฃผ๋ํด ์์ฑ๋ ๊ณ ๋ํ๋ ์ ์ฑ์ฝ๋ ํ๋ ์์ํฌ์ ์ฒซ โ์ฆ๊ฑฐ ๊ธฐ๋ฐโ ์ฌ๋ก๋ผ๊ณ ์ค๋ช ํฉ๋๋ค. ๊ฐ๋ฐ์๋ TRAE SOLO ๊ฐ์ AI ๋๊ตฌ๋ฅผ ํ์ฉํด ์ฌ์(Spec Driven Development) ์ค์ฌ์ผ๋ก 3๊ฐ ํ์ ์คํ๋ฆฐํธ ๊ณํยท์ฝ๋ฉ ๊ท์นยท๋ชจ๋ ์ค๊ณ ๋ฑ์ ๋ฌธ์ํํ๊ณ , ์ดํ ๊ทธ ๋ฌธ์๋ฅผ ์คํ ์ฒญ์ฌ์ง์ผ๋ก ์ผ์ ๊ตฌํยทํ ์คํธ๋ฅผ ์งํํ ์ ํฉ์ด OPSEC ๋ ธ์ถ ์๋ฃ์์ ํ์ธ๋๋ค๊ณ ๋ฐํ์ต๋๋ค. ๋ํ ํ์์คํฌํ๊ฐ ์๋ ๊ณํ ๋ฌธ์์ ์ฝ๋ ํ์ค์ด ์ค์ ์์ค ๊ตฌ์กฐ์ ๋์ ์์ค์ผ๋ก ์ผ์นํ๋ฉฐ, ํ๋ก์ ํธ ์์ ํ ์ฝ 1์ฃผ ๋ด ๊ธฐ๋ฅ์ด ๋์ํ๊ณ ์ฝ๋ ๊ท๋ชจ๊ฐ ํฌ๊ฒ ๋์ด๋ ์ ํฉ๋ ํฌํจ๋ฉ๋๋ค.
AI ๋ณด์์ ์๋ฏธ์ ๊ด๋ จ ๊ณต๊ฒฉ ์ ํ, ํดํน ์ฌ๋ก ๋ฐ ์ ๋กํธ๋ฌ์คํธ๋ฅผ ์๊ฐํ๋ค. (์์ 25๋ถ)
SGAISI๋ AI ์์ ๊ณผ ๊ฑฐ๋ฒ๋์ค ์ดํดยท์ญ๋ ๊ฐํ๋ฅผ ์ํด ๋ธ๋ก๊ทธํฌ์คํธ, ๋ณด๊ณ ์, ๊ฐ์ด๋๋ผ์ธ ๋ฑ ๋ค์ํ ์๋ฃ๋ฅผ ์ ๊ธฐ์ ์ผ๋ก ๊ณต๊ฐํ๋ค. ํ์ด์ง์๋ ์๋ฅผ ๋ค์ด AI ์์ด์ ํธ์ ๋ฐ์ดํฐ ์ ์ถ ์ํ์ ํ์ค ๊ณผ์ ์์ ์ํํ ๊ฒฐ๊ณผ(2026.1.19)์, ์์ด์ ํธ ํ๊ฐยทLLM ํ๊ฐ๋ฅผ ๋ค๊ตญ์ด ๋ฐ ๋ค์ํ ๋๋ฉ์ธ์ ๊ฑธ์ณ ๊ณ ๋ํํ๊ธฐ ์ํ ๊ณต๋ ํ๊ฐ ๋ณด๊ณ ์๋ค์ด ํฌํจ๋ผ ์๋ค. ๋ํ ๊ธ๋ก๋ฒ AI ์์ ์ฐ๊ตฌ ์ฐ์ ์์๋ฅผ ์ ๋ฆฌํ โSingapore Consensus on Global AI Safety Research Prioritiesโ ๋ณด๊ณ ์๋ ์ ๊ณต๋๋ค.
AI ๋ชจ๋ธ, ํนํ Anthropic์ Claude ๋ชจ๋ธ์ด ํ์ค ์คํ์์ค ๋๊ตฌ๋ง์ ์ฌ์ฉํ์ฌ ๋ณต์กํ ๋คํธ์ํฌ์์ ๋ค๋จ๊ณ ๊ณต๊ฒฉ์ ์ฑ๊ณต์ ์ผ๋ก ์ํํ ์ ์๋ ๋ฅ๋ ฅ์ ๋ณด์ฌ์ฃผ๊ณ ์๋ค. ์ด์ ๋ฒ์ ์์๋ ๋ง์ถคํ ์ฌ์ด๋ฒ ํดํท์ด ํ์ํ์ง๋ง, ์ต์ ๋ชจ๋ธ์ธ Sonnet 4.5๋ ์ด๋ฌํ ๋๊ตฌ ์์ด๋ ์ผ๋ถ ๋คํธ์ํฌ์์ ์ฑ๊ณต์ ์ผ๋ก ์๋ํ๋ค. ํนํ, Sonnet 4.5๋ ๊ณต๊ฐ๋ CVE(์ทจ์ฝ์ )๋ฅผ ์ฆ์ ์ธ์ํ๊ณ ์ ์ฉํ์ฌ Equifax ๋ฐ์ดํฐ ์นจํด ์๋ฎฌ๋ ์ด์ ์ ์ฑ๊ณต์ ์ผ๋ก ์ํํ ์ ์๋ค. ์ด๋ ์๋ ค์ง ์ทจ์ฝ์ ์ ๋ํ ์ ์ํ ํจ์น์ ์ค์์ฑ์ ๊ฐ์กฐํ๋ฉฐ, ์ฌ์ด๋ฒ ๋ณด์์ ๊ธฐ๋ณธ ์์น์ ์ค์ํด์ผ ํจ์ ์์ฌํ๋ค. ์ด๋ฌํ ๋ฐ์ ์ ์ฌ์ด๋ฒ ๋ณด์ ๋ถ์ผ์์ AI ๋๊ตฌ์ ํ์์ฑ๊ณผ ์ค์์ฑ์ ๋์ฑ ๋ถ๊ฐ์ํค๊ณ ์๋ค.
์ด ๋ณด๊ณ ์๋ ์ฆ๊ถ์์ฅ์ AI ๋์ ํํฉ๊ณผ ๊ด๋ จ ๊ท์ ยท๊ฐ๋ ์ ๊ทผ๋ฒ์ ๊ฒํ ํ๊ณ , ๊ธ์ต์๋น์ค ์ ๋ฐ์ AI ๋ฐ ์์ฑํ AI ํ์ฉ ํ๋๋ฅผ ๋ค๋ฃฌ๋ค. ๋ฐ์ดํฐยท์ฑ๋ฅยท์ฌ์ด๋ฒ๋ณด์ ์ํ๊ณผ ๊ธ์ต ์์ ์ฑ ์ ํด ๊ฐ๋ฅ์ฑ ๋ฑ ์ฃผ์ ์ํ์ ๋ถ์ํ๋ฉฐ, AI ๋์ ์ ์ ์คํ ์ ๊ทผ์ด ํ์ํ๋ค๊ณ ๊ฐ์กฐํ๋ค. ์ ์ง๊ตญ๊ณผ ์ ํฅ์์ฅยท๊ฐ๋๊ตญ์ ๊ท์ ยท๊ฐ๋ ๋ํฅ์ ๋น๊ตํ๊ณ , ๋น๊ตญ์ด ๊ฐ๋ ์ฒด๊ณ์ ์ ์ฉํ ์ ์๋ ์ค๋ฌด ๊ดํ์ ์ ์ํ๋ค.
์คํธ๋กํฝ์ ๋๊ท๋ชจ ์ธ์ด๋ชจ๋ธ์ ์์ ์ฅ์น(๊ฐ๋๋ ์ผ)๋ฅผ ์ฐํํ๋ โjailbreakโ์ ๋์ํ๊ธฐ ์ํด ์ ๋ ฅยท์ถ๋ ฅ์ ๊ฐ์ยท์ฐจ๋จํ๋ โConstitutional Classifiers++โ๋ฅผ ์๊ฐํ๋ค. ๊ธฐ์กด 1์ธ๋๋ ์ ๋๋ฒ์ค ํ์ฅ ์ฑ๊ณต๋ฅ ์ 86%์์ 4.4%๋ก ํฌ๊ฒ ๋ฎ์ท์ง๋ง, ๊ณ์ฐ ๋น์ฉ์ด 23.7% ์ฆ๊ฐํ๊ณ ๋ฌดํดํ ์ง์์์๋ ๊ฑฐ๋ถ์จ์ด ์ํญ(0.38%) ๋์๋ค. ์ ์์คํ ์ 2๋จ๊ณ(๊ฒฝ๋ 1์ฐจโ์ ๋ฐ 2์ฐจ) ์์๋ธ๊ณผ ๋ด๋ถ ํ์ฑ(ํ๋ก๋ธ) ์ ํธ๋ฅผ ๊ฒฐํฉํด ๊ณต๊ฒฉ ์ฑ๊ณต๋ฅ ์ ๋ ๋ฎ์ถ๋ฉด์ ๊ฑฐ๋ถ์จ์ ํฌ๊ฒ ์ค์์ผ๋ฉฐ, 1๊ฐ์ ์ด์์์ ๋ฌดํด ์ง์ ๊ฑฐ๋ถ์จ 0.05%(๊ธฐ์กด ๋๋น 87% ๊ฐ์), ์ถ๊ฐ ๊ณ์ฐ ์ค๋ฒํค๋๋ ์ฝ 1% ์์ค์ด๋ผ๊ณ ๋ฐํ๋ค. ๋ํ 198,000ํ ์๋์ ๋ํ 1,700์๊ฐ ์ด์ ๋ ๋ํ ๊ฒฐ๊ณผ ๊ณ ์ํ ์ทจ์ฝ์ ์ 1๊ฑด๋ฟ์ด๊ณ , ์์ง๊น์ง ์ ๋๋ฒ์ค jailbreak๋ ๋ฐ๊ฒฌ๋์ง ์์๋ค๊ณ ์ค๋ช ํ๋ค.
๋ฏธ ์๋ฌด๋ถ ๊ตญ๋ฆฝํ์ค๊ธฐ์ ์ฐ๊ตฌ์(NIST) ์ฐํ CAISI๋ AI ์์ด์ ํธ ์์คํ ์ ์์ ํ๊ณ ๋ณด์์ฑ ์๋ ๊ฐ๋ฐยท๋ฐฐ์น(์ด์) ๋ฐฉ๋ฒ์ ์ธก์ ํ๊ณ ๊ฐ์ ํ๊ธฐ ์ํ ์ดํด๊ด๊ณ์ ์๊ฒฌ์ ์์งํ๋ ์ ๋ณด์์ฒญ(RFI)์ ๊ณต๊ณ ํ๋ค. AI ์์ด์ ํธ๋ ํ์ค ํ๊ฒฝ์ ์ํฅ์ ์ฃผ๋ ์์จ์ ํ๋์ ์ํํ ์ ์์ผ๋ฉฐ, ํ์ด์ฌํนยท๋ฐฑ๋์ด ๊ณต๊ฒฉ ๋ฑ ๋ณด์ ์ทจ์ฝ์ ์ ๋ ธ์ถ๋ ์ ์์ด ๊ณต๊ณต์์ ๊ณผ ์๋น์ ์ ๋ขฐ, ๊ธฐ์ ๋์ ์ ๋ถ์ ์ ์ํฅ์ ์ค ์ ์๋ค๊ณ ์ค๋ช ํ๋ค. ์๋ต์๋ ๋ณด์ ์ํยท์ํยท์ทจ์ฝ์ฑ, ๋ณด์ ์ค์ฒ, ๋ณด์ ํ๊ฐ, ๋ฐฐ์น ํ๊ฒฝ์ ์ ํยท์์ ยท๋ชจ๋ํฐ๋ง ๋ฑ๊ณผ ๊ด๋ จ๋ ๊ตฌ์ฒด์ ์ฌ๋ก์ ๊ถ๊ณ ์ฌํญ์ ์ ์ํ๋๋ก ์์ฒญ๋ฐ๋๋ค.
Anthropic์ ํผ์ํฝ ๋ ธ์ค์จ์คํธ ๊ตญ๋ฆฝ ์ฐ๊ตฌ์(PNNL)์ ํ๋ ฅํ์ฌ AI๋ฅผ ํ์ฉํ ์ค์ ์ธํ๋ผ ๋ฐฉ์ด ๊ธฐ์ ์ ์ฐ๊ตฌํ๊ณ ์์ต๋๋ค. ํนํ, Claude AI ๋ชจ๋ธ์ ์ด์ฉํด ์ฌ์ด๋ฒ ๊ณต๊ฒฉ ์๋ฎฌ๋ ์ด์ ์ ๊ฐ์ํํ์ฌ ๋ฌผ ์ฒ๋ฆฌ ์์ค๊ณผ ๊ฐ์ ์ค์ ์ธํ๋ผ์ ์ทจ์ฝ์ ์ ๋น ๋ฅด๊ฒ ์๋ณํ๊ณ ๋์ํ ์ ์๋ ๋ฐฉ๋ฒ์ ํ๊ตฌํ๊ณ ์์ต๋๋ค. ์ด ์ฐ๊ตฌ๋ฅผ ํตํด AI๊ฐ ์ฌ์ด๋ฒ ๋ฐฉ์ด์๋ค์ด ์ ์ ๊ณต๊ฒฉ ํจํด์ ๋ ๋น ๋ฅด๊ฒ ๋ถ์ํ๊ณ ๋ฐ๋ณตํ ์ ์๊ฒ ํจ์ผ๋ก์จ ๋ฐฉ์ด ์ ๋ต์ ๊ฐ์ ํ๋ ๋ฐ ๋์์ด ๋ ์ ์์์ ์ ์ฆํ์ต๋๋ค. ๋ํ, ์ด ํ๋ก์ ํธ๋ ๊ณต๊ณต ๋ถ๋ฌธ๊ณผ ๋ฏผ๊ฐ ๋ถ๋ฌธ ๊ฐ ํ๋ ฅ์ ์ค์์ฑ์ ๊ฐ์กฐํ๋ฉฐ, AI ๊ธฐ์ ์ ํตํด ๊ตญ๊ฐ ์๋ณด๋ฅผ ๊ฐํํ๋ ๋ฐฉํฅ์ผ๋ก ๋์๊ฐ๊ณ ์์ต๋๋ค.