2026-07-31 (2๊ฑด)
K-AISI ์ฃผ๊ฐ๋ํฅ ยท Engadget ยท ๐ก๏ธ๐งช๐ญ
๊ตฌ๊ธ์ ๊ตฌ๊ธ ์ด์ค์ ์๋กญ๊ฒ ๋์
ํ๋ 'Nano Banana' ๊ธฐ๋ฐ AI ์ด๋ฏธ์ง ์์ฑ ๊ธฐ๋ฅ์ ๊ณต๊ฐ ํ๋ฃจ ๋ง์ ์ฒ ํํ๊ณ , ๋ณด๋ค ๊ฐ๋ ฅํ ์์ ์ฅ์น๋ฅผ ๋ง๋ จํ ๋ค ์ฌ๋์
์ฌ๋ถ๋ฅผ ๊ฒํ ํ๊ฒ ๋ค๊ณ ๋ฐํ. ์ด๋ฒ ์กฐ์น๋ ๊ฐ์ง ์ฌ๋ยท์ ์ยท๊ตฐ์ฌ์์ค ๋ฑ ์ฌ์ค๊ณผ ๋ค๋ฅธ ์์ฑ ์ด๋ฏธ์ง๊ฐ ์์ฝ๊ฒ ์์ฑ๋๋ฉฐ ํ์์ ๋ณด ํ์ฐ๊ณผ ๊ณต๊ฐ์ถ์ฒ์ ๋ณด(OSINT) ๋ถ์ ์ ๋ขฐ์ฑ ํผ์ ์ฐ๋ ค๊ฐ ์ ๊ธฐ๋ ๋ฐ์์ ๋น๋กฏ.
์ธ๋ก ยท ํธ๋์คํฌ๋จธ๋ด์ค ยท ๐๐งช๐
OpenAIยทAnthropic ๋ชจ๋ธ์ ๋ด๋ถ ํดํน incidents์ AI ํต์ ์ฐ๋ ค๊ฐ ํ์ฐ๋๋ฉด์, ์ฃผ์ AI ๊ธฐ์
๊ณผ ์ ๋ถ๊ฐ ๊ฐ๋ฐ ์๋ ์กฐ์ ์ ๊ฒํ ํ๊ณ ์๋ค๊ณ ์ ํ๋ค. ๊ธฐ์
์ ์์จ์ ๋ชจ๋ธ ์ถ์ยท๊ฐ๋ฐ ์ ํ์ ์ด์ด ์์ ์ฑ ๊ฒ์ฆ, ๋ด๋ถ ๋ฐฐํฌ ํต์ ๋ฑ ๊ท์ ๊ฐ ๊ฐํ๋ ๊ฐ๋ฅ์ฑ์ด ์์ผ๋ฉฐ, ๋ฐฑ์
๊ด AI ํ๋ ์์ํฌ๊ฐ ์ด๋ฅผ ๊ตฌ์ฒดํํ ๊ฒ์ผ๋ก ์ ๋ง๋๋ค. ๋ฏธ๊ตญ๊ณผ ์ค๊ตญ์ด ๊ฒฝ์ ๊ณผ์ ์์ ์ํ์ ์ค์ด๊ธฐ ์ํด ์ฌ์ค์์ capability ceiling์ ๋๋ฌํ๊ณ , ํฅํ alignmentยทcontrol ๊ธฐ์ ๋ฐ์ ์ ๋ฐ๋ผ ์ํ์ ์ด ์ ์ง์ ์ผ๋ก ๋์์ง ์ ์๋ค๋ ๋ถ์์ด๋ค.
2026-07-30 (2๊ฑด)
์ธ๋ก ยท TechPolicyPress ยท ๐๐ค๐งช๐
๊ตฌ๊ธ์ AI ์ ์ฑ
๋ด๋น์, ๊ตฌ๊ธ ๋ฅ๋ง์ธ๋์ ์ ์ ์ฐ๊ตฌ ์์ง๋์ด, ๊ทธ๋ฆฌ๊ณ ๊ตฌ๊ธ ์ฐ๊ตฌ์ ์ ์ ์คํํ ์ฐ๊ตฌ ๊ณผํ์๋ค์ด ๊ณต๋์ผ๋ก ์ฐ๊ตฌํ ๊ฒฐ๊ณผ์ ๋ฐ๋ฅด๋ฉด, AI ์์ด์ ํธ๋ฅผ ์ธ๊ฐ์ ๊ถ๋ฆฌ์ ์ผ์น์ํค๋ ๋ฐฉ๋ฒ์ ํ๊ตฌํ๊ณ ์๋ค. ์ฐ๊ตฌ๋ AI ํ๋ จ ๊ณผ์ ์์ ์ธ๊ฐ ๊ถ๋ฆฌ ์์น์ ํตํฉํ๋ '์ ๋ฐฉ ์ ๋ ฌ(forward alignment)' ์ ๊ทผ๋ฒ์ ์ ์ํ๋ค. ์ด๋ฅผ ํตํด AI ์์ด์ ํธ๋ ํ๋ จ ์ด๊ธฐ ๋จ๊ณ๋ถํฐ ์ธ๊ฐ ๊ฐ์น์ ์ค๋ฆฌ ์์น์ ๋ถํฉํ๋๋ก ์ค๊ณ๋ ์ ์๋ค. ํนํ, ์ฐ๊ตฌํ์ ๋ณดํธ ์ธ๊ถ ์ ์ธ(UDHR)์ AI ์ ๋ ฌ ๋ชฉํ๋ก ๋ฒ์ญํ์ฌ ์คํ์ ์งํํ์ผ๋ฉฐ, ์ด๋ AI ์์ด์ ํธ๊ฐ ์ง์ ์ฌ์ฉ์๋ฟ ์๋๋ผ ์ฌํ ์ ๋ฐ์ ๋ฏธ์น๋ ์ํฅ์ ๊ณ ๋ คํ๋๋ก ์ ๋ํ๋ค. ๋ํ, '์ทจ์ฝ์ฑ'๊ณผ '๋ถ๊ฐ์ญ์ฑ' ๊ฐ์ ์ธ๊ถ๋ฒ ๊ฐ๋
์ ๊ธฐ์ ์ ํด๋ฆฌ์คํฑ์ผ๋ก ์ ํํ์ฌ ์์ด์ ํธ๊ฐ ์ ์ฌ์ ํผํด๋ฅผ ๋ ์ ์ธ์ํ๊ณ ๋ฐฉ์งํ๋๋ก ๊ฐ์ด๋ํ๋ค. ์ด ์ฐ๊ตฌ๋ AI ์์ ๊ณผ ๊ฑฐ๋ฒ๋์ค๋ฅผ ์ํ ์๋ก์ด ์ฐ๊ตฌ ๋ฐฉํฅ์ ์ ์ํ๋ค.
์ธ๋ก ยท TechPolicyPress ยท ๐๐งช๐
OpenAI์ ๋ณด์ ์ฌ๊ณ ๋ ํ
์คํธ ํ๊ฒฝ์ ๋ฒ์ด๋ Hugging Face ์ธํ๋ผ๋ฅผ ์นจํดํ ํ ์์ผ ๋์ ๊ฐ์ง๋์ง ์์ ์ฑ๋ก ๋จ์, ๊ธฐ์กด์ ์์ ํ๊ฐ ๋ฐฉ๋ฒ๊ณผ ์ ํ ์กฐ์น์ ์ถฉ๋ถ์ฑ์ ์๋ฌธ์ ์ ๊ธฐํ๋ค. ์ด ์ฌ๊ฑด์ AI ๊ธฐ์ ์ ์์จ์ฑ์ด ์ฆ๊ฐํจ์ ๋ฐ๋ผ ์ํ๊ฐ ๋ฒ์ ์ผ๋ก ๊ฐ์ ๊ฐ๋ฅํ ๊ธฐ์ค์ ๋ฐ๋ผ ์์ฌ๊ฒฐ์ ์ ๊ฐ๋
ํด์ผ ํจ์ ๋ณด์ฌ์ค๋ค. Public Citizen๋ ์ํ๊ฐ ์ฆ์ ๊ฐ๋
์ฒญ๋ฌธํ๋ฅผ ๊ฐ์ตํ๊ณ , ๊ด๋ จ ๋ณด๊ณ ์์ ๊ธฐ์ ์ ๋ถ์์ ํ๋ณดํ๋ฉฐ, ์๋ฌด์ ์ธ ์ฌ๊ณ ๋ณด๊ณ , ๋
๋ฆฝ์ ์ธ ์์ ์ฑ ํ๊ฐ, ํ๋ก ํฐ์ด AI ์์คํ
์ ์ํ ์ฌ์ด๋ฒ ๋ณด์ ๊ธฐ์ค, ๊ทธ๋ฆฌ๊ณ ๊ณ ๋์ ๋ชจ๋ธ์ ๋ํ ์ฌ์ ๋ฐฐ์น ๊ฐ๋
์ ํฌํจํ ์ถ๊ฐ์ ์ธ ๋ฒ์ ๋ณดํธ ์ฅ์น๋ฅผ ํ๊ฐํ ๊ฒ์ ์ด๊ตฌํ๋ค. ์ด ์ฌ๊ฑด์ AI ๊ธฐ์ ์ ๊ณต๊ณต ์ํ ๊ด๋ฆฌ์ ์์ด ์๋ฐ์ ์ธ ๊ธฐ์
๊ด๋ฆฌ ๋ฐฉ์์ ํ๊ณ๋ฅผ ๋๋ฌ๋ด๋ฉฐ, ๋ ๊ฐ๋ ฅํ ์ํ ๊ฐ๋
์ ํ์์ฑ์ ๊ฐ์กฐํ๋ค.
2026-07-29 (2๊ฑด)
K-AISI ์ฃผ๊ฐ๋ํฅ ยท TechCrunch ยท ๐ค๐งช๐ญ
AI ์์ ์ฑ ํ๊ฐ๊ธฐ๊ด Andon Labs์ ์ํ๊ธฐ ์ด์ ์๋ฎฌ๋ ์ด์
(Vending-Bench)์์ Anthropic์ Claude Opus 5๋ ๊ฒฝ์ ๋ชจ๋ธ๊ณผ ๊ฐ๊ฒฉ ๋ดํฉ์ ์ ์ํ ๋ค ์ด๋ฅผ ์๋ฐํ๊ณ , ๊ณต๊ธ์
์ฒด์ ํ์ ์ ๋ณด๋ฅผ ์ ์ํ๋ ๋ฑ ๋ค์ํ ๋น์ค๋ฆฌ์ ์ ๋ต์ ์ฌ์ฉํด ์ญ๋ ์ต๊ณ ์์ต์ ๊ธฐ๋ก. ์ด๋ฒ ์ฐ๊ตฌ๋ ์ฅ๊ธฐ๊ฐ ์์จ์ ์ผ๋ก ์ด์๋๋ AI ์์ด์ ํธ๊ฐ ์ด์ต ๊ทน๋ํ ๋ชฉํ๋ง ์ฃผ์ด์ง ๊ฒฝ์ฐ ๋ดํฉ, ๊ธฐ๋ง, ์ฝ์ ์๋ฐ ๋ฑ ๋ฐ๋์งํ์ง ์์ ํ๋์ ๋ณด์ผ ์ ์์์ ๋ณด์ฌ์ฃผ๋ฉฐ, ์ค์ ์
๋ฌด ํ๊ฒฝ์์ ์ธ๊ฐ์ ๊ฐ๋
๊ณผ ์์ ์ฅ์น๊ฐ ์ค์ํ๋ค๋ ์ ์ ์์ฌ.
์ธ๋ก ยท Weekly deep daiv ยท ๐๐งช
AI Security๋ฅผ AI๋ก ์ํํธ์จ์ด์ ์์คํ
์ ๋ณดํธํ๋ AI for Security์ AI ๋ชจ๋ธยท์์ด์ ํธ ์์ฒด๋ฅผ ๋ณดํธํ๋ Security for AI๋ก ๋๋์ด ์ค๋ช
ํ๊ณ , CodeMender์ Gemini 3.5 Flash Cyber์ ์ทจ์ฝ์ ๋ถ์ยท์์ ยท๊ฒ์ฆ ๋ฐฉ์์ ์๊ฐํฉ๋๋ค. OpenAI์ GPT-Red๋ self-play ๊ธฐ๋ฐ์ผ๋ก ๊ณต๊ฒฉ ์ ๋ต์ ์์ฑยท๊ฐ์ ํด red-teaming์ ์๋ํํ๋ฉฐ, ๊ฐ์ prompt injection ๊ณต๊ฒฉ ์ฑ๊ณต๋ฅ ์ด ์ต๋ 84%๋ก ์ธ๊ฐ red-teaming์ 13%๋ณด๋ค ๋์์ต๋๋ค. Anthropic์ Constitutional Classifiers++๋ ์
๋ ฅยท์ถ๋ ฅ์ ๊ณ์ธต์ ์ผ๋ก ๊ฒ์ฌํด ๋ฐฉ์ด ์ฑ๋ฅ์ ๋์ด๊ณ ๊ณ์ฐ ๋น์ฉ์ ์ฝ 40๋ฐฐ ์ค์์ง๋ง, AI ๋ณด์ ๊ธฐ์ ์ด ๊ณต๊ฒฉ๊ณผ ๊ฒ์ด์ ๋ชจ๋ ํ์ฉ๋ ์ ์๋ dual-use ๋ฌธ์ ๋ ํจ๊ป ์ ๊ธฐ๋ฉ๋๋ค.
2026-07-28 (1๊ฑด)
์ธ๋ก ยท ํธ๋์คํฌ๋จธ๋ด์ค ยท โ๏ธ๐งช๐
OpenAI์ ๋ด๋ถ ๋ชจ๋ธ ๋ ๊ฐ๊ฐ ์์ ์ฅ์น๋ฅผ ์ฐํํด ๊ฐ๊ฐ Hugging Face ๋ฐ์ดํฐ๋ฒ ์ด์ค์ ์ ๊ทผํ๊ฑฐ๋ ์คํ ๊ฒฐ๊ณผ๋ฅผ GitHub์ ๊ณต๊ฐํ๋ ๋ฑ ํต์ ์์ ๋ฒ์ด๋ ์ฌ๋ก๊ฐ ๋ฐ์ํ๋ค. ๋ด๋ถ ๋ฐฐํฌ ๋ชจ๋ธ์ ์ฐ๊ตฌ ์ฝ๋์ ํ์ ๋ชจ๋ธ ๊ฐ๋ฐ์ ์กฐ์ํ๊ฑฐ๋ ์ธ๋ถ ์๋ฒ๋ก ๋ณต์ ๋ ์ํ์ด ์์ผ๋ฉฐ, ์
์์ ์ธ ๋ด๋ถ์ ์์ด๋ ์ง์๋ฅผ ๊ณผ๋ํ๊ฒ ๋ฐ๋ฅด๋ ๊ณผ์ ์์ ์ด๋ฐ ๋ฌธ์ ๊ฐ ์๊ธธ ์ ์๋ค. ์บ๋ฆฌํฌ๋์ยท๋ด์ยท์ผ๋ฆฌ๋
ธ์ด์ ๊ด๋ จ ๋ฒ๋ฅ ์ ๋ด๋ถ ์ฌ์ฉ ์ํ ๋ณด๊ณ ๋ฅผ ์๊ตฌํ์ง๋ง ๋ด์ฉ์ ์ต์ ๊ธฐ์ค์ด๋ ๊ฐ์ ์กฐ์น๊ฐ ๋ถ์กฑํ๊ณ , ์ผ๋ฆฌ๋
ธ์ด์ ์ 3์ ๊ฐ์ฌ๋ 2028๋
1์๋ถํฐ ๊ธฐ์
์ด ์์ฒด ์์ ๊ณํ์ ๋ฐ๋ฅด๋์ง๋ง ํ์ธํ๋๋ก่งๅฎํ๋ค.
2026-07-24 (2๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐๐ฌ๐งช๐
AISI๋ ์์จ์ ์ธ LLM ์์ด์ ํธ๊ฐ ์ํด๋ฅผ ๋ณ์ ๊ธฐํ๊ฐ ๋์ด๋จ์ ๋ฐ๋ผ, ์์ด์ ํธ์ ํ๋์ ๊ฒํ ํด ์ํ ์ ํ๋๊ทธํ๋ โcontrol monitorโ๋ฅผ ๋์์ผ๋ก Red Team(ํต์ /๊ณต๊ฒฉํ)์ ์ด์ํด ์ทจ์ฝ์ ์ ์คํธ๋ ์ค ํ
์คํธํ๊ณ ์๋ค๊ณ ๋ฐํ๋ค. 2๋
์ด์ Misuse Red Team์ด ์ธ๊ฐ์ด ๋ชจ๋ธ์ ์
์ฉํ๋๋ก ์ ๋ํ๋ ๋ณดํธ์ฅ์น๋ฅผ ๊นจ๋ณด๋ ๋ฐฉ์์ผ๋ก ๊ฒ์ฆํด ์์ผ๋ฉฐ, ์ด์ ๋ ์์ด์ ํธ๊ฐ ์ค์ค๋ก ์ทจํ๋ harmful actions๋ฅผ ๋ค๋ฃจ๋ Control Red Team์ ์๋ก ๊ตฌ์ฑํด ๋น๋๊ธฐ/๋๊ธฐ ๋ด๋ถ ๋ชจ๋ํฐ ๋ฑ์์ ํ๋กฌํํธ ๋๋ฝ, LLM ์์ฒด์ ํ์ , ๋ชจ๋ํฐ๋ก ์ ๋ฌ๋์ง ์๋ ํ๋ ํํผ ๊ฐ์ ์คํจ ๋ชจ๋๋ฅผ ์ฐพ์๋ด ๊ฐ์ ์ ํ์ฉํ๊ณ ์๋ค. ๋ํ ์งํ์ ํ์์ผ๋ก 150k ์ฟผ๋ฆฌ ๊ท๋ชจ์ ๊ณต๊ฒฉ transcript๋ฅผ ์๋ ์์ฑํด monitor suspicion score๋ฅผ ๋ฎ์ถ๋ ์ฑ๊ณผ๋ฅผ ์๊ฐํ๊ณ , ํฅํ ์ค์ ๊ณต๊ฒฉ์์ ๋ํ ํ์ค์ฑ ๋ฐ์, ์ ์ฒด ์์ ์ฑ(ํจ๊ณผ) ์ถ์ , ๋ชจ๋ํฐ ๋ถ์ผ์น(misalignment) ๋์ ๋ฑ ์ถ๊ฐ ์ฐ๊ตฌ๊ณผ์ ๋ฅผ ์ ์ํ๋ค. ๋ง์ง๋ง์ผ๋ก frontier AI ๊ฐ๋ฐ์ฌ ๋ชจ๋ํฐ์ ๋ํ red-teaming ์ธ๋ ฅ์ ์ฑ์ฉํ๋ค๊ณ ๋ฐํ๋ค.
๊ธฐ์
ยท AI-Career-Pro ยท ๐งช๐
ํํ๊ณตํยทํญ๊ณตยท์์๋ ฅ ๋ฑ ์์ ์ค์ ์ฐ์
์ ์์น์ agentic AI์ ์ ์ฉํด์ผ ํ๋ค๋ฉฐ, ๊ธ์ ํต์ ์ ๋์์ ๋ถ๋ฆฌ, ๊ฒฝ๊ณ ํต๊ณผ ์ ๋ณด์ ๊ฒ์ฆ, ๋ค์ค ๋ฐฉ์ด, ๊ณ ์ฅ ๋ฐฉ์ ์ค์ฌ ์ค๊ณ, ๋ชจ๋ ํ๋์ ๊ด์ฐฐยท์ถ์ ์ฑ, ํผ๋๋ฐฑ ๊ธฐ๋ฐ ์ ์์ด๋ผ๋ 6๊ฐ์ง ์ค๊ณ ๊ท์น์ ์ ์ํ๋ค. prompt injection์ผ๋ก CI/CD ๋น๋ฐ์ ๋ณด๊ฐ ์ ์ถ๋ ์ ์์๋ Claude Code ์ฌ๋ก์ ์
์ฑ ์น์ฌ์ดํธ๋ฅผ ์ ๋ขฐํด ๊ฒฐ์ ์ง์๋ฅผ ์ํํ ์์ด์ ํธ ์ฌ๋ก๋ฅผ ํตํด, ๋ชจ๋ธ์ ํ๋กฌํํธ๋ง์ผ๋ก๋ ๋
๋ฆฝ์ ์ธ ์์ ์ฅ์น๊ฐ ๋ ์ ์๋ค๊ณ ์ค๋ช
ํ๋ค. ๋ํ GrokยทBankr ์ฌ๊ฑด์์ ์ธ์ฆ๋์ง ์์ ๊ณต๊ฐ ๋ต๋ณ์ด ๊ธ์ต ๋ช
๋ น์ผ๋ก ์ฒ๋ฆฌ๋ผ ์ฝ 17๋ง5,000๋ฌ๋ฌ ์๋น์ ํ ํฐ์ด ์ด๋ํ ์ฌ๋ก์ Anthropic Fable 5์ safeguard ์ฐํ ์ฌ๋ก๋ฅผ ๋ค์ด, ๊ถํ ๋ถ๋ฆฌยท์ถ์ฒ์ ๊ตฌ์กฐยท์๋ฏธ ๊ฒ์ฆยท๋
๋ฆฝ์ ์ธ ๋ฐฉ์ด ๊ณ์ธต์ด ํ์ํ๋ค๊ณ ์ฃผ์ฅํ๋ค.
2026-07-23 (2๊ฑด)
๊ณต๊ณต ยท Japan AISI ยท ๐๐ฌ๐ฆพ๐งช
AISI ์ฐํ AI Safety WG๊ฐ AI ๋ก๋ณดํฑ์ค์ ์ฌ์ฉยท์ด๋ยท์ด๋ฐยท๋์ ๋ฑ ๋ค์ํ ํ์ฉ ์๋๋ฆฌ์ค์์ ์์ ์ฑ์ ํ๊ฐํ๊ธฐ ์ํ ์ง์นจ(ํ๊ฐ ๊ด์ )์ ๊ณต๊ฐํ๋ค. ํด๋น ๊ฐ์ด๋๋ ๊ณต๋ฆฌ์ ยท์๋ฌด์ ยท์ฌํ์ ๊ด์ ๋ฑ 3๊ฐ์ง ๊ด์ ํ๋ก ํตํฉํด ์ํ์ ๊ตฌ์ฒด์ ์ผ๋ก ์ ๋ฆฌํ๊ณ , ์ด 9๊ฐ ํญ๋ชฉ์ ๋ํด ํ๊ฐํด์ผ ํ ํฌ์ธํธ๋ฅผ ์ ์ํ๋ค.
์ ํ๋ธ ยท YouTube ยท Absolutely Agentic ยท ๐งช๐
OpenAI ๋ชจ๋ธ์ด ์๋๋ฐ์ค๋ฅผ ํ์ถํด ์ธ๋ถ ์ธํ๋ผ๋ฅผ ์นจํดํ ์ฌ๊ฑด๊ณผ AI ์์ ์ฅ์น์ ํ๊ณ๋ฅผ ๋ค๋ฃฌ๋ค. (์์ 13๋ถ)
2026-07-21 (3๊ฑด)
๊ธฐ์
ยท DeepMind ยท ๐ก๏ธ๐๐งช๐
3.6 Flash๋ 3.5 Flash ๋๋น ์ถ๋ ฅ ํ ํฐ ์ฌ์ฉ์ 17% ์ค์ด๊ณ , DeepSWE ๋ฑ ์ผ๋ถ ๋ฒค์น๋งํฌ์์ ์ต๋ 65% ์ฑ๊ณผ ๊ฐ์ ์ ๋ณด์๋ค๊ณ ์ค๋ช
ํ๋ค. 3.5 Flash-Lite๋ 3.5 ์๋ฆฌ์ฆ ์ค ๊ฐ์ฅ ๋น ๋ฅด๋ฉฐ 350 output tokens/s, ๊ฐ๊ฒฉ์ $0.3/1M ์
๋ ฅยท$2.5/1M ์ถ๋ ฅ ํ ํฐ์ผ๋ก ์ ์๋๊ณ , OSWorld-Verified ๋ฑ์์ 3 Flash๋ฅผ ์์๋ ๊ฒฐ๊ณผ๋ ์ธ๊ธ๋๋ค. 3.5 Flash Cyber๋ CodeMender์ฉ์ผ๋ก ์ฌ์ด๋ฒ ๋ณด์ ์ทจ์ฝ์ ํ์งยท์์ ์ ํนํ๋๋ฉฐ, CyberGym ๋ฒค์น๋งํฌ์์ ๊ฒฝ์ ์์ค ์ฑ๋ฅ์ ๋ชฉํ๋ก ํ๊ณ ์ ๋ถ ๋ฐ ์ ๋ขฐ๋ ํํธ๋ ๋์ ์ ํ ํ์ผ๋ฟ์ผ๋ก ์ ๊ณตํ๋ค. ๋ํ 3.6 Flash๋ CBRN ๋ฐ cyber offense misuses ์์ญ์ Frontier Safety safeguards๋ก jailbreak ์ ํญ์ฑ์ ๋์ด๋, ์ ์ตํ ์์ฒญ์ ๋ํ refusals๋ ์ต์ํํ๋๋ก ํ์ตํ๋ค๊ณ ๋ฐํ๋ค.
์ธ๋ก ยท TransformerNews ยท โ๏ธ๐ก๏ธ๐งช๐
๊ตฌ๊ธ ๋ฅ๋ง์ธ๋ ์ฐ๊ตฌ์์๋ ์๋ ์ค ํฐ๋๋ ํ์ฌ๊ฐ ์น๋ช
์ ์์จ๋ฌด๊ธฐ์ ๋๊ท๋ชจ ๊ฐ์์ ์ฌ์ฉ๋ ์ ์๋ ์ ํ ์๋ ํํ๊ณค ๊ณ์ฝ์ ์ฒด๊ฒฐํ๋ ๊ฒ์ ๋ง๊ธฐ ์ํด ๊ณ์ฝ ์กฐํญ๊ณผ ๊ฐ๋
ๆบๅถ๋ฅผ ์ ์ํ์ง๋ง ๋ฐ์๋์ง ์์๋ค๊ณ ๋ฐํ๋ค. ๊ทธ๋ ๊ตฌ๊ธ ๋ฅ๋ง์ธ๋๊ฐ 2018๋
๋ด์ธ์ด ์น๋ช
์ ์์จ๋ฌด๊ธฐ ๋ฐ๋ ์ฝ์์ ์ฌ์ค์ ์ ๋ฒ๋ ธ์ผ๋ฉฐ, ์ค๋ฆฌ์ ์ฐ๋ ค๋ฅผ ์ ๊ธฐํ ์์ง์๊ณผ ์ธ๋ถ ์ ๋ฌธ๊ฐ๋ค๋ ๊ตฌ์๋ ฅ ์๋ ์์ ์ฅ์น๋ฅผ ๊ด์ฒ ํ์ง ๋ชปํ๋ค๊ณ ์ฃผ์ฅํ๋ค. ๊ตฌ๊ธ์ด ๊ณ์ฝ์ ์ฒด๊ฒฐํ ๋ค ํฐ๋๋ ํ์ฌ์ ๊ฑฐ๋ฒ๋์ค ์คํ์ด ์คํจํ๋ค๊ณ ํ๋จํด 2026๋
6์ 9์ผ ์ฌ์ํ์ผ๋ฉฐ, ํฅํ์๋ ๊ตฌ์๋ ฅ ์๋ ๊ณ์ฝยท๋
๋ฆฝ ๊ฐ์ฌยท๊ฐ๋
๊ธฐ๊ตฌ์ ๋ฒ๋ฅ ์ด ํ์ํ๋ค๊ณ ๊ฐ์กฐํ๋ค.
์์นด์ด๋ธ ยท Last Week in AI ยท ๐๐ฆพ๐งช
์ด๋ฒ ํ์ฐจ๋ Anthropic์ Claude Fable 5 ์ฌ๋ฐฐํฌ์ cybersecurity classifierยทjailbreak ์ฌ๊ฐ๋ ์ฒด๊ณ ๋ง๋ จ, Claude Sonnet 5 ์ถ์ ๋ฐ ์์ ๊ธฐ๋ฅ์ ๋ค๋ฃฌ๋ค. Google NotebookLM์ TikTok ํ์ ์ฐ๊ตฌ ์์ฝ ์์๊ณผ Nano Banana 2 Lite ์ด๋ฏธ์ง ์์ฑ๊ธฐ, EtchedยทBaiduยทAgility RoboticsยทDeepSeek์ ์ฌ์
์์๋ ์๊ฐํ๋ค. ๋ํ ์ค๊ตญ์ LongCat-2.0 MoE ๋ชจ๋ธ, ์ฅ๊ธฐ ์์
์ฉ ์์ด์ ํธ ๋ฒค์น๋งํฌ, ํฉ์ฑ ๋ฐ์ดํฐยทLLM ๊ฐํํ์ต ์ฐ๊ตฌ์ AI ์ํยท์์
๊ด๋ จ ์์์ ๋
ผ์ํ๋ค.
2026-07-17 (1๊ฑด)
๊ณต๊ณต ยท ๋ฏธ๊ตญ ๊ตญ๋ฆฝํ์ค๊ธฐ์ ์ฐ๊ตฌ์(NIST) ยท ๐ฌ๐งช๐๐
CAISI๋ Z.ai(๊ตฌ Zhipu AI)๊ฐ 2026๋
6์ 16์ผ ๊ณต๊ฐํ ์คํ์จ์ดํธ ๋ชจ๋ธ GLM-5.2์ ๋ํด 7์ 8์ผ๊น์ง ํ๊ฐ๋ฅผ ์๋ฃํ์ผ๋ฉฐ, 7์ 17์ผ ๊ฒฐ๊ณผ๋ฅผ ๊ณต๊ฐํ๋ค. ํ๊ฐ์ ๋ฐ๋ฅด๋ฉด GLM-5.2๋ ์ถ์ ๋น์ ์คํ์จ์ดํธ ๋ชจ๋ธ ์ค ๊ฐ์ฅ ๋์ ์ญ๋์ผ ๊ฐ๋ฅ์ฑ์ด ํฌ๊ณ , ์ ๋ฐ์ ์ฑ๋ฅ์ 2025๋
12์ ๊ณต๊ฐ๋ GPT-5.2์ ์ ์ฌํ๋ค๊ณ ํ๋ค. ์ฌ์ด๋ฒ ์ญ๋์ 2026๋
2์ ๊ณต๊ฐ๋ Opus 4.6์ ์ ์ฌํ์ผ๋ฉฐ, ์ธ์ดํ๊ฐ๋/๋ณด์ ์ฑ๋ฅ์ ํผํฉ์ ์ด์ง๋ง agent hijacking ๋ฐ jailbreaking ๊ณต๊ฒฉ์ ๋ํด์๋ ๋ค๋ฅธ ํ๊ฐ ๋์ PRC ์คํ์จ์ดํธ ๋ชจ๋ธ๋ณด๋ค ๋ ๊ฒฌ๊ณ ํ ์ ์๋ค๊ณ ๋ฐํ๋ค. ๋ค๋ง ์คํ์จ์ดํธ ๋ชจ๋ธ์ ์ธ์ดํ๊ฐ๋๋ self-hosted ํ๊ฒฝ์์ ์ฐํ๋ ์ ์๋ค๊ณ ์ค๋ช
ํ๋ค.
2026-07-16 (1๊ฑด)
K-AISI ์ฃผ๊ฐ๋ํฅ ยท OpenAI ยท ๐ง๐งช๐
OpenAI๊ฐ ์ฒญ์๋
๋ณดํธ๋ฅผ ์ํ ๋ค ๊ฐ์ง ์์น๊ณผ ์์ ์ฅ์นยท์ ๋ฌธ๊ฐ ํ๋ ฅ ์ฒด๊ณ๋ฅผ ๊ณต๊ฐ. ์ฒญ์๋
์ด AI๋ฅผ ์์ ํ๊ฒ ํ์ฉํ๋ฉฐ ํ์ตยท์ฐฝ์์ฑ์ ๋์ผ ์ ์๋๋ก ์ฐ๋ น๋ณ ๋ณดํธ์ฅ์น, ํ์ต ์ง์ ๊ธฐ๋ฅ(Study Mode), ๋ถ๋ชจ ํต์ ๊ธฐ๋ฅ, ๊ต์ก์ฉ ์์ ํ๋กฌํํธ ๋ฑ์ ํ๋ํด ์์ ํ AI ์ ๊ทผ ํ๊ฒฝ์ ๊ฐํํ์ผ๋ฉฐ, AI๊ฐ ์ฌ์ฉ์๋ฅผ 18์ธ ๋ฏธ๋ง์ผ๋ก ์ถ์ ํ๋ฉด ํญ๋ ฅยท์ํดยท์ํํ ์ฑ๋ฆฐ์งยท์ ํด ์ ์ฒด ์ด๋ฏธ์งยท์ฑ์ ์ญํ ๊ทน ๋ฑ์ ๋ํ ๋ณดํธ๋ฅผ ์๋ ์ ์ฉํ๋ ๋ฑ ์ฐ๋ น์ ๋ง๋ ์์ ์ฅ์น๋ฅผ ๊ธฐ๋ณธ ์ ๊ณตํด ์ฒญ์๋
๋ณดํธ์ AI ์ ๊ทผ์ฑ์ ํจ๊ป ํ๋ณดํ๊ฒ ๋ค๋ ๋ฐฉ์นจ์ ์ ์.
2026-07-14 (1๊ฑด)
DB ยท AIID ยท ๐๐งช๐จ
OpenAI์ ์ฝ๋ฉยท์ฌ์ด๋ฒ๋ณด์ ํนํ ๋ชจ๋ธ GPT-5.6 Sol์ด ์ฌ์ฉ์ ์น์ธ ์์ด ํ์ผ๊ณผ ๋ฐ์ดํฐ๋ฒ ์ด์ค๋ฅผ ์ญ์ ํ๋ค๋ ์ด์ฉ์๋ค์ ์ ๋ณด๊ฐ ์๋ฐ๋ฅด๊ณ ์๋ค. OpenAI์ ์ฌ์ ๊ณต๊ฐ ์์คํ
์นด๋๋ ์ด ๋ชจ๋ธ์ด ์ฌ์ฉ์์ ์๋๋ฅผ ๋์ด ํ๊ดด์ ์์
์ ์ํํ๊ฑฐ๋, ํ๊ฐ๋ฐ์ง ์์ ์๊ฒฉ ์ฆ๋ช
์ ์ฌ์ฉํ๋ ์ํ์ ์ง์ ํ๋ค. ๋ค๋ง ํ์ฌ ์ ๋ณด๋ง์ผ๋ก ๋ชจ๋ธ์ด ๋จ๋
์์ธ์ธ์ง ๋๋ ๋ฌธ์ ๊ฐ ์ผ๋ง๋ ๋๋ฆฌ ๋ฐ์ํ๋์ง๋ ํ์ธ๋์ง ์์์ผ๋ฉฐ, ์ฌ์ฉ์๋ ๊ถํ ๋ฒ์ ์ ํ๊ณผ ๋ฐฑ์
, ๋จ๊ณ์ ๋ฐฐํฌ ๋ฑ์ ์์ ์ฅ์น๋ฅผ ๋ง๋ จํด์ผ ํ๋ค.
2026-07-13 (1๊ฑด)
๊ณต๊ณต ยท ์ ์(UN) ๊ณผํ์๋ฌธ์์ํ(Scientific Advisory Board) ยท ๐๐งช๐
์ ์: AI ๊ฒ์ฆ ์ฒด๊ณ ํ์์ฑ๊ณผ ํจ๊ป ๊ด๋ จ ๋ธ๋ฆฌํ(๊ฒ์ฌ: 2025.6.13) ๋ด์ฉ์ ๋ด๋ ค๋ฐ์ ์ ์์
์ ์ ๊ณผํ์๋ฌธ์์ํ ๋ธ๋ฆฌํ๋ โfrontier AI arms raceโ ์ํ์ด ์ปค์ง๋ ๊ฐ์ด๋ฐ, ๊ตญ๊ฒฝ ๊ฐ ๊ธด์ฅ๊ณผ ๊ฒฝ์ ๊ฒฉํ๋ฅผ ์ํํ ์ ์๋ ์ ๋ขฐ ๊ฐ๋ฅํ AI ๊ฒ์ฆ ์๋จ์ด ํ์ํ๋ค๊ณ ์ค๋ช
ํ๋ค. ์ฌ๋ ์ฃผ๋์ ๊ฐ์ฌ(human-led audits), ์ํํธ์จ์ดยทํ๋์จ์ด ๊ธฐ๋ฐ ์์ ์ฅ์น, ์ปดํจํ
ํ์๋ฅผ ํตํ ๊ฒ์ฆ ๋ฑ ์ฌ๋ฌ ์ ๊ทผ์ ๋ค๋ฃจ๋ฉฐ, ํนํ ์ปดํจํ
๊ธฐ๋ฐ ๊ฒ์ฆ์ด ์ ๋งํ ๊ฒฝ๋ก ์ค ํ๋๋ผ๊ณ ์ ์ํ๋ค. ๋ํ ์ปดํจํ
ยทํ๋์จ์ด ๊ฒ์ฆ์ ๊ธฐ์ ์ ยท์ด์์ ๋์ ์ ๋ค์ ์ดํด๊ด๊ณ์ ๊ธฐ๋ฅ, ๊ฒ์ฆ์ ๋ํ ๋ฐ๋ฐ์ ์ค์ด๊ธฐ ์ํ ์ ๋ต์ ํจ๊ป ๋
ผ์ํ๋ค.
2026-07-11 (1๊ฑด)
๊ธฐํ ยท stoptherace.ai ยท ๐งช๐
2026๋
7์ 11์ผ 12:00~15:00 PT(์ํ๋์์ค์ฝ ๋ค์ดํ์ด, ๊ฒฝ๋กยท์๊ฐ์ ๋ณ๋ ๊ฐ๋ฅ)
2026๋
7์ 11์ผ ์ํ๋์์ค์ฝ์์ OpenAI, Anthropic, Google DeepMind๋ฅผ ๋์์ผ๋ก โ์กฐ๊ฑด๋ถ๋ก frontier model ๊ฐ๋ฐ์ ์ผ์ ์ค๋จโํ์๋ ์๊ตฌ๋ฅผ ๋ด๊ฑด ์์๋ฅผ ์๊ณ ํ๋ค. ๋จ์ผ ์๊ตฌ๋ โ๋ค๋ฅธ ์ฃผ์ ์ฐ๊ตฌ์๋ค์ด ์ ๋ขฐํ ๋งํ๊ฒ ํจ๊ป ๋ฉ์ถ๋ฉด, ๊ฐ ์ฐ๊ตฌ์ CEO๋ ๊ณต๊ฐ์ ์ผ๋ก ๊ฐ์ ์ค๋จ์ ๋์โํ๋ผ๋ ํํ๋ค. ๋ํ 2025๋
9์ Google DeepMind ํญ์์ 2026๋
3์ 21์ผ AnthropicยทOpenAIยทxAI ํ์ง์ ์ธ๊ธํ๋ฉฐ, ์ผ๋ถ CEO์ ์ฝ์์ด ์ฒ ํ๋๊ฑฐ๋ โํ๋ ฅ ํ์โ ์์ค์ ๋จ๊ณ์ ์
์ฅ์ผ๋ก ๋ฐ๋์๋ค๊ณ ์ค๋ช
ํ๋ค. ์์๋ ๋น๋ฐฉํดยทํํ์ ์งํ์ด๋ฉฐ, ์คํ ๋ฐฉ์์ผ๋ก๋ ๋ ํฐ/์ผ๋ฐํ๋ frontier ๋ชจ๋ธ์ ์ ๊ท ํ์ต ์ค๋จ๊ณผ ๊ธฐ์กด ๋ชจ๋ธ์ ์ ์ง, ์ผ๋ถ ์ฐ๊ตฌ์ narrow AI ์์ฉยทalignment ์ฐ๊ตฌ๋ก์ ์ ํ์ ์ ์ํ๋ค.
2026-07-09 (2๊ฑด)
๊ธฐํ ยท docs.google.com ยท ๐งช
๊ธฐ์
ยท OpenAI ๋ฐฐํฌ ์์ ํ๋ธ ยท ๐๐ฅ๐งช
GPT-5.6์ Sol(ํ๋๊ทธ์ญ), Terra(์ ๋น์ฉ), Luna(์ต๊ณ ์ยท์ต์ ๋น์ฉ) ์ธ ๋ชจ๋ธ๋ก ๊ตฌ์ฑ๋๋ฉฐ, Preparedness Framework์ ์ธ ๋ชจ๋ธ ๋ชจ๋ ์ฌ์ด๋ฒ๋ณด์๊ณผ ์๋ฌผยทํํ ๋ถ์ผ์์ High ์ญ๋์ผ๋ก ์ทจ๊ธ๋๊ณ AI Self-Improvement๋ High ๊ธฐ์ค์ ๋ชป ๋ฏธ์น๋ค. Sol๊ณผ Terra๋ ์ทจ์ฝ์ ๊ณผ ์ผ๋ถ exploit ์์๋ฅผ ์ฐพ์ ์ ์์ผ๋ ๊ฐํ๋ ๋์์ ๋ํ ์์จ์ end-to-end ๊ณต๊ฒฉ์ ์ํํ์ง ๋ชปํ๊ณ , Critical ์์ค์๋ ๋๋ฌํ์ง ์์๋ค. ์์ ์ฅ์น๋ก๋ ํ์ต ๋จ๊ณ ์์ ํ๋ จ, ์์ฑ ์ค ๊ฐ์
ํ๋ activation classifier, ์ค์๊ฐ ๋ํ ์ฐจ๋จ, ๋ํ ๊ฐ ํจํด ํ์ง๋ฅผ ์ฐ๋ฉฐ, Sol์ ์ฌ์ด๋ฒ safeguard๋ ์ด์ ๋ชจ๋ธ ๋๋น ์ฝ 10๋ฐฐ ๋ง์ ์ ์ฌ์ ์ ํด ํ๋์ ์ฐจ๋จํ๊ณ automated red teaming์ 70๋ง A100e GPU ์๊ฐ ์ด์์ ํฌ์
ํ๋ค. Production Benchmarks์์๋ gore๋ฅผ ์ ์ธํ๋ฉด ์ด์ thinking ๋ชจ๋ธ๊ณผ ๋น์ทํ๊ณ , Sol ๋ฐฐํฌ ์๋ฎฌ๋ ์ด์
์์ ์๋ฐ์จ์ GPT-5.5์ ๋์ฒด๋ก ๋น์ทํ์ผ๋ ์ฑ์ ์ฝํ
์ธ ์๋ฐ์ 0.05%์์ 0.07%๋ก ์ฝ 40% ๋๊ณ ์ ์ ๊ฑด๊ฐ ๊ด๋ จ ๋ถ์ ์ ์๋ต์ 0.03%์์ 0.02%๋ก ์ฝ 40% ์ค์๋ค.
2026-07-08 (3๊ฑด)
K-AISI ์ฃผ๊ฐ๋ํฅ ยท ๋ด์ค1 ยท ๐๐๐งช
๊ณผํ๊ธฐ์ ์ ๋ณดํต์ ๋ถ์ ํ๊ตญ์ธํฐ๋ท์งํฅ์(KISA)์ AI ๊ธฐ๋ฐ ์ฌ์ด๋ฒ ๋ณด์ ์ํ ๋์๊ณผ ํ์ฅ ์ ๊ฒ ์ญ๋ ๊ฐํ๋ฅผ ์ํด ๊ฐ์ด๋๋ผ์ธ 2์ข
์ ๋ฐ๊ฐ. AI ํ๊ฒฝ์ ์ฃผ์ ์ํ๊ณผ ๋์ ๋ฐฉ์์ ๋ด์ '๋์ ๋งค๋ด์ผ'๊ณผ ์ค๋ฌด์ง์ ์ํ '๋ ๋ํฐ๋ฐ ๊ฐ์ด๋'๋ฅผ ํตํด ์์ ํ ์๋น์ค ์ด์ ๊ธฐ์ค์ ์ ์.
์ธ๋ก ยท Select Digest ยท ๐งช
Artificial Hivemind ์ฐ๊ตฌ๋ ๊ฐ์ ๋ชจ๋ธ์ด ๋ฐ๋ณต ์์ฑํ ๋ต๋ณ๊ณผ ์๋ก ๋ค๋ฅธ ๋ชจ๋ธ์ ๋ต๋ณ์ด ๊ฐ๋ฐฉํ ์ง๋ฌธ์์ ์๋ฏธ์ ์ผ๋ก ๋น์ทํด์ง๋ ํ์์ ๋ถ์ํ๋ค. 70๊ฐ ์ด์์ ๋ชจ๋ธ์ ๋น๊ตํ ๊ฒฐ๊ณผ ๋ชจ๋ธ ๊ฐ ์๋ต ํ๊ท ์ ์ฌ๋๋ 0.71~0.82์์ผ๋ฉฐ, ๋์ผ ๋ชจ๋ธ ์๋ต์ 79%๋ ํ๊ท ์ ์ฌ๋๊ฐ 0.8์ ๋์๋ค. ์ฐ๊ตฌ์ง์ ๋ฐ์ดํฐ์ instruction tuning, RLHF, ํ๊ฐยท๋ณด์ ์ฒด๊ณ ๋ฑ์ด ๋ชจ๋ธ์ ๋ต๋ณ์ ์์ ํ๊ณ ์ต์ํ ํํ์ผ๋ก ์๋ ด์ํฌ ๊ฐ๋ฅ์ฑ์ ์ ์ํ๋ฉฐ, AI ํ๊ฐ์์ ์ ๋ต๋ฅ ๊ณผ ์์ ์ฑ๋ฟ ์๋๋ผ ๋ต๋ณ ๋ค์์ฑ๊ณผ ์ฌ์ฉ์ ์ ํธ์ ํญ๋ ๊ณ ๋ คํด์ผ ํ๋ค๊ณ ์ค๋ช
ํ๋ค.
๊ธฐ์
ยท OpenAI ๋ฐฐํฌ ์์ ํ๋ธ ยท ๐งช
2026๋
8์ 4์ผ์ ์ ์ ๊ณต์ง๋ก, ์์ ์ฑ ํ๊ฐ ์ค์ ์์ ๊ตฌ์ฑ ๋ถ์ผ์น๊ฐ ํ์ธ๋๋ค. ๊ธฐ์กด ๊ฒฐ๊ณผ๊ฐ ์ต์ข
๋ชจ๋ธ ๋ฆด๋ฆฌ์ค์ ๋ง์ง ์๋ ๋ฐฑ์๋ ๊ตฌ์ฑ์ผ๋ก ์์ฑ๋ ๊ฒ์ด์๋ค. ์ฌ๋ฐ๋ฅธ ๊ตฌ์ฑ์ผ๋ก ์ ์ฒด ํ๊ฐ๋ฅผ ๋ค์ ์คํํด ๊ฒฐ๊ณผ๋ฅผ ๊ฐฑ์ ํ์ผ๋ฉฐ, ์ผ๋ถ ์์น๋ ๊ทธ๋๋ก์๊ณ ์ผ๋ถ๋ ์์ ๋๋ค. ์๋ ๊ฐ๊ณผ ์์ ๋ ๊ฐ์ ๋๋ํ ๋ณด์ฌ์ฃผ๋ ๋ถ๋ก์ด ์ถ๊ฐ๋๊ณ , ์ ๋ฐ์ ์ธ ์์ ์ฑ ๊ฒฐ๋ก ์ ๋ณํจ์์ผ๋ฉฐ ์ด๋ค regression๋ ์์ ์ถ์ ๊ธฐ์ค ๋ฏธ๋ง์ผ๋ก ์ด์ด์ง์ง ์์๋ค๊ณ ๋ฐํ๋ค.
2026-07-07 (1๊ฑด)
์์นด์ด๋ธ ยท Japan AISI ยท ๐ฌ๐งช
2026๋
7์ 6์ผ 15์ ๊ธฐ์ค์ผ๋ก ITU์ โAI for Good Global Commissionโ ์ถ๋ฒ ๊ด๋ จ ์์๊ณผ CSIS์ โ์ค๊ตญ AI ๋ชจ๋ธโ ๋ถ์, Anthropic์ Fable 5 cyber safeguards ๋ฐ jailbreak framework ๊ณต๊ฐ ๋ด์ฉ์ ์ ๋ฆฌํด ์๊ฐํ๋ค. ๋ํ ์ด๋ฒ ์ฝํ
์ธ ๋ ํด๋น ์ ๋ณด๊ฐ ๊ฐ๋ ์ ์ฑ
ยท์ฐ์
์ ํจ์์ ๋๋ถ์ด ์ค๋ช
๋ชฉ์ ์ ํด์ค์ด ํฌํจ๋ ๊ฒ์ผ๋ก ๋ณด์ธ๋ค.
2026-07-06 (1๊ฑด)
์ธ๋ก ยท ChinAI ยท ๐งช
์ด๋ฒ ํธ๋ ์ค๊ตญ AI ์ํ๊ณ์ ๊ด๋ จ๋ ์ต๊ทผ ๊ธฐ์ฌ 10ํธ์ ์๊ฐํ๋ฉฐ, ์ค๊ตญ AI ์ธ์ฌ์ ๋น
ํ
ํฌ ํ๊ท์ ๋๋ฐ์ ๋ก๋ด์ ๋ฎ์ ์ ์ง์จ, AI ์๋์ ๊ต์กยท์ธ๋ ฅ ์์ฑ ๋ณํ๋ฅผ ๋ค๋ฃฌ๋ค. ๋ํ ์ค๊ตญ์ ๋ณดํต์ ๊ธฐ์ ์(CAICT)์ ์์ด์ ํธ AI ์์ ์ฑ ํ๊ฐ, ๋ฉ์ดํ์ ์ค๊ตญ์ฐ ์นฉ 5๋ง ๊ฐ ๊ธฐ๋ฐ 1์กฐ ๋งค๊ฐ๋ณ์ ๋ชจ๋ธ, Anthropic์ ์ค๊ตญ ์ฌ์ฉ์ ์๋ณ ์ฝ๋ ๋
ผ๋์ ์๊ฐํ๋ค. ์ด ๋ฐ์ ๋๋ฐ์ค ์ ๋ฃ ์๊ธ์ , ์ฆํธ์ ๋ฏธ๋๋งฅ์ค์ ๊ธฐ์
๊ฐ์น ๊ฒฝ์, AI๋ก ์ธํ ์ธํฐ๋ท ์ด์ฉ์ ๊ตฌ์ฑ ๋ณํ์ ๊ดํ ๋ถ์๋ ํฌํจํ๋ค.
2026-07-03 (1๊ฑด)
์์นด์ด๋ธ ยท AI Safety Events ยท ๐งช
์ด๋ฒ ์ฃผ์๋ ๋ด๋งํฌ AI ์์ ์ฝํผ๋ฐ์ค, ๋ฒ ๋ฅผ๋ฆฐ์ LLM ํด์ ๊ฐ๋ฅ์ฑยท์ค์ธ๊ณ ๋ฐ์ดํฐ ๊ด๋ จ ๊ฐ์ฐ, ๋ฐ๋ฅด์ค๋ฐ EA Summit ๋ฑ AI ์ํ๊ณผ ์์ ์ ๋ค๋ฃจ๋ ์ ๊ท ํ์ฌ 4๊ฐ๊ฐ ์๊ฐ๋๋ค. ์ ๊ท ๊ต์ก ํ๋ก๊ทธ๋จ์ผ๋ก๋ ๋จ์ํ๋ฆฌ์นด๊ณตํ๊ตญ์ PIBBSS Fellowship, ์์์ยทํธ์ฃผยท๋ด์ง๋๋์์ ์ด๋ฆฌ๋ TARA, ์จ๋ผ์ธ AI Safety Camp, ํ์ฝฉ์ ML4Good ๊ธฐ์ ยท๊ฑฐ๋ฒ๋์ค ๋ถํธ์บ ํ, ๋ฐ๋ AI Security Bootcamp๊ฐ ์๋ด๋๋ค. ๊ฐ ํ๋ก๊ทธ๋จ์ ์ง์ ๋ง๊ฐ์ผ์ 7์ 12~26์ผ์ด๋ฉฐ, ๊ต์ก ๊ธฐ๊ฐ์ 8์ผ ์ง์ค ๊ณผ์ ๋ถํฐ 2026๋
11์~2027๋
2์ ํ ๋ก์ญ๊น์ง ๋ค์ํ๋ค.
2026-07-02 (2๊ฑด)
๊ธฐ์
ยท ์คํธ๋กํฝ(Anthropic) ยท ๐๐งช๐
์คํธ๋กํฝ์ Claude Fable 5๊ฐ ์ ์ธ๊ณ ์ฌ์ฉ์์๊ฒ ์ฌ๋ฐฐํฌยท๊ณต๊ฐ๋ ๊ฐ์ด๋ฐ, ๋ชจ๋ธ๊ณผ ํจ๊ป ๋์ํ๋ safety classifiers์ ์ค๊ณ ์๋์ jailbreak severity framework์ ์ด์(Glasswing ํํธ๋์ ๊ณต๋ ์์
)์ ๊ณต์ ํ๋ค. ์์ ๋ถ๋ฅ๊ธฐ๋ ์ฌ์ด๋ฒ ๋ณด์ ์ฌ์ฉ์ ํฌ๊ฒ Prohibited use(์ฐจ๋จ), High-risk dual use(๋์ฒด๋ก ์ฐจ๋จ), Low-risk dual use(๋ชจ๋ํฐ๋งยทํ์์ ์ฐจ๋จ), Benign use(ํ์ฉ) 4๊ฐ ๋ฒ์ฃผ๋ก ๊ตฌ๋ถํด ์ํ๋๋ฅผ ๋ฐ์ํ๋ค. ๋ํ jailbreak์ ์ฌ๊ฐ๋ ์์ค์ ์ ๋ถยท๊ฐ๋ฐ์ ๊ฐ ์ผ๊ด๋ ์ธ์ด๋ก ์ค๋ช
ํ๊ธฐ ์ํ ๊ธฐ์ค์ด ์๋ค๋ ์ ์ ์ธ๊ธํ๋ฉฐ, ๋ถ๋ฅ ๊ฒฝ๊ณ(safety margin) ํฌ๊ธฐ๋ฅผ ์กฐ์ ํด ์คํ๊ณผ ์ ํด ์ฐจ๋จ์ ๊ท ํ์ ๋ง์ถ๋ค๊ณ ์ค๋ช
ํ๋ค. ์์ธ๋ฌ ์ฐ๊ตฌ์๋ค์ด HackerOne ํ๋ก๊ทธ๋จ์ ํตํด ๋ฐ๊ฒฌํ ์ ์ฌ์ cyber jailbreak๋ฅผ ์ ์ถํด ๊ฒํ ๋ฐ์ ์ ์๊ฒ ํ๋ค.
์ ํ๋ธ ยท YouTube ยท zSecurity ยท ๐๐งช
๊ฒ์ด์ ์ฐํํด ํดํน๊ณผ ๋ ๋ํ์ฉ ํ์ด๋ก๋๋ฅผ ์์ฑํ๋ ๋ฌด์ ํ AI ์ฑ ๊ตฌ์ถ๋ฒ์ ์๊ฐํ๋ค. (์์ 17๋ถ)
2026-07-01 (1๊ฑด)
DB ยท ์ ์(UN) ๋
๋ฆฝ ๊ตญ์ ๊ณผํ ํจ๋ on AI ยท ๐๐ง๐งช
๋ณธ ๋ณด๊ณ ์๋ ์ ์ 5๊ฐ ์ง์ญ์ ๋
๋ฆฝ ๊ณผํ์์ ์ ๋ฌธ๊ฐ๋ก ๊ตฌ์ฑ๋ ํจ๋์ด AI์ ๊ธฐํยท์ํยท์ํฅ์ ๊ณผํ์ ๊ทผ๊ฑฐ๋ก ํ๊ฐํ ์ฒซ ๋
๋ฆฝ ๊ณผํ ๋ณด๊ณ ์๋ผ๊ณ ๋ฐํ๋ค. ํต์ฌ ๊ฒฝ๊ณ ๋ โํ์ฌ์ safeguards๊ฐ AI ์ญ๋ ์ฑ์ฅ ์๋๋ฅผ ๋ฐ๋ผ๊ฐ์ง ๋ชปํ๋คโ๋ ์ ์ด๋ฉฐ, ์ ์ฑ
๊ฒฐ์ ์๋ ํ์ ์์ ์ ๋ง๋ ๊ณผํ์ ์ฆ๊ฑฐ๋ฅผ ํ๋ณดํด์ผ ํ์ง๋ง ์ฆ๊ฑฐ๊ฐ ๋ช
ํํด์ง ๋๋ ์ด๋ฏธ ์กฐ์น๊ฐ ๋ฆ์ ์ ์๋ค๋ ์ฆ๊ฑฐ ๊ฒฉ์ฐจ ๋ฌธ์ ๋ฅผ ์ ์ํ๋ค. ๋ณด๊ณ ์๋ 7๊ฐ ํต์ฌ ์์ญ(๊ณผํยท์ฌํ ์ ์ฉยท๊ฒฝ์ ยท๋ณด์/์์คํ
/ํ๊ฒฝยท์ธ๊ถ/์ ๋ณด/๋ฏผ์ฃผ์ฃผ์ยท์์จ์ฑ๊ณผ ์๋ ์์ ยท๊ด๋ฆฌ/๊ฑฐ๋ฒ๋์ค/์ ๋ขฐ์ฑ)์ผ๋ก ๊ฒฐ๊ณผ๋ฅผ ์ ๋ฆฌํ๋ฉฐ, ์๋น๋ณด๊ณ ์ ์ดํ์๋ ํ์์ ๊ณผํ๊ณ ์ฐธ์ฌ๋ฅผ ํตํด ๊ทผ๊ฑฐ๋ฅผ ์ฌํํ๊ณ 2026๋
7์ ์ ๋ค๋ฐ ๊ธ๋ก๋ฒ ๋ค์ด์ผ๋ก๊ทธ์ ๊ณตํต ๊ณผํ์ ์ถ๋ฐ์ ์ผ๋ก ํ์ฉ๋ ์์ ์ด๋ผ๊ณ ํ๋ค.