2025-08-29 (1๊ฑด)
K-AISI ์ฃผ๊ฐ๋ํฅ ยท ์๊ตญ AI Security Institute(AISI-UK) ยท ๐งช๐
์คํ ์จ์ดํธ(open-weight) AI๋ ํ๋ผ๋ฏธํฐ๊ฐ ๊ณต๊ฐ๋ผ ํฌ๋ช
์ฑ๊ณผ red teaming์ ๋์ด์ง๋ง, ์ ํดํ ๋ฅ๋ ฅ์ด ๋น ๋ฅด๊ณ ๋๋๋ฆฌ๊ธฐ ์ด๋ ต๊ฒ ํ์ฐ๋ ์ ์๊ณ ์์ ์ฅ์น๊ฐ ์ ๋น์ฉ์ผ๋ก ์ ๊ฑฐ๋ ์ํ๋ ์๋ค๊ณ ์ค๋ช
ํ๋ค. AISI๋ ๋ชจ๋ธ ๊ธฐ๋ฐ(ํ์ต๋ฐ์ดํฐ curation, tamper-resistant fine-tuning, provenance ๋ฑ), ์ค์บํด๋ฉ ๊ธฐ๋ฐ(์ธ๋ถ ์์ ์ฅ์น, ๋ฐ์ดํฐ provenance, ๋ชจ๋ํฐ๋งยท๊ฐ์
๋๊ตฌ), ์ ์ฐจ ๊ธฐ๋ฐ(ํ ์ก์ธ์ค audits, ๋ฌธ์ํยทํฌ๋ช
์ฑ, ๋จ๊ณ์ ๋ฐฐํฌ, KYC, ๋ฐฐํฌ ์ค๋จยท๋์ฒด ๋ฑ)์ผ๋ก ์ํ์ ์ค์ด๋ โํดํทโ์ ์ ๋ฆฌํ๋ค. ํนํ ํ์ต ์ ์ ํด ๋ฐ์ดํฐ ์ ๊ฑฐ๊ฐ adversarial fine-tuning ์ ํญ์ 10๋ฐฐ ์ด์ ํจ๊ณผ์ ์ผ ์ ์๋ค๋ ์ฐ๊ตฌ ๊ฒฐ๊ณผ์, ํ์ฌ fine-tuning ๊ธฐ๋ฐ ๋ฐฉ์ด๋ ์์ ์์๋ก๋ ์ฝ๊ฒ ๋ฌด๋ ฅํ๋ ์ ์์ด tamper-resistant fine-tuning์ด ํต์ฌ ๊ณผ์ ๋ผ๊ณ ๊ฐ์กฐํ๋ค.
2025-08-24 (1๊ฑด)
K-AISI ์ฃผ๊ฐ๋ํฅ ยท ํ
ํฌํฌ๋ฐ์น(TechCrunch) ยท ๐๐
xAI๊ฐ ์์ฌ AI ๋ชจ๋ธ Grok 2.5์ ๋ชจ๋ธ ๊ฐ์ค์น(weights)๋ฅผ ์คํ์์ค ํ๋ซํผ ํ๊น
ํ์ด์ค(Hugging Face)์ ๊ณต๊ฐํ๋ค๊ณ ๋จธ์คํฌ๊ฐ ๋ฐํ๋ค. ๋จธ์คํฌ๋ Grok 3๋ ์ฝ 6๊ฐ์ ๋ด ์คํ์์ค๋ก ๊ณต๊ฐํ ์์ ์ด๋ผ๊ณ ๋ง๋ถ์์ผ๋ฉฐ, AI ์์ง๋์ด ํ ์ผ๋ก๊ทธ๋ Grok ๋ผ์ด์ ์ค๊ฐ โ์ผ๋ถ ๋ฐ๊ฒฝ์์ ์กฐ๊ฑด์ด ํฌํจ๋ ์ปค์คํ
โ์ด๋ผ๊ณ ํ๊ฐํ๋ค. ํํธ Grok๋ X์์ ๋
ผ๋์ด ์์๊ณ , xAI๋ ์์คํ
ํ๋กฌํํธ๋ฅผ GitHub์ ๊ณต๊ฐํ ๋ฐ ์๋ค.
2025-08-21 (1๊ฑด)
๊ณต๊ณต ยท ๊ฒฝ์ ํ๋ ฅ๊ฐ๋ฐ๊ธฐ๊ตฌ(OECD) ยท ๐
์ด ๋ณด๊ณ ์๋ ์ธ๊ณต์ง๋ฅ์ ๊ฐ๋ฐฉ์ฑ ๊ฐ๋
๊ณผ ๊ด๋ จ ์ฉ์ด, ๊ฐ๋ฐฉ์ฑ์ ๋ค์ํ ์์ค์ ์ค๋ช
ํ๋ค. ์ํํธ์จ์ด์์ ์ ๋ํ โ์คํ์์คโ๋ผ๋ ์ฉ์ด๋ง์ผ๋ก๋ AI์ ๋ณต์กํ ํน์ฑ์ ์ถฉ๋ถํ ์ค๋ช
ํ๊ธฐ ์ด๋ ต๋ค๊ณ ๋ถ์ํ๋ค. ์คํ ๋ฐ์ดํฐ๋ฅผ ๋ฐํ์ผ๋ก ์คํ ์จ์ดํธ ํ์ด๋ฐ์ด์
๋ชจ๋ธ์ ๋ํฅ๊ณผ ์ ์ฌ์ ์ด์ ยท์ํ์ ๊ฒํ ํ๊ณ , ์์ฑํ AI ํ์ด๋ฐ์ด์
๋ชจ๋ธ์ ๊ฐ๋ฐฉ์ฑ๊ณผ ์ฑ
์ ์๋ ๊ฑฐ๋ฒ๋์ค ๊ฐ ๊ท ํ์ ์ํ ์ ์ฑ
๋
ผ์๋ฅผ ์ง์ํ๋ค.
2025-08-08 (1๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ๐
8B๊ธ ์คํ ์จ์ดํธ LLM ์ฌ์ ํ์ต ๋ฐ์ดํฐ์์ dual-use(์๋ฌผ์ํ) ๊ด๋ จ ํ
์คํธ๋ฅผ ํํฐ๋งํ๋ ๋ค๋จ๊ณ ํ์ดํ๋ผ์ธ์ ์ ์ํ๋ฉฐ, ์ด ๋ฐฉ์์ด ์์น ์๋ ๋ฅ๋ ฅ๊ณผ biothreat proxy ์ง์์ ์ค์ฌ tampering์ ๋ ๊ฐํ โsafeguardโ๊ฐ ๋ ์ ์์์ ๋ณด๊ณ ํ๋ค. 6.9B ํ๋ผ๋ฏธํฐ ๋ชจ๋ธ์ ์ฒ์๋ถํฐ ์ฌ์ ํ์ตํด adversarial fine-tuning(์ต๋ 10,000 steps, 300M tokens) ๊ณต๊ฒฉ์ ๋ํด ๊ธฐ์กด post-training ๊ธฐ์ค ๋๋น 10๋ฐฐ ์ด์ ์ฑ๋ฅ์ด ์ฐ์ํ๋ค๊ณ ์ค๋ช
ํ๋ฉฐ, ๊ด๋ จ ์๋ ๋ฅ๋ ฅ ์ ํ๋ ๊ด์ฐฐ๋์ง ์์๋ค๊ณ ๋ฐํ๋ค. ๋ค๋ง ํํฐ๋ง๋ ๋ชจ๋ธ๋ ์ปจํ
์คํธ(์: ๊ฒ์ ๋๊ตฌ ์ฆ๊ฐ)๋ก ์ํ ์ ๋ณด๋ฅผ ์ ๊ณต๋ฐ์ผ๋ฉด ์ด๋ฅผ ํ์ฉํ ์ ์์ด defense-in-depth๊ฐ ํ์ํ๋ค๊ณ ๊ฒฐ๋ก ๋๋ค.
2025-08-05 (2๊ฑด)
K-AISI ์ฃผ๊ฐ๋ํฅ ยท The Register ยท ๐งช๐๐
GPT-OSS๋ Apache 2.0 ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐ๋ ์คํ ์จ์ดํธ ์ธ์ด๋ชจ๋ธ๋ก, 117B(์ถ๋ก ๋ชจ๋ธ)์ 21B ๋ ํฌ๊ธฐ๋ค. OpenAI๋ ๋ ๋ชจ๋ธ์ด ๊ฐ๊ฐ o4-miniยทo3-mini์ ์ ์ฌํ ์ฑ๋ฅ์ ๋ธ๋ค๊ณ ์ค๋ช
ํ๋ฉฐ, MoE(ํผํฉ ์ ๋ฌธ๊ฐ) ๊ตฌ์กฐ์ 128K ์ปจํ
์คํธ ์๋์ฐ๋ฅผ ์ ๊ณตํ๋ค๊ณ ๋ฐํ๋ค. ์์ ์ ์ํด ์ ํด ๋ฐ์ดํฐ ํํฐ๋ง๊ณผ prompt injection ๋ฐฉ์ง ๊ฒ์ด์ ์ ์ฉํ์ผ๋ฉฐ, ๊ฐ๋ฐ ๊ณผ์ ์์ ์
์ฉ ์๋๋ฅผ ๋ง์๋ค๊ณ ์ฃผ์ฅํ๋ค. ๋ํ Hugging Face ๋ฑ ์ฌ๋ฌ ์ ์ฅ์์ TransformersยทvLLMยทOllama ๋ฑ ์ถ๋ก ํ๋ ์์ํฌ๋ฅผ ์ง์ํ๋ค๊ณ ์ ํ๋ค.
๊ธฐ์
ยท OpenAI ๋ฐฐํฌ ์์ ํ๋ธ ยท ๐
OpenAI๊ฐ Apache 2.0 ๋ผ์ด์ ์ค๋ก ๊ณต๊ฐํ๋ ํ
์คํธ ์ ์ฉ open-weight reasoning ๋ชจ๋ธ gpt-oss-120b์ gpt-oss-20b๋ฅผ ์๊ฐํ๋ค. ๋ ๋ชจ๋ธ์ Responses API์ ํธํ๋๋ฉฐ ์น ๊ฒ์ยทPython ์คํ ๊ฐ์ tool use, ์ถ๋ก ๊ฐ๋ ์กฐ์ , ์ ์ฒด chain-of-thought(CoT), Structured Outputs๋ฅผ ์ง์ํ๋ค. ๊ธฐ๋ณธ ๋ชจ๋ธ์ Preparedness Framework์ ์ธ ์ถ์ ๋ฒ์ฃผ(์๋ฌผยทํํ, ์ฌ์ด๋ฒ, AI ์๊ธฐ๊ฐ์ ) ๋ชจ๋์์ High capability ๊ธฐ์ค์ ๋ฏธ๋ฌํ๊ณ , ์
์์ ํ์์๋ฅผ ๊ฐ์ ํ adversarial fine-tuning ํ์๋ Safety Advisory Group์ ์๋ฌผยทํํ ๋ฐ ์ฌ์ด๋ฒ ์ํ์์ High์ ๋๋ฌํ์ง ์์๋ค๊ณ ๊ฒฐ๋ก ์ง์๋ค. ๋ํ ๋๋ถ๋ถ์ ํ๊ฐ์์ ๊ธฐ์กด open ๋ชจ๋ธ์ ๊ธฐ๋ณธ ์ฑ๋ฅ์ด fine-tuning๋ gpt-oss-120b์ ๊ทผ์ ํด ๊ณต๊ฐ๊ฐ ์๋ฌผ ๋ถ์ผ open ๋ชจ๋ธ์ ์ต์ ์ ์ ํฌ๊ฒ ๋์ด์ฌ๋ฆฌ์ง ์๋๋ค๊ณ ๋ฐํ๋ค.