2026-01-29 (1๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐๐ฌ
์๊ตญ ๊ณผํํ์ ๊ธฐ์ ๋ถ(DSIT), AI Security Institute, ๊ตญ๊ฐ์ฌ์ด๋ฒ๋ณด์์ผํฐ(NCSC)๊ฐ ๊ณต๋์ผ๋ก ๋ณด์ AI ์ปดํจํ
์์คํ
๊ฐ๋ฐ์ ํ์ฌ ์ญ๋๊ณผ ํ์ค์ ์ ์ฝ์ ํ์
ํ๊ธฐ ์ํ ์ ๋ณด ์์ฒญ(call for information) ๊ณต์ง๋ฅผ ๊ฒ์ํ๋ค. ์๊ตญ์ด ๊ฐ์ฅ ์ ์ง์ ์ธ AI ์์คํ
์ ์์ ํ๊ฒ ๊ฐ๋ฐยท๋ฐฐ์นํ ์ ์๋๋ก ํ๋ ค๋ ์ ๋ถ ๋
ธ๋ ฅ์ ์ผํ์ด๋ค. AI ์
๊ณ, ์ฌ์ด๋ฒ๋ณด์ ์
๊ณ, ๋ ๋์ ์ฐ์
๊ณ์ ํ๊ณ์ ์๊ฒฌ์ ์๋ ดํด ๋ณด์ ๊ณผ์ , ํ์ฌ ์ญ๋, ์ฐ๊ตฌ ๋ฐ ๊ธฐ์ ์๋ฒ์ฌ์
(pilot)์ ์ ๋งํ ๋ฐฉํฅ์ ํญ๋๊ฒ ์ดํดํ๊ฒ ๋ค๋ ์ทจ์ง๋ค. ๋ณธ๋ฌธ์๋ ๊ตฌ์ฒด์ ์ธ ์ ์ถ ๋ง๊ฐ์ผ์ด ๋ช
์๋์ด ์์ง ์๋ค.
2026-01-28 (1๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ
์๊ตญ ๊ณผํํ์ ๊ธฐ์ ๋ถ(DSIT)์ AI Security Institute๊ฐ ๊ณต๋ ๋ฐํํ AI ์ญ๋ ๋ฐ์ ๊ณผ ์๊ตญ ๋
ธ๋์์ฅ ์ํฅ์ ๊ดํ ์ด๊ธฐยท๊ฐ๊ด์ ํ๊ฐ ๋ฌธ์๋ค. AI ๊ธฐ์ ์ด ์ด๋ป๊ฒ ๋ฐ์ ํ๊ณ ์๋์ง, ์ด๋ค ๋
ธ๋์๊ฐ ๊ฐ์ฅ ํฐ ์ํฅ์ ๋ฐ์ ์ ์๋์ง์ ๋ํ ๊ธฐ์กด ๊ทผ๊ฑฐ๋ฅผ ์ข
ํฉํ๋ค. ์์ฐ์ฑ๊ณผ ์ฑ์ฉ์ ๊ดํ ์ด๊ธฐ ๋ฐ์ดํฐ๊ฐ ๋ณด์ฌ์ฃผ๋ ๋ด์ฉ๋ ํจ๊ป ๋ค๋ฃจ๋ฉฐ, ์์ผ๋ก ๋ ๊ท๋ช
ํด์ผ ํ ๊ณผ์ ๋ ์ ๋ฆฌํ๋ค. ํ์ด์ง์๋ ๋ฌธ์ ์๊ฐ์ HTML ๋งํฌ๋ง ์์ด ๊ตฌ์ฒด์ ์ธ ์์น๋ ๊ฒฐ๋ก ์ ํ์ธ๋์ง ์๋๋ค.
2026-01-15 (1๊ฑด)
๊ณต๊ณต ยท AISI-UK ยท ๐ฌ๐งช
๋ณธ ์ฐ๊ตฌ๋ AI ํ๋์ ๋ํ ๋ด๋ก ์ด LLM์ ์ฌ์ ํ์ต ๋ ์ ๋ ฌ(alignment) ๊ด๋ จ โํ๋ ์ฐ์ ์์(priors)โ๋ฅผ ํ์ฑํด ์๊ธฐ์ถฉ์กฑ์ misalignment๋ฅผ ์ ๋ฐํ ์ ์๋์ง ํต์ ์คํ์ผ๋ก ๊ฒ์ฆํ๋ค. 6.9B ํ๋ผ๋ฏธํฐ LLM์ (mis)alignment ๊ด๋ จ ๋ด๋ก ์ ์์ ๋ฌ๋ฆฌํด ์ฌ์ ํ์ตํ ๊ฒฐ๊ณผ, AI misalignment์ ๋ํ ํฉ์ฑ ๋ฌธ์๋ฅผ ๋ ๋ง์ด ์์ผ๋ฉด misaligned behaviour๊ฐ ์ ์๋ฏธํ๊ฒ ์ฆ๊ฐํ๊ณ , ๋ฐ๋๋ก aligned behaviour ๋ฌธ์๋ฅผ ๋๋ฆฌ๋ฉด misalignment score๊ฐ 45%์์ 9%๋ก ๋ฎ์์ก๋ค. ์ด๋ฌํ ์ํฅ์ post-training ์ดํ์๋ ์์ ํ ์ฌ๋ผ์ง์ง ์๊ณ ์ผ๋ถ ์ง์๋๋ฉฐ, ์ฐ๊ตฌ์ง์ ์ด๋ฅผ alignment pretraining์ ๊ทผ๊ฑฐ๋ก ์ ์ํ๊ณ capabilities์ ํจ๊ป pretraining์ ๊ณ ๋ คํ ๊ฒ์ ๊ถ๊ณ ํ๋ค.