๐Ÿš€ ํ”„๋ก ํ‹ฐ์–ด

์ฃผ์ œ๋ณ„ ๋ชจ์•„๋ณด๊ธฐ ยท 2023๋…„ 11๊ฑด
2023๋…„ 12์›” (1๊ฑด)

2023-12-07 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ ์–ธ์–ด ๋ชจ๋ธ ๊ฒฐ์ •์˜ ์ฐจ๋ณ„ ํ‰๊ฐ€ ๋ฐ ์™„ํ™” (2023.12.7)

๊ธฐ์—… ยท Anthropic-Research ยท ๐Ÿ“‹๐Ÿš€

Anthropic ์—ฐ๊ตฌํŒ€์€ ์–ธ์–ด ๋ชจ๋ธ(LM)์ด ๊ณ ์œ„ํ—˜ ์‚ฌํšŒ ๊ฒฐ์ •(์˜ˆ: ์ž๊ธˆ ์ง€์› ๋˜๋Š” ์ฃผ๊ฑฐ ์ž๊ฒฉ ๊ฒฐ์ •)์— ํ™œ์šฉ๋  ๋•Œ ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ๋Š” ์ฐจ๋ณ„ ๋ฌธ์ œ๋ฅผ ํ‰๊ฐ€ํ•˜๊ณ  ์™„ํ™”ํ•˜๊ธฐ ์œ„ํ•œ ๋ฐฉ๋ฒ•๋ก ์„ ์ œ์‹œํ•ฉ๋‹ˆ๋‹ค. ์—ฐ๊ตฌํŒ€์€ ๋‹ค์–‘ํ•œ ์‚ฌํšŒ์  ์ƒํ™ฉ(70๊ฐ€์ง€ ์‹œ๋‚˜๋ฆฌ์˜ค ํฌํ•จ)์—์„œ ์ž ์žฌ์ ์ธ ํ”„๋กฌํ”„ํŠธ๋ฅผ ์ƒ์„ฑํ•˜๊ณ , ๊ฐ ํ”„๋กฌํ”„ํŠธ์— ์ธ๊ตฌ ํ†ต๊ณ„ ์ •๋ณด๋ฅผ ๋ณ€ํ™”์‹œ์ผœ ์ฐจ๋ณ„ ํŒจํ„ด์„ ๋ถ„์„ํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด๋ฅผ ํ†ตํ•ด Claude 2.0 ๋ชจ๋ธ์—์„œ ๊ธ์ •์  ๋ฐ ๋ถ€์ •์  ์ฐจ๋ณ„์˜ ํŒจํ„ด์„ ํ™•์ธํ–ˆ์Šต๋‹ˆ๋‹ค. ์—ฐ๊ตฌ๋Š” ์‹ ์ค‘ํ•œ ํ”„๋กฌํ”„ํŠธ ์„ค๊ณ„๋ฅผ ํ†ตํ•ด ์ฐจ๋ณ„์„ ํฌ๊ฒŒ ์ค„์ผ ์ˆ˜ ์žˆ๋Š” ๋ฐฉ๋ฒ•์„ ๋ณด์—ฌ์ฃผ๋ฉฐ, ์–ธ์–ด ๋ชจ๋ธ์˜ ์•ˆ์ „ํ•œ ์ ์šฉ์„ ์œ„ํ•œ ์ง€์นจ์„ ์ œ๊ณตํ•ฉ๋‹ˆ๋‹ค. ์—ฐ๊ตฌ ๊ฒฐ๊ณผ์™€ ํ”„๋กฌํ”„ํŠธ ๋ฐ์ดํ„ฐ์…‹์€ ๊ณต๊ฐœ๋˜์—ˆ์Šต๋‹ˆ๋‹ค.

2023๋…„ 10์›” (1๊ฑด)

2023-10-24 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ ํŠน์ • ์›์น™ vs ์ผ๋ฐ˜ ์›์น™์„ ํ†ตํ•œ ํ—Œ๋ฒ•์  AI (2023.10.24)

๊ธฐ์—… ยท Anthropic Research ยท ๐Ÿš€

Anthropic ์—ฐ๊ตฌ๋Š” ํ—Œ๋ฒ•์  AI ๊ฐœ๋ฐœ์—์„œ ํŠน์ • ์›์น™๊ณผ ์ผ๋ฐ˜ ์›์น™์˜ ์—ญํ• ์„ ํƒ๊ตฌํ•œ๋‹ค. ์—ฐ๊ตฌ๋Š” ์ธ๊ฐ„ ํ”ผ๋“œ๋ฐฑ์ด ๋ช…๋ฐฑํ•œ ํ•ด๋กญ์ง€ ์•Š์€ ๋ฐœํ™”๋ฅผ ๋ฐฉ์ง€ํ•  ์ˆ˜ ์žˆ์ง€๋งŒ, ๊ถŒ๋ ฅ ์ถ”๊ตฌ์™€ ๊ฐ™์€ ๋ฏธ๋ฌ˜ํ•œ ๋ฌธ์ œ ํ–‰๋™์„ ์ž๋™์œผ๋กœ ์™„ํ™”ํ•˜์ง€ ๋ชปํ•จ์„ ์ง€์ ํ•œ๋‹ค. ๋Œ€์‹ , AI ๋ชจ๋ธ์ด ์ž‘์„ฑ๋œ ์›์น™ ๋ชฉ๋ก์—๋งŒ ์กฐ๊ฑดํ™”๋œ ํ”ผ๋“œ๋ฐฑ์„ ์‚ฌ์šฉํ•˜๋Š” ํ—Œ๋ฒ•์  AI ์ ‘๊ทผ๋ฒ•์„ ์ œ์•ˆํ•œ๋‹ค. ์ด๋ฅผ ํ†ตํ•ด ๊ทธ๋Ÿฌํ•œ ํ–‰๋™์˜ ํ‘œํ˜„์„ ํšจ๊ณผ์ ์œผ๋กœ ๋ฐฉ์ง€ํ•  ์ˆ˜ ์žˆ์Œ์„ ๋ฐœ๊ฒฌํ–ˆ๋‹ค. ๋‹จ์ˆœํ•œ ์›์น™์˜ ์„ฑ๊ณต์€ ๋‹จ์ผ ์ž‘์„ฑ ์›์น™์—์„œ ์ผ๋ฐ˜ ์œค๋ฆฌ ํ–‰๋™์„ ํ•™์Šตํ•  ์ˆ˜ ์žˆ๋Š”์ง€ ์งˆ๋ฌธ์„ ๋˜์ง„๋‹ค. ์‹คํ—˜ ๊ฒฐ๊ณผ, "์ธ๋ฅ˜์—๊ฒŒ ์ตœ์„ ์„ ๋‹คํ•˜๋ผ"๋Š” ์›์น™์„ ๊ธฐ๋ฐ˜์œผ๋กœ ํ•œ ๋ชจ๋ธ๋“ค์ด ํŠน์ • ๋™๊ธฐ ๋ถ€์—ฌ(์˜ˆ: ๊ถŒ๋ ฅ)์— ๋Œ€ํ•œ ๊ด€์‹ฌ ์—†์ด ๋ฌดํ•ดํ•œ ๋ณด์กฐ์ž๋กœ ์ผ๋ฐ˜ํ™”๋  ์ˆ˜ ์žˆ์Œ์„ ๋ณด์—ฌ์ค€๋‹ค. ์ด๋Š” ์ผ๋ฐ˜ ์›์น™์ด ์žฅ๊ธฐ์ ์ธ ์›์น™ ๋ชฉ๋ก์„ ๋ถ€๋ถ„์ ์œผ๋กœ ๋Œ€์ฒดํ•  ์ˆ˜ ์žˆ์Œ์„ ์‹œ์‚ฌํ•˜์ง€๋งŒ, ์„ธ๋ฐ€ํ•œ ์ œ์–ด๋ฅผ ์œ„ํ•ด ์—ฌ์ „ํžˆ ํŠน์ • ์›์น™์˜ ํ•„์š”์„ฑ์„ ๊ฐ•์กฐํ•œ๋‹ค.

2023๋…„ 8์›” (2๊ฑด)

2023-08-08 (2๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ Anthropic ์—ฐ๊ตฌ: ๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ ์ผ๋ฐ˜ํ™” ์—ฐ๊ตฌ์—์„œ ์˜ํ–ฅ๋ ฅ ํ•จ์ˆ˜ ํ™œ์šฉ (2023.8.8)

๊ธฐ์—… ยท Anthropic-Research ยท ๐Ÿš€

๋Œ€ํ˜• ์–ธ์–ด ๋ชจ๋ธ(LLM)์˜ ์ผ๋ฐ˜ํ™” ํŠน์„ฑ์„ ์ดํ•ดํ•˜๊ธฐ ์œ„ํ•ด ์˜ํ–ฅ๋ ฅ ํ•จ์ˆ˜๋ฅผ ํ™œ์šฉํ•œ ์—ฐ๊ตฌ๊ฐ€ ์†Œ๊ฐœ๋˜์—ˆ๋‹ค. ์—ฐ๊ตฌํŒ€์€ EK-FAC(Eigenvalue-corrected Kronecker-Factored Approximate Curvature) ๋ฐฉ๋ฒ•์„ ํ†ตํ•ด ์ตœ๋Œ€ 520์–ต ํŒŒ๋ผ๋ฏธํ„ฐ๋ฅผ ๊ฐ€์ง„ LLM๊นŒ์ง€ ์˜ํ–ฅ๋ ฅ ํ•จ์ˆ˜๋ฅผ ํ™•์žฅํ•˜์˜€๋‹ค. ์ด๋ฅผ ํ†ตํ•ด ํ›ˆ๋ จ ์˜ˆ์‹œ๋“ค์ด ๋ชจ๋ธ์˜ ํ–‰๋™์— ๋ฏธ์น˜๋Š” ์˜ํ–ฅ์„ ๋ถ„์„ํ•˜๊ณ , ์ผ๋ฐ˜ํ™” ํŒจํ„ด, ์ถ”์ƒํ™” ์ˆ˜์ค€์˜ ์ฆ๊ฐ€, ์ˆ˜ํ•™ ๋ฐ ํ”„๋กœ๊ทธ๋ž˜๋ฐ ๋Šฅ๋ ฅ, ๋‹ค๊ตญ์–ด ์ผ๋ฐ˜ํ™” ๋Šฅ๋ ฅ, ์—ญํ•  ์—ฐ๊ธฐ ํ–‰๋™ ๋“ฑ์„ ์กฐ์‚ฌํ•˜์˜€๋‹ค. ํŠนํžˆ, ํ•ต์‹ฌ ๊ตฌ๋ฌธ ์ˆœ์„œ ๋ณ€๊ฒฝ ์‹œ ์˜ํ–ฅ๋ ฅ์ด ๊ธ‰๊ฒฉํžˆ ๊ฐ์†Œํ•˜๋Š” ํ•œ๊ณ„์ ์„ ๋ฐœ๊ฒฌํ•˜์˜€๋‹ค. ์ด ์—ฐ๊ตฌ๋Š” LLM์˜ ์ผ๋ฐ˜ํ™” ์†์„ฑ์„ ์—ฐ๊ตฌํ•˜๋Š” ๋ฐ ๊ฐ•๋ ฅํ•œ ์ƒˆ๋กœ์šด ๋„๊ตฌ๋ฅผ ์ œ๊ณตํ•œ๋‹ค.

๐Ÿ‡บ๐Ÿ‡ธ Anthropic ์—ฐ๊ตฌ: ๋ชจ๋ธ ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ์—์„œ ๋ชจ๋ธ ์ถœ๋ ฅ ์ถ”์ 

๊ธฐ์—… ยท Anthropic-Research ยท ๐Ÿš€

Anthropic์˜ ์ตœ์‹  ์—ฐ๊ตฌ๋Š” ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ์˜ ์ถœ๋ ฅ์ด ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ์— ์–ด๋–ป๊ฒŒ ์˜ํ–ฅ์„ ๋ฐ›๋Š”์ง€ ๋ถ„์„ํ•œ๋‹ค. ์—ฐ๊ตฌํŒ€์€ ํ†ต๊ณ„ํ•™์—์„œ ์œ ๋ž˜ํ•œ '์˜ํ–ฅ ํ•จ์ˆ˜(Influence Functions)' ๊ธฐ๋ฒ•์„ ํ™œ์šฉํ•ด ํ›ˆ๋ จ ๋ฐ์ดํ„ฐ ์ค‘ ๋ชจ๋ธ ์ถœ๋ ฅ์— ๊ฐ€์žฅ ํฐ ์˜ํ–ฅ์„ ๋ฏธ์น˜๋Š” ์˜ˆ์‹œ๋“ค์„ ์‹๋ณ„ํ•œ๋‹ค. ๋ชจ๋ธ ํฌ๊ธฐ๊ฐ€ ์ฆ๊ฐ€ํ•จ์— ๋”ฐ๋ผ ์ผ๋ฐ˜ํ™” ํŒจํ„ด์ด ๋”์šฑ ์ถ”์ƒ์ ์ธ ๊ฐœ๋…์œผ๋กœ ๋ณ€ํ™”ํ•˜๋Š” ๊ฒฝํ–ฅ์ด ๊ด€์ฐฐ๋˜์—ˆ๋‹ค. ์˜ˆ๋ฅผ ๋“ค์–ด, ๋” ํฐ ๋ชจ๋ธ์€ ์ƒ์กด ๋ณธ๋Šฅ๊ณผ ์ธ๊ฐ„์  ๊ฐ์ •๊ณผ ๊ฐ™์€ ์ถ”์ƒ์ ์ธ ์ฃผ์ œ๋ฅผ ๋ฐ˜์˜ํ•˜๋Š” ํ›ˆ๋ จ ์‹œํ€€์Šค์— ๋” ํฐ ์˜ํ–ฅ์„ ๋ฐ›๋Š” ๊ฒƒ์œผ๋กœ ๋‚˜ํƒ€๋‚ฌ๋‹ค. ์ด๋Ÿฌํ•œ ์ ‘๊ทผ๋ฒ•์€ ๋ชจ๋ธ ๋‚ด๋ถ€ ์ž‘๋™ ์›๋ฆฌ๋ฅผ ์ดํ•ดํ•˜๊ณ  AI ์‹œ์Šคํ…œ์„ ์ธ๊ฐ„ ์„ ํ˜ธ๋„์— ๋งž์ถ”๋Š” ๋ฐฉ๋ฒ•์„ ๋ชจ์ƒ‰ํ•˜๋Š” ๋ฐ ์ค‘์š”ํ•œ ํ†ต์ฐฐ๋ ฅ์„ ์ œ๊ณตํ•œ๋‹ค. ๋˜ํ•œ, ๋ชจ๋ธ ์ถœ๋ ฅ์ด ์ˆœ์ˆ˜ํ•œ ๋ฉ”๋ชจ๋ฆฌ ๊ธฐ๋ฐ˜์ด ์•„๋‹Œ ๋” ๋ณต์žกํ•œ ์ฒ˜๋ฆฌ ๊ณผ์ •์„ ํ†ตํ•ด ์ด๋ฃจ์–ด์ง„๋‹ค๋Š” ์ฆ๊ฑฐ๋ฅผ ์ œ์‹œํ•œ๋‹ค. ์—ฐ๊ตฌ๋Š” ์‚ฌ์ „ ํ›ˆ๋ จ ๋ชจ๋ธ์— ์ดˆ์ ์„ ๋งž์ถ”๊ณ  ์žˆ์ง€๋งŒ, ํ–ฅํ›„์—๋Š” ๋ฏธ์„ธ ์กฐ์ • ๊ณผ์ •์—์„œ๋„ ์˜ํ–ฅ ํ•จ์ˆ˜๋ฅผ ์ ์šฉํ•˜์—ฌ ๋” ๊นŠ์€ ์ดํ•ด๋ฅผ ๋„๋ชจํ•  ๊ณ„ํš์ด๋‹ค.

2023๋…„ 7์›” (2๊ฑด)

2023-07-14 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ Safety is at the center of Anthropic's A.I. research, says Co-Founder Daniela Amodei (2023.07.14)

์œ ํŠœ๋ธŒ ยท YouTube ยท CNBC Television ยท ๐Ÿš€

Anthropic ๊ณต๋™์ฐฝ์—…์ž ๋‹ค๋‹ˆ์—˜๋ผ ์•„๋ชจ๋ฐ์ด๊ฐ€ AI ์—ฐ๊ตฌ์—์„œ ์•ˆ์ „์˜ ์ค‘์š”์„ฑ์„ ์„ค๋ช…ํ•œ๋‹ค. (์˜์ƒ 6๋ถ„)

2023-07-12 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ ์ผ€๋ƒ ์ฝ˜ํ…์ธ  ๊ฒ€์ˆ˜์ž๋“ค, ChatGPT ๊ฐœ๋ฐœ ๊ณผ์ •์—์„œ OpenAIยทSama์˜ ์ฐฉ์ทจ ์ฃผ์žฅ (2023.7.12)

DB ยท AIID ยท ๐Ÿง’๐Ÿš€๐Ÿšจ

์ผ€๋ƒ ์ฝ˜ํ…์ธ  ๊ฒ€์ˆ˜์ž 4๋ช…์ด 2021๋…„ OpenAI๊ฐ€ Sama(์˜› Samasource)์— ์œ„ํƒํ•œ ChatGPT ํ•™์Šตยท์ •์ œ ์ž‘์—…์—์„œ ์ฐฉ์ทจ์™€ ์ €์ž„๊ธˆ์„ ๊ฒช์—ˆ๋‹ค๋ฉฐ ์ผ€๋ƒ ๊ตญํšŒ ์ฒญ์›์œ„์›ํšŒ์— ์ฒญ์›์„ ์ œ์ถœํ–ˆ๋‹ค. ์ด๋“ค์€ ๊ณ„์•ฝ์„œ์— ์—…๋ฌด ์„ฑ๊ฒฉ์ด ์ถฉ๋ถ„ํžˆ ์„ค๋ช…๋˜์ง€ ์•Š์•˜๊ณ , ์ˆ˜๊ฐ„ยท๊ฐ•๊ฐ„ยท์•„๋™ ์„ฑ๋ฒ”์ฃ„ยท์žํ•ดยท์‚ด์ธ ๋“ฑ ๊ทน๋‹จ์ ์œผ๋กœ ์œ ํ•ดํ•œ ์ฝ˜ํ…์ธ ๋ฅผ ๋ถ„๋ฅ˜ํ•˜๋ฉด์„œ๋„ ์‹ฌ๋ฆฌ ์ง€์›์„ ๋ฐ›์ง€ ๋ชปํ•ด PTSD, ์šฐ์šธ, ๋ถˆ์•ˆ, ๋ถˆ๋ฉด ๋“ฑ์„ ๊ฒช์—ˆ๋‹ค๊ณ  ์ฃผ์žฅํ•œ๋‹ค. ๋˜ํ•œ ๊ณ„์•ฝ์ด ๊ฐ‘์ž๊ธฐ ์ข…๋ฃŒ๋˜์–ด ๊ฑด๊ฐ•์ด ์•…ํ™”๋œ ์ƒํƒœ๋กœ ํ•ด๊ณ ๋˜์—ˆ๋‹ค๊ณ  ๋ฐํžˆ๋ฉฐ, Sama์™€ MetaยทTikTokยทGoogleยทMicrosoft ๋“ฑ ์œ„ํƒ ์—…์ฒด์˜ ๊ทผ๋กœ ์กฐ๊ฑด ์กฐ์‚ฌ, ์œ ํ•ด ๊ธฐ์ˆ  ์—…๋ฌด ์•„์›ƒ์†Œ์‹ฑ ๊ทœ์ œ๋ฒ• ์ œ์ •, ๊ณ ์šฉ๋ฒ•ยท์ง์—…๋ณด๊ฑด๋ฒ• ๊ฐœ์ •์„ ์š”๊ตฌํ–ˆ๋‹ค. ์ด๋ฒˆ ์ฒญ์›์€ FacebookยทTikTokยทChatGPT ๊ฒ€์ˆ˜์ž 150์—ฌ ๋ช…์ด ์ฐธ์—ฌํ•œ ์ฝ˜ํ…์ธ  ๊ฒ€์ˆ˜์ž ๋…ธ์กฐ ์„ค๋ฆฝ ์งํ›„ ๋‚˜์™”๋‹ค.

2023๋…„ 6์›” (1๊ฑด)

2023-06-29 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ ๊ธ€๋กœ๋ฒŒ ์˜๊ฒฌ์˜ ์–ธ์–ด ๋ชจ๋ธ ํ‘œํ˜„ ์ธก์ • ๋ฐฉ๋ฒ•๋ก  (2023.6.29)

๊ธฐ์—… ยท Anthropic-Research ยท ๐Ÿš€

Anthropic ์—ฐ๊ตฌํŒ€์€ ๋Œ€๊ทœ๋ชจ ์–ธ์–ด ๋ชจ๋ธ(LLM)์ด ๋‹ค์–‘ํ•œ ๊ธ€๋กœ๋ฒŒ ๊ด€์ ์„ ๊ณตํ‰ํ•˜๊ฒŒ ๋ฐ˜์˜ํ•˜์ง€ ๋ชปํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๋ฌธ์ œ๋ฅผ ํƒ๊ตฌํ•œ๋‹ค. ์—ฐ๊ตฌํŒ€์€ GlobalOpinionQA๋ผ๋Š” ๋ฐ์ดํ„ฐ์…‹์„ ๊ตฌ์ถ•ํ•˜์—ฌ ๋‹ค์–‘ํ•œ ๊ตญ๊ฐ€์˜ ๊ธ€๋กœ๋ฒŒ ์ด์Šˆ์— ๋Œ€ํ•œ ์˜๊ฒฌ์„ ์ˆ˜์ง‘ํ•˜๊ณ , ์ด๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ LLM ์ƒ์„ฑ ์‘๋‹ต๊ณผ ์ธ๊ฐ„ ์‘๋‹ต ๊ฐ„์˜ ์œ ์‚ฌ์„ฑ์„ ์ธก์ •ํ•˜๋Š” ์ง€ํ‘œ๋ฅผ ์ •์˜ํ•œ๋‹ค. ์‹คํ—˜ ๊ฒฐ๊ณผ, ๊ธฐ๋ณธ์ ์œผ๋กœ LLM ์‘๋‹ต์€ ๋ฏธ๊ตญ, ์ผ๋ถ€ ์œ ๋Ÿฝ ๋ฐ ๋‚จ๋ฏธ ๊ตญ๊ฐ€์˜ ์˜๊ฒฌ๊ณผ ๋” ์œ ์‚ฌํ•œ ๊ฒฝํ–ฅ์„ ๋ณด์ด์ง€๋งŒ, ํŠน์ • ๊ตญ๊ฐ€ ๊ด€์ ์„ ๊ณ ๋ คํ•˜๋„๋ก ํ”„๋กฌํ”„ํŠธํ•˜๋ฉด ์˜๊ฒฌ์ด ์กฐ์ •๋˜์ง€๋งŒ ๋•Œ๋กœ๋Š” ํ•ด๋กœ์šด ๋ฌธํ™”์  ๊ณ ์ •๊ด€๋…์„ ๋ฐ˜์˜ํ•˜๊ธฐ๋„ ํ•œ๋‹ค. ๋˜ํ•œ ์–ธ์–ด ๋ฒˆ์—ญ ๊ณผ์ •์—์„œ๋„ ๋ชจ๋ธ์˜ ์‘๋‹ต์ด ํ•ด๋‹น ์–ธ์–ด ์‚ฌ์šฉ์ž๋“ค์˜ ์˜๊ฒฌ๊ณผ ๋ฐ˜๋“œ์‹œ ์ผ์น˜ํ•˜์ง€ ์•Š๋Š”๋‹ค๋Š” ์ ๋„ ํ™•์ธ๋˜์—ˆ๋‹ค. ์—ฐ๊ตฌํŒ€์€ ์ด ๋ฐ์ดํ„ฐ์…‹๊ณผ ์ƒํ˜ธ์ž‘์šฉํ˜• ์‹œ๊ฐํ™” ์ž๋ฃŒ๋ฅผ ๊ณต๊ฐœํ•˜์—ฌ ํ›„์† ์—ฐ๊ตฌ๋ฅผ ์ง€์›ํ•œ๋‹ค.

2023๋…„ 5์›” (4๊ฑด)

2023-05-26 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ Model Evaluation For Extreme Risks of AI | Google DeepMind and OpenAI Paper (2023.05.26)

์œ ํŠœ๋ธŒ ยท YouTube ยท Wes Roth ยท ๐Ÿš€

Google DeepMind์™€ OpenAI์˜ ์—ฐ๊ตฌ๋ฅผ ๋ฐ”ํƒ•์œผ๋กœ AI์˜ ๊ทน๋‹จ์  ์œ„ํ—˜๊ณผ ๋ชจ๋ธ ํ‰๊ฐ€ ์ฒด๊ณ„๋ฅผ ์„ค๋ช…ํ•œ๋‹ค. (์˜์ƒ 35๋ถ„)

2023-05-24 (2๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ Anthropic ์—ฐ๊ตฌํŒ€์˜ ํ•ด์„ ๊ฐ€๋Šฅ์„ฑ ์—…๋ฐ์ดํŠธ (2023.5.24)

๊ธฐ์—… ยท Anthropic-Research ยท ๐Ÿค–๐Ÿงช๐Ÿš€

Anthropic์˜ ํ•ด์„ ๊ฐ€๋Šฅ์„ฑ ์—ฐ๊ตฌํŒ€์€ ์—ฌ๋Ÿฌ ๊ฐœ๋ฐœ ์•„์ด๋””์–ด๋ฅผ ๊ณต์œ ํ•˜๋ฉฐ, ์ด๋Š” ๊ด€๋ จ ๋ถ„์•ผ ์—ฐ๊ตฌ์ž๋“ค์—๊ฒŒ ์œ ์šฉํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค. ์ฃผ์š” ์—ฐ๊ตฌ ๋™ํ–ฅ๊ณผ ํ•จ๊ป˜ ์ผ๋ถ€ ์„ธ๋ถ€ ์‚ฌํ•ญ๋„ ํ•จ๊ป˜ ๋ฐœํ‘œ๋˜์—ˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ, ๋‹ค์ค‘ ์—์ด์ „ํŠธ ์‹œ์Šคํ…œ์—์„œ ๋‚˜ํƒ€๋‚˜๋Š” ํ–‰๋™ ํŒจํ„ด๊ณผ ๋ฌธ์ œ์ ์— ๋Œ€ํ•ด ๋…ผ์˜ํ•˜๊ณ , ์ด๋ฅผ ํ†ตํ•ด ๋ฐœ์ƒํ•  ์ˆ˜ ์žˆ๋Š” ์‹œ์Šคํ…œ์  ์‹คํŒจ ์œ„ํ—˜์„ ์ค„์ด๋Š” ๋ฐฉ๋ฒ•์— ๋Œ€ํ•œ ๋Œ€ํ™”๋ฅผ ์œ ๋„ํ•˜๊ณ ์ž ํ•ฉ๋‹ˆ๋‹ค. ๋˜ํ•œ, ์ž‘์—…์ž ์žฌ๊ต์œก ํ”„๋กœ๊ทธ๋žจ์— ๋Œ€ํ•œ ์ฆ๊ฑฐ ๊ฒ€ํ†  ๊ฒฐ๊ณผ์™€ ํ•จ๊ป˜, ์•„์ง ๊ณต๊ฐœ๋˜์ง€ ์•Š์€ Claude ๋ชจ๋ธ์˜ ์ˆ˜ํ•™์  ๋Šฅ๋ ฅ ํ–ฅ์ƒ ์‚ฌ๋ก€๋„ ์†Œ๊ฐœํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ํŠนํžˆ, Claude ๋ชจ๋ธ์€ ๋ฆฌ๋งŒ ๊ฐ€์„ค ๊ด€๋ จ ๋ฌธ์ œ์—์„œ ์ง„์ „์„ ์ด๋ฃจ์–ด ๋ฆฌ๋งŒ ์ œํƒ€ ํ•จ์ˆ˜์˜ ์ œ๋กœ๋“ค ์ค‘ ๊ฐ€์„ค์„ ๋งŒ์กฑํ•˜๋Š” ๋น„์œจ์˜ ํ•˜ํ•œ์„ ํ–ฅ์ƒ์‹œ์ผฐ์Šต๋‹ˆ๋‹ค.

๐Ÿ‡บ๐Ÿ‡ธ ๊ธฐ๊ณ„ํ•™์Šต ํ•ด์„ ๊ฐ€๋Šฅ์„ฑ ๊ฟˆ: ๊ธฐ์ดˆ ์—ฐ๊ตฌ ๋น„์ „ (2023.5.24)

๊ธฐ์—… ยท Anthropic Research ยท ๐Ÿงช๐Ÿš€

Anthropic Research๋Š” ๊ธฐ๊ณ„ํ•™์Šต ๋ชจ๋ธ์˜ ํ•ด์„ ๊ฐ€๋Šฅ์„ฑ ์—ฐ๊ตฌ๋ฅผ ์œ„ํ•œ ๊ธฐ์ดˆ๋ฅผ ๋งˆ๋ จํ•˜๋Š” ๊ฒƒ์„ ๋ชฉํ‘œ๋กœ ํ•ฉ๋‹ˆ๋‹ค. ํŠนํžˆ, ์ค‘์ฒฉ ๋ฌธ์ œ ํ•ด๊ฒฐ์— ์ง‘์ค‘ํ•˜๋ฉฐ, ์ด๋ฅผ ํ†ตํ•ด ๋Œ€๊ทœ๋ชจ ์‹ ๊ฒฝ๋ง ๋ถ„์„๊ณผ ๊ฐ™์€ ๋‚œ์ œ๋ฅผ ํ•ด๊ฒฐํ•  ์ˆ˜ ์žˆ๋Š” ๋ฐฉ๋ฒ•์„ ๋ช…ํ™•ํžˆ ํ•˜๋ ค ํ•ฉ๋‹ˆ๋‹ค. ๋ณธ ์—ฐ๊ตฌ๋Š” ํ•ด์„ ๊ฐ€๋Šฅ์„ฑ์˜ ํ™•์žฅ ๊ฐ€๋Šฅ์„ฑ๊ณผ ๋‹ค๋ฅธ ๋„์ „ ๊ณผ์ œ๋“ค์„ ๊ทน๋ณตํ•˜๊ธฐ ์œ„ํ•œ ๋น„์ „์„ ์„ค๋ช…ํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋˜ํ•œ, ํ˜„์žฌ ๋ชจ๋ธ์—์„œ ๋‚˜ํƒ€๋‚˜๋Š” ํ–‰๋™ ํŒจํ„ด๊ณผ ๋ฌธ์ œ์ ๋“ค์„ ๋ถ„์„ํ•˜์—ฌ ์‹œ์Šคํ…œ์  ์‹คํŒจ๋ฅผ ์˜ˆ๋ฐฉํ•˜๋Š” ๋ฐฉ์•ˆ์— ๋Œ€ํ•ด ๋…ผ์˜ํ•˜๊ณ  ์žˆ์œผ๋ฉฐ, Claude ๋ชจ๋ธ์˜ ์ˆ˜ํ•™์  ๋Šฅ๋ ฅ ํ–ฅ์ƒ ์‚ฌ๋ก€๋„ ์†Œ๊ฐœํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค.

2023-05-04 (1๊ฑด)

๐Ÿ‡บ๐Ÿ‡ธ ๋ถ„์‚ฐ ํ‘œํ˜„: ๊ตฌ์„ฑ๊ณผ ์ค‘์ฒฉ์— ๋Œ€ํ•œ ์—ฐ๊ตฌ (2023.5.4)

๊ธฐ์—… ยท Anthropic Research ยท ๐Ÿš€

Anthropic Research๋Š” ๋ถ„์‚ฐ ํ‘œํ˜„์˜ ๊ฐœ๋…์ธ '๊ตฌ์„ฑ'๊ณผ '์ค‘์ฒฉ'์— ๋Œ€ํ•ด ํƒ๊ตฌํ•˜๋ฉฐ, ์ด ๋‘ ๊ฐœ๋…์ด ์ผ๋ฐ˜ํ™” ๋Šฅ๋ ฅ๊ณผ ์„ ํ˜• ๊ณ„์‚ฐ ๊ฐ€๋Šฅ์„ฑ ์ธก๋ฉด์—์„œ ๋งค์šฐ ๋‹ค๋ฅธ ํŠน์„ฑ์„ ์ง€๋‹Œ๋‹ค๋Š” ์ ์„ ๊ฐ•์กฐํ•œ๋‹ค. ์—ฐ๊ตฌ๋Š” ์‹ ๊ฒฝ๊ณผํ•™์—์„œ์˜ "๋กœ์ปฌ ์ฝ”๋“œ"์™€ "๋ถ„์‚ฐ ์ฝ”๋“œ" ๊ฐœ๋…์„ ๋ฐ”ํƒ•์œผ๋กœ ํ•œ Thorpe์˜ ์˜ˆ์‹œ๋ฅผ ํ†ตํ•ด ๊ตฌ์„ฑ๊ณผ ์ค‘์ฒฉ์˜ ์ฐจ์ด๋ฅผ ๊ตฌ์ฒดํ™”ํ•œ๋‹ค. ํŠนํžˆ, ์‹ ๊ฒฝ์„ธํฌ๊ฐ€ ๋‹ค์–‘ํ•œ ์ƒ‰์ƒ์˜ ํ˜•ํƒœ๋ฅผ ์–ด๋–ป๊ฒŒ ํ‘œํ˜„ํ• ์ง€์— ๋Œ€ํ•œ ๋ช‡ ๊ฐ€์ง€ ์˜ˆ์‹œ๋ฅผ ํ†ตํ•ด ๋‘ ๊ฐœ๋…์˜ ์ƒํ˜ธ์ž‘์šฉ๊ณผ ๊ทธ์— ๋”ฐ๋ฅธ ์ œ์•ฝ์„ ์„ค๋ช…ํ•œ๋‹ค. ๋ถ„์‚ฐ ํ‘œํ˜„์˜ ์ดํ•ด์™€ ์‹ ๊ฒฝ๋ง ํ•ด์„์„ ์œ„ํ•œ ํ•ต์‹ฌ์ ์ธ ๊ด€์ ์œผ๋กœ์„œ ์ค‘์ฒฉ๊ณผ ๊ตฌ์„ฑ์˜ ๊ท ํ˜•์ด ์ค‘์š”ํ•จ์„ ์–ธ๊ธ‰ํ•œ๋‹ค.