#์˜คํ”ˆ์†Œ์Šค #Qwen I ๋‹˜, ๋ชจ๋‘๋ ˆํ„ฐ๊ฐ€ ์™”์–ด์š”๐Ÿ˜บ
ํ•จ๊ป˜ ๊ณต์œ ํ•˜๊ณ  ์„ฑ์žฅํ•˜๋Š” ์—ฐ๊ตฌ ๋ฌธํ™”๋ฅผ ์ „ํŒŒํ•ด์š”
2026๋…„ 8์›” 31์ผ ๋ชจ๋‘๋ ˆํ„ฐ
Image created with GPT-5.5
๋‹˜, ํ—ˆ๊น…ํŽ˜์ด์Šค๊ฐ€ ์˜คํ”ˆ์†Œ์Šค ๋ชจ๋ธ ์ƒํƒœ๊ณ„๋ฅผ ๋ถ„์„ํ–ˆ์–ด์š”. ์ „์ฒด ๋ชจ๋ธ์˜ 85% ์ด์ƒ์ด ๋‹ค์šด๋กœ๋“œ 200ํšŒ ๋ฏธ๋งŒ์— ๋ถˆ๊ณผํ•˜์ง€๋งŒ, ์ „์ฒด ๋‹ค์šด๋กœ๋“œ ์ˆ˜์˜ 83%๋Š” 1B ์ดํ•˜ ์†Œํ˜• ๋ชจ๋ธ์— ์ง‘์ค‘๋˜์–ด ์žˆ๋‹ค๊ณ  ํ•ด์š”. ์•Œ๋ฆฌ๋ฐ”๋ฐ”๋Š” Qwen4์˜ ์•„ํ‚คํ…์ฒ˜๋ฅผ ๋ฏธ๋ฆฌ ๋ณผ ์ˆ˜ ์žˆ๋Š” Qwen3.8-Flash-Next๋ฅผ ๊ณต๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค. ์–ด๋А๋ง ์ฐพ์•„์˜จ 9์›”, ๋‹˜์—๊ฒŒ ํ–‰์šด์ด ๊ฐ€๋“ํ•˜๊ธธ ๋ฐ”๋ผ๋ฉฐ, ์ด๋ฒˆ ์ฃผ ์†Œ์‹๋„ ํ•จ๊ป˜ ์‚ดํŽด๋ณด์•„์š”! 
์ด๋ฒˆ ์ฃผ AI ์†Œ์‹:
  • ํ—ˆ๊น…ํŽ˜์ด์Šค, ์˜คํ”ˆ์†Œ์Šค ์ƒํƒœ๊ณ„ ๋ณด๊ณ ์„œ ๋ฐœํ‘œ

  • ์•Œ๋ฆฌ๋ฐ”๋ฐ”, Qwen3.8-Flash-Next ๊ฐ€์ค‘์น˜ ๊ณต๊ฐœ

ํ—ˆ๊น…ํŽ˜์ด์Šค, ์˜คํ”ˆ์†Œ์Šค ์ƒํƒœ๊ณ„ ๋ณด๊ณ ์„œ ๋ฐœํ‘œ
ยฉHugging Face

ํ—ˆ๊น…ํŽ˜์ด์Šค๊ฐ€ 2026๋…„ ์—ฌ๋ฆ„ ์˜คํ”ˆ์†Œ์Šค ๋ชจ๋ธ ๋™ํ–ฅ์„ ๋ถ„์„ํ•œ ๋ณด๊ณ ์„œ๋ฅผ ๋ฐœํ‘œํ–ˆ์–ด์š”. ์ง€๋‚œ ๋ด„ ์˜คํ”ˆ์†Œ์Šค ์ƒํƒœ๊ณ„๋ฅผ ๋‹ค๋ฃฌ ์ง€ ๋ช‡ ๋‹ฌ ๋งŒ์ธ๋ฐ, ํ—ˆ๊น…ํŽ˜์ด์Šค ํ—ˆ๋ธŒ์— ์˜ฌ๋ผ์˜ค๋Š” ๋ชจ๋ธ๊ณผ ๋ฐ์ดํ„ฐ์…‹ ์ˆ˜๋Š” ๋งค์ผ ๋Š˜๊ณ  ์žˆ์ง€๋งŒ ์ •์ž‘ ์ „์ฒด ๋ชจ๋ธ์˜ 85.6%๋Š” ๋ˆ„์  ๋‹ค์šด๋กœ๋“œ ์ˆ˜๊ฐ€ 200ํšŒ๋„ ์•ˆ ๋œ๋‹ค๊ณ  ํ•˜๋Š”๋ฐ์š”.

์ „์ฒด ๋‹ค์šด๋กœ๋“œ์˜ 99.2%๋Š” ์ „์ฒด ์ €์žฅ์†Œ์˜ 1.5%์—์„œ๋งŒ ๋ฐœ์ƒํ•  ์ •๋„๋กœ ์ ๋ฆผ์ด ์‹ฌํ•˜๊ณ , MiniMaxยทZ.ai ๊ฐ™์€ ์ค‘๊ตญ ๊ธฐ์—…๋“ค์€ ์ดˆ๋Œ€ํ˜• ํ”„๋ก ํ‹ฐ์–ด ๋ชจ๋ธ์„ ์ž‡๋‹ฌ์•„ ๋‚ด๋†“๊ณ  ์žˆ์–ด์š”. '์ข‹์•„์š”' ์ˆ˜๊ฐ€ ๋งŽ์€ ๋ชจ๋ธ๊ณผ ๋‹ค์šด๋กœ๋“œ๊ฐ€ ๋งŽ์€ ๋ชจ๋ธ์€ ์„œ๋กœ ๋‹ฌ๋ž๋Š”๋ฐ, ์ข‹์•„์š”๋Š” ์ฃผ๋กœ ์ตœ์ฒจ๋‹จ ๋ชจ๋ธ์— ๋ชฐ๋ฆฌ๋Š” ๋ฐ˜๋ฉด ๋‹ค์šด๋กœ๋“œ๋Š” ์‹ค์ œ๋กœ ์“ธ ์ˆ˜ ์žˆ๋Š” ์ž‘์€ ๋ชจ๋ธ์— ์ง‘์ค‘๋๋‹ค๊ณ  ํ•ด์š”. 1B ์ดํ•˜ ๋ชจ๋ธ์ด ์ „์ฒด ๋ˆ„์  ๋‹ค์šด๋กœ๋“œ์˜ 83%๋ฅผ ์ฐจ์ง€ํ•œ ๋ฐ˜๋ฉด, 100B ์ด์ƒ ๋ชจ๋ธ์€ 1%์— ๊ทธ์ณค์Šต๋‹ˆ๋‹ค.

์•Œ๋ฆฌ๋ฐ”๋ฐ”, Qwen3.8-Flash-Next ๊ฐ€์ค‘์น˜ ๊ณต๊ฐœ
ยฉQwen

์•Œ๋ฆฌ๋ฐ”๋ฐ” ํด๋ผ์šฐ๋“œ๊ฐ€ ๋ฉ€ํ‹ฐ๋ชจ๋‹ฌ MoE ๋ชจ๋ธ Qwen3.8-Flash-Next์˜ ๊ฐ€์ค‘์น˜๋ฅผ ๊ณต๊ฐœํ–ˆ์–ด์š”. ์ดํ›„ ์ถœ์‹œ๋  Qwen4์˜ ์•„ํ‚คํ…์ฒ˜๋ฅผ ๋ฏธ๋ฆฌ ์—ฟ๋ณผ ์ˆ˜ ์žˆ๋Š” ๋ชจ๋ธ์ด๋ผ๊ณ  ํ•˜๋Š”๋ฐ์š”.

Qwen3-Next์— ๋„์ž…๋๋˜ Gated DeltaNet๊ณผ Gated Attention ๊ตฌ์กฐ๋Š” ์ดํ›„ Qwen ๋ชจ๋ธ ์ „๋ฐ˜์— ์“ฐ์˜€๋Š”๋ฐ, ์ด๋ฒˆ์—๋Š” ๋„ค ๊ฐ€์ง€๊ฐ€ ์ƒˆ๋กญ๊ฒŒ ์—…๊ทธ๋ ˆ์ด๋“œ๋์–ด์š”. ๊ธฐ์กด Gated DeltaNet์— Qwen Sparse Attention์„ ๋”ํ•ด ๊ธด ์‹œํ€€์Šค๋ฅผ ์ฒ˜๋ฆฌํ•˜๋Š” ๋น„์šฉ์„ ์ค„์˜€๊ณ , ์ž”์ฐจ(residual) ์ŠคํŠธ๋ฆผ์„ 4๊ฐœ ๋ถ„๊ธฐ๋กœ ๋Š˜๋ฆฐ Gated Residual๋กœ ํ›ˆ๋ จ ์•ˆ์ •์„ฑ์„ ๋†’์˜€๊ณ ์š”. ์—ฌ๊ธฐ์— ์ถ”๊ฐ€ ๋น„์šฉ ์—†์ด ๋ชจ๋ธ ํฌ๊ธฐ๋ฅผ ํ‚ค์šธ ์ˆ˜ ์žˆ๋Š” N-gram ์ž„๋ฒ ๋”ฉ์„ ์ ์šฉํ•˜๊ณ , Muon ์˜ตํ‹ฐ๋งˆ์ด์ €๋กœ ์ •ํ™•๋„์™€ ํšจ์œจ๊นŒ์ง€ ๊ฐœ์„ ํ–ˆ์Šต๋‹ˆ๋‹ค.

๐Ÿชต ์ฒซ๊ฑธ์Œ ์šฉ์–ด์ง‘
  • MoE(Mixture of Experts): ์—ฌ๋Ÿฌ ์ „๋ฌธ๊ฐ€ ๋ชจ๋ธ์„ ์กฐํ•ฉํ•ด ํ•„์š”ํ•œ ๋ถ€๋ถ„๋งŒ ์„ ํƒ์ ์œผ๋กœ ์ž‘๋™์‹œํ‚ค๋Š” ๋ฐฉ์‹
  • ๊ฐ€์ค‘์น˜(Weights): AI ๋ชจ๋ธ์ด ํ•™์Šต์„ ํ†ตํ•ด ์–ป์€ ๊ฐ’๋“ค์„ ์ €์žฅํ•œ ๋ฐ์ดํ„ฐ
  • ์–ดํ…์…˜(Attention): ์ž…๋ ฅ ๋ฐ์ดํ„ฐ์—์„œ ์ค‘์š”ํ•œ ๋ถ€๋ถ„์— ์ง‘์ค‘ํ•˜๋„๋ก ํ•˜๋Š” ๋ชจ๋ธ ๊ตฌ์กฐ
  • ์˜ตํ‹ฐ๋งˆ์ด์ €(Optimizer): ๋ชจ๋ธ์ด ํ•™์Šตํ•˜๋Š” ๊ณผ์ •์—์„œ ์ •ํ™•๋„๋ฅผ ๋†’์ด๋„๋ก ์กฐ์ •ํ•˜๋Š” ์•Œ๊ณ ๋ฆฌ์ฆ˜
  • ํ”„๋ก ํ‹ฐ์–ด ๋ชจ๋ธ(Frontier Model): ํ˜„์žฌ ๊ธฐ์ˆ  ์ˆ˜์ค€์—์„œ ๊ฐ€์žฅ ์•ž์„  ์ดˆ๋Œ€ํ˜• AI ๋ชจ๋ธ

์—ด๋ฆฐ ์—ฐ๊ตฌ์‹ค

์˜ค๋Š˜๋„ ๋‹˜์„ ์‘์›ํ• ๊ฒŒ์š”!