#Llama3.2๐Ÿฆ™ #Molmo I ๋‹˜, ๋ชจ๋‘๋ ˆํ„ฐ๊ฐ€ ์™”์–ด์š”!
ํ•จ๊ป˜ ๊ณต์œ ํ•˜๊ณ  ์„ฑ์žฅํ•˜๋Š” ์—ฐ๊ตฌ ๋ฌธํ™”๋ฅผ ์ „ํŒŒํ•ด์š”
2024๋…„ 9์›” 30์ผ ๋ชจ๋‘๋ ˆํ„ฐ
created with Ideogram 2.0
๋‹˜, ๋ชจ๋‘๋ ˆํ„ฐ๊ฐ€ ์™”์–ด์š”!
์˜ฌํ•ด๋„ ์–ด๋Š๋ง 3๊ฐœ์›”์ด ๋‚จ์•˜๋„ค์š”.
์ƒˆํ•ด๋ฅผ ๋งž๊ธฐ ์ „์— ํ•ด๋‚ด๊ณ  ์‹ถ์€ ์ผ์ด ์žˆ๋‚˜์š”?
์ „ ์˜ค๋Š˜ ๋Œ€์ถฉ ์‹œ์ž‘ํ•ด ๋ณด๋ ค๊ณ  ํ•ด์š”๐Ÿ˜บ.
๊ฑฐ์ฐฝํ•˜๋ฉด ์‹œ์ž‘ํ•˜๊ธฐ๋„ ์–ด๋ ต๊ณ , ์‹œ๊ฐ„์€ ์œ์‚ด๊ฐ™์ด ์ง€๋‚˜๊ฐ€์žˆ๋”๋ผ๊ตฌ์š”.
๋‹˜์˜ ์˜ค๋Š˜๋„ ์‘์›ํ• ๊ฒŒ์š”!โ˜˜๏ธ
*๋‹ค์Œ์ฃผ ๋ ˆํ„ฐ๋Š” ํ•œ ์ฃผ ์‰ฌ์–ด๊ฐ‘๋‹ˆ๋‹ค*
๊ทธ๋™์•ˆ ๋ชจ๋‘๋ ˆํ„ฐ์— ์ „ํ•˜๊ณ  ์‹ถ์€ ๋ง์ด ์žˆ์—ˆ๋‚˜์š”?
์—ฌ๊ธฐ์— ํŽธํ•˜๊ฒŒ ์˜๊ฒฌ ์ „ํ•ด์ฃผ์„ธ์š”! :)
์ด๋ฒˆ์ฃผ AI ์†Œ์‹ 
  • ๋ฉ”ํƒ€, ๊ฐ€๋ฒผ์šด AI ๋ชจ๋ธ '๋ผ๋งˆ 3.2' ๊ณต๊ฐœ
  • Ai2์˜ ์˜คํ”ˆ ์†Œ์Šค ์–ธ์–ด ๋ชจ๋ธ ๋“ฑ์žฅ
์—ด๋ฆฐ ์„ธ๋ฏธ๋‚˜: ์ฑ—GPT + ์ƒ์„ฑํ˜• AI + ํ”ผ๊ทธ๋งˆ๋ฅผ ํ™œ์šฉํ•œ ๋žœ๋”ฉํŽ˜์ด์ง€ & ๊ด‘๊ณ ํŽ˜์ด์ง€ ์ œ์ž‘
๋ฉ”ํƒ€, ๊ฐ€๋ฒผ์šด AI ๋ชจ๋ธ '๋ผ๋งˆ 3.2' ๊ณต๊ฐœ 
ยฉMeta
๋ฉ”ํƒ€๊ฐ€ ์ƒˆ๋กœ์šด AI ๋ชจ๋ธ ๋ผ๋งˆ 3.2(Llama 3.2)๋ฅผ ๋ฐœํ‘œํ–ˆ์Šต๋‹ˆ๋‹ค. ์ด ๋ชจ๋ธ์€ ์ปดํ“จํ„ฐ๋‚˜ ์Šค๋งˆํŠธํฐ์ฒ˜๋Ÿผ ์ž‘์€ ๊ธฐ๊ธฐ์—์„œ๋„ ์‰ฝ๊ฒŒ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ์ ์ด ๊ฐ€์žฅ ํฐ ํŠน์ง•์ž…๋‹ˆ๋‹ค. 405B(๋งค๊ฐœ๋ณ€์ˆ˜ 4050์–ต) ๋ชจ๋ธ์ด ํฌํ•จ๋œ '๋ผ๋งˆ 3.1' ๋ชจ๋ธ์€ ์„ฑ๋Šฅ์ด ๋งค์šฐ ๋›ฐ์–ด๋‚ฌ์ง€๋งŒ, ํฌ๊ธฐ๊ฐ€ ์ปค ์ž‘์€ ๊ธฐ๊ธฐ์—์„œ๋Š” ์‚ฌ์šฉํ•˜๊ธฐ ์–ด๋ ต๋‹ค๋Š” ์˜๊ฒฌ์ด ์žˆ์—ˆ๋‹ค๊ณ  ํ•ฉ๋‹ˆ๋‹ค.
์ด๋ฒˆ '๋ผ๋งˆ 3.2'๋Š” ์ด๋ฏธ์ง€ ์ธ์‹์ด ๊ฐ€๋Šฅํ•œ 11B, 90B ํฌ๊ธฐ์˜ LLM(Large Language Model)๊ณผ ํ…์ŠคํŠธ์šฉ ๊ฒฝ๋Ÿ‰ ๋ชจ๋ธ(1B, 3B)๋กœ ๊ตฌ์„ฑ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค. 11B, 90B ๋ชจ๋ธ์€ ์ฐจํŠธ์™€ ๊ทธ๋ž˜ํ”„ ๋“ฑ์„ ํฌํ•จํ•œ ๋ฌธ์„œ๋ฅผ ์ดํ•ดํ•˜๊ณ , ์ด๋ฏธ์ง€ ์บก์…”๋‹๊ณผ ๊ฐ™์€ ์ด๋ฏธ์ง€ ์ถ”๋ก  ์ž‘์—…(์ด๋ฏธ์ง€๋ฅผ ๋ณด๊ณ  ์„ค๋ช…ํ•˜๋Š” ๊ฒƒ)์ด ๊ฐ€๋Šฅํ•ฉ๋‹ˆ๋‹ค. 1B, 3B ๋ชจ๋ธ์€ ๋‹ค๊ตญ์–ด ํ…์ŠคํŠธ ์ƒ์„ฑ ๊ธฐ๋Šฅ์œผ๋กœ ์—ฌ๋Ÿฌ ๋‚˜๋ผ์˜ ์–ธ์–ด๋กœ ๊ธ€์„ ์“ธ ์ˆ˜ ์žˆ๊ณ ์š”. ๋ฒค์น˜๋งˆํฌ ํ…Œ์ŠคํŠธ ๊ฒฐ๊ณผ, ํฌ๊ธฐ๊ฐ€ ๋น„์Šทํ•œ ๋‹ค๋ฅธ AI ๋ชจ๋ธ์ธ '์ ฌ๋งˆ 2 2B(Gemma 2 2B)'์™€ 'ํŒŒ์ด 3.5 ๋ฏธ๋‹ˆ(Phi-3.5-mini)'์™€ ๋น„๊ตํ•ด ๋น„์Šทํ•œ ์„ฑ๋Šฅ์„ ๋ณด์˜€๋‹ค๊ณ  ํ•˜๋„ค์š”!
Ai2์˜ ์˜คํ”ˆ ์†Œ์Šค ์–ธ์–ด ๋ชจ๋ธ ๋“ฑ์žฅ

๋ฏธ๊ตญ์˜ ์•จ๋Ÿฐ์ธ๊ณต์ง€๋Šฅ์—ฐ๊ตฌ์†Œ(Ai2, Allen Institute for AI)๊ฐ€ ์˜คํ”ˆ ์†Œ์Šค ์–ธ์–ด ๋ชจ๋ธ '๋ชฐ๋ชจ(Molmo)'๋ฅผ ์ฒ˜์Œ์œผ๋กœ ๊ณต๊ฐœํ–ˆ์Šต๋‹ˆ๋‹ค. ๋ชฐ๋ชจ๋Š” 72B(๋งค๊ฐœ๋ณ€์ˆ˜ 720์–ต) ๋ชจ๋ธ๊ณผ ๋‘ ๊ฐ€์ง€์˜ 7B ๋ชจ๋ธ, ์ „๋ฌธ๊ฐ€ ํ˜ผํ•ฉ(MoE, Mixture-of-Experts) ๊ธฐ๋ฒ•์„ ์ ์šฉํ•œ MolmoE-1B ๋ชจ๋ธ๋กœ ๊ตฌ์„ฑ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค.

Ai2๋Š” ๋Œ€๋ถ€๋ถ„์˜ AI ๋ชจ๋ธ๋“ค์ด ํ•™์Šต์— ์‚ฌ์šฉํ•œ ๋ฐ์ดํ„ฐ๋ฅผ ๊ณต๊ฐœํ•˜์ง€ ์•Š๋Š”๋‹ค๋Š” ์ ์„ ๋ฌธ์ œ ์‚ผ์•˜๋Š”๋ฐ์š”. ๋ชฐ๋ชจ๋Š” 7B ์˜คํ”ˆ์†Œ์Šค ๋ชจ๋ธ(Molmo-7B-O)๊ณผ MolmoE ๋ชจ๋ธ์˜ ๊ฐ€์ค‘์น˜๋ฟ๋งŒ ์•„๋‹ˆ๋ผ ๋น„์ „ ์ธ์ฝ”๋”(vision encoder) ๋ถ€๋ถ„์„ ์ œ์™ธํ•œ ํ•™์Šต ๋ฐ์ดํ„ฐ์™€ ์ฝ”๋“œ๊ฐ€ ๊ณต๊ฐœ๋ผ ์žˆ๋‹ค๋Š” ์‚ฌ์‹ค์„ ๊ฐ•์กฐํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋ฒค์น˜๋งˆํฌ ํ…Œ์ŠคํŠธ์—์„œ 72B ๋ชจ๋ธ๊ณผ 7B ๋ฐ๋ชจ ๋ชจ๋ธ(Molmo-7B-D)์€ ํด๋กœ๋“œ, ์ œ๋ฏธ๋‚˜์ด, GPT-4o์™€ ๋น„์Šทํ•œ ๊ฒฐ๊ณผ๋ฅผ ๋ณด์—ฌ์ฃผ์—ˆ์Šต๋‹ˆ๋‹ค. ์–ธ์–ด ๋ชจ๋ธ์˜ ๊ฒฝ์Ÿ์ด ๋งค์šฐ ์น˜์—ดํ•ด์ง€๋Š” ์š”์ฆ˜, ๋ชฐ๋ชจ๋Š” ๋Œ€ํ‘œ์ ์ธ AI ๋ชจ๋ธ๋กœ ์ž๋ฆฌ ์žก์„ ์ˆ˜ ์žˆ์„๊นŒ์š”?

๋‹˜, ๋…ธ์…˜์œผ๋กœ ๋ฌธ์„œ ๊ด€๋ฆฌ๋ฅผ ํ•˜๊ณ  ์žˆ๋‚˜์š”?
๐Ÿท๏ธ์ถ”์ฒœ ๊ธ€ I #AX/DX #์ƒ์‚ฐ์„ฑ #Notion #UniqueID
๋‚ด ํ”„๋กœ์ ํŠธ, ํƒœ์Šคํฌ, ๋ฌธ์„œ๋“ค์„ ๊น”๋”ํ•˜๊ณ  ๋ช…ํ™•ํ•˜๊ฒŒ ๊ด€๋ฆฌํ•˜๊ณ  ์‹ถ์€ ๋ถ„์€ ์ฃผ๋ชฉํ•ด ์ฃผ์„ธ์š”๐Ÿฑ.
๋…ธ์…˜ ๋ฐ์ดํ„ฐ๋ฒ ์ด์Šค์—์„œ ์ƒˆ ๋ฐ์ดํ„ฐ๋ฅผ ์ƒ์„ฑํ•  ๋•Œ ๊ณ ์œ  ID(Unique ID)๋ฅผ ์ž๋™์œผ๋กœ ์ƒ์„ฑ๋˜๊ฒŒ ํ•  ์ˆ˜ ์žˆ๋‹ค๋Š” ๊ฒƒ, ํ˜น์‹œ ์•Œ๊ณ  ์žˆ์—ˆ๋‚˜์š”?
์‹ค์ œ ์‚ฌ์šฉํ•ด ๋ณด๋‹ˆ, ๋‹จ์ˆœ ๋„˜๋ฒ„๋ง์„ ๋„˜์–ด ๋‚ด๊ฐ€ ์›ํ•˜๋Š” ์ ‘๋‘์‚ฌ(prefix)๋„ ๋ถ™์ผ ์ˆ˜ ์žˆ์–ด ๋” ์œ ์šฉํ•˜๋‹ค๊ณ  ๋Š๊ผˆ์–ด์š”!

โ˜˜๏ธ๋งํฌ๋“œ์ธ ๊ทธ๋ฃน '์นผํ‡ด์˜์ˆฒ'์—์„œ ๋‹ค์ฑ„๋กœ์šด AX/DX ์†Œ์‹์„ ๋น ๋ฅด๊ฒŒ ๋ฐ›์•„๋ณด์„ธ์š”
๋ชจ๋‘์˜์—ฐ๊ตฌ์†Œ ์†Œ์‹
LAB ์—ฐ๊ตฌ์› ๋งž์•„์š”
๐Ÿ•๏ธ์ง€๊ธˆ 63๊ฐœ์˜ LAB์ด '์—ฐ๊ตฌ ์ค‘'์ด์—์š”
์นด์นด์˜ค์ž„ํŒฉํŠธ์™€ ํ•จ๊ป˜ํ•˜๋Š” <ํ…Œํฌํฌ์ž„ํŒฉํŠธ LAB>
[โฐ๋งˆ๊ฐ์ž„๋ฐ•] ์‚ฌํšŒ ๋ฌธ์ œ๋ฅผ ๊ธฐ์ˆ ๋กœ ํ•ด๊ฒฐํ•˜๊ณ  ์‹ถ๋‹ค๋ฉด ์ง€์›ํ•ด ๋ณด์„ธ์š”!
์—ด๋ฆฐ ์„ธ๋ฏธ๋‚˜
์ฑ—GPT + ์ƒ์„ฑํ˜• AI + ํ”ผ๊ทธ๋งˆ๋ฅผ ํ™œ์šฉํ•œ ๋žœ๋”ฉํŽ˜์ด์ง€ & ๊ด‘๊ณ ํŽ˜์ด์ง€ ์ œ์ž‘
  • ์ผ์‹œ: 10์›” 5์ผ(ํ† ) - 6์ผ(์ผ) 12:00 - 18:00
  • ์žฅ์†Œ: ๋ชจ๋‘์˜์—ฐ๊ตฌ์†Œ ๋Œ€์ „์บ ํผ์Šค
  • ์—ฐ์‚ฌ: ๊น€์†Œ์œค(Product Designer)
  • ๋‚ด์šฉ: ์ฑ—GPT x ํ”ผ๊ทธ๋งˆ๋ฅผ ํ™œ์šฉํ•œ ํ™ˆํŽ˜์ด์ง€/์ƒ์„ธํŽ˜์ด์ง€ ๊ธฐํšํ•˜๊ธฐ ยท ์ƒ์„ฑํ˜• AI ํˆด์„ ํ™œ์šฉํ•œ ๋น„์ฃผ์–ผ ์—์…‹  ๋ฐ ์ด๋ฏธ์ง€ ์ œ์ž‘ํ•˜๊ธฐ
์˜ค๋Š˜๋„ ๋‹˜์˜ ์„ฑ์žฅ์„ ์‘์›ํ• ๊ฒŒ์š”! :)
์„œ์šธ์‹œ ๊ฐ•๋‚จ๊ตฌ ๊ฐ•๋‚จ๋Œ€๋กœ 324(์—ญ์‚ผ๋””์˜ค์ŠˆํŽ˜๋ฆฌ์›€) 2F