ํ ์ค๋ก ๋งํ๋ฉด
Advanced packaging์ ์ฌ๋ฌ ์นฉ, ๋ฉ๋ชจ๋ฆฌ, ์ธํฐ์ปค๋ฅํธ๋ฅผ ํ ํจํค์ง ์์์ ๊ฐ๊น๊ณ ๋น ๋ฅด๊ฒ ์ฐ๊ฒฐํด ํ๋์ ๊ณ ์ฑ๋ฅ ์์คํ ์ฒ๋ผ ์ฐ๊ฒ ๋ง๋๋ ๊ธฐ์ ๋ฌถ์์ ๋๋ค.
๋น์ ๋ก ์ดํดํ๊ธฐ
์์ ์๋ ํ ๋์ ์์ ์ค์ํ ๊ธฐ๋ฅ์ ํฐ ๊ฑด๋ฌผ ํ๋์ ๋ชจ๋ ๋ฃ์ผ๋ ค ํ๋ค๊ณ ์๊ฐํด๋ด ์๋ค. ๊ทธ๋ฐ๋ฐ ๊ฑด๋ฌผ์ด ๋๋ฌด ์ปค์ง๊ณ ๋ณต์กํด์ง๋ฉด ์ง๊ธฐ ์ด๋ ต๊ณ ๋น์ฉ๋ ์ปค์ง๋๋ค. ๊ทธ๋์ ์ฌ๋ฌ ์ ๋ฌธ ๊ฑด๋ฌผ์ ์์ฃผ ๊ฐ๊น์ด ์บ ํผ์ค ์์ ๋๊ณ , ๊ณ ์ ํต๋ก๋ก ์ฐ๊ฒฐํ๋ ๋ฐฉ์์ด ๋ฑ์ฅํฉ๋๋ค.
Advanced packaging์ ์นฉ์์ ๊ทธ๋ฐ ์บ ํผ์ค์ ๊ฐ๊น์ต๋๋ค. GPU die, HBM, I/O die, chiplet๋ค์ ํ ํจํค์ง ์์ ๊ฐ๊น์ด ๋๊ณ ๋น ๋ฅด๊ฒ ์ฐ๊ฒฐํด, ํ๋์ ํฐ ์นฉ์ฒ๋ผ ๋์ํ๊ฒ ๋ง๋ญ๋๋ค.
๋น์ ์ ํ๊ณ๋ ์์ต๋๋ค. ์ค์ ํจํค์ง์ ๋จ์ํ ๊ฐ๊น์ด ๋ถ์ด๋ ์์ ์ด ์๋๋ผ, ์ด, ์ ๋ ฅ, ์ ํธ ๋ฌด๊ฒฐ์ฑ, ์์จ, ์ฌ๋ฃ, ์ฅ๋น, ํ ์คํธ๊ฐ ํจ๊ป ๋ง์์ผ ํ๋ ๊ณ ๋๋ ์ ์กฐ ๊ณผ์ ์ ๋๋ค.
์ ํํ ์ ์
Advanced packaging์ ์ ํต์ ์ธ ํจํค์ง๋ณด๋ค ๋ ๋์ ๋ฐ๋, ๋ ๋น ๋ฅธ ์ฐ๊ฒฐ, ๋ ๋ฎ์ ์ ๋ ฅ ์๋ชจ๋ฅผ ๋ชฉํ๋ก ํ๋ ๋ฐ๋์ฒด ํจํค์ง ๊ธฐ์ ์ ๋๋ค. 2.5D packaging, interposer, chiplet integration, fan-out, 3D stacking ๊ฐ์ ๋ฐฉ์์ด ์ฌ๊ธฐ์ ํฌํจ๋ ์ ์์ต๋๋ค.
ํต์ฌ์ โ๊ณต์ ๋ฏธ์ธํ๋ง์ผ๋ก ์ฑ๋ฅ์ ์ฌ๋ฆฌ๋ ์๋โ์์ โ์ฌ๋ฌ die๋ฅผ ์ด๋ป๊ฒ ์กฐํฉํ๊ณ ์ฐ๊ฒฐํ๋๋โ์ ์ค์์ฑ์ด ์ปค์ก๋ค๋ ์ ์ ๋๋ค. ํนํ AI accelerator์์๋ HBM๊ณผ ์ฐ์ฐ chip์ ๊ฐ๊น์ด ์ฐ๊ฒฐํ๋ ๋ฅ๋ ฅ์ด ์ฑ๋ฅ๊ณผ ๊ณต๊ธ๋์ ์ข์ฐํ ์ ์์ต๋๋ค.
์ ์ค์ํ๊ฐ
1. ๊ณต์ ๋ฏธ์ธํ๋ง์ผ๋ก ๋ถ์กฑํด์ง๋ค
๋ฐ๋์ฒด ์ฑ๋ฅ ํฅ์์ ์ค๋ซ๋์ ๋ ์์ transistor๋ฅผ ๋ ๋ง์ด ๋ฃ๋ ๋ฐฉ์์ผ๋ก ์ค๋ช ๋์ต๋๋ค. ํ์ง๋ง ๋ฏธ์ธํ ๋น์ฉ๊ณผ ๋๋๊ฐ ๋์์ง๋ฉด์, ์ฌ๋ฌ ๊ธฐ๋ฅ์ ํ die์ ๋ชจ๋ ๋ฃ๋ ๋ฐฉ์์ด ํญ์ ์ต์ ์ ์๋๊ฒ ๋์ต๋๋ค.
Advanced packaging์ ์๋ก ๋ค๋ฅธ die๋ฅผ ์กฐํฉํด ์ฑ๋ฅ, ์๊ฐ, ์์จ์ ์ ์ถฉํ๋ ๊ธธ์ ์ฝ๋๋ค.
2. AI accelerator์ ์ค์ ์ถํ ๋ณ๋ชฉ์ด ๋ ์ ์๋ค
AI accelerator๋ ์ฐ์ฐ chip๋ง ์์ผ๋ฉด ๋๋์ง ์์ต๋๋ค. ๋์ฉ๋ HBM, ๊ณ ์ interconnect, substrate, ํ ์คํธ capacity๊ฐ ํ์ํฉ๋๋ค. ์ด๋ advanced packaging capacity๊ฐ ๋ถ์กฑํ๋ฉด ์์๊ฐ ์์ด๋ ์์ ํ ์ถํ๊ฐ ๋งํ ์ ์์ต๋๋ค.
๊ทธ๋์ AI capex cycle์ ๋ณผ ๋๋ GPU ์ค๊ณ ํ์ฌ๋ฟ ์๋๋ผ HBM, packaging, substrate, ์ฅ๋นยท์์ฌ๊น์ง ํจ๊ป ๋ด์ผ ํฉ๋๋ค.
3. ์ฐ์ ๋ด ๊ฐ์น๊ฐ ์ ์กฐ ํ๊ณต์ ์ผ๋ก ์ด๋ํ๋ค
์ ํต์ ์ผ๋ก ํจํค์ง์ ์ ๊ณต์ ์ ๋นํด ๋ ์ฃผ๋ชฉ๋ฐ๋ ํ๊ณต์ ์ผ๋ก ์ฌ๊ฒจ์ก์ต๋๋ค. ํ์ง๋ง ๊ณ ์ฑ๋ฅ ์ปดํจํ ์์๋ ํจํค์ง์ด ์ฑ๋ฅ๊ณผ ๊ณต๊ธ๋์ ์ข์ฐํ ์ ์์ต๋๋ค. ์ด ๋ณํ๋ OSAT, foundry packaging service, memory supplier, ์ฅ๋นยท์์ฌ ํ์ฌ์ ์ญํ ์ ๋ฐ๊ฟ๋๋ค.
์ค์ ์์
GPU์ HBM
AI GPU ํจํค์ง์๋ ์ฐ์ฐ die์ HBM stack์ด ํจ๊ป ๋ค์ด๊ฐ๋๋ค. HBM์ ๋น ๋ฅธ ๋ฉ๋ชจ๋ฆฌ์ง๋ง, ์ฐ์ฐ chip๊ณผ ์ถฉ๋ถํ ๋๊ณ ์งง์ ํต๋ก๋ก ์ฐ๊ฒฐ๋์ด์ผ ํจ๊ณผ๊ฐ ๋ฉ๋๋ค. ์ด ์ฐ๊ฒฐ ๊ตฌ์กฐ๋ฅผ ๋ง๋๋ ๋ฐ advanced packaging์ด ์ค์ํฉ๋๋ค.
Chiplet ์ค๊ณ
ํ๋์ ๊ฑฐ๋ํ die ๋์ ์ฌ๋ฌ chiplet์ ์กฐํฉํ๋ฉด, ์๋ก ๋ค๋ฅธ ๊ณต์ ์ผ๋ก ๋ง๋ ๊ธฐ๋ฅ ๋ธ๋ก์ ๋ฌถ์ ์ ์์ต๋๋ค. ์๋ฅผ ๋ค์ด ์ฐ์ฐ die๋ ์ ๋จ ๊ณต์ ์ผ๋ก, I/O die๋ ๋ ์ฑ์ํ ๊ณต์ ์ผ๋ก ๋ง๋ค๊ณ ํจํค์ง ์์์ ์ฐ๊ฒฐํ๋ ์์ ๋๋ค.
ํท๊ฐ๋ฆฌ์ง ๋ง์์ผ ํ ์
- ํจํค์ง์ ๋จ์ ํฌ์ฅ์ด ์๋๋๋ค. ๊ณ ์ฑ๋ฅ ๋ฐ๋์ฒด์์๋ ์ฑ๋ฅ, ์ ๋ ฅ, ์ด, ์์จ์ ์ข์ฐํ๋ ์ค๊ณยท์ ์กฐ ๋จ๊ณ์ ๋๋ค.
- Advanced packaging๊ณผ OSAT๋ ๊ฐ์ ๋ง์ด ์๋๋๋ค. OSAT๋ ์ธ์ฃผ ์กฐ๋ฆฝยทํ ์คํธ ์ฌ์ ์๋ฅผ ๋ปํ๊ณ , advanced packaging์ ๊ธฐ์ ๋ฒ์ฃผ์ ๋๋ค. Foundry๋ IDM๋ advanced packaging ์ญ๋์ ๊ฐ์ง ์ ์์ต๋๋ค.
- Chiplet์ ๊ณต์ง ์ ํ๊ฐ ์๋๋๋ค. ์ฌ๋ฌ die๋ฅผ ์ฐ๊ฒฐํ๋ฉด ์ค๊ณ ๋ณต์ก๋, ํ ์คํธ, ์ ํธ ์ง์ฐ, software ์ต์ ํ ๋ฌธ์ ๊ฐ ์๊น๋๋ค.
- HBM ์์์ packaging ์์๋ ๊ฐ์ด ์์ง์ผ ์ ์์ต๋๋ค. HBM์ ๋ง์ด ์ฐ๋ accelerator์ผ์๋ก ํจํค์ง capacity์ substrate ํ์ง์ด ์ค์ํด์ง๋๋ค.
๊ด๋ จ ๋ฌธ์
- ๋ฐ๋์ฒด ๋ฐธ๋ฅ ์ฒด์ธ ๊ณต๋ถ ์ง๋
- ๋ฐ๋์ฒด ๋ฐธ๋ฅ ์ฒด์ธ
- Fabless, Foundry, IDM
- HBM
- AI capex cycle
- LLM inference serving