AI·þÎñÆ÷¹©Ó¦Á´¶¯Ì¬Öܱ¨£¨2024ÄêµÚ21ÆÚ£©£ºËãÁ¦²©ÞļӾ磬HBMÓëÏȽø·â×°³ÉºËÐÄÆ¿¾±
ÖÜÆÚ£º 2024Äê5ÔÂ20ÈÕ - 2024Äê5ÔÂ26ÈÕ
ºËÐĹ۵㣺 ±¾ÖÜAI·þÎñÆ÷¹©Ó¦Á´ÑÓÐø¸ß¾°Æø¶È£¬µ«½á¹¹ÐÔ·Ö»¯ÏÔÖø¡£GPU½»¸¶ÖÜÆÚ±ß¼Ê¸ÄÉÆ£¬µ«HBM3eÓëCoWoSÏȽø·â×°²úÄÜÒѳÉÎªÖÆÔ¼ËãÁ¦Â䵨µÄ¾ø¶ÔÆ¿¾±¡£´ËÍ⣬ҺÀäÉ¢ÈÈÓëÕû»ú¹ñ½»¸¶Ä£Ê½ÕýÔÚÖØËÜ´«Í³·þÎñÆ÷ÇþµÀÓëÔËάÉú̬¡£
Ò»¡¢ ºËÐÄ×é¼þ¹©Ð裺GPU½»¸¶Î¢µ÷£¬HBMÓëCoWoSÕù¶á°×ÈÈ»¯
±¾ÖÜ£¬NVIDIA H20ϵÁÐÔÚ¹úÄÚÇþµÀµÄÏÖ»õ¹©Ó¦ÓÐËùÔö¼Ó£¬²¿·Ö¼¯³ÉÉ̵Ľ»»õÖÜÆÚ´Ó12ÖÜËõ¶ÌÖÁ8-10ÖÜ¡£È»¶ø£¬¸ß¶ËËãÁ¦£¨ÈçH100/H200¼°ÏÂÒ»´úB200£©µÄÈ«ÇòÕù¶áÒÀÈ»¼¤ÁÒ£¬¹©Ó¦Á´µÄ¿¨µãÒÑ´Ó¾§Ô²´ú¹¤£¨Ì¨»ýµç4nm²úÄÜÏà¶Ô³äÔ££©×ªÒÆÖÁºó¶ËµÄÏȽø·â×°ÓëÏÔ´æ¡£
- CoWoS²úÄܸ漱£º ̨»ýµç±¾ÖÜÔÙ´ÎÊÍ·ÅÐźţ¬¼Æ»®½«CoWoSÔ²úÄÜÌáÉýÖÁ4ÍòƬÒÔÉÏ£¬µ«Ô¶Ë®Äѽâ½ü¿Ê¡£µ±Ç°NVIDIAµÄCoWoSÐèÇóÕ¼ÓÃÁĘ̈»ýµç³¬60%µÄÏà¹Ø²úÄÜ£¬AMD MI300ϵÁÐͬÑù¸ß¶ÈÒÀÀµ¸Ã·âװ·Ïߣ¬µ¼Ö²úÄÜÅÅÆÚÒÑÑÓÖÁ2025ÄêQ1¡£
- HBM3e³É¡°Ó²Í¨»õ¡±£º SKº£Á¦Ê¿ÒÀÈ»ÊÇHBM3eµÄÖ÷Á¦¹©Ó¦ÉÌ£¬Æä²úÄÜÒѱ»NVIDIA°üÔ²¡£ÈýÐÇÓëÃÀ¹âËäÔÚ¼ÓËÙÑéÖ¤µ¼È룬µ«Á¼ÂÊÅÀÆÂ²»¼°Ô¤ÆÚ¡£±¾ÖÜÇþµÀ·´À¡£¬´îÔØHBM3eµÄAI·þÎñÆ÷Òç¼ÛÂÊ½ÏÆÕͨGDDR6»úÐ͸߳ö40%ÒÔÉÏ£¬ÄÚ´æÇ½ÒÀÈ»ÊÇËãÁ¦¼¯Èº¹æÄ£»¯µÄ×î´ó×è°¡£
¶þ¡¢ »ù´¡ÉèÊ©ÓëÉ¢ÈÈ£ºÒºÀäÉøÍ¸ÂÊìÉý£¬Õû»ú¹ñ½»¸¶ÖØËÜÔËάÂß¼
Ëæ×ŵ¥»ú¹ñ¹¦ÂÊÃܶÈÍ»ÆÆ40kWÉõÖÁÏò100kWÑݽø£¬´«Í³·çÀäÒѳ¹µ×ʧЧ£¬¹©Ó¦Á´ÔÚÉ¢ÈÈÓë½»¸¶Ä£Ê½ÉÏ·¢Éú¾ç±ä¡£
- Àä°åʽҺÀä³ÉΪ¾ø¶ÔÖ÷Á÷£º ±¾ÖܹúÄÚ¶à¼ÒÍ·²¿ODM³§ÉÌ£¨ÈçÀ˳±¡¢³¬¾Û±ä£©±íʾ£¬ÐÂϵ¥µÄAI·þÎñÆ÷ÖУ¬ÒºÀäÉøÍ¸ÂÊÒѳ¬¹ý70%¡£CDU£¨ÀäÁ¿·ÖÅäµ¥Ôª£©Óë¿ì½ÓÍ·³ÉΪ¹©Ó¦Á´ÐÂµÄÆ¿¾±¼þ£¬²¿·Ö³§É̵Ŀì½ÓÍ·½»ÆÚÒÑÀ³¤ÖÁ16ÖÜ¡£
- Õû»ú¹ñģʽ£¨Rack-scale£©¸Ä±äÔËάÉú̬£º NVIDIA GB200 NVL72µÄ·¢²¼¼ÓËÙÁË¡°»ú¹ñ¼´¼ÆËã»ú¡±µÄÇ÷ÊÆ¡£±¾Öܶà¼ÒIDCÔËάÍŶӷ´À¡£¬´«Í³µÄ¡°·þÎñÆ÷ÉϼÜ-²¼Ïß-µ÷ÊÔ¡±Ä£Ê½Õý±»µß¸²¡£Õû»ú¹ñ½»¸¶ÒªÇó»ú·¿ÌáǰÍê³É¸ßÃܵçÁ¦ÓëÒºÀä¹Ü·µÄÔ¤Ö㬺ó¶ËÔËά´Ó¡°ÐÞ·þÎñÆ÷¡±Ïò¡°»»½Úµã/»»»ú¹ñ¡±Ñݽø£¬¶ÔÔËάÈËÔ±µÄµçÆøÓëÁ÷ÌåÁ¦Ñ§ÖªÊ¶Ìá³öÁË¿ç½çÒªÇó¡£
Èý¡¢ µØÔµÕþÖÎÓëºÏ¹æ£º³ö¿Ú¹ÜÖÆÏ¸»¯£¬ºÏ¹æ³É±¾ÍƸßÇþµÀ°µÅÌÒç¼Û
±¾ÖÜ£¬ÃÀ¹úÕë¶ÔAIоƬµÄ³ö¿Ú¹ÜÖÆ½øÒ»²½Ï¸»¯£¬¶ÔÖж«µÈµØÇøµÄת¿ÚóÒ×Éó²éÇ÷ÑÏ¡£ÕâÖ±½ÓÓ°ÏìÁËÈ«ÇòAI·þÎñÆ÷µÄÁ÷ͨ·¾¶¡£
- ºÏ¹æÉó²éÀ³¤½»¸¶ÖÜÆÚ£º Í·²¿ÔƳ§ÉÌ£¨CSP£©Ôڲɹº¸ß¶ËËãÁ¦Ê±£¬ÖÕ¶ËÓû§Éó²é£¨KYC/KYCC£©ÖÜÆÚ´ÓÔ±¾µÄ2ÖÜÑÓ³¤ÖÁ4-6ÖÜ¡£ºÏ¹æ³É±¾µÄÔö¼ÓÕýÔÚÏòÇþµÀ¶Ë´«µ¼¡£
- ¹ú²úÌæ´ú¹©Ó¦Á´¼ÓËÙÅÜ£º ÊÜÖÆÓÚÍⲿÏÞÖÆ£¬¹úÄÚÌÚ910BµÈ¹ú²úËãÁ¦Ð¾Æ¬µÄ²É¹ºÐèÇó¼¤Ôö¡£±¾ÖܲúÒµÁ´·´À¡£¬ÌÚ910BµÄÕû»ú½»¸¶ÖÜÆÚÒÑÎȶ¨ÔÚ6-8ÖÜ£¬±¾ÍÁÏȽø·â×°£¨È糤µç¿Æ¼¼µÈ£©ÓëHBMÌæ´ú·½°¸£¨È糤öδ洢µÄ¹ú²ú»¯Ì½Ë÷£©ÕýÔÚ¼ÓËÙÑéÖ¤£¬¹ú²úAI·þÎñÆ÷¹©Ó¦Á´µÄÈÍÐÔÏÔÖøÔöÇ¿¡£
ËÄ¡¢ ÇþµÀÓë¼Û¸ñ¶¯Ì¬£º°×ÅÆ³§·Ý¶îÀ©ÕÅ£¬³¤Ð¶©µ¥Ëø¶¨Î´À´²úÄÜ
ÔÚÇþµÀ²à£¬AI·þÎñÆ÷µÄÏúÊÛģʽÕýÔÚ·¢Éú¸ù±¾ÐԱ仯£¬´«Í³·ÖÏúÉ̵ϰÓïȨ±»Ï÷Èõ¡£
- °×ÅÆ³§£¨ODM£©Ö±¹©CSP£º ¹ã´ï¡¢Î³´´¡¢¸»Ê¿¿µµÈ°×ÅÆ³§Æ¾½èÓëNVIDIAµÄ½ôÃܺÏ×÷¼°¶¨ÖÆ»¯ÄÜÁ¦£¬Ö±½Ó³Ð½ÓÁ˱±ÃÀ¼°¹úÄڴ󳧵ľ޶µ¥¡£´«Í³Æ·ÅÆ·þÎñÆ÷³§ÉÌ£¨Èç´÷¶û¡¢HPE£©ÔÚ±ê×¼AI·þÎñÆ÷ÉϵÄÒç¼Û¿Õ¼ä±»´ó·ùѹËõ£¬±»ÆÈתÏòÌṩȫջÖÇËãÖÐÐĽâ¾ö·½°¸ÒÔά³ÖÀûÈó¡£
- LTA£¨³¤ÆÚÐÒ飩³ÉΪ³£Ì¬£º ΪӦ¶Ô¹©Ó¦Á´²¨¶¯£¬Meta¡¢Î¢Èí¼°¹úÄÚ×Ö½ÚÌø¶¯¡¢ÌÚѶµÈ´ó³§£¬·×·×ÓëºËÐũӦÉÌÇ©¶©1-2ÄêµÄLTA¡£ÕâÖÖ¡°ÆÚ»õËøµ¥¡±Ä£Ê½ËäÈ»±£ÕÏÁË´ó³§µÄËãÁ¦´¢±¸£¬µ«Ò²µ¼ÖÂÇþµÀÏÖ»õÊг¡¼«¶Èȱ»õ£¬²¿·ÖH100 8¿¨Õû»úÔÚ»ÒÉ«ÇþµÀµÄÒç¼Û±¾ÖÜÔÙ´ÎÍ»ÆÆ15%¡£
Îå¡¢ ÏÂÖÜÕ¹ÍûÓë·çÏÕÌáʾ
- ²úÄÜÊͷŽڵ㣺 ÃÜÇйØ×¢Ì¨»ýµçÏÂÖܼ¼ÊõÂÛ̳ÉϹØÓÚCoWoS²úÄÜÀ©³äµÄ¾ßÌå·Ïßͼ£¬Õ⽫ֱ½Ó¾ö¶¨Ï°ëÄêH200ÓëB200µÄÆÌ»õ½Ú×à¡£
- ÄÚ´æ¼Û¸ñ²¨¶¯£º ÓÉÓÚHBM¼·Õ¼Á˲¿·ÖDDR5²úÄÜ£¬Í¨Ó÷þÎñÆ÷µÄÄÚ´æ¼Û¸ñ±¾ÖÜÒÑÓÐ̧ͷ¼£Ïó£¬Ð辯ÌèAI·þÎñÆ÷¶Ô´«Í³·þÎñÆ÷¹©Ó¦Á´µÄ¡°ºçÎüЧӦ¡±µ¼ÖµÄÈ«ÏßÕǼۡ£
- ÔËά·çÏÕÔ¤¾¯£º Ëæ×ÅÏļ¾Óõç¸ß·åÀ´ÁÙ£¬¸ßÃܶÈAI¼¯ÈºµÄPUE¿ØÖÆÃæÁÙ´ó¿¼£¬ÒºÀäϵͳ©Һ¼°¸ßѹÅäµç¹ýÔØ½«ÊÇÏÂÖÜIDCÔËάµÄ¸ßƵ·çÏյ㡣