AI·þÎñÆ÷¹©Ó¦Á´¶¯Ì¬Öܱ¨£¨2024Äê5ÔµÚ3ÖÜ£©
ºËÐÄÕªÒª
±¾ÖÜAI·þÎñÆ÷¹©Ó¦Á´³ÊÏÖ¡°ÐèÇó³ÖÐø¿ñ죬ƿ¾±½á¹¹ÐÔ×ªÒÆ¡±µÄÌ¬ÊÆ¡£GB200¼Ü¹¹µÄÔ¤ÈÈ´ø¶¯ÁËÒºÀäÓë¸ßËÙ»¥ÁªÆ÷¼þµÄ±¸»õ³±£»HBM3e²úÄÜËäÓÐÊÍ·ÅÐźţ¬µ«·â×°²úÄÜÈÔÊÇ¿¨¿Ú£»¹úÄÚÊг¡·½Ã棬ºÏ¹æ°æËãÁ¦Ð¾Æ¬µÄ½»¸¶ÖÜÆÚÓÐËùËõ¶Ì£¬ËãÁ¦×âÁÞÊг¡³öÏֽṹÐÔ¼Û¸ñ·Ö»¯¡£
Ò»¡¢ ºËÐÄËãÁ¦Ð¾Æ¬ÓëHBM£ºH20ÐèÇó¼¤Ôö£¬HBM3e²úÄܳÉʤ¸ºÊÖ
±¾ÖÜGPU¹©Ðè¸ñ¾Ö³ÊÏÖÃ÷ÏÔµÄÇøÓò·Ö»¯¡£È«ÇòÊг¡·½Ã棬Nvidia B200/GB200¼Ü¹¹µÄÁ÷ƬÓëÊÔ²úÕýÔÚ½ôÂàÃܹÄÍÆ½ø£¬µ«´ó¹æÄ£ÉÌÓý»¸¶ÈÔÐèµÈ´ýQ3Ä©ÆÚ¡£ÊÜ´ËÓ°Ï죬H100/H200µÄÏÖ»õÒç¼ÛÓÐËù»ØÂ䣬µ«½»»õÖÜÆÚÈÔά³ÖÔÚ8-12ÖÜ¡£
¹úÄÚÊг¡·½Ã棬Nvidia H20³ÉΪ¾ø¶ÔÖ÷Á¦¡£ÊÜÏÂÓδóÄ£Ðͳ§É̼°ÖÇËãÖÐÐĽ¨ÉèÀ¶¯£¬H20±¾ÖÜÄûõÐèÇó¼¤Ôö£¬²¿·ÖÇþµÀÉÌÉõÖÁ³öÏÖ¡°½Øºú¡±ÇÀµ¥ÏÖÏó¡£Ä¿Ç°H20½»»õÖÜÆÚ´ÓÔçÆÚµÄ3¸öÔÂËõ¶ÌÖÁ6-8ÖÜ×óÓÒ£¬µ«ÏÖ»õÒç¼ÛÒÀÈ»´æÔÚ¡£
HBM¶¯Ì¬£ºSKº£Á¦Ê¿±¾ÖÜÊÍ·ÅÐźţ¬ÆäHBM3e²úÄÜÕýÔÚ°´¼Æ»®ÅÀÆÂ£¬²¢ÒÑÏòÖ÷Òª¿Í»§½»¸¶Á¿²ú²úÆ·£»ÈýÐÇÔòÒò³õÆÚÁ¼ÂÊÎÊÌ⣬HBM3eÈÏÖ¤½ø¶ÈÂÔÖͺ󡣾¡¹Ü¹©Ó¦Á¿»·±È΢Ôö£¬µ«ÊÜÏÞÓŲ́»ýµçCoWoSÏȽø·â×°²úÄܵÄÓ²Ô¼Êø£¬HBMÕûÌ幩Ðè±ÈÒÀȻά³ÖÔÚ1:2ÒÔÉÏ£¬¶Ìȱ״̬ÖÁÉÙÑÓÐøÖÁ2025ÄêQ1¡£
¶þ¡¢ ¹Ø¼üÁ㲿¼þ£ºÒºÀäÓë¹âÄ£¿é½øÈë¡°±¸»õ³å´ÌÆÚ¡±
Ëæ×ŵ¥»ú¹ñ¹¦ºÄÍ»ÆÆ100kW£¬¹©Ó¦Á´ÖØÐÄÕý´Ó¼ÆËãÏòÉ¢ÈÈÓ뻥Áª×ªÒÆ¡£
- ÒºÀä×é¼þ£¨CDU/Àä°å/¿ì½ÓÍ·£©£ºGB200²ÉÓõÄÀä°åʽҺÀä¼Ü¹¹ÕýÔÚÖØËܹ©Ó¦Á´¡£±¾ÖÜ£¬Ì¨ÍåʡɢÈÈ´ó³§Ææ¡¢Ë«ºè£¬ÒÔ¼°´ó½µÄӢά¿Ë¡¢¸ßÀ½¹É·ÝµÈ¾ù´¦ÓÚÂú²ú״̬¡£ÖµµÃ×¢ÒâµÄÊÇ£¬ÒºÀä¿ì½ÓÍ·£¨UQD£©ÓÉÓÚרÀû±ÚÀݺ͸߿ɿ¿ÐÔÒªÇ󣬳ÉΪ±¾Öܹ©Ó¦Á´µÄ¡°ÒþÐÔ¿¨²±×ӵ㡱£¬²¿·Ö¶þÏß·þÎñÆ÷´ú¹¤³§ÃæÁÙ¿ì½ÓÍ·¶Ï¹©·çÏÕ£¬µ¼ÖÂÕû»ú½»¸¶ÑÓÆÚ¡£
- ¸ßËÙ»¥ÁªÓë¹âÄ£¿é£ºGB200 NVLink Switch¶ÔÍÀ£¨Overpass£©ÐèÇó¼¤Ôö£¬°²·ÑŵµÄÍÀÂÁ¬½ÓÆ÷³ÉΪ±¾ÖÜÇþµÀÒç¼Û×î¸ßµÄÁ㲿¼þÖ®Ò»¡£¹âÄ£¿é·½Ã棬800G¹âÄ£¿éÒѽøÈ볣̬»¯½»¸¶£¬1.6T¹âÄ£¿é£¨µ¥Ä£/¶àÄ££©¿ªÊ¼ÏòÍ·²¿ÔƳ§É̽øÐÐСÅúÁ¿ËÍÑùÓëÑéÖ¤£¬¹è¹â·½°¸ÓÉÓÚÄÜ»º½âDSPоƬ¶Ìȱ£¬ÉøÍ¸ÂÊÕýÎȲ½ÌáÉý¡£
- »ù´¡²ÄÁÏ£¨PCB£©£ºAI·þÎñÆ÷Óø߶à²ãHDI°å£¨24-30²ã£©¼°µÍËðºÄCCL²ÄÁÏÐèÇóÇ¿¾¢¡£ÓÉÓÚÉÏÓβ£Ï˲¼Óë»·ÑõÊ÷Ö¬¼Û¸ñÆóÎÈ£¬PCB³§±¾ÖÜÆð¿ªÊ¼ÓëODMÖØÐÂÒé¼Û£¬Ô¤¼ÆQ3 AI·þÎñÆ÷PCB¾ù¼Û½«»·±ÈÉϵ÷3%-5%¡£
Èý¡¢ ´ú¹¤ÓëÕû»ú½»¸¶£º²úÄܽṹÐÔµ÷Õû£¬½»¸¶ÖÜÆÚÇ÷ÓÚÃ÷ÀÊ
̨»ýµç±¾ÖÜÈ·ÈÏ£¬ÆäCoWoS²úÄÜÀ©Õżƻ®ÈçÆÚÍÆ½ø£¬Äêµ×Ô²úÄܽ«Í»ÆÆ4ÍòƬ¡£µ«Nvidia¶Ô²úÄܵĶÀÕ¼ÐÔ°üÏú£¬Ê¹µÃAMD MI300XµÄ´ú¹¤ÅŲúÒÀÈ»ÊÜÏÞ¡£
ODM¶Ë£¨¹ã´ï¡¢Î³´´¡¢¸»Ê¿¿µ¡¢³¬Î¢£©±¾ÖÜ·´À¡£¬»ùÓÚHGX¼Ü¹¹µÄ8¿¨AI·þÎñÆ÷Õû»ú½»¸¶ÖÜÆÚÒÑ´Ó¼«ÖµÆÚµÄ4-6¸öÔÂÊÕÁ²ÖÁ10-12ÖÜ¡£µ«»ú¹ñ¼¶½»¸¶£¨ÈçNvidia DGX/HGX SuperPOD£©ÓÉÓÚÉæ¼°ÍøÂç¡¢´æ´¢ÓëÒºÀä»ú¹ñµÄ¸´ÔÓ¼¯³É£¬½»¸¶ÖÜÆÚÈÔ³¤´ï16ÖÜÒÔÉÏ¡£
¹úÄÚÕû»úÊг¡£¬»ùÓÚÌÚ910BµÄ¼¯Èº½»¸¶ÄÜÁ¦±¾ÖÜÓÐÏÔÖøÌáÉý¡£Ëæ×ŵײãCANNÉú̬Óë¼ÆËã¿âµÄÓÅ»¯£¬¹úÄÚÖÇËãÖÐÐÄÏîÄ¿´Ó¡°Æ´Ó²¼þ½»¸¶¡±Ïò¡°Æ´¼¯ÈºÓÐЧËãÁ¦£¨MFU£©¡±×ª±ä£¬´øÒºÀäÕû»ú¹ñµÄ½»¸¶ºÏ¸ñÂʱ¾ÖÜÍ»ÆÆ90%´ó¹Ø¡£
ËÄ¡¢ ÇþµÀÓëÊг¡²ßÂÔ£ºËãÁ¦×âÁÞ¼Û¸ñ·Ö»¯£¬ÔƳ§ÉÌ×ÔÑÐоƬ¼ÓËÙ
- ËãÁ¦×âÁÞ¼Û¸ñ´¥¶¥»ØÂ䣺±¾ÖܹúÄÚËãÁ¦×âÁÞÊг¡³öÏÖ·Ö»¯¡£A800/H800µÈ¸ßËãÁ¦ºÏ¹æ¼¯ÈºµÄ×â½ðÒÀÈ»¼áͦ£¬Î¬³ÖÔÚ12-15Ôª/¿¨/ʱ£»¶ø»ùÓÚH20µÄËãÁ¦³ØÓÉÓÚ½üÆÚ´óÁ¿½»¸¶£¬×â½ð³öÏÖËɶ¯£¬²¿·ÖÇþµÀÉ̱¨¼ÛÒѵøÆÆ8Ôª/¿¨/ʱ¡£ÖÐСËãÁ¦ÔËÓªÉÌÃæÁÙ¡°½¨¼´¿÷Ë𡱵ÄÏÖ½ðÁ÷ѹÁ¦¡£
- ÔÆ³§ÉÌ×ÔÑÐоƬ·ÖÁ÷£ºGoogle±¾ÖÜÐû²¼TPUv5p¼¯Èº¶ÔÍâ´ó¹æÄ£¿ª·Å£¬AWS Trainium2Ò²½øÈëÃܼ¯²âÊÔÆÚ¡£ hyperscaler×ÔÑÐASICËäÈ»²»»áµß¸²NvidiaµÄͳÖεØÎ»£¬µ«ÕýÔÚʵÖÊÐԵطÖÁ÷²¿·ÖÍÆÀíÓëÖÐСģÐÍѵÁ·¶©µ¥£¬»º½âÁ˹«¿ªÊг¡GPUµÄÇÀ¹ºÁÒ¶È¡£
- ÇþµÀ¿â´æ²ßÂÔµ÷Õû£ºÃæ¶ÔQ3¿ÉÄܵ½À´µÄB200/GB200·¢²¼³±£¬Ö÷Á÷ÇþµÀÉ̱¾ÖÜ¿ªÊ¼¿ØÖÆH100/A100µÄÏÖ»õ¶Ú»ý£¬×ªÎª¡°°´µ¥¶¨²É¡±Ä£Ê½£¬ÒÔ¹æ±ÜÀÏ¿î²úÆ·µø¼Û·çÏÕ¡£
Îå¡¢ ÏÂÖÜÕ¹ÍûÓëÔËά/²É¹º½¨Òé
- ²É¹º¶Ë£º½¨Òé¶ÔQ3µÄAI·þÎñÆ÷²É¹º¶©µ¥½øÐС°²ðµ¥´¦Àí¡±ÓÅÏÈËø¶¨CoWoS²úÄܶÔÓ¦µÄGPU»ù°å£¬ÔÙ¸ù¾Ýʵ¼Ê»ú·¿Ìõ¼þÆ¥ÅäÒºÀä»ò·çÀäÕû»ú¡£¶ÔÓÚH20²É¹º£¬½¨ÒéÖ±½ÓÓëODM»ò×Ü´úǩԼ£¬±ÜÃâͨ¹ý¶à¼¶ÇþµÀÉ̳е£Òç¼Û·çÏÕ¡£
- ÔËά¶Ë£ºËæ×ŸßÃܶÈÒºÀä·þÎñÆ÷Â½ÐøÉϼܣ¬±¾ÖÜÒѳöÏÖ¶àÆðÒòCDU¹ýÂËÆ÷¶ÂÈûµ¼Öµľֲ¿¹ýÈȽµÆµÊ¼þ¡£½¨ÒéÔËάÍŶÓÔÚÑéÊÕʱ£¬Ç¿ÖÆÔö¼ÓÀäÈ´Òº×ǶÈÓëÁ÷Á¿ÈßÓà²âÊÔ£¬²¢½¨Á¢UQD¿ì½ÓÍ·µÄ¶¨ÆÚѲ¼ìÓ뱸¼þ¿â¡£
- ·çÏÕÔ¤¾¯£ºÐèÃÜÇйØ×¢6ÔÂComputexÆÚ¼äNvidia¹ØÓÚÏÂÒ»´ú¼Ü¹¹µÄ¶¨¼ÛÓë½»»õ²ßÂÔ£¬Õâ¿ÉÄܵ¼Öµ±Ç°H100/H20µÄÇþµÀ¼Û¸ñ·¢Éú¾çÁÒ²¨¶¯¡£