[×îÐÂÉÌÇé]ÎÄÕÂID:3510  ·ÖÀà²é¿´¾­ÏúÉÌ
»áÔ±µÇ¼ | ¾­ÏúÉÌÉêÇë | ÉóºË״̬²éѯ | ÇþµÀÉÌÇé | ÇþµÀÂÒìÀ |Ê×Ò³
ITÇþµÀÍø
  ´óÀà СÀà  
µ±Ç°£ºÈ«²¿   [¸ü¸ÄµØÇø]
Ê×Ò³ >>×îÐÂÉÌÇé        ¹©Ó¦T-CON,TFT,CY2890       ËãÁ¦Ê±´úµÄӲͨ»õ£ºGPU/AIоƬÇþµÀ¼Û¸ñÈ«¾°½âÎöÓë²É¹º²ßÂÔÖ¸ÄÏ
iTechClub¹ã¸æ

AI·þÎñÆ÷¹©Ó¦Á´¶¯Ì¬Öܱ¨£¨2024Äê5ÔµÚ3ÖÜ£©

2026-05-01 09:01:24  ·¢²¼:ai-generator  À´Ô´£ºai-generator

AI·þÎñÆ÷¹©Ó¦Á´¶¯Ì¬Öܱ¨£¨2024Äê5ÔµÚ3ÖÜ£©

ºËÐÄÕªÒª

±¾ÖÜAI·þÎñÆ÷¹©Ó¦Á´³ÊÏÖ¡°ÐèÇó³ÖÐø¿ñì­£¬Æ¿¾±½á¹¹ÐÔ×ªÒÆ¡±µÄÌ¬ÊÆ¡£GB200¼Ü¹¹µÄÔ¤ÈÈ´ø¶¯ÁËÒºÀäÓë¸ßËÙ»¥ÁªÆ÷¼þµÄ±¸»õ³±£»HBM3e²úÄÜËäÓÐÊÍ·ÅÐźţ¬µ«·â×°²úÄÜÈÔÊÇ¿¨¿Ú£»¹úÄÚÊг¡·½Ã棬ºÏ¹æ°æËãÁ¦Ð¾Æ¬µÄ½»¸¶ÖÜÆÚÓÐËùËõ¶Ì£¬ËãÁ¦×âÁÞÊг¡³öÏֽṹÐÔ¼Û¸ñ·Ö»¯¡£

Ò»¡¢ ºËÐÄËãÁ¦Ð¾Æ¬ÓëHBM£ºH20ÐèÇó¼¤Ôö£¬HBM3e²úÄܳÉʤ¸ºÊÖ

±¾ÖÜGPU¹©Ðè¸ñ¾Ö³ÊÏÖÃ÷ÏÔµÄÇøÓò·Ö»¯¡£È«ÇòÊг¡·½Ã棬Nvidia B200/GB200¼Ü¹¹µÄÁ÷ƬÓëÊÔ²úÕýÔÚ½ôÂàÃܹÄÍÆ½ø£¬µ«´ó¹æÄ£ÉÌÓý»¸¶ÈÔÐèµÈ´ýQ3Ä©ÆÚ¡£ÊÜ´ËÓ°Ï죬H100/H200µÄÏÖ»õÒç¼ÛÓÐËù»ØÂ䣬µ«½»»õÖÜÆÚÈÔά³ÖÔÚ8-12ÖÜ¡£

¹úÄÚÊг¡·½Ã棬Nvidia H20³ÉΪ¾ø¶ÔÖ÷Á¦¡£ÊÜÏÂÓδóÄ£Ðͳ§É̼°ÖÇËãÖÐÐĽ¨ÉèÀ­¶¯£¬H20±¾ÖÜÄûõÐèÇó¼¤Ôö£¬²¿·ÖÇþµÀÉÌÉõÖÁ³öÏÖ¡°½Øºú¡±ÇÀµ¥ÏÖÏó¡£Ä¿Ç°H20½»»õÖÜÆÚ´ÓÔçÆÚµÄ3¸öÔÂËõ¶ÌÖÁ6-8ÖÜ×óÓÒ£¬µ«ÏÖ»õÒç¼ÛÒÀÈ»´æÔÚ¡£

HBM¶¯Ì¬£ºSKº£Á¦Ê¿±¾ÖÜÊÍ·ÅÐźţ¬ÆäHBM3e²úÄÜÕýÔÚ°´¼Æ»®ÅÀÆÂ£¬²¢ÒÑÏòÖ÷Òª¿Í»§½»¸¶Á¿²ú²úÆ·£»ÈýÐÇÔòÒò³õÆÚÁ¼ÂÊÎÊÌ⣬HBM3eÈÏÖ¤½ø¶ÈÂÔÖͺ󡣾¡¹Ü¹©Ó¦Á¿»·±È΢Ôö£¬µ«ÊÜÏÞÓŲ́»ýµçCoWoSÏȽø·â×°²úÄܵÄÓ²Ô¼Êø£¬HBMÕûÌ幩Ðè±ÈÒÀȻά³ÖÔÚ1:2ÒÔÉÏ£¬¶Ìȱ״̬ÖÁÉÙÑÓÐøÖÁ2025ÄêQ1¡£

¶þ¡¢ ¹Ø¼üÁ㲿¼þ£ºÒºÀäÓë¹âÄ£¿é½øÈë¡°±¸»õ³å´ÌÆÚ¡±

Ëæ×ŵ¥»ú¹ñ¹¦ºÄÍ»ÆÆ100kW£¬¹©Ó¦Á´ÖØÐÄÕý´Ó¼ÆËãÏòÉ¢ÈÈÓ뻥Áª×ªÒÆ¡£

  1. ÒºÀä×é¼þ£¨CDU/Àä°å/¿ì½ÓÍ·£©£ºGB200²ÉÓõÄÀä°åʽҺÀä¼Ü¹¹ÕýÔÚÖØËܹ©Ó¦Á´¡£±¾ÖÜ£¬Ì¨ÍåʡɢÈÈ´ó³§Ææ¡¢Ë«ºè£¬ÒÔ¼°´ó½µÄӢά¿Ë¡¢¸ßÀ½¹É·ÝµÈ¾ù´¦ÓÚÂú²ú״̬¡£ÖµµÃ×¢ÒâµÄÊÇ£¬ÒºÀä¿ì½ÓÍ·£¨UQD£©ÓÉÓÚרÀû±ÚÀݺ͸߿ɿ¿ÐÔÒªÇ󣬳ÉΪ±¾Öܹ©Ó¦Á´µÄ¡°ÒþÐÔ¿¨²±×ӵ㡱£¬²¿·Ö¶þÏß·þÎñÆ÷´ú¹¤³§ÃæÁÙ¿ì½ÓÍ·¶Ï¹©·çÏÕ£¬µ¼ÖÂÕû»ú½»¸¶ÑÓÆÚ¡£
  2. ¸ßËÙ»¥ÁªÓë¹âÄ£¿é£ºGB200 NVLink Switch¶ÔÍ­À£¨Overpass£©ÐèÇó¼¤Ôö£¬°²·ÑŵµÄÍ­ÀÂÁ¬½ÓÆ÷³ÉΪ±¾ÖÜÇþµÀÒç¼Û×î¸ßµÄÁ㲿¼þÖ®Ò»¡£¹âÄ£¿é·½Ã棬800G¹âÄ£¿éÒѽøÈ볣̬»¯½»¸¶£¬1.6T¹âÄ£¿é£¨µ¥Ä£/¶àÄ££©¿ªÊ¼ÏòÍ·²¿ÔƳ§É̽øÐÐСÅúÁ¿ËÍÑùÓëÑéÖ¤£¬¹è¹â·½°¸ÓÉÓÚÄÜ»º½âDSPоƬ¶Ìȱ£¬ÉøÍ¸ÂÊÕýÎȲ½ÌáÉý¡£
  3. »ù´¡²ÄÁÏ£¨PCB£©£ºAI·þÎñÆ÷Óø߶à²ãHDI°å£¨24-30²ã£©¼°µÍËðºÄCCL²ÄÁÏÐèÇóÇ¿¾¢¡£ÓÉÓÚÉÏÓβ£Ï˲¼Óë»·ÑõÊ÷Ö¬¼Û¸ñÆóÎÈ£¬PCB³§±¾ÖÜÆð¿ªÊ¼ÓëODMÖØÐÂÒé¼Û£¬Ô¤¼ÆQ3 AI·þÎñÆ÷PCB¾ù¼Û½«»·±ÈÉϵ÷3%-5%¡£

Èý¡¢ ´ú¹¤ÓëÕû»ú½»¸¶£º²úÄܽṹÐÔµ÷Õû£¬½»¸¶ÖÜÆÚÇ÷ÓÚÃ÷ÀÊ

̨»ýµç±¾ÖÜÈ·ÈÏ£¬ÆäCoWoS²úÄÜÀ©Õżƻ®ÈçÆÚÍÆ½ø£¬Äêµ×Ô²úÄܽ«Í»ÆÆ4ÍòƬ¡£µ«Nvidia¶Ô²úÄܵĶÀÕ¼ÐÔ°üÏú£¬Ê¹µÃAMD MI300XµÄ´ú¹¤ÅŲúÒÀÈ»ÊÜÏÞ¡£

ODM¶Ë£¨¹ã´ï¡¢Î³´´¡¢¸»Ê¿¿µ¡¢³¬Î¢£©±¾ÖÜ·´À¡£¬»ùÓÚHGX¼Ü¹¹µÄ8¿¨AI·þÎñÆ÷Õû»ú½»¸¶ÖÜÆÚÒÑ´Ó¼«ÖµÆÚµÄ4-6¸öÔÂÊÕÁ²ÖÁ10-12ÖÜ¡£µ«»ú¹ñ¼¶½»¸¶£¨ÈçNvidia DGX/HGX SuperPOD£©ÓÉÓÚÉæ¼°ÍøÂç¡¢´æ´¢ÓëÒºÀä»ú¹ñµÄ¸´ÔÓ¼¯³É£¬½»¸¶ÖÜÆÚÈÔ³¤´ï16ÖÜÒÔÉÏ¡£

¹úÄÚÕû»úÊг¡£¬»ùÓÚÌÚ910BµÄ¼¯Èº½»¸¶ÄÜÁ¦±¾ÖÜÓÐÏÔÖøÌáÉý¡£Ëæ×ŵײãCANNÉú̬Óë¼ÆËã¿âµÄÓÅ»¯£¬¹úÄÚÖÇËãÖÐÐÄÏîÄ¿´Ó¡°Æ´Ó²¼þ½»¸¶¡±Ïò¡°Æ´¼¯ÈºÓÐЧËãÁ¦£¨MFU£©¡±×ª±ä£¬´øÒºÀäÕû»ú¹ñµÄ½»¸¶ºÏ¸ñÂʱ¾ÖÜÍ»ÆÆ90%´ó¹Ø¡£

ËÄ¡¢ ÇþµÀÓëÊг¡²ßÂÔ£ºËãÁ¦×âÁÞ¼Û¸ñ·Ö»¯£¬ÔƳ§ÉÌ×ÔÑÐоƬ¼ÓËÙ

  1. ËãÁ¦×âÁÞ¼Û¸ñ´¥¶¥»ØÂ䣺±¾ÖܹúÄÚËãÁ¦×âÁÞÊг¡³öÏÖ·Ö»¯¡£A800/H800µÈ¸ßËãÁ¦ºÏ¹æ¼¯ÈºµÄ×â½ðÒÀÈ»¼áͦ£¬Î¬³ÖÔÚ12-15Ôª/¿¨/ʱ£»¶ø»ùÓÚH20µÄËãÁ¦³ØÓÉÓÚ½üÆÚ´óÁ¿½»¸¶£¬×â½ð³öÏÖËɶ¯£¬²¿·ÖÇþµÀÉ̱¨¼ÛÒѵøÆÆ8Ôª/¿¨/ʱ¡£ÖÐСËãÁ¦ÔËÓªÉÌÃæÁÙ¡°½¨¼´¿÷Ë𡱵ÄÏÖ½ðÁ÷ѹÁ¦¡£
  2. ÔÆ³§ÉÌ×ÔÑÐоƬ·ÖÁ÷£ºGoogle±¾ÖÜÐû²¼TPUv5p¼¯Èº¶ÔÍâ´ó¹æÄ£¿ª·Å£¬AWS Trainium2Ò²½øÈëÃܼ¯²âÊÔÆÚ¡£ hyperscaler×ÔÑÐASICËäÈ»²»»áµß¸²NvidiaµÄͳÖεØÎ»£¬µ«ÕýÔÚʵÖÊÐԵطÖÁ÷²¿·ÖÍÆÀíÓëÖÐСģÐÍѵÁ·¶©µ¥£¬»º½âÁ˹«¿ªÊг¡GPUµÄÇÀ¹ºÁÒ¶È¡£
  3. ÇþµÀ¿â´æ²ßÂÔµ÷Õû£ºÃæ¶ÔQ3¿ÉÄܵ½À´µÄB200/GB200·¢²¼³±£¬Ö÷Á÷ÇþµÀÉ̱¾ÖÜ¿ªÊ¼¿ØÖÆH100/A100µÄÏÖ»õ¶Ú»ý£¬×ªÎª¡°°´µ¥¶¨²É¡±Ä£Ê½£¬ÒÔ¹æ±ÜÀÏ¿î²úÆ·µø¼Û·çÏÕ¡£

Îå¡¢ ÏÂÖÜÕ¹ÍûÓëÔËά/²É¹º½¨Òé

  • ²É¹º¶Ë£º½¨Òé¶ÔQ3µÄAI·þÎñÆ÷²É¹º¶©µ¥½øÐС°²ðµ¥´¦Àí¡±ÓÅÏÈËø¶¨CoWoS²úÄܶÔÓ¦µÄGPU»ù°å£¬ÔÙ¸ù¾Ýʵ¼Ê»ú·¿Ìõ¼þÆ¥ÅäÒºÀä»ò·çÀäÕû»ú¡£¶ÔÓÚH20²É¹º£¬½¨ÒéÖ±½ÓÓëODM»ò×Ü´úǩԼ£¬±ÜÃâͨ¹ý¶à¼¶ÇþµÀÉ̳е£Òç¼Û·çÏÕ¡£
  • ÔËά¶Ë£ºËæ×ŸßÃܶÈÒºÀä·þÎñÆ÷Â½ÐøÉϼܣ¬±¾ÖÜÒѳöÏÖ¶àÆðÒòCDU¹ýÂËÆ÷¶ÂÈûµ¼Öµľֲ¿¹ýÈȽµÆµÊ¼þ¡£½¨ÒéÔËάÍŶÓÔÚÑéÊÕʱ£¬Ç¿ÖÆÔö¼ÓÀäÈ´Òº×ǶÈÓëÁ÷Á¿ÈßÓà²âÊÔ£¬²¢½¨Á¢UQD¿ì½ÓÍ·µÄ¶¨ÆÚѲ¼ìÓ뱸¼þ¿â¡£
  • ·çÏÕÔ¤¾¯£ºÐèÃÜÇйØ×¢6ÔÂComputexÆÚ¼äNvidia¹ØÓÚÏÂÒ»´ú¼Ü¹¹µÄ¶¨¼ÛÓë½»»õ²ßÂÔ£¬Õâ¿ÉÄܵ¼Öµ±Ç°H100/H20µÄÇþµÀ¼Û¸ñ·¢Éú¾çÁÒ²¨¶¯¡£
iTechClub¹ã¸æ
iTechClub¹ã¸æ