资讯中心

NVIDIA首秀BlackwellGB200超级芯片系统:AI推理性能飙升1.5倍

来源:快科技
2024/8/26 10:33:54
24078
导读:NVIDIA Blackwell架构的新一代GPU推迟供货,但是官方没有承认,也没有否认,而是默默拿出了一套基于新一代GB200 GPU GPU超级芯片的服务器系统,展示了一番。
  此前有消息称,NVIDIA Blackwell架构的新一代GPU推迟供货,但是官方没有承认,也没有否认,而是默默拿出了一套基于新一代GB200 GPU+GPU超级芯片的服务器系统,展示了一番。
 
  GB200 Grace Blackwell包括两颗B200 GPU、一颗Grace CPU,总功耗高达2700W。
 
  其中,B200拥有2040亿个晶体管、8096-bit 192GB HBM3E内存(带宽8TB/s),性能达到9PFlops(每秒9千万亿次),功耗首次达到1000W。
 
  NVIDIA展示的服务器犹如一件艺术品,一条条蓝色和铜色排线,大量超粗直径铜管,超大体积的散热片,组成了一个庞然大物。
 
  NVIDIA没有透露具体配置,只说分为有无NVSwitch两种版本,其总带宽高达14.4TB/s。
 
  性能方面只给出了一个数据:Llama 3.1 700亿参数大模型的AI推理性能对比H200提高了足足1.5倍。
 
  散热怎么办?NVIDIA透露正在开发热水散热系统,可以将耗电量减少28%。
 
  不过,NVIDIA仍然没有给出Blackwell GPU服务器的出货时间,估计在今年第四季度。
 
  即将到来的Hot Chip 2024大会上,NVIDIA会详细讲解Blackwell GPU,还会进一步披露未来Vera CPU、Rubin GPU的消息。

热门评论

上一篇:广和通端侧AI解决方案驱动性能密集型场景商用型场景商用

下一篇:赛力斯2024上半年营收650.44亿元创新高 同比增长489.58%

相关新闻

<