英伟达发布H200芯片,AI算力再翻倍

最新资讯3个月前发布 itotii
12 00

英伟达在GTC大会上正式发布新一代AI芯片H200,这是H100的升级版本,在算力、显存和能效比方面都实现了重大突破。H200的推出将进一步巩固英伟达在AI基础设施领域的领导地位。

硬件规格亮点

  • 显存容量翻倍:配备192GB HBM3E高带宽显存,是H100的1.5倍,可加载更大规模的模型
  • 算力全面提升:FP16性能翻倍,INT8推理速度提升90%,训练大模型的效率大幅提升
  • 能耗优化显著:每瓦性能提升50%,在同等算力下能耗大幅降低
  • 互联技术升级:采用NVLink 5.0和PCIe Gen5,多卡互联带宽提升至900GB/s

应用场景拓展

H200特别针对大语言模型的推理进行了优化。在运行GPT-4级别的模型时,H200的推理吞吐量比H100提升近2倍,延迟降低40%。

© 版权声明

相关文章

没有相关内容!

暂无评论

您必须登录才能参与评论!
立即登录
none
暂无评论...