英伟达发布H200芯片,AI算力再翻倍

最新资讯6个月前发布 itotii
17 0 0

英伟达GTC大会上正式发布新一代AI芯片H200,这是H100的升级版本,在算力、显存和能效比方面都实现了重大突破。H200的推出将进一步巩固英伟达在AI基础设施领域的领导地位,为下一代大模型的训练和推理提供强劲动力。

硬件规格亮点

  • 显存容量翻倍:配备192GB HBM3E高带宽显存,是H100的1.5倍,可加载更大规模的模型
  • 算力全面提升:FP16性能翻倍,INT8推理速度提升90%,训练大模型的效率大幅提升
  • 能耗优化显著:每瓦性能提升50%,在同等算力下能耗大幅降低,降低数据中心运营成本
  • 互联技术升级:采用NVLink 5.0和PCIe Gen5,多卡互联带宽提升至900GB/s
  • 软件生态兼容:完全兼容CUDA生态,现有应用可无缝迁移至H200

应用场景拓展

H200特别针对大语言模型的推理进行了优化。在运行GPT-4级别的模型时,H200的推理吞吐量比H100提升近2倍,延迟降低40%。这使得企业可以用更少的GPU部署更大规模的AI服务,显著降低推理成本。对于生成式AI应用,如图像生成、视频生成和3D建模,H200的高显存容量可以支持更高分辨率和更复杂的生成任务。

产业落地进展

AWS、Google Cloud、Microsoft Azure、阿里云、腾讯云等主要云厂商已宣布将在其云服务中提供H200实例。英伟达CEO黄仁勋表示,H200已进入量产阶段,预计下季度开始大规模出货。同时,英伟达还推出了基于H200的DGX H200系统和HGX H200平台,为企业提供更完整的AI基础设施解决方案。尽管面临AMD和自研芯片的竞争,英伟达凭借软硬件一体化的优势,仍牢牢占据AI芯片市场的主导地位。

© 版权声明

相关文章

暂无评论

您必须登录才能参与评论!
立即登录
none
暂无评论...