新闻详细
新闻当前位置:新闻详细

NVIDIA发布首张使用FP4计算的人工智能图像,性能超乎预期

转载:https://ai.zol.com.cn/894/8945609.html

2024-08-25 16:21:40·[??中关村在线 原创??]·作者:散落的星星沙

根据最新的报道,NVIDIA在最近一次发布会上展示了Blackwell平台在数据中心的应用情况,并回应了有关Blackwell推迟上市的传言。此外,NVLink技术也迎来了重要升级,带宽翻倍至1.4TB/s。

Blackwell平台集成了多种芯片,包括Grace CPU、NVLink Switch Chip、Bluefield-3、ConnectX-7、ConnectX-8、Spectrum-4和Quantum-3等,形成了一个全面的数据中心解决方案。其设计目标满足现代人工智能的需求,特别是针对超大型语言模型的计算需求。随着AI模型参数的不断增加,对计算能力和低延迟的要求也越来越高。

为实现低延迟和高吞吐量的处理能力,Blackwell平台采用多GPU推理方法,在多个GPU上分配计算任务。此外,NVIDIA还推出了速度更快的NVLink交换机,该交换机基于台积电4NP节点,并提供了1.8TB/s的双向NVLink带宽,能够连接72个GPU。

同时,NVIDIA还展示了全球首张使用FP4计算生成的人工智能图像,并强调FP4量化模型在速度上的显著优势以及与FP16模型相似的图像质量。

本文属于原创文章,如若转载,请注明来源:NVIDIA发布首张使用FP4计算的人工智能图像,性能超乎预期https://ai.zol.com.cn/894/8945609.html

Copyright2023云汇企科技