新闻详细
新闻当前位置:新闻详细

微软发布Maia 100芯片规格:专为AI设计

转载:https://ai.zol.com.cn/896/8961837.html

2024-08-30 11:22:33·[??中关村在线 原创??]·作者:一便士的月亮

微软公司在Hot Chip 2024大会上,公布了Maia 100芯片的规格信息。作为台积电5nm节点上制造的最大处理器之一,Maia 100专为部署在Azure中的大规模AI工作负载而设计。

Maia 100芯片采用了垂直集成方式,以优化成本和性能。它还使用了定制服务器板,并配备了专门设计的机架和软件堆栈,以提高性能。芯片尺寸为820平方毫米,封装采用了COWOS-S夹层技术的TSMC N5工艺。

在硬件方面,Maia 100拥有高速Tensor单元、矢量处理器和直接内存访问(DMA)引擎。其中,高速Tensor单元可为训练和推理提供高速处理,并支持多种数据类型;矢量处理器采用松散耦合的超标量引擎,并支持包括FP32和BF16在内的多种数据类型;直接内存访问(DMA)引擎则支持不同的张量分片方案。

此外,在网络方面,Maia 100采用了基于以太网的互联技术和类似RoCE的定制协议,可实现超高带宽计算。它支持高达4800Gbps的all-gather和scatter-reduced带宽,以及1200Gbps的all-to-all带宽。

在软件方面,微软公司推出了Maia软件开发工具包(SDK),使开发者能够快速将其PyTorch和Triton模型移植到Maia平台。同时,Maia SDK还为开发人员提供了多个组件,方便他们将模型部署到Azure OpenAI服务。

总体来看,微软公司的Maia 100芯片具有高性能、多样化的硬件功能和易于使用的软件工具,在AI应用领域具有很大的潜力。

本文属于原创文章,如若转载,请注明来源:微软发布Maia 100芯片规格:专为AI设计https://ai.zol.com.cn/896/8961837.html

Copyright2023云汇企科技