Microsoft 推出自己的企业 AI 芯片:“Maia”和“Cobalt”
Microsoft正在加强其计算基础设施,宣布为企业推出两款新的内部芯片:Azure Maia 100和Azure Cobalt 100。
本周在西雅图举行的微软Ignite 2023大会上展示了这些芯片,这是这家科技巨头最大的年度全球活动,为企业提供高效、可扩展和可持续的计算,以利用最新的云和人工智能突破。
微软表示,它们代表了其使命中的最后一块拼图,即提供灵活的基础设施系统,包括自己和合作伙伴提供的硬件和软件,这些系统可以进行优化以满足不同的工作负载要求。
正如该公司解释的那样,Maia是其人工智能加速器,旨在为生成性人工智能工作负载运行基于云的训练和推理。同时,Cobalt是一款基于Arm的芯片,旨在高效处理通用工作负载。这两种产品明年都将部署在Azure中,首先是微软自己的数据中心推动其Copilot和Azure OpenAI服务。
微软云+人工智能集团执行副总裁Scott Guthrie在一份声明中表示:“我们正在重新构想数据中心的各个方面,以满足客户的需求。”他补充道:“就我们的运营规模而言,我们必须优化和集成基础设施堆栈的每一层,以最大限度地提高性能,使我们的供应链多样化,并为客户提供基础设施选择。”
虽然微软没有分享具体的性能统计数据,但该公司确实注意到,Maia AI芯片可以处理在Microsoft Azure上运行的一些最大的人工智能工作负载,从训练语言模型到推理。该芯片是专门为Azure硬件堆栈设计的,这使它能够在处理工作负载时实现硬件的绝对最大利用率。
多年来,它与OpenAI合作开发了加速器。具体来说,该公司在Sam Altman领导的生成型人工智能独角兽建立的模型上进行了测试,并利用反馈做出了必要的改变。
Sam Altman在一份声明中表示:“当微软首次分享他们对Maia芯片的设计时,我们感到非常兴奋,我们共同努力,用我们的模型对其进行了改进和测试。Azure的端到端人工智能架构,现在与Maia进行了优化,为培训更有能力的模型铺平了道路,并使这些模型对我们的客户更便宜。”。
与Maia一样,Cobalt的能力也在很大程度上处于保密状态。然而,有一点非常清楚:该芯片将处理Azure上的通用工作负载,重点关注能源效率。基于Arm的设计确保了它的优化,以最大限度地提高每瓦的性能,确保数据中心每消耗一个单位的能量就可以获得更多的计算能力。
微软负责硬件产品开发的公司副总裁Wes McCullough表示:“在设计架构和实现时,都考虑到了功率效率。我们正在最有效地利用硅晶体管。将我们所有数据中心服务器的效率提高相乘,加起来就是一个相当大的数字。”
更重要的是,由于这两种芯片都是内部设计的,微软将把它们安装在定制的服务器板上,放置在定制的机架内,方便地安装在现有的公司数据中心内。对于Maia机架,该公司还设计了“助手”,将冷液体引导到芯片的冷板上,确保在处理高功耗情况时不会发热。
作为其灵活系统方法的一部分,微软还通过扩大对合作伙伴硬件的支持来支持其定制芯片。该公司表示,它已经推出了为英伟达H100张量核心GPU构建的新NC H100 v5虚拟机系列的预览版,并将很快将最新的英伟达H200张量核心GPU添加到其数据中心团队中。它还计划在Azure中添加AMD MI300X加速虚拟机,以加速人工智能工作负载的处理,用于高范围的人工智能模型训练和生成推理。
- 分享
- 举报
-
浏览量:1644次2020-03-24 09:43:11
-
浏览量:2093次2017-12-12 20:07:28
-
浏览量:1651次2018-10-14 14:14:37
-
2023-03-06 11:11:30
-
浏览量:1587次2018-11-17 16:05:55
-
浏览量:2268次2018-12-19 23:43:42
-
浏览量:533次2023-11-02 16:24:23
-
浏览量:2088次2020-01-15 09:36:03
-
浏览量:2015次2020-02-05 11:39:35
-
浏览量:2377次2019-01-12 19:09:57
-
浏览量:1745次2018-11-13 22:02:16
-
2023-07-27 10:37:21
-
浏览量:2784次2020-11-28 22:37:36
-
浏览量:1926次2020-02-19 10:46:43
-
浏览量:2116次2018-07-08 13:31:14
-
浏览量:2503次2020-11-18 10:04:10
-
浏览量:1783次2018-07-17 09:21:25
-
浏览量:992次2023-01-03 10:43:32
-
浏览量:2055次2020-06-18 15:09:16
-
广告/SPAM
-
恶意灌水
-
违规内容
-
文不对题
-
重复发帖
孔NERD
感谢您的打赏,如若您也想被打赏,可前往 发表专栏 哦~
举报类型
- 内容涉黄/赌/毒
- 内容侵权/抄袭
- 政治相关
- 涉嫌广告
- 侮辱谩骂
- 其他
详细说明