Microsoft 推出自己的企业 AI 芯片:“Maia”和“Cobalt”

Microsoft 推出自己的企业 AI 芯片:“Maia”和“Cobalt” 孔NERD 2023-11-18 09:55:58 595

易百纳社区

Microsoft正在加强其计算基础设施,宣布为企业推出两款新的内部芯片:Azure Maia 100和Azure Cobalt 100。

本周在西雅图举行的微软Ignite 2023大会上展示了这些芯片,这是这家科技巨头最大的年度全球活动,为企业提供高效、可扩展和可持续的计算,以利用最新的云和人工智能突破。

微软表示,它们代表了其使命中的最后一块拼图,即提供灵活的基础设施系统,包括自己和合作伙伴提供的硬件和软件,这些系统可以进行优化以满足不同的工作负载要求。

正如该公司解释的那样,Maia是其人工智能加速器,旨在为生成性人工智能工作负载运行基于云的训练和推理。同时,Cobalt是一款基于Arm的芯片,旨在高效处理通用工作负载。这两种产品明年都将部署在Azure中,首先是微软自己的数据中心推动其Copilot和Azure OpenAI服务。

微软云+人工智能集团执行副总裁Scott Guthrie在一份声明中表示:“我们正在重新构想数据中心的各个方面,以满足客户的需求。”他补充道:“就我们的运营规模而言,我们必须优化和集成基础设施堆栈的每一层,以最大限度地提高性能,使我们的供应链多样化,并为客户提供基础设施选择。”

虽然微软没有分享具体的性能统计数据,但该公司确实注意到,Maia AI芯片可以处理在Microsoft Azure上运行的一些最大的人工智能工作负载,从训练语言模型到推理。该芯片是专门为Azure硬件堆栈设计的,这使它能够在处理工作负载时实现硬件的绝对最大利用率。

多年来,它与OpenAI合作开发了加速器。具体来说,该公司在Sam Altman领导的生成型人工智能独角兽建立的模型上进行了测试,并利用反馈做出了必要的改变。

Sam Altman在一份声明中表示:“当微软首次分享他们对Maia芯片的设计时,我们感到非常兴奋,我们共同努力,用我们的模型对其进行了改进和测试。Azure的端到端人工智能架构,现在与Maia进行了优化,为培训更有能力的模型铺平了道路,并使这些模型对我们的客户更便宜。”。

与Maia一样,Cobalt的能力也在很大程度上处于保密状态。然而,有一点非常清楚:该芯片将处理Azure上的通用工作负载,重点关注能源效率。基于Arm的设计确保了它的优化,以最大限度地提高每瓦的性能,确保数据中心每消耗一个单位的能量就可以获得更多的计算能力。

微软负责硬件产品开发的公司副总裁Wes McCullough表示:“在设计架构和实现时,都考虑到了功率效率。我们正在最有效地利用硅晶体管。将我们所有数据中心服务器的效率提高相乘,加起来就是一个相当大的数字。”

更重要的是,由于这两种芯片都是内部设计的,微软将把它们安装在定制的服务器板上,放置在定制的机架内,方便地安装在现有的公司数据中心内。对于Maia机架,该公司还设计了“助手”,将冷液体引导到芯片的冷板上,确保在处理高功耗情况时不会发热。

易百纳社区

作为其灵活系统方法的一部分,微软还通过扩大对合作伙伴硬件的支持来支持其定制芯片。该公司表示,它已经推出了为英伟达H100张量核心GPU构建的新NC H100 v5虚拟机系列的预览版,并将很快将最新的英伟达H200张量核心GPU添加到其数据中心团队中。它还计划在Azure中添加AMD MI300X加速虚拟机,以加速人工智能工作负载的处理,用于高范围的人工智能模型训练和生成推理。


声明:本文内容由易百纳平台入驻作者撰写,文章观点仅代表作者本人,不代表易百纳立场。如有内容侵权或者其他问题,请联系本站进行删除。
孔NERD
红包 点赞 收藏 评论 打赏
评论
0个
内容存在敏感词
手气红包
    易百纳技术社区暂无数据
相关专栏
置顶时间设置
结束时间
删除原因
  • 广告/SPAM
  • 恶意灌水
  • 违规内容
  • 文不对题
  • 重复发帖
打赏作者
易百纳技术社区
孔NERD
您的支持将鼓励我继续创作!
打赏金额:
¥1易百纳技术社区
¥5易百纳技术社区
¥10易百纳技术社区
¥50易百纳技术社区
¥100易百纳技术社区
支付方式:
微信支付
支付宝支付
易百纳技术社区微信支付
易百纳技术社区
打赏成功!

感谢您的打赏,如若您也想被打赏,可前往 发表专栏 哦~

举报反馈

举报类型

  • 内容涉黄/赌/毒
  • 内容侵权/抄袭
  • 政治相关
  • 涉嫌广告
  • 侮辱谩骂
  • 其他

详细说明

审核成功

发布时间设置
发布时间:
是否关联周任务-专栏模块

审核失败

失败原因
备注
拼手气红包 红包规则
祝福语
恭喜发财,大吉大利!
红包金额
红包最小金额不能低于5元
红包数量
红包数量范围10~50个
余额支付
当前余额:
可前往问答、专栏板块获取收益 去获取
取 消 确 定

小包子的红包

恭喜发财,大吉大利

已领取20/40,共1.6元 红包规则

    易百纳技术社区