近日,由英特尔前总裁Renee James创立的服务器CPU设计公司Ampere Computing宣布,其AmpereOne芯片家族将在明年增加到256核。该公司还将与高通公司合作开发云人工智能加速器。 James介绍,公司即将推出的新AmpereOne平台,宣布12通道256核CPU已经准备好在台积电N3制造工艺节点上使用。安培设计芯片,并与外部代工厂合作制造芯片。2023年5月发布的上一款芯片有192个内核。它去年投入生产,现在已经上市了。 James强调,公司不仅关注核心数量,更注重平台的整体性能,包括内存、缓存和AI计算能力。她提到,Ampere的256核CPU将使用与现有产品相同的冷却系统,保持热设计功率在350瓦左右,同时提供比市场上任何CPU高出40%的性能。 和高通公司的合作也成为了焦点,他们共同致力于开发高性能的人工智能(AI)基础设施。与高通的合作也是Ampere发展路线图的关键部分。两家公司计划基于Ampere的CPU和高通的Cloud AI 100 Ultra加速器构建大型语言模型(LLM)推理平台。这一合作旨在解决行业面临的最大挑战之一:AI的快速发展带来的能源问题。Ampere和高通的联合解决方案将提供一种创新的方法,以更高效的方式处理AI推理任务。 高通的AI 100 Ultra加速器以其150W的低功耗和高效的性能而受到关注。尽管其外形小巧,但高通声称该加速器能够运行高达1000亿个参数的模型,并且两个加速器可以连接起来支持GPT-3规模的模型。高通的AI 100 Ultra在INT8精度下能够推动870 TOPs的性能,并由具有548GB/s带宽的128GB LPDDR4x内存提供支持。 此外,Ampere还透露了一个新的FlexSKU功能,该功能允许客户使用相同的SKU来解决横向扩展和纵向扩展的用例。这一灵活性将进一步推动Ampere在AI领域的应用。 总的来说,我们期待看到更多创新的AI解决方案,这些解决方案不仅能够提高性能,还能够降低功耗,为未来的数据中心基础设施提供可持续的解决方案。 |
原创栏目
企业视频
IT百科
网友评论
聚超值•精选