首页 > 企业站 > 企业站_资讯眼> 正文

摩尔线程支持部署DeepSeek

西贝0705 编辑:刘晓辉- 发布于:2025-02-05 10:06 PConline原创

近日,国产全功能GPU创新企业摩尔线程宣布,已快速实现对DeepSeek蒸馏模型推理服务的高效部署,为AI技术的普及与发展提供了新的动力。

摩尔线程通过自研全功能GPU和开源与自研双引擎方案,成功部署了DeepSeek蒸馏模型。这一部署不仅展示了摩尔线程在AI领域的强大技术实力,也为开发者提供了一个基于其全功能GPU进行AI应用创新的平台。

具体来说,摩尔线程利用其MTT S80和MTT S4000显卡,实现了对DeepSeek-R1蒸馏模型的推理部署。通过这一部署,用户能够将大规模模型的能力迁移至更小、更高效的版本,在国产GPU上实现高性能推理。

在开源框架适配方面,摩尔线程基于Ollama开源框架,成功部署了DeepSeek-R1-Distill-Qwen-7B蒸馏模型,并在多种中文任务中展现出了卓越性能,充分验证了摩尔线程自研全功能GPU的通用性和CUDA兼容性。

此外,摩尔线程还计划推出自主设计的夸娥(KUAE)GPU智算集群,该集群将全面支持DeepSeek V3、R1模型及新一代蒸馏模型的分布式部署。夸娥集群集成了先进的推理技术与分布式计算框架,将确保大规模模型的高效稳定运行,从而助力开发者快速实现业务落地。

西贝0705

网友评论

聚超值•精选

推荐 手机 笔记本 影像 硬件 家居 商用 企业 出行 未来
二维码 回到顶部