北京大学联合华为发布全栈开源 DeepSeek 推理方案

发布时间:2025-03-18 16:14:01 来源:互联网

感谢本站网友 Autumn_Dream 的线索投递!

本站 3 月 10 日消息,据华为技术有限公司和北京大学高性能计算校级公共平台消息,2025 年 3 月 9 日,北京大学联合华为发布 DeepSeek 全栈开源推理方案。

据介绍,该方案基于北大自研 SCOW 算力平台系统、鹤思调度系统,并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件,实现华为昇腾上的 DeepSeek 高效推理,并支持大规模算力集群训推一体化部署。所有开发者均可获取源码并根据需求二次开发,性能接近闭源方案。

全栈开源方案其他闭源方案模型DeepSeek-R1-w8a8硬件配置2*Atlas 800I A2输入长度4096输出长度1024系统输出吞吐11981288用户并发128128

目前,此方案在未名卓越一号集群部署成功。该集群由北京大学计算中心负责研制与运维管理,为北大鲲鹏昇腾科教创新卓越中心提供算力支持。本站查询获悉,作为国内首个基于高校自研基础软件的国产智算平台,该集群于 2024 年 11 月 18 日上线运行,首期集成 20 台昇腾 AI 服务器与 10 台鲲鹏通用服务器,AI 算力规模为 30.64PFlops(半精度)。

此次发布的 DeepSeek 推理方案依托全栈开源组件构建,在 openEuler 开源操作系统层面进行了深度优化;通过异构调度负载感知 MoE 冷热专家,从而更细粒度调度任务;通过异构融合来高效管理内存,减小系统内存碎片;利用毕昇编译器进一步优化,减少算子下发耗时,提升推理整体性能。

▲算力集群全栈开源推理方案架构图
本周热门攻略

1
免费的PPT软件有哪些可以免费高清观看和使用?

免费的PPT软件有哪些可以免费高清观看和使用?

2025/12/25

2
蘑菇视频网页版入口如何打开?一步步教你轻松进入蘑菇视频观看更多内容

蘑菇视频网页版入口如何打开?一步步教你轻松进入蘑菇视频观看更多内容

2026/04/16

3
如何轻松访问黄金网站9.1免费入口:用户如何高效使用黄金网站9.1资源获取信息?

如何轻松访问黄金网站9.1免费入口:用户如何高效使用黄金网站9.1资源获取信息?

2025/03/19

4
如何在床上成功进行扦插:72种方法与技巧,确保植物健康生长

如何在床上成功进行扦插:72种方法与技巧,确保植物健康生长

2026/08/10

5
国产又大又粗:为什么国产品牌在重工业和消费品领域崭露头角?

国产又大又粗:为什么国产品牌在重工业和消费品领域崭露头角?

2026/08/10

6
如何查看高清免费观看平台的在线人数?有哪些方法可以了解观看人数的详细信息?

如何查看高清免费观看平台的在线人数?有哪些方法可以了解观看人数的详细信息?

2025/02/23

7
九幺是什么意思?它背后有什么深层含义和文化背景?

九幺是什么意思?它背后有什么深层含义和文化背景?

2025/03/13

8
如何通过Picacg哔咔官网入口快速找到最新漫画资源?

如何通过Picacg哔咔官网入口快速找到最新漫画资源?

2025/02/17

9
如何选择适合的精品蜜桃秘?一区二区三区区别和选择建议:为您的购买决策提供指导

如何选择适合的精品蜜桃秘?一区二区三区区别和选择建议:为您的购买决策提供指导

2025/03/18

10
“乱女1一7第一章乱女小丹”解析:为什么小丹的人生充满情感波动?

“乱女1一7第一章乱女小丹”解析:为什么小丹的人生充满情感波动?

2026/01/28