北京大学联合华为发布全栈开源 DeepSeek 推理方案

发布时间:2025-03-18 16:14:01 来源:互联网

感谢本站网友 Autumn_Dream 的线索投递!

本站 3 月 10 日消息,据华为技术有限公司和北京大学高性能计算校级公共平台消息,2025 年 3 月 9 日,北京大学联合华为发布 DeepSeek 全栈开源推理方案。

据介绍,该方案基于北大自研 SCOW 算力平台系统、鹤思调度系统,并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件,实现华为昇腾上的 DeepSeek 高效推理,并支持大规模算力集群训推一体化部署。所有开发者均可获取源码并根据需求二次开发,性能接近闭源方案。

全栈开源方案其他闭源方案模型DeepSeek-R1-w8a8硬件配置2*Atlas 800I A2输入长度4096输出长度1024系统输出吞吐11981288用户并发128128

目前,此方案在未名卓越一号集群部署成功。该集群由北京大学计算中心负责研制与运维管理,为北大鲲鹏昇腾科教创新卓越中心提供算力支持。本站查询获悉,作为国内首个基于高校自研基础软件的国产智算平台,该集群于 2024 年 11 月 18 日上线运行,首期集成 20 台昇腾 AI 服务器与 10 台鲲鹏通用服务器,AI 算力规模为 30.64PFlops(半精度)。

此次发布的 DeepSeek 推理方案依托全栈开源组件构建,在 openEuler 开源操作系统层面进行了深度优化;通过异构调度负载感知 MoE 冷热专家,从而更细粒度调度任务;通过异构融合来高效管理内存,减小系统内存碎片;利用毕昇编译器进一步优化,减少算子下发耗时,提升推理整体性能。

▲算力集群全栈开源推理方案架构图
本周热门攻略

1
如何通过9.1免费网站NBA免费观看NBA比赛?平台优势和使用技巧全解析

如何通过9.1免费网站NBA免费观看NBA比赛?平台优势和使用技巧全解析

2025/03/24

2
《妈妈你真棒》插曲《快来救救我》电影:为何这部影片让观众为之动容?

《妈妈你真棒》插曲《快来救救我》电影:为何这部影片让观众为之动容?

2025/01/21

3
如何通过18_XXXXXL56HGlD编号快速识别电子产品型号?揭秘常见的编号系统和解读技巧

如何通过18_XXXXXL56HGlD编号快速识别电子产品型号?揭秘常见的编号系统和解读技巧

2025/03/18

4
国产又大又粗:为什么国产品牌在重工业和消费品领域崭露头角?

国产又大又粗:为什么国产品牌在重工业和消费品领域崭露头角?

2025/01/24

5
如何在青柠观看《荣耀》免费高清电视剧?掌握这些观看技巧,你也能畅享剧集!

如何在青柠观看《荣耀》免费高清电视剧?掌握这些观看技巧,你也能畅享剧集!

2025/03/25

6
一级做AE直播是否免费?深入了解AE直播收费与盈利模式:适合新手的直播平台选择

一级做AE直播是否免费?深入了解AE直播收费与盈利模式:适合新手的直播平台选择

2025/03/17

7
《妈妈你真棒》插曲《快来救救我》:一部讲述母爱与亲情的感人电影,如何用音乐打动观众?

《妈妈你真棒》插曲《快来救救我》:一部讲述母爱与亲情的感人电影,如何用音乐打动观众?

2025/03/25

8
三亚精品高清影院的影片质量如何?画面清晰音效震撼,观影体验极佳!

三亚精品高清影院的影片质量如何?画面清晰音效震撼,观影体验极佳!

2025/03/18

9
如何看待中国“猛少妇”崛起?她们为什么在现代社会中越来越受重视?

如何看待中国“猛少妇”崛起?她们为什么在现代社会中越来越受重视?

2025/03/19

10
如何通过AE广告实现低成本高效投放:了解“一级做AE是免费”的真相及其背后的营销策略

如何通过AE广告实现低成本高效投放:了解“一级做AE是免费”的真相及其背后的营销策略

2025/03/20