福利姬系-东南亚呦 北京大学皆集华为发布全栈开源 DeepSeek 推理决策
  • 你的位置:福利姬系 > qvod一本道 > 东南亚呦 北京大学皆集华为发布全栈开源 DeepSeek 推理决策

东南亚呦 北京大学皆集华为发布全栈开源 DeepSeek 推理决策

发布日期:2025-07-05 23:50  点击次数:162

东南亚呦 北京大学皆集华为发布全栈开源 DeepSeek 推理决策

IT 之家 3 月 10 日音书,据华为本领有限公司和北京大学高性能野心校级全球平台音书东南亚呦,2025 年 3 月 9 日,北京大学皆集华为发布 DeepSeek 全栈开源推理决策。

据先容,该决策基于北大自研 SCOW 算力平台系统、鹤念念调遣系统,并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件,达成华为昇腾上的 DeepSeek 高效推理,叉叉叉综合网图片并撑合手大规模算力集群训推一体化部署。通盘成就者均可获得源码并凭据需求二次成就,性能接近闭源决策。

全栈开源决策其他闭源决策模子 DeepSeek-R1-w8a8 硬件配置 2*Atlas 800I A2 输入长度 4096 输出长度 1024 系统输出东南亚呦

微辞 11981288 用户并发 128128

当今,此决策在未名超卓一号集群部署奏凯。该集群由北京大学野心中心矜重研制与运维管理,为北大鲲鹏昇腾科教转换超卓中心提供算力撑合手。IT 之家查询获悉,当作国内首个基于高校自研基础软件的国产智算平台,该集群于 2024 年 11 月 18 日上线开动,首期集成 20 台昇腾 AI 干事器与 10 台鲲鹏通用干事器,AI 算力规模为 30.64PFlops(半精度)。

精美套图

这次发布的 DeepSeek 推理决策依托全栈开源组件构建,在 openEuler 开源操作系统层面进行了深度优化;通过异构调遣负载感知 MoE 冷热内行,从而更细粒度调遣任务;通过异构交融来高效管理内存,减小系统内存碎屑;愚弄毕昇编译器进一步优化,减少算子下发耗时,普及推理合座性能。

▲   算力集群全栈开源推理决策架构图东南亚呦



相关资讯
热点资讯
  • 友情链接:

Powered by 福利姬系 @2013-2022 RSS地图 HTML地图

Copyright © 2013-2024 版权所有