登录社区云,与社区用户共同成长
邀请您加入社区
分布式数据库能力
使用kubernetes部署分布式数据库
详情查看:https://opengauss.org详情查看:https://docs-opengauss.osinfra.cn
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。
更多推荐
KERNEL_TASK_TYPE_DEFAULT 昇腾CANN算子开发
用于注册算子内核,告诉CANN调度器这个算子是什么类型、怎么执行。
AI本地部署硬件配置指南
部署平台优势劣势适用场景本地部署数据隐私安全、无网络依赖、一次性投入硬件成本高、维护复杂、扩展性差隐私敏感场景、高频使用、专业开发华为云ModelArts一键部署、自动化程度高、昇腾NPU优化区域限制(香港)、绑定华为生态企业级应用、快速落地、国产化需求AWS EKS超大规模扩展、全球覆盖、生态完善成本较高、技术门槛高跨国企业、大规模AI服务、云原生架构U盘便携携带方便、多主机共享性能瓶颈、容量限
DeepSeek-V4-Flash × 昇腾910B PD分离深度分析:模型切分、权重分布与显存占用全揭秘
本文基于华为昇腾Atlas 800I A2(910B 64GB)×8台服务器,使用vLLM-Ascend推理引擎 + Mooncake KV Cache传输框架,对DeepSeek-V4-Flash(284B参数/13B激活/MoE)进行 Prefill-Decode(PD)分离部署的模型切分机制进行全方位深度剖析
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)