登录社区云,与社区用户共同成长
邀请您加入社区
直播互动:https://gitcode.com/cann/cann-learning-hub/issues/6
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。
更多推荐
手把手教你用stream做内存带宽压测详解
📌 鲲鹏 920 通常搭配 DDR4-2400/3200,单线程 ~15-20 GB/s,16 线程 ~80-120 GB/s 属于正常范围。例如:单线程 Triad = 18 GB/s,16 线程 Triad = 120 GB/s。Stream 的测试数组必须远大于 L3 缓存,否则测到的是缓存速度,不是内存速度。📌 你的机器是单路 16 核(NUMA node(s): 1),(1G/2G/
昇腾算力集群的组成:核心组件、架构解析
昇腾算力集群是基于华为昇腾芯片构建的AI计算系统,采用分层架构设计: 硬件层:以昇腾NPU为核心计算单元(Ascend 910训练芯片/Ascend 310推理芯片),搭配鲲鹏CPU和高速互联网络(HCCS协议,带宽200Gbps),通过分布式存储系统实现PB级数据支撑。 软件层:包含昇思MindSpore框架(原生适配昇腾硬件)和推理优化工具(如Ascend-vLLM),提供自动并行、显存优化等
昇思大模型评估框架
昇思大模型评估框架是MindSpore生态的核心组件,专为语言模型和多模态模型提供标准化评估方案。该框架采用四层架构设计,支持60余种学术数据集和Llama、Qwen等主流模型,涵盖知识理解、逻辑推理等评估维度。通过深度适配昇腾NPU,评估效率较CPU提升5倍以上。框架提供精度、生成质量和效率三类核心指标,支持自定义评估任务与指标扩展。配套代码示例展示了从环境配置到结果分析的全流程评估实现,包括精
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)