基于cann架构的RTMPose离线推理部署

小虚竹

40人浏览 · 2026-07-14 21:35:10

小虚竹 · 2026-07-14 21:35:10 发布

特别感谢 CANN开源社区的技术共享和社区资源。
CANN（Compute Architecture for Neural Networks）是华为针对AI场景推出的异构计算架构，对上支持多种AI框架，对下服务AI处理器与编程，发挥承上启下的关键作用，是提升昇腾AI处理器计算效率的关键平台。

CANN组织链接：https://atomgit.com/cann
CANN community仓库链接：https://atomgit.com/cann/community

鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者，聚合华为+生态”的社区，内容涵盖鲲鹏、昇腾资源，帮助开发者快速获取所需的知识、经验、软件、工具、算力，支撑开发者易学、好用、成功，成为核心开发者。

更多推荐

176TOPS + 96GB大内存，深度拆解OPi AI Station如何重构边缘AI开发范式

鲲鹏昇腾开发者社区

HCCL底层通信分析

摘要：本文分析了昇腾AI处理器两种通信路径——SDMA（卡间HCCS总线）和RDMA（跨机RoCE网络）的数据传输机制。SDMA路径通过HcclD2DMemcpyAsync实现HBM间直接异步传输，不经过AICore；RDMA路径则通过RoCE网卡DMA引擎直接读写注册的HBM物理地址，全程规避CPU参与。对比OpBase和Zcopy两种模式，前者需userIn到cclIn的拷贝但内存要求宽松，后

鲲鹏昇腾开发者社区

昇腾平台适配GENERator模型实践

GENERator是一个基于Transformer架构的基因组语言模型，可用于DNA序列理解、功能预测等生物信息学任务。本文记录了在Atlas 800I A3推理服务器上，从零搭建GENERator运行环境并完成NPU适配的全过程，包括Conda虚拟环境创建、依赖安装、CANN与PyTorch NPU插件配置，以及常见问题的排查与解决。旨在为后续在昇腾平台上运行类似基因组大模型提供可复现的参考。