当大模型逐步迈向产业落地,开发者关注的重点正从“模型能力”转向“工程能力”。如何快速完成开发环境搭建?如何提升模型部署效率?如何降低算子开发门槛?如何让 AI 开发真正做到高效、易用、可复现?

6月27日,由 CANN 开源社区联合 AtomGit 举办的 CANN 开发者 Meetup · 开发体验专场(上海站)成功举行。 来自算子开发、模型部署、异构计算与性能优化等方向的技术开发者们齐聚上海,围绕 CANN 开发实践、模型加速、开发工具、社区共建等热门话题展开深入交流,共同探索 AI 开发的新实践。

图片

不同于传统技术宣讲,本次 Meetup 更加聚焦“开发体验”与“开发者共创”。活动不仅邀请多位 CANN 团队核心成员分享社区最新能力,也邀请来自社区的一线开发者带来真实项目实践,并特别设置“吐槽大会”,让开发者与社区团队面对面交流,共同推动产品持续演进。

图片

聚焦开发体验,持续降低 AI 开发门槛

作为本次 Meetup 的核心内容,来自 CANN 团队的 8 位核心成员围绕开发平台、安装部署、Ascend C 开发、智能开发工具、模型加速及通信框架等方向进行了系统分享,全面展示了 CANN 开源社区围绕开发体验持续优化的最新成果。

图片

CANNLab 架构师 毛远星

CANNLab 架构师毛远星 介绍了 CANNLab 一站式开发平台,平台定位为“开箱即用”的 AI 开发环境,内置算子开发环境、常用工具及 NPU 算力,通过浏览器连接本地 IDE 即可完成编码、编译、调试全流程,大幅降低环境准备成本。未来规划覆盖小模型训练推理、资源管理等方向,助力开发者快速进入实践。

图片

CANN 安装易用性专家 冯靖轩

围绕开发者最关心的环境搭建问题,CANN 安装易用性专家冯靖轩以《CANN 第一站加速:部署效率翻倍》为主题,聚焦环境搭建痛点,分享安装部署效率翻倍方案。社区全新上线整合页面,统一下载、版本获取与安装流程,简化原有繁琐步骤,通过昇腾社区统一入口即可快速完成部署,显著降低首次使用门槛,让开发者将更多时间投入模型开发与算法创新。

图片

asc-devkit Committer 常先宇

asc-devkit Committer 常先宇围绕《Ascend C 开发体验升级》进行了分享。围绕 Ascend C 开发体验升级,社区持续完善开发手册、教程文档、样例工程及学习路径,优化资料结构,新增图文示意、核心特性解析及实战案例。同时丰富从基础到高级的实践案例,帮助开发者建立完整知识体系,实现从快速上手到深入开发的能力跃升。

图片

CANNBot agent 专家 谯竣仁

CANNBot agent 专家谯竣仁带来了《CANNBot 智能体,畅享算子开发新旅程》主题分享。他介绍,CANNBot 智能体,基于“平台底座 + 多个领域 Bot”架构,覆盖模型、算子、通信、图、编程语言等场景。开发者通过自然语言描述需求,即可自动完成代码生成、架构设计、测试验证、性能调优,实现从需求到交付的全流程智能辅助,显著提升算子开发效率。

图片

PTO Committer 王政

PTO Committer 王政带来的《CANNBot 赋能|PyPTO-Gym 仓正式开源》为主题的分享,PyPTO-Gym 仓面向昇腾 AI 提供开放算子样例与模型适配示例,帮助开发者快速完成 PyPTO 算子开发与模型接入。结合 CANNBot 智能能力,可实现算子设计、开发、调优全过程智能化,为社区提供高效、可复用的开发参考。

图片

cann-recipes 大模型推理专家 田佳渊

cann-recipes 大模型推理专家田佳渊围绕《Recipes infer:推理组件升级,开箱即用》,介绍 Recipes 推理组件升级,聚焦大模型推理场景,提供开箱即用的轻量级框架,覆盖主流模型,加速部署与推理验证。社区持续推进框架重构,优化接口设计、模型覆盖、测试评估及轻量化架构,让开发者便捷完成模型接入与性能验证,加速 AI 落地。

图片

npugraph_ex 技术专家 周佳龙

npugraph_ex 技术专家周佳龙带来了《基于 DeepSeek-V4 图模式加速实践》的分享,分享基于 DeepSeek-V4 的图模式加速实践。针对图框架接入的兼容性、集成复杂度及性能问题,介绍 Acgraph、npugraph 等能力优化成果,通过更易用的集成方式、完善接口和持续性能提升,帮助开发者充分释放昇腾 NPU 算力,提高推理效率。

图片

hixl Committer 赵智慧

最后,hixl Committer 赵智慧分享了《HIXL CS 架构实现KV Cache 极速传输》。他介绍,HIXL CS 架构实现 KV Cache 极速传输,围绕 Client-Server 通信架构优化接口设计、使用流程及开发体验,降低通信接入门槛。社区持续收集反馈,完善接口与文档,为分布式 AI 开发提供稳定、高效的通信基础能力。

CANN 核心成员们的分享,全面覆盖了开发环境、学习体系、智能开发、模型推理、算子开发、图计算及通信框架等多个方向,充分展示了 CANN 开源社区持续围绕"开发体验"进行能力升级的最新成果,也为开发者提供了更加完善、高效、开放的 AI 开发工具链。

来自社区开发者的一线实践:让经验沉淀为生态能力

本次 Meetup 还邀请三位长期活跃于 CANN 开源社区的开发者带来真实项目实践,从不同角度展示国产 AI 开发生态的发展成果。

从"踩坑"到"闭环":Qwen2.5 CANN 版本跨代适配实践

图片吴雨桐|CSDN 博主「晓雨的笔记本」

华中科技大学 AI 安全方向在读博士、CSDN 博主晓雨 分享 Qwen2.5 模型在 CANN 8.5 × 昇腾 910 上的强化学习训练全流程适配经验,系统梳理硬件、底层库、框架依赖、调度及评测等关键环节,形成可复现的工程方案。借助 CANNLab 环境和提交 PR 沉淀排障工具,体现 CANN 生态从单点踩坑迈向任务级闭环。

新手也能快速完成算子开发:CANN-Learning Hub + CANNBot 打造完整学习闭环

图片

CANN 核心贡献者 谢好冉

CANN 核心贡献者谢好冉带来了《新手实操全链路:依托 CANN-Learning-Hub 与 CANNBot 快速完成算子开发》主题分享。针对环境搭建复杂、学习资料零散、算子开发周期长等新手痛点,他重点介绍了 CANN-Learning-Hub 学习平台与 CANNBot 组合,形成完整学习闭环。Learning Hub 系统化覆盖算子基础、Tiling、融合优化;CANNBot 自动完成代码生成、测试、文档、报错分析及调优,将数天开发周期压缩至分钟级,大幅降低新手入门门槛。

多智能体协作,让 Ascend C 开发更加智能

图片

徐洋帆|CSDN 博主「工具人呵呵」

CSDN 博主徐洋帆分享了《JiuwenSwarm & CANNBot 依托小艺辅助 Ascend C 开发》。他围绕 Ascend C 开发流程复杂、调试成本高等问题,展示了基于 openJiuwenSwarm 多智能体协作的 Ascend C 开发方案,内置 8 类 Agent、30 余项 Skill,覆盖开发全过程,自动拆解任务、生成代码、定位报错、调优及仿真。结合 CANNBot 与小艺平台,支持手机端轻量开发,通过自然语言生成完整算子工程,展现 AI Agent 赋能潜力。

CANN 吐槽大会:把话筒交给开发者

作为本次 Meetup 最具特色的环节,CANN吐槽大会邀请开发者围绕开发体验展开面对面交流。

在这里插入图片描述

图片
在这里插入图片描述

在这里插入图片描述

现场围绕 CANNLab 平台能力、安装部署流程、Ascend C 学习资料、CANNBot 智能开发、PyPTO-Gym 样例生态、Recipes 模型支持、NPU Graph 性能优化以及 HIXL 接口能力等多个方向展开热烈讨论。开发者们结合自身实践,分享了开发过程中遇到的问题,也提出了关于学习资源、文档体系、样例建设、功能完善等方面的大量建议。面对开发者提出的问题,CANN 团队现场逐一回应,并就产品规划、能力建设及未来演进方向进行了深入交流。

不同于传统“听分享”的技术活动,CANN 开源社区希望通过这种开放讨论的形式,让每一位开发者都能够真正参与社区建设,让产品持续朝着开发者真正需要的方向演进。

共建开放生态,让开发者成为社区建设者

AI 开发生态的发展,不仅需要持续的技术创新,更离不开广大开发者的参与和贡献。本次 CANN 开发者 Meetup 不仅展示了社区在开发工具、模型加速、算子开发、AI Agent 等方向的最新成果,也搭建起开发者与社区团队深度交流的平台。从官方能力分享,到社区实践案例,再到面对面的产品共创讨论,每一位开发者都不仅是社区的使用者,更是生态建设的重要参与者。

未来,CANN 开源社区将继续围绕开发体验优化、AI 工程实践、算力生态建设等方向举办更多 Meetup、技术沙龙及开发者活动,与更多开发者携手打造开放、繁荣、可持续发展的国产 AI 开源生态,让更多创新成果在社区中不断生长。

Logo

鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。

更多推荐