从人工智能到算子：开启华为昇腾AI开发之旅

在“智联世界，昇腾AI无处不在”的浪潮中，如何从概念走向实现，从模型深入到芯片？本文将从一场火热的大赛说起，带你一步步走进华为昇腾AI算子的世界，揭秘从AI模型到底层硬件的实现之路。

引言：由一场AI应用创新大赛说起

当前，华为昇腾AI应用创新大赛 正在如火如荼地进行。大赛鼓励开发者基于昇腾AI基础软硬件平台，开发大模型及行业AI创新应用。

当我们谈论AI应用开发时，通常位于框架层（如昇思MindSpore），使用高级API构建模型。但你是否想过，这些模型背后的矩阵乘法、卷积、激活函数等基础操作，最终是如何在AI处理器上高效执行的呢？

答案是算子。它是连接上层AI算法与底层硬件指令的桥梁，是AI计算的基石。本文将带你沿着 “从人工智能到算子” 的路径，初步探索华为昇腾算子的开发世界。

第一部分：算子的核心概念——什么是算子？

算子的本质

我们可以将算子理解为一个预封装好的计算单元。例如，ReLU 算子完成了所有输入数据的“取最大值于0”的操作。

层级	内容	示例
AI模型	完整的神经网络	ResNet、BERT
AI算子	基础计算操作	Conv2D、MatMul、ReLU
硬件指令	芯片级操作	矩阵乘、向量加、数据加载

算子开发的关键挑战

开发一个高性能的算子需要关注多个层面的问题：

核心概念：固定Shape vs. 动态Shape

特性	固定Shape	动态Shape
维度确定时机	编译时	运行时
性能	优化目标明确，性能最佳	需要通用性，性能有损耗
内存管理	静态分配	动态分配
适用场景	传统CV模型	大模型、可变输入

第二部分：CANN与Ascend C——算子的开发基石

CANN 架构概述

CANN 是华为昇腾AI计算生态的核心，全称是Compute Architecture for Neural Networks。

Ascend C：为NPU而生的编程模型

Ascend C 的设计哲学：

特性	说明	benefit
AI Core抽象	封装底层达芬奇架构	无需关注硬件细节
SIMD/SPMD	单指令多数据模式	天然适合并行计算
C++标准	基于现代C++	低学习成本
自动化流水	自动流水线调度	隐藏访存延迟
结构化编程	强制代码结构	易维护、易调试

第三部分：算子开发初体验——从"Hello World"开始

Host-Device编程模型

核函数代码结构详解

让我们通过一个加法算子的示例来理解Ascend C的编程模式：

text

┌─────────────────────────────────────────────────────────────┐
│                    add_kernel 核函数                         │
├─────────────────────────────────────────────────────────────┤
│ 初始化阶段:                                                  │
│   - 获取工作空间                                             │
│   - Tensor数据块绑定                                        │
├─────────────────────────────────────────────────────────────┤
│ 数据搬运阶段:                                                │
│   ┌─────────────────┐   ┌─────────────────┐                 │
│   │   Global Memory │   │   Local Memory  │                 │
│   │   (输入数据A)   │──▶│   (本地缓存A)   │                 │
│   └─────────────────┘   └─────────────────┘                 │
│   ┌─────────────────┐   ┌─────────────────┐                 │
│   │   Global Memory │   │   Local Memory  │                 │
│   │   (输入数据B)   │──▶│   (本地缓存B)   │                 │
│   └─────────────────┘   └─────────────────┘                 │
├─────────────────────────────────────────────────────────────┤
│ 计算阶段:                                                   │
│   ┌─────────────────┐       ┌─────────────────┐             │
│   │   Local Memory  │       │   Local Memory  │             │
│   │   (本地缓存A)   │ ---+  │   (结果缓存C)   │             │
│   └─────────────────┘   |  └─────────────────┘             │
│                         +--> 逐元素加法                    │
│   ┌─────────────────┐   |                                  │
│   │   Local Memory  │   |                                  │
│   │   (本地缓存B)   │ --+                                  │
│   └─────────────────┘                                      │
├─────────────────────────────────────────────────────────────┤
│ 数据回写阶段:                                                │
│   ┌─────────────────┐   ┌─────────────────┐                 │
│   │   Local Memory  │   │   Global Memory │                 │
│   │   (结果缓存C)   │──▶│   (输出数据C)   │                 │
│   └─────────────────┘   └─────────────────┘                 │
└─────────────────────────────────────────────────────────────┘

对应的伪代码流程：

python

这不是真实可运行的代码，而是展示逻辑流程的伪代码

class AddKernel:
def init(self):
self.workspace = None
self.local_a = None
self.local_b = None
self.local_c = None

def init_phase(self, args):
    """初始化阶段"""
    self.workspace = get_workspace(args)
    # 绑定Tensor到数据块
    self.local_a = bind_tensor(args.input_a, local_mem)
    self.local_b = bind_tensor(args.input_b, local_mem)
    self.local_c = bind_tensor(args.output_c, local_mem)

def copy_in_phase(self):
    """数据搬运入核"""
    copy_global_to_local(self.local_a, global_a)
    copy_global_to_local(self.local_b, global_b)

def compute_phase(self):
    """计算阶段"""
    for i in range(self.local_a.size):
        self.local_c[i] = self.local_a[i] + self.local_b[i]

def copy_out_phase(self):
    """数据回写"""
    copy_local_to_global(global_c, self.local_c)

第四部分：搭建你的算子开发环境

环境选择对比

环境类型	CPU模式	NPU模式
用途	代码编译检查	完整开发调试
硬件要求	x86服务器	昇腾NPU设备
安装内容	CANN软件包	完整CANN栈
运行能力	❌ 不能运行	✅ 完整运行
调试支持	语法检查	性能分析调试

华为云环境搭建路径

推荐路径：

1. 初学者：直接使用 ModelArts Notebook，免安装

2. 进阶开发者：申请 华为云ECS（昇腾规格），获得完整控制权

3. 企业用户：部署 本地Atlas服务器，保障数据安全

结语：开启你的算子开发之旅

通过本文，我们完成了一次从宏观的AI应用到底层算子的深度探索：

🎯 我们了解了：

• 算子的核心概念与开发挑战

• CANN和Ascend C的技术架构

• 核函数的完整执行流程

• 多种开发环境的选择

🔧 接下来你可以：

1. 在华为云申请昇腾开发环境

2. 按照官方文档运行第一个样例

3. 尝试修改现有算子理解其工作原理

4. 参与昇腾社区的活动和大赛

深入算子开发，意味着你正在打开AI技术的"黑盒"，走向更底层、更核心的领域。这不仅能让你更好地理解和优化AI模型，更能让你在"昇腾AI无处不在"的生态中，具备构建极致性能AI应用的核心竞争力。

现在，是时候动手实践，在昇腾的舞台上创造你的下一个AI创新了！

2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入门系列、码力全开特辑、开发者案例等专题课程，助力不同阶段开发者快速提升算子开发技能。获得Ascend C算子中级认证，即可领取精美证书，完成社区任务更有机会赢取华为手机，平板、开发板等大奖。
报名链接:https://www.hiascend.com/developer/activities/cann20252