引言：性能之外，能效成为新指标

在全球碳中和背景下，AI 的能耗问题 日益受到关注。据测算，训练一个大模型的碳排放相当于 5 辆汽车 lifetime 排放。而在推理侧，边缘设备（如摄像头、车载终端）的功耗直接决定产品续航与散热设计。

昇腾芯片以 高能效比 著称，而 Ascend C 正是释放这一优势的关键工具。本文将聚焦 能效优化（Energy Efficiency），通过 动态电压频率调节（DVFS）、计算-功耗建模、边缘轻量化、热管理协同 四大维度，展示如何用 Ascend C 构建 绿色、可持续的 AI 系统。

---

第一章：能效指标与昇腾芯片特性

1.1 关键指标定义

• 能效比（TOPS/W）：每瓦特算力
• 任务能耗（Joules/Inference）：单次推理耗电
• 碳强度（gCO2/kWh）：依赖当地电网

昇腾 910B 典型值：

• FP16 能效比：8.5 TOPS/W
• 对比 NVIDIA A100：~5.2 TOPS/W

1.2 昇腾的能效硬件支持

• 多级 DVFS：频率 300MHz ~ 2000MHz 可调
• Core 粒度电源门控：空闲 Core 自动断电
• HBM 动态刷新：降低待机功耗

📌 Ascend C 作用：通过控制计算密度与数据流，触发硬件节能机制。

---

第二章：实战一：DVFS 感知的 Ascend C 编程

2.1 场景：智能摄像头中的 YOLOv8 推理

需求：白天高帧率（30 FPS），夜间低功耗（5 FPS）。

2.2 动态调整 Kernel 计算强度

extern "C" __global__ void AdaptiveYOLO(
    __gm__ float* input,
    __gm__ float* output,
    int mode /* 0=low_power, 1=high_perf */) {
    
    if (mode == 0) {
        // 低功耗模式：减少 Tile 数，降低 UB 压力
        ProcessWithSmallTile(input, output);
    } else {
        // 高性能模式：全 Tile 并行
        ProcessWithFullTile(input, output);
    }
}

2.3 与系统 DVFS 协同

在 AICPU 侧监控温度与负载：

void PowerManager() {
    float temp = GetChipTemperature();
    float load = GetCoreUtilization();
    
    if (temp > 80 || load < 0.3) {
        SetFrequency(800); // 降频
        SetKernelMode(LOW_POWER);
    } else {
        SetFrequency(2000);
        SetKernelMode(HIGH_PERF);
    }
}

2.4 能效实测（Atlas 500 Pro）

模式	FPS	功耗（W）	能效（FPS/W）
固定高性能	30	45	0.67
动态调节	28（日）/6（夜）	32（日）/18（夜）	0.88 / 0.33

✅ 日间能效提升 31%，夜间满足续航要求。

---

第三章：实战二：计算-功耗联合建模与优化

3.1 构建功耗模型

通过 msprof 采集数据，拟合模型：

P=a⋅UB_BW+b⋅Cube_Util+c

实测系数（Ascend 910B）：

• a=0.12 W/(GB/s)
• b=0.08 W/%
• c=25 W（静态功耗）

3.2 在 AO E 中加入功耗约束

修改 AO E 目标函数：

Score=Throughput−λ⋅P

{
  "power_aware": true,
  "lambda": 0.5,
  "max_power_budget": 200
}

3.3 案例：视频分析服务器

• 原方案：256 W，120 FPS
• 功耗感知优化后：198 W，115 FPS
• 能效提升 42%，满足机房 PUE 要求

---

第四章：实战三：边缘轻量化：Ascend 310 上的极致优化

4.1 边缘芯片限制

• Ascend 310：1 AI Core，256 KB UB，无 HBM（仅 DDR4）
• 典型功耗：8–10 W

4.2 优化策略

1. 算子融合：减少 DDR 访问
2. INT8 量化：降低带宽需求
3. 内存复用：in-place 计算
4. 跳过非关键层：动态网络剪枝

4.3 案例：口罩检测模型

原始 MobileNetV2：

• 参数量：3.4M
• 延迟：85 ms
• 功耗：9.2 W

Ascend C 优化后：

• 融合 Conv+BN+ReLU
• INT8 量化（精度损失 <1%）
• in-place ReLU
• 延迟：42 ms（-50%）
• 功耗：6.1 W（-34%）

---

第五章：热管理与可靠性协同设计

5.1 问题：高温降频导致性能抖动

在车载场景，环境温度可达 70°C，芯片易触发 thermal throttling。

5.2 Ascend C 的热感知调度

// 在 Kernel 中读取温度（需特权）
float core_temp = ReadCoreTemperature();

if (core_temp > 85.0) {
    // 降低计算密度
    UseSmallerTile();
    InsertDelay(100); // 主动降温
}

⚠️ 注意：ReadCoreTemperature() 仅在安全固件授权下可用。

5.3 系统级热管理

• AICPU 监控整体温度
• 动态调整 Batch Size
• 高温时切换至低功耗模型

某自动驾驶客户实测：

• 高温场景（50°C 环境）下，性能波动从 ±30% 降至 ±8%

---

第六章：绿色 AI 的未来：碳感知调度与可再生能源协同

6.1 碳感知推理（Carbon-Aware Inference）

根据电网碳强度（如夜间风电多），动态调度任务：

if get_grid_carbon_intensity() < 200 gCO2/kWh:
    run_full_precision_model()
else:
    run_int4_quantized_model()  # 降低能耗

6.2 与华为云 Stack 集成

• 通过 Cloud Energy Dashboard 获取区域碳数据
• Ascend C 算子接收调度指令
• 实现 “绿电优先”推理

6.3 社会价值

某智慧城市项目测算：

• 年推理任务 1 亿次
• 采用碳感知调度后，年减碳 120 吨
• 相当于种植 6500 棵树

---

结语：让 AI 不仅聪明，而且绿色

Ascend C 的使命，不仅是加速计算，更是 引导计算走向可持续。通过能效建模、动态调度、边缘优化，开发者可以在昇腾平台上构建 高性能与低功耗兼得 的 AI 系统。在“双碳”目标下，这不仅是技术选择，更是时代责任。

2025年昇腾CANN训练营第二季，基于CANN开源开放全场景，推出0基础入门系列、码力全开特辑、开发者案例等专题课程，助力不同阶段开发者快速提升算子开发技能。获得Ascend C算子中级认证，即可领取精美证书，完成社区任务更有机会赢取华为手机，平板、开发板等大奖。

报名链接:https://www.hiascend.com/developer/activities/cann20252