docker run -d \
    --name <docker_name> \
    --privileged \
    --device /dev/davinci0 \
    --device /dev/davinci1 \
    --device /dev/davinci2 \
    --device /dev/davinci3 \
    --device /dev/davinci4 \
    --device /dev/davinci5 \
    --device /dev/davinci6 \
    --device /dev/davinci7 \
    --device /dev/davinci_manager \
    --device /dev/devmm_svm \
    --device /dev/hisi_hdc \
    -v /usr/local/dcmi:/usr/local/dcmi \
    -v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \
    -v /usr/local/Ascend/driver/:/usr/local/Ascend/driver/ \
    -v /etc/ascend_install.info:/etc/ascend_install.info \
    -v </宿主机>:</容器内目录> \
    -it <镜像id>  bash

# 昇腾
Logo
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者，聚合华为+生态”的社区，内容涵盖鲲鹏、昇腾资源，帮助开发者快速获取所需的知识、经验、软件、工具、算力，支撑开发者易学、好用、成功，成为核心开发者。

鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者，聚合华为+生态”的社区，内容涵盖鲲鹏、昇腾资源，帮助开发者快速获取所需的知识、经验、软件、工具、算力，支撑开发者易学、好用、成功，成为核心开发者。

更多推荐

Ascend NPU 环境下PyTorch Core配置教程

在 Ascend NPU 环境下运行 PyTorch 模型时，需要正确配置 PyTorch、torch_npu 插件以及 CANN 基础软件栈。由于各组件之间存在严格的版本依赖关系，配置过程若操作不当，容易导致运行时错误。本文旨在提供一套清晰、可复现的配置流程，帮助开发者快速搭建或定制开发环境。快速二进制包安装（适用于日常开发和快速部署）和源码编译安装（适用于源码级问题定位与功能增强）。

avatar 鲲鹏昇腾开发者社区

vLLM-Ascend chunked prefill 调优：max_num_batched_tokens 与 block size 128 配置（910B）

通过启用chunked prefill（SplitFuse），优化长/短prompt吞吐与延迟，避免OOM。关键参数需满足≥max_model_len、256倍数，推荐4096+；block size 128见于算子层（如FlashAttention），910B上建议实测调优。禁用与APC/KV量化共用，310P需设保守max_model_len。详询昇腾知识图谱。

avatar 鲲鹏昇腾开发者社区

vllm-ascend 自动寻优 skill：参数搜索顺序与 config 写法

MindSpeed-Agent 通过内置 vllm-ascend-autotune-zh Skill，实现昇腾环境下 vLLM 性能自动寻优。其两层架构：全特性发现层动态提取环境变量与配置项生成候选空间；吞吐寻优层按拓扑、调度、缓存等顺序逐级搜索，结合预检门禁、日志诊断与有效 benchmark 比较，确保可复现最优配置。最终配置映射至 CLI、JSON 与环境变量，支持一键接入昇腾知识图谱，无需

avatar 鲲鹏昇腾开发者社区