logo 鲲鹏昇腾开发者社区

鲲鹏昇腾开发者社区
鲲鹏社区昇腾社区鲲鹏开发资源昇腾开发资源
去全站搜索看看?

登录社区云

登录社区云,与社区用户共同成长

鲲鹏昇腾开发者社区

邀请您加入社区

欢迎加入社区

欢迎加入社区

restful
  • vLLM-Ascend推理部署与性能调优深度实战指南:架构解析、环境搭建与核心配置

    然而,随着 AI 算力需求的指数级增长,算力供应的多元化已成为行业共识。华为昇腾(Ascend)系列 AI 处理器,特别是 Atlas 800 A2(搭载 Ascend 910B 芯片)系列,凭借其在 FP16/BF16 混合精度计算上的强劲性能,逐渐成为国产化算力集群的首选。由于 vLLM 主干代码迭代极快,且部分 CUDA 语义(如 CUDA Graph)无法直接映射到 NPU 的 ACL G

    陈橘又青
    2025-12-24 18:30:23
     3.5w 
     24 
    #架构#人工智能#restful +1
没有更多了
回到
顶部
logo 提供社区服务与技术支持
logo 提供社区服务与技术支持
©1999-2023北京创新乐知网络技术有限公司 京ICP备19004658号