logo 鲲鹏昇腾开发者社区

鲲鹏昇腾开发者社区
鲲鹏社区昇腾社区鲲鹏开发资源昇腾开发资源
去全站搜索看看?

登录社区云

登录社区云,与社区用户共同成长

鲲鹏昇腾开发者社区

邀请您加入社区

欢迎加入社区

欢迎加入社区

语言模型
  • 昇腾 910B NPU 大模型部署实践:vLLM 与 Transformers 方案详解

    公司之前用 A100,但懂的都懂——买不到、买不起、不敢买。华为昇腾 910B 是国产替代方案,理论上性能对标 A100。老板拍板:“就它了,先上一台试试。# 我的第一反应docker run --runtime=nvidia ... # 报错:没有这个 runtimeexport CUDA_VISIBLE_DEVICES=0 # 毫无反应NPU 不是"国产 CUDA",它是完全不同的生态。有自己

    Carolier
    2026-02-26 22:08:29
     2369 
     22 
    #华为#语言模型#后端 +1
  • 华为昇腾显卡部署向量化模型(Embedding)和重排序模型(Rerank)

    将向量化模型和重排序模型部署在昇腾卡上(800I A2-910b),以接口的形式以供调用。

    Gaaaaam
    2025-03-17 10:43:29
     7241 
     24 
    #语言模型#人工智能#华为
  • 昇腾910的开发框架以及开发资料

    昇腾910(Ascend 910)是华为推出的高性能AI处理器,主要面向深度学习训练和推理场景。支持模型转换工具(ATC),将主流框架模型(如ONNX、TensorFlow、Caffe)转换为昇腾支持的离线模型(OM格式)。提供昇腾芯片的驱动、运行时环境(AscendCL)、算子库(TBE/TIK)等。:华为开源的AI框架,原生支持昇腾芯片,提供自动并行、端边云协同等特性。提供预训练模型(如Res

    我的余额
    2025-03-24 21:13:05
     4069 
     39 
    #机器学习#语言模型
没有更多了
回到
顶部
logo 提供社区服务与技术支持
logo 提供社区服务与技术支持
©1999-2023北京创新乐知网络技术有限公司 京ICP备19004658号