登录社区云,与社区用户共同成长
邀请您加入社区
社区任务参与·开源仓实践·算子成果分享
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。
更多推荐
使用 mis-tei 在昇腾310P上部署 bge-m3模型
本文详细介绍了如何在华为昇腾310P NPU上使用mis-tei框架部署BAAI开源的BGE-M3多语言通用嵌入模型。文章从环境校验、镜像拉取、模型下载到容器启动和接口测试,提供了完整的部署流程指南,包含Docker-compose配置示例和Python调用代码。针对生产环境部署,给出了资源限制、自动重启等优化建议,并列出常见问题排查方法。该方案充分发挥了昇腾310P的低功耗高吞吐优势,通过mis
Agent还没来,昇腾已经把从硬件到软件的路铺好了
torchtitan-npu:大模型预训练在昇腾上的分布式执行链路与 Checkpoint 优化
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)