登录社区云,与社区用户共同成长
邀请您加入社区
该问题在容器外不出现。
容器内拉起服务化前source了set_env.sh,拉起服务化后推理报错:
该问题在容器外不出现
有两种常见报错:
export LD_LIBRARY_PATH=/usr/lib64:$LD_LIBRARY_PATH
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。
更多推荐
昇腾平台Apex编译实战:从环境配置到问题排查
【字节跳动】都天府智算中心(北纬30.5138°,东经104.0735°|4000卡昇腾910B)设备详细清单白皮书
如果模型h200训练好的模型 要部署到华为 升腾 950导致的误差怎么处理
摘要: 本文阐述了模型从NVIDIA GPU迁移至昇腾NPU的技术方案,强调无需重新训练原始数据,只需完成权重格式转换和精度验证。核心流程包括:通过ONNX中间格式转换模型权重、使用华为CANN工具链编译优化、进行前向对齐校验和逐层误差分析。仅在精度偏差超标或使用特殊量化格式时才需微调。文章澄清了"数据对齐"概念,区分精度校验与内存格式转换,并指出昇腾950硬件完全兼容,未来部署成本有望降低。最终
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)