登录社区云,与社区用户共同成长
邀请您加入社区
1 系统环境
硬件环境(Ascend/GPU/CPU): Ascend
MindSpore版本: 2.2.0
执行模式(PyNative/ Graph): 不限
2 报错信息
2.1 问题描述
模型并行显示内存溢出
3 根因分析
一般是因为模型太大。
4 解决方案
需要用多卡或者多机跑,整体HBM至少模型大小的4倍。
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。
更多推荐
【上篇】鲲鹏 920 + 昇腾 910B 裸金属大模型推理部署实录:从“导包崩溃”到全管线点火
码力全开特辑直播预告|11月19日19:00|线性attention:GDN、KDA算子原理及flash-linear-attention-npu仓工作流简介
华为云开源具身世界模型WM1.2:五项技术各自对着一个现实麻烦
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)