模型并行显示内存溢出
需要用多卡或者多机跑,整体HBM至少模型大小的4倍。硬件环境(Ascend/GPU/CPU): Ascend。执行模式(PyNative/ Graph): 不限。MindSpore版本: 2.2.0。模型并行显示内存溢出。一般是因为模型太大。
·
1 系统环境
硬件环境(Ascend/GPU/CPU): Ascend
MindSpore版本: 2.2.0
执行模式(PyNative/ Graph): 不限
2 报错信息
2.1 问题描述
模型并行显示内存溢出
3 根因分析
一般是因为模型太大。
4 解决方案
需要用多卡或者多机跑,整体HBM至少模型大小的4倍。
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。
更多推荐


所有评论(0)