登录社区云,与社区用户共同成长
邀请您加入社区
公司之前用 A100,但懂的都懂——买不到、买不起、不敢买。华为昇腾 910B 是国产替代方案,理论上性能对标 A100。老板拍板:“就它了,先上一台试试。# 我的第一反应docker run --runtime=nvidia ... # 报错:没有这个 runtimeexport CUDA_VISIBLE_DEVICES=0 # 毫无反应NPU 不是"国产 CUDA",它是完全不同的生态。有自己
将向量化模型和重排序模型部署在昇腾卡上(800I A2-910b),以接口的形式以供调用。
昇腾910(Ascend 910)是华为推出的高性能AI处理器,主要面向深度学习训练和推理场景。支持模型转换工具(ATC),将主流框架模型(如ONNX、TensorFlow、Caffe)转换为昇腾支持的离线模型(OM格式)。提供昇腾芯片的驱动、运行时环境(AscendCL)、算子库(TBE/TIK)等。:华为开源的AI框架,原生支持昇腾芯片,提供自动并行、端边云协同等特性。提供预训练模型(如Res