登录社区云,与社区用户共同成长
邀请您加入社区
华为全联接大会2024 | 昇腾参会全览预热启航!
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。
更多推荐
居间机构误删客户能不能找回 软删除要留几道口子
鲲鹏轻量级虚拟化实验(华为云ECS版)
【Ascend】基于四台Atlas800T A2混合部署GLM5.3-w8a8c8
基于v0.30.0rc1镜像,采用混合部署方式,在多节点上通过Docker启动Ascend算力容器,挂载模型与驱动资源。主节点配置start_model_server.sh启动vLLM服务,设置网络接口、IP及分布式参数,实现4路数据并行、8路张量并行,启用前缀缓存、推测生成与FlashComm优化,支持大模型高效推理。
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)