昇腾软件说系列直播 | 推理解决方案专场
·
议题一:vLLM Ascend重塑资料易用性重塑资料易用性，打造极致“开箱即用”体验
议题二:SGLang社区体验优化深度适配昇腾生态，上线从部署到调优的完整开发指南与实操案例，助力开发者快速上手、高效开发
议题三:MindIE Motor简化模型部署简化大EP部署，对接多种推理引擎，提升推理服务性能和可靠性
议题四:msModelslim大幅提升量化效率构筑4bit低精量化能力，支持量化自动调优
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者，聚合华为+生态”的社区，内容涵盖鲲鹏、昇腾资源，帮助开发者快速获取所需的知识、经验、软件、工具、算力，支撑开发者易学、好用、成功，成为核心开发者。
更多推荐
0
0- 0
所有评论(0)