登录社区云，与社区用户共同成长
邀请您加入社区
昇思 Web 与 API 推理云托管模型服务，是深度学习模型从实验室走向生产环境的核心环节，也是鲲鹏国产化算力平台实现 AI 业务规模化的关键支撑。依托 FastAPI 轻量化框架与昇思全场景推理能力，开发者可快速将 AI 模型封装为标准化云服务，实现跨平台、跨系统、跨设备的远程调用。服务原生适配鲲鹏 ARMv8 架构，无需指令集迁移、无需依赖改造，具备高性能、低延迟、高稳定、易部署等优势。
昇思 Web 与 API 推理服务器让 OrangePi Alpro 从单机推理升级为边缘 AI 服务节点，实现可视化操作与远程接口调用，完美适配边缘智能落地需求。本文代码可直接在鲲鹏 ARM64 开发板运行，依托 MindSpore Lite 硬件加速，实现低延迟、高稳定、高性能推理服务，是国产化嵌入式 AI 项目部署的标准方案。
很多小伙伴想要一窥网络安全整个体系，这里我分享一份打磨了4年，已经成功修改到4.0版本的《平均薪资40w的网络安全工程师学习路线图》对于从来没有接触过网络安全的同学，我们帮你准备了详细的学习成长路线图。压箱底的好资料，全面地介绍网络安全的基础理论，包括逆向、八层网络防御、汇编语言、白帽子web安全、密码学、网络安全协议等，将基础理论和主流工具的应用实践紧密结合，有利于读者理解各种主流工具背后的实现
一台可联网且已安装好 vLLM-Ascend 环境的机器（与目标机 NPU/OS/CANN 版本一致）
注：开并行重建索引不会阻止写操作，但重建索引会占用硬件资源，因此也建议在业务空闲期间操作。索引文件损坏，导致在14377块上获取到的索引页内容为0，需要重建索引修复。注：不开并行重建索引会锁表以防止写操作，建议在业务空闲期间操作。系统平台：银河麒麟 （鲲鹏）命令一：不开并行重建索引。命令二：开并行重建索引。
写给新手的 cann-recipes-infer：昇腾推理最佳实践到底是啥？
写给新手 cann-recipes-train：昇腾训练最佳实践到底是啥？
写给新手的 profiling-suite：昇腾性能分析套件到底是啥？
写给前端的 CAAN-pyasc：昇腾Python Ascend C绑定到底是啥？
写给前端的 CAAN-profiling-suite：昇腾性能分析套件到底是啥？
