金秋九月,开源之约如期而至。2026年9月12日,鲲鹏昇腾开源技术高校行·华东站在上海练秋湖举行,近200名高校学子齐聚一堂,与来自vLLM、Triton及openEuler、openGauss、openUBMC等开源社区的技术专家面对面,围绕推理引擎、算子编程、智能运维、AI数据底座与算力管理等前沿方向展开深度交流。活动以“主题分享+Workshop”的全天议程,搭建起从底层算力到上层应用、从技术认知到动手实践的桥梁。

图片

一、生态总览:把软件栈以开源的形式交给开发者

华为计算开源社区运营负责人郑振宇在华为计算开源生态全景中介绍到,昇腾与鲲鹏的软件栈,正在以全面开源开放的形态向开发者交付。CANN在使能昇腾算力释放的同时,以分层解耦的能力满足各层级灵活开发需求,易用性大幅提升;昇腾除全面开源Mind系列训、推工具链之外,还全面支持vLLM、SGLang、DeepSpeed等主流开源训练、推理加速生态,主流大模型全面适配;在操作系统领域,openEuler 作为面向数字基础设施的 AI 原生开源操作系统,在AI Infra能力上持续增强;鲲鹏则从硬件使能(openUBMC)、基础软件(openGauss)到应用使能(BoostKit 加速套件)全面开源开放,使能技术创新。随着 Agent 业务爆发,智能体的编排运行依赖通用计算、模型推理落在 AI 算力,鲲鹏与昇腾的天然协作,也正是本场高校行同时覆盖两条技术线的原因。

图片

二、vLLM中的 KV Cache 优化:从Cache复用到Agent场景优化

华为高级工程师、vLLM Ascend Maintainer王玺源围绕长序列与Agent场景的KV Cache管理展开分享。针对并发请求重复计算、HBM容量有限、单请求长度膨胀三大挑战,他系统梳理了两条优化主线:模型架构上,以多头KV共享、稀疏注意力、层间KV复用与KV量化持续压缩KV占用;推理系统上,vLLM通过“Block存储+哈希链命中”实现前缀缓存复用,结合多级缓存卸载、PD分离与KVConnector高效传输、上下文并行(CP)切分超长序列,释放显存压力。

面向Agent新场景,vLLM正从“无状态”走向“有状态”的会话感知管理,以TTL保护、保活与预热等主动策略提升缓存命中,实测首Token时延、吞吐与前缀缓存命中率均显著提升。

图片

三、Triton-Ascend:构建便捷高效的昇腾算子编程新范式

华为工程师伍天尧聚焦“极致性能与开发敏捷性”这一算子开发的核心矛盾。分享了Triton 的解法是把内存搬运与流水排布交给编译器,开发者只聚焦分块计算逻辑,实测端到端性能与 Ascend C 处于同一量级。「生态算子 0day 迁移」依托完整的编译软件栈:Python 风格的 Triton DSL 编写的算子,经编译器生成基于 MLIR 的 TTIR 中间表示,再由后端降级为硬件可执行代码,生态算子随后端扩展即可迁移到新硬件;昇腾侧还提供访存优化、Autotune 自动调优与流水调度等特性。

图片

四、openEuler Witty:面向超节点OS的系统智能自治解决方案

openEuler SIG-Intelligence Committer 唐舒楠介绍了Witty的整体设计与落地进展。该方案以“用户接入—运维智能体—运维底座”三层架构,将自然语言指令转化为可执行的运维任务:shennong-crash-agent 实现内核崩溃的分钟级诊断闭环,面向超节点的witty-ub-agent能在5分钟内完成10GB日志的故障定位定界,openEuler-ops-agent 覆盖16个场景的运维任务。Witty正沿着L1智能诊断到L4系统自治的路线持续演进,相关能力已在开源社区开放共建。

图片

五、从RAG到Agent:基于openGauss构建AI应用的数据底座

openGauss 社区运营孙爽以“AI 正在改变人们向数据库提问的方式”为切入点,系统介绍了 openGauss 面向 RAG 与 Agent 构建的 AI 数据底座能力:DataVec 通过向量存储、索引与相似性检索,让数据库从“精确匹配”扩展到“理解语义”;RAG 在生成回答前从 openGauss 中检索可核验的证据与来源,提升回答的相关性;openGauss MCP Server 与 DataKit MCP Server 分别将数据查询处理和数据库管理能力封装为标准工具,推动 Agent 从“回答问题”走向“完成任务”;oGMemory 负责长期上下文的整理、更新与召回,openGauss 则为记忆数据提供持久化、检索与保护能力。此外,openGauss 开源实习项目已上线 83 道任务,为高校开发者提供了从技术学习、动手实践到参与社区共建的进阶路径。

图片

六、下一代算力硬件管理:openUBMC构筑开源算力设备管理新生态

openUBMC社区委员会委员于飞从超节点时代的管理挑战切入,分享了社区最新进展。面对AI算力的急速扩张和超节点等集群架构带来的管理复杂度跃升,openUBMC以微组件架构为底座,实现北向功能自接入,开启服务器管理新范式——支持更多运维特性与深度定制化能力,为算力千行万业打造更智能的管理能力;南向联合云厂商、整机商、设备商等计算产业上下游伙伴,共同制定服务器南向管理标准,0day即可完成硬件适配,使能国产部件商自主集成与快速适配。此外,社区开源编程大赛吸引众多高校企业参与,验证了端侧小模型部署的可行性,推动算力设备管理从传统人机、机机交互迈向人-Agent、Agent-Agent协同管理,为算力基础设施智能化演进提供了新路径。

图片

七、Workshop:把技术"跑"起来

Workshop是这场高校行区别于一般技术讲座的关键设计:三个班对应技术主题,学生不再只是听众,而是在真实开发环境里亲手复现讲过的技术。

华为工程师伍天尧带领学生完成了 Triton 算子开发实践。围绕大模型时代算子开发“性能与效率难以兼顾”的痛点展开。同学们从向量加法这一并行计算的“Hello World”入手,循序渐进地掌握昇腾NPU上的核间切分、核内循环切分与边界安全处理等核心技巧,并在Softmax等经典算子上动手调优、观察性能变化,完整走通了从Python DSL到硬件可执行代码的编译流程,直观感受Triton“把硬件细节交给编译器”的开发魅力。

图片

华为工程师李家琦带领学生完成了 DSpark 投机解码实践。从自回归推理的访存瓶颈讲起,同学们厘清了从传统投机解码、MTP、EAGLE到DSpark的技术演进脉络;随后基于vLLM-Ascend在昇腾NPU上亲手部署模型,对比普通解码与投机解码的差异,并通过调整投机Token数观察时延、吞吐与接受率等指标的变化,在真实实验数据中理解大模型推理加速的基本原理。

图片

openEuler SIG-Intelligence Committer 唐舒楠、openGauss 社区运营孙爽两位专家分别带领学生完成openEuler与openGauss 实践。在openEuler Witty智能运维实践中,同学们用一句自然语言驱动Witty完成数据库部署、慢查询根因诊断与硬件兼容性分析,亲身验证“对话即运维”;在 openGauss RAG 实践中,同学们以 openGauss DataVec 文档为知识来源,依次了解文档切分、向量生成、数据写入 openGauss 及 HNSW 索引创建的完整过程,并在精准匹配、语义检索和无依据拒答等场景中进行验证。通过调整 TOP_K 和 THRESHOLD 参数,直观感受检索范围与拒答边界对回答结果的影响;在 n8n 可视化界面中亲手运行并拆解完整的 RAG 链路,深入理解 RAG 如何检索依据、生成答案,以及在缺乏可靠依据时拒绝作答。

图片

八、结语:开源开放,共建智能世界生态新选择

高校是开源生态最具活力的源头,高校开发者是技术创新最富生机的力量。本次华东站活动以技术为纽带,让高校学子与一线开源专家同频共振,在真实的代码与算力中触摸产业前沿。未来,鲲鹏昇腾开源技术高校行将继续走进更多城市与校园,以更开放的姿态汇聚青年智慧,与新一代开发者携手夯实智能世界的开源底座,让开源的种子在更广阔的土壤中生长为参天大树。

欢迎关注openUBMC

社区官网:https://www.openubmc.cn

代码仓地址:https://atomgit.com/openUBMC

Logo

鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。

更多推荐