登录社区云,与社区用户共同成长
邀请您加入社区
这篇文章摘要(146字): 龙魂系统DNA服务器端验证接口v2.0是一个部署在华为云鲲鹏服务器上的安全验证系统。核心功能包括:基于HMAC的请求签名验证、设备指纹哈希计算、结构化日志记录以及天干地支时间戳机制。系统采用环境变量配置敏感参数,实现自动日志滚动和请求限流,支持最大4KB请求体。通过SHA256哈希验证管理员密钥,并内置传统干支历法用于时间校验。所有DNA注册数据以JSON格式存储,严格
:昇腾实战派。
按“原理论文 → 推理算法 → 工程实现 → 你现在 VERL/vLLM-Ascend 里为什么这样写”的顺序整理,会告诉你每篇看什么、和你调的 MTP 接受率/权重同步有什么关系。按这条线学。这样会明白为什么你之前一直纠结的会互相影响。
摘要:graph-autofusion是一种自动算子融合框架,通过分析计算图的Tensor流和硬件特性自动识别可融合算子组合,无需人工编写规则。它作为GE和Runtime之间的关键工序,将GE优化后的计算图进一步压缩。该框架通过图扫描、依赖分析、硬件约束检查和收益预估四个步骤实现自动融合,显著减少DDR访问量和算子Launch次数。在Transformer模型中,它能将Attention和FFN的
昇腾处理器凭借其独特的硬件架构优势,深度融合低精量化技术,为DeepSeek、Qwen3等系列主流大模型提供了高效、精准的量化方案,实现了模型瘦身与性能提升的双重目标。随着技术的持续演进和应用场景的不断拓展,量化技术必将在大模型产业化落地的道路上发挥更加关键的作用,推动人工智能技术惠及更广泛的领域。昇腾亲和加速的量化解决方案,以W8A8/W4A8/W4A4、A5的MXFP量化为代表,从技术原理的创
在深度学习模型推理与训练过程中,张量规约操作(如均值计算)是高频且关键的算子之一。随着算子对确定性、高性能和跨平台兼容性要求的提升,基于Triton的自定义算子成为优化核心路径。本文以算子为切入点,系统阐述其在NPU平台上的适配流程与性能优化策略,涵盖从原始GPU代码迁移、核心问题定位到多维度调优的完整实践,为开发者提供可复用的技术范式。本文系统梳理了核心逻辑解析与数学建模核间并行重构以解决cor