登录社区云,与社区用户共同成长
邀请您加入社区
sex varchar(4) DEFAULT '男'
CREATE DATABASE mydb; \c mydb; create table t_user (id serial PRIMARY KEY , username VARCHAR(32) NOT NULL UNIQUE, sex varchar(4) DEFAULT '男' );
鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。
更多推荐
昇腾CANN图引擎的前端门面:pyasc如何让Python接口拥有图引擎全部能
比华为官方 torch_npu 更快:我用 C++/Ascend 写了一个 7B deepseek推理引擎
本文介绍了一个基于C++和Ascend NPU的7B模型推理引擎项目,通过直接编写底层推理核心而非依赖PyTorch框架,在单batch解码场景下实现了35.7 tokens/s的速度,比华为官方torch_npu baseline快3.2%。作者详细展示了项目构建、模型下载、测试对比等完整流程,证明手写C++ runtime在Ascend设备上的性能优势。该项目采用Direct .so推理路径,
昇腾NPU上的NumPy兼容层:asnumpy如何让Python代码自动加速3倍
扫一扫分享内容
为遵守国家网络实名制规定,未绑定将限制内容发布与互动
所有评论(0)