登录社区云，与社区用户共同成长
邀请您加入社区
要满足生产级大型语言模型（LLM）服务系统对低延迟和低成本高效率日益增长的需求，需要集成先进的优化技术。然而，LLM 的输入输出长度动态且不可预测，再加上这些优化技术，加剧了工作负载的可变性，使得人工智能加速器，尤其是采用tile-based（基于分块）编程模型的 DSA，难以保持高效率。为了应对这一挑战，本文推出了 XY-Serve，这是一个多功能、昇腾（Ascend） 原生、端到端生产型 LL
1) 模型碎片化，大模型提供预训练方案04大模型训练框架MindSpore官方资料。
摘要：在基于MindSpore 2.2.0实现知识图谱增强多模态类比推理项目时，模型首次传播能计算loss，但第二次传播时BERT层Attention_score出现维度不匹配错误。报错显示query_layer(16,12,96,64)与key_layer_transposed(16,12,64,96)矩阵乘法维度冲突（768 vs 3072）。建议开启动态图同步模式(ms.set_contex
在这个信息爆炸的时代，知识图谱作为一种结构化的知识管理工具，能够帮助大家快速理清思路并系统地掌握复杂技术。墨天轮社区现已整理出 Oracle、MySQL、openGauss等国内外数据库，以及数据库管理工具、信创产业发展等领域共计11份图谱，旨在帮助大家由浅入深地探索新的知识和技术。近日，墨天轮知识图谱国产数据库序列迎来新成员——《MogDB知识图谱》。MogDB是云和恩墨基于openGauss开
异构 GPU 支持：支持异构 GPU 资源，当前支持 Nvidia、Apple Metal、华为昇腾和摩尔线程等各种类型的 GPU/NPU多推理后端支持：支持vLLM和推理后端，兼顾生产性能需求与多平台兼容性需求多平台支持：支持 Linux、Windows 和 macOS 平台，覆盖 amd64 和 arm64 架构多模型类型支持：支持 LLM 文本模型、VLM 多模态模型、Embedding 文
本文介绍了一个基于Python深度学习的新闻情感分析预测系统，该系统采用NLP技术对新闻文本进行情感分类（正面/负面/中性）并预测情感趋势。系统包含数据预处理、模型构建、训练优化和可视化预测四大模块，核心采用TensorFlow/PyTorch框架，结合LSTM/BERT等模型。文章详细说明了文本预处理方法、模型构建方案（包括LSTM和BERT两种实现）、训练评估流程以及ARIMA情感趋势预测算法
本文提供了一个基于Python的农作物产量预测分析系统开发任务书模板，涵盖项目背景、技术方案和实施计划。系统通过爬虫技术采集农业数据，结合机器学习模型进行产量预测，具有数据自动更新、多源数据整合和可视化分析功能。技术栈包括Scrapy爬虫框架、MySQL/MongoDB数据库、Scikit-learn/TensorFlow模型以及Matplotlib/Plotly可视化工具。项目分为10周实施，包
本文介绍了Java中文件输入输出的几种方法。首先讲解System.in的基础字节输入，以及如何通过字节缓冲区和字符转换处理汉字输入；其次介绍了Scanner类进行不同类型数据的输入；然后详细说明File类的文件创建、目录管理和遍历操作；最后重点讲解了文件读写操作，包括字节流FileInputStream/FileOutputStream和字符流FileReader/FileWriter的使用，以及
昇思MindSpore作为一个开源的AI框架，为产学研和开发人员带来端边云全场景协同、极简开发、极致性能，超大规模AI预训练、极简开发、安全可信的体验，2020.3.28开源来已超过5百万的下载量，昇思MindSpore已支持数百+AI顶会论文，走入Top100+高校教学，通过HMS在5000+App上商用，拥有数量众多的开发者，在AI计算中心，金融、智能制造、金融、云、无线、数通、能源、消费者1
Apache Fory 是一个基于 JIT 动态编译和零拷贝技术的多语言序列化框架，专为分布式系统和高性能计算场景设计，支持 Java/Python/JavaScript/Golang/ Scala/Kotlin/Rust 等语言。
