一个2.4万亿参数的大模型,想在不同AI芯片上跑起来,要多久?
这次答案是:Day 0。
Qwen3.8-2.4T-A95B发布当天,FlagOS同步完成9家AI芯片的跨芯适配和部署验证。
平头哥、摩尔线程、华为昇腾、沐曦、昆仑芯、海光、清微智能、燧原全部在列。
更值得关注的是——这不是简单的“支持名单+9”。真正想解决的是AI开发里一个很现实的问题:为什么每出一个新模型,换一种芯片,都要重新折腾一次?
FlagOS正在尝试用统一系统软件栈,把不同模型×不同芯片之间复杂的适配关系,从“M×N”降成“M+N”。这次甚至针对2.4T超大规模模型增加了INT8量化支持,让更多现有AI算力也有机会承载最新模型。
对普通开发者来说,体验可以浓缩成一句话:代码尽量别动,底下的芯片可以换。
如果这种模式真正规模化,未来开发者选AI算力,可能真的不用再被某一种硬件生态牢牢绑定。
这件事,你觉得重要吗?🤔
#人工智能##开源##千问##FlagOS##Qwen遇上FlagOS#

Logo

鲲鹏昇腾开发者社区是面向全社会开放的“联接全球计算开发者,聚合华为+生态”的社区,内容涵盖鲲鹏、昇腾资源,帮助开发者快速获取所需的知识、经验、软件、工具、算力,支撑开发者易学、好用、成功,成为核心开发者。

更多推荐