Powered by XuanTie,Qwen Inside:阿里通义大模型携手玄铁 RISC-V开启“端侧智能”新纪元

来源:爱集微 #达摩院# #玄铁#
1136

在 AI 迈向“端边云协同”的新时代,大模型的价值不仅在于云端的超强算力,更在于能否高效、低成本地部署到千行百业的终端设备中。近日,阿里通义大模型与达摩院旗下玄铁 RISC-V 宣布将基于开源架构的优势,深度融合,正式推出“Powered by XuanTie,Qwen Inside”技术战略——通义大模型算法与基于开源 RISC-V 架构的玄铁处理器将通过软硬全链路协同优化,实现通义大模型家族在 RISC-V 架构上的极致高效部署和推理性能,从端到云以崭新硬件形态,承载智能能力。未来,双方将进一步实现“模型即服务,芯片即载体”,携手生态伙伴打造下一代超级智能硬件,真正实现 AI 普惠。

玄铁持续深耕 RISC-V 架构的前沿技术创新及开源生态建设,推出能够满足高中低性能需求的玄铁全系列处理器,覆盖包括智能终端、网络通讯、AI 智算、服务器及周边等多个行业场景。通义大模型自发布以来,已发布覆盖语言理解、代码生成、多模态感知、语音交互等多个技术方向的产品,通过前沿 AI 技术,打造安全、可靠、普惠的通用人工智能能力。

过去,大模型部署到端侧常面临算力不足、功耗高、软件栈不兼容等难题。此次合作覆盖通义大模型家族全系列,包括超大规模 Qwen-Max 、轻量化模型 Qwen-Turbo、多模态模型 Qwen-VL、语音模型 Qwen-Audio 等全栈产品。RISC-V 的开放性、模块化设计、硬件扩展能力、并行计算支持以及低功耗特性,非常适合 AI 应用的需求。如今,在端侧芯片设计阶段就将通义的计算图、算子需求、内存访问模式“前置注入”玄铁微架构,实现了算法与硬件的原生匹配——不仅大幅提升推理效率,更显著降低部署门槛。

“开源 RISC-V 架构为硬件设计提供了天然适配 AI 的算力基座。这无疑为不断迭代的大模型、日趋多样的智能体以及不断蝶变激增的算力需求,带来了革新方案。”通义大模型业务经理徐栋进一步解释道:“无论是基于 RVV 加速的语言交互系统架构优化,推动实现端到端训练及实时与端侧整体优化的可能;还是得益于 RISC-V AME 独立矩阵引擎,能够充分完成 Qwen3-VL的全链路异质任务,支撑极致吞吐,让图像识别走向认知;更能持续推动 RISC-V 多模态推理持续突破新高度,让图像推理超越识别,不止于认知。我们相信「开源 x 开源」的通义原生 AI Core,会激发更大潜能!”

“我们不是简单地将大模型塞进设备,而是从端侧芯片底层开始,为大模型‘量身定制’计算底座。例如,我们将 Qwen3-Omni 模型轻量化部署到搭载玄铁处理器的 RISC-V 端侧芯片上,仅用单一模型完成全流程处理,在体积缩小 40%、成本降低 30% 的同时,带来更流畅、更智能的交互体验。”玄铁团队负责人表示,“‘玄铁 + 通义’的深度融合,也标志着一条‘开源芯 + 大模型’的全栈技术路径正在形成,让 AI 有望成为工厂、学校、社区和家庭中每一个智能终端的标配能力。”

过去一年,玄铁再度实现技术跃升,发布面向服务器场景的高性能旗舰处理器 C930, 集成 512-bit RVV1.0 向量引擎与 8 TOPS Matrix 矩阵双引擎,并开放 DSA 扩展接口,满足多样化高性能计算需求,在 SPECint2006 基准测试中通用算力性能达 15/GHz,目前已在服务器、AI、边缘计算等关键场景进行规模化部署。

玄铁 C908X 作为玄铁旗下首款 AI 专用处理器,兼容 64 位 RVV1.0 架构设计,支持同构多核多 Cluster,可提供从 512 到 4096 位的超宽矢量指令,并通过预置 AI 加速指令实现AI 运算加速,助力用户利用 RVV 进行矩阵计算、稀疏计算及非 Tensor 核的特殊计算。通过扩展矢量宽度,C908X 可提供最大 1TOPS/Core/GHz 算力并支持多种 AI 算子库,从而加速 AI 部署及大模型部署。同年,基于 C908X 处理器,玄铁发布面向端侧智能场景的全栈 RISC-V AI 方案,构建了覆盖端侧、边缘侧到云侧的完整软硬件生态,可应对多样化的 AI 计算需求,为边缘 AI 推理、智能驾驶、工业自动化和智能终端等场景,提供强有力的支持,满足低延时长续航、高精度推理、高效数据处理等业务需求。

面对 AI 等新兴场景对定制化算力的迫切需求,玄铁创新推出全新 Flex 系列可扩展平台,开创“通用 IP + 自定义加速”双轨模式。客户既可直接采用高可靠的玄铁处理器 IP,亦可基于 Flex 提供的全套软硬件框架(含处理器建模、开发环境及工具链)打造专属加速器。经实测,基于 Flex-C 定制的处理器相较通用版本最高可实现 10 倍性能提升。目前,Flex 系列已与高性能 C 系列无缝兼容,并将逐步拓展至嵌入式 E 系列与实时控制 R 系列,全面覆盖多元应用场景。

未来,双方将持续开放玄铁 IP 与通义大模型的协同工具链,携手端侧芯片厂商、整机企业与行业 ISV,借助 RISC-V 自身的智能架构优势,推动“Qwen Inside”走进机器人、工业控制、车载终端、端侧智能、服务器及周边等万千场景,让大模型真正“落地生根”,赋能千行百业智能化升级。

Powered by XuanTie, 基于开源的创新加速时代,正式到来!

责编: 爱集微
来源:爱集微 #达摩院# #玄铁#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...