不只造车还要造云端芯片?理想汽车传探索自研推理芯片

来源:钜亨网 #理想汽车# #推理芯片#
9768

理想汽车正把自研芯片版图从车端延伸至云端。据《晚点Auto》引述多名业内人士报道,理想正在探索开发云端推理芯片,初步规划沿用旗下智能驾驶芯片采用的数据流架构,但整项项目仍处于早期阶段。

若计划顺利推进,理想未来可望以自研芯片承接部分原本由GPU处理的云端推理工作,包括智能驾驶模型的数据处理、测试与模拟,以及大型语言模型的请求处理。不过,涉及参数更新的模型训练工作,仍需交由专门的训练芯片执行。

延续车端芯片设计 降低重复研发成本

知情人士表示,将数据流架构由车端延伸至云端,在技术上具有可行性。其中一种做法,是沿用车载NPU(神经网络处理器)的运算设计,再把多个AI运算芯粒整合封装,搭配高带宽存储器(HBM)与高速互联技术,组成运算规模更大的云端推理芯片。

这种设计可让车端与云端芯片共用部分硬件架构、软件工具及开发经验,进而分摊研发成本。对理想而言,也有机会提高智能驾驶模型从云端开发、测试到车端部署的整合效率。

不过,云端芯片并非把车载芯片直接放大即可。车端通常处理较固定的模型与传感器数据,运行节奏也相对稳定,设计重点主要放在低功耗、低延迟及可靠执行。

相比之下,云端系统必须同时支持更多模型,并应对频繁更新、输入长度不一及请求量剧烈波动等情况,因此还涉及HBM、多芯片互联、动态批次处理及集群调度等复杂技术。

单颗芯片效能并非唯一关键

一名芯片业内人士指出,做出达到特定效能指标的单颗芯片并非最困难的部分,真正的挑战在于能否让整套推理系统具备成本竞争力。

因此,数据流架构从车端转向云端后,是否能给理想带来实际效益,仍取决于芯片支持不同模型的能力、软硬件协同效率,以及整体系统的运行成本。

目前海外也有多家芯片公司探索数据流架构,包括SambaNova、Groq及Tenstorrent。SambaNova与Groq的核心成员分别具有斯坦福大学及Google TPU项目背景;Tenstorrent则由曾负责特斯拉自动驾驶芯片的Jim Keller领导。

不过,相较于GPU,数据流架构在模型通用性、软件生态及大规模部署能力方面,仍有待进一步验证。

两名芯片研发主管离职 项目进度是否受影响待观察

就在理想探索云端推理芯片之际,公司芯片团队也传出人事异动。《晚点Auto》从多个渠道确认,理想芯片软件研发负责人金一华,以及芯片前端设计一组负责人戴颉均已离职。

两人先前皆向算力单元负责人罗旻汇报,而罗旻则向理想集团技术长谢炎报告。

目前尚不清楚两名主管离职的原因,也无法确定相关人事变动是否会影响云端推理芯片项目的开发进度。由于计划仍在早期阶段,理想最终是否会正式立项、投入量产,以及实际推出时间,仍存在不确定性。

责编: 爱集微
来源:钜亨网 #理想汽车# #推理芯片#
THE END
关闭
加载

PDF 加载中...