据芯联资本消息,近日,上海昉擎科技完成 Pre-A3 轮融资,新引入投资人国开科创、钧山资本、建发新兴投资、多维资本。某头部VC机构、华业天成、蔚来资本、广发信德、三七互娱等多位老股东进行超额加注。上海昉擎科技近三个月完成多轮融资,历史投资人包括头部产业资本及财务投资机构。
昉擎科技聚焦AI芯片及系统架构研发。伴随AI推理市场需求的快速变化,针对低延迟优化的推理系统将迅速成为新的产业和市场热点,以满足Agent应用对低时延和低成本token的强需求。
昉擎科技聚焦于解耦的分布式AI计算架构。据悉,作为一家AI芯片及系统架构研发商,昉擎科技提出了一种新技术方向:“上下文相关”(context aware)与 “上下文无关”(context free)解耦的分布式计算架构,即将前馈神经网络(Feed-Forward Network, FNN)与注意力机制(Attention)解耦为两个独立模块,将它们分配给最适合的硬件架构来做分布式处理,而非像传统Transformer 那样将两者串联在同一层中。
昉擎科技全球首创技术架构直指Transformer模型的核心效率痛点,将负责记忆和上下文的注意力机制(Attention)与负责逻辑和知识的前馈神经网络(FNN)解耦为两个独立模块,分配给最适合的硬件架构做分布式处理。以分离式架构为基础搭建的,面向低延迟设计的推理系统,更好的匹配了Agent应用的需求,将快速成为新的产业和市场热点。