高通支持Meta Llama 3在骁龙终端上运行

来源:爱集微 #高通#
5933

要点:

· 高通和Meta合作优化Meta Llama 3大语言模型,支持在未来的骁龙旗舰平台上实现终端侧执行。

· 开发者将能够访问高通AI Hub中的资源和工具,以实现在骁龙平台上优化运行Llama 3,从而缩短产品上市时间并充分发挥终端侧AI的优势。

· 高通技术公司的终端侧AI能力包括行业领先的NPU、CPU和GPU技术组合,赋能生成式AI应用实现即时性、增强的可靠性、隐私性、情境感知个性化和成本效益。

2024年4月19日,圣迭戈——高通技术公司和Meta宣布合作,以优化Meta Llama 3大语言模型(LLM)直接在智能手机、PC、VR/AR头显和汽车等终端上的执行。在终端侧运行Llama 3具有显著优势,包括出色的响应能力、增强的隐私性和可靠性,以及为用户带来更加个性化的体验。

高通技术公司高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉表示:“我们赞赏Meta针对Meta Llama 3的开放策略,高通和Meta都致力于赋能开发者,激发AI创新。高通的终端侧AI领导力,结合跨不同边缘终端的广泛市场布局,使我们能够在全球范围内扩大Llama生态系统优势,赋能客户、合作伙伴和开发者打造新一代开创性AI体验。”

此次合作旨在赋能OEM厂商和开发者,在搭载未来旗舰骁龙®平台的终端上支持Llama 3,推动生成式AI功能的普及。高通技术公司强大的异构计算能够无缝利用行业领先的CPU、GPU和NPU处理器,并结合先进的内存架构,赋能客户、合作伙伴和开发者实现最佳应用性能、能效和电池续航。

开发者可通过高通AI Hub访问相关资源和工具,以实现在骁龙平台上优化运行Llama 3。高通AI Hub目前可提供约100个优化AI模型,能够为开发者缩短产品上市时间,并使他们的应用能够发挥终端侧AI的优势。欲获取最新动态,请订阅高通月度开发者简讯。

高通技术公司和Meta致力于驱动创新,打造下一代AI体验。此次合作是双方持续合作关系的重要里程碑,彰显了双方以强大AI能力赋能开发者和用户的不懈努力。

关于高通公司

高通公司坚持不懈地创新,让智能计算无处不在,助力全球解决一系列最重大的挑战。我们经验证的解决方案推动主要行业转型,骁龙®品牌平台赋能非凡消费者体验。依托公司近40年为行业制定标准和打造划时代突破性技术的领导力,我们提供领先的边缘AI、高性能低功耗计算和无与伦比的连接。我们携手生态系统合作伙伴赋能下一代数字化转型,丰富人们的生活、改善企业业务并推动社会进步。在高通,我们致力于推动人类进步。

高通公司包括技术许可业务(QTL)和我们绝大部分的专利组合。高通技术公司(QTI)是高通公司的全资子公司,与其子公司一起运营我们所有的工程、研发活动以及所有产品和服务业务,其中包括半导体业务QCT。骁龙和高通品牌产品是高通技术公司和/或其子公司的产品。高通专利技术由高通公司许可。

责编: 陈炳欣
来源:爱集微 #高通#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

张轶群

微信:zyqjordan23

邮箱:zhangyq@ijiwei.com

集微网记者,关注IC产业,深度报道、企业报道


1565文章总数
536.6w总浏览量
最新资讯
关闭
加载

PDF 加载中...