英伟达周二 (17 日) 推出一款名为“Jetson Orin Nano Super”的生成式人工智能 (AI) 超级电脑。英伟达执行长黄仁勋表示,这款开发者套件透过软体升级实现更高性能和更低价格,仅售 249 美元,尺寸小巧、可放在手掌中,可将生成式 AI 性能提高达 1.7 倍。
该公司表示,这款产品适合商业 AI 开发者、爱好者和学生,与其前代产品相比,其生成式 AI 推理性能提升了 1.7 倍,性能提高了 70%,每秒可执行高达 67 兆次的 INT8 运算 (67 INT8 TOPS),记忆体频宽也提升了 50%,达到了 102GB/s。
黄仁勋在替这款产品录制的影片中表示,无论是创建基于检索增强生成 (Retrieval-Augmented Generation, RAG) 的大型语言模型 (LLM) 聊天机器人,构建视觉 AI 代理,还是部署基于 AI 的机器人,Jetson Orin Nano Super 都是理想的选择,这款套件都能以更低的成本提供强大的运算效能。
因为该产品支援低功耗设计,能以 7 瓦到 25 瓦的功耗运行,适合各种边缘设备云算场景,无论是智慧城市、智慧农业还是机器人开发。
黄仁勋还说,Jetson Orin Nano Super 非常适合希望在生成式 AI、机器人技术或电脑视觉领域发展技能的人士。在 AI 领域从任务专用模型转变为基础模型的趋势下,也为开发者提供了一个将创意变成现实的易用平台。
英伟达强调,随着 AI 技术逐渐从云端走向终端,实体 AI 将是下一波发展重点,Jetson Orin Nano Super 不仅可以用于开发聊天机器人,也适合视觉 AI 代理或部署 AI 机器人等应用。
该公司也宣布将替 Jetson Orin NX 和 Nano 系列的系统模组提供软体更新,让它们也能享受 Super 模式的效能提升,最高可达 70%。这些更新将透过 Jetpack SDK 管理器发不在英伟达网站和 GitHub 上。
Jetson Orin Nano Super Developer Kit 预估很快就会透过全球经销商开始供货。对于想要入门 AI 开发的学生、工程师或创客来说,这款开发套件提供一个经济实惠且功能强大的平台选择。
英伟达将 Jetson Orin Nano Super Developer Kit 定位为推动生成式 AI 技术普及化的关键产品,希望在智慧交通、零售管理以及物联网 (IoT) 应用中大放异彩。