
美东时间 12 月 24 日,AI 芯片初创公司 Groq 宣布与 NVIDIA 就其推理技术达成非独家许可协议。根据协议条款,Groq 创始人 Jonathan Ross、总裁 Sunny Madra 及其他核心团队成员将加入 NVIDIA,共同推动授权技术升级和大规模应用。
Groq 将继续作为一家独立公司运营,西蒙·爱德华兹 (Simon Edwards) 担任首席执行官。 Groq 云服务将继续正常运行,不会受到此次整合的影响。
值得注意的是,此前有报道称英伟达将以约200亿美元收购AI芯片初创公司Groq。这是英伟达迄今为止最大的一笔收购。不过,英伟达很快表示,它并没有收购 Groq,而是收购了 Groq。ad 只是获得了使用 Groq 推理技术的技术许可。
公开资料显示,Groq 由谷歌核心 TPU 开发人员 Jonathan Ross 于 2016 年创立。公司自主研发的LPU推理芯片是本次合作的核心价值。
与 NVIDIA 的通用 GPU 不同,LPU 专门针对 AI 推理场景进行了优化。它依靠确定性架构和片上SRAM存储器设计等核心技术来提供超低延迟、超高功效和极快的推理速度。对于运行大规模语言模型,LPU 推理速度比 NVIDIA H100 GPU 快 5 至 18 倍,first-to-k 响应时间仅需 0.2 秒。还可以有效降低算力成本,解决传统GPU“内存墙”以及推理过程中的高延迟问题。
这家明星初创公司于 9 月份完成了 7.5 亿美元的融资,投资后估值为 6.9 美元亿美元,累计资助超过30亿美元。
虽然没有被 NVIDIA 完全收购,但与芯片巨头的密切关系使得 Groq 能够保留独立运营权,并依靠 NVIDIA 的批准来发展相关业务,同时赚取可观的技术授权收入。
对于NVIDIA来说,通过“非独家技术授权+核心人才吸纳”的方式,将能够快速弥补AI推理的短板,强化全栈优势,同时降低收购风险,成功面对谷歌TPU和微软Azure Maia的竞争。
反映在资本市场上,12月24日英伟达收于188.61美元,收盘后该股小幅下跌0.32%。这表明市场对战略调整采取了理性态度。然而,NVIDIA 股价今年以来上涨了 35% 以上。
当前,全球人工智能产业正处于从模型训练阶段到最终落地阶段的关键时刻。大规模推理部署,其中低延迟和高能效的推理计算能力至关重要。 NVIDIA与Groq的合作不仅有利于高性能、低成本AI推理技术的双向优化,也让业界看到了“技术授权+技术整合”的新模式,“慢”并能为科技巨头与明星初创公司的合作铺平道路。我们提供更多解决方案。
新浪财经公众号
我们每天24小时播放最新的财经新闻和视频。更多粉丝福利,请扫描二维码关注我们(新浪财经)