Groq
提示：此条目的主题不是Grok。| Groq, Inc. | |
|---|---|
 | |
| 公司类型 | 私人公司 |
| 成立 | 2016年 |
| 创办人 | 乔纳森·罗斯 |
| 代表人物 | 乔纳森·罗斯（首席执行官）、桑尼·马德拉（首席运营官） |
| 总部 |  美国加利福尼亚州山景城 |
| 产业 | |
| 产品 | 语言处理单元（LPU） |
| 营业额 | 5亿美元（2025年）[1] |
| 净利润 | −8800万美元（2023年）[1] |
| 员工人数 | 250人（2023年） |
| 网站 | groq |
Groq, Inc. 是一家美国人工智能（AI）公司，研发用于AI推理的人工智能加速器专用集成电路（ASIC）。该芯片架构最初以张量流处理器（Tensor Streaming Processor，TSP）之名推出，后随ChatGPT问世引发大型语言模型（LLM）广泛普及，而更名为语言处理单元（Language Processing Unit，LPU）。该公司还开发相关的计算机硬件与软件，以加速AI推理性能。
可运行在Groq LPU上的AI工作负载包括：大型语言模型（LLM）[2][3]、图像分类[4]以及预测性分析[5][6]。
Groq总部位于美国加利福尼亚州山景城，在圣何塞、华盛顿州利伯蒂湖、多伦多、伦敦设有办公室，并在北美洲和欧洲各地拥有远程员工。
2025年12月，英伟达（Nvidia）与Groq宣布达成一项据称价值约200亿美元的协议，英伟达将获得Groq的AI推理技术的授权，并接纳数名Groq高管加盟[7][8]。Groq表示将继续作为独立公司运营[9]。
历史
[编辑]Groq于2016年由一群前Google工程师创立，领衔人为乔纳森·罗斯（Jonathan Ross）——他是张量处理单元（TPU）的设计者之一；道格拉斯·怀特曼（Douglas Wightman）则是一名企业家、曾任Google X（即X开发公司）工程师，并出任公司首任首席执行官[10][1]。
Groq获得了Chamath Palihapitiya创立的Social Capital的种子投资，2017年投资额为1000万美元[11]，此后很快又获得追加融资。2021年4月，Groq完成由老虎环球基金（Tiger Global Management）和D1 Capital Partners领投的3亿美元C轮融资[12]。现有投资者包括：Infinitum、The Spruce House Partnership、Addition、GCM GrosvenorXⁿ、Firebolt Ventures、General Global Capital与Tru Arrow Partners，以及Infinitum、TDK旗下TDK Ventures与XTX Ventures的追加投资[13]。C轮融资后，Groq估值超过10亿美元，跻身独角兽行列[14]。
2022年3月1日，Groq收购了以数据流系统技术著称的Maxeler Technologies。为尊重Oskar Mencer博士及其团队在该领域长期的研究成果，Maxeler决定保留其品牌[15][16]。
2023年8月16日，Groq选择三星电子位于得克萨斯州泰勒市的晶圆厂为其下一代芯片代工，采用三星4纳米制程工艺，这也是这座三星新工厂获得的首笔晶圆代工订单[17]。
2024年2月19日，Groq低调上线开发者平台GroqCloud，吸引开发者使用Groq API并租用其芯片算力[18][1]。2024年3月1日，Groq收购了主营面向企业AI解决方案的初创公司Definitive Intelligence，以助力其云平台[19]。
2024年8月，Groq完成由贝莱德私募股权部门领投的6.4亿美元D轮融资，估值达28亿美元[1][20]。2025年2月10日，Groq宣布获得沙特阿拉伯15亿美元的承诺投资，用于扩大其基于LPU的AI推理基础设施，并在沙特达曼新建GroqCloud数据中心[21][22]。
截至2025年，Groq已在美国、加拿大、中东和欧洲建成十余座数据中心，并应用其技术[23]。
2025年12月，英伟达同意以约200亿美元收购Groq的部分资产，这是英伟达史上最大的一笔交易[24]。Groq将其描述为一项非独占授权协议[9]。作为协议的一部分，Groq创始人罗斯与公司总裁桑尼·马德拉将加入英伟达。2026年5月，有报道称Groq正从现有投资者处筹集6.5亿美元，用于向AI推理云业务转型，该轮融资以按比例配售形式进行，由投资者Disruptive与Infinitum提供后备认购[25][26][7][8]。2026年8月24日，英伟达宣布，旗下Groq 3 LPX架构已经实现全面量产，该架构通过大幅提升Token生成速率，扩展了英伟达Vera Rubin NVL72系统的推理性能。同时，新云厂商Nebius成为首个采用英伟达Groq 3 LPX的AI云服务商，产品将于今年晚些时候上线。[27]
语言处理单元
[编辑]
Groq最初将自研ASIC命名为张量流处理器（TSP），代号“艾伦”（Alan）；后由品牌副总裁马克·希普斯（Mark Heaps）与创始人兼CEO乔纳森·罗斯将其更名为语言处理单元（LPU），以更直观地体现处理器的用途[28][2][29][30]。
LPU采用功能切片（functionally sliced）式微架构，将存储单元与向量、矩阵计算单元交错排布[31]。这种设计有利于利用AI计算图中的数据流局部性，从而提升执行性能与效率。LPU的设计基于两个关键观察：
- AI工作负载具有显著的数据并行性，可映射到专用硬件上，从而带来性能提升[31]。
- 确定性（deterministic）的处理器设计，配合生产者－消费者编程模型，可对硬件部件实现精确的控制与推理，从而优化性能与能效[31]。
除功能切片式微架构外，LPU还可概括为单核、确定性的架构[31][32]。LPU通过避免使用传统反应式硬件部件（分支预测器、仲裁器、重排序缓冲区、缓存）[31]，并由编译器显式控制所有执行，从而保证程序执行的确定性[31]。
第一代LPU（TSP）在25×29毫米的14纳米芯片、900兆赫兹标称时钟频率下，每平方毫米硅片的计算密度超过每秒1万亿次运算（1 TeraOp/s）[31]。第二代LPU（LPU v2）将采用三星4纳米制程制造[17]。
Groq在其LPU上托管开源大型语言模型供公众访问[33]。这些演示可通过Groq官网及其开发者playground访问。
参见
[编辑]参考资料
[编辑]- ^ 1.0 1.1 1.2 1.3 1.4 Nieva, Richard. The AI Chip Boom Saved This Tiny Startup. Now Worth $2.8 Billion, It's Taking On Nvidia. Forbes. 2024-08-05 [2026-09-02]. （原始内容存档于2024-09-30） （英语）.
- ^ 2.0 2.1 Williams, Wayne. 'Feels like magic!': Groq's ultrafast LPU could well be the first LLM-native processor — and its latest demo may well convince Nvidia and AMD to get out their checkbooks. TechRadar Pro. TechRadar. 2024-02-27 [2024-04-19]. （原始内容存档于2024-02-27） （英语）.
- ^ Ward-Foxton, Sally. Groq Demonstrates Fast LLMs on 4-Year-Old Silicon. EETimes. 2023-09-12 [2024-04-19]. （原始内容存档于2024-04-08） （英语）.
- ^ Ward-Foxton, Sally. Groq's AI Chip Debuts in the Cloud. EETimes. 2020-01-21 [2024-04-19]. （原始内容存档于2020-11-28） （英语）.
- ^ Heinonen, Nils. Researchers accelerate fusion research with Argonne's Groq AI platform. Argonne Leadership Computing Facility. [2024-04-19]. （原始内容存档于2022-11-01） （英语）.
- ^ Larwood, Mariah; Cerny, Beth. Argonne deploys new Groq system to ALCF AI Testbed, providing AI accelerator access to researchers globally. Argonne Leadership Computing Facility. [2024-04-19]. （原始内容存档于2024-04-26） （英语）.
- ^ 7.0 7.1 Nellis, Stephan. Nvidia, joining Big Tech deal spree, to license Groq technology, hire executives. Reuters. 2025-12-24 [2025-12-26]. （原始内容存档于2025-12-26） （英语）.
- ^ 8.0 8.1 Silberling, Amanda. Nvidia to license AI chip challenger Groq's tech and hire its CEO. TechCrunch. 2025-12-24 [2025-12-26]. （原始内容存档于2026-08-17） （英语）.
- ^ 9.0 9.1 Groq and NVIDIA enter non-exclusive inference technology licensing agreement. Groq. 2025-12-24 [2025-12-26]. （原始内容存档于2026-08-24） （英语）.
- ^ Levy, Ari. Several Google engineers have left one of its most secretive AI projects to form a stealth start-up. CNBC. 2017-04-21 [2024-04-19]. （原始内容存档于2024-03-14） （英语）.
- ^ Clark, Kate. Secretive semiconductor startup Groq raises $52M from Social Capital. TechCrunch. 2018-09-06 [2024-04-19]. （原始内容存档于2024-04-19） （英语）.
- ^ King, Ian. Tiger Global, D1 Lead $300 Million Round in AI Chip Startup Groq. Bloomberg. 2021-04-14 [2024-04-19]. （原始内容存档于2021-12-06） （英语）.
- ^ Wheatly, Mike. AI chipmaker Groq raises $300M in Series C round. Silicon Angle. 2021-04-14 [2024-04-19]. （原始内容存档于2021-04-14） （英语）.
- ^ Andonov, Kaloyan; Lavine, Rob. Analysis: Groq computes a $300m series C. Global Venturing. 2021-04-19 [2024-04-19]. （原始内容存档于2024-03-19） （英语）.
- ^ Oskar Mencer. Google学术. [2026-01-30] （英语）.
- ^ Prickett Morgan, Timothy. GROQ BUYS MAXELER FOR ITS HPC AND AI DATAFLOW EXPERTISE. The Next Platform. 2022-03-02 [2024-04-19]. （原始内容存档于2024-03-13） （英语）.
- ^ 17.0 17.1 Hwang, Jeong-Soo. Samsung's new US chip fab wins first foundry order from Groq. The Korea Economic Daily. [2024-04-19]. （原始内容存档于2024-03-20） （英语）.
- ^ Franzen, Carl. Groq launches developer playground GroqCloud with newly acquired Definitive Intelligence. Venture Beat. 2024-03 [2024-04-19]. （原始内容存档于2024-04-19） （英语）.
- ^ Wiggers, Kyle. AI chip startup Groq forms new business unit, acquires Definitive Intelligence. TechCrunch. 2024-03-01 [2024-04-19]. （原始内容存档于2024-04-19） （英语）.
- ^ Wiggers, Kyle. AI chip startup Groq lands $640M to challenge Nvidia. TechCrunch. 2024-08-05 [2024-08-26]. （原始内容存档于2024-08-25） （英语）.
- ^ Saudi Arabia Announces $1.5 Billion Expansion to Fuel AI-powered Economy with Groq. Groq. 2025-02-10 [2025-12-24]. （原始内容存档于2025-06-20） （英语）.
- ^ AI chip startup Groq secures $1.5 billion commitment from Saudi Arabia. Reuters. 2025-02-10 [2025-12-24] （英语）.
- ^ Kao, Kimberley. AI Unicorn Groq Charts Data-Center Expansion Plan. The Wall Street Journal. 2025-10-03 [2025-10-04] （英语）.
- ^ Faber, David. Exclusive: Nvidia buying AI chip startup Groq's assets for about $20 billion in its largest deal on record. CNBC. 2025-12-24 [2025-12-26]. （原始内容存档于2026-08-27） （英语）.
- ^ Silberling, Amanda. After Nvidia's $20B not-acqui-hire, AI chip startup Groq reportedly raising $650M. TechCrunch. 2026-05-29 [2026-06-02]. （原始内容存档于2026-07-09） （英语）.
- ^ Groq raising $650 million for its second act. Axios. 2026-05-28 [2026-06-02]. （原始内容存档于2026-07-25） （英语）.
- ^ 胡含嫣. 200亿美元收购成果落地：英伟达Groq机架已全面量产，响应速度快4倍. 澎湃新闻. 2026-08-25 [2026-09-03].
- ^ Lyons, Austin. Chipstrat Chat with Groq's Mark Heaps. Chipstrat. 2026-01-30 [2026-01-30]. （原始内容存档于2026-06-13） （英语）.
- ^ Mellor, Chris. Grokking Groq's Groqness. Blocks & Files. 2024-01-23 [2024-04-19]. （原始内容存档于2026-01-18） （英语）.
- ^ Abts, Dennis; Ross, Jonathan; Sparling, Jonathan; Wong-VanHaren, Mark; Baker, Max; Hawkins, Tom; Bell, Andrew; Thompson, John; Kahsai, Temesghen; Kimmell, Garrin; Hwang, Jennifer; Leslie-Hurd, Rebekah; Bye, Michael; Creswick, E.R.; Boyd, Matthew; Venigalla, Mahitha; Laforge, Evan; Purdy, Jon; Kamath, Purushotham; Maheshwari, Dinesh; Beidler, Michael; Rosseel, Geert; Ahmad, Omar; Gagarin, Gleb; Czekalski, Richard; Rane, Ashay; Parmar, Sahil; Werner, Jeff; Sproch, Jim; Macias, Adrian; Kurtz, Brian. Think Fast: A Tensor Streaming Processor (TSP) for Accelerating Deep Learning Workloads (PDF). 2020 ACM/IEEE 47th Annual International Symposium on Computer Architecture (ISCA). 2020-05: 145–158 [2026-09-02]. ISBN 978-1-7281-4661-4. doi:10.1109/ISCA45697.2020.00023. （原始内容 (PDF)存档于2025-06-12）.
- ^ 31.0 31.1 31.2 31.3 31.4 31.5 31.6 Abts, Dennis; Kimmell, Garrin; Ling, Andrew; Kim, John; Boyd, Matt; Bitar, Andrew; Parmar, Sahil; Ahmed, Ibrahim; Dicecco, Roberto; Han, David; Thompson, John; Bye, Michael; Hwang, Jennifer; Fowers, Jeremy; Lillian, Peter; Murthy, Ashwin; Mehtabuddin, Elyas; Tekur, Chetan; Sohmers, Thomas; Kang, Kris; Maresh, Stephen; Ross, Jonathan. A software-defined tensor streaming multiprocessor for large-scale machine learning. Proceedings of the 49th Annual International Symposium on Computer Architecture. 2022-06-11: 567–580 [2024-03-18]. ISBN 978-1-4503-8610-4. doi:10.1145/3470496.3527405. （原始内容存档于2025-06-02）.
- ^ Singh, Satnam. The Virtuous Cycles of Determinism: Programming Groq's Tensor Streaming Processor. Proceedings of the 2022 ACM/SIGDA International Symposium on Field-Programmable Gate Arrays. 2022-02-11: 153 [2024-03-18]. ISBN 978-1-4503-9149-8. doi:10.1145/3490422.3510453. （原始内容存档于2025-02-25）.
- ^ Morrison, Ryan. Meet Groq — the chip designed to run AI models really, really fast. Tom's Guide. 2024-02-27 [2024-04-19]. （原始内容存档于2026-03-16） （英语）.