调解面对面

OpenAI自研芯片取得关键突破：响应速度、能效表现击败英伟达GB300_我的网站

A |     

E | 在测试中，Jalapeno在两个指标上占据优势：单位功耗所能处理的AI工作量，以及响应的速度。

F | 　　OpenAI此次公开测试Jalapeno时，使用了自家规模较小的开源模型GPT-OSS 120B，以及DeepSeek和Moonshot AI的第三方模型。在Moonshot的模型Kimi K2.5 1T上，Jalapeno展现出的优势更为明显。　　OpenAI表示，在内部测试中，Jalapeno运行一些尚未发布的大型先进模型时同样表现良好。

G | 这表明，随着工作负载变得更大、更复杂，该芯片的设计“价值将进一步提升”。

H | 　　OpenAI与博通合作开发了Jalapeno，公司计划从今年晚些时候开始使用该芯片为其AI模型提供支持，这是其打造自有AI基础设施、更大规模推进芯片自研计划的一部分。　　博通为众多客户生产定制芯片，两家公司于去年宣布合作，并在今年6月大力宣传这款处理器的研发速度，称其以创纪录的速度完成开发。　　目前，越来越多的公司正在开发自研AI芯片，而这一领域目前仍由英伟达占据主导地位。　　Ho表示，通常情况下，一些芯片在运行AI任务时拥有更强的处理能力，而另一些芯片则更擅长快速响应，但Jalapeno兼具这两方面的优势。　　OpenAI将决定哪些AI模型采用Jalapeno运行，从而让客户能够根据需求选择较低成本或较高性能的方案。　　Ho说：“在实验室测试中，Jalapeno在高吞吐量领域展现出很强的性能，这意味着它能够以更低的成本服务大量客户；与此同时，它在低延迟领域也表现出色，这意味着对于重视响应速度的客户而言，其响应时间将非常非常快。”　　Ho表示，由于Jalapeno能够在较低功耗下实现强劲性能——功耗为700瓦——因此可以帮助OpenAI降低数据中心的运营成本。对于数据中心而言，电力是最重要的成本之一。　　需要指出的是，Jalapeno并未与英伟达最新一代的Vera Rubin芯片进行测试，后者刚刚开始出货。此外，Jalapeno也并非为AI模型训练而设计，而训练恰恰是英伟达技术最擅长的领域之一。　　Jalapeno主要面向AI推理阶段，即模型完成训练后，根据用户提示生成响应并执行任务的阶段。

I | 在速度方面的优势意味着，OpenAI可以通过它实现过去只有采用不同内存类型和芯片架构的处理器才能达到的效果。　　OpenAI目前仍依赖Cerebras的技术运行部分模型，这类芯片更适合规模较小的模型。相比之下，Jalapeno能够处理规模更大的模型。

J | Ho表示，OpenAI的技术短期内不会取代Cerebras等供应商。　　Ho说道：“我们对算力的需求非常庞大，这也是为什么我们与这么多不同的供应商签约。这种情况还会持续一段时间。

K | ”他表示，OpenAI希望公开展示自身的研发成果，以推动AI芯片领域的创新。　　其他初创公司也在探索类似方向。Etched上周表示，公司已在一轮融资中获得约210亿美元估值，并开始出货一款低电压芯片。由两名前谷歌芯片业务员工创立的MatX，目前正在开发一种半导体产品，目标同样是兼顾高吞吐量和低延迟。　　OpenAI还表示，公司利用自身AI模型加快了芯片的开发进程。第二代芯片目前也已进入较为深入的研发阶段。Ho表示，公司预计将在“未来几个月”完成该芯片的流片（tape-out），即芯片设计进入最终定型阶段。　　与此同时，OpenAI已经开始设计第三代芯片，希望进一步降低其正在全球范围内大规模建设的AI基础设施成本。Ho表示：“我们目前已经达到了一个能够降低基础设施成本的成本水平和功耗水平。这只是第一步。”　　尽管OpenAI正在积极宣传自研芯片，并将其性能与英伟达产品进行比较，但Ho仍特别强调，OpenAI依然将英伟达视为关键芯片供应商。　　“英伟达是一家非常优秀的合作伙伴，我们仍然需要大量使用英伟达的芯片。”（文章来源：财联社）。

Current article:http://h5pw7.xiadiaosengchengcun.shop/list_s0sy/sd26.html

Published on:02:17:29