资讯🔥7.0
SemiAnalysis:谷歌TPU杀入英伟达腹地,Ironwood每美元性能最高领先B200 50%
📋总体概括
SemiAnalysis发布首份谷歌TPUv7 Ironwood第三方推理测试,显示其每美元性能最高领先英伟达B200/B300达50%:每用户每秒100 token下,Ironwood百万token推理成本约0.181美元,比B200(0.222美元)低19%、比B300(0.276美元)低34%;按谷歌TCO口径优势更扩大至76.7%和130.2%。谷歌同时推进TorchTPU原生PyTorch后端并于10月开源,Anthropic已承诺采购逾百万颗TPU,TPU正从自用走向对外销售,直接冲击英伟达在AI推理芯片的主导地位。
⚡关键信息
- ▸SemiAnalysis首测TPUv7 Ironwood:每美元性能最高领先B200/B300达50%,谷歌正式对外发起推理芯片竞争
- ▸每用户每秒100 token下,Ironwood百万token成本约0.181美元,较B200便宜19%、较B300便宜34%
- ▸高并发场景按谷歌TCO计算,Ironwood对B200性能优势达76.7%,对B300达130.2%
- ▸谷歌10月开源TorchTPU原生PyTorch后端,取代局限较多的TorchAX,降低开发者迁移门槛
- ▸Anthropic承诺采购逾百万颗TPU,预计2029年用量超DeepMind,成谷歌最大外部客户
🔥犀利点评
这份报告最大的信息不是50%的性能领先,而是谷歌终于肯把TPU当生意做了。但要看清:最亮眼的76.7%和130.2%是按谷歌自家TCO口径算的,既当运动员又当裁判,第三方复现前只能打折听。真正致命的是TorchTPU和Anthropic这张订单——软件生态和标杆客户才是撼动CUDA护城河的两把刀。推理市场利润薄、对成本敏感,恰是TPU最锋利的切入点;英伟达的训练王座暂时无忧,但推理这块肥肉,真的被咬下来了。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 华尔街见闻 阅读全文 →