英伟达新AI半导体处理性能提升至1.5倍

本轮测量推理吞吐量的MLPerf Inference v5.0测试中，CoreWeave、英伟达和IBM使用2496块GB200 Blackwell芯片，构成MLPerf基准测试中规模最大的英伟达GB200 NVL72集群。在基准测试套件中最大、最复杂的Llama 3.1 405B基础模型训练中，该集群仅用27.3分钟就完成整个流程，相比相似规模集群测试提交结果，训练性能提升超过两倍。

英伟达周二推出了一款名为Jetson Orin Nano Super的生成式AI超级计算机。英伟达CEO黄仁勋表示，这款开发者套件通过软件升级实现了更高性能和更低价格，仅售249美元，尺寸小巧，可放在手掌中，可将生成式AI性能提高高达1.7倍。

三大存储厂加足马力提高HBM产量。

截至7月17日美股收盘，纳斯达克100指数周三收跌2.9%，创下2022年12月以来的最大单日跌幅，作为权重股的“七巨头”全数下跌，其中英伟达(NVDA.US)跌幅居前，挫逾6.6%，苹果(AAPL.US)跌2.5%。

事实上，HBM市场竞争主要集中在SK海力士、三星和美光三大厂商中，而在AI浪潮推动下，上述厂商的业绩也水涨船高。