苹果借力谷歌定制芯片预训练AI模型，英伟达霸主地位面临风险

苹果论文披露，在8192块谷歌TPUv4 芯片上训练一个大型服务器语言模型——服务器苹果基础模型（AFM），进行6.3万亿token训练；端侧AFM在2048块TPUv5p 芯片训练；AFM和AFM服务是在“云TPU 集群”上训练。

目前为止，AI硬件市场主要由对英伟达训练芯片的无限需求主导。但如果通过增加训练时间和测试（推理）时间，模型就能获得更好的结果。市场需求或将从大规模预训练集群转向推理云，英伟达在推理芯片市场可能会面临更多竞争。

美股周二收盘，英伟达市值超越了苹果，市值登顶美股第一，成为全球最有价值的上市公司。而据芯片代工厂台积电10月份释放的消息，AI需求仍坚挺。台积电管理层称，AI需求是真实的，而且现在需求增长“才刚开始”。

国产AI芯片在市场需求的推动下，呈现出快速增长的态势。

现在全球企业都有办法通过英伟达的AI Foundry服务来构建“超级模型”了，企业可以用自己的数据或者合成数据来训练这些模型。目前埃森哲公司率先用英伟达的这个新服务来给客户打造定制模型。

Snapdragon X Plus 8处理器专为运行微软Windows操作系统的PC设计，承诺能够在保持长时间电池续航的同时处理AI任务。高通首席执行官Cristiano Amon表示，公司进军PC芯片市场，是其摆脱仅仅依赖移动芯片组的“多元化”战略的一部分。

本次共发布三款Llama 3.1模型，其中Llama 3.1 405B包含4050亿个参数，这是Meta迄今为止最大的模型。扎克伯格称Llama 3.1为“艺术的起点”，将对标OpenAI和谷歌公司的大模型。同时，Meta和英伟达实现强强联手，英伟达AI Foundry将为全球企业提供Llama 3.1模型的定制服务。