预训练的 Scaling Law 正在走入死胡同，o1 让更多创业公司重新复活

GPT-4o 读万卷书，「o1」行万里路。

沿着 Scaling Law、卷模型性能，可能会走到「死胡同」。

天风宏观认为，从长远看，不管中国企业出海的动机是主动还是被动，最后都汇集到了国际化这条必经之路上。它们通过出海变成了一张更大的网，把产业链、供应链、利益链分散了到更多国家和地区，这也是中国的scaling law。

在新范式下，LLM 领域的 scaling law 会发生变化：计算量变大仍会带来模型智能的提升，但会从模型参数量变大，转移到 inference-time compute 增加，也就是模型进行更多 RL 探索。

Kevin Scott表示，过去20年里，人工智能领域最重要的进步都与“规模”有关；OpenAI的潜力在于未来可能成为构建AI平台的基础；数据的质量比数量更重要。

从能力上看，o1证明了语言模型可以具备系统2的能力；张鹏：我突然想到一个问题，作为创业公司，尤其像你这样需要投入大量成本来开发基础模型的公司，你觉得过去18个月，尤其是o1的出现，是否对你的心态有了改变？