大模型要失宠了？垂直行业的小模型才是未来？【AI大师课4.5】

通用模型只属于巨头，垂直模型才是更多企业的未来。

大模型之于AI时代相当于交流电之于电气时代。

多款AI产品已具备爆款AI应用的雏形。

国内外AI大模型的投资时间窗口已经关闭。

支撑150万台AI服务器，英伟达耗电量堪比一个国家。

"如果把参数规模扩大x倍，模型能力就会得到y倍的提升" ——这条支撑着AI领域几年狂飙突进的Scaling Law，似乎正在走向尽头。 从GPT-3到GPT-4，从BERT到PaLM，AI的进化史几乎就是一部算力竞赛史。但最近的发展却给这个故事带来了转折：Claude 3在维持3.2B上下文的同时显著压缩了参数规模；Anthropic的研究人员公开表示"更大的模型未必更好"；DeepMind在近期论文中更是直指Scaling Law在逼......

OpenAI推出的提示词缓存可减少输入token成本多达50%；视觉微调能用图像和文本自定义模型的视觉理解功能；实时 API让开发者将ChatGPT的语音控件添加到App中；模型蒸馏让开发者能利用GPT-4o等尖端模型的输出提高GPT-4o mini等小模型的性能。

从披露的数据来看，我们可以认为Scaling Law有效，不过这次不是堆数据而是堆机器和优化算法。那不管多贵，都意味着这个行业解决问题的价值在增加，所以这个行业安全了。但很多AI大模型公司是真的危险了，因为下一步跟进的成本越来越贵。

新兴行业背后的组织引擎，到底是什么