马斯克：AI训练数据去年就已耗尽，合成数据是唯一补充方法

包括微软、Meta、OpenAI、Anthropic等在内的科技巨头已经开始使用合成数据来训练AI模型了。据信息技术研究和顾问公司Gartner估计，2024年用于AI训练和分析项目的数据中，有60%是合成的。

semianalysis分析师爆料，Claude 3.5超大杯被藏起来，只用于内部数据合成以及强化学习奖励建模。Claude 3.5 Sonnet就是如此训练而来。不发布的原因，是因为“不划算”。

媒体广泛质疑AI遭遇技术升级及训练数据枯竭等困境，但Sam Altman等科技大佬坚称，根本没有瓶颈！多家AI头部公司依然对行业前景感到乐观，并认为通过开发新型数据源、增加模型推理能力以及应用合成数据等方法，AI将继续进步。

北京时间2月18日中午，马斯克旗下人工智能初创公司xAI开发的Grok-3模型正式发布。此前，马斯克将Grok-3描述为「地球上最聪明的AI」。 他表示，Grok-3将在推理、编程能力以及文本和图像分析等多模态能力方面有显著提升，它的表现「优于目前所有已发布的产品」。马斯克强调，Grok-3可以减少AI幻觉，方法是通过来回检查数据并尝试实现逻辑一致性。他还透露，训练Grok-3所使用的算力远多于此前的版本，并使用了大量合成数据。不同于D......