相关资讯
AI 摘要
GPT-4o 读万卷书,「o1」行万里路。
0W
·
·
·
2024年10月24日
·
AI 摘要
沿着 Scaling Law、卷模型性能,可能会走到「死胡同」。
1W
·
·
·
2024年10月24日
·
AI 摘要
OpenAI大神Noam Brown表示,AI从2019年到现在,难以置信的成就都来自于数据和算力规模的扩大,但大语言模型仍然无法解决像井字棋这样的简单问题。而o1带来了Scaling的新的维度,是一种以推理计算为代表的Scaling。
AI 摘要
目前可以提高模型效果的Scaling方法,按照性价比由高到低排序的话:Test time Scaling Law RL Scaling Law预训练阶段Scaling Law。如果哪天RL Scaling Law和Test Time Scaling Law到了天花板,又没有找到新的性价比更合算的Scaling Law,仍然可以回归预训练阶段的Scaling Law。
AI 摘要
天风宏观认为,从长远看,不管中国企业出海的动机是主动还是被动,最后都汇集到了国际化这条必经之路上。它们通过出海变成了一张更大的网,把产业链、供应链、利益链分散了到更多国家和地区,这也是中国的scaling law。
AI 摘要
在新范式下,LLM 领域的 scaling law 会发生变化:计算量变大仍会带来模型智能的提升,但会从模型参数量变大,转移到 inference-time compute 增加,也就是模型进行更多 RL 探索。
相关榜单
热点推荐
换一批