Llama 3.1 405B--大力出奇迹

Joe表示，Llama 3.1 405B 真正关注的是推动规模化（它使用16000个GPU在15万亿个token上进行训练），他对它将实现的零样本工具使用以及它在提炼和生成合成数据以教授较小模型方面的作用感到兴奋。

Mistral Large 2拥有1230亿参数。在多个基准测试中（特别是在代码生成和数学领域），表现优异，甚至与Llama 3.1 4050亿参数相媲美。像Mistral NeMo一样，它经过大量源代码和多语言数据的训练，提供高级函数调用功能。

11月26日晚，北京城区出现飘雪，北京市气象台首席预报员翟亮解释，在寒潮天气下，整个北京都处于冷涡云系里。昨天，北京低空湿度条件不利，但动力条件真好，最后是大力出奇迹，就像拧毛巾，最后拧出来了。

北京城区深夜飘雪，画面刷屏市民朋友圈，不少市民疑惑：怎么跟预报的不一样？这算初雪吗？专家解答。

Llama 3.1-405B版本性能极强、参数巨大，普通的GPU无法带动，因此个人开发者可能无法担负。有网友“泼冷水”，认为该模型推理成本提升了3倍，但编码的性能却要差很多。