开源大模型的ChatGPT时刻？备受期待的Llama 3 405B即将发布

分析认为，Llama 3 405B不仅仅是人工智能能力的又一次提升，对于开源 AI 来说，“这是一个潜在的 ChatGPT 时刻”。在基准测试中，Meta Llama 3.1 在GSM8K、Hellaswag等多项测试中均优于 GPT-4o。

9月19日云栖大会，阿里云CTO周靖人发布通义千问新一代开源模型Qwen2.5，旗舰模型Qwen2.5-72B性能超越Llama 405B，再登全球开源大模型王座。Qwen2.5全系列涵盖多个尺寸的大语言模型、多模态模型、数学模型和代码模型，每个尺寸都有基础版本、指令跟随版本、量化版本，总计上架100多个模型，刷新业界纪录，通义在卷基模这件事情上是没有停过的，国内大模型会实现弯道超车吗？

Mistral Large 2拥有1230亿参数。在多个基准测试中（特别是在代码生成和数学领域），表现优异，甚至与Llama 3.1 4050亿参数相媲美。像Mistral NeMo一样，它经过大量源代码和多语言数据的训练，提供高级函数调用功能。

本次共发布三款Llama 3.1模型，其中Llama 3.1 405B包含4050亿个参数，这是Meta迄今为止最大的模型。扎克伯格称Llama 3.1为“艺术的起点”，将对标OpenAI和谷歌公司的大模型。同时，Meta和英伟达实现强强联手，英伟达AI Foundry将为全球企业提供Llama 3.1模型的定制服务。

Joe表示，Llama 3.1 405B 真正关注的是推动规模化（它使用16000个GPU在15万亿个token上进行训练），他对它将实现的零样本工具使用以及它在提炼和生成合成数据以教授较小模型方面的作用感到兴奋。

今年4月发布8B和70B两个版本的Llama 3模型时，Meta预告，该模型最大参数规模超4000亿，训练token超15万亿。本周五媒体获悉，4050亿参数的Llama 3也将是多模态模型，未透露是否开源。

谁会是大模型时代的 BAT?