OpenAI正在寻求训练模型的新方法

像OpenAI这样的AI公司正在寻求通过开发新的训练技术来克服当前面临的挑战，这些技术更像人类的思考方式。但现在，一些最杰出的AI科学家正在指出这种“越大越好”的局限性。

o1就是业界盛传的“草莓”项目，未来某个未知时刻免费用户将能体验o1迷你版。o1模型使用成本至少是GPT-4o的3倍，初始发送信息数有限，采用全新方法训练，对复杂的推理任务是重大进步，甚至具有专家型人才的水平，但仅为“纯文字”版，无法浏览实时网页、无法上传文件和图片、缺乏广泛世界知识、或更易产生幻觉。

Nemotron击败了GPT-4o等140多个开闭源模型，仅次于OpenAI的最新模型o1。英伟达采用混合训练方法，把Nemotron的训练数据集也开源了，还在RewardBench评测中达94.1分，超过了同期几乎所有其他模型的表现。

有没有LoRA更好的大模型微调方法？

我国嫦娥五号月壤研究又有新发现——中国科学院宁波材料所、中国科学院物理所等单位组成的科研团队，经过3年的深入研究和反复验证，发现了一种全新的利用月壤大量生产水的方法，有望为未来月球科研站及空间站的建设提供重要设计依据。 水是建设月球科研站及未来开展月球星际旅行，保障人类生存的关键资源，探寻水资源是月球探测的首要任务之一。科学家之前主要关注月球上自然态水资源的分布情况，前期研究结果表明，月壤玻璃、斜长石、橄榄石和辉石等多种月壤矿物中含有少......

OpenAI下一个旗舰模型“Orion”，其进步幅度远不如前两代旗舰模型，这直接挑战了人工智能领域一直奉行的“缩放定律”。业界正在将精力转向在初始训练之后改进模型。

都说大模型训练很难，动辄耗费巨额资金和算力，万亿规模的大模型训练起来更是难上加难。但是了解这些难点，不仅可以帮助我们更好地理解大模型背后的技术挑战，也能让我们更加理性地看待大模型发展趋势，避免盲目追捧。