大模型的中场战事：CoE or MoE ？

大模型产业有自己的流水线

逆势而行的考量。

免费阅读的中场战事。

Microsoft发布全新的 AI 大语言模型SpreadsheetLLM，将广泛使用于理解并处理复杂的电子表格数据，如在Excel、谷歌 Sheets中自动生成财务报告、识别数据中的异常或趋势、提供个性化产品或服务推荐等。网友调侃：“凯伦的工作很快就会被人工智能取代”。

都说大模型训练很难，动辄耗费巨额资金和算力，万亿规模的大模型训练起来更是难上加难。但是了解这些难点，不仅可以帮助我们更好地理解大模型背后的技术挑战，也能让我们更加理性地看待大模型发展趋势，避免盲目追捧。

有没有LoRA更好的大模型微调方法？