海通计算机|DeepSeek初探：从V3到R1，高性能+低价格打开全新AI发

DeepSeek V3/R1推理系统通过跨节点专家并行 (EP)、计算-通信重叠和精细的负载均衡策略，实现了惊人的性能和效率。简单来说，EP就像是“多人协作”，把模型中的“专家”分散到多张 GPU 上进行计算，大幅提升Batch Size，榨干 GPU 算力，同时专家分散，降低内存压力，更快响应。

什么是推理大模型？DeepSeek R1推理大模型与DeepSeek V3模型的区别是什么？什么时候该使用推理大模型？

英伟达周二推出了一款名为Jetson Orin Nano Super的生成式AI超级计算机。英伟达CEO黄仁勋表示，这款开发者套件通过软件升级实现了更高性能和更低价格，仅售249美元，尺寸小巧，可放在手掌中，可将生成式AI性能提高高达1.7倍。