DeepSeek R1 推理模型的蒸馏模型通过LM Studio完全断网地本地部署,并使用Windows防火墙禁用入站出站规则,完全禁用网络,本地运行。使用Huggingface和LM Studio下载更多模型和Q4 Q8量化精度,使用LM Studio进行CPU GPU混合推理,让你的笔记本轻松支持32B 大模型!跟着我的教程做,再模型推理调参提高性能,帮助你探索、科研。
【新视频来了】
原始教程视频: https://www.bilibili.com/video/BV1NGf2YtE8r/ (LM