跳到正文
掘金· wovow_mak·· 15 小时前精选AI 评分79

零基础本地部署大模型完整指南:附一键脚本 + 全踩坑记录,家用电脑就能跑

AI 导读

掘金作者 wovow_mak 在 RTX 4060 8G 显存上实测部署 Qwen2.5-1.5B-Q4_K_M,加载 2 秒、推理 105 tok/s,全程离线仅耗电费。

推荐理由

手把手教 Windows 用户在 8G 显存本地跑 Qwen 1.5B,附一键脚本避过 6 个常见坑,零成本半小时搞定。

来源:掘金 · juejin.cn