掘金· alonglong·· 5 小时前精选AI 评分65
本地模型部署避坑：HF_HOME 缓存指向 + macOS fd 上限 256
AI 导读
作者在本地部署大模型时遇到的两大系统级坑：① HF_HOME 环境变量指向外接盘的中断缓存（163 MB），而模型完整包在本机默认目录（2.9 GB），导致 model.bin 加载报错 Unable to open file。
推荐理由
作者实测了本地部署大模型的两大陷阱：HF_HOME 缓存目录指向错误导致模型加载失败，macOS 文件描述符上限 256 限制致服务崩溃，附带完整修复方案。
来源：掘金 · juejin.cn