V2EX · 分享创造· heybenben·· 1 小时前精选AI 评分58
独立开发者上线 RigCheck，查显卡或 Mac 能否本地跑开源模型并自租卡实测 24 次
RigCheck：查你的显卡 / Mac 能不能本地跑新出的开源模型，数字都有来源，还自己租卡实测了 24 次
AI 导读
作者做了英文小站 RigCheck（localrigcheck.com），按仓库真实文件大小和 llama.cpp 的分配方式逐层计算 KV cache，判断显卡或 Mac 内存能否放下新出的开源模型，每个数字标注官方、社区报告、本站估算或本站实测。
推荐理由
作者自建本地模型硬件检查器，公开数据来源并自费租卡实测，适合想本地跑开源模型的人核对显存。
来源：V2EX · 分享创造 · v2ex.com