零显卡部署 PLaMo 翻译模型：2016 年老旧主机实测 7.59 tok/s

作者丘山录在掘金发布教程，演示在无显卡的 2016 年 Celeron J3455 小主机上通过 llama.cpp 部署 PLaMo 3 Translate 0.8B 模型（Q4_K_M 量化，546.6 MiB），4 线程解码速度达 7.59 tok/s。 教程提供了完整的 llama.cpp 命令行操作，涵盖基准测试（llama-bench -p 128 -n 64 -t 8 -r 3）、命令行交互（llama-cli -st --jinja -t 8 --temp 0）及本地服务启动（llama-server -t 8 -c 2048），均指定 8 线程运行。 这表明该小参数翻译模型在极低配 CPU 设备上也能流畅本地推理，降低了本地部署门槛。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。