# 本地推理

NUC9 + fnOS + RX 6600 部署 llama.cpp 本地大模型推理服务

前言 事情是这样的。 家里那台 NUC9 幽灵峡谷，装了飞牛 fnOS，插着一张 RX 6600 独显，日常跑 Docker 用 llama.cpp + ROCm 做本地推理。...