# 本地推理
1 篇文章标签为 "本地推理"
NUC9 + fnOS + RX 6600 部署 llama.cpp 本地大模型推理服务
在 Intel NUC9 幽灵峡谷上,用 Docker 部署 llama.cpp + ROCm 推理服务的完整指南——从 AMD 容器工具包安装、docker-compose 配置逐字段拆解、模型选型到 Hermes Agent / Page Assist 接入,附 RX 6600 实测性能与踩坑记录。
Read More1 篇文章标签为 "本地推理"
在 Intel NUC9 幽灵峡谷上,用 Docker 部署 llama.cpp + ROCm 推理服务的完整指南——从 AMD 容器工具包安装、docker-compose 配置逐字段拆解、模型选型到 Hermes Agent / Page Assist 接入,附 RX 6600 实测性能与踩坑记录。
Read More