NUC9 + fnOS + RX 6600 部署 llama.cpp 本地大模型推理服务

在 Intel NUC9 幽灵峡谷上,用 Docker 部署 llama.cpp + ROCm 推理服务的完整指南——从 AMD 容器工具包安装、docker-compose 配置逐字段拆解、模型选型到 Hermes Agent / Page Assist 接入,附 RX 6600 实测性能与踩坑记录。

Read More