在获奖GPU上构建本地优先AI运维平台

作者在AMD Dev Quest中获得第10名，赢得Radeon AI PRO R9700（32GB VRAM）后，开始将本地LLM用于实际产品开发。他正在构建InnerOS/InnerOps，一个本地优先的控制平面，通过AI代理运行开发和运维工作，避免将所有任务发送到云API。系统使用MCP编排，支持Cursor、Codex等代理作为可互换工人，并自动路由到最合适的模型。技术栈包括AMD节点（ROCm 10、vLLM 0.27.x、Qwen3-Coder-30B）和Intel节点（Ollama）。作者发现之前的vLLM容器实际运行在ROCm 7.14上，而非标注的ROCm 10，因此强调“容器名称不是证据”。目前代理注册表已扩展到55个功能代理，并开始衡量自动化是否真正节省时间。