离线 AI 办公粉皮书
离线 AI 办公
第四部分 接到桌面工具和小团队10

小团队部署路线图

高阶35 分钟第 10 / 11 章

管理员选修。理解 llama.cpp 或 Ollama 服务、网页入口、账号、网络和备份之间的关系。

学完本章你能做到

  • 画出模型服务、聊天入口和员工设备的关系
  • 知道为什么团队入口不能直接暴露到公网
  • 列出上线前必须有的账号、日志、更新和备份

配套练习资料

学到对应章节时,可以在这里打开配套资料。

先理解

团队部署会多出一层服务

单机时,模型、运行程序和聊天入口都在同一台电脑。团队使用时,模型服务通常放在一台固定机器上,员工通过局域网里的网页或桌面入口访问。 llama.cpp 的 llama-server 可以把 GGUF 模型作为本地服务运行,Ollama 也提供本地 API。两条路线都要先限制在受控网络内,再增加身份和访问控制。
公网在边界外。团队入口需要账号、网络限制、日志和恢复,不是把端口公开就结束。

对照看

Open WebUI 适合做受控聊天入口

Open WebUI 可以连接 Ollama 或兼容接口,为浏览器提供聊天入口。官方快速开始示例使用容器和持久化数据卷。 个人评估可以跟官方当前示例运行。团队生产要固定经过验证的版本或镜像 digest,备份数据卷,并在升级前准备回滚。滚动的 main 标签会变化,不适合作为长期不变的生产版本。

先停一下

上线前的最低清单

每个人使用独立账号,不共用管理员密码。 只允许受控网段访问,不把未鉴权的模型 API 直接放到公网。 记录模型、运行程序、网页入口和配置版本。 保留访问日志和错误日志,但不把完整敏感输入写进普通日志。 备份数据卷和配置,并实际做一次恢复。

画一张团队部署草图

这一章不要求真的开放服务。先把边界和责任写清,再决定是否实施。

  1. 1画出模型机器、网页入口、员工设备和网络边界
  2. 2标出谁负责账号、版本更新、日志和备份
  3. 3写下允许访问的网段或设备范围
  4. 4写下故障时的回退入口和恢复顺序

验收清单

  • 公网没有直接连到未鉴权模型 API
  • 每项运维职责都有负责人
  • 版本、备份和恢复都有记录位置
  • 未完成安全评审前不对真实团队开放

常见问题

可以把 11434 端口直接映射到公网吗?

不建议。Ollama 官方说明本地访问不要求鉴权,直接公开会失去单机边界。团队访问应放在受控网络和有身份校验的入口后面。

学完后记得保存进度

完成标记保存在当前浏览器;登录后,会记住上次阅读的章节与位置。