本地 AI 编程工具(各类 CLI / 桌面切换器)常需要一个 OpenAI 兼容的 Base URL。把密钥和上游协议细节关在家里的网关后,客户端只拿「网关地址 + 自己的访问令牌」。

角色划分

[笔记本上的工具]
    │ HTTPS + Bearer
[网关域名] ── Tunnel 或反代 ──► 控制中枢上的兼容代理
                              上游模型提供方 / 本地模型

网关进程应:

  • 默认只绑 127.0.0.1
  • 由 Tunnel 或 Caddy 对外;
  • 自带访问令牌校验;
  • 超时与连接池按长请求调优(模型生成可能较慢)。

为什么常用 Tunnel 暴露网关

与网盘相反,API 网关:

  • 流量是请求/响应文本,不是 GB 级文件;
  • 需要稳定 TLS 与域名;
  • 不一定想把源站 IP 暴露给所有客户端网络。

因此 Tunnel 很适合网关,也适合状态页;网盘大文件则应另议。

客户端配置原则

  1. Base URL 指向你的网关域名(含正确路径前缀,若有)。
  2. API Key 使用 网关签发的令牌,不要把上游厂商密钥写进每台笔记本。
  3. 模型名以网关实际暴露的列表为准,先用 models 接口探活。

安全清单

  • 令牌轮换与泄露后作废;
  • 管理端不公网暴露;
  • 日志避免打印完整 Prompt 与密钥;
  • 速率限制,防止令牌泄露后被刷爆上游配额。

与整套基建的关系

组件和 AI 网关的关系
控制中枢运行网关进程
Tunnel公网 HTTPS 入口
Telegram Agent可走本机上游,不一定经公网网关
博客 / 状态页无强依赖,仅同属运维域名体系

系列收束

七篇文章对应一条可落地的个人云路线:

  1. 总览分层
  2. 443 SNI 共存
  3. 轻量状态看板
  4. 订阅 + DNS 切换 + 规则直连
  5. 网盘路径治理
  6. Bot + 轻量 Agent
  7. AI 网关

本地工作区里的零散脚本,是这条路线的「施工痕迹」;线上应以 systemd、入口配置、数据目录 为准。对外分享时只谈结构与原则,把密钥与主机坐标留在私有配置里。

若后续演进,优先考虑:网盘对象存储直链、状态 JSON 的备份链路、自动切换策略可观测性。

系列导航:上一篇 · Bot · 回到总览