本地 AI 编程工具(各类 CLI / 桌面切换器)常需要一个 OpenAI 兼容的 Base URL。把密钥和上游协议细节关在家里的网关后,客户端只拿「网关地址 + 自己的访问令牌」。
角色划分
[笔记本上的工具]
│ HTTPS + Bearer
▼
[网关域名] ── Tunnel 或反代 ──► 控制中枢上的兼容代理
│
▼
上游模型提供方 / 本地模型
网关进程应:
- 默认只绑 127.0.0.1;
- 由 Tunnel 或 Caddy 对外;
- 自带访问令牌校验;
- 超时与连接池按长请求调优(模型生成可能较慢)。
为什么常用 Tunnel 暴露网关
与网盘相反,API 网关:
- 流量是请求/响应文本,不是 GB 级文件;
- 需要稳定 TLS 与域名;
- 不一定想把源站 IP 暴露给所有客户端网络。
因此 Tunnel 很适合网关,也适合状态页;网盘大文件则应另议。
客户端配置原则
- Base URL 指向你的网关域名(含正确路径前缀,若有)。
- API Key 使用 网关签发的令牌,不要把上游厂商密钥写进每台笔记本。
- 模型名以网关实际暴露的列表为准,先用
models接口探活。
安全清单
- 令牌轮换与泄露后作废;
- 管理端不公网暴露;
- 日志避免打印完整 Prompt 与密钥;
- 速率限制,防止令牌泄露后被刷爆上游配额。
与整套基建的关系
| 组件 | 和 AI 网关的关系 |
|---|---|
| 控制中枢 | 运行网关进程 |
| Tunnel | 公网 HTTPS 入口 |
| Telegram Agent | 可走本机上游,不一定经公网网关 |
| 博客 / 状态页 | 无强依赖,仅同属运维域名体系 |
系列收束
七篇文章对应一条可落地的个人云路线:
- 总览分层
- 443 SNI 共存
- 轻量状态看板
- 订阅 + DNS 切换 + 规则直连
- 网盘路径治理
- Bot + 轻量 Agent
- AI 网关
本地工作区里的零散脚本,是这条路线的「施工痕迹」;线上应以 systemd、入口配置、数据目录 为准。对外分享时只谈结构与原则,把密钥与主机坐标留在私有配置里。
若后续演进,优先考虑:网盘对象存储直链、状态 JSON 的备份链路、自动切换策略可观测性。