两步搭好网关

首次启动会进入一条两步引导。它是直线的,顺序不能换,因为前一步的产物是后一步的前提:先决定拿什么上游跑 → 再知道往哪里填。引导页上不摆进度条:当前这一步的名字就是页面标题,下一步的名字直接写在右下角那颗按钮上(下一步:接入工具)。

OSW 引导第一步

选路不单独成步

引导里不让你先设计一套路由——内建默认已经在下、对新用户够用。模型池与落点在「智能路由」页随时能改,想调再调。

第一步:加上游

引导第一步「添加模型」用来加第一个上游供应商:

  1. 选一个预设(预设会把接口地址填好),或选「自定义供应商」。
  2. 填供应商名称与 API Key(无需鉴权的上游可留空)。
  3. 点拉取模型,从这家勾选要用的模型。

拉取后记得勾选具体模型——供应商下没有模型时,请求没有可落点。模型管理页的完整能力见供应商与模型。

第二步:接客户端

引导第二步「接入工具」给出本机服务的那条地址。同一块卡片还有另一半答案:这一步就地嵌了配置编辑器,选一个你在用的工具,在它配置内容卡头右边点生成配置按内置默认模型改写一遍、再按保存内容写回(改错了可以撤销改动);登记表里没有的工具就把这条地址照抄进去。机器上已经装了客户端的,也可以去客户端配置点全部生成配置并应用,OSW 会改那个客户端自己的配置文件,并且每次改动前先留一份可回退的版本。

参考表:

你的客户端Base URL
OpenAI 兼容(Chat Completions / Responses)http://127.0.0.1:9300/v1
Anthropichttp://127.0.0.1:9300

人人都踩的坑

Anthropic 客户端会自己在地址后面追加 /v1/messages,所以 Base URL 到端口为止。多加一个 /v1 会变成 /v1/v1/messages,代理不认识,得到一个 404。

模型名随你写:default,或任意非空名字。OSW 会把它换成实际选中渠道的真实模型 ID。客户端非要 API Key 的话,填任意占位符即可——真正的密钥是按供应商注入的。

验证接上了

服务是否活着:

curl http://127.0.0.1:9300/v1/models

客户端里发一句话,然后去请求记录:出现这条请求,就说明接上了。

监听地址与端口在设置 → 网络 → 监听服务里改;保存后代理会自动切到新端口。