开源一个 Vertex AI 转 OpenAI 接口本地转换工具

刚薅到 GCP,想把 Vertex AI 的 Gemini 在本地接到 Cherry 上玩玩。
不想搭 API 管理系统,没找到合适的转换工具于是自己搓了一个。
Vertex AI 这个应该还是用的 300 刀赠金吧,1000 刀那个是 Agent Builder 的。

使用方法

  1. 谷歌云认证,两种方法可选

    1. gcloud CLI
      • 安装 gcloud CLI
      • 运行 gcloud auth application-default login 来进行认证。
    2. 服务账号密钥文件
      • 在谷歌云控制台里创建服务账号密钥,参考这个教程
      • 下载 json 密钥文件。
      • 将环境变量 GOOGLE_APPLICATION_CREDENTIALS 设为密钥文件路径。
  2. 运行此工具(注意配置文件会创建在当前目录里)

    • uvx simple-vertex-bridge 直接运行。
    • 或者克隆仓库,uv sync,然后运行 python svbridge.py

模型列表接口:http://localhost:8086/v1/models(v1 可省略)
聊天接口:http://localhost:8086/v1/chat/completions(v1 可省略)
密钥随便填,会被替换为 Vertex 的一小时 Token。
暂不支持除了聊天之外的其他接口,因为我自己没用到。


聊天接口是原版的 openapi 兼容接口加上自动刷新 token,模型列表是从谷歌的 api 转换来的。
列表里的模型除了 Gemini 好像还有 Claude 和 Llama,不过 Gemini 2.5 以外的我还没试过。
谷歌没给列出所有模型的接口,所以默认只扫描了提供商 google、anthropic、meta,如果需要别的可以自己加。
模型默认只保留 google/gemini-*、anthropic/claude-*、meta/llama*,不然太多了,很多都不是聊天模型。

可以本地启动之后接到 Cherry Studio 和 Roo Code 里玩。


v0.3.0 更新

增加了命令行参数 --port, --bind, --key, --auto-refresh, --filter-model-names
命令行参数只需使用一次,会保存到配置中。
现在可以指定 API Key,Key 正确才允许访问。

35 个赞

同理是不是可以丢到服务器上去

4 个赞

感谢大佬

1 个赞

怎么看自己有没有配额,我记得Claude好像都没有配额

1 个赞

插个眼,准备搞

1 个赞

感谢开源

1 个赞

目前放到服务器上不太安全,没有鉴权,谁来都能请求,回头我加个限制key的吧

2 个赞

已加,v0.3.0 现在可以指定一个 key,只有 key 正确才允许访问

2 个赞

强啊,佬

1 个赞

感谢分享

1 个赞

大佬,环境变量在哪设置呢

1 个赞

Windows:在 系统属性高级环境变量 中设置(搜索 “path” 也可找到)。
Linux / macOS:设置到 ~/.bashrc~/.zshrc 里。

1 个赞

大佬,小白不知道怎么弄,有空能不能做个图文教程呀?

1 个赞

Vertex AI API GCP300 账号只有 5 RPM 和 1M TPM,不如直接相同项目下开通Generative Language API,有150 RPM 和 2M TPM

4 个赞


为什么跑不起来。。。

1 个赞

用 openai 兼容方式调用,地址是 http://127.0.0.1:8086/v1/chat/completions

1 个赞


就是这样用的,无法调用

1 个赞

感谢大佬

1 个赞

什么?你可以走通?

1 个赞

昨天发现 vertex有官方提供的openai兼容接口 就是得自己处理access token

1 个赞