【求助】想找一个可以将gemini接入cc的完美解决方案

如题

使用过ccr,但是太不优雅了,不希望api的转换在本地进行,而且需要在不同设备上开发(许多wsl),所以要求api的转换是独立的服务

今天看了一个项目叫Claude Code Nexus,也不符合预期:只能选择github登录,没找到定义自己的api请求的地方,没有负载均衡,没有提供docker部署(好像自己也能?但是前面几项不符合预期就懒得看代码了)

正在看 LiteLLM,初步感到太复杂了可能用不上,还得研究研究。

理想情况:首先最重要的肯定是将geminiapi转为claudeapi,应用可用性应该好一点,希望找到像T佬开发的GPT-Load这样的应用,可以docker部署,支持多key轮询,如果还能像newapi那样聚合不同站点地址再来一个负载均衡就更好了。

希望各位大佬推荐一下相关项目。

3 个赞

docker-compose丢服务器上?

这还不是在本地进行转换吗

那跟你用 litellm 也没区别呀,不还是本地

litellm还没研究。。文档又臭又长还没中文,我希望达到的目标是可以直接在云端部署应用,应用内配置完成api的转换,然后云端应用给出云端的地址和key,直接配置在本地cc

云端?本地?你把ccr跑在服务器上就是云端,你把ccr跑在自己电脑上就是本地,所有的这种转换的都是启动一个http服务进行的,完全是看你在哪部署的,没听说过有什么服务还只能部署在本地不让部署在云端的

另外就算格式转换没有任何问题,gemini近期的截断以及gemini本身对工具调用的支持直接放在cc上效果也不好,需要进行大量调试

本地和云端是按照cc所在位置划分的。。。我不知道能部署在云端啊,第一句就是“不希望api的转换在本地进行”,把ccr部署在云端这句话还有意义吗?

你电脑上跑个cc,在服务器上用ccr start启动3456端口然后把本地的cc指向到你服务器的ip:3456这种是本地还是云端呢?

呃,跑在云端的话,感觉 ccr 就够了啊,它本身就是启动一个http服务,理论上跟 newapi 什么一个逻辑,只是转换的请求格式不同。

认知有误差~

3 个赞

之前不知道这种方式,也不会去试了,因为标题里说了理想的实现,需要docker部署,负载均衡,多key轮询等等等等

我目前是用的aiclient2api将gemini-cli转成了gemini api,然后在ccr里配置到cc使用。之所以没有直接在ccr配置gemini-cli转换,是因为我把ccr部署在国内的服务器,不想挂梯子,所以多套了一层,把aiclient2api部署到国外的服务器上,能定时刷新google oauth认证,部署完就基本不用管了。
我就是在服务器docker-compose跑的ccr,然后家里和公司电脑同时用

现在的newapi可以直接接cc用Gemini了啊,不需要转接我用着都挺正常的了。

谢谢佬友,还没了解新版的newapi,我去看看

嗯嗯了解,我的个人情况是有足够的gemini apikey,不需要把gemini cli转成api了

充斥着一股不了解还绝对的味道。:rofl:

  1. CCR 支持云端部署的,仓库内都有 现成的dockerfile 了。
  2. 在不考虑复杂度的情况下,你可以直接使用 newapi 内置的转换功能。反正就那三个模型,做好模型映射即可。
  3. 可以使用 ccr+newapi 实现模型自定义路由+负载均衡
2 个赞

我也有一些gemini apikey,可以看看用gptLoad做轮询,我之前是这么用的,不过有了geminicli转换之后就没再用了,因为geminicli对请求的速率限制比api宽松,不会遇到429(实测gemini api即便几十个key轮询也会遇到429,不太清楚具体原因)

很多啊 站内一大把代理,核心是KEY吧。
免费的429很正常

共同学习学习,虽然暂时没这个需求。