我的 newapi 是自用模式,在渠道中添加了很多第三方渠道,比如硅基流动/Openrouter/modelscope,以及论坛中各位佬贡献的渠道。
渠道太多了,并且模型也太多了,我现在想将某些名称的模型统一聚合成某一个名称,比如名叫 translate 的模型,然后此模型对应所有渠道 deepseek-v3+gpt-oss+gemini-2.0-flash (关键字匹配)的模型,根据权重来做负载平衡。
我知道可以针对某个渠道,添加模型重定向,但这样手动一个个维护太麻烦了。
我尝试在“模型管理(console/models)”页面添加模型来做这种匹配,好像是不 work,这个模型管理应该不是这么玩的吧,或者自用模式不 work。
所以官方会出这个功能吗?(虽然是开源的,但想问下是否有计划出?)
另外是否有其他的开源工具可以支持这种一对多的聚合+负载均衡?