newapi有轮询功能嘛，疑惑好久了

txu8459 · 2025 年4 月 8 日 11:37

这个是说明它有轮询功能嘛，我一直没搞懂

希望有大佬能够解答我的疑惑

stevessr · 2025 年4 月 8 日 11:38

有轮询啊！需要手动设置~~当然得开启了~~

权重在渠道里面设置

taobao · 2025 年4 月 8 日 11:38

有的渠道权重0 会随机渠道的

zhong_little · 2025 年4 月 8 日 11:38

写得很清楚呀，随机，非顺序轮询

seamee · 2025 年4 月 8 日 11:40

效果如下

txu8459 · 2025 年4 月 8 日 11:40

佬友，这个重试不是指单个渠道重试吧，是随机轮询吧

我是这样设置的

stevessr · 2025 年4 月 8 日 11:41

对，重试是加权随机轮询的

github.com/Calcium-Ion/new-api

controller/relay.go

082218173


      
          	case relayconstant.RelayModeRerank:
          		err = relay.RerankHelper(c, relayMode)
          	case relayconstant.RelayModeEmbeddings:
          		err = relay.EmbeddingHelper(c)
          	default:
          		err = relay.TextHelper(c)
          	}
          	return err
          }
          
          func Relay(c *gin.Context) {
          	relayMode := constant.Path2RelayMode(c.Request.URL.Path)
          	requestId := c.GetString(common.RequestIdKey)
          	group := c.GetString("group")
          	originalModel := c.GetString("original_model")
          	var openaiErr *dto.OpenAIErrorWithStatusCode
          
          	for i := 0; i <= common.RetryTimes; i++ {
          		channel, err := getChannel(c, group, originalModel, i)
          		if err != nil {
          			common.LogError(c, err.Error())

txu8459 · 2025 年4 月 8 日 11:41

懂了，谢谢

txu8459 · 2025 年4 月 8 日 11:41

懂了，谢谢佬友

chastlf · 2025 年4 月 8 日 11:45

请教下为啥我开启自用模式后刷新页面就自动给关闭了

txu8459 · 2025 年4 月 8 日 11:46

没保存吧

stevessr · 2025 年4 月 8 日 11:46

是不是没有设置SESSION_SECRET环境变量？
没有设置的话，本地用很容易掉登录……

chastlf · 2025 年4 月 8 日 11:48

刷新页面或者返回账号没有退出，就是这个开关自己关闭了

stevessr · 2025 年4 月 8 日 11:50

点击保存了吗……

simple · 2025 年4 月 8 日 11:59

话说顺序轮询这个需求还是很强烈的为什么不添加这个呢

simple · 2025 年4 月 8 日 12:07

谁来fork 一份加个功能

yym68686 · 2025 年4 月 8 日 13:52

可以试试我写的 uni-api 可以顺序轮训。

txu8459 · 2025 年4 月 8 日 13:53

大佬我用过了，但是在cline上面总报错我就换回去了

yym68686 · 2025 年4 月 8 日 13:54

这样的吗，我还没遇到过。为啥总是报错？

txu8459 · 2025 年4 月 8 日 13:59

一开始是用uniapi，然后用多了就报错了，具体是啥我忘了
我怀疑是我的代理问题，因为我用社区的huggingface那个自动部署的进行了本地部署，结果文本一多也一直报错
然后部署到了hugging上面就好了，但是newapi没出现过这个问题

找到了，我在大佬帖子下面发了问题截图

话题		回复	浏览量
大家都在用什么管理api渠道搞七捻三快问快答	24	1161	2025 年1 月 10 日
求助佬们，关于newapi的Gemini使用问题开发调优 Gemini , 快问快答	5	309	2025 年5 月 18 日
有没有推荐的gemini轮询开发调优人工智能	57	806	2025 年7 月 14 日
有什么能精确显示日志到哪个渠道有问题的oneapi（newapi）吗？》开发调优人工智能	11	258	2025 年3 月 15 日
OneAPI平替咨询开发调优人工智能	26	682	2025 年4 月 18 日

newapi有轮询功能嘛，疑惑好久了

相关话题