new-api怎么让一个渠道出问题后自动换另一个渠道啊

yiyun · 2025 年3 月 26 日 10:55

刚在论坛搜说要改权重,但是具体怎么改没看明白,来个大佬详细说一下

stevessr · 2025 年3 月 26 日 10:55

自动禁用+重试
setting?tab=operation路径下

权重在各个渠道里面改

timwoo · 2025 年3 月 26 日 11:03

在渠道里面设置权重

yiyun · 2025 年3 月 26 日 11:07

这个默认就是0,我不知道权重具体怎么填啊

stevessr · 2025 年3 月 26 日 11:08

重试次数设置高点呢

打开失败自动禁用……

yiyun · 2025 年3 月 26 日 11:15

明白了,谢谢大佬,还有个问题,那如果一个渠道里面有不同的模型不同的次数,怎么让在一个渠道里面重试别的呢?还是说把每个模型拿出来分为不同的渠道?

stevessr · 2025 年3 月 26 日 11:15

目前只能拆开
是整个渠道重试

github.com/Calcium-Ion/new-api

controller/relay.go

main


      
          	case relayconstant.RelayModeRerank:
          		err = relay.RerankHelper(c, relayMode)
          	case relayconstant.RelayModeEmbeddings:
          		err = relay.EmbeddingHelper(c)
          	default:
          		err = relay.TextHelper(c)
          	}
          	return err
          }
          
          func Relay(c *gin.Context) {
          	relayMode := constant.Path2RelayMode(c.Request.URL.Path)
          	requestId := c.GetString(common.RequestIdKey)
          	group := c.GetString("group")
          	originalModel := c.GetString("original_model")
          	var openaiErr *dto.OpenAIErrorWithStatusCode
          
          	for i := 0; i <= common.RetryTimes; i++ {
          		channel, err := getChannel(c, group, originalModel, i)
          		if err != nil {
          			common.LogError(c, err.Error())

system · 2025 年4 月 25 日 11:16

此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。

话题		回复	浏览量
new api 渠道搞七捻三快问快答	5	189	2025 年6 月 10 日
NewAPI 设置多渠道优先级后，高优先级模型失败无法自动切换备用渠道？开发调优快问快答	7	247	2025 年5 月 7 日
new-api如何切换渠道重试搞七捻三人工智能	4	201	2025 年9 月 11 日
自己建的new-api,如果有用户通过 sk-123456 调用 gpt-4o-mini 模型，而这个模型在 A 渠道和 B 渠道都有提供，那么会发生什么？如果 A 渠道失效了，系统会自动切换到 B 渠道吗？搞七捻三快问快答	6	231	2024 年12 月 9 日
关于new api重定向，要怎么做到同个模型名负载呢开发调优人工智能 , 快问快答 , 纯水	18	393	2025 年5 月 1 日

new-api怎么让一个渠道出问题后自动换另一个渠道啊

相关话题