You signed in with another tab or window. Reload to refresh your session.You signed out in another tab or window. Reload to refresh your session.You switched accounts on another tab or window. Reload to refresh your session.Dismiss alert
{{ message }}
Repository navigation
Commit d039838
Browse filesBrowse the repository at this point in the historyBrowse files
docs: document the request-id header, cacheHitRate, and Vercel routing in every locale
Three more surfaces where shipped behavior had no documentation, or had it
only in English.
x-opencodex-request-id and cacheHitRate had zero docs-site coverage in any
language. The request id is the key that ties a response to its request-log
and usage rows; the header is proxy-generated, overwrites any caller or
upstream value, and is CORS-exposed so browser clients can actually read it.
cacheHitRate is null rather than 0 when a provider reports no cache
telemetry, and that distinction matters: 'no data' and 'a real 0% hit rate'
are different facts.
vercelGatewayRouting was English-only and is now ported to all seven
locales.
Copy file name to clipboardExpand all lines: docs-site/src/content/docs/fr/reference/configuration/providers.md
+40Lines changed: 40 additions & 0 deletions
Display the source diff
Display the rich diff
Original file line number
Diff line number
Diff line change
@@ -91,6 +91,7 @@ sauvegarde dont le contenu diffère, puis réécrit en identifiants sans préfix
91
91
|`headers?`|`Record<string, string>`| En-têtes supplémentaires en amont. L'autorisation, les cookies, les en-têtes de clé API, les nouvelles lignes intégrées et les noms invalides sont rejetés. |
92
92
|`openRouterRouting?`|`OpenRouterProviderRouting`| Préférences OpenRouter `order`, `only` et `allowFallbacks` par défaut ; valable uniquement pour les OpenRouter canoniques avec `openai-chat`. |
93
93
|`modelOpenRouterRouting?`|`Record<string, OpenRouterProviderRouting>`| Remplacements exacts de l'ID de modèle qui remplacent la préférence OpenRouter à l'échelle du fournisseur. |
94
+
|`vercelGatewayRouting?`|`VercelGatewayRouting`| Préférences Vercel AI Gateway par défaut pour `order`, `only` et `sort` (`"cost"`\|`"ttft"`\|`"tps"`) ; valables uniquement pour le fournisseur Vercel AI Gateway canonique avec `openai-chat`. |
94
95
|`authMode?`|`"key" \| "forward" \| "oauth" \| "local"`| Mode d'authentification (`key` par défaut). Les identifiants OAuth ou d'abonnement sont stockés hors de `config.json` ; `local` est réservé aux fournisseurs dont l'entrée de registre l'autorise. |
95
96
|`codexAccountMode?`|`"pool" \| "direct"`| Réservé au fournisseur canonique `openai` ; la valeur par défaut est Pool. Le mode Direct contourne l'état du pool. |
96
97
|`refreshPolicy?`|`"proactive" \| "lazy-only" \| "disabled"`| Remplace la politique Token Guardian de ce fournisseur OAuth. |
@@ -371,6 +372,45 @@ Les clés de modèle sont les identifiants OpenRouter natifs exacts, sans le pr
371
372
`openrouter/anthropic-claude-sonnet-5` restaure l'identifiant natif `anthropic/claude-sonnet-5` avant d'appliquer
372
373
la règle du modèle.
373
374
375
+
## Routage des fournisseurs Vercel AI Gateway
376
+
377
+
Vercel AI Gateway peut router un modèle entre plusieurs fournisseurs d'inférence sous-jacents.
378
+
`vercelGatewayRouting` configure les préférences à l'échelle du fournisseur ; `modelVercelGatewayRouting` les remplace
379
+
pour les identifiants de modèle exacts. Lorsque les deux sont omis, `resolveVercelGatewayRouting()` renvoie `undefined`.
380
+
Les générateurs de requêtes Chat omettent alors le champ `provider`, et Vercel AI Gateway conserve son comportement de
381
+
routage dynamique par défaut.
382
+
383
+
-`order` : identifiants courts des fournisseurs en amont de Vercel AI Gateway, par ordre de priorité.
384
+
-`only` : liste d'autorisation explicite limitant les fournisseurs en amont de Vercel AI Gateway admissibles.
385
+
-`sort` : trie automatiquement les fournisseurs admissibles par `"cost"` (coût le plus faible), `"ttft"` (délai
386
+
avant le premier jeton) ou `"tps"` (jetons par seconde).
Copy file name to clipboardExpand all lines: docs-site/src/content/docs/fr/reference/management-api.md
+6Lines changed: 6 additions & 0 deletions
Display the source diff
Display the rich diff
Original file line number
Diff line number
Diff line change
@@ -143,6 +143,12 @@ réestimée d'après la tarification active au moment de la lecture du résumé.
143
143
et non de frais d'abonnement. Les nouvelles requêtes du pool principal utilisent le libellé réservé `main` ; les anciennes lignes
144
144
`openai` sans qualification restent dans une catégorie ambiguë au lieu d'être réaffectées d'après la configuration actuelle.
145
145
146
+
Les lignes de `models`, `providers` et `days[].models` comportent également `cacheHitRate` : la part des jetons
147
+
d'entrée servis depuis le cache d'invites du fournisseur, limitée à `[0, 1]`. Cette valeur est `null` — jamais `0` —
148
+
lorsque le fournisseur n'a transmis aucune télémétrie de cache ou que la ligne ne contient aucun jeton d'entrée, car
149
+
« aucune donnée de cache » et « un véritable taux de succès de 0 % » sont deux faits distincts, et un graphique qui
150
+
les représente de la même manière est trompeur.
151
+
146
152
:::caution
147
153
Les points de terminaison de nettoyage du stockage peuvent déplacer ou supprimer définitivement les données de session archivées. Toujours prévisualiser
148
154
d’abord et soumettez le résumé renvoyé. Préférez la quarantaine lorsqu’une récupération peut être nécessaire.
Copy file name to clipboardExpand all lines: docs-site/src/content/docs/ko/reference/configuration/providers.md
+38Lines changed: 38 additions & 0 deletions
Display the source diff
Display the rich diff
Original file line number
Diff line number
Diff line change
@@ -79,6 +79,7 @@ managed map을 활성화하면 privacy-safe selector를 만들고, 이후 계정
79
79
|`headers?`|`Record<string, string>`| 추가 상위 헤더입니다. Authorization, cookies, API-key 헤더, 내장 개행, 잘못된 이름은 허용하지 않습니다. |
80
80
|`openRouterRouting?`|`OpenRouterProviderRouting`| 기본 OpenRouter `order`, `only`, `allowFallbacks` 선호도입니다. 정식 OpenRouter와 `openai-chat`에서만 유효합니다. |
81
81
|`modelOpenRouterRouting?`|`Record<string, OpenRouterProviderRouting>`| 공급자 전반의 OpenRouter 선호도를 덮어쓰는 정확한 모델 id별 재정의입니다. |
82
+
|`vercelGatewayRouting?`|`VercelGatewayRouting`| 기본 Vercel AI Gateway `order`, `only`, `sort`(`"cost"`\|`"ttft"`\|`"tps"`) 선호도입니다. 정식 Vercel AI Gateway와 `openai-chat`에서만 유효합니다. |
82
83
|`authMode?`|`"key" \| "forward" \| "oauth" \| "local"`| 인증 모드입니다. 기본값은 `key`입니다. OAuth/구독 자격 증명은 `config.json` 밖에 저장되며, `local`은 레지스트리 항목이 허용하는 공급자에서만 사용할 수 있습니다. |
83
84
|`codexAccountMode?`|`"pool" \| "direct"`| 정식 `openai` 전용입니다. 기본값은 Pool입니다. Direct는 풀 상태를 우회합니다. |
84
85
|`refreshPolicy?`|`"proactive" \| "lazy-only" \| "disabled"`| 이 OAuth 공급자의 Token Guardian 정책을 덮어씁니다. |
@@ -298,6 +299,43 @@ OpenRouter는 하나의 모델을 여러 추론 공급자로 제공할 수 있
298
299
299
300
모델 키는 외부 opencodex 공급자 접두사 없이, 정확한 네이티브 OpenRouter id여야 합니다. `openrouter/anthropic-claude-sonnet-5`를 선택하면 모델 규칙을 적용하기 전에 네이티브 `anthropic/claude-sonnet-5`로 되돌아갑니다.
300
301
302
+
## Vercel AI Gateway 공급자 라우팅
303
+
304
+
Vercel AI Gateway는 하나의 모델을 여러 기반 추론 공급자에 걸쳐 라우팅할 수 있습니다. `vercelGatewayRouting`은
305
+
공급자 전반의 선호도를 구성하고, `modelVercelGatewayRouting`은 정확한 모델 ID에 대해 이를 대체합니다. 둘 다
306
+
설정하지 않으면 `resolveVercelGatewayRouting()`이 `undefined`를 반환하므로 Chat 요청 빌더는 `provider` 필드를
307
+
생략하고 Vercel AI Gateway의 기본 동적 라우팅 동작이 유지됩니다.
308
+
309
+
-`order`: Vercel AI Gateway 업스트림 공급자 slug를 우선순위 순으로 지정합니다.
310
+
-`only`: 사용할 수 있는 Vercel AI Gateway 업스트림 공급자를 제한하는 명시적 허용 목록입니다.
311
+
-`sort`: 사용할 수 있는 공급자를 `"cost"`(최저 비용), `"ttft"`(첫 토큰까지 걸리는 시간), `"tps"`(초당 토큰 수) 기준으로 자동 정렬합니다.
모델 키는 외부 OpenCodex 공급자 접두사가 없는 Vercel 공개 모델 선택자입니다.
335
+
`vercel-ai-gateway/zai-glm-5.2`를 선택하면 모델 규칙 적용 전에 네이티브 `zai/glm-5.2`가 복원됩니다. 네이티브
336
+
`vercel/<model-id>` 선택자에도 동일한 매핑이 적용됩니다. OpenCodex에서는 인코딩된
337
+
`vercel-ai-gateway/vercel-<model-id>` 선택자를 사용하고, 모델 키에는 `vercel/<model-id>`를 유지하십시오.
338
+
301
339
## 정적 모델 허용 목록
302
340
303
341
`liveModels: false`로 두면 `models`만 노출합니다. `models`가 비어 있거나 생략되면 공급자는 어떤 라우팅 모델도 노출하지 않습니다. 라이브 발견은 캐싱 전에 4 MiB 또는 원시 모델 행 2,000개를 넘으면 거부합니다. 내장 프리셋은 더 낮은 한도를 쓰고 chat 가능한 행만 필터링할 수 있습니다. 너무 크거나 형식이 잘못된 결과는 오래된/설정된 폴백을 따릅니다. 유효하지만 선택 가능한 항목이 0개인 결과는 그대로 권위가 있으며, 조용히 다른 값으로 바꾸거나 잘라내지 않습니다.
0 commit comments