Skip to content

Commit 8ed03e7

Browse files
authored
Merge pull request #937 from olddonkey/codex/572-nscale-vultr-model-apis
feat(providers): add Nscale and Vultr presets
2 parents 75f384c + 5f44310 commit 8ed03e7

16 files changed

Lines changed: 433 additions & 12 deletions

File tree

‎docs-site/src/content/docs/getting-started/quickstart.md‎

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -13,7 +13,7 @@ ocx init
1313

1414
`ocx init` walks you through:
1515

16-
1. **Pick a provider** — choose one of the 74 built-in registry presets or `custom` to type a base
16+
1. **Pick a provider** — choose one of the 76 built-in registry presets or `custom` to type a base
1717
URL and adapter.
1818
2. **API key** — paste a key, or reference an environment variable like `${ANTHROPIC_API_KEY}`.
1919
3. **Default model** — for key, local, and custom providers, accept the preset or enter a model id.

‎docs-site/src/content/docs/guides/providers.md‎

Lines changed: 12 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -217,7 +217,7 @@ selectors, then retry. Signing in from a machine with no existing `kiro-cli` ses
217217

218218
## 3. API-key catalog
219219

220-
opencodex ships 74 built-in presets: 62 key-based, eight OAuth, three local, and one default
220+
opencodex ships 76 built-in presets: 64 key-based, eight OAuth, three local, and one default
221221
ChatGPT-forward preset. The dashboard's **Add provider** picker opens a key provider's dashboard,
222222
validates the key, and stores it; validation is provider-specific. Notable entries:
223223

@@ -251,6 +251,8 @@ free-experimentation model.
251251
| Cerebras | `https://api.cerebras.ai/v1` |
252252
| DeepInfra | `https://api.deepinfra.com/v1/openai` |
253253
| Hyperbolic | `https://api.hyperbolic.xyz/v1` |
254+
| Nscale Serverless Inference | `https://inference.api.nscale.com/v1` |
255+
| Vultr Serverless Inference | `https://api.vultrinference.com/v1` |
254256
| Baseten Model APIs | `https://inference.baseten.co/v1` |
255257
| Command Code | `https://api.commandcode.ai/provider/v1` |
256258
| SambaNova Cloud | `https://api.sambanova.ai/v1` |
@@ -305,6 +307,15 @@ slash-containing native model ids, and caps live discovery at 256 KiB and 256 ra
305307
serverless text and vision-language chat only; Hyperbolic's separate image, audio, and GPU endpoints
306308
are out of scope. Create keys at [Hyperbolic](https://app.hyperbolic.ai).
307309

310+
**Nscale and Vultr discovery.** Both presets read the provider's authenticated `/v1/models` catalog,
311+
preserve native ids, and cap discovery at 256 KiB and 256 raw rows. Nscale's catalog mixes chat,
312+
image, and embedding models without a modality field, so the preset admits only
313+
`meta-llama/Llama-3.1-8B-Instruct`, the model used by Nscale's official tool-calling API example.
314+
Vultr currently documents tool calling only for `kimi-k2-instruct`, so its preset exposes only that
315+
model. Other rows remain hidden until the provider publishes equivalent agent-tool evidence. Create
316+
an Nscale service token in the [Nscale Console](https://console.nscale.com); copy Vultr's inference
317+
key from the subscription overview in the [Vultr Console](https://my.vultr.com).
318+
308319
**Command Code discovery.** The preset reads Command Code's `/provider/v1/models` list from
309320
the fixed Provider API host, preserves provider-native ids, and caps discovery at 256 KiB and 256 raw
310321
rows. `ocx login command-code` supports OAuth via browser sign-in (with optional local CLI credential

‎docs-site/src/content/docs/ja/getting-started/quickstart.md‎

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -13,7 +13,7 @@ ocx init
1313

1414
`ocx init` では次の手順を説明します。
1515

16-
1. **プロバイダーを選択してください** — 74 個の組み込みレジストリプリセットのいずれか、または `custom` を選択してベース URL とアダプターを入力します。
16+
1. **プロバイダーを選択してください** — 76 個の組み込みレジストリプリセットのいずれか、または `custom` を選択してベース URL とアダプターを入力します。
1717
2. **API キー** — キーを貼り付けるか、`${ANTHROPIC_API_KEY}` のような環境変数を参照します。
1818
3. **デフォルト モデル** — キー、ローカル、カスタム プロバイダーの場合は、プリセットを受け入れるか、モデル ID を入力します。
1919
4. **プロキシ ポート** — デフォルトは `10100` です。

‎docs-site/src/content/docs/ja/guides/providers.md‎

Lines changed: 11 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -144,7 +144,7 @@ Kiro のログインには Kiro CLI が必要です。Unix では `curl -fsSL ht
144144

145145
## 3. API キーカタログ
146146

147-
opencodex には組み込みプリセットが 74 個含まれています。キー方式 62、OAuth 8、ローカル 3、
147+
opencodex には組み込みプリセットが 76 個含まれています。キー方式 64、OAuth 8、ローカル 3、
148148
デフォルト ChatGPT 転送プリセット 1 です。ダッシュボードの **Add provider** ピッカーはキー発行ページを開き、
149149
入力したキーを検証した後保存します(検証はプロバイダー固有です)。主な項目は以下のとおりです:
150150

@@ -178,6 +178,8 @@ Cline IDE/CLI のみで API からは使えません。`minimax/minimax-m2.5`
178178
| Cerebras | `https://api.cerebras.ai/v1` |
179179
| DeepInfra | `https://api.deepinfra.com/v1/openai` |
180180
| Hyperbolic | `https://api.hyperbolic.xyz/v1` |
181+
| Nscale Serverless Inference | `https://inference.api.nscale.com/v1` |
182+
| Vultr Serverless Inference | `https://api.vultrinference.com/v1` |
181183
| Baseten Model APIs | `https://inference.baseten.co/v1` |
182184
| Command Code | `https://api.commandcode.ai/provider/v1` |
183185
| SambaNova Cloud | `https://api.sambanova.ai/v1` |
@@ -226,6 +228,14 @@ Volcengine Agent Plan は `openai-responses` アダプターでネイティブ R
226228
vision-language chat のみを対象とし、別系統の image、audio、GPU endpoint は対象外です。キーは
227229
[Hyperbolic](https://app.hyperbolic.ai) で作成します。
228230

231+
**Nscale と Vultr の discovery:** どちらの preset も認証付き `/v1/models` カタログを読み、ネイティブ ID を
232+
保持し、discovery を 256 KiB と raw 256 行に制限します。Nscale のカタログには modality フィールドなしで
233+
chat、image、embedding が混在するため、公式の tool-calling API 例で使われる
234+
`meta-llama/Llama-3.1-8B-Instruct` のみを許可します。Vultr は現在 `kimi-k2-instruct` だけに tool calling を
235+
明記しているため、そのモデルのみを公開します。ほかの行は同等の agent-tool 証拠が公開されるまで非表示です。
236+
Nscale の service token は [Nscale Console](https://console.nscale.com) で作成し、Vultr の inference key は
237+
[Vultr Console](https://my.vultr.com) の subscription overview から取得します。
238+
229239
**Command Code の discovery:** preset は Command Code の `/provider/v1/models` リストを固定の
230240
Provider API ホストから読み、スラッシュを含むネイティブモデル ID を保持し、live discovery を
231241
256 KiB と raw 256 行に制限します。`ocx login command-code` はブラウザーでの OAuth サインインを

‎docs-site/src/content/docs/ko/getting-started/quickstart.md‎

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -13,7 +13,7 @@ ocx init
1313

1414
`ocx init`은 다음 과정을 안내합니다:
1515

16-
1. **프로바이더 선택** — 내장 레지스트리 프리셋 74개 중 하나를 고르거나 `custom`을 선택해 base URL과 adapter를 직접 입력합니다.
16+
1. **프로바이더 선택** — 내장 레지스트리 프리셋 76개 중 하나를 고르거나 `custom`을 선택해 base URL과 adapter를 직접 입력합니다.
1717
2. **API 키** — 키를 붙여넣거나 `${ANTHROPIC_API_KEY}` 같은 환경 변수를 참조합니다.
1818
3. **기본 모델** — 키, 로컬, custom 프로바이더에서는 프리셋을 그대로 쓰거나 모델 ID를 직접 입력합니다.
1919
4. **프록시 포트** — 기본값은 `10100`입니다.

‎docs-site/src/content/docs/ko/guides/providers.md‎

Lines changed: 11 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -143,7 +143,7 @@ Kiro 로그인에는 Kiro CLI가 필요합니다. Unix에서는 `curl -fsSL http
143143

144144
## 3. API 키 카탈로그
145145

146-
opencodex에는 빌트인 프리셋이 74개 들어 있습니다. 키 방식 62개, OAuth 8개, 로컬 3개,
146+
opencodex에는 빌트인 프리셋이 76개 들어 있습니다. 키 방식 64개, OAuth 8개, 로컬 3개,
147147
기본 ChatGPT 포워드 프리셋 1개입니다. 대시보드의 **Add provider** 선택기는 키 발급 페이지를 열고,
148148
입력한 키를 검증한 뒤 저장합니다(검증은 프로바이더별로 다릅니다). 주요 항목은 다음과 같습니다:
149149

@@ -178,6 +178,8 @@ Cline IDE/CLI에서만 제공되며 API로는 사용할 수 없습니다. `minim
178178
| Cerebras | `https://api.cerebras.ai/v1` |
179179
| DeepInfra | `https://api.deepinfra.com/v1/openai` |
180180
| Hyperbolic | `https://api.hyperbolic.xyz/v1` |
181+
| Nscale Serverless Inference | `https://inference.api.nscale.com/v1` |
182+
| Vultr Serverless Inference | `https://api.vultrinference.com/v1` |
181183
| Baseten Model APIs | `https://inference.baseten.co/v1` |
182184
| Command Code | `https://api.commandcode.ai/provider/v1` |
183185
| SambaNova Cloud | `https://api.sambanova.ai/v1` |
@@ -225,6 +227,14 @@ Bearer API 키를 사용합니다. registry가 소유하는 DeepInfra 모델 목
225227
대상으로 하며 별도 image, audio, GPU 엔드포인트는 범위에서 제외합니다. 키는
226228
[Hyperbolic](https://app.hyperbolic.ai)에서 생성합니다.
227229

230+
**Nscale 및 Vultr 검색:** 두 프리셋 모두 인증된 `/v1/models` 카탈로그를 읽고 네이티브 ID를 보존하며,
231+
검색을 256 KiB와 원시 행 256개로 제한합니다. Nscale 카탈로그는 modality 필드 없이 chat, image,
232+
embedding 모델을 함께 반환하므로 공식 도구 호출 API 예제에 사용된
233+
`meta-llama/Llama-3.1-8B-Instruct`만 허용합니다. Vultr는 현재 `kimi-k2-instruct`에만 도구 호출을
234+
문서화하므로 해당 모델만 노출합니다. 다른 행은 동등한 agent-tool 근거가 공개될 때까지 숨깁니다.
235+
Nscale service token은 [Nscale Console](https://console.nscale.com)에서 만들고, Vultr inference key는
236+
[Vultr Console](https://my.vultr.com)의 구독 overview에서 복사합니다.
237+
228238
**Command Code 검색:** 프리셋은 Command Code의 `/provider/v1/models` 목록을 고정된 Provider API
229239
호스트에서 읽고, 슬래시가 포함된 네이티브 모델 ID를 보존하며 live discovery를 256 KiB와 raw 행
230240
256개로 제한합니다. `ocx login command-code`는 브라우저 OAuth 로그인을 지원하며(기존 Command Code

‎docs-site/src/content/docs/ru/getting-started/quickstart.md‎

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -13,7 +13,7 @@ ocx init
1313

1414
`ocx init` проведёт вас по следующим шагам:
1515

16-
1. **Выбор провайдера** — выберите один из 74 встроенных пресетов реестра или `custom`, чтобы
16+
1. **Выбор провайдера** — выберите один из 76 встроенных пресетов реестра или `custom`, чтобы
1717
ввести базовый URL и адаптер вручную.
1818
2. **API-ключ** — вставьте ключ или сошлитесь на переменную окружения вида `${ANTHROPIC_API_KEY}`.
1919
3. **Модель по умолчанию** — для провайдеров с ключом, локальных и `custom` примите значение из

‎docs-site/src/content/docs/ru/guides/providers.md‎

Lines changed: 12 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -154,7 +154,7 @@ OAuth-провайдеры, чьи учётные данные содержат
154154

155155
## 3. Каталог API-ключей
156156

157-
opencodex поставляется с 74 встроенными пресетами: 62 на основе ключей, восемь OAuth, три локальных и
157+
opencodex поставляется с 76 встроенными пресетами: 64 на основе ключей, восемь OAuth, три локальных и
158158
один пресет ChatGPT-форварда по умолчанию. Селектор **Add provider** в дашборде открывает страницу
159159
выдачи ключей провайдера, проверяет ключ и сохраняет его; проверка зависит от провайдера.
160160
Наиболее заметные записи:
@@ -189,6 +189,8 @@ opencodex поставляется с 74 встроенными пресетам
189189
| Cerebras | `https://api.cerebras.ai/v1` |
190190
| DeepInfra | `https://api.deepinfra.com/v1/openai` |
191191
| Hyperbolic | `https://api.hyperbolic.xyz/v1` |
192+
| Nscale Serverless Inference | `https://inference.api.nscale.com/v1` |
193+
| Vultr Serverless Inference | `https://api.vultrinference.com/v1` |
192194
| Baseten Model APIs | `https://inference.baseten.co/v1` |
193195
| Command Code | `https://api.commandcode.ai/provider/v1` |
194196
| SambaNova Cloud | `https://api.sambanova.ai/v1` |
@@ -239,6 +241,15 @@ Volcengine Agent Plan использует нативную конечную т
239241
строками. Он охватывает только serverless text и vision-language chat; отдельные image, audio и GPU
240242
endpoint в него не входят. Ключи создаются в [Hyperbolic](https://app.hyperbolic.ai).
241243

244+
**Discovery для Nscale и Vultr.** Оба пресета читают аутентифицированный каталог `/v1/models`,
245+
сохраняют нативные id и ограничивают discovery размером 256 KiB и 256 исходными строками. Каталог
246+
Nscale смешивает chat-, image- и embedding-модели без поля modality, поэтому пресет допускает только
247+
`meta-llama/Llama-3.1-8B-Instruct` — модель из официального примера API с вызовом инструментов.
248+
Vultr сейчас документирует tool calling только для `kimi-k2-instruct`, поэтому его пресет показывает
249+
только эту модель. Остальные строки скрыты до появления равноценного подтверждения agent-tool.
250+
Service token Nscale создаётся в [Nscale Console](https://console.nscale.com), а inference key Vultr
251+
копируется со страницы подписки в [Vultr Console](https://my.vultr.com).
252+
242253
**Discovery для Command Code.** Пресет читает список `/provider/v1/models` с фиксированного
243254
хоста Provider API, сохраняет нативные id моделей со знаком `/` и ограничивает live discovery размером
244255
256 KiB и 256 исходными строками. `ocx login command-code` поддерживает вход через OAuth в браузере

‎docs-site/src/content/docs/zh-cn/getting-started/quickstart.md‎

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -13,7 +13,7 @@ ocx init
1313

1414
`ocx init` 会引导你完成:
1515

16-
1. **选择 provider** — 从内置 registry 的 74 个预设中选择一个,或选择 `custom` 手动输入 base URL 和 adapter。
16+
1. **选择 provider** — 从内置 registry 的 76 个预设中选择一个,或选择 `custom` 手动输入 base URL 和 adapter。
1717
2. **API key** — 粘贴一个 key,或引用一个环境变量,例如 `${ANTHROPIC_API_KEY}`。
1818
3. **默认模型** — 对于 key、本地和 custom provider,接受预设值或输入模型 id。
1919
4. **代理端口** — 默认为 `10100`。

‎docs-site/src/content/docs/zh-cn/guides/providers.md‎

Lines changed: 10 additions & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -132,7 +132,7 @@ Kiro 登录需要 Kiro CLI:Unix 使用 `curl -fsSL https://cli.kiro.dev/instal
132132

133133
## 3. API 密钥目录
134134

135-
opencodex 内置 74 个预设:62 个密钥预设、8 个 OAuth 预设、3 个本地预设,以及 1 个默认的
135+
opencodex 内置 76 个预设:64 个密钥预设、8 个 OAuth 预设、3 个本地预设,以及 1 个默认的
136136
ChatGPT 转发预设。仪表盘的 **Add provider** 选择器会打开密钥提供商的控制台,验证并保存密钥。
137137
验证因提供商而异。主要条目包括:
138138

@@ -166,6 +166,8 @@ Cline IDE/CLI 中提供,不能通过 API 使用;`minimax/minimax-m2.5` 是
166166
| Cerebras | `https://api.cerebras.ai/v1` |
167167
| DeepInfra | `https://api.deepinfra.com/v1/openai` |
168168
| Hyperbolic | `https://api.hyperbolic.xyz/v1` |
169+
| Nscale Serverless Inference | `https://inference.api.nscale.com/v1` |
170+
| Vultr Serverless Inference | `https://api.vultrinference.com/v1` |
169171
| Baseten Model APIs | `https://inference.baseten.co/v1` |
170172
| Command Code | `https://api.commandcode.ai/provider/v1` |
171173
| SambaNova Cloud | `https://api.sambanova.ai/v1` |
@@ -210,6 +212,13 @@ OpenAI Chat Completions 提供商。registry 固定的 DeepInfra 模型列表 UR
210212
并将实时发现限制为 256 KiB 和 256 条原始记录。它仅覆盖 serverless text 与 vision-language chat;独立的
211213
image、audio 和 GPU 端点不在范围内。密钥可在 [Hyperbolic](https://app.hyperbolic.ai) 创建。
212214

215+
**Nscale 与 Vultr 发现:**两个预设都会读取需要认证的 `/v1/models` 目录、保留原生模型 id,并将发现限制为
216+
256 KiB 和 256 条原始记录。Nscale 的目录没有 modality 字段,却混合了 chat、image 与 embedding 模型,
217+
所以预设仅允许其官方工具调用 API 示例使用的 `meta-llama/Llama-3.1-8B-Instruct`。Vultr 目前只明确
218+
`kimi-k2-instruct` 支持工具调用,因此其预设仅暴露这一模型。其他记录会保持隐藏,直到提供商发布同等的
219+
agent-tool 证据。Nscale service token 可在 [Nscale Console](https://console.nscale.com) 创建;Vultr
220+
inference key 可从 [Vultr Console](https://my.vultr.com) 的订阅概览复制。
221+
213222
**Command Code 发现:**该预设从固定的 Provider API 主机读取 Command Code 的
214223
`/provider/v1/models` 列表,保留含 `/` 的原生模型 id,并将实时发现限制为 256 KiB 和 256 条原始记录。
215224
`ocx login command-code` 支持通过浏览器进行 OAuth 登录(现有 Command Code CLI 用户还可选择从

0 commit comments

Comments
 (0)