grok3 api 截断

[lyriontsoi (lyrion)]

我使用的是站内大佬的neatchat（可以看作nextchat，好像是ui上做了写改动，大体上没有变动）来搭建grok3来使用，但是我用原始xai的url还是使用bbb佬的api proxy都在大概6000-7000的输出范围内被截断。不知道佬友们有没有遇到过相同的情况，不知道怎么解决？

[George (時価ネット田中)]

max tokens没设置好吧？

[lyriontsoi (lyrion)]

设置了65536.

[Cosmosurfer (二次元刀哥)]

请问grok-3和grok-3-fast除了在速度上，在性能上有什么区别吗？

[George (時価ネット田中)]

设为131072，然后top_p调0.95试试
还有就是用next chat如果你网络有断流也会截断的

[George (時価ネット田中)]

性能没区别

[lyriontsoi (lyrion)]

似乎还是无法解决，我想本地网络是没有问题的，重复了多次，多次都是卡在6000多tokens上。
我看看有没有别的web端的搭grok试一下

[Qiner (林黛玉倒拔垂杨柳)]

@zhong_little 记得 NextChat 有个什么 8192 参数是不在设置项但确实影响到上限的。

[lyriontsoi (lyrion)]

不知道佬友有没有什么推荐的web端，openweb/lobe 这种。最好文档能够完善一点，比较好搭建的设置参数

[zhong_little (Megasoft)]

参数好像跟 o1 一样需要走 max_completion_tokens，max_tokens 成上下文窗口了

[lyriontsoi (lyrion)]

@zhong_little

max_completion_tokens

佬友，这个是nextchat文档里面的吗？我没有找到文档里面找到这个参数，我是vercel搭建的，所以我在环境变量里面改这个参数就可以了吗？

[zhong_little (Megasoft)]

不是，这是 grok 的文档

[lyriontsoi (lyrion)]

用cherry studio 试了一下，确实是nextchat的问题

[RU_Sirius]

grok3 api 出来了？啥时候的事？居然没看到 前沿快讯

[lyriontsoi (lyrion)]

上午的时候出来的hhh

[zhong_little (Megasoft)]

我的二开版本适配 grok 输出长度和推理程度设置了，思考力飙升

[zhong_little (Megasoft)]

上午 grok3 都刷屏了 hhh

[RU_Sirius]

上午没来逛 啥也不知道

[lyriontsoi (lyrion)]

太厉害了佬，不介意的话要不留个github project链接，如果开源的话hhh

[zhong_little (Megasoft)]

二开 nextchat 在这里：GitHub - QAbot-zh/ChatGPT-Next-Web: A well-designed cross-platform ChatGPT UI (Web / PWA / Linux / Win / MacOS). 一键拥有你自己的跨平台 ChatGPT 应用。