突然发现缺少一个一站式私有化个人 LLM 聊天平台解决方案

前情提要:很早之前我就吐槽 Open WebUI 太重几个月前我问安卓端有没有什么好用的 AI LLM 聊天客户端,那个时候 RikkaHub 功能还比较少。但是经过这几个月的发展,RikkaHub 功能越来越完善,我越来越离不开它了。

现在回过头来看网页端的自托管 LLM 聊天前端,竟然没有一个让人满意的。分析了一下 Open WebUI、LobeChat,以及 API 中转的 one-api、uni-api、new-api、veloera ,还有一站式的 ChatNio 等,都不能很好的满足我的要求。

我需要一个集成聊天网页和 API 中转的私有化 LLM 聊天平台。

拿 AI 分析了一下我的需求,不知道有没有人有同感 :joy: 很想从头做一个新的,但是我的实力根本不允许啊(L 站规定 AI 生成内容只能截图发出,就这样将就着看吧)

28 个赞

自己写一个
让AI写一个 :rofl:

2 个赞

qq机器人

1 个赞

ai前端需要API中转是为啥
正常来说就能添加各种提供商
还是说想聚合一下,负载均衡啥的?

1 个赞

我看了一下图片佬友是想要一个拥有和客户端多样和聊天界面的样式优美的功能性又用new-api的轮询,负载均衡,还要求轻量化和部署简单,但说实话很难的拉,这样的开发出来基本就很难满足轻量化这些,而且因为要部署在服务器,网页端调用,对于服务器的性能和优化要求很高,不然到时候只能卡成构思了

4 个赞

三色图呢,发一下

5 个赞

这个很轻量吗?我也有同样的烦恼。一会儿研究一下

:bili_038: 一直都有的说:

  • One / New API(无限流渠道多对一)+
  • NextChat(同一对话内无缝切换任意模型 & 最轻量 LLM 前端)+
  • WebDAV / Upstash 多端云同步 +
  • 通配子域名(一个子域名对应一个系列云笔记):down_left_arrow:

不管 UI 还是操作都很 TM 顺手。

:bili_038: 因为这俩项目作者的思维过于前沿向后兼容设计得太好了以至于我压根没用过其他的比如 Cherry、RikkaHub 啥的,出新模型基本就是加个名字的事,就懒得折腾了。

3 个赞

佬你说的是哪两个?nextchat有不少项目.

:bili_040: 啊?说的 NextChat 和 One API 这俩项目。

New API 是 One API 的二开核心一样的。

NextChat 没啥特别出名的开源二开项目,我用的原版(自己改的 UI 配色)。

秘塔 用的也是基于 NextChat 的二开。。硅基流动 也推出过一段时间 NextChat 紫色版。。

好评 等我chatwise试用过期 直接切换 :smiling_face_with_three_hearts:
cherry 也好笨重 可能我开会话多了点

LobeChat 其实是有服务端 API 中转功能的。
他们也在努力实现 OpenAPI,聊天部分兼容 OpenAI 接口。

这样就需要多个容器。而且 NextChat 太轻量了,很多工具调用啥的都不支持,不能很好的适配一些模型特性

你指的是那个要六七个容器才能部署得来的 LobeChat 服务端版?设计比 ChatNio 还复杂:joy:根本用不到

想轻量不是只要 vercel 和一个在线数据库吗,都不用 vps 。

我是在局域网内部署的:joy:

1 个赞

:bili_040: 只是其中一种使用中的『解决方案』。1 行命令解决所有需求那种的话,三色图.jpg

1 个赞

ChatNio 呢

1 个赞

ChatNio 功能上确实基本符合要求,但是它过于臃肿: 大量的商业化功能(支付、多租户、复杂的后台管理)对个人用户来说是冗余的,增加了系统的复杂度和资源消耗。而且它依赖 MySQL 和 Redis,对于轻量级部署来说过于沉重。

Varc 通过 LINUX DO <[email protected]> 于 2025年10月2日周四 15:10写道:

1 个赞

目前我也在思考这个问题,只要达成最简单的和其他正版GPT,Claude的网页相同的功能即可,目前很多webui都太过于臃肿

1 个赞