简介
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统，提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排，从而实现复杂的问答场景。
- 项目开源
FastGPT 遵循附加条件 Apache License 2.0 开源协议，你可以 Fork 之后进行二次开发和发布。FastGPT 社区版将保留核心功能，商业版仅在社区版基础上使用 API 的形式进行扩展，不影响学习使用。 - 独特的 QA 结构
针对客服问答场景设计的 QA 结构，提高在大量数据场景中的问答准确性。 - 可视化工作流
通过 Flow 模块展示了从问题输入到模型输出的完整流程，便于调试和设计复杂流程。 - 无限扩展
基于 API 进行扩展，无需修改 FastGPT 源码，也可快速接入现有的程序中。 - 便于调试
提供搜索测试、引用修改、完整对话预览等多种调试途径。 - 支持多种模型
支持 GPT、Claude、文心一言等多种 LLM 模型，未来也将支持自定义的向量模型。
简单上手
MongoDB 配置
注册 MongoDB，然后自行创建项目即可，具体可参考我写的 抱脸部署LibreChat教程 ，注意复制的数据库链接尚需添加后缀 ?directConnection=true，编辑后格式如下：
mongodb+srv://username:[email protected]/LibreChat?retryWrites=true&appName=Fastgpt?directConnection=true
该值稍后会作为环境变量 MONGODB_URI 的值填入
Supabase 配置
注册 Supabase 账号并依次创建组织和项目，记住您输入的密码，稍等几分钟后，依次点击左下角 Project Settings - Database ，复制 Connection String，修改 [YOUR-PASWPRD] 为您设置的密码，并添加后缀 ?directConnection=true，编辑后格式如下：
postgres://postgres.username:[email protected]:6543/postgres?directConnection=true
该值稍后会作为环境变量 PG_URL 的值填入
Huggingface 配置
复制样板
官方暂时未提供样板，可复制大佬写好的：
https://huggingface.co/spaces/Seeflyer937/fast
环境变量
| Key | Value | 描述 |
|---|---|---|
| DEFAULT_ROOT_PSW | 自定义 | 默认root密码 |
| CHAT_API_KEY | 自定义 | 聊天服务的API密钥 |
| OPENAI_BASE_URL | 自定义 | OpenAI API的基本URL ，必须支持embedding |
| MONGODB_URI | 见 MongoDB 配置 | MongoDB链接 |
| PG_URL | 见 Supabase 配置 | PostgreSQL链接 |
修改embedding
注意您使用的API必须支持 embedding，这里放个支持 embedding 的中转站(带AFF)，建议接入 embedding3 系列或 m3e 模型，点击 FIles，替换 config.json 中138~147行为以下代码：
m3e可参考官方文档部署（支持docker部署）
"vectorModels": [
{
"model": "m3e",
"name": "M3E (测试使用)",
"avatar": "/imgs/model/openai.svg",
"charsPointsPrice": 0,
"defaultToken": 700,
"maxToken": 3000,
"weight": 100
},
{
"model": "text-embedding-3-large",
"name": "Embedding-3",
"avatar": "/imgs/model/openai.svg",
"charsPointsPrice": 0,
"defaultToken": 700,
"maxToken": 8191,
"weight": 100,
"defaultConfig": {},
"dbConfig": {},
"queryConfig": {}
}
],
访问页面
如何访问以及自定义域名可参考这篇帖子
注意事项
- 数据库文件总数建议控制在 20个 左右，多了会崩溃
