如何防止AI将错就错?胡说八道?

各位朋友大家好,我想请教个问题:
我让deepseek读取我电脑上的文件,明明它读取不到,竟然还给我输出了个内容?为了防止呗AI忽悠,请问该怎么样避免这种AI将错就错?胡说八道?的情况呢?

1 个赞

感觉AI的缺点就是不会说,哦,对不起,我不知道。一本正经胡说八道是强项

2 个赞

在deepseek无数次“请稍候再试”后,给我个胡说八道的答案,我????

这种应该就叫大模型的幻觉,怎么减少幻觉,站内有发过相关帖子,你可以搜搜,要么就是蒸馏,要么就是外挂知识库,要么就采用更高质量的训练数据

2 个赞

告诉他知识库没有就回答不知道

3 个赞

这个其实都应该是一个最基本的功能。现在ai回复假的都能给你说成是真的

原来如此,受教了,我去学习一下

我已经再尝试直接告诉他不知道就是不知道了,但是还在“The server is busy. Please try again later.”中。。。。

这不纯纯坑人嘛,我琢磨着也不能老把ai当文字优化器啊

改源码,找到0个chunk返回默认输入:“未找到相关知识。”

3 个赞

我纯:clown_face:,根本没这个实力,我也就是能用大厂们部署好的 :sob:

:bili_040: 通过模型自身很难判断的,但如果有外部标识就不一样了。

这是模型幻觉 ↓

这是真的搜索 ↓

:bili_040: 模型可能会骗人,但代码不会。

1 个赞

很正常的,所以最终还是要人为判断。

1 个赞

没法避免啊。。

1 个赞

ds真的要降低温度,实际使用感觉不同场景要比别家降低0.3-0.5

1 个赞

没得办法

1 个赞

有可能是因为MOE架构或者是推理的原因

按 F12 → 网络,看 completion 的 prompt 长度。DeepSeek 本体也不支持「文件上传」只是通过网页将文件解析成文本再塞进上下文一起发给大模型。

如果 prompt 很小那定然是没有「收到文件」的。反之亦然。

1 个赞

:cow: 专业!我康康

有道理啊 怎么感觉这个ai不ai 哈哈