人工智能产生的垃圾正在污染我们的文化

近日《纽约时报》发表神经科学家、小说家埃里克·霍尔（Erik Hoel）的文章指出，AI 生成内容正在污染我们的文化，长此以往，我们引以为傲的灿烂文化将会消失。

越来越多的人工智能生成的合成输出出现在我们的信息流和搜索中。赌注远远超出了我们屏幕上显示的范围。整个文化正在受到人工智能径流的影响，它正在潜入我们最重要的机构。

考虑一下科学。 OpenAI 的最新人工智能模型、现有最先进的人工智能模型之一 GPT-4 重磅发布后，科学研究的语言开始发生变异。尤其是在人工智能本身领域。

本月发表的一项研究审查了科学家在许多研究人工智能的备受瞩目和享有盛誉的科学会议上的同行评审——研究人员对其他人工作的官方声明，这些工作构成了科学进步的基石。 “细致”一词的出现频率是前一年评论的 34 倍多。 “值得称赞”的使用频率约为 10 倍，“复杂”的使用频率为 11 倍。其他主要会议也显示出类似的模式。

当然，此类措辞是 ChatGPT 等现代大型语言模型最喜欢的一些流行语。换句话说，人工智能会议上的大量研究人员被发现将对他人工作的同行评审交给人工智能——或者至少是在大量人工智能的帮助下撰写它们。收到提交的评论越接近截止日期，其中人工智能的使用就越多。

科学领域只是生成式 AI 对整个社会影响的一个缩影。在 X/Twitter 上，任何病毒式传播的帖子几乎都肯定包含 AI 的回复，Instagram 上有大量 AI 生成的模特，Spotify 上有大量 AI 生成的歌曲，亚马逊上有大量 AI 撰写的作品，YouTube 上有大量 AI 合成的视频。

生态学家 Garrett Hardin 曾指出，污染问题是人类出于自身利益行事而造成的，他称之为“公地悲剧”。我们正经历新的公地悲剧：为了最大化点击量和浏览量，获得短期自身经济利益，越来越的人鼓励使用廉价的 AI 生产内容。现在互联网上有如此多的合成垃圾，以至于当未来的人工智能接受训练时，它接受的很多是以前的人工智能输出的内容，导致未来的副本的副本的副本，随着内容变得越来越刻板和可预测，那么我们原本的文化，就被人工智能创造的内容淹没了。

在收音机里听到主持人对“Suno AI 可以在数秒内制作出完整的2分钟歌曲”的惊叹，她说，Suno 制作的歌曲可能并不让你满意，但关键它快呀，当你急着交稿时，它一下子就提供了10个备选方案，领导也不好说你什么了。我想，这也是很多使用 AI 技术的人的普通想法。

现在“今日头条”发布微头条时，用户只需上传一张图片，点击“图片智能配文”按钮，系统就会自动给你配上一段文字，不满意还可让它换一段，用户根本不用动脑子花心思去撰写文案了。但是否也意味着雷同的内容越来越多呢？同样的现象还出现在它的评论系统中，它的“发送快捷评论”功能，自动列出三条评论给用户，你只需点击“发送”按钮即可。都不用你思考了，以后的人还有思想吗？

这是个值得每个人警惕的事，AI 正在扼杀人类的思维。