所有模型都是通过在来自互联网的海量数据上进行训练来工作的，然而，随着人工智能越来越多地被用来生成充满垃圾信息的网页，这一过程可能会受到威胁。
发表在Nature杂志上的一项新研究表明，当人工智能在人工智能生成的数据上进行训练时，模型输出的质量会逐渐下降，随着后续模型输出的数据被用作未来模型的训练数据，影响会进一步恶化。
（来源：Nature）
领导这项研究的牛津大学计算机科学家 Ilia Shumailov 将这一过程比作拍照。“如果你拍了一张照片，扫描、打印出来并再对其拍照，然后不断重复这个过程，随着时间的推移，基本上整个过程都会被‘噪声’淹没。最后，你会得到一个黑暗的方块。”他说道。在人工智能领域，黑暗方块相当于“模型崩溃”，这意味着模型只会生成不连贯的垃圾。
这项研究可能会对当今最大的人工智能模型产生重大影响，因为它们使用互联网作为数据库。例如，GPT-3 的部分训练数据来自 Common Crawl，这是一个包含超过 30 亿个网页的在线存储库。随着越来越多的人工智能生成的垃圾网页开始充斥互联网，这个问题可能会变得更糟。
Ilia Shumailov 表示，当前的人工智能模型不仅会崩溃，而且可能会带来实质性影响：迭代速度减缓，性能越来越弱。
为了衡量和确定对性能的潜在影响，Ilia Shumailov 和他的同事根据维基百科的一组数据对大型语言模型进行训练，然后根据 9 代的输出数据对新模型进行微调。他们使用一个名为“困惑度分数”的评价标准来衡量输出的荒谬程度，“困惑度分数”反映人工智能模型对未来序列部分预测能力，分数越高，模型的准确度就越低。
最终，在其他模型的输出数据上进行训练的模型具有更高的“困惑度分数”。例如，对于每一代，团队在输入以下内容后向模型询问下一个句子：
“some started before 1360—was typically accomplished by a master mason and a small team of itinerant masons，supplemented by local parish labourers，according to Poyntz Wright. But other authors reject this model，suggesting instead that leading architects designed the parish church towers based on early examples of Perpendicular.”
“根据 Poyntz Wright 的说法，一些教堂始建于 1360 年之前，通常由一位熟练的石匠和一小群流动的石匠完成，并辅以当地教区工人。但其他作者拒绝这个观点，而认为主要是由知名的建筑师根据早期的垂直式建筑风格设计教区教堂塔楼。”
在第 9 代中，模型返回以下内容：
“architecture. In addition to being home to some of the world’s largest populations of black @-@ tailed jackrabbits，white @-@ tailed jackrabbits，blue @-@ tailed jackrabbits，red @-@ tailed jackrabbits，yellow @-.”
“建筑。除了拥有世界上数量最多的黑 @-@ 尾兔、白 @-@ 尾兔、蓝 @-@ 尾兔、红 @-@ 尾兔、黄 @-。”
Ilia Shumailov 用这个类比解释了他认为正在发生的事情：想象一下，你要找一个学校里最不可能出现的学生名字，你可以检查每个学生的名字，但这会花很长时间。相反，你会查看 1000 个学生姓名中的 100 个。你得到了一个相当准确的预估，但这可能不是正确的答案；现在想象一下，另一个人过来根据你的 100 个名字进行预估，但只选择了 50 个，那么这个人的预估将会更加偏离正确答案。
“机器学习模型也会出现同样的情况。因此，如果第一个模型已经浏览了一半的互联网内容，那么第二个模型可能不会要求一半的互联网内容，实际上只是抓取最新的 10 万条推文，并在上面训练模型。”他说。
此外，互联网上的数据是有限的，为了满足对更多数据的需求，未来的人工智能模型可能需要在合成数据或人工智能生成的数据上进行训练。
麻省理工学院媒体实验室的研究人员、研究如何训练 LLM 的 Shayne Longpre 说：“基础模型依赖于数据规模才能获得更好的表现。他们希望在经过精心策划和控制的环境中使用合成数据来解决这个问题，因为如果继续在网上抓取更多数据，收益将会递减。”
斯坦福大学人工智能研究员 Matthias Gerstgrasser 在另一篇论文中研究了模型崩溃的问题。在他看来，将合成数据添加到现实世界数据中而不是替换它并不会引起任何重大问题。但他补充道：“所有关于模型崩溃的研究都得出一个结论，那就是高质量且多样化的训练数据至关重要。”
随着时间的推移，这种“退化”导致模型中的信息失真，少数样本的信息在模型中严重扭曲，因为它往往更加关注训练数据中普遍的样本。
麻省理工学院媒体实验室研究算法的 Robert Mahari 表示，在当前的模型中，这可能会影响代表性不足的语言，因为它们需要更多的合成数据集。
一个有助于避免退化的想法是，确保模型给予原始的人类生成数据更多权重。Ilia Shumailov 研究的另一个项目允许后代对原始数据集的 10% 进行采样，而这减轻了一些负面影响。
这需要从人类生成的原始数据到后代数据进行追踪，即数据来源。但这需要一种方法来过滤互联网上的人类生成数据和人工智能生成数据，但这一点目前尚未完全解决。尽管现在存在许多工具能够确定文本是否由人工智能生成，但它们往往不够准确。
“不幸的是，我们的问题比答案多。”Ilia Shumailov 说，“但很明显，了解数据来自哪里以及在多大程度上可以相信它能够捕获正在处理数据的代表性样本，这一点很重要。”
版权声明
本文为本站原创内容,转载需注明文章来源(https://www.eiefun.com)，另:文中部分素材可能会引用自其他平台，如有侵权或其它，请联系 admin@eiefun.com，我们会第一时间配合删除