据外电报道，谷歌研究人员发表了一篇新论文，警告生成式人工智能正在用虚假内容毁掉互联网的广阔领域，这非常讽刺，因为谷歌一直在努力向其庞大的用户群推广同样的技术。
这项研究是一篇尚未经过同行评审的论文，但其结论却引人深思。研究发现，绝大多数生成式人工智能用户正在利用这项技术模糊真实性和欺骗性之间的界限，在互联网上发布虚假或篡改的人工智能内容，例如图片或视频。
研究人员仔细研究了之前发表的关于生成式人工智能的研究，以及大约 200 篇报道生成式人工智能滥用的新闻文章。他们发现，操纵人类肖像和伪造证据是现实世界滥用案件中最普遍的手段，其中大多数都带有明显的意图，即影响舆论、进行诈骗或欺诈活动或牟利。
更令人担忧的是，生成式人工智能系统日益先进且随时可用。研究人员指出，只需要极少的技术专长就可以生成高质量的虚假内容，而这种情况正在扭曲人们对社会政治现实或科学共识的集体理解。
这篇论文的结论也引发了一些争议。一些人认为，这篇论文忽略了谷歌自己在使用该技术时犯下的错误。作为世界上最大的公司之一，谷歌的错误有时规模巨大，而这可能会导致更广泛的负面影响。
如果仔细阅读这篇论文，你可能会得出这样的结论：生成式人工智能的滥用听起来很像是该技术在按预期工作。人们正在使用生成式人工智能制作大量虚假内容，因为它非常擅长完成这项任务。结果，互联网上充斥着人工智能垃圾，而这种情况正是谷歌自己促成的，它允许这些虚假内容泛滥，甚至是虚假内容的源头，无论是虚假图片还是虚假信息。
研究人员表示，这一混乱局面也考验着人们辨别真假的能力。大量生产低质量、垃圾邮件和恶意的合成内容可能会增加人们对数字信息的怀疑态度，并使用户的验证任务负担过重。更令人不寒而栗的是，由于我们被虚假的人工智能内容淹没，研究人员表示，有些情况下知名人士能够将不利的证据解释为人工智能生成的，从而以昂贵且低效的方式转移举证责任。
随着谷歌等公司继续将人工智能融入到每一款产品中，我们将会看到更多这样的情况。尽管生成式人工智能拥有巨大的潜力，但也需要我们谨慎对待，并采取措施防止它被滥用。
