无尽的AI生成的垃圾邮件可能会堵塞谷歌的搜索结果

在过去的一年中，人工智能系统在生成令人信服的文本方面取得了巨大进步，从歌词到短篇小说都在制作各种内容。专家警告称，这些工具可能会被用来传播政治上的虚假信息，但还有另一个目标同样合理且可能更有利可图：游戏谷歌。

人工智能可以制作无限的博客，网站和营销垃圾邮件，而不是用来制作假新闻。内容生产成本低廉，并且填充了相关的关键字。但是像大多数AI生成的文本一样，它只具有表面意义，与现实世界几乎没有对应关系。这将是相当于空卡路里的信息，但仍然可能难以使搜索引擎与真实的东西区分开来。

看看这篇博客文章，回答这个问题：“什么照片滤镜最适合Instagram营销?”乍一看它似乎是合法的，有一个平淡的介绍，后面跟各种营销类型的引用。但仔细阅读，你会发现它引用了杂志，人们，以及 - 至关重要的 - 不存在的Instagram过滤器：

您可能不认为mumford笔刷是Insta故事的好过滤器。不是这样，国家录音技术杂志的通讯主管艾米·福瑞博说。Freeborn的选择包括Finder(蓝色条纹使她的帐户看起来像一个较旧的像素块)，Plus和Cartwheel(她说这使你的照片看起来像一个城镇的地形图。

该网站的其余部分充满了类似的帖子，涵盖了“ 如何写Clickbait标题 ”和“ 为什么内容策略重要?“但每个帖子都是人工智能生成的，直到作者的个人资料图片。这是内容营销机构Fractl的全部创建，他说这是对AI文本生成对搜索引擎优化或SEO业务的“巨大影响”的演示。

“因为[AI系统]能够以基本上无限的规模创建内容，而人类和搜索引擎都难以辨别的内容[...]我们认为这是一个非常重要的主题，目前讨论太少，”Fractl合作伙伴Kristin Tynski告诉The Verge。

为了撰写博客文章，Fractl使用了一个名为Grover的开源工具，由Allen人工智能研究所制作。Tynski表示，该公司并未使用AI为客户生成帖子，但这并不意味着其他人不会。“我想我们会看到我们一直看到的东西，”她说。“黑帽子将使用颠覆战术来获得竞争优势。”

SEO的历史当然支持这种预测。它总是一场猫捉老鼠的游戏，不择手段的玩家尝试用尽可能多的方法来吸引尽可能多的眼球，而谷歌等网守则从谷壳中分拣小麦。

正如Tynski在她自己的博客文章中所解释的那样，这种动态的过去例子包括10至15年前开始的“文章旋转”趋势。文章微调器使用自动化工具重写现有内容; 找到并替换单词，使重构的物质看起来像原始的。谷歌和其他搜索引擎回应了新的过滤器和指标，以淘汰这些疯狂的博客，但它几乎不是一夜之间的解决方案。

人工智能文本生成将使文章旋转“看起来像孩子的游戏，”Tynski写道，允许“跨越每个可以想象的利基的计算机生成内容的大规模海啸”。

SEO顾问兼专家Mike Blumenthal表示，这些工具肯定会吸引垃圾邮件发送者，特别是考虑到他们能够大规模生成文本。“人工智能编写的内容至少在网络搜索方面存在的问题是它可能会降低这种内容制作方式的成本，”Blumenthal告诉The Verge。

如果垃圾邮件发送者的目的只是为了产生流量，那么假新闻文章也可能是完美的。虽然我们经常担心虚假新闻商家的政治动机，但大多数人与创建和分享这种背景的人进行的访谈声称他们是为广告收入做的。这并不能阻止它在政治上具有破坏性。

那么关键问题是：我们能否可靠地检测AI生成的文本?艾伦艾伦研究所的罗恩·泽勒斯(Rowan Zellers)表示答案是坚定的“是的”，至少就目前而言。Zellers和他的同事负责创建Grover，这是Fractl用于虚假博客文章的工具，并且能够设计一个能够以92%的准确度发现Grover生成的文本的系统。

“我们距离人工智能还有很长的路要走，因为它能够生成无法检测到的全部新闻文章，”Zellers告诉The Verge。“所以现在，在我看来，这是研究人员研究这个问题的绝佳机会，因为它并不是完全危险的。”

Zellers说，发现虚假的AI文本并不太难，因为它有许多语言和语法的说法。他给出了AI重复使用某些短语和名词的例子。“他们重复一些事情......因为这样做更安全，而不是发明新的实体，”泽勒斯说。这就像一个学习说话的孩子; 在不考虑收益递减的情况下，一遍又一遍地使用相同的单词和短语。

然而，正如我们在视觉深度研究中看到的那样，仅仅因为我们可以构建能够发现这些内容的技术，这并不意味着它不是一种危险。将探测器集成到互联网基础设施中是一项艰巨的任务，在线世界的规模意味着即使是具有高精度水平的探测器也会产生大量的错误。

谷歌没有回应有关这个主题的问题，包括它是否在可以发现人工智能生成文本的系统上工作的问题。(不过，考虑到谷歌的工程师处于这个领域的最前沿，这是一个不错的选择。)相反，该公司发出了一个样板回复，说它已经打击了几十年的垃圾邮件，并始终跟上最新的战术。

搜索引擎优化专家布卢门撒尔对此表示赞同，并表示谷歌长期以来已经证明它可以对“不断变化的技术环境”作出反应。但他也表示，我们在网上查找信息的方式也可能使人工智能垃圾邮件不再成为问题。

Blumenthal表示，越来越多的网络搜索是通过像Siri和Alexa这样的代理进行的，这意味着像谷歌这样的网守只需要产生“一个(或两个或三个)伟大答案”而不是几十个相关链接。当然，强调“一个真正的答案” 有其自身的问题，但它确实最大限度地减少了大量垃圾邮件的风险。

尽管如此，这一切的最终结局可能会更加有趣。人工智能文本的产生速度非常快，该领域的专家认为它可以带来一些令人难以置信的突破。毕竟，如果我们能够创建一个能够读取和生成具有人类精确度的文本的程序，它可以在互联网上肆虐并成为最终的AI助手。

“可能会出现这样的情况：在接下来的几年中，这种技术变得非常好，人工智能生成的内容实际上提供了近乎人类甚至人类的价值，”廷斯基说。在这种情况下，她说，参考一个Xkcd漫画，它将“解决问题。”因为如果你创造了一个人工智能，可以产生与人类写的内容无法区分的事实正确的文本，为什么要打扰人类呢? ?