未来的互联网可以由机器人编写，
但这会让它变得更好还是更糟？
随着能力的提升，人工智能可以开始生成整个网络世界，以及居于其中的所有东西，更不用说目前主要由人类制作的网络资料了。
比如，OpenAI 发布的DALL-E，使用120亿参数版本的GPT-3来解释自然语言输入并生成相应的图像。它现在可以创建现实物体以及现实中不存在的物体的图像。
而随着OpenAI等公司在大众市场上发布其产品，能够创造逼真图像、模仿音频和书写令人信服的人类文字的人工智能工具的使用量激增。这些技术现在正越来越多地被用于创建政治内容。
在某些方面，新创建的内容与多年来频繁出现的篡改图片和视频、误导性信息以及机器人电话并无太大区别。然而以前的虚假信息活动总是面临着一系列的进入障碍——为社交媒体创建个性化的信息非常耗时，对图片和视频进行Photoshop处理也是如此。
但现在，生成式人工智能让任何拥有基本数字技能的人都能制作这类内容，而遏制它们的防护栏或有效监管却十分有限。生成式人工智能的可供性和可及性正在降低虚假信息活动的进入门槛。
直到最近，很少有人关注人工智能的潜在恶意应用。这在某种程度上也是合理的：在人工智能范围狭窄、必须为每种应用专门打造的年代，需要整个的研究团队来开发用于恶意应用的人工智能工具。由于这类人才在法律/经济领域工作更有利可图（也更安全），因此人工智能并没有为恶意行为者提供多少伸手就可摘到的果实。
如今，这一切都在改变。随着人工智能变得更加灵活和通用，人工智能的构建目的与其潜在下游应用之间的联系几乎消失了。大型语言模型可以被训练来执行有价值的任务，比如为写作提供支持、在不同语言之间转译或编写更好的代码。可是，一个能写文章的系统也能写假新闻，或者为类人文本生成机器人大军提供动力。
在二十一世纪第二个十年的末期，我们已经见证了社交媒体的分发革命所引发的虚假信息洪流；机器人（bot）、“喷子水军”（troll farms）和微定向（microtargeting）技术根据特定受众群体的个人特征和行为向其提供定制内容。2018 年的剑桥分析（Cambridge Analytica）丑闻与这些现象尤其相关，因为它涉及未经授权收集数百万 Facebook 用户的个人数据，以便为了政治目的操纵舆论。而眼下生成式人工智能的出现通过实现自动化内容生产大大增加了这方面的风险。
比如，一度很多人使用自动化机器人试图让他们的观点看起来更受欢迎。在Twitter上很容易看到，许多帐户会在同一时间内发表完全相同的内容，这是因为为每个虚假帐户生成唯一的讯息既昂贵又耗时。但借助生成式人工智能，可以毫不费力地生成高度个性化的内容并使其传播也实现自动化。
又比如，哪怕你身处外国的内容农场（content farm），你也毋需掌握某一门流利外语，就能用目标受众的语言写出一篇读起来十分流畅的文章。你需要做的只是，让一个语言模型为你吐出这篇文章，其中的语法和词汇都与说本族语的人相差无几。
已有专家预计，从2025 年到 2030 年，99%以上的互联网内容将由人工智能生成。自动化创建内容的发展将彻底改变互联网的面貌，并使人们在海量内容中更难以分辨真假。
显而易见，人工智能增强的虚假信息操作正在给整个互联网带来某种存在性威胁。新的人工智能功能正迅速增加虚假信息操作的数量、速度和病毒性。随着这些功能的不断改进和扩散，它们进一步威胁到对民主治理的信任，并刺激公民怀疑公共生活中真相的可能性。
我们正面临一个面目全非的互联网，多年前那句“在互联网上，没人知道你是一条狗”，变成了某种诅咒。TA现在甚至不是一条狗，而只是机器，被人为操纵的机器。“互联网死亡论”行之有年，即认为互联网早已由机器人活动和自动生成的内容组成，人类活动和人类创造的内容被边缘化甚至被取代了。随着自动化和人工智能在数字领域的影响日益增大，这一理论似乎变得越来越可信。
主题测试文章，只做测试使用。发布者：火星财经，转转请注明出处：https://www.sengcheng.com/article/13212.html
