AI低质内容泛滥，社交媒体变味

快速阅读: 社交媒体平台充斥着理想化和人工智能生成的内容，导致用户感到孤立和脱离现实。OpenAI等公司推出的生成式AI工具加剧了这一问题，产生大量低质量内容，影响用户体验和社会真实性。

社交媒体从未以现实主义著称，但在线欺骗如今已达到高潮。自Facebook、Instagram和TikTok等平台诞生以来，充满理想化的帖子充斥着我们的信息流，展示着过于完美的身体、家庭和生活方式。尽管社交网络旨在让我们保持联系，但上网却越来越让人感到孤立和脱离现实。人工智能生成的内容和深度伪造技术正在使这一问题更加严重。

生成式人工智能工具如OpenAI的Sora、Google的Veo和Midjourney的出现，使得可以轻松创建出既非凡又富有想象力且极具欺骗性的视频。简单的一条文本指令就能召唤出你想象中的任何事物。这是一项技术奇迹，但往往也是一场道德噩梦。

所谓的人工智能垃圾，指的是大量低质量的数字内容，这些内容通过人工智能技术被大量制造出来。你可能已经在社交媒体上见过这样的例子，从动物表现出奇怪的人类特征的视频到看似违背物理定律的恶作剧和搞笑片段。此外，无论是活着还是已故的公众人物的深度伪造视频，显示他们说或做从未发生过的事情，已经成为一种热门且有争议的商品。

不仅仅是低劣的人工智能内容在削弱在线体验，筛选出更加逼真的虚构人物、地点和事件所需的高度警惕也令人精疲力尽。从人际交流到平台成瘾，自从OpenAI的Sora应用程序于9月推出以来，我一直在思考为什么有人会愿意浏览一个完全由虚拟时刻组成的信息流。即使是像Instagram和TikTok这样较为“传统”的社交平台，也被大量没有实际意义的人工智能内容所占据，除了展示人工智能工具能够即时生成惊人逼真的图像外，似乎别无他用。

社交媒体的初衷难道不是为了与你认识的人保持联系，以及关注那些你感兴趣的公众人物吗？这个基本目标是否已经消亡？

“悲观的回答是，现在的社交媒体旨在让你与工具保持联系，而不是彼此之间。”康奈尔科技学院安全、信任和安全计划主任亚历克西奥斯·曼扎里斯说道。科技巨头们通过展示其人工智能能力来提高股价，但他表示，“这牺牲了这些平台上的用户体验。”

这种高度的人工化与许多人在线上寻求并日益难以找到的真实性背道而驰。几年前，我之所以爱上TikTok，部分原因在于它更容易找到更真实、未经滤镜处理的内容——这对我来说是对Instagram上过度修饰的影响者帖子的一种可喜的解脱，尽管我在TikTok上看到的这类内容也越来越多。

即使在生成式人工智能兴起之前，来自朋友和家人的Instagram更新大多已经被我不关注的知名创作者的内容所取代。这并不总是坏事，因为它经常让我接触到我想看的主题。这种关注用户兴趣点的做法正是让TikTok的算法如此强大（和令人上瘾）的原因。但它让我感觉与真正认识的人更加疏远——尤其是因为普通人现在似乎发帖少了。

将人工智能因素考虑进去，任何真实性的痕迹都消失了。现在，除了因看到经过修饰的真实人物图片而产生的不安全感，你还可能遇到完全是人工智能生成的度假照片，或者遇到放大无法实现的美丽标准的人工智能网红。“以前，我们面临的问题是不切实际的身体期望，”曼扎里斯说，“而现在，我们面对的是‘不真实的’身体期望。”

人们越来越难以区分事实与虚构，但垃圾内容和深度伪造的传播并未放缓。时间紧迫，平台需要在这些新内容淹没我们的现实感之前对其进行监管。

遏制人工智能的危害

像Meta和TikTok这样的社交媒体公司承诺要标记人工智能生成的内容，并禁止有害帖子，例如虚假危机事件或未经授权使用私人个人肖像的内容。

但在缺乏政府监管的情况下——由于政治僵局如何监管人工智能、科技公司的游说（如Meta最近成立了一个超级PAC以反对人工智能法律）以及技术快速发展的速度等因素，监管滞后——公司必须自己执行政策。考虑到内容量巨大，网站确实很难标记所有内容，但到目前为止，他们的努力看起来并不十分有效。

这种缺乏监管的情况可能会加剧在线上的不信任和分歧。八月份的一项Raptive研究显示，这种现象正在加剧。

一家与数字创作者合作的媒体公司发现，当人们仅仅怀疑内容是由人工智能生成时，他们就会本能地疏远这些内容。具体来说，48%的受访者认为该内容的可信度较低，而60%的人表示对内容的情感联系减弱。

然而，随着由网红创作的内容在大多数社交平台上占据主导地位，人工智能可以作为一种简化传统耗时过程的方式被推广。“人工智能工具使得更多人成为创作者变得更加容易，”Raptive的首席战略官Paul Bannister说，“这加快了创作者群体的扩展速度。”与Bannister的交谈减轻了我的一些怀疑；他提醒我，“像任何新技术一样，总会有好的和坏的用途。”除了那些（经常显得荒谬的）人工智能内容背后的创造力，他还提到，“将会有大量的垃圾信息和问题出现，但这或许能创造出全新的信息共享和娱乐形式。”尽管如此，系统中仍然存在大量垃圾信息，我们尚不清楚最终的结果会是什么。

人工智能的另一面在于：“它将进一步加剧紧张局势，强化人们的既有偏见，”Mantzarlis说。社交媒体已经是一个回音室，不断强化有害、狭隘的观点，并迅速传播虚假信息。我不确定我们是否准备好面对当每个人都能轻松制造并分享自己的现实时，这种情况会变得多么糟糕。社会的分裂只会更加严重。

如果有什么的话，我希望更多的平台能够效仿Pinterest的做法，给我们提供减少在信息流中看到人工智能内容的选择。不过，如果让我选择，我会将其完全调至零。

(以上内容均由Ai生成)