AI Slop泛滥：垃圾内容正在吞噬社交平台

当"死亡互联网理论"照进现实

最近，一位Reddit用户分享了他在Snapchat Discover信息流中的发现：连续两条推送内容几乎完全雷同，明显出自同一个批量生产的机器人账号。他的感叹颇具代表性——"AI垃圾内容正在接管Snapchat，互联网真的死了。"

Snapchat Discover是Snap公司于2015年推出的媒体内容板块，最初定位为与CNN、ESPN、Vice等知名媒体合作的精选内容入口。与Snapchat的核心阅后即焚社交功能不同，Discover更像是一个内置的内容聚合平台，后来逐步向普通创作者开放。Snap通过广告收入分成模式激励创作者入驻，这本意是丰富内容生态，但也客观上为批量化内容生产者提供了套利空间。值得注意的是，Snap在2020年还推出了Spotlight功能——一个类似TikTok的短视频信息流，早期为吸引创作者曾设立每日100万美元的创作者基金。这种直接以流量换现金的激进激励策略，虽然帮助Snap在短视频赛道迅速建立了内容供给，但也被大量自动化账号和内容农场视为套利机会。据多位创作者在社交媒体上的反馈，Discover板块的审核标准在创作者规模扩大后明显放松，这为后续AI生成内容的大量涌入埋下了隐患。

这条帖子看似是一次普通的吐槽，却触及了当下互联网生态中一个愈发严峻的问题：由生成式AI大规模炮制的低质量内容（俗称"AI Slop"）正在以惊人的速度充斥各大社交与内容平台。用户抱怨这些内容"甚至懒得掩饰自己是复制粘贴农场机器人"，这背后反映的是内容生产成本的坍塌与平台治理的严重滞后。

什么是AI Slop？为什么它无处不在

"AI Slop"是近两年在英文互联网社区流行起来的贬义词，专门用来形容那些由AI批量生成、缺乏原创价值、粗制滥造的垃圾内容。它可以是文字、图片、视频，也可以是三者的混合体。

"Slop"一词在英语中原意为泔水、残羹剩饭，暗含粗劣、令人不适之意。2024年初，这个词被《纽约时报》等主流媒体正式采纳，用以描述生成式AI产出的低质量内容洪流。与之前常用的"spam"（垃圾信息）不同，"AI Slop"特别强调内容在形式上可能看似完整甚至光鲜，但在信息价值上空洞无物。它已被部分词典收录为年度热词候选，反映了公众对AI内容污染问题认知的快速提升。Meta公司CEO马克·扎克伯格在2024年的一次公开采访中也使用了这个词，承认AI生成的低质量内容是Facebook和Instagram面临的挑战之一，这标志着"AI Slop"从网络俚语正式进入了行业话语体系。

AI垃圾内容的典型特征

这类内容通常具备几个明显特征：

• 高度同质化：同一模板反复套用，标题、封面、结构如出一辙；
• 零边际成本：借助大语言模型和图像生成工具，一个账号一天可产出成百上千条内容；
• 迎合算法而非用户：内容设计的唯一目的是骗取点击、停留和推荐流量，而非传递真实信息；
• 难以溯源：往往通过多个马甲账号交叉发布，形成"内容农场"式的分发网络。

在技术层面，这种"零边际成本"的说法并非夸张。大语言模型（Large Language Models, LLMs）如GPT系列、Claude、Llama等，通过在海量文本数据上进行预训练，掌握了自然语言的生成能力。配合Midjourney、Stable Diffusion、DALL-E等图像生成模型，以及Sora、Runway等视频生成工具，内容创作的技术门槛和边际成本已降至接近于零。过去一篇需要记者数小时采编的文章，现在通过API调用和自动化脚本可以在几秒内批量生成数百篇变体。这种生产力的爆炸式增长，正是AI Slop泛滥的技术根源。

在这条产业链的背后，已经形成了一个完整的灰色经济生态。据新闻可信度评估机构NewsGuard在2024年的追踪报告，其已识别出超过1000个由AI生成内容驱动的"不可靠新闻网站"，较一年前增长了数倍。这些网站和账号的运营模式高度标准化：运营者通常使用Python脚本调用大语言模型API批量生成文章，再通过图像生成工具制作配图，最后利用自动化发布工具将内容分发到数十甚至数百个账号上。整个流程从内容生成到发布可以完全自动化，单个运营者即可管理数百个账号的日常更新。变现渠道则包括平台广告分成（如YouTube合作伙伴计划、Facebook即时文章广告）、联盟营销链接以及直接的品牌软文植入。据业内人士估计，一个运营良好的AI内容农场矩阵月收入可达数千至数万美元，而运营成本（主要是API调用费和服务器费用）仅为收入的很小一部分。

Snapchat Discover本应是精选优质创作者内容的入口，如今却沦为这类批量AI生成内容的重灾区，这正是本次讨论的核心焦点。

死亡互联网理论：从阴谋论到部分现实

帖子标题中"互联网真的死了"（the internet really is dead）并非随口一说，而是呼应了近年来广为流传的死亡互联网理论（Dead Internet Theory）。

该理论最初是一种带有阴谋论色彩的说法，认为互联网上的大部分内容和互动早已不是由真人产生，而是由机器人和自动化程序生成。死亡互联网理论最早可追溯至2021年前后在4chan等匿名论坛上的讨论。其核心主张是：大约从2016-2017年开始，互联网上由真人产生的内容和互动比例急剧下降，取而代之的是大量机器人账号、自动化脚本和算法生成的内容。该理论最初的版本甚至认为这是政府和大型科技公司有意为之的阴谋。虽然其极端版本缺乏证据，但2023年后随着ChatGPT等工具的普及，多项研究数据开始部分印证其判断——例如，网络安全公司Imperva的报告显示，2023年全球互联网流量中约49.6%来自机器人，首次接近超过人类流量的临界点。

来自多个学术机构和行业研究的数据进一步佐证了这一趋势。斯坦福互联网观察站（Stanford Internet Observatory）的研究人员发现，在Twitter（现为X）上，围绕特定热点话题的讨论中，机器人账号的参与比例在某些事件中可高达60%-80%。牛津互联网研究所（Oxford Internet Institute）长期追踪的"组织化社交媒体操纵"（Organized Social Media Manipulation）项目则记录了超过80个国家存在使用自动化账号进行信息操纵的行为。不仅社交平台受到影响，电商和内容平台同样深陷其中——2024年，亚马逊Kindle商店被大量AI生成的电子书淹没，部分冒用知名作者姓名；书评平台Goodreads上也出现了大量AI生成的虚假书评；甚至学术期刊也未能幸免，多家出版商被迫撤回含有明显AI生成痕迹（如"As an AI language model"等残留提示语）的论文。这些案例共同勾勒出一幅令人警醒的图景：AI生成内容对互联网"真实性"的侵蚀已经是一个跨平台、跨领域的系统性现象。

曾经它被当作一种夸张的调侃，但随着生成式AI的爆发，这个理论正逐渐从"阴谋论"走向"部分现实"。

当一个普通用户在信息流中连续刷到两条几乎一模一样、明显是机器生成的内容时，那种"我究竟是在和真人还是和机器互动"的疑问就变得无比真实。这种体验上的割裂感，正是许多用户对当前平台生态感到失望的根源。

社交平台为何难以根治AI垃圾内容

流量指标与内容质量的天然矛盾

对平台而言，内容供给量和用户停留时长是关键指标。AI批量内容虽然质量低下，却能以极低成本填满信息流、维持推荐系统的"喂养"。

现代社交平台的推荐系统通常基于协同过滤、深度学习排序模型等技术，需要持续大量的新内容输入来维持推荐的多样性和时效性。这种机制被业内形象地称为"内容喂养"——算法需要不断消化新的内容素材，才能为每位用户生成个性化的信息流。更深层来看，当前主流推荐系统普遍采用的是基于参与度的排序（engagement-based ranking），即以点击率（CTR）、停留时长、互动率等指标作为内容质量的代理变量。然而，这些代理指标与真实的内容质量之间存在严重的错位。耸动性标题和猎奇内容往往能获得更高的点击率，情绪化内容比深度分析更容易引发评论和转发。学术界将这种现象称为"参与度陷阱"（engagement trap）——算法优化的是用户的即时行为反应，而非长期的信息获取质量和用户满意度。哈佛大学肯尼迪学院的研究显示，这种机制系统性地偏好能引发强烈情绪反应的内容，而AI生成的内容恰恰擅长模仿这些高参与度的模式。当优质原创内容的产出速度远低于算法的"胃口"时，低质量的批量内容就自然填补了供给缺口。这也解释了为什么即使平台工程师知道AI Slop的存在，在产品层面仍可能对其"睁一只眼闭一只眼"。

在短期数据层面，这些内容甚至可能"有益"于平台的增长数字，这使得平台在治理动力上存在天然矛盾。

AI内容检测的军备竞赛

识别AI生成内容本身就是一场持续升级的"军备竞赛"。随着生成模型质量不断提高，单纯依靠水印、特征识别等技术手段越来越难以奏效。而内容农场也在不断调整策略，规避审核机制。

目前主流的AI内容检测方法包括：统计特征分析（如文本困惑度、词频分布异常）、水印嵌入技术（如OpenAI和Google DeepMind分别开发的文本和图像水印方案）、以及基于分类器的判别模型。然而，这些方法普遍面临高误报率和快速失效的问题。学术研究表明，经过简单的改写、翻译中转或混合人工编辑后，大多数AI检测工具的准确率会显著下降。此外，C2PA（内容来源与真实性联盟）正在推动一种基于加密签名的内容溯源标准，但其大规模部署仍面临行业协调和用户接受度的挑战。具体而言，C2PA标准由Adobe、微软、英特尔、BBC等机构联合发起，其核心思路是在内容创建时就嵌入不可篡改的元数据签名，记录内容的创建工具、时间和编辑历史，类似于数字内容的"出生证明"。这种"从源头追溯"而非"事后检测"的思路被认为是更有前景的方向，但要求硬件厂商、软件开发者、平台和用户的全链条配合，短期内难以覆盖已经存在的海量无签名内容。

商业激励机制的错位

只要平台的广告分成、流量激励机制存在漏洞，就会有人利用AI批量生产内容来套取收益。

内容农场（Content Farm）并非AI时代的新产物，早在2010年前后，以Demand Media、Associated Content为代表的公司就曾通过雇佣廉价写手批量生产SEO优化文章来获取Google搜索流量和广告收入。Google在2011年推出Panda算法更新后一度遏制了这一现象。然而生成式AI将内容农场的运营成本降低了一到两个数量级——不再需要人工写手，一台电脑配合API即可日产万篇。在社交平台上，这些农场通过注册大量账号、利用广告分成和打赏机制变现，形成了完整的灰色产业链。

治理的关键或许不在于"识别AI"，而在于重构内容激励机制，让低质量的批量内容无利可图。

AI Slop对用户和原创作者意味着什么

对于普通用户，最直接的影响是信息环境的持续恶化——真实、有价值的内容被淹没在海量的机器生成内容之中，获取有效信息的成本反而上升。

对于真正的原创作者，这是一场极不公平的竞争。他们投入大量时间和精力创作的内容，可能在推荐权重上敌不过机器批量生产的"填充物"，这将进一步打击优质创作的积极性，形成劣币驱逐良币的恶性循环。

这一现象在经济学中被称为"格雷欣法则"（Gresham's Law）的数字版本。格雷欣法则的原始表述是"劣币驱逐良币"——当两种面值相同但实际价值不同的货币同时流通时，人们倾向于囤积价值更高的货币而使用价值较低的货币，最终劣币充斥市场。在信息不对称的条件下，当推荐算法无法有效区分内容质量时，生产成本更低的劣质内容会在数量上压倒优质内容，获取更多的曝光和流量。这种动态一旦形成正反馈循环——优质创作者因回报下降而减少产出，而AI内容因持续获得流量而加速生产——平台的整体内容生态就会陷入不可逆的退化。历史上，这种模式已经在多个平台上演：从早期的eHow到后来的某些自媒体平台，内容质量的塌方往往伴随着用户信任的不可逆流失。最新的一个例证是Medium平台——2023年至2024年间，大量用户和付费作者反映平台上AI生成文章的比例急剧上升，部分热门标签下AI内容已占多数，导致多位知名创作者公开宣布离开平台，Medium的品牌声誉和用户活跃度因此受到明显冲击。

你可能没注意到，上述案例来自一位Reddit用户基于个人观察的反馈，尚缺乏平台层面的官方数据佐证。但类似的抱怨在Reddit、X等社区中并不鲜见，反映出这确实是一种被广泛感知的趋势。

应对AI垃圾内容泛滥的三条路径

AI技术本身是中性的，真正的问题在于滥用。面对AI垃圾内容的泛滥，可能的解法包括：

• 平台侧：完善内容溯源与标注机制，调整推荐算法权重，切断内容农场的变现路径；
• 技术侧：发展更可靠的AI内容检测与身份验证手段；
• 用户侧：提高媒介素养，主动辨别与举报低质量内容。

在这三条路径之外，全球监管框架也在加速成型。欧盟《人工智能法案》（EU AI Act）于2024年正式通过，其中明确要求AI生成的内容必须进行标注，用户有权知晓其所消费的内容是否由AI生成。美国方面，虽然联邦层面的AI立法进展较慢，但加利福尼亚等州已提出多项法案，要求平台对AI生成内容进行透明标注，特别是在选举相关内容中。中国则在2023年实施了《互联网信息服务深度合成管理规定》，要求深度合成服务提供者对AI生成内容添加标识，这是全球范围内较早的专项监管实践。然而，监管的挑战在于执行：跨境内容平台的管辖权问题、技术标准的统一、以及小型内容农场的监管盲区，都使得单纯依靠立法难以根本解决问题。更有效的治理可能需要"技术+制度+市场激励"的组合方案——例如，将内容溯源标准纳入平台的广告合作准入条件，使未经标注的AI内容自动失去广告变现资格，从经济激励层面釜底抽薪。

"死亡互联网理论"是否会成真，很大程度上取决于平台、监管者和用户能否共同建立起一套抵御AI垃圾内容的免疫系统。Snapchat上的这两条重复推送，或许只是一个缩影——它提醒我们，一个由AI主导内容生产的时代已经到来，而如何守护互联网的"真实性"，将是所有人都无法回避的命题。