Facebook被曝纵容AI深度伪造诈骗广告，年涉欺诈收入达160亿美元

一场关于平台责任的公开指控

亿万富翁马克·库班（Mark Cuban）近日在社交媒体上公开指责Facebook（Meta）明知其平台上存在利用AI深度伪造技术进行的诈骗广告，却依然放任其运行。据库班引述的相关文件显示，这类欺诈性广告每年为平台带来的收入规模高达160亿美元。这一指控将AI滥用与平台治理的矛盾再次推向风口浪尖。

库班的言论并非孤立事件。随着生成式AI技术的普及，深度伪造内容的制作门槛大幅降低，诈骗分子能够以极低成本伪造名人肖像和声音，诱导用户点击恶意链接或转账。而平台在广告审核上的疏漏，使得这些内容得以大规模传播。

160亿美元背后的利益链条

据库班引述的文件数据，欺诈性广告带来的年收入达到160亿美元。这一数字之所以引发关注，在于它揭示了一个尴尬的现实：对平台而言，诈骗广告并非“管理漏洞”那么简单，而是一笔可观的收入来源。

当治理成本与广告收入形成直接对冲时，平台的审核动力难免受到质疑。库班的核心指控正是：Facebook对这些广告的存在心知肚明，却选择了不作为。这一逻辑链条并不复杂——AI深度伪造让诈骗广告的生产效率大幅提升，平台审核系统难以跟上，而彻底清理又意味着放弃真金白银，于是“睁一只眼闭一只眼”成为某种默认状态。

平台广告审核通常采用“事前机审+事后抽检+用户举报”的多层机制。机审依赖分类器对广告素材的政策合规性打分，但深度伪造诈骗广告往往在落地页、跳转链路和投放人群定向等环节做规避设计，表面素材可能完全合规。更重要的是，广告收入的结算与治理成本分属不同部门考核：收入端按曝光和点击计费，治理端则被视为成本中心。当违规广告带来的边际收入远高于清理它的边际成本时，平台在激励结构上就缺乏彻底整治的动力。这正是库班指控所指向的“结构性矛盾”——问题不在于平台是否有技术能力识别，而在于其商业模型是否愿意为识别付出收入代价。

AI深度伪造为何成为诈骗温床

深度伪造技术原本用于影视特效和娱乐内容，但其“以假乱真”的能力一旦被滥用，后果相当直接。诈骗者可以伪造知名企业家、明星甚至政治人物的视频，声称“限时投资机会”或“紧急求助”，利用受害者的信任心理实施诈骗。

与传统诈骗广告相比，AI生成内容具有两个显著特点：一是批量生产成本极低，二是识别难度大幅上升。平台依赖的关键词过滤和人工审核在面对海量AI生成素材时捉襟见肘。库班的指控之所以有力，恰恰在于它点出了平台“有能力知道”却“选择不行动”的治理困境。

深度伪造（Deepfake）是一类基于深度学习的内容合成技术，核心是生成对抗网络（GAN）与后来的扩散模型（Diffusion Model）。其基本原理是让两个神经网络相互博弈：生成器负责合成逼真的图像或音视频，判别器负责甄别真伪，二者反复迭代后生成器输出的内容越来越难以被肉眼识别。早期深度伪造需要大量目标人物的素材和较强的算力，制作周期长、门槛高；而生成式AI普及后，只需少量样本甚至一张照片即可实时换脸、克隆声音，使伪造从“手工作坊”变成“流水线生产”。这也解释了为何传统依靠关键词匹配和人工抽检的广告审核体系难以应对——伪造内容在像素层面并无固定特征，识别必须依赖专门的检测模型，而检测与生成之间始终存在时间差与对抗性升级。

平台治理的两难与监管压力

Meta此前曾多次表示会打击欺诈广告并投入资源进行AI内容识别，但库班的爆料显示，实际执行效果与公开承诺之间存在明显落差。这种落差并非Facebook独有——几乎所有依赖广告收入的社交平台都面临类似的结构性矛盾。

从监管角度看，这一事件可能加速各方对平台广告审核责任的立法讨论。当AI技术让欺诈内容的规模化生产成为常态，单纯依靠平台自律显然难以奏效。要求平台披露欺诈广告治理数据、建立第三方审计机制等呼声，预计会随着此类事件的曝光而增强。

对普通用户而言，这一事件最直接的提醒是：在社交媒体上看到名人推荐的“投资机会”或“紧急求助”时，务必保持警惕，AI深度伪造已让“眼见为实”不再可靠。

在国际监管实践中，平台广告责任正从“通知—删除”的被动模式转向“尽职调查”的主动义务。欧盟《数字服务法》（DSA）要求超大型平台评估系统性风险并接受独立审计，违规最高可处全球营业额6%的罚款；美国FTC则依据《联邦贸易委员会法》第5条对欺骗性广告进行执法，广告主与发布平台均可能被追责。这些框架的共同趋势是：不再仅凭平台自述判断合规，而是要求可验证的治理数据与第三方监督。对依赖广告收入的社交平台而言，这意味着透明度义务将与商业利益产生更直接的碰撞。

编辑点评

库班的指控将AI深度伪造的治理难题从技术层面拉到了商业伦理层面。160亿美元的欺诈广告收入是一个刺眼的数字，但更值得追问的是：当平台从问题中获利时，谁来保证问题被真正解决？在AI生成内容愈发逼真的趋势下，这个问题的答案将决定社交媒体的信任基础能否维系。