AI安全聚焦灾难性风险，忽视日常危害

科技政策中的“成功”标准常常令人玩味。一家人工智能公司承诺其聊天机器人不会鼓励自杀，一个社交媒体平台让儿童更难买到芬太尼——这些保护措施固然重要，且本应始终存在。但企业可以轻松跨越这些低门槛，同时继续制造危害日常生活的产品。一篇来自rss的评论文章《The focus on AI safety disasters ignores everyday harms》尖锐地指出了这一错位：行业和监管者对“灾难性”AI风险的执念，正让我们忽视那些每天都在发生的、更为隐蔽的危害。

灾难叙事如何挤占日常危害的讨论空间

当前AI安全辩论被“灾难性风险”主导：超级智能失控、大规模失业、生物武器设计等极端场景占据了政策议程和媒体头条。这种叙事有其合理性，但问题在于它制造了一种二元对立——要么是关乎人类存亡的灾难，要么是无关紧要的小问题。日常危害恰恰落入了这个盲区。它们不够戏剧化，难以激发紧迫感，却真实地影响着数百万人的体验。

原文用两个例子点明了这种扭曲：聊天机器人承诺不鼓励自杀，平台承诺限制儿童购买芬太尼。这些承诺本身值得肯定，但它们只是最低限度的安全底线，而非卓越成就。企业可以公开庆祝自己“负责任”，同时其产品仍在加剧偏见、侵蚀隐私、制造信息茧房或诱导过度使用。这些日常危害不会登上头版，却持续累积。

超级智能失控是AI安全辩论中一个核心的灾难性风险概念，源自对人工智能发展可能超越人类控制并产生不可逆后果的担忧。该概念通常与“对齐问题”紧密相关，即如何确保高度自主的AI系统其目标与人类价值观一致。这一叙事在学术界和科技政策圈层中具有较大影响力，部分原因在于其极端后果的不可逆性，以及由此引发的强烈情感共鸣。然而，批评者指出，对超级智能失控的过度聚焦可能产生“风险转移”效应，使政策资源和公众注意力从更频繁、更贴近生活的算法偏见、隐私侵蚀等日常危害上转移开，从而扭曲了安全优先级的合理排序。

低标准为何能通过“安全”检验

企业擅长将合规包装为创新。一个聊天机器人通过了几项安全测试，并不代表它在长期交互中不会强化用户的负面情绪或传播错误信息。一个平台调整了某些内容的可及性，也不代表其推荐算法不再放大极端内容以追求参与度。

问题的根源在于评价体系的短视。当“安全”被定义为避免极端事件（如自杀、暴力、犯罪），企业只需设置最后一道防线即可宣称达标。而日常危害——如微妙的社会偏见、成瘾性设计、对弱势群体的系统性影响——难以量化，也难以成为公关素材。于是，它们被排除在安全评估之外，甚至不被视为“安全”问题。

原文提醒我们，这种低标准之所以被接受，部分原因是公众和监管者也在用灾难视角审视AI。只要没有出现“大新闻”，日常危害就被默认为可接受的代价。

合规性包装是指企业将满足最低监管要求或通过基础安全测试的行为，在对外宣传中塑造成卓越的安全成就或道德创新。这种现象在科技行业尤为普遍，因为安全标准往往以“是否发生极端负面事件”为底线，而非以“日常用户体验是否受到系统性伤害”为衡量。企业通过设置最后一道防线（如内容过滤、年龄验证）即可宣称达标，而更深层的算法设计、成瘾性机制和偏见放大等问题则被排除在合规范围之外。这种策略利用了监管的滞后性和公众对“无灾难即安全”的默认心理，使得低标准得以长期维持并成为行业惯例。

重新定义AI安全：从例外事件到日常体验

要改变这一现状，需要将AI安全的重心从“防止灾难”转向“改善日常”。这并非否定灾难性风险研究的重要性，而是要求我们同时关注那些高频率、低烈度的危害。例如，聊天机器人是否在长期对话中助长了用户的孤独感？推荐系统是否在无声中窄化了青少年的信息视野？这些问题的答案不会出现在安全声明中，却决定了技术对人的真实影响。

一个更合理的评价框架应当包含对日常危害的持续监测和披露。企业需要像报告安全事故一样，报告产品在日常使用中产生的负面模式——比如某类用户群体受到不成比例的影响，或者某些交互设计导致了非预期的心理后果。监管者则应将日常危害纳入合规考量，而非仅仅等待灾难发生后再行动。

原文的核心洞见在于：将安全定义为“没有灾难”是一种危险的简化。真正的安全是产品在每一天的使用中都不造成可避免的伤害。这需要更细致的衡量标准、更透明的数据，以及愿意挑战低标准的企业文化。

推荐系统是驱动社交媒体和内容平台信息分发的核心算法机制，其目标通常是通过预测用户偏好来最大化参与度（如点击、停留时长）。这种优化逻辑在提升用户粘性的同时，也可能导致“信息茧房”效应——即用户被持续暴露于同质化信息中，视野逐渐窄化，极端内容被放大。推荐系统的日常危害具有隐蔽性和累积性：单次推荐看似无害，但长期作用可能强化偏见、加剧社会极化或诱导过度使用。由于这些影响难以在短期安全测试中量化，推荐系统往往游离于传统安全评估之外，成为日常危害监管的灰色地带。

结语：低标准不是成功，而是起点

企业承诺聊天机器人不鼓励自杀，或者平台限制儿童购买芬太尼——这些是必要的，但远远不够。它们只是起点，而非成功的标志。如果科技政策的成功标准停留在这些低门槛上，我们就会系统性地忽略那些更普遍、更隐蔽的危害。

AI安全需要一场视角的转变：从恐惧灾难转向关注日常。这不是降低要求，而是提高标准——要求技术不仅在最极端的场景下不崩溃，更在每一天的普通使用中不伤害人。原文的批评直指要害：当我们只盯着灾难，日常危害就成了默许的代价。是时候把聚光灯转向那些被忽视的日常了。