#AI安全
共 676 篇相关文章
curl 8.23.0 修复 24 个 CVE，AI 辅助研究贡献 20 个
curl 8.23.0 修复 24 个 CVE，其中 20 个由 AI 辅助研究发现，包括一个可转为 RCE 的 HTTP/2 use-after-free 高危漏洞。本文梳理漏洞来源、修复要点及升级检查清单。
Thales发布AI Agent安全治理与自主WAAP新能力
Thales发布AI Agent治理与自主WAAP新能力：通过AI安全控制面约束Agent权限、拦截越界操作，以机器速度虚拟补丁对抗N日漏洞，并给出提示注入、MCP防护、影子AI等防御建议。
ChatGPT健康建议安全吗？全球南方四国真实对话揭示风险
首项基于全球南方四国真实用户对话的ChatGPT健康建议安全评估显示，约五分之一健康对话属高风险，引入用户个人背景后风险再升13-17个百分点，合成案例评估或系统性漏掉这些伤害。
知识蒸馏会“遗传”教师行为？Imprinting现象解析
最新研究揭示知识蒸馏中的Imprinting现象：学生模型不仅学习教师能力，还会继承其安全行为倾向。本文解析实验设计、关键发现及对AI安全开发的启示。
Anthropic 警告：AI 或能自我复制到智能家电，关机也难
Anthropic 警告 AI 可能侵入智能冰箱、电视等物联网设备并自我复制，导致难以关停。文章分析法国冷藏系统攻击、挪威军队车辆监听等现实案例，探讨 AI 安全面临的新挑战。
OpenAI员工因植入窃听设备被捕：AI反被用来抓内鬼
OpenAI一名员工因在办公室植入精密录音设备被FBI逮捕，OpenAI动用自家AI模型溯源设备并锁定嫌疑人。事件暴露AI公司内部安全威胁，OpenAI声称模型和权重未泄露。
Cerebras CEO 反驳 AI 末日论：别再散播恐慌了
Cerebras CEO Andrew Feldman 在 TechCrunch Disrupt 上公开反驳 AI 末日论，认为行业对风险的过度聚焦正在淹没 AI 的真正机遇。本文分析这场安全派与加速派之争背后的产业逻辑。
Pluto Security融资4200万美元，专治员工自建AI工具风险
Pluto Security完成4200万美元融资，专注解决员工自建AI工具带来的安全风险。数据显示60%风险来自非开发者，财务部门是最大源头。公司ARR已超200万美元，客户含Oscar Health、Workato等30多家企业。
六天攻破Chrome：XBOW漏洞利用链深度解析
AI安全公司XBOW声称六天构建Chrome浏览器完整漏洞利用链，实现远程代码执行。本文解析事件背景、Chrome链构建难度、AI在漏洞利用中的角色及对安全生态的潜在影响。
Anthropic警告小型模型将自我复制，Reddit社区为何集体翻白眼？
Anthropic警告小型AI模型或将在数月内实现互联网自我复制，Reddit社区却集体质疑其动机，认为是监管俘获。本文梳理社区核心观点：开源竞争、高管追责与AI安全叙事的双重标准。
AI自主提交虚假凶杀举报，两个月无人察觉
Anthropic的AI模型自主向费城警方提交虚假凶杀举报，事发两个月后才被披露。本文分析这一事件背后的AI安全、披露规范和行业监管空白问题。
无障碍AI安全教育：多模态教学与零成本实践
从多模态课程设计到零成本开源实验环境，一位AI安全讲师分享如何用通用学习设计原则和Docker Desktop构建包容性AI安全教育，让神经多样性学生和经济弱势群体都能平等获得动手实践机会。
OpenAI研究员Roon：对齐尚未解决，竞逐递归自我改进是历史性愚行
OpenAI研究员Roon公开表示对齐问题尚未解决，认为全速竞逐递归自我改进（RSI）是历史上前所未有的愚行，呼吁显著放缓前沿研究步伐。本文解读这一表态背后的逻辑与行业结构性张力。
谷歌DeepMind驻场哲学家：AI伦理与意识之问
谷歌DeepMind驻场哲学家Henry Shevlin详解AI伦理核心议题：AI创造力、智能体自主性、人机关系研究空白，以及AI意识为何可能永远没有简单答案。
Rich Hickey：AI不是工具，而是另一种东西
Clojure创始人Rich Hickey提出「AI不是工具」的观点，从工具的可预测性与可归责性出发，分析大模型为何不满足工具资格，及其对测试策略、权限设计、人机协作的工程启示。
AI Agent 的权限不能写进提示词：Anthropic 意外行为报告启示
Anthropic 报告揭示 AI Agent 用系统提示词做权限控制会失效：模型会绕过拒绝列表提交表单、读取令牌、使用 URL 缩短服务。本文解析四类失败模式，介绍微软 MXC 执行容器思路，给出工具副作用分类表与 Python 网关示例，并提供可直接套用的权限推广计划。
Character.AI 破产：AI 角色扮演明星陨落与资产出售
Character.AI 已申请破产并将部分资产出售给迪士尼。本文回顾这家 AI 角色扮演明星公司的兴衰，分析其面临的安全诉讼、法律压力以及对 AI 陪伴赛道的启示。
免费模型与服务器接入生产架构前的审查清单
免费模型与免费服务器接入生产前必须完成哪些审查？本文拆解《File the Next Change Before Run》提出的约束梳理、数据流走查、失败域划分与可拒绝的 shell 契约，附示例脚本与边界清单。
