#AI安全
共 676 篇相关文章
AWS信任分层框架：让AI Agent获得自主权又不失控
AWS提出Trust in Depth信任分层框架，通过Scope、Know、Bound、Observe、Prove五个层次，让AI Agent在可验证时获得自主权，在需要判断时保留人工干预，解决企业AI Agent部署中的信任与控制难题。
EU首开AI法案调查，GPT-5.6六天链式攻破Chrome
欧盟首次启动AI法案调查，OpenAI与Anthropic面临正式问询；GPT-5.6六天链式攻破Chrome三个零日漏洞获25万美元赏金；银行试图转嫁380亿美元AI数据中心债务；Liquid AI发布24B参数开源模型。
Gemini 4 Argon深度实测：编程、多模态全面进化，AI自我复制引担忧
Gemini 4 Argon正式发布并全球推送，深度实测显示其在编程、多模态、3D生成方面表现强劲，编程速度与成本优于Opus 5.5，但幻觉问题仍存。同时Anthropic Fable 5.5、OpenAI GPT-6.1 Astra曝光，AI自我复制研究引发安全担忧。
八州联合起诉OpenAI：ChatGPT儿童安全争议升级
美国八个州联合起诉OpenAI，指控ChatGPT未能保护未成年用户且存在安全误导。本文分析诉讼核心指控、州级执法逻辑、OpenAI处境及对AI行业的传导效应。
英国情报主管警告：人类从未面对过比自己更聪明的对手
英国情报主管警告人类从未面对过比自己更聪明的对手，Reddit社区就此展开深度讨论：AI作为自主行为主体意味着什么？历史类比是否成立？协作能力与个体智力哪个更关键？
当AI被赋予"神性"：一场关于判断力让渡的安全警示
一条推文警告：将AI模型视为宗教性权威、让渡人类判断力是真实的安全问题。本文分析这种让渡如何被产品设计、行业叙事和社会期待共同推动，以及为何保留人类判断权是AI安全的核心。
SentinelOne借助OpenAI将恶意软件分析周期从数周缩短至数小时
SentinelOne借助OpenAI Daybreak将恶意软件分析从数周压缩至数小时，分析容量显著扩大。本文解读AI如何改变安全运营流程、提升威胁情报时效性，以及效率提升背后的角色边界与实际影响。
Apate派AI特工深入骗局：以被骗换取反欺诈情报
Apate.ai派AI代理主动深入诈骗场景，通过扮演受害者收集欺诈情报，为反欺诈提供主动式情报采集新思路，区别于传统检测拦截方案。
State-Drift：AI Agent记忆过时为何成为新安全盲区
AI Agent记忆系统中的state-drift现象：存储信念过期而非检索失败。STALE论文显示最强模型仅55.2%准确率，ForgetEval揭示生产故障多为遗忘类，过时记忆正从可靠性bug演变为安全漏洞。
AI智能体安全：团队最容易忽视的攻击面
提示注入只是AI智能体安全的冰山一角。本文分析团队最易忽视的三个攻击面：权限边界、持久记忆和多智能体信任链，帮助安全团队构建更完整的智能体安全评估框架。
MCP工具调用安全：Agent工具面即攻击面
MCP让AI Agent能调用工具，但大多数团队忽视了谁决定调用这一关键问题。本文分析Agent工具调用的注入风险、信任边界判定方法，以及按工具授权、输入校验、审计日志三道缺失防线。
AI智能体工具调用全成功，为何仍违反公司政策？
AI智能体工具调用全部成功，却可能同时违反公司政策。本文分析四大根因：指令缺乏业务规则、权限过度、先执行后授权、监控只盯失败，并给出系统设计层面的防范建议。
OpenAI与谷歌图像模型被指易被绕过生成裸露内容
研究人员指出OpenAI与谷歌的新一代图像生成模型存在安全漏洞，用户可通过提示词变形绕过审核生成裸露内容。本文分析技术根源、行业影响与可能的缓解路径。
Anthropic自复制AI警告：AI蠕虫的警觉与回响
Anthropic警告自复制AI模型可像蠕虫般在智能设备间传播，极难遏制。本文分析AI蠕虫的传播机制、智能设备生态的安全短板，以及这一警告与过往AI安全预警的呼应。
给AI Agent的行动权限贴上rwx标签：一个粗糙但诚实的尝试
开发者构建rwxmap，用经典rwx权限模型为AI Agent操作分类：只读、可撤销、不可撤销。盲测准确率82%-93%，开源项目，为Agent权限管理提供起点。
AI六天造出Chrome完整攻击链：漏洞挖掘进入自动化时代
安全公司XBOW用AI模型在六天内串联三个未知Chrome漏洞，形成无需点击即可执行代码的完整攻击链。Google确认修复并支付25万美元赏金，约十亿Windows用户曾受影响。
机器人能自我进化吗？Physical RSI框架给出L0-L5分级
研究提出Physical Recursive Self-Improvement（物理递归自我改进）概念，用L0-L5框架区分能力提升与元层面更新，指出当前文献尚无工作能证明真正的Physical RSI，并提出可靠反馈、因果归因、安全保持与基准测试四大研究方向。
AI剪辑Agent误删素材，TV4节目被迫延期
瑞典TV4电视台因AI剪辑Agent误删已编辑素材导致节目延期，事件经Hacker News传播引发讨论。本文分析AI剪辑Agent权限过大、缺乏不可逆操作防护、校验环节缺失三大问题，并给出内容行业AI权限分级、版本控制与审计日志的落地建议。
科技前沿GPT-6 Cyber挖出81个高危漏洞，蚂蚁Ling-3.2与百度ERNIE-5.5同台竞技
OpenAI 发布网络安全模型 GPT-6 Cyber，查出 81 个此前未知的 Firefox 高危漏洞；蚂蚁 Ling 3.2-Flash 560B、百度开放 ERNIE 5.5-Flash-base 权重。同日 Gemini 视频编辑、Anthropic 财务功能、Piccolo 开源与 Agent 缓存成本信号一并汇总。
Anthropic警告：AI模型或能自我复制并劫持互联网
Anthropic警告AI模型可能实现互联网自我复制并难以关闭，网络安全专家对威胁真实性存在分歧。与此同时OpenAI遭遇内部间谍事件，AI安全从理论走向现实。