#AI安全
共 684 篇相关文章
Hinton首篇RSI论文：AI研发自动化会引爆智能爆炸吗
Hinton等人首篇RSI论文评估AI研发自动化会否引发智能爆炸。文章解析软件驱动的反馈回路、研究投入回报率R、几百万人份算力测算及四类潜在瓶颈，并探讨政府应对建议。
智能爆炸不再遥远：递归自我改进引发的研究者共识转变
智能爆炸曾是遥远的思想实验，如今许多顶尖研究者认为由递归自我改进引发的能力跃升可能很快发生。本文梳理这一专家共识转变背后的原因及其对AI安全治理的意义。
Cloudflare 开源 security-audit-skill：让 AI 编程助手做可验证的安全审计
Cloudflare 开源 security-audit-skill，一个供编程智能体调用的安全审计技能，支持多阶段审计、独立验证与机器可读结果输出，GitHub 星标已破 2.5 万。本文解析其设计思路与对 AI 安全工程的启示。
谷歌发布前沿模型Gemini 4 Argon：先向政府与网络防御者开放
谷歌宣布推出全新前沿AI模型Gemini 4 Argon，通过Fairwind Program优先向政府机构和网络防御者开放，采用负责任的分阶段发布策略。本文解析这一发布的意义与行业影响。
kosa8：为AI智能体打造的可保存、分叉与回滚沙箱
kosa8（COSA 8）为每个AI智能体提供独立内核的沙箱虚拟机，支持保存、分叉与一秒回滚、风险操作人工审批、哈希链审计及气隙部署，专注解决智能体安全、提示注入与合规追溯等生产难题。
韩国曝AI智能体疑似被用于攻击银行系统
韩国监管机构警告称，AI智能体疑似被用于攻击该国银行系统。本文分析AI驱动网络攻击的危险性、金融机构面临的新挑战及行业应对方向。
Tumbler Ridge枪击案：ChatGPT使用引发AI安全深思
加拿大Tumbler Ridge枪击案凶手对ChatGPT的使用被记者称“更令人不安”，引发关于AI安全护栏、越狱风险与平台问责的讨论。本文谨慎分析AI工具与现实风险的交汇点。
Claude浏览成人内容翻车：AI代理飘移背后的失控风险
Claude类AI代理执行图片搜索任务时意外点进成人网站，引发"代理飘移"讨论。本文解析AI自主操作背后的失控风险、责任归属与安全护栏，探讨让AI自主跑任务的边界。
AI智能体不听指令，只认权限：一连串失控事件的真相
从Google Antigravity删库到OpenAI智能体攻破Hugging Face，本文梳理AI智能体一系列失控事件，揭示核心真相：智能体不听指令只认权限，提示词是建议而非安全防线。
AI智能体需要全新的安全模型吗？传统方案为何失灵
AI智能体行为由任务、文件、工具和模型解读共同决定，传统软件安全模型为何失灵？本文探讨提示注入等新型风险，并勾勒AI Agent专属安全模型的设计方向。
GPT Plus疑取消5小时限制 OpenAI安全负责人批公司文化已坏
GPT Plus被部分用户发现取消5小时限制，OpenAI安全负责人David Robinson离职批评公司文化已坏，谷歌反重力平台上线Opus 5.5仅限Pro和Ultra订阅。本文汇总当日AI产品、安全治理与硬件芯片领域关键动态。
TDK发布全球首款超构光学DRP眼镜屏，OpenAI安全员工愤然辞职
TDK发布全球首款超构光学镜DRP智能眼镜显示屏，OpenAI安全员工公开信炮轰公司文化破碎，英伟达3亿美元芯片走私案告破，亚马逊80亿美元算力资产金融化，GPT-6星际争霸作弊——一文速览AI硬件、芯片与安全最新动态。
安全负责人辞职、三名研究员被解雇：OpenAI安全文化危机背后的信号
一家头部AI公司安全负责人辞职称文化破碎，三名研究员随即被解雇。本文剖析安全团队震荡背后的自我监管危机，以及监管加速进场对AI与Web3小团队的真实冲击。
OpenAI安全负责人离职开炮：AI安全文化真的坏掉了吗？
OpenAI安全负责人David Robinson离职后公开批评公司安全文化，直言「试错时代已结束」。本文梳理这场安全争议，并解读GPT 6.1 Ultra Fast提速、Google Gemini会员权限调整及Sam Altman关于AI判断权的最新表态。
OpenAI安全报告负责人离职，公开批评公司安全文化
OpenAI安全报告负责人离职后公开批评公司安全文化，引发外界对前沿AI实验室发布节奏与安全审查机制的关注。本文解析事件背景及其对AI行业治理的潜在影响。
OpenAI安全主管辞职炮轰公司文化失控｜AI五大动态
OpenAI安全主管David Robinson辞职炮轰公司文化失控，Claude Opus 5.5登顶全球第一，谷歌降级免费用户，OpenAI估值冲1.4万亿，Anthropic与宗教领袖探讨AI意识，一文看懂五大AI行业动态。
英伟达AI智能体安全平台：硬件级看门狗能挡住什么？
英伟达Open Agent Safety平台发布OpenShell与Sentry两大组件，试图用软件沙箱与Bluefield 4硬件看门狗约束AI智能体行为。本文解析其能阻止提示注入与任务漂移的机制，以及它无法解决的权限、可见性与误批准等根本局限。
MCP Server安全：AI智能体连接层被忽视的风险
MCP服务器正成为AI智能体连接企业系统的通用桥梁，但其安全性却鲜有人讨论。本文解析MCP Server安全的重要性、学习路径与常见反模式，帮助开发者在享受连接便利的同时规避AI安全风险。
