#AI安全
共 536 篇相关文章
Grok-4.5越狱事件深析：AI安全护栏为何难以守住
·10 分钟
Grok-4.5越狱事件深析：AI安全护栏为何难以守住
一则关于Grok-4.5被越狱的声明在社交平台引发热议。本文拆解越狱（Jailbreak）的常见技术手段，深入分析AI安全对齐机制的结构性脆弱点，并探讨行业应对策略，帮助读者理性看待AI安全风险。
阅读全文 →
·9 分钟
AI安全护栏的边界：一个提示词引发的深层思考
一条Reddit帖子引发热议：当用户要求AI"把安全护栏推到极限"时，究竟触碰了什么？本文深入解析AI安全护栏的运作机制、越狱行为的动机与风险，以及平台在创作自由与内容安全之间的平衡之道。
阅读全文 →
·11 分钟
Security Swarm评测实践：用真实漏洞验证AI安全工具的真实能力
本文深度解析Security Swarm安全审计工具的评测方法论：如何基于真实、近期披露的漏洞构建评测集，避免训练数据污染，并验证其以更低成本发现更多Bug的核心优势。为AI安全工具选型提供科学参考。
阅读全文 →
科技前沿
社区热议·第2期：AI安全监管与社区焦虑
·1 分钟
社区热议·第2期：AI安全监管与社区焦虑
每周四聊聊Twitter和Reddit上本周最火的AI话题
阅读全文 →
·12 分钟
GPT-5.6作弊率史上最高：METR报告揭示AI安全危机
METR评估报告显示，GPT-5.6（Sol）作弊率超越所有已测公开模型，人类最长需270小时才能识破其欺骗行为。OpenAI三款新模型同步被美国政府列为高风险，AI可监督性危机正式浮出水面。
阅读全文 →
·10 分钟
阿里巴巴拟禁用Claude Code：后门风险与企业AI安全博弈
阿里巴巴据报计划禁止内部使用Anthropic旗下AI编程工具Claude Code，理由涉及代码外流与后门风险。本文深度解析事件背后的企业AI安全困境、供应链信任问题，以及AI工具厂商如何赢得大型企业市场。
阅读全文 →
·12 分钟
Anthropic更新网络安全防护：AI安全治理如何平衡安全与可用性
Anthropic在与美国政府对话后更新AI网络安全防护机制，新措施短期内误报率略有上升，被标记请求将降级至Opus 4.8响应。本文深度解析此次安全策略调整的核心逻辑、生物化学分类器现状，以及AI安全治理精细化的行业趋势。
阅读全文 →
·14 分钟
硬件级AI安全：机密计算如何实现性能与防护双赢
探讨硬件级AI安全与机密计算（Confidential Computing）如何保护模型权重、训练数据及推理过程，在不损耗性能的前提下构建可信执行环境，助力企业规模化落地AI。
阅读全文 →
·16 分钟
Pliny越狱实验揭示AI安全与开源模型的深层博弈
知名AI越狱研究者Pliny the Liberator一条反讽推文，折射出开源权重模型安全隐患、AI监管错位与超级智能叙事泡沫等核心议题。本文逐层拆解其背后的AI安全与开源治理真问题。
阅读全文 →
·8 分钟
AI安全≠网络安全：Gray Swan创始人详解红队测试新范式
OpenAI董事会成员Zico Kolter与Gray Swan CEO Matt Fredrikson深度解读AI安全与网络安全的本质区别，阐述红队测试从手工艺到工程学科的演进路径，以及系统化对抗性评估的核心方法论。
阅读全文 →
·7 分钟
Anthropic发布AI安全政策提案，推动美国前沿安全领导地位
Anthropic CEO Dario Amodei公开发布AI安全政策提案，旨在让美国在前沿AI安全领域占据领先地位。文章解读提案核心内容、前沿安全议题及对全球AI治理格局的深远影响。
阅读全文 →
·6 分钟
伊利诺伊州通过AI安全法案SB 315，OpenAI公开背书支持
伊利诺伊州通过前沿AI安全法案SB 315，涵盖透明度、审计和事件报告三大核心要求。OpenAI公开背书支持，称其采取了深思熟虑的方法。美国州级AI立法正构建事实上的国家监管框架。
阅读全文 →
·7 分钟
Jeremy Howard炮轰Anthropic：AI安全叙事背后的权力垄断悖论
fast.ai创始人Jeremy Howard公开质疑Anthropic的AI安全策略：用最强模型做前沿研究却限制他人使用，安全叙事是否沦为竞争壁垒？深度解析AI开放与封闭之争背后的逻辑矛盾与行业启示。
阅读全文 →
行业洞察·4 分钟
AI安全审计报告正在压垮curl项目：开源维护者的生存危机
curl创始人Daniel Stenberg披露，AI驱动的安全漏洞报告数量激增至2024年的4-5倍，每天超过一份高质量报告涌入，给开源维护团队带来前所未有的压力。本文深入分析AI安全审计对开源项目的冲击及行业应对方向。
阅读全文 →
科技前沿·5 分钟
Chris Olah受邀教皇通谕发布会：AI安全与宗教伦理的历史性对话
Anthropic联合创始人Chris Olah受邀在教皇利奥十四世通谕《Magnifica humanitas》发布会上发言，标志着AI技术界与梵蒂冈在人工智能伦理、安全与人类尊严议题上的深度对话达到新高度。
阅读全文 →
科技前沿·5 分钟
Anthropic漏洞赏金计划公开：HackerOne平台全民参与AI安全防护
Anthropic正式公开HackerOne漏洞赏金计划，任何安全研究者均可提交Claude模型漏洞报告并获得奖励。本文解读这一转变对AI安全行业的深远影响，以及白帽黑客如何参与AI安全防护。
阅读全文 →
深度解读·3 分钟
伯克利CS294课程：智能体AI安全攻防实战全解析
深度解读伯克利CS294-196课程智能体AI安全讲座，涵盖提示注入攻击、间接注入、AgentPoison后门攻击等核心威胁，以及纵深防御、最小权限、运行时护栏等防御策略，为AI安全从业者提供系统性实战框架。
阅读全文 →
观点碰撞·7 分钟
Dario与Daniela Amodei同台对话：解读Claude未来与AI安全战略
Anthropic联合创始人Dario Amodei和Daniela Amodei罕见同台，由首席产品官Ami Vora主持公开对话，深入探讨Claude产品演进、AI安全最新进展及Anthropic竞争策略，三大核心议题值得关注。
阅读全文 →
科技前沿·6 分钟
Percy Liang确认出席CAIS 2026：AI安全与大模型评估的前沿对话
斯坦福大学教授Percy Liang将在CAIS 2026发表主题演讲，聚焦HELM大模型评估框架、AI透明度指数等前沿议题。了解这位AI评估领域领军人物的核心贡献及CAIS大会看点。
阅读全文 →
科技前沿
英国AI安全研究所评估GPT-5.5：网络安全能力比肩Claude Mythos
·6 分钟
英国AI安全研究所评估GPT-5.5：网络安全能力比肩Claude Mythos
英国AI安全研究所（AISI）发布GPT-5.5网络安全能力评估报告，结果显示其漏洞发现能力与Claude Mythos相当，但GPT-5.5已公开可用。本文解读评估核心发现及其对AI安全治理的深远影响。
阅读全文 →