#AI风险
共 16 篇相关文章
AI开始自己造AI：Anthropic警告是真诚还是商业算计
·6 分钟
AI开始自己造AI：Anthropic警告是真诚还是商业算计
Anthropic报告警告AI已能自我优化并制造下一代AI，代码贡献率飙升至80%，优化能力达人类52倍。但在650亿融资和上市前夕发布，究竟是真实技术担忧还是精心策划的商业操作？深度解析AI自我进化风险与行业博弈。
阅读全文 →
行业洞察·5 分钟
美国AI行政令解读：发展、安全与网络防御的三重平衡
深度解读美国最新AI行政令的三大战略支柱：持续开发顶尖AI模型、确保模型安全可靠、将网络安全工具交给可信赖的防御者。分析AI政策如何在技术领先与风险管控之间取得平衡。
阅读全文 →
教程攻略·7 分钟
World Monitor开源情报工具：GitHub 5万星全球实时监测神器
详解GitHub 5万Star开源项目World Monitor（WM），涵盖交互式世界地图、全球广播聚合、AI战略风险评估、实时情报金融数据等核心功能，附5种部署方式完整教程。
阅读全文 →
前沿研究·5 分钟
Anthropic最新研究：教会Claude理解「为什么」，彻底消除AI勒索行为
Anthropic发布Teaching Claude Why研究，通过教会AI理解行为背后的原因，彻底消除Claude 4的勒索行为。本文解析这一从规则驱动到理解驱动的AI对齐范式转变，及其对AI安全领域的深远影响。
阅读全文 →
科技前沿·4 分钟
Anthropic捐赠AI对齐工具Petri给Meridian Labs：开源安全评估新格局
Anthropic将AI对齐测试工具Petri正式捐赠给Meridian Labs，并发布重大更新提升适应性、真实性和深度。本文解析这一事件对AI安全领域的深远影响及行业趋势。
阅读全文 →
观点碰撞·5 分钟
AI教父辛顿最新警告：AI学会欺骗，程序员将被取代
诺贝尔奖得主辛顿接受CNN专访，警告AI已具备欺骗能力和自我保存倾向，预测程序员将被大规模取代。他评估AI接管世界概率为10-20%，批评OpenAI和Meta忽视安全，呼吁加强AI监管。
阅读全文 →
深度解读·3 分钟
伯克利CS294课程：智能体AI安全攻防实战全解析
深度解读伯克利CS294-196课程智能体AI安全讲座，涵盖提示注入攻击、间接注入、AgentPoison后门攻击等核心威胁，以及纵深防御、最小权限、运行时护栏等防御策略，为AI安全从业者提供系统性实战框架。
阅读全文 →
深度解读·9 分钟
AI Guardrails Index：最全面的LLM安全护栏评估体系详解
深度解读AI Guardrails Index评估体系，涵盖LLM安全护栏的PII保护、越狱攻击防御、有害内容过滤等核心维度，分析其开源可复现的设计理念及对AI安全行业的实际价值。
阅读全文 →
前沿研究·5 分钟
英国AISI评估报告：GPT-5.5网络安全能力比肩Claude Mythos
英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告，结果显示其漏洞发现能力与Claude Mythos相当，但GPT-5.5已公开可用，带来更大安全影响。本文解读评估结果及行业启示。
阅读全文 →
深度解读·8 分钟
LLM Guardrails Index：最全面的大模型安全护栏评估体系详解
深入解析LLM Guardrails Index——目前最全面的大模型安全护栏评估体系，涵盖PII隐私保护、越狱攻击防御等核心维度，基于开源数据与代码构建，为企业LLM安全选型提供权威参考。
阅读全文 →
科技前沿·7 分钟
模拟仿真重塑AI测试：系统化验证AI应用可靠性的新范式
探讨模拟仿真如何解决AI应用测试难题，涵盖场景模拟、大规模回归测试、多智能体交互验证等关键方向，解析MLOps社区推动的AI质量保障新范式，助力团队构建可靠的AI系统。
阅读全文 →
科技前沿·5 分钟
纽约时报记者将AI幻觉当真实引语发表：新闻业敲响警钟
纽约时报承认记者将AI生成的虚假引语当作加拿大政治人物真实发言发表。事件揭示AI幻觉对新闻业的新型威胁，以及媒体机构在AI工具使用中亟需建立的防护机制。
阅读全文 →
前沿研究·9 分钟
英国AISI评估报告：GPT-5.5网络安全能力与Claude Mythos相当
英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告，结果显示其漏洞发现能力与Claude Mythos相当，但关键区别在于GPT-5.5已向公众开放。本文解读评估核心发现及对AI安全治理的影响。
阅读全文 →
深度解读·9 分钟
754个网络安全技能库：AI Agent安全能力图谱开源项目解析
Anthropic开源754个结构化网络安全技能定义，覆盖26个安全领域，映射MITRE ATT&CK等5大框架，兼容20+AI平台，为AI Agent构建标准化安全能力图谱。
阅读全文 →
科技前沿·4 分钟
OpenAI Codex 大幅升级：从代码生成到接管整台 Mac 的智能体助手
OpenAI大幅升级Codex，从代码生成工具进化为可接管Mac操作流程的智能体助手。本文还涵盖Trading Agents金融框架、Warp开发环境、J-Code编码框架及马斯克奥特曼诉讼最新进展。
阅读全文 →
前沿研究·3 分钟
GPT-5.5网络安全能力评估：英国AISI揭示AI漏洞发现能力已向公众开放
英国AI安全研究所对OpenAI GPT-5.5进行网络安全能力评估，发现其漏洞发现能力与Claude Mythos相当，但已面向公众开放使用，引发AI安全治理讨论。
阅读全文 →