#大语言模型安全

共 6 篇相关文章

Grok-4.5越狱事件深析：AI安全护栏为何难以守住

一则关于Grok-4.5被越狱的声明在社交平台引发热议。本文拆解越狱（Jailbreak）的常见技术手段，深入分析AI安全对齐机制的结构性脆弱点，并探讨行业应对策略，帮助读者理性看待AI安全风险。

OpenAI董事会成员Zico Kolter与Gray Swan CEO Matt Fredrikson深度解读AI安全与网络安全的本质区别，阐述红队测试从手工艺到工程学科的演进路径，以及系统化对抗性评估的核心方法论。

海外安全博主对DeepSeek进行系统性越狱测试，通过直接请求、变换措辞、不同提示策略等多种手段尝试突破安全防线。测试结果显示DeepSeek安全机制具备意图识别、一致性拦截和上下文感知能力，在防护与可用性之间取得良好平衡。

苹果WWDC大会即将发布重大系统更新，包括彻底重塑的Siri聊天机器人、更具吸引力的AI功能，以及性能大幅优化的操作系统。详解三大核心升级方向及行业影响。

OpenAI揭示模型发布前的关键环节：专门的红队团队负责破坏和压力测试AI模型。本文解析红队测试的工作方式、行业安全实践趋势，以及对开发者和用户的实际启示。

DBHub是Bytebase团队开源的数据库MCP服务器，零依赖、Token高效，支持PostgreSQL、MySQL等五大主流数据库。通过MCP协议让Claude等AI助手直接查询和操作数据库，GitHub已获2700+ Star。