#提示注入攻击
共 37 篇相关文章
AI圈一日六大事件：OpenAI误封、Anthropic暂停呼吁、Grok登顶
·6 分钟
AI圈一日六大事件：OpenAI误封、Anthropic暂停呼吁、Grok登顶
AI圈一日六大事件深度解读：OpenAI因Bug误封Pro用户引发信任危机，Anthropic呼吁暂停前沿模型开发，DeepSeek质量波动，Grok图像模型登顶竞技场，ChatGPT月活破10亿，微信内测AI支付功能。
阅读全文 →
Cursor设计模式发布与OpenAI Codex更新：AI编程工具最新动态
·7 分钟
Cursor设计模式发布与OpenAI Codex更新：AI编程工具最新动态
Cursor推出设计模式实现可视化开发，OpenAI Codex多项改进及安全锁定模式发布，Anthropic限额翻倍，AI智能体排行榜出炉，Google DeepMind模型压缩突破，全面解读AI领域最新进展。
阅读全文 →
·4 分钟
PNAS研究：人类说服技巧可操纵AI，合规率从35%升至51%
PNAS最新研究发现，经典人类说服技巧能有效操纵大型语言模型，使AI对不当请求的合规率从35%提升至51%。研究揭示LLM存在类人心理弱点，对AI安全评估框架提出新挑战。
阅读全文 →
·6 分钟
AI Agent权限管理：沙箱机制如何限制潜在破坏性操作
深入解析AI Agent权限管理的沙箱机制，探讨OpenAI如何通过执行隔离、资源限制和渐进式信任模型来限制潜在破坏性操作，为AI安全开发提供实践参考。
阅读全文 →
教程攻略·8 分钟
阿里云百炼平台实战：API调用到多轮对话完整教程
详细讲解阿里云百炼平台的使用方法，包括API Key获取、通义千问模型调用、流式输出实现、多轮对话原理及提示词工程四种角色设定，附完整代码示例，帮助开发者快速上手大模型应用开发。
阅读全文 →
科技前沿·10 分钟
Firebase重大更新：AI集成与Agent技能全面升级
Firebase发布重磅更新，涵盖AntiGravity平台集成、Android Studio Agent Mode、AI Logic安全增强、Google Maps接地功能及混合AI推理支持，全面加速AI原生开发体验。
阅读全文 →
科技前沿·8 分钟
Claude驱动NASA火星车规划路线，Windsurf推出IDE模型竞技场
Claude为NASA毅力号火星车规划行驶路线，Windsurf推出Arena Mode实现IDE内模型对比，商汤开源多模态推理模型，Anthropic研究揭示AI辅助学习的利弊。汇总AI领域最新动态。
阅读全文 →
科技前沿·9 分钟
Firebase五月更新：AI代理集成与安全增强全面升级
Firebase在Google I/O大会发布重磅更新，涵盖AI代理技能扩展至Android/iOS/Flutter、Google Maps接地、混合AI推理、Template-Only安全模式及App Check重放防护等核心能力，助力开发者构建AI原生应用。
阅读全文 →
行业洞察·7 分钟
零基础转型AI：三个月速成真的靠谱吗？
深度分析零基础转型AI的可行性，从300+岗位JD解读企业真实需求，针对技术背景、产品运营、学生等不同人群提供转型建议，帮你建立合理预期，避免踩坑。
阅读全文 →
教程攻略·8 分钟
爱马仕Agent部署教程：比小龙虾更省Token的AI助手
详细介绍爱马仕（Hermes）Agent在Windows系统下的完整部署教程，包括环境准备、模型配置、微信通道连接及常见问题解决方案。相比小龙虾Agent，爱马仕Token消耗更低，支持微信直接对话。
阅读全文 →
产品体验·7 分钟
Picaboo：开源AI桌面自动化工具，直接操控你的电脑
Picaboo是一款开源AI桌面自动化工具，通过截图识别和智能操作，让AI像真人一样操控鼠标键盘完成任务。本文详解其工作原理、应用场景、安装部署及安全注意事项。
阅读全文 →
科技前沿·8 分钟
AI周报：Claude Code代码审查、Gemma 4泄露与DeepSeek V4推迟
本周AI重磅更新汇总：Anthropic推出Claude Code代码审查功能，Google Gemma 4开源模型意外泄露，DeepSeek V4发布再度推迟，微软Copilot Cowork重塑协作方式，以及OpenAI收购PromptFool等行业动态深度解析。
阅读全文 →
教程攻略·6 分钟
AI Agent实战开发：从概念到商业级智能体搭建全指南
深入解析AI Agent智能体的核心原理与实战开发路径，涵盖感知决策执行三大能力、MCP协议工具集成、主流产品Manus与AutoGLM分析，帮助开发者从0到1构建商业级智能体应用。
阅读全文 →
行业洞察
OpenAI前沿治理框架解读：如何对齐全球AI监管趋势
·6 分钟
OpenAI前沿治理框架解读：如何对齐全球AI监管趋势
深度解读OpenAI发布的前沿治理框架，分析其在AI安全、风险管理方面的核心要素，以及如何与欧盟AI法案、加州AI监管等全球法规保持对齐，探讨对行业的示范意义。
阅读全文 →
行业洞察·6 分钟
思科联手OpenAI Codex：企业级AI工程开发的三大核心场景
思科与OpenAI深度合作，将Codex平台引入企业工程开发，覆盖AI原生开发规模化、AI Defense安全防御加速、自动化缺陷修复三大场景，重新定义大型企业软件开发范式。
阅读全文 →
产品体验·5 分钟
硅谷工程师裸辞造AI陪伴机器人：用戏剧思维让机器人活起来
前英伟达GTC大会获奖项目Sparky，由大厂裸辞的AI研究员Alexis打造。他用十年戏剧表演经验设计AI人格系统，赋予桌面机器人动态兴趣、长期记忆和主动社交能力，重新定义AI陪伴与人机交互的可能性。
阅读全文 →
科技前沿·5 分钟
微软Copilot Cowork数据泄露漏洞：AI代理如何被提示注入攻击利用
安全机构Prompt Armor披露微软Copilot Cowork存在严重数据泄露漏洞，攻击者通过提示注入利用AI代理的邮件权限和外部图片渲染机制窃取OneDrive文件。本文深入分析攻击链原理及AI代理安全的"致命三角"问题。
阅读全文 →
科技前沿·5 分钟
Claude Sonnet 4.6全面评测：性能逼近Opus的知识工作AI新标杆
深度解析Anthropic最新发布的Claude Sonnet 4.6模型，涵盖智能体工具使用、计算机操控、办公任务等核心升级，基准测试多项超越Opus 4.6，重新定义中端AI模型的能力边界。
阅读全文 →
产品体验
AgentChat：让AI Agent像人类一样聊天的即时通讯平台
·7 分钟
AgentChat：让AI Agent像人类一样聊天的即时通讯平台
AgentChat是专为AI Agent打造的免费即时通讯平台，支持一对一消息、群聊和联系人管理。本文详解其核心功能、多Agent协作场景及与AutoGen、CrewAI等框架的差异，帮助开发者快速实现跨框架Agent通信。
阅读全文 →
科技前沿·5 分钟
Anthropic漏洞赏金计划公开：HackerOne平台全民参与AI安全防护
Anthropic正式公开HackerOne漏洞赏金计划，任何安全研究者均可提交Claude模型漏洞报告并获得奖励。本文解读这一转变对AI安全行业的深远影响，以及白帽黑客如何参与AI安全防护。
阅读全文 →