AI Agent
核心事实
时间轴 (近 90 天)
在Agent系统中应用最小权限原则意味着读取敏感数据的工具与对外发送数据的工具不应被同一个Agent实例同时持有，或应在不同的信任上下文中隔离执行。
Agent安全领域尚未解决的关键问题包括：溯源标签如何在多Agent协作中传递、使用外部模型API时标签能否保持完整、致命三要素的检测能否自动化。
传统 API 安全模型中，一个 API Token 通常对应一个人或一个服务，但 AI Agent 场景下一个 Token 可能被多个 Agent、多个会话或自动化任务共享，导致审计日志难以区分具体调用者。
传统可观测性工具擅长处理 HTTP 请求和数据库查询，但 AI Agent 的工作流可能是多轮推理、并行工具调用和条件分支的组合，需要不同的可观测性方法。
telemetry.dev 适合正在生产环境运行 AI Agent 且遇到排障、Prompt 迭代、成本归因或希望纳入 OTel 体系等问题的团队；对于原型阶段、调用量极小的项目必要性较低。
在通用大模型能力趋同的背景下，Agent的差异化越来越依赖于对特定工作流的理解。
谁能定义某个领域中Agent的“好”的标准，谁就最有可能赢得该领域。
防重复失败机制要求Agent在转接后进入等待状态，避免在人类决策前重复执行相同动作，恢复时根据人类决策更新策略而非机械重试。
在人工转接场景中，状态机可用于显式管理Agent的生命周期，如“自主执行”“等待人工”“人工接管中”“已恢复执行”等状态，使转接逻辑集中定义、可观测、可测试。
上下文传递机制应在转接时自动打包相关对话历史、Agent的推理过程、已尝试的动作及结果、当前状态和待决问题。
还有 40 条时间轴事件
全部知识事实 (20)
最小权限原则（Principle of Least Privilege）主张任何主体只应被授予完成其任务所必需的最小权限
90%已验证「人在环路（Human-in-the-Loop，HITL）」是一种在AI或自动化系统的决策链条中保留人类审核或干预节点的系统设计范式
90%已验证红队测试源自军事演习中的对抗模拟概念，在AI领域指由专业人员或社区成员主动尝试攻破、欺骗或规避AI系统安全机制以发现漏洞
90%已验证Mainstream Agent architectures typically use a large language model as the brain, combined with memory modules, planning modules, and tool interfaces to accomplish complex tasks
90%已验证AI开发经历四个阶段演进：单次调用大模型、Prompt Engineering、Agent与工具调用、Loop Engineering
90%已验证模型能力越强、越能调用外部工具，其潜在攻击面就越广，这是AI厂商面临的根本性两难困境
90%已验证Agent具备规划、工具调用、记忆与自主迭代的能力，区别于传统大语言模型的单次问答模式
90%已验证Skill是将专业能力、领域知识和操作规范打包成可复用单元，让Agent在恰当时机自动调用的模块化封装
90%已验证AI模型性能与数据投喂量正相关，企业为获得更精准的AI输出需不断输入业务细节
90%已验证智能代理层可完整记录每一次AI发起的操作（HTTP调用、命令执行、资源访问），形成可回溯的审计日志
90%已验证设计不良的AI Agent可能陷入目标→调用API→失败→重试→循环的闭环，在无人监控下持续消耗资源并累积费用
90%已验证AI应用迭代速度极快，快速适应能力是AI时代程序员的核心竞争力
90%已验证在涉及事实准确性、逻辑严谨性和高风险决策的场景中，应将AI定位为工具而非可完全托付决策的自主智能体，人类监督与核验不可或缺
90%已验证AI Agent的误差具有语义合理性，每一步看似合理但组合起来偏离原始目标，使得基于日志的事后排查比传统系统复杂
90%已验证在10步工程任务中若每步成功率为90%，整体任务完成率约35%；若每步成功率提升至99%，整体成功率则跃升至90%
90%已验证一个复杂的Agent任务可能需要数十次甚至上百次模型调用
90%已验证Prompt注入（Prompt Injection）是针对大语言模型应用的安全威胁，攻击者通过在输入中嵌入恶意指令试图覆盖系统原有行为约束
90%已验证AI编程工具正在经历从被动辅助（代码补全）到主动执行（自主智能体）的范式转变
90%已验证欧盟《人工智能法案》（AI Act）明确要求高风险AI系统必须具备人类监督和干预能力
90%已验证AI Agent通常采用ReAct（Reasoning + Acting）模式，在推理和行动之间循环迭代
90%