模型
模型是机器学习中的从输入到输出的映射函数,通过训练调整内部权重以拟合数据规律。
核心事实
时间轴 (近 90 天)
模型本身并不执行工具,而是由外部系统(Agent框架)解析工具调用请求并实际运行工具,然后将结果以文本形式追加到对话历史中。
把模型作为安全底座而非外挂分析工具,意味着模型被放在数据流与控制流的中间层,向上承接策略生成与自然语言意图,向下对接防火墙、EDR、身份系统等执行点。
在工具调用中,模型扮演调度者而非执行者,真正的副作用由工具层代码完成,因此权限控制应作用在工具层。
把模型与harness解耦带来三个好处:横向评估智能体质量、按任务难度灵活选用更强或更便宜的模型以控制成本、避免被单一供应商锁定;代价是需要额外的适配层和统一的观测接口。
工具调用的参数必须先经json.loads解析才能取到,且模型输出的参数可能出现多余字符、字段缺失甚至非法JSON,工程上需要用try/except包裹并校验必填字段。
模型本身并不直接联网或执行代码,它只负责决定调什么工具、传什么参数,实际动作由宿主程序完成。
没有工具,模型只能在文本里打转;没有循环,模型只能给出一次性回答。
模型必须整体装入可用显存才能获得可接受的运行速度。
模型会继续变好,上下文窗口会继续扩大,每token成本会继续下降,但这些不改变构建在没人盯着时也能正确行事的系统这一根本工程挑战。
模型不存储词典定义,它存储的是高维概念几何;意义是上下文之光穿过语言结构时投下的动态数学影子。
还有 10 条时间轴事件
全部知识事实 (20)
AI Agent的决策循环包含四个步骤:感知(Sense)、规划(Plan)、行动(Action)、观察(Observe),形成闭环迭代
80%已验证在MCP出现之前,各大模型厂商实现工具调用的方式各自为政,更换底层模型时开发者必须重写所有工具调用代码
65%待验证模型是一个大文件,包含训练时烘焙进去的数十亿个权重数字
60%待验证模型本身并不执行工具,而是由外部系统(Agent框架)解析工具调用请求并实际运行工具,然后将结果以文本形式追加到对话历史中。
50%待验证把模型作为安全底座而非外挂分析工具,意味着模型被放在数据流与控制流的中间层,向上承接策略生成与自然语言意图,向下对接防火墙、EDR、身份系统等执行点。
50%待验证在工具调用中,模型扮演调度者而非执行者,真正的副作用由工具层代码完成,因此权限控制应作用在工具层。
50%待验证把模型与harness解耦带来三个好处:横向评估智能体质量、按任务难度灵活选用更强或更便宜的模型以控制成本、避免被单一供应商锁定;代价是需要额外的适配层和统一的观测接口。
50%待验证工具调用的参数必须先经json.loads解析才能取到,且模型输出的参数可能出现多余字符、字段缺失甚至非法JSON,工程上需要用try/except包裹并校验必填字段。
50%待验证模型本身并不直接联网或执行代码,它只负责决定调什么工具、传什么参数,实际动作由宿主程序完成。
50%待验证没有工具,模型只能在文本里打转;没有循环,模型只能给出一次性回答。
50%待验证模型必须整体装入可用显存才能获得可接受的运行速度。
50%待验证模型不存储词典定义,它存储的是高维概念几何;意义是上下文之光穿过语言结构时投下的动态数学影子。
50%待验证如果你不能在模型和写路径之间放校验器,那就不要让模型进入写路径。
50%待验证不同模型对JSON Schema的遵循程度不同,可能遗漏必填字段、把数字写成字符串、在嵌套对象中改变键名,或返回解释性文本而非JSON。
50%待验证模型本身是纯推理组件,没有网络访问能力、没有文件系统、也不能执行任何副作用操作。
50%待验证当任务在运行、路由连通、调用链最新、无上下文重建耗尽预算、数据源返回真实数据、到数据源的路径也很快等所有检查都通过后,若输出仍然崩坏(推理不一致、反复失败、拒绝正确使用工具),才应怀疑模型本身
50%待验证模型读不懂过于复杂的结构,或上下文太长时表现变差,是今天的能力下限;该方法还不能在所有场景运行,但那个下限不是方法的永久边界。
50%待验证在训练前记录预测的测试表明,目标比特的低 XOR 度并不足以保证这些比特会被模型使用。
50%待验证运行时安全层能够在模型推理结果转化为实际操作之前拦截高风险行为
50%待验证模型会继续变好,上下文窗口会继续扩大,每token成本会继续下降,但这些不改变构建在没人盯着时也能正确行事的系统这一根本工程挑战。
50%