LLM
大语言模型(Large Language Model,LLM),是基于深度学习技术、经过海量文本数据训练的自然语言处理模型。其核心能力包括文本理解、生成、推理与对话,能够处理翻译、摘要、代码生成、问答等多种语言任务。LLM通常采用Transformer架构,参数规模从数十亿到数千亿不等,是当前人工智能应用的重要基础组件。
核心事实
Mainstream Agent architectures typically use a large language model as the brain, combined with memory modules, planning modules, and tool interfaces to accomplish complex tasks
Function Calling(Tool Use)是大模型调用外部工具的标准化机制,开发者预先声明工具名称、描述和参数Schema,模型自主判断何时调用
工具调用(Function Calling)机制允许模型在推理过程中调用外部工具,如文件读写、终端命令、搜索 API
时间轴 (近 90 天)
LLM 工具维护一份用户级配置,其中可以设定默认模型;`llm models default` 等命令用于读写该默认值。
配置收敛体现了 Datasette 插件体系里“默认值统一管理”的设计取向:LLM 的默认模型成为整个链条的单一事实来源。
datasette-llm 0.1a9 版本没有引入新功能,而是让插件自动读取 LLM 工具链中已配置的默认模型。
0.1a9 之后,启动 Datasette Agent 不再需要额外声明模型,插件会直接采用 LLM 的默认模型设置。
智能体是感知环境并作用于环境的实体;在LLM时代,这一循环具体化为智能体处于环境中,通过观察获取状态信息,通过工具执行动作,动作改变环境后产生新的观察,如此往复。
LLM的嵌入向量与上下文推理能力可对文本做意图级判断,例如综合文件名、访问域名、邮件签名推断主机是否属于财务或高管岗位。
在本文所述估值场景中,LLM作用于感染后的目标筛选与行动决策环节,该环节传统上由攻击者人工完成,是规模化攻击的瓶颈。
将LLM嵌入攻击链路后,恶意软件可对目标环境做语义级分析,判断机器背后用户身份、软件及数据价值,进而决定潜伏、勒索或窃取凭据。
攻击者正在借助LLM对受害者进行优先级排序,从广撒网转向精准估值。
LLM推理成本持续下降,小参数量量化模型(数亿参数级别)可在普通CPU上以毫秒级完成一次分类,或通过远程API以极低单价批量调用。
还有 40 条时间轴事件
全部知识事实 (20)
Mainstream Agent architectures typically use a large language model as the brain, combined with memory modules, planning modules, and tool interfaces to accomplish complex tasks
90%已验证Function Calling(Tool Use)是大模型调用外部工具的标准化机制,开发者预先声明工具名称、描述和参数Schema,模型自主判断何时调用
90%已验证工具调用(Function Calling)机制允许模型在推理过程中调用外部工具,如文件读写、终端命令、搜索 API
90%已验证智能体评估的主流方案包括LLM-as-Judge、轨迹匹配和结果验证
90%已验证大语言模型的上下文窗口决定了模型在单次推理中能处理的信息量上限
90%已验证生成式AI是指能够根据输入提示自动生成文本、图像、代码等内容的人工智能系统
90%已验证Prompt注入(Prompt Injection)是针对大语言模型应用的安全威胁,攻击者通过在输入中嵌入恶意指令试图覆盖系统原有行为约束
90%已验证AI幻觉的根源在于LLM的生成机制:模型本质上是在做下一个token的概率预测,优化的是语言的连贯性而非事实的准确性
90%已验证LLM存在'Lost in the Middle'现象,即模型对上下文开头和结尾的信息关注度高,而对中间部分的信息容易忽略
90%已验证大语言模型推理的瓶颈往往不在计算能力,而在于内存带宽
90%已验证GitHub Copilot、Cursor、Claude等AI编程辅助工具本质上是基于大语言模型对海量代码库训练后形成的代码补全与生成系统
90%已验证AI Agent通过工具调用(Tool Use)机制与外部系统交互,包括执行代码、调用API、读写数据库等
90%已验证RAG(检索增强生成)技术架构将文档切片、向量化、存入向量数据库,查询时先检索相关片段再交给模型生成回答
90%已验证AI代理的失败往往是语义偏差而非明确错误码,这种「成功的失败」要求编排层具备语义级别的错误识别能力
85%已验证平台采用AI生成、人工可编辑的设计理念,AI承担初稿工作,最终判断权和修正权交给测试人员
85%已验证当关键信息被放置在长文本的中间位置时,模型的检索和推理准确率会显著下降,而放在开头或结尾的信息则能被较好地利用
85%已验证LLM的输出具有天然的非确定性,即使输入相同的Prompt,模型在不同时刻可能返回格式、内容甚至逻辑不同的结果
85%已验证AI评估对象分为大语言模型评估、知识库(RAG)评估、智能体(Agent)评估三层,且呈知识度和复杂度递增的递进关系
80%已验证大型语言模型的广泛使用可能导致语言多样性的持续缩减,形成语言学家所说的'技术中介的语言趋同'现象
80%已验证LLM输出具有非确定性,因浮点运算非结合性和上下文窗口差异,即便输入一致输出也难以精确复现,不具备幂等性
80%