#LLM工程化

共 5 篇相关文章

Anthropic工程师在Latent Space访谈中拆解Claude平台工程：发布Opus 5.5、将模型'大脑'与智能体'手'分离、规模化API与构建可靠托管智能体的安全交付逻辑。

从HN热门讨论出发，系统拆解Harness Engineering：LLM是大脑，harness是身体。上下文编排、工具接口、控制流与状态管理四层构成AI应用的真正工程壁垒，模型选型之外更值得投入的方向。

开源项目AI-Node-Sentinel作者用六组故障注入实验，测出LLM接入GPU故障分诊管线时的六个断裂点：输出契约断裂、证据过薄、单条坏记录毒死整批、提示词路径耦合工作目录、无状态健忘、佐证信号被自己丢弃。每个断裂点都不是模型能力问题，而是接线工程问题。

LLM 输出被截断时不会在文本里报错，而是通过 finish_reason 字段提示。本文解析大模型截断如何悄悄污染数据管线，并给出读取停止原因、校验结构、监控告警等可落地的工程防御措施。

深入解析Humanize框架如何通过Agent Loop将LLM Token转化为工程生产力。涵盖KDA自动编写CUDA内核获竞赛冠军、虚拟硬件优化、研究成本削减50%三大实战案例，探讨Agent-Centric研究的未来方向。