#LLM工具链

共 6 篇相关文章

实测13种搜索API定价配置，揭示AI Agent和RAG系统中被忽视的第二笔成本——大模型阅读搜索返回内容的token费用。了解如何计算全链路真实成本，避免选型踩坑。

详解Ollama连接OpenWebUI后回答质量下降、响应变慢的常见原因，涵盖num_ctx上下文截断、采样参数差异、GPU资源争抢、系统提示词干扰等排查方法，附系统化排查清单。

Relm：让本地大模型成为R语言原生对象的开源工具

Relm将本地大语言模型封装为R语言原生对象，支持本地推理、数据隐私保护与可解释性分析。本文深度解析其核心设计理念、差异化亮点及适用场景，为R语言数据科学家提供LLM集成新思路。

Matt Pocock提出AI Agent Skill设计的4步框架：触发、结构、引导、精简。解决技能地狱困境，学会辨别好坏技能，掌握引导词技巧与技能拆分方法，让Agent真正照你的意图执行。

datasette-llm-accountant 0.1a4发布，修复响应链追踪Bug。这款开源插件帮助开发者监控LLM API调用量、token消耗和成本，支持Agent工作流中的多轮对话链式追踪。

Agent-Reach是一款开源Python工具，支持Twitter、Reddit、YouTube、B站、小红书等中外平台的免费数据抓取，一行CLI命令即可集成到LangChain等AI Agent框架中，已获GitHub近19000 Star。