#上下文缓存
共 42 篇相关文章
·7 分钟
本地大模型跑Agent卡顿？调低num_gpu是关键
本地部署大模型在Agent框架中频繁崩溃或卡顿？问题可能出在num_gpu参数设置过高。本文解析num_gpu的真实含义（GPU层卸载而非显卡数量），揭示显存争夺导致KV Cache溢出的机制，并提供实用调优方案。
阅读全文 →
·6 分钟
Claude付费订阅宕机超一周无人响应：AI服务支持体系之痛
Claude AI付费订阅服务中断超一周且无官方支持响应，暴露AI服务商业化中客户支持体系滞后的共性问题。本文分析事件影响、行业短板及用户应对策略。
阅读全文 →
·4 分钟
Codex vs Claude Code 成本深度对比：AI编程助手怎么选更省钱？
OpenAI Codex与Claude Code哪个更划算？本文从真实账单出发，拆解AI编程助手的计费结构、倍率陷阱与订阅制限额，帮你在性能相近的前提下找到最省钱的方案。
阅读全文 →
MemStitch零拷贝上下文桥接：vLLM推理TTFT提速25倍原理解析
·6 分钟
MemStitch零拷贝上下文桥接：vLLM推理TTFT提速25倍原理解析
深度解析MemStitch如何通过零拷贝上下文桥接技术为vLLM实现25倍TTFT加速。涵盖KV Cache优化、prefill阶段提速原理，以及对开发者的实际落地价值，助你降低大模型推理延迟。
阅读全文 →
·13 分钟
本地代码索引：削减94%的AI编程Token消耗
AI编程工具账单暴涨？90%的成本藏在输入端。本文详解如何通过本地代码索引+双路搜索，将每次查询从83,000 tokens降至4,900 tokens，节省94%，附真实测试数据与开源工具。
阅读全文 →
·11 分钟
GLM-5.2实测：7530亿参数开源模型，性价比完胜GPT与Claude
智谱AI旗舰模型GLM-5.2深度实测：100万token上下文窗口，API价格仅为GPT/Claude五分之一。涵盖网站搭建、Chrome扩展开发、3D游戏克隆、智能体工作流等场景全面评测，揭示高性价比开源大模型的真实能力与局限。
阅读全文 →
·14 分钟
MemoryOps AI：构建可治理、可审计的AI助手记忆层
MemoryOps AI 是一个开源的「可治理记忆运行时」，为AI助手提供存储前策略校验、上下文准入、删除可证血缘等能力，解决LLM记忆系统在合规、多租户与删除验证方面的核心难题。
阅读全文 →
·9 分钟
Kun开源Agent：为DeepSeek深度优化的国产AI编程助手
Kun是一款专为国内用户和DeepSeek优化的开源AI编程Agent，GitHub近5000星。支持需求草稿、内联代码对比、成本可视化及手机远程监控，实测缓存命中率高达97%，百万Token成本极低。免费支持Mac、Windows、Linux，适合成本敏感的国内开发者。
阅读全文 →
·16 分钟
Agent项目高含金量的6个核心标准，让面试官眼前一亮
大多数Agent项目在面试中毫无竞争力，根本原因是缺乏业务价值与工程深度。本文系统拆解高含金量Agent项目的6大核心标准：真实业务场景、完整后端工程体系、任务规划能力、上下文工程、可观测性评估体系与人机协同设计，帮助开发者打造真正能写进简历的AI智能体项目。
阅读全文 →
·14 分钟
GLM-5.2完全使用指南：开源长上下文模型实测评测
智谱AI旗舰模型GLM-5.2深度实测：100万token上下文、强悍编程能力、成熟智能体工作流，价格仅为主流前沿模型五分之一。本文涵盖官网测试、Cursor集成、MCP工具联动及生产环境迁移方案，帮你判断它是否值得纳入工具箱。
阅读全文 →
·12 分钟
AI本地Agent实测：自动录制世界杯高光，告别熬夜看球
球迷必看！基于AIPC本地算力的「爱看球Agent」实测体验：自动预约直播、后台录制分析、智能提取高光片段，几分钟看完整场比赛精华。深度解析本地AI处理方案如何颠覆传统观赛方式。
阅读全文 →
·16 分钟
Claude Sonnet 5实测：隐藏的Token陷阱让「低价」成幻觉
Claude Sonnet 5号称性能逼近Opus 4.8，定价更具吸引力，但实测揭示一个关键陷阱：新分词器导致同等内容消耗更多Token，综合成本远超预期。本文深度拆解Sonnet 5的真实表现与性价比，帮你判断是否值得切换。
阅读全文 →
·6 分钟
扣子智能体实战：从零搭建AI测试用例生成工作流
详解如何利用扣子(Coze)平台搭建测试用例自动生成智能体，涵盖智能体与大模型的核心区别、工作流编排技巧、模型选择策略、提示词工程要点及实际踩坑经验，助力测试工程师高效落地AI测试。
阅读全文 →
·9 分钟
Firebase AI Logic详解：混合推理、提示模板与多层安全部署方案
深入解析Firebase AI Logic的核心功能：服务端提示模板防止提示泄露、Cloud Function触发器实现自定义业务逻辑、四层纵深安全防御体系、AI监控与上下文缓存控制成本，以及跨平台混合推理方案。
阅读全文 →
·11 分钟
Google AI功能全球推送：Ultra用户率先体验，普通用户何时跟进
Google宣布AI新功能面向全球Web端用户逐步推送，AI Ultra订阅用户和Workspace商业客户率先体验。了解覆盖范围、分层推送策略及后续扩展计划。
阅读全文 →
科技前沿
每日AI新鲜事·06月02日晚间播报：OpenAI登陆AWS多云开放
·1 分钟
每日AI新鲜事·06月02日晚间播报：OpenAI登陆AWS多云开放
06月02日晚间播报 AI领域热点新闻速递，10条精选资讯
阅读全文 →
教程攻略·6 分钟
Firebase AI Logic五大更新：混合推理、提示词安全与AI监控全解析
Firebase AI Logic重大更新详解，涵盖Server Prompt Templates提示词安全、混合推理、Cloud Functions触发、AI监控和Context Caching五大核心功能，助力开发者构建安全高效的AI应用。
阅读全文 →
行业洞察·9 分钟
Qoder上下文工程实践：四层检索引擎与记忆系统架构解析
深度解析Qoder（通义灵码海外版）的上下文工程技术架构，包括四层检索引擎、记忆引擎、上下文缓存与摘要机制，以及RepWiki和Quest Mode等核心产品设计理念。
阅读全文 →
