#注意力机制

Augment Code架构揭秘：专用子代理替代KV缓存，成本降90%

深度解析Augment Code如何用Mercury 2专用子代理替代传统KV缓存架构，实现上下文压缩速度提升82%、摘要成本降低90%、整体LLM支出降低30%的多模型协作方案。

DeepSeek V3.2发布：自研稀疏注意力DSA+API降价50%全解析

DeepSeek发布V3.2-Exp实验版模型，首次引入自研DeepSeek Sparse Attention（DSA）稀疏注意力技术，大幅提升长上下文训练与推理效率，同时API价格下调超50%。本文详解DSA技术原理、模型架构演进及商业策略。

DeepSeek-V3.2-Exp发现RoPE实现Bug：交错格式不匹配导致推理性能下降

DeepSeek-V3.2-Exp推理演示中发现RoPE旋转位置编码的交错格式不匹配Bug，Indexer模块与MLA注意力模块的输入格式不一致导致隐性性能退化。本文详解问题根源、技术细节及修复方案。

DeepSeek-V4-Pro API限时75折：百万上下文+主流工具集成全解析

DeepSeek-V4-Pro API即日起至2026年5月5日享受75折优惠，支持100万token超长上下文窗口，兼容Claude Code、OpenCode等主流开发工具。本文详解定价策略、技术亮点及开发者接入指南。

DeepSeek-V4发布：1.6T参数+百万上下文，开源模型新标杆

DeepSeek-V4 Preview正式发布并开源，包含V4-Pro（1.6T参数）和V4-Flash（284B参数）两个版本，支持100万token上下文长度。本文详解V4架构特性、性能定位、开源部署方式及行业影响。

Hugging Face开源AI Agent课程深度解析：2.8万星标背后的实战学习指南

深度解析Hugging Face开源AI Agent课程（agents-course），涵盖课程结构、核心技术栈、学习路径及适用人群，帮助开发者系统掌握智能体开发从工具调用到多智能体协作的完整技能。

重新发明轮子：为什么亲手造轮子是通往技术前沿的捷径

开发者Andrew Quinn将3GB SQLite数据库压缩为7MB FST文件，并分享了关于「重新发明轮子」的深刻洞见：在任何技术领域，亲手重造四五个轮子比五倍时间的被动学习更能推动你抵达技术前沿。

上下文工程实战指南：从提示工程到生产级AI系统的进阶之路

深入解析上下文工程（Context Engineering）核心概念与关键技术，涵盖RAG检索增强生成、长上下文管理、AI Agent上下文编排等实战方法，助你从提示工程进阶到生产级AI系统构建。

DeepSeek-Reasonix：基于前缀缓存优化的终端AI编程代理

DeepSeek-Reasonix 是专为 DeepSeek 模型原生设计的开源终端AI编程代理，通过前缀缓存稳定性优化实现更低延迟、更低API成本。本文详解其核心特性、技术架构与适用场景。

WebRTC为何不适合AI语音？延迟优先设计的致命缺陷

深入分析WebRTC在AI语音交互场景中的设计缺陷：丢包优先策略导致用户prompt残缺、LLM响应质量下降。探讨MoQ等替代协议如何更好地平衡数据完整性与低延迟需求。

Kimi-K2.5开源：月之暗面最强模型来了，GitHub星标飙升

月之暗面正式开源旗舰模型Kimi-K2.5，GitHub星标突破1900。本文解读Kimi-K2.5的战略意义、技术生态、与DeepSeek和Qwen的竞争格局，以及开发者如何快速上手这款国产开源大模型。

agency-agents-zh：211个即插即用AI专家角色，覆盖18部门16种工具

agency-agents-zh开源项目提供211个即插即用AI专家角色，支持Claude Code、Cursor等16种工具，覆盖18个部门场景，含46个中国市场原创智能体，助力开发者和创作者高效使用AI。

Unsloth教程：本地微调大模型省显存提速5倍

详解Unsloth开源工具如何通过LoRA优化和Web UI界面，让消费级显卡也能高效微调Gemma 4、Qwen3、DeepSeek等主流大模型，训练速度提升2-5倍，显存降低50%-70%。

Unsloth教程：本地微调大模型速度提升数倍，显存节省60%

Unsloth是GitHub 63K星标的开源大模型微调工具，支持Gemma 4、Qwen3、DeepSeek等模型。通过底层内核优化实现训练加速数倍、显存大幅降低，消费级GPU即可完成微调，提供Web UI图形界面，适合个人开发者和企业私有化部署。

Unsloth教程：本地微调大模型省显存加速训练指南

详解Unsloth开源工具如何在本地高效微调大模型，支持Gemma 4、Qwen3、DeepSeek等主流模型，通过LoRA优化显著降低显存占用，提供Web UI界面降低训练门槛，适合个人开发者和中小团队使用。

AI基础知识开源宝库：从GPU架构到AI Agent全覆盖

MiniMind-V：2小时从零训练65M参数视觉多模态大模型完整教程

MiniMind-V是一个开源轻量化视觉多模态大模型项目，仅需2小时即可从零训练65M参数VLM模型。本文详解其技术架构、训练流程及教育价值，适合AI初学者和研究者快速上手实践。

中文预训练模型资源库：覆盖LLM与多模态的5500+ Star开源项目

awesome-pretrained-chinese-nlp-models 是GitHub上5500+ Star的中文预训练模型索引项目，系统收录BERT、ChatGLM、Qwen等大语言模型及多模态模型，按任务、规模、领域分类，帮助开发者快速完成中文NLP模型选型。

Hugging Face Transformers：16万星AI模型框架深度解析与实战指南

深入解析Hugging Face Transformers开源框架的核心特性、技术架构与生态系统。涵盖多框架支持、50万+预训练模型调用、全模态任务覆盖及快速上手代码示例，助你高效构建AI应用。

Unsloth：单卡微调大模型，显存省70%的开源神器

Unsloth 是 GitHub 63K+ Star 的开源大模型微调工具，支持 Gemma 4、Qwen 3、DeepSeek 等主流模型。通过显存优化技术，单张 RTX 3090 即可完成微调，训练速度提升2-5倍，附 Web UI 图形界面，零门槛上手。