#LLM
共 3066 篇相关文章
阿里开源代码审查工具open-code-review：确定性流水线+LLM双…
·13 分钟
阿里开源代码审查工具open-code-review：确定性流水线+LLM双引擎解析
阿里巴巴开源代码审查工具open-code-review，采用确定性规则流水线与LLM Agent混合架构，支持行级精准评论、OpenAI/Anthropic双接口，已在阿里大规模场景验证，Go语言编写，完全免费开源。
阅读全文 →
·7 分钟
LoRA微调还是提示工程？解决LLM长对话记忆的两条路
一位开发者用LoRA微调小模型提取对话状态，尝试解决LLM长对话记忆难题。本文深度解析其技术路径、数据集构建思路，并探讨微调与提示工程在上下文管理场景下的真实取舍。
阅读全文 →
·16 分钟
如何科学测试提示词对LLM引用行为的影响
提示词措辞的细微变化会影响大语言模型的引用行为吗？本文从指标定义、A/B测试设计、引用幻觉识别到统计显著性验证，系统讲解如何科学测试LLM引用行为，帮助AI应用开发者构建更可靠的提示工程实践。
阅读全文 →
·12 分钟
AI构建者手册：LLM原理、RAG架构与智能体设计全解
从LLM自动补全本质、Token与上下文窗口，到RAG向量数据库、MCP协议，再到AI智能体循环设计——本文用生动比喻拆解AI工程现实，帮助产品经理、开发者和初学者建立完整的AI技术认知框架。
阅读全文 →
llmfit：一条命令检测硬件能跑哪些本地大模型
·15 分钟
llmfit：一条命令检测硬件能跑哪些本地大模型
llmfit 是用 Rust 编写的开源命令行工具，无需下载模型即可预判本地硬件能否运行指定 LLM。覆盖数百种模型与 Ollama、llama.cpp 等主流推理后端，帮助开发者在本地部署大模型前快速完成硬件适配评估，避免反复试错。
阅读全文 →
·7 分钟
生产环境引入LLM网关：五大顾虑与建立信任的核心前提
在LangChain生产环境中引入LLM网关，能获得统一API与自动降级能力，却也带来质量漂移、成本失控、调试黑盒化等五大风险。本文系统拆解工程团队的核心顾虑，并给出网关赢得信任的关键评估标准。
阅读全文 →
·12 分钟
LLM系统学习路径全指南：从入门到精通的课程与资源推荐
还在为LLM学习资源分散、进阶路径不清晰而困惑？本文梳理从基础理论到专题深入的完整学习路径，涵盖Karpathy系列、斯坦福CS224N、DeepLearning.AI、Hugging Face等高质量课程推荐，并给出RAG、微调、Agent等专题学习建议。
阅读全文 →
·16 分钟
Mesh LLM：用多台旧电脑拼出虚拟超级显卡跑大模型
Mesh LLM 是一款开源分布式推理框架，通过模型分层拆分，将多台普通设备聚合成「虚拟超级显卡」，让小显存机器也能运行数百GB的超大语言模型。本文详解其工作原理、跨平台安装体验，以及网络带宽这一不可回避的物理瓶颈。
阅读全文 →
LLM陪审团：多模型投票如何构建可靠元数据
·13 分钟
LLM陪审团：多模型投票如何构建可靠元数据
单一大模型生成元数据存在幻觉与偏差风险。本文深度解析"LLM陪审团"机制——通过多模型投票与共识聚合，显著提升数据标注准确性与鲁棒性，并探讨其在食品数据库、医疗、电商等场景的工程落地要点。
阅读全文 →
MemStitch零拷贝上下文桥接：vLLM推理TTFT提速25倍原理解析
·6 分钟
MemStitch零拷贝上下文桥接：vLLM推理TTFT提速25倍原理解析
深度解析MemStitch如何通过零拷贝上下文桥接技术为vLLM实现25倍TTFT加速。涵盖KV Cache优化、prefill阶段提速原理，以及对开发者的实际落地价值，助你降低大模型推理延迟。
阅读全文 →
软硬协同设计：构建硬件友好的LLM架构指南
·7 分钟
软硬协同设计：构建硬件友好的LLM架构指南
深入解析AI模型协同设计（Co-Design）理念，探讨如何在准确率、吞吐量与延迟三维权衡中，通过硬件友好的LLM架构设计实现最优推理性能，涵盖MoE、GQA、FP8量化等关键技术策略。
阅读全文 →
语音驱动几何交互：LLM语义解析与Function Calling架构实践
·6 分钟
语音驱动几何交互：LLM语义解析与Function Calling架构实践
如何用LLM将自然语言指令转化为几何操作？本文拆解语音驱动几何交互系统的核心架构：LLM负责语义解析与意图路由，Function Calling连接几何SDK执行精确计算，附模型选型与分层设计落地建议。
阅读全文 →
用AI把论文变成互动课程：LLM重塑自主学习的实验
·6 分钟
用AI把论文变成互动课程：LLM重塑自主学习的实验
一位开发者用AI工具将Flash Attention论文转化为Brilliant风格的互动课程，亲测有效后开源分享。本文深度解析AI生成互动课程的学习原理、真实价值与局限，探讨LLM如何填补长尾知识学习缺口。
阅读全文 →
·15 分钟
LLM是机器人智能的错误地基？具身AI的路线之争
机器人学者Ranjay Krishna质疑LLM作为机器人智能基础的合理性：语言是否是感知与行动之间多余的中间层？本文深度解析具身智能的两种路线——语言驱动的VLA模型与端到端感知-动作架构的底层逻辑与现实取舍。
阅读全文 →
·17 分钟
LLM评测工具横评：LangSmith、Langfuse等五款工具深度对比
深度横评LangSmith、Langfuse、Phoenix、Braintrust、Galileo五款LLM评测工具，从自托管、开源协议、实时护栏三个维度揭示核心差异，帮助团队选出真正适合生产环境的AI评测方案。
阅读全文 →
千元预算搭建外置GPU跑本地LLM：eGPU选购与配置实用指南
·5 分钟
千元预算搭建外置GPU跑本地LLM：eGPU选购与配置实用指南
在1000美元预算内搭建eGPU方案运行本地LLM？本文详解显卡选择策略、扩展坞成本分配、RTX 3090/3060性价比对比，以及Ollama、llama.cpp等主流工具推荐，帮你把每一分预算花在刀刃上。
阅读全文 →
·15 分钟
生产级LLM部署指南：模型选型、GPU配置与推理引擎全解析
深度解析大语言模型生产部署的完整决策框架：从开源与闭源模型选型、GPU显存配置，到vLLM等主流推理引擎对比，帮助工程团队构建高效、可扩展的LLM推理服务。
阅读全文 →
JAX主机卸载技术：突破LLM训练显存瓶颈的实战指南
·13 分钟
JAX主机卸载技术：突破LLM训练显存瓶颈的实战指南
显存不足是LLM训练的核心瓶颈。本文深入解析基于JAX的主机卸载（Host Offloading）技术原理，涵盖优化器状态、激活值卸载策略、PCIe带宽权衡，以及与激活重计算的互补关系，帮助你在不增加GPU的前提下训练更大规模的模型。
阅读全文 →
·11 分钟
Zer0Fit：用MCP将谷歌TabFM与TimesFM接入LLM聊天界面
Zer0Fit是一个开源项目，将谷歌TabFM和TimesFM两款机器学习基础模型封装为MCP服务器，让用户无需编写ML代码，直接通过本地LLM完成分类、回归与时间序列预测任务。本文详解其技术架构、性能表现与使用局限。
阅读全文 →
热爱LLM却厌恶炒作：工程师如何理性看待大语言模型
·13 分钟
热爱LLM却厌恶炒作：工程师如何理性看待大语言模型
一篇引发技术社区热议的文章揭示了工程师对LLM的真实态度：既认可其在代码辅助、知识获取等场景的实际价值，也警惕AGI叙事过度膨胀、幻觉问题被淡化与估值泡沫等炒作乱象。本文梳理如何在热爱与理性之间找到平衡，以务实视角最大化LLM的工具价值。
阅读全文 →