#LLM
共 3195 篇相关文章
语音驱动几何交互：LLM语义解析与Function Calling架构实践
·6 分钟
语音驱动几何交互：LLM语义解析与Function Calling架构实践
如何用LLM将自然语言指令转化为几何操作？本文拆解语音驱动几何交互系统的核心架构：LLM负责语义解析与意图路由，Function Calling连接几何SDK执行精确计算，附模型选型与分层设计落地建议。
阅读全文 →
用AI把论文变成互动课程：LLM重塑自主学习的实验
·6 分钟
用AI把论文变成互动课程：LLM重塑自主学习的实验
一位开发者用AI工具将Flash Attention论文转化为Brilliant风格的互动课程，亲测有效后开源分享。本文深度解析AI生成互动课程的学习原理、真实价值与局限，探讨LLM如何填补长尾知识学习缺口。
阅读全文 →
·15 分钟
LLM是机器人智能的错误地基？具身AI的路线之争
机器人学者Ranjay Krishna质疑LLM作为机器人智能基础的合理性：语言是否是感知与行动之间多余的中间层？本文深度解析具身智能的两种路线——语言驱动的VLA模型与端到端感知-动作架构的底层逻辑与现实取舍。
阅读全文 →
·17 分钟
LLM评测工具横评：LangSmith、Langfuse等五款工具深度对比
深度横评LangSmith、Langfuse、Phoenix、Braintrust、Galileo五款LLM评测工具，从自托管、开源协议、实时护栏三个维度揭示核心差异，帮助团队选出真正适合生产环境的AI评测方案。
阅读全文 →
千元预算搭建外置GPU跑本地LLM：eGPU选购与配置实用指南
·5 分钟
千元预算搭建外置GPU跑本地LLM：eGPU选购与配置实用指南
在1000美元预算内搭建eGPU方案运行本地LLM？本文详解显卡选择策略、扩展坞成本分配、RTX 3090/3060性价比对比，以及Ollama、llama.cpp等主流工具推荐，帮你把每一分预算花在刀刃上。
阅读全文 →
·15 分钟
生产级LLM部署指南：模型选型、GPU配置与推理引擎全解析
深度解析大语言模型生产部署的完整决策框架：从开源与闭源模型选型、GPU显存配置，到vLLM等主流推理引擎对比，帮助工程团队构建高效、可扩展的LLM推理服务。
阅读全文 →
JAX主机卸载技术：突破LLM训练显存瓶颈的实战指南
·13 分钟
JAX主机卸载技术：突破LLM训练显存瓶颈的实战指南
显存不足是LLM训练的核心瓶颈。本文深入解析基于JAX的主机卸载（Host Offloading）技术原理，涵盖优化器状态、激活值卸载策略、PCIe带宽权衡，以及与激活重计算的互补关系，帮助你在不增加GPU的前提下训练更大规模的模型。
阅读全文 →
·11 分钟
Zer0Fit：用MCP将谷歌TabFM与TimesFM接入LLM聊天界面
Zer0Fit是一个开源项目，将谷歌TabFM和TimesFM两款机器学习基础模型封装为MCP服务器，让用户无需编写ML代码，直接通过本地LLM完成分类、回归与时间序列预测任务。本文详解其技术架构、性能表现与使用局限。
阅读全文 →
热爱LLM却厌恶炒作：工程师如何理性看待大语言模型
·13 分钟
热爱LLM却厌恶炒作：工程师如何理性看待大语言模型
一篇引发技术社区热议的文章揭示了工程师对LLM的真实态度：既认可其在代码辅助、知识获取等场景的实际价值，也警惕AGI叙事过度膨胀、幻觉问题被淡化与估值泡沫等炒作乱象。本文梳理如何在热爱与理性之间找到平衡，以务实视角最大化LLM的工具价值。
阅读全文 →
·17 分钟
不到350元训练亿参数模型：SmoLLM从零构建全记录
一位ML工程师用不到350元（约4000卢比），从零训练出拥有1.09亿参数的LLaMA风格小型语言模型SmoLLM。本文详解其技术架构、训练踩坑、指令微调过程及模型实测表现，揭示小模型的能力边界与实践价值。
阅读全文 →
·3 分钟
AI代理化编程实践：测试闭环、LLM基准与工程落地指南
深入解析代理化编程（Agentic Coding）核心实践：测试驱动闭环如何驱动AI自我纠错，LLM基准测试的现实局限，以及上下文管理、人机协作等工程落地关键经验，帮助开发团队真正用好AI编程工具。
阅读全文 →
·9 分钟
从回车到首字：LLM推理全流程解密（自回归、KV缓存与解码策略）
按下回车到屏幕出现第一个字，LLM内部究竟发生了什么？本文系统拆解自回归生成机制、KV缓存加速原理，以及温度、Top-k、Top-p等解码策略，帮助开发者真正理解并掌控大语言模型推理过程。
阅读全文 →
Mesh LLM：用iroh构建P2P分布式AI推理网络的实践探索
·8 分钟
Mesh LLM：用iroh构建P2P分布式AI推理网络的实践探索
Mesh LLM 借助 Rust P2P 框架 iroh，将分散节点的算力整合，探索去中心化大语言模型推理的可行路径。本文解析其核心架构、技术挑战与实际应用前景，适合关注分布式AI计算与去中心化基础设施的开发者参考。
阅读全文 →
·9 分钟
用Agent构建LLM Wiki：让AI自动管理知识库
本文详解LLM Wiki核心理念与实操方法：通过Agent自动建立知识索引、双向链接，解决本地知识库在文档量膨胀后检索慢、耗Token的痛点。三层结构（Raw/Wiki/配置层）全面拆解，助你打造高效AI知识管理系统。
阅读全文 →
·14 分钟
AI Agent全自动运营象棋频道：LLM与引擎结合的落地实践
德国工程师用AI Agent打造全自动国际象棋YouTube频道，结合LLM与象棋引擎，每晚自动生成讲解视频，已积累50万播放量。本文详解其技术架构、工具设计与真实成本。
阅读全文 →
·8 分钟
Sidenote：直接在渲染页面批注，LLM自动生成Git提交
Sidenote是一款开源工具，让你在渲染后的静态博客页面直接留下自然语言评论，由LLM自动定位源文件并生成Git diff变更。告别Markdown与浏览器之间的反复切换，兼顾版本控制与所见即所得的编辑体验。
阅读全文 →
·16 分钟
vLLM推理框架详解：吞吐优化核心原理与面试攻略
深入解析vLLM推理框架的核心原理：从吞吐（tokens/s）的本质含义，到自回归生成的性能瓶颈，再到KV Cache、PagedAttention、连续批处理三大优化技术，帮助算法工程师系统掌握大模型推理优化知识体系。
阅读全文 →
·5 分钟
Frugon：本地分析LLM调用，精准识别可降本请求
Frugon是一款MIT开源的本地LLM成本分析工具，帮助开发者识别哪些API调用可切换至更便宜的模型，实现数据驱动的降本决策。无需上传日志，保护数据隐私，是LLMOps成本治理的实用利器。
阅读全文 →
