#LLM
共 127 篇相关文章
本地运行AI模型全指南：推理引擎与工具栈解析
系统梳理本地运行AI大模型的完整工具栈：从PyTorch、GGML等计算库，到llama.cpp、vLLM、SGLang等推理引擎，再到Ollama、LM Studio等封装层，结合实测数据说明各工具的性能差异与选型逻辑。
HEMO：让搜索框架自我进化，多目标组合优化新范式
HEMO 将自动算子设计的框架本身作为自进化对象，通过单模块更新、折扣 UCB 调度和持久记忆文件系统，让多目标组合优化的搜索流程随 Pareto 权衡变化自适应调整，在八项任务和两种进化骨架上优于传统进化、神经网络及 LLM 基线。
路由式持续学习：让AI智能体按需调用记忆
Routed Continual Learning提出路由式持续学习架构，通过聚类与LLM路由器动态选择记忆系统，在异构任务流上比全局ICL提升15-30%归一化奖励，并降低65-72% API成本。
LLM语音交互：Martin Fowler谈技术现状与边界
Martin Fowler 撰文讨论 LLM Voice，文章在 Hacker News 引发热议。本文解读语音交互在 LLM 时代的真实价值与工程难点，包括延迟、回合制判断与打断机制，并分析语音与文本界面该如何分工。
Reddit热议：LLM被高估了？一张梗图引发的算法之争
Reddit一张“LLM = Overhyped”梗图引发讨论：在计算机视觉视频任务尤其是目标跟踪中，大语言模型是否被过度追捧？本文分析LLM的能力边界、专用算法的价值，以及技术选型应回归任务本身的理性态度。
OpenAI命名逻辑揭秘：模型代号与版本号背后的规则
OpenAI 的 Ted Sanders 解释模型命名规则：LLM 性能多维但受规模主导，内部代号 Luna<Terra<Sol<Astra，版本号同时表示发布顺序、模型关系与改进幅度。
LLM教练加持，Doom AI得分翻倍：分层智能体设计新思路
YouTube创作者#JevAI展示实验：给只会射击的Doom AI配一个LLM教练，通过分层智能体架构让得分翻倍多。LLM负责高层战术指令，GLiNER负责底层执行，这种设计对AI应用开发有重要参考价值。
记忆压缩如何误导LLM群体决策？新基准揭示两大失败模式
新基准CrossProfile揭示LLM群体决策中记忆压缩的失败模式：按相关性选择引入诱饵，最稀有优先平均不优于随机，决策模型还存在社会证明偏见。
LLM研究报告的“主张平滑”现象：SmoothScore量化评估
LLM研究代理在生成报告时存在“主张平滑”现象，即给出比证据支持的更自信结论。研究者提出SmoothScore量化该效应，并在7系统4数据集上验证代理一致产生更强主张。
模型也会好奇？新研究量化LLM提问中的好奇心
一项研究提出「模型好奇心」概念，构建理论分类体系区分好奇心导向提问与一般提问。分析四个对话数据集发现，好奇心提问仅占17%-28%，但与更富探索性的用户回应相关，人类研究显示其在建议、创意和研究场景中尤其有用。
开源社区封杀AI项目？R/open source新规引争议
R/open source社区新规禁止单人项目及使用LLM的项目，在Hacker News引发讨论。本文分析禁令背后的开源治理焦虑、许可证风险与一刀切规则的现实代价，探讨AI时代开源社区的边界。
从第一性原理理解vLLM与SGLang：推理引擎核心技术拆解
从第一性原理拆解vLLM与SGLang推理引擎的核心机制：PagedAttention如何减少显存碎片，连续批处理如何提升吞吐，RadixAttention与DSL调度如何优化前缀复用和复杂生成流程，并给出选型建议。
大模型隐喻表征的几何结构：可探测与可调控
研究者利用机制可解释性技术，在多种架构和规模的大语言模型中定位隐喻表征的因果子空间，实现对分类与生成任务中隐喻性的探测与调控，揭示LLM隐喻能力的几何结构。
AI工程师必知：五大核心模块解析
解析AI工程师必知的五大核心模块：大语言模型、嵌入模型、RAG、Agent Harness与世界模型，说明它们如何组合成ChatGPT、推荐系统与自动驾驶等真实AI产品。
用LLM做置信度评分，为何是个坏主意？
Hacker News讨论指出，用LLM做置信度评分存在根本缺陷：模型缺乏自知之明，评分校准不佳，且与答案存在循环依赖。本文分析原因并给出更可靠的替代方案，如外部验证与多模型交叉验证。
Reddit热议：最无聊的任务，你完全交给LLM了吗？
Reddit热议：你把哪些无聊日常任务完全交给了LLM？本文分析用户从“辅助使用”到“默认外包”的行为转变，以及这对AI应用开发的启示。
月球将迎首个大模型：Astrolab的FLIP漫游车2026年登月
Astrolab的FLIP月球漫游车计划2026年发射，将首次在月球上运行大型语言模型（LLM），实现本地化AI计算，减少通信延迟依赖，为未来月球基地和深空探索提供自主决策能力。
编程讣告：AI编码代理夺走了程序员的解谜乐趣
Jeremy Scheff 的《编程讣告》引发热议：AI 编码代理正在改变程序员的工作内涵，夺走解谜式编程的乐趣。本文分析两类程序员面临的不同命运，以及编程稀缺性护城河的迁移。
