#LLM
共 127 篇相关文章
Logit Bias：给LLM词汇加权重，精准控制输出
深入解析LLM中的logit bias机制：通过调整token的logit分数精准控制模型选词，既能增强特定词汇也能抑制不希望出现的表达，附OpenAI API代码示例与使用边界说明。
用sqlglot为LLM生成SQL加只读护栏
用sqlglot解析SQL语法树，为LLM生成的查询构建只读护栏：单条SELECT校验、遍历禁用节点、屏蔽文件读取函数、CTE感知表允许列表、行数上限与笛卡尔积成本代理，并用执行准确率评测正确性。
LLM Token概率推断L2英语母语背景，70B模型达SOTA
研究提出基于LLM token概率的母语识别方法，使用Llama 3.1 8B和70B在多个数据集上评估，70B模型达到SOTA性能，显著优于直接分类。
采样、混合还是验证？不完美验证器下的推理算力最优分配
SPLIT 方法通过少量标注试点数据，精确规划推理时算力分配，在七个基准、26 个模型上接近事后最优，并揭示更多 LLM 评审可能降低精度的条件。
免训练多语言文本嵌入新突破：PRSR让LLM跨语言对齐更精准
本文介绍了一种免训练多语言文本嵌入新方法PRSR，通过成对残差子空间移除去除语言特异性变异，在18种语言、200+评估中提升跨语言对齐效果。
构建LLM应用前必学的五个核心概念
学习构建LLM应用前必须掌握的五个概念：机器学习基础、LLM工作原理、生成式与预测式AI的区别、提示工程技巧以及评估方法。每个概念配有动手练习，帮助开发者建立扎实直觉。
LLM提示词总在生产环境翻车？5条规则让它稳如老狗
LLM提示词在生产环境频繁失效？本文拆解温度控制、思维链排序、五种失效模式防御、结构化输出约束解码及评估集与重试链条设计，附事实核查Agent实战迭代案例，帮你构建可靠的AI应用。
用集合级强化学习训练LLM生成多样化科研想法
一篇新论文提出用集合级强化学习训练LLM生成多样化科研想法，通过让每个新想法远离前文来提升多样性。8B模型在创意效用上超过Claude Opus 4.8和GPT-6 Astra，且不牺牲可执行性。
大语言模型发现全新量子电路，八项任务七项超越现有最优
研究提出LLM进化框架自动设计量子电路，在数值计算、化学、优化等八项任务中七项超越现有最优，同时降低Toffoli门和量子比特数量，并发现全新的可逆模逆运算架构。
LLM过滤训练数据：虚拟流量计精度提升24%
研究提出用LLM融合传感器数据与操作日志进行训练数据过滤，虚拟流量计MAPE从7.1%降至5.4%，为工业AI数据治理提供可扩展方案。
AI辅助测试失败分析：把LLM当诊断层而非自愈工具
GeekyAnts 提出用 LLM 分析 Playwright 测试失败产物，保持测试执行确定性、AI 只做诊断分类。本文批判性拆解其架构、脱敏风险、幻觉问题与自愈测试陷阱，并给出落地建议。
OpenRouter替代方案：AI API中转与自托管网关怎么选
对比OpenRouter、自托管LiteLLM与星火AI网关三种AI API接入方式，梳理托管中转与自托管网关的运维责任差异，并给出token费用核对与API验收的可复现步骤。
把结构化输出做成游戏：Token Arcade 体验
Token Arcade 是一款把结构化输出和约束解码变成交互游戏的小工具。通过抛硬币和生成 JSON 两个关卡，直观展示 LLM 如何在每一步屏蔽不符合约束的 token，帮助开发者理解结构化输出的底层机制。
RAG原理解析：让AI用你自己的数据回答问题
深入解析RAG（检索增强生成）的工作原理：从文档切分、Embedding向量化到语义检索和LLM答案生成，了解RAG如何让AI用你自己的数据回答问题，以及常见陷阱和实际应用场景。
别再盲信AI供应商：两步堵住模型溯源与隐私泄露
托管AI API存在两大盲点：模型版本可能被悄悄替换，提示词去向不可验证。本文介绍dev.to开发者提出的本地代理层方案，通过模型指纹检测与提示词脱敏，把盲目信任变为有条件验证，并分析各方案的局限。
提示工程实战指南：从基础到高阶的LLM提示模板
系统梳理提示工程从基础到高阶的完整模式：提示公式、零样本与少样本、思维链、ReAct、思维树、元提示，附可复制模板与反模式对照表。
Cermin：用LLM打造个人思想镜子的AI工程实践
开发者用 Telegram 机器人加 LLM 打造个人思想记录系统 Cermin，自动捕获、分类并提炼想法洞察。本文解析其架构设计、kind/topic 双维度分类、模型选型等 AI 工程实践要点。
别把提示词当散文写：用四段式契约终结LLM漂移
LLM 输出不稳定、每次运行结果都在漂移？问题不在措辞，而在于你把提示词当散文写。本文介绍四段式提示词契约——角色、任务、约束、输出契约，并配合代码校验，让提示词从碰运气变成可发布、可监控、可调试的生产级组件。
