#开源工具
共 11517 篇相关文章
D²-OPD：解耦方向与距离的在线蒸馏新方法
D²-OPD提出解耦外推蒸馏中方向与距离的新方法，通过逐前缀硬KL约束控制目标距离，自适应组合教师偏移与初始差距确定方向，在数学推理基准上三个设定均取得最优，最高超越最强基线9.45分。
AI智能体如何浪费你的钱？Token浪费的系统性结构
一项研究提出统一框架测量AI智能体Token浪费，通过LLM-as-a-Judge识别可移除片段并干预验证，发现浪费具有系统级结构：任务与设置差异大于模型差异，推理与执行浪费模式不同，Harness引入独特低效来源。在线剪枝移除41-46%推理仍保持性能。
递归稀疏注意力RecSA：百万级上下文外推，对数级成本
RecSA递归稀疏注意力通过树结构KV缓存实现O(log L)选择成本，从32K训练长度外推到2M，1M长度RULER得分60.5远超基线，单张H200上预填充加速3.2倍。
SCF：语言模型用户推理的有界证据聚合新方法
SCF（源平衡截断Fisher）是一种用于语言模型用户推理的有界证据聚合方法，通过截断文档贡献和校准决策规则，在多个数据集上实现最高AUROC，并提供有限样本Type-I错误控制。
Anthropic日合并3万代码，为何98%开源Issue无人认领？
Anthropic 每天合并超 3 万次代码变更，但 Claude Code 公开仓库中超 98% 的 Issue 无人负责，包括隐私与安全漏洞。开发者质疑：为何不用 Claude 做 Issue 分诊？
为什么你应该下载喜欢的YouTube视频
Hacker News热议：为什么你应该下载喜欢的YouTube视频？探讨流媒体内容的脆弱性、版权争议与个人备份实践，揭示数字时代文化保存的挑战。
永久与瞬态表示：破解持续强化学习稳定性与可塑性难题
持续强化学习常面临稳定性与可塑性的矛盾。一项新研究提出用参数化永久价值函数和非参数化瞬态价值函数互补，在图像任务和Craftax-Classic上实现更优在线学习，为缓解灾难性遗忘提供新思路。
WeLM-Image：统一图像生成模型如何落地微信
解读微信 WeLM-Image 统一图像生成模型：MoT+MoE 架构如何兼顾理解与生成，31.7B 参数稀疏激活，单卡部署，Turbo 版本 4.98 秒生成 1024 图像，并在多个开源评测中排名第一。
CardioLM：心脏病学专用多语言小模型套件，突破临床NLP资源瓶颈
CardioLM提出心脏病学多语言小模型套件：CardioCCC语料覆盖508份病例报告、七种语言，CardioNER在临床医生评估中评分从26%升至73%。研究发现专科预训练对NER提升有限，多语言联合训练效果最佳。
告别关键词检索：阿拉伯语焦虑话语基准数据集发布
新发布的人标注基准数据集包含1,000条阿拉伯语推文，用于区分个人焦虑表达与社会政治焦虑等六种话语功能。研究发现标注者一致意见中23.5%经审查后被更改，Fanar-C-2-27B模型达到79.8%准确率，但残余类别定义不一致影响评估公平性。
CoRD：耦合采样如何补全在线蒸馏的盲区
CoRD 提出耦合轨迹蒸馏，利用推测解码的最大耦合从学生与教师分布的插值中采样，填补在线蒸馏中学生到不了的状态盲区。在 Qwen3 与 Qwen3.5 六个学生模型上，pass@1 与 pass@8 均优于在线蒸馏，4B 学生在 16 步内达到在线蒸馏 80 步未及的差距缩小。
阿拉伯法律大模型压缩评测：上下文敏感性视角
基于 ArabLegalEval 基准的研究显示，去掉上下文后基础模型准确率差距最高达27个百分点；4比特量化降低内存64-71%，精度变化-3.2至+1.6个百分点；蒸馏效果随学生规模缩小而波动。无上下文评测应成为法律大模型压缩评估的必要补充。
自动关键词抽取：从统计方法到LLM与语音端到端
一篇综述系统梳理自动关键词抽取（KE）的理论方法与实用方案，覆盖统计、机器学习、LLM生成式方法及语音端到端处理，分析语料标注瓶颈与多模态融合等未来挑战。
轻量级LLM能否胜任意图到SLO的翻译？五维评估揭晓答案
最新研究对10个轻量级LLM进行五维评估，揭示其在意图到SLO翻译中的性能、幻觉与能耗表现，最佳F1达0.943，但改写鲁棒性仍是挑战。
神经网络近机器精度求解非线性水波，并用Lean严格验证
本文介绍一项结合物理信息神经网络与形式化验证的研究：神经网络以近机器精度求解非线性水波方程，并通过区间算术和Lean定理证明器提供严格数学保证，探索AI发现与机器检查验证的完整流水线。
CacheGraft：用KV缓存为小模型RAG注入大模型知识
CacheGraft提出用KV缓存实现潜空间文档富化：离线将文档编码为大模型与小模型的融合缓存，查询时直接注入小模型，无需大模型在场。在五个问答基准、两个本地评委的30次对比中29次优于文本基线。
IMUDINO：首个通用惯性传感基础模型，突破传感器位置与采样率限制
IMUDINO 是首个面向惯性传感的通用基础模型，通过 DINO 自监督学习和频率感知位置编码，支持变长输入与不同采样率，在人体活动识别、健康、动作捕捉和里程计任务上实现跨用户、跨传感器配置的泛化。
截断BPTT的梯度双车道性质：理论突破
截断BPTT会引入梯度偏差，但新研究证明在状态转移雅可比指数衰减条件下，截断梯度与全上下文梯度的误差随距离边界指数衰减，形成双车道梯度转盘性质，为截断长度选择提供理论保证。
