#开源工具
共 11861 篇相关文章
Adam优化器状态压缩新法：共享梯度界守护更新精度
本文介绍一种新的Adam优化器状态压缩方法：通过共享梯度界守护矩压缩，确保解码后的矩能复现FP32更新。实验显示在OPT-125M和ResNet-18上矩负载减少约70%，且首次更新保持在容差内。
TVP损失函数：投机解码中TV距离的潜力与改进
TVP损失函数基于全变差距离改进投机解码草稿训练，通过幂参数退火在多种架构上提升接受长度，微调时相比CE提升9.8%。
数据集不匹配？L2RR如何优化GRPO的rollout效率
GRPO面临rollout效率与性能的权衡，现有选择性rollout方法忽略源与目标数据集不匹配问题。L2RR通过目标侧聚合反馈学习重加权采样分布，在六个数学推理基准和三种模型规模上提升目标域性能与rollout效率，为隐私约束下的RLVR提供可行方案。
560M塔吉克语嵌入模型微调：Saidzoda-Tajik-E5-Large检索效果显著
Saidzoda-Tajik-E5-Large 是一个基于 multilingual-e5-large-instruct 微调的 560M 塔吉克语嵌入模型，在法律和税务检索任务上 top-10 准确率大幅提升，并与五倍大小的 Giga-Embeddings-3B 表现相当。
Skill++：路由感知技能精炼，破解终身智能体路由干扰
Skill++ 提出路由感知技能精炼方法，通过重写新技能的名称与描述，解决终身智能体中的路由干扰问题。在731个技能库上，路由成功率从36.4%提升至76.3%，且无需训练路由器或标注数据，可迁移至Codex CLI。
Zyphra推出ZHA：让冻结LLM实现亚二次注意力的新路径
Zyphra AI 提出 Zyphra Hierarchical Attention（ZHA），一种树索引稀疏注意力方法，通过 4B tokens 蒸馏改造冻结 LLM，在推理和 256K 检索基准上匹配稠密注意力，探索亚二次注意力的实用路径。
GSLM2：多流语音表征学习缩小语音与文本模型差距
GSLM2 通过多流语音表征学习和 SpidR 2.0 编码器，在高达 600 万小时数据和 65 亿参数规模下，将语音与文本模型在 sWuggy、sBLIMP、tSC 任务上的差距缩小约两个数量级，并开源代码与模型。
ArSciKids：面向阿拉伯语小学科学教育的课程对齐数据集
ArSciKids是面向阿拉伯语小学科学教育的课程对齐数据集，包含999条科学实验记录和2167道多项选择题，覆盖1-6年级，支持教育内容生成研究。
INP-Former复现：原型机制在工业异常检测中的真实效力
复现INP-Former工业异常检测方法：验证INP机制为主要性能来源，但默认六原型设置在MVTec AD 2上失效，单原型反而更优。分析跨数据集泛化差距与实践权衡。
LLM小说人名扎堆“Elara”“Elias”：投机命名法降重复95%
论文实测八种提示策略对LLM小说人名集中的影响，提出免微调的投机命名法，将Slop Ratio降低95%、碰撞概率从7.3%降至0.4%，且自然度接近基线。
LoRAForge：压缩与执行协同，让多LoRA服务更高效
LoRAForge通过协同设计后置压缩与执行，解决多LoRA服务中压缩后速度不升反降的难题。FlashTSQR加速因子构造，谱能量策略仅保留7.7%参数，吞吐提升1.17-1.22倍。
贝叶斯智能体蒸馏进8B模型：主动提问能力大幅提升
研究将变分贝叶斯智能体的信息搜寻能力蒸馏进8B语言模型，在多轮谜题任务上显著提升主动提问与决策性能，Circuit Decoding成功率从0.00升至0.93，并揭示EIG监督优于随机查询、70B教师不及贝叶斯教师等关键发现。
无需广义动量数据：Hamiltonian网络的新突破
HNN依赖广义动量数据限制了实际应用。一项新研究提出扩展架构，在动量解析形式未知时，仅用状态及其导数数据联合学习广义动量、Hamiltonian结构和动力学，并在耗散质量-弹簧、双摆、滚动圆盘三个系统上验证。
线性Bandit新突破：IAFTRL实现随机与对抗环境双优
论文提出IAFTRL，首个纯FTRL框架的线性bandit两全其美算法，在随机环境达到信息获取复杂度相关的对数遗憾，对抗环境保持平方根遗憾，解决多个开放问题。
WiCi：用WiFi连接GPU，打破数据中心的线缆束缚
WiCi是一个提出用WiFi连接GPU的项目，探讨无线互联在GPU集群中的可行性边界、对算力部署形态的影响，以及它与PCIe、NVLink等主流高速互联路线的差异。
自建 HackerTube：AI 策展人灵感来自 Karpathy
Hacker News 上出现受 Karpathy 的 HackerTube 启发的自建 AI 策展项目。本文解析“拥有自己的 HackerTube”的含义、AI 策展的技术要点与小众项目的信号价值。
用体素重建华沙市中心：一个开源3D城市的诞生
一个基于OpenStreetMap、LiDAR与华沙树木数据库的开源项目，用体素重建华沙市中心3D地图，支持改变时间天气、控制行人，并在GitHub开源可复用。
Claude Code 新设置：用 blockWritesOutsideWorkingDirectories 锁定编辑边界
Claude Code 2.1.314 新增 blockWritesOutsideWorkingDirectories 设置，让 Write、Edit、NotebookEdit 在所有模式下拒绝工作目录外的路径，包括 bypassPermissions。本文解析其行为、与权限模式的关系及适用场景。
