#开源工具
共 11460 篇相关文章

重测51遍:DeepSeek Harness省token插件用对省一半用错更贵
51遍重测DeepSeek Harness三个省token插件:Ops需切PTC模式才省一半,Flash Presets靠规则省两成,Billion Context只省上下文空间不省钱。附普通人选择指南与避坑提醒。

QQ机器人token消耗太快?工程化分层与省钱技巧
QQ机器人token消耗过快怎么办?B站UP主大肥鱼分享工程化分层方案:深层与浅层记忆分离、改用coding plan套餐、引入基础RAG,据其估算可节省十几倍到上百倍token用量。

AstrBot插件实战:大幅降低Token消耗的高级优化方案
B站UP主分享AstrBot插件的高级优化方案:通过上下文窗口压缩、浅层/深层记忆分离、背景故事包按需检索、群聊读取频率控制和非推理判断模式,大幅降低Token消耗,实测效果显著。

LangChain 1.3系统教程:RAG/Agent/MCP/LangGraph实战落地
B站UP主楼兰发布LangChain 1.3系统教程,覆盖架构入门、RAG、Agent、MCP、LangGraph多智能体项目实战。课程强调重体系不重功能、重实战不重理论,帮助学习者摆脱追工具的疲惫,建立可迁移的AI应用开发能力,并涉及token成本规划与本地大模型部署。

Ollama v0.40.15 发布:新增 Kimi Code CLI 支持
Ollama v0.40.15 发布,cmd/launch 新增对 Kimi Code CLI 的支持,提交 #19506 已通过 GPG 签名验证。本文解读该更新对 AI 编程工作流的影响与版本验证信息。

EnvOpt:智能体环境优化新方向,成本直降72.7%
EnvOpt 提出智能体优化的第三方向:自动化优化静态环境。在 AutomationBench 上成本降低72.7%、通过率提升14.34%,并可跨模型与 harness 迁移,无需评分器或参考答案。

稀疏自编码器揭示大模型语法数表征机制
研究利用稀疏自编码器分析Pythia-70M等模型,发现复数名词与动词特征可因果性调控语法数输出,并揭示单复数表征的不对称性,为LLM语法机制解释提供新方法。

HyFlash:端侧投机解码的Prefix-Memory新范式
HyFlash提出前缀记忆先验,将长程上下文建模与细粒度草稿位置交互分离,在有限内存下实现更高接受率的端侧投机解码,KV存储大幅降低,浅层草稿与长上下文场景增益显著。

D²-OPD:解耦方向与距离的在线蒸馏新方法
D²-OPD提出解耦外推蒸馏中方向与距离的新方法,通过逐前缀硬KL约束控制目标距离,自适应组合教师偏移与初始差距确定方向,在数学推理基准上三个设定均取得最优,最高超越最强基线9.45分。

AI智能体如何浪费你的钱?Token浪费的系统性结构
一项研究提出统一框架测量AI智能体Token浪费,通过LLM-as-a-Judge识别可移除片段并干预验证,发现浪费具有系统级结构:任务与设置差异大于模型差异,推理与执行浪费模式不同,Harness引入独特低效来源。在线剪枝移除41-46%推理仍保持性能。

递归稀疏注意力RecSA:百万级上下文外推,对数级成本
RecSA递归稀疏注意力通过树结构KV缓存实现O(log L)选择成本,从32K训练长度外推到2M,1M长度RULER得分60.5远超基线,单张H200上预填充加速3.2倍。

SCF:语言模型用户推理的有界证据聚合新方法
SCF(源平衡截断Fisher)是一种用于语言模型用户推理的有界证据聚合方法,通过截断文档贡献和校准决策规则,在多个数据集上实现最高AUROC,并提供有限样本Type-I错误控制。

Anthropic日合并3万代码,为何98%开源Issue无人认领?
Anthropic 每天合并超 3 万次代码变更,但 Claude Code 公开仓库中超 98% 的 Issue 无人负责,包括隐私与安全漏洞。开发者质疑:为何不用 Claude 做 Issue 分诊?

为什么你应该下载喜欢的YouTube视频
Hacker News热议:为什么你应该下载喜欢的YouTube视频?探讨流媒体内容的脆弱性、版权争议与个人备份实践,揭示数字时代文化保存的挑战。

永久与瞬态表示:破解持续强化学习稳定性与可塑性难题
持续强化学习常面临稳定性与可塑性的矛盾。一项新研究提出用参数化永久价值函数和非参数化瞬态价值函数互补,在图像任务和Craftax-Classic上实现更优在线学习,为缓解灾难性遗忘提供新思路。

WeLM-Image:统一图像生成模型如何落地微信
解读微信 WeLM-Image 统一图像生成模型:MoT+MoE 架构如何兼顾理解与生成,31.7B 参数稀疏激活,单卡部署,Turbo 版本 4.98 秒生成 1024 图像,并在多个开源评测中排名第一。

CardioLM:心脏病学专用多语言小模型套件,突破临床NLP资源瓶颈
CardioLM提出心脏病学多语言小模型套件:CardioCCC语料覆盖508份病例报告、七种语言,CardioNER在临床医生评估中评分从26%升至73%。研究发现专科预训练对NER提升有限,多语言联合训练效果最佳。

告别关键词检索:阿拉伯语焦虑话语基准数据集发布
新发布的人标注基准数据集包含1,000条阿拉伯语推文,用于区分个人焦虑表达与社会政治焦虑等六种话语功能。研究发现标注者一致意见中23.5%经审查后被更改,Fanar-C-2-27B模型达到79.8%准确率,但残余类别定义不一致影响评估公平性。

CoRD:耦合采样如何补全在线蒸馏的盲区
CoRD 提出耦合轨迹蒸馏,利用推测解码的最大耦合从学生与教师分布的插值中采样,填补在线蒸馏中学生到不了的状态盲区。在 Qwen3 与 Qwen3.5 六个学生模型上,pass@1 与 pass@8 均优于在线蒸馏,4B 学生在 16 步内达到在线蒸馏 80 步未及的差距缩小。

阿拉伯法律大模型压缩评测:上下文敏感性视角
基于 ArabLegalEval 基准的研究显示,去掉上下文后基础模型准确率差距最高达27个百分点;4比特量化降低内存64-71%,精度变化-3.2至+1.6个百分点;蒸馏效果随学生规模缩小而波动。无上下文评测应成为法律大模型压缩评估的必要补充。