[控场AI]

#开源工具

共 13332 篇相关文章

Qwen4 百万上下文窗口曝光:27B与Max版本即将登场
·4 分钟

Qwen4 百万上下文窗口曝光:27B与Max版本即将登场

Reddit 爆料称 Qwen4 全系将支持 1M 上下文窗口,Qwen4-27B 或在荷兰 Apsara 大会公布,Qwen4-max 日期疑为占位符。本文梳理爆料细节并分析百万上下文对开发者的实际影响。

阅读全文 →
上海AI Lab开源Sage-A1.5:35B MoE模型获vLLM首日支持,本地部署智能体
·6 分钟

上海AI Lab开源Sage-A1.5:35B MoE模型获vLLM首日支持,本地部署智能体

上海AI Lab开源Sage-A1.5模型,35B总参数、3B激活的MoE架构,主打智能体能力,发布首日即获vLLM支持,开发者可用一行命令本地部署推理服务。

阅读全文 →
vLLM 维护者 PyTorch 大会聚餐:高吞吐烤肉与零延迟干杯
·3 分钟

vLLM 维护者 PyTorch 大会聚餐:高吞吐烤肉与零延迟干杯

vLLM 维护者在 PyTorch Conference 期间举办聚餐,推文用高吞吐、零延迟的技术梗形容烤肉与饮品,感谢社区推动项目前进。本文介绍聚会背景与 vLLM 社区文化。

阅读全文 →
MiniMax M3.1 Flash 落地生产:开源推理生态的里程碑
·4 分钟

MiniMax M3.1 Flash 落地生产:开源推理生态的里程碑

MiniMax M3.1 Flash 已在生产环境大规模运行,由 @inferact 提供带 SLA 保障的推理服务,工程改进回流 vLLM 上游。本文分析其对开源推理生态的意义及对开发者选型的启示。

阅读全文 →
vLLM追平DeepSeek自研引擎DeepInfer:解码性能背后的技术博弈
·4 分钟

vLLM追平DeepSeek自研引擎DeepInfer:解码性能背后的技术博弈

vLLM在DeepSeek-V4.1-Flash解码配置下性能追平DeepSeek自研引擎DeepInfer,仅用DEP32并行策略对抗EP64DP64。本文分析这一进展的技术背景、对开发者的实际意义以及开源协作如何缩小推理引擎差距。

阅读全文 →
vLLM 在 AgentX 上跑出最佳成绩:破 DeepSeek 推理纪录
·4 分钟

vLLM 在 AgentX 上跑出最佳成绩:破 DeepSeek 推理纪录

vLLM 在 AgentX 基准测试中用真实 agentic 负载跑出 DeepSeek-V4.1-Flash 最佳成绩,实现 954K tokens/s/GPU 吞吐和每 GPU 小时 38.96 美元收入,追平 DeepInfer 性能。

阅读全文 →
AMD联手vLLM推出d3-ultra:开源多模态决策新突破
·5 分钟

AMD联手vLLM推出d3-ultra:开源多模态决策新突破

AMD与vLLM Semantic Router团队推出d3-ultra开源多模态决策模型,支持逐答案概率、视觉定位与视频跟踪,基于AMD Instinct GPU训练推理,Apache-2.0权重已上线Hugging Face。

阅读全文 →
Spark-X2.6-1.7B 发布:端侧智能体模型支持百万级上下文
·4 分钟

Spark-X2.6-1.7B 发布:端侧智能体模型支持百万级上下文

SparkLLM 发布 Spark-X2.6-1.7B 端侧智能体模型,原生支持 1M 上下文和可控思考模式,在 SWE-Verified 和 τ²-bench 上几乎匹配 4B 版本,并获 vLLM 及 NPU 首日支持。

阅读全文 →
Vela 3.0发布:路由与片段提取合二为一
·4 分钟

Vela 3.0发布:路由与片段提取合二为一

Vela 3.0由vLLM Semantic Router、KR Labs与AMD联合发布,将路由决策与片段提取合并为单次调用,提供0.3B到27B六款开放模型,提升语义路由的灵活性与部署弹性。

阅读全文 →
NVIDIA Nemotron 3.5 Transcribe发布:40语言、1小时录音、开源权重
·4 分钟

NVIDIA Nemotron 3.5 Transcribe发布:40语言、1小时录音、开源权重

NVIDIA发布Nemotron 3.5 Transcribe语音转写模型,支持40种语言、最长1小时录音、提示词引导转写、说话人标签和音频问答,权重以BF16/FP8/NVFP4开放,发布首日即通过vLLM和NeMo Speech提供推理服务。

阅读全文 →
Claude Code实战:零代码搭建切片工厂,长视频自动变竖屏短视频
·13 分钟

Claude Code实战:零代码搭建切片工厂,长视频自动变竖屏短视频

B站UP主悟空用Claude Code零代码搭建切片工厂,将35分钟长视频自动切成10条竖屏短视频。从Plan Mode、Whisper转写、claude.md规则、Hook质检到Subagent审核和Plugin分发,完整实战流程与实测数据。

阅读全文 →
WorkBuddy保姆级教程:AI Agent如何帮你自动转文件
·6 分钟

WorkBuddy保姆级教程:AI Agent如何帮你自动转文件

WorkBuddy保姆级教程实战:从豆包只能给方案到AI Agent直接动手,三分钟批量转换PDF并归档。含安装、积分机制、与Codex对比及上手建议。

阅读全文 →
Claude Code国内实战教程:从安装到代码实战
·5 分钟

Claude Code国内实战教程:从安装到代码实战

B站直播课详解Claude Code国内实战:从安装集成、内置命令、MCP配置到SQL技能与DRMD文件,并给出绕开账户注册以避免封号的稳定使用方案,帮助开发者少走弯路。

阅读全文 →
Coze实战合集:多Agent协作与自由定制指南
·6 分钟

Coze实战合集:多Agent协作与自由定制指南

B站教程解读Coze多Agent协作:如何像搭团队一样创建AI专家、利用行业模板快速上手、三端互通随时操作,并分析积分消耗与一站式项目的实际取舍。

阅读全文 →
SUBIT-INK v26:四值Belnap双格如何革新赫库兰尼姆纸草墨迹检测
·5 分钟

SUBIT-INK v26:四值Belnap双格如何革新赫库兰尼姆纸草墨迹检测

SUBIT-INK v26 在 Reddit 发布,利用四值 Belnap 双格进行赫库兰尼姆纸草墨迹检测,将非经典逻辑引入古籍数字化,提升模糊区域处理能力,但尚缺定量验证。

阅读全文 →
开源鲁棒性测试框架SIRFEX:失败驱动的PPO重训为何拖累正常性能?
·7 分钟

开源鲁棒性测试框架SIRFEX:失败驱动的PPO重训为何拖累正常性能?

开源框架SIRFEX用失败场景微调PPO,却导致标称性能下降。本文解析其实验数据、负结果原因,并探讨鲁棒性提升与标称性能保持的平衡之道。

阅读全文 →
AI Gateway推出虚拟模型:模型切换无需改代码
·6 分钟

AI Gateway推出虚拟模型:模型切换无需改代码

Vercel AI Gateway 推出 Virtual Models 功能,将模型字符串与配置抽象为可复用 ID,实现模型切换无需改代码或重新部署,并支持集中治理 fallback、Zero Data Retention 与权限控制。

阅读全文 →
AI助力游戏逆向工程:Virtueel Zoetermeer反编译实践
·4 分钟

AI助力游戏逆向工程:Virtueel Zoetermeer反编译实践

AI如何辅助游戏反编译?本文解读Hacker News上的Virtueel Zoetermeer项目,分析AI在逆向工程中的角色、技术路径与开发者启示,探讨游戏保存与遗留系统维护的新可能。

阅读全文 →