#FP4量化
共 118 篇相关文章
·11 分钟
Unsloth发布Qwen3.6 NVFP4量化：2.5倍提速，零精度损失
Unsloth针对Qwen3.6系列发布NVFP4量化版本，采用W4A4真4bit张量核心运算，相比NVIDIA官方实现最高2.5倍推理加速，MMLU-Pro等多项基准测试精度持平甚至超越BF16全精度，本地部署效率大幅提升。
阅读全文 →
·17 分钟
Unsloth重磅更新：DeepSeek-V4支持与NVFP4量化导出全解析
Unsloth v0.1.481-beta正式发布，新增DeepSeek-V4-Flash完整支持、NVFP4/FP8/imatrix GGUF多格式量化导出，GRPO训练提速1.3倍，MoE训练加速3-5倍，Studio升级为OpenAI兼容API服务系统，覆盖微调、导出、推理全链路。
阅读全文 →
·14 分钟
Unsloth重磅更新：支持NVFP4量化导出与DeepSeek-V4训练
Unsloth v0.1.48-beta版本发布，新增NVFP4/FP8量化导出、OpenAI兼容API热切换、MoE训练提速3-5倍、GRPO提速1.3倍，全面覆盖大模型微调、量化与本地部署全链路。
阅读全文 →
·11 分钟
NVFP4量化实战：NVIDIA模型优化器压缩大模型指南
深入解析NVFP4量化技术：使用NVIDIA Model Optimizer将Nemotron 3 Ultra压缩为FP4格式检查点，实现显存占用降低75%，提升推理吞吐量。涵盖量化原理、校准流程与Blackwell架构协同优化实践。
阅读全文 →
·11 分钟
谷歌降价50% OpenAI提速14倍：AI推理成本战全面开打
谷歌Gemini 3.7 Flash价格腰斩至0.75美元/百万Token，OpenAI GPT-5.6 Sol Ultra Fast实现每秒750 Token输出。AI推理市场从能力比拼转向成本、速度三线竞争，开发者调用门槛快速下移。
阅读全文 →
·14 分钟
Meta Muse Glimmer 30B深度评测：视觉理解能力惊艳，本地部署门槛低
Meta Muse Glimmer 30B实测评测，296亿参数稠密模型采用Apache 2.0开源协议，视觉理解能力出色，支持128K上下文，24GB显存即可本地运行。详解基准测试、多模态识别表现与局限。
阅读全文 →
·14 分钟
Supercut：本地AI视频编辑器，零上传零注册保护隐私
Supercut是一款主打隐私保护的本地化AI视频编辑器，所有处理在设备端完成，支持自然语言剪辑指令、屏幕录制自动缩放、自动字幕等40款工具，免费起步无需账户，适合注重数据安全的创作者。
阅读全文 →
·11 分钟
Codex Linux桌面版实测：比CLI更适合初学者的AI编程助手
实测OpenAI Codex Linux桌面版，对比CLI体验优势：图形化界面降低学习门槛，无缝继承会话配置，支持本地模型接入与定时任务。详解安装方法、插件管理及本地模型性能表现。
阅读全文 →
·17 分钟
Muse-Glimmer-30B实测：24G显存跑出九维跑分76分的性价比之王
深度实测Meta开源Muse-Glimmer-30B模型，九大维度403道题综合均分76.04，工具调用90+分碾压同级。4bit量化几乎无损，24G显存轻松驱动，D-Flash加速3.1倍达233tokens/秒，是本地部署玩家的高性价比首选。
阅读全文 →
·15 分钟
Meta开源Muse-Glimmer-30B模型：Agent能力全面对标Qwen，本地部署指南
Meta开源Muse-Glimmer-30B稠密模型，专为Agent场景设计，支持工具调用与多模态理解。采用Apache协议，部分指标超越Qwen-3 27B，本文详解其性能表现、硬件需求与部署方案。
阅读全文 →
·15 分钟
AMD核显跑26B大模型实测：统一内存架构下全GPU推理与mmap优化指南
实测AMD Radeon 840M核显利用32GB统一内存运行Gemma 26B-A4B大模型，达到17 tok/s生成速度。深入解析Ollama在统一内存架构下的GPU/CPU占比误读、mmap性能瓶颈及优化方案，为APU用户提供本地大模型部署实用建议。
阅读全文 →
·18 分钟
Gemma 4:31b 实测：Ollama 本地部署稳定性大幅提升
Reddit 用户实测反馈 Gemma 4:31b 在 Ollama 上的最新表现：工具调用不再频繁失败，乱码输出问题消失。深入分析本地大模型稳定性提升的技术原因与实际意义。
阅读全文 →
·15 分钟
Needle：14MB基础模型如何撬动边缘AI部署
Needle是cactus-compute团队开源的14MB超轻量基础模型，专为手机、可穿戴设备、智能家居和机器人等边缘设备设计。本文深入分析Needle的技术定位、端侧推理优势及其在边缘AI趋势中的意义。
阅读全文 →
·5 分钟
LFM2.5发布：2.6B小模型如何媲美4倍大模型
Liquid AI发布LFM2.5模型，仅2.6B参数即可在多项基准测试中媲美10B级大模型。本文解析其架构创新、训练策略及对AI行业效率优化趋势的深远影响。
阅读全文 →
·10 分钟
DeepSeek拟大幅涨价：低价AI时代走向终结？
DeepSeek计划大幅提升API价格的消息引发行业热议。本文分析DeepSeek涨价背后的驱动因素、对开发者生态的影响，以及AI大模型服务从价格战走向理性定价的行业趋势。
阅读全文 →
·11 分钟
24GB显存跑本地LLM？实际可用显存没那么多
详解24GB显卡跑本地大语言模型时显存的真实可用量。从模型权重、KV缓存到运行时余量，拆解显存三大消耗桶，提供结构化规划方法和实操建议，帮你避免OOM踩坑。
阅读全文 →
·17 分钟
Meta开源本地化Agent AI模型：边缘智能体的新起点
Meta发布面向本地化Agentic AI的开放权重模型，支持本地部署与自由定制。本文深入解析其在隐私安全、边缘计算、开发者生态方面的意义，以及本地智能体AI面临的现实挑战。
阅读全文 →
·14 分钟
中国大模型霸榜OpenRouter周排行榜背后的原因分析
中国大模型集体登顶OpenRouter周使用量排行榜，DeepSeek、Qwen、Kimi等开源模型凭借极致性价比和技术突破赢得全球开发者青睐，深度解析霸榜背后的原因与行业启示。
阅读全文 →
