#模型量化
共 94 篇相关文章
产品体验·10 分钟
Llama 3.3 70B深度测评：13道题实测最强开源大模型
Meta发布Llama 3.3 70B开源模型，仅70B参数却媲美405B性能。经过13道逻辑推理、数学计算、编程题全面测试，通过12题表现惊艳，重塑开源模型格局。
阅读全文 →
产品体验·7 分钟
WaLiCode v0.2.0：自研AI IDE新增多工程对话与任务拆解功能
独立开发者自研AI IDE WaLiCode发布v0.2.0版本，新增多工程跨项目对话、任务拆解执行模式、Ollama本地模型接入等功能，解决主流AI IDE单工程对话的痛点，为开发者提供更灵活可控的AI编程体验。
阅读全文 →
产品体验·9 分钟
Mac本地跑Qwen3.6-27B：4种方案实测对比
实测对比Mac本地运行Qwen3.6-27B的4种方案，包括GGUF、MLX Diflash和MTP-LX。MTP-LX 4bit方案以43.6 tok/s速度领先，编码、写作、推理质量均可圈可点，附安装配置指南。
阅读全文 →
教程攻略·6 分钟
P106矿卡跑AI大模型：几十块搭建本地AI工作站
用几十块钱的P106矿卡搭建本地AI工作站，运行Live Portrait等AI模型实现照片动态化。详解硬件成本、部署流程、隐私优势与性能局限，低成本体验AI创作的极致性价比方案。
阅读全文 →
教程攻略·7 分钟
大模型学习路线：七大板块从入门到项目实战全解析
系统梳理大模型学习的七大核心板块，涵盖环境搭建、提示词工程、RAG检索增强生成、Agent智能体、开发框架、模型微调部署及实战项目，帮助开发者快速构建完整的大模型技能体系。
阅读全文 →
教程攻略·8 分钟
OpenAI Codex插件系统深度解析：架构、安装与实战开发
深入解析OpenAI Codex插件系统的核心架构（Skills、Apps、MCP Server），详解四种安装方式，并通过macOS应用开发实战案例，展示Codex插件如何提升AI编程效率。
阅读全文 →
产品体验·7 分钟
DLSS 4.5深度集成UE5与多语言AI角色：NVIDIA RTX游戏开发重大更新
NVIDIA发布RTX技术重大更新，DLSS 4.5深度集成虚幻引擎5带来帧生成性能飞跃，多语言AI角色支持动态对话与实时语音合成，全面革新游戏开发流程与玩家交互体验。
阅读全文 →
教程攻略·6 分钟
Bolt.diy本地部署教程：免费开源的AI全栈开发工具
Bolt.diy是Bolt.new的开源替代方案，支持自由接入OpenAI、Claude等大模型，本地部署零订阅费。本文详解安装配置流程、模型选择方案及适用场景，助你低成本实现AI全栈开发。
阅读全文 →
产品体验
Gyro Autopilot测评：AI扫描邮箱自动追回航班赔偿金
·5 分钟
Gyro Autopilot测评：AI扫描邮箱自动追回航班赔偿金
详细介绍Gyro Autopilot如何通过AI自动扫描邮箱识别航班延误、取消赔偿机会，零风险帮你追回被遗忘的赔偿金。涵盖工作原理、商业模式及与AirHelp的对比分析。
阅读全文 →
教程攻略·5 分钟
Ollama本地部署大模型教程：安装配置到API调用全流程
详解Ollama本地部署开源大模型的完整流程，涵盖安装配置、模型选择与量化策略、Python代码调用API、性能优化等实战技巧，帮你快速在本地运行Qwen、Llama等大模型。
阅读全文 →
教程攻略·6 分钟
免费使用Claude Code：CC Switch+Ollama本地模型驱动AI编程Agent教程
详细教程教你通过CC Switch将本地Ollama模型伪装成Claude API，零成本驱动Claude Code桌面版进行AI编程。涵盖安装配置、模型选择、实测效果，支持千问、Gemma等开源模型。
阅读全文 →
教程攻略·8 分钟
ONNX模型部署实战：从PyTorch导出到跨框架推理完整指南
详解ONNX神经网络交换格式的核心原理与实战应用。涵盖PyTorch和TensorFlow模型导出ONNX、ONNX Runtime推理、MNIST分类器部署、HuggingFace模型下载等完整流程，附可运行代码示例。
阅读全文 →
教程攻略·4 分钟
Java+AI：程序员突破35岁危机的实战路径
深度解析Java程序员如何通过叠加AI技能突破35岁职业瓶颈。从AI学习四个层次定位、Java+AI技术栈协同、到不同背景的差异化转型建议，提供一套可落地的职业升级方案。
阅读全文 →
科技前沿·3 分钟
Gemini 3.5 Flash发布：Google如何平衡AI模型速度与能力
Google发布Gemini 3.5 Flash模型，主打速度与能力的最佳平衡。本文解析Flash系列定位演进、与GPT-4o mini等竞品对比，以及对开发者和企业用户的实际应用价值。
阅读全文 →
产品体验·4 分钟
DeepSeek V4 vs Qwen3.6实测：8大类150场景深度对比评测
使用BenchLocal工具对DeepSeek V4 Pro、V4 Flash与Qwen3.6 27B进行8大类85场景实测对比，涵盖工具调用、代码调试、推理数学等维度，V4 Pro总分领先6%但数学推理意外翻车，Qwen3.6 Q6在智能体场景媲美V4 Pro。
阅读全文 →
产品体验·4 分钟
Qwen3.6量化版本地部署实测：NVFP4、APEX、Q4、Q6哪个最值得选
实测Qwen3.6系列7-8个量化模型在工具调用、命令行操作、Bug修复、数学推理等8大维度的表现，对比NVFP4、APEX、Q4、Q6量化方案，附总分排名与选购建议，帮你找到最适合本地部署的量化版本。
阅读全文 →
产品体验·4 分钟
Qwen3.6 27B三大邪修量化模型实测：代码暴增15.8PP、40B蒸馏、16GB适配
实测对比三款基于Qwen3.6 27B的社区邪修量化模型：OmniMerge V4代码能力提升15.8个百分点，40B OPUS蒸馏版支持角色扮演与创意写作，16GB特化版让小显存也能跑稠密模型。附显存要求、参数设置与选型建议。
阅读全文 →
教程攻略·6 分钟
MoS-TTS-Nano部署教程：0.1B超轻量TTS模型CPU即可运行
经实战验证的MoS-TTS-Nano本地部署教程，0.1B参数超轻量TTS语音合成模型无需GPU，四核CPU即可流畅运行。涵盵Conda环境配置、pynini安装踩坑解决、模型下载及Gradio WebUI启动全流程。
阅读全文 →
教程攻略·11 分钟
NVIDIA Model Optimizer训练后量化(PTQ)实战指南
深入解析NVIDIA Model Optimizer训练后量化(PTQ)工作流，涵盖INT8/INT4量化原理、校准方法、RTX GPU优化策略及大语言模型量化部署最佳实践，助你在消费级显卡上高效运行大模型。
阅读全文 →
深度解读·7 分钟
MARVIS项目：嵌入式AI Agent赋能太空自主探索全解析
深入解析MARVIS项目如何将大语言模型Agent部署到太空飞行器，涵盖Agent架构设计、边缘硬件Token性能实测、专家评估结果及太空通用智能基准测试规划，探索从POC到深空自主探索的完整技术路线。
阅读全文 →