#量化技术
共 94 篇相关文章
产品体验·7 分钟
WaLiCode v0.2.0：自研AI IDE新增多工程对话与任务拆解功能
独立开发者自研AI IDE WaLiCode发布v0.2.0版本，新增多工程跨项目对话、任务拆解执行模式、Ollama本地模型接入等功能，解决主流AI IDE单工程对话的痛点，为开发者提供更灵活可控的AI编程体验。
阅读全文 →
产品体验·7 分钟
4×3080Ti本地部署千问3.6 27B跑OpenCode编程实测
使用4张3080Ti 16G魔改显卡本地部署千问3.6 27B FP8模型，配合OpenCode完成系统管理工具开发的完整实测。涵盖硬件配置、推理速度、上下文管理经验及开发效率对比。
阅读全文 →
教程攻略·9 分钟
大模型命名规则解析：参数量、量化格式与显存需求速查
系统拆解大模型命名规则，解释32B参数量、AWQ/GGUF量化格式的含义，提供4-bit量化显存估算公式与速查表，涵盖MOE模型显存陷阱、IMatrix量化推荐及按显存档位的模型选择建议。
阅读全文 →
教程攻略·7 分钟
大模型学习路线：七大板块从入门到项目实战全解析
系统梳理大模型学习的七大核心板块，涵盖环境搭建、提示词工程、RAG检索增强生成、Agent智能体、开发框架、模型微调部署及实战项目，帮助开发者快速构建完整的大模型技能体系。
阅读全文 →
教程攻略·7 分钟
Ollama本地部署大模型完全指南：断网也能用的AI
详解Ollama本地部署开源大模型的完整流程，涵盖安装配置、模型选择、显存要求及实际效果对比。支持Llama 3、通义千问等主流模型，零成本、断网可用，轻松打造私有AI工作站。
阅读全文 →
教程攻略·6 分钟
本地部署大模型怎么判断显存爆了？一文看懂显存监控方法
本地部署大模型时如何判断显存是否爆满？本文详解专用显存与共享GPU内存的区别，教你通过任务管理器快速判断显存溢出，并提供模型量化、上下文长度控制等避免爆显存的实用建议。
阅读全文 →
行业洞察·5 分钟
企业大模型选型指南：Llama3.1、Qwen2.5、DeepSeek深度对比
企业如何选择开源大模型？本文从模型能力、硬件需求、业务场景三个维度，深度对比Llama 3.1、Qwen 2.5、DeepSeek、Mistral等主流开源模型，提供选型决策框架与实践建议。
阅读全文 →
深度解读·5 分钟
LLM每秒10个Token有多快？直观感受Token生成速度的开源工具
通过开源工具直观体验LLM不同Token生成速度（5-800 TPS）的实际效果，帮助开发者理性选择模型、优化推理性能，告别对TPS数字的盲目追求。
阅读全文 →
产品体验·10 分钟
星火WinShape实测：Windsurf自动换号无限用Claude Opus靠谱吗
实测星火WinShape插件实现Windsurf账号自动无感切换，批量管理账号持续使用Claude Opus模型。详细拆解使用流程、核心功能与风险分析，并推荐更稳妥的合规替代方案。
阅读全文 →
教程攻略·4 分钟
Token自由实现指南：低成本使用Codex与GPT的5个省钱策略
详解如何实现Token自由，涵盖模型选择、中转API、Prompt优化、免费额度利用等5大策略，帮助开发者大幅降低GPT和Codex的API调用成本，轻松节省Token开支。
阅读全文 →
教程攻略·4 分钟
DeepSeek+RAGFlow本地部署AI知识库教程（2025最新）
手把手教你用DeepSeek+RAGFlow+Ollama本地部署个人AI知识库。涵盖RAG原理解析、Ollama安装、Docker部署RAGFlow、知识库创建与调优全流程，数据完全私有，零基础可上手。
阅读全文 →
教程攻略·11 分钟
NVIDIA Model Optimizer训练后量化(PTQ)实战指南
深入解析NVIDIA Model Optimizer训练后量化(PTQ)工作流，涵盖INT8/INT4量化原理、校准方法、RTX GPU优化策略及大语言模型量化部署最佳实践，助你在消费级显卡上高效运行大模型。
阅读全文 →
深度解读·7 分钟
MARVIS项目：嵌入式AI Agent赋能太空自主探索全解析
深入解析MARVIS项目如何将大语言模型Agent部署到太空飞行器，涵盖Agent架构设计、边缘硬件Token性能实测、专家评估结果及太空通用智能基准测试规划，探索从POC到深空自主探索的完整技术路线。
阅读全文 →
产品体验·8 分钟
AnythingLLM：本地部署的全能AI知识库工具深度解析
深度解析AnythingLLM开源项目，一款隐私优先、零配置的本地AI生产力平台。支持RAG文档对话、多模型接入、知识库管理和AI Agent，GitHub近6万星标，适合企业和个人本地部署使用。
阅读全文 →
产品体验·11 分钟
Chatbox开源AI客户端：近4万Star，一站式管理多模型对话
深度解析GitHub近4万Star的开源AI客户端Chatbox，支持GPT-4、Claude、Gemini等多模型一键切换，数据本地存储保护隐私，跨平台桌面应用。详解核心功能、适用场景及与Jan、TypingMind等同类产品对比。
阅读全文 →
教程攻略·9 分钟
OpenAI开源GPT-OSS：16G显存跑O4级模型，部署教程全解析
OpenAI正式开源GPT-OSS系列模型（20B/120B），采用MOE架构+FP4混合精度，单卡4090即可运行O3级推理模型。本文详解核心技术、性能评测及Ollama/vLLM等四种本地部署方案。
阅读全文 →
行业洞察·9 分钟
AI生成测试用例为何不好用？Agent智能体平台才是正解
深度剖析AI生成测试用例的5大常见坑：需求拆分不足、图文识别盲区、覆盖遗漏等，并给出Agent+Skill智能体平台的完整解决方案，实现从需求分析到自动执行的测试全流程闭环，助力测试从业者掌握2026年核心竞争力。
阅读全文 →
教程攻略·10 分钟
Codex+Ollama本地部署教程：零成本搭建AI编程助手
手把手教你用Codex搭配Ollama在本地部署免费AI编程助手，涵盖硬件检测、Ollama安装、Gemma/Qwen模型下载与接入配置全流程，轻松实现隐私安全的本地AI编程工作流。
阅读全文 →
教程攻略·11 分钟
Google AI Studio 2.0完全指南：免费使用Gemini 3.1+VO3+Vibe Coding
深度解析Google AI Studio 2.0全部功能：免费使用Gemini 3.1 Pro百万token上下文、VO3视频生成、Nano Banana图像创作、Vibe Coding零代码构建应用，附变现思路与实战技巧。
阅读全文 →
教程攻略·9 分钟
Ollama+OpenCode本地部署AI编程：零成本替代Cursor的完整方案
详细教程：通过Ollama本地部署千问3 Coder大模型，配合OpenCode开源编程工具，实现零成本AI编程。涵盖环境搭建、代码生成、自动调试全流程，附硬件配置建议。
阅读全文 →