#Ollama Max
共 125 篇相关文章
·11 分钟
Meta开源Muse Glimmer：300亿参数智能体模型一张显卡即可本地运行
Meta开源Muse Glimmer，300亿参数智能体模型通过4-bit量化压缩至20GB以内，一张RTX 4090即可本地运行。支持多模态输入、12.8万Token上下文，D-Flash投机解码提速3倍，MCP工具调用得分75.5，是端侧Agent部署的实用之选。
阅读全文 →
·18 分钟
Gemma 4:31b 实测：Ollama 本地部署稳定性大幅提升
Reddit 用户实测反馈 Gemma 4:31b 在 Ollama 上的最新表现：工具调用不再频繁失败，乱码输出问题消失。深入分析本地大模型稳定性提升的技术原因与实际意义。
阅读全文 →
·9 分钟
OpenCode实战指南：Claude Code开源平替的安装配置与使用教程
详解OpenCode这款开源AI编程终端工具的完整使用指南，涵盖桌面端与WSL两种安装方式、模型配置、规则文件设置、自定义命令与MCP服务集成，帮助开发者快速上手这款Claude Code开源替代方案。
阅读全文 →
科技前沿
每日AI新鲜事·08月13日晚间版：Grok争议与AI安全隐忧
·1 分钟
每日AI新鲜事·08月13日晚间版：Grok争议与AI安全隐忧
2026年08月13日（周四）晚间版 AI新闻速递+热点深度讨论
阅读全文 →
·17 分钟
DeepSeek V4 Flash工具调用死循环问题解析与解决方案
DeepSeek V4 Flash在Ollama Cloud上频繁出现推理死循环（Doom Loop），模型无法正确调用工具并陷入重复输出。本文分析死循环成因，探讨思考块与工具调用的冲突机制，并提供实用的检测与规避方案。
阅读全文 →
·14 分钟
用Go标准库构建AI智能体记忆层：零依赖的极简方案
深入解析如何仅用Go语言标准库构建AI智能体记忆层，涵盖向量相似度计算、记忆存储检索、并发安全等核心实现，探讨零依赖方案的价值与适用边界。
阅读全文 →
·14 分钟
本地LLM自动生成论文幻灯片：兼顾效率与隐私
探索如何利用本地大语言模型（Local LLM）自动将学术论文转换为演示幻灯片，在保护未发表研究数据隐私的同时，大幅提升科研工作者制作PPT的效率。涵盖工具原理、隐私优势及本地AI应用趋势。
阅读全文 →
·14 分钟
Qwen3 Max登顶Agentic Index榜首：智能体能力评测深度解读
Qwen3 Max在Agentic Index智能体能力评测中登顶榜首，在工具调用、多步推理、代码执行等维度表现优异。本文深度解析评测结果、中国大模型崛起趋势及智能体时代的模型选型建议。
阅读全文 →
·14 分钟
图解量化：大语言模型压缩核心技术详解
深入解析大语言模型量化技术的原理与方法，涵盖对称量化、非对称量化、PTQ训练后量化、QAT量化感知训练及GPTQ、AWQ等主流方案，帮助开发者理解如何通过量化压缩实现大模型高效部署。
阅读全文 →
·15 分钟
Unsloth发布DeepSeek V4 Flash量化版：162GB实现无损运行
Unsloth团队发布DeepSeek V4 Flash 0731的UD动态量化版本，提供从162GB无损到83GB极限压缩共六个版本。采用MXFP4+BF16混合精度方案，为本地部署大模型提供完整精度梯度选择。
阅读全文 →
·16 分钟
Homebench：本地大模型速度、内存与质量三维评测工具详解
Homebench是一款开源的本地大模型评测工具，从速度、内存占用和输出质量三个维度综合评估LLM在本地硬件上的真实表现，帮助开发者做出最优的模型选型和量化方案决策。
阅读全文 →
·18 分钟
本地部署AI模型入门：从Hugging Face下载到llama.cpp运行全流程
面向零基础开发者的本地AI模型部署指南，涵盖从Hugging Face安全下载模型、运行推理、导出GGUF格式并通过llama.cpp高性能本地运行的完整流程，附开源Python脚本实践。
阅读全文 →
·16 分钟
Mac仅需4.3GB内存运行80B大模型：极限压缩技术解析
深入解析如何在Mac上仅用4.3GB内存运行80B参数大模型的技术原理，涵盖超低比特量化、稀疏化、内存映射等关键技术，探讨本地大模型部署对隐私保护和边缘AI的深远意义。
阅读全文 →
·6 分钟
Qwen3-Max登陆Venice：匿名AI问答的隐私新选择
Qwen3-Max正式入驻Venice隐私AI平台，用户无需注册即可匿名调用通义千问旗舰模型。本文详解Venice平台特色、Qwen3-Max技术优势及匿名AI问答的实际价值与使用建议。
阅读全文 →
·12 分钟
Wings：自带AI密钥的开源Notion替代品
开发者因Notion共享空间限制和AI额度不足，自建开源替代品Wings。支持BYOK自带AI密钥、集成Excalidraw白板、数据可导出，为技术型用户提供隐私可控、成本透明的知识管理方案。
阅读全文 →
·12 分钟
Tomte：专为Gemma打造的免费本地AI运行框架
Tomte是一款专为Apple Silicon优化的Gemma模型本地运行框架，免费开箱即用，提供高速推理体验。本文详解其核心功能、性能优势及与ChatGPT的对比，帮助Mac用户实现隐私安全的本地AI部署。
阅读全文 →
·13 分钟
Vao2开源信息聚合器：本地AI摘要+多源RSS整合的隐私优先方案
Vao2是一款开源个人信息聚合器，整合新闻、YouTube、GitHub和RSS订阅到单一信息流，通过Ollama本地AI生成内容摘要，兼顾隐私保护与零成本使用，适合重视数据主权的技术用户。
阅读全文 →
·8 分钟
Ollama运行Claude Code完整指南：API报错排查与本地模型优化
详解通过Ollama本地运行Claude Code时遇到的API报错、输出token上限、模型卡死等常见问题，提供模型选择、参数调优及替代工具推荐等实用解决方案。
阅读全文 →
