#本地模型
共 21 篇相关文章
本地文学创作模型PK：Qwen3.8 27B微调版胜出，DeepSeek v4.1表现平淡
B站UP主横向测评七款本地文学创作模型：海明威、HumanLike Chat基于Qwen3.8 27B微调表现最佳，DeepSeek v4.1叙事平淡，东方朔角色混乱垫底。附三道测试题评分与使用建议。
用本地Ollama跑Claude Code：完整实战指南
手把手教你将 Claude Code 连接到本地 Ollama 模型，覆盖 Windows、Linux、macOS 安装配置，含 ollama launch 与环境变量两种接法，并附 8GB 内存实测结论与排错清单。
用Gemma本地识别巴拿马小票，自动生成税务表格
开源项目Cuadre用本地运行的Gemma模型识别巴拿马纸质小票，自动提取RUC、ITBMS等字段并生成税务表格CSV。模型只负责转录，代码负责计算，数据不出本机，适合会计师和自由职业者批量处理收据。
Pricor：本地AI读供应商表格，精确引擎算价格
Pricor 是一款本地优先的开源工具，用 Laya 和 Gemma 本地模型识别供应商表格列含义，由精确 Decimal 引擎完成连锁折扣、增值税剔除与单位换算，所有计算可追溯、用户可确认。
AI疲劳真存在？我用10亿参数离线小模型处理私密信件
一位开发者用306行Python和10亿参数离线小模型gemma3:1b处理瑞士行政信件，代码管数字、模型管语言。这个40秒完成的任务，揭示了AI疲劳背后"够用就好"的落地思路。
VaultLedger：基于 Ollama 的离线发票对账工具
VaultLedger 是一个基于 Ollama 本地模型的开源财务对账工具，在完全离线环境下解析发票 PDF 并与银行流水 CSV 比对，标记重复发票和缺失凭证，输出 Excel 审计报告。
Codex接本地模型：8G到24G显卡各能跑什么
把Codex和Claude Code接到本地模型，关键是一句减法：显存减模型文件大小，剩下留给上下文。本文按8G、12G、16G、24G四档显卡列出可跑模型、实测余量、Ollama接入四步法和四个常见卡点，并说明Claude Code官方不支持本地模型的限制。
Green Stop：用本地开源模型重塑孟买通勤体验
Green Stop 是开发者 Ujjwal Gupta 在 Dev.to 分享的孟买通勤重置工具，完全运行在本地开源权重模型上。本文分析其离线优先设计、场景定位以及对本地化 AI 应用的工程启示。
花哨提示词不影响小模型，唯格式行决定成败
一项覆盖8个本地LLM、超5000次调用的测试表明，华丽的提示词风格对小模型影响甚微，真正决定输出质量的是格式指令行——它甚至能造成45分的性能差距。
同一个插件，86.1%还是8.5%省Token？测准是前提
同一个 dsh-phocinae 插件在 400 个用例上，τ=0.4 时省 86.1% 计费 Token，τ=0.6 时只有 8.5%。本文拆解 Token 节省的三个计数器、每案例 3055.5 tokens 的账单结构，以及如何在自己的流量上复现测量。
本地大模型能取代 Claude Code 吗？SWE-bench 用错了
SWE-bench 分数逼近云端，本地大模型真能替代 Claude Code 吗？本文拆解 2026 年七大家族的真实用途、24GB 显存甜点区、工具调用可靠性这堵被排行榜隐藏的墙，以及本地 vs 云端的分工账。
微软Hybrid Intelligence上线：Windows版Copilot如何读懂你的PC
微软为Windows版Copilot推出Hybrid Intelligence混合智能，可在用户授权下读取PC上下文、代替执行操作，并在合适场景调用本地模型，兼顾能力提升与算力成本节省。本文解析其三大能力与行业意义。
ChatGPT智能UI被24小时逆向工程，开源版可用本地模型复现
ChatGPT新推出的智能UI（生成式UI）功能在发布24小时内被团队逆向工程，并推出开源版Open Intelligent UI，支持通过Ollama、LM Studio等本地LLM复现类似体验。本文解析生成式UI的技术光谱与本地推理可行性。
AnswerUI：ChatGPT智能界面的开源替代，支持任意本地模型
开发者开源了 ChatGPT Intelligent UI 的替代方案 AnswerUI，支持 Ollama、Kimi、OpenRouter 等任意 OpenAI 兼容模型，可本地运行。回答以滑块、图表等交互界面呈现，一条命令即可启动，无遥测、重隐私。
PewDiePie被OpenAI两度封号：本地模型的意外广告
PewDiePie因使用OpenAI API生成训练数据微调本地模型Ajax，两度被OpenAI封号，最终转向开源工具搭建9B本地智能体。这场风波意外成为本地AI与开源模型的免费广告，也引发数据使用双重标准的讨论。
LM Studio 完全教程：本地运行大模型的最佳方式
LM Studio 完整使用教程：从下载安装、按显存挑选模型、量化与上下文优化，到启用兼容 OpenAI 的本地 API 服务器并接入 VS Code。手把手教你在自己电脑上免费运行本地大模型。
SmallCoder实测：零API成本的本地AI编程智能体
SmallCoder是一款开源免费、专为本地开源模型优化的AI编程智能体，支持Ollama与LM Studio自动检测，零API成本离线运行。本文实测安装流程、计划与压缩机制，以及用大模型规划+小模型执行构建复杂项目的技巧。
M4 Max实测Qwen 27B：本地模型的tokens/s背后真相
开发者在M4 Max MacBook Pro上系统实测Qwen 27B本地模型，揭示tokens/sec之外被忽略的TTFT、提示处理与内存压力。MLX相比GGUF解码提速近4倍，128K上下文满载却需等待20分钟以上。
