共 117 篇相关文章

Unsloth v0.1.462-beta 发布,为 Studio 模型选择器新增完整键盘导航支持,修正 Tab 键焦点顺序,提升无障碍访问体验。了解此次更新对 LLM 微调工作流的实际影响。

Unsloth发布v0.1.463-beta版本,修复Studio在llama-server服务发现时因access-denied权限错误导致崩溃的问题。适用于多用户服务器及Windows环境用户,提升大模型微调框架稳定性。

Rowboat是一款开源、本地优先的AI桌面客户端,定位为Claude Desktop替代方案。数据存储本地、代码完全透明,助力开发者掌控隐私与工作流,告别云端依赖。

用Ollama+Hermes构建完全私有的本地AI系统:零费用、无速率限制、数据不出本地。本文详解部署步骤、模型选择技巧及私有/云端混合工作流,助你真正"拥有"AI而非"租用"AI。

Unsloth v0.1.45-beta正式发布,带来Gemma 4多token预测(MTP)完整支持、AMD ROCm与NVIDIA Blackwell硬件适配、全新Hub下载管理器与紧凑型RAG系统,助力本地大模型微调与推理提速。

谷歌本周密集发布多项AI更新:Gemini 3.5 Live Translate实现实时语音翻译,NotebookLM引入智能体能力,DiffusionGemma探索文本扩散生成技术,Project Genie向高级用户开放。一文梳理谷歌最新AI布局与战略意义。

Unsloth v0.1.46-beta正式发布,核心变更聚焦DiffusionGemma:默认禁用工具调用、启用artifacts画布。本文深度解析此次更新背后的产品逻辑与扩散语言模型的发展趋势,适合LLM微调开发者参考。

嵌入坍缩是小语言模型训练中的隐蔽瓶颈,导致词向量表示趋同、模型性能受损。本文深入解析分散损失(Dispersion Loss)的核心原理——通过在训练阶段引入表示分散约束,以零推理成本提升小模型的表达质量,为边缘AI与轻量化部署提供新思路。

DeepSeek联合北京大学推出开源框架DiSpark,通过投机解码、半自回归生成与分级验证技术,在不更换硬件、不重训模型的前提下,让大语言模型推理速度提升60%至85%,同时保持输出质量。

在16GB M4 Mac Mini上实测Ornith 9B本地编码模型:LM Studio部署、塔防游戏实战对比35B,深度解析小模型精度瓶颈与本地化AI编码的务实选型建议。

Unsloth最新版本一次性带来GLM-5.2全推理级别支持、3倍长上下文能力(单卡q4_0可达20万token)、全新Model Hub及Chat Canvas交互功能,大幅提升本地大模型微调与推理体验。

Unsloth最新版本v0.1.464-beta新增DiffusionGemma、Gemma 4 MTP和MiniMax-M3支持,推理速度提升约2倍。同时带来全新Hub页面、文档RAG问答、张量并行优化及Cloudflare加密隧道,覆盖CUDA/ROCm/Windows全平台。

Unsloth发布v0.1.47-beta版本,这款拥有6.79万Star的开源大模型微调框架,可将Llama、Mistral、Qwen等主流模型微调速度提升2倍以上,显存占用降低约70%,让消费级GPU也能完成高效微调。

本文系统讲解CrewAI核心概念(Agent、Task、Process、Crew、Pipeline),并演示如何结合FastAPI封装多Agent协作服务。涵盖GPT、通义千问、Ollama本地模型三种接入方案及实测对比,助你快速上手多智能体应用开发。

AIVenture是Google团队推出的开源复古地牢游戏,将Vibe Coding、智能体工作流、工具调用等AI工程概念融入可玩关卡。基于Angular、Phaser.js与Gemma模型构建,支持本地与云端灵活部署,是开发者学习生成式AI应用开发的实践利器。

深度解析Qwen3.6两款社区衍生模型:27B扩展至34B 80层提升推理与蒸馏能力,35B MoE压缩至14B实现8GB显卡本地部署。涵盖REAP剪枝策略、MoE专家冗余现象及选择建议。

Google Android Bench基准测试显示,开源前沿模型已能解决50%-60%的Android开发任务,Gemma 4等中等规模模型仅需20GB RAM即可本地运行,本地AI辅助Android开发正式成为可行方案。

Google推出DiffusionGemma文本扩散语言模型,推理速度达Gemma 4系列的4倍。本文解析文本扩散技术原理、4倍速度提升的实际意义,以及这一架构创新对AI行业的深远影响。