#QLoRA

共 46 篇相关文章

Ollama是GitHub上17万Star的开源工具，支持DeepSeek、Qwen、Gemma等主流大模型本地运行。本文详解Ollama的安装使用、支持模型、适用场景及核心优势，助你快速实现大模型本地化部署。

IBM Granite 4.1开源模型发布，Unsloth提供21种GGUF量化版本。Simon Willison用鹈鹕骑自行车SVG测试发现：3B小模型中量化级别对生成质量影响微乎其微，最小模型反而画出最好的自行车。

Unsloth 是 GitHub 6.3万星标的开源大模型训练工具，支持 Gemma 4、Qwen3、DeepSeek 等主流模型的本地微调与部署。提供 Web UI 界面，显存占用降低50%，训练速度提升2-5倍，适合企业和个人开发者使用。

全面解析Hugging Face Transformers开源框架，涵盖pipeline API三行代码跑模型、Hub生态80万预训练模型整合、Trainer训练工具链及多模态支持。掌握这个16万Star AI框架的核心用法与技术架构。

awesome-LLM-resources是GitHub上8200+ Star的LLM资源合集，涵盖多模态生成、AI Agent、模型训练推理、MCP协议等方向，为AI研究者和工程师提供从入门到进阶的系统学习路径。

深度解析Unsloth开源项目：通过Web UI实现本地大模型微调与推理，支持Gemma 4、Qwen3.6、DeepSeek等主流模型，显存降低70%，速度提升5倍。