#30B模型
共 139 篇相关文章
·5 分钟
LFM2.5发布：2.6B小模型如何媲美4倍大模型
Liquid AI发布LFM2.5模型，仅2.6B参数即可在多项基准测试中媲美10B级大模型。本文解析其架构创新、训练策略及对AI行业效率优化趋势的深远影响。
阅读全文 →
·7 分钟
Meta Muse Glimmer：30B开源本地编程模型深度解析
深度解析Meta Muse Glimmer开源编程模型，30B参数规模支持本地运行，开放权重保障数据隐私。详解其技术定位、适用场景、部署要求及与Code Llama、DeepSeek Coder等竞品的对比分析。
阅读全文 →
·10 分钟
Needle2：仅14MB的端侧智能体大模型如何改变边缘AI
Needle2是一个仅14MB的端侧智能体大模型(agentic LLM)，专为手机、可穿戴设备、智能家居和机器人设计。本文深入分析其技术原理、极致压缩策略及应用场景，探讨端侧AI从云到端的范式转移趋势。
阅读全文 →
·11 分钟
24GB显存跑本地LLM？实际可用显存没那么多
详解24GB显卡跑本地大语言模型时显存的真实可用量。从模型权重、KV缓存到运行时余量，拆解显存三大消耗桶，提供结构化规划方法和实操建议，帮你避免OOM踩坑。
阅读全文 →
·12 分钟
扎克伯格再举开源大旗：Meta向封闭AI宣战
扎克伯格公开批评封闭AI策略，Meta坚定推进Llama开源路线。深度解析开源与封闭之争的商业逻辑、安全博弈及行业影响，探讨AI生态的未来权力格局。
阅读全文 →
·14 分钟
本地LLM自动生成论文幻灯片：兼顾效率与隐私
探索如何利用本地大语言模型（Local LLM）自动将学术论文转换为演示幻灯片，在保护未发表研究数据隐私的同时，大幅提升科研工作者制作PPT的效率。涵盖工具原理、隐私优势及本地AI应用趋势。
阅读全文 →
·18 分钟
OpenAI意外DDoS攻击Hugging Face事件复盘与启示
复盘OpenAI意外对Hugging Face造成DDoS攻击效果的完整事件经过，分析意外流量洪峰的技术原因，探讨AI基础设施的脆弱性、客户端责任与服务方防御策略，为大规模API消费方提供实践参考。
阅读全文 →
·15 分钟
GPT-5.6 Sol持续优化，Luna向免费用户开放：模型分层策略解读
OpenAI发布GPT-5.6系列双线更新：Sol模型持续优化推理能力，Luna版本向免费用户开放。深入解读Sol与Luna的命名逻辑、模型分层策略及对用户和行业的影响。
阅读全文 →
·18 分钟
本地部署AI模型入门：从Hugging Face下载到llama.cpp运行全流程
面向零基础开发者的本地AI模型部署指南，涵盖从Hugging Face安全下载模型、运行推理、导出GGUF格式并通过llama.cpp高性能本地运行的完整流程，附开源Python脚本实践。
阅读全文 →
·15 分钟
Mistral Shieldstral：3B参数开源多模态内容审核模型详解
Mistral发布Shieldstral开源多模态内容审核模型，仅30亿参数即可实现文本与图像安全检测。本文详解其核心特性、应用场景及与Llama Guard等竞品的对比，助力开发者构建低成本AI安全护栏。
阅读全文 →
·14 分钟
Maple-Preview：20B三元MoE模型iPhone端侧推理达120tok/s
Maple-Preview项目实现20B参数三元量化MoE模型在iPhone上以120 tok/s速度运行。本文拆解三元量化、MoE稀疏激活、端侧推理三大核心技术，分析端侧大模型部署的价值与挑战。
阅读全文 →
科技前沿
赚钱实战·第6期：Agent工程化时代的五条AI掘金路
·1 分钟
赚钱实战·第6期：Agent工程化时代的五条AI掘金路
每周三分享至少5个用AI赚钱的实战思路，逻辑清晰可执行
阅读全文 →
·16 分钟
Quantprobe：6GB显卡跑30B大模型的开源利器
Quantprobe是一个开源内存分配优化框架，通过逐层量化布局和智能CPU/GPU拆分，让6GB显存的老显卡以22 tokens/s速度运行30B参数大模型，大幅降低本地LLM部署的硬件门槛。
阅读全文 →
·7 分钟
4GB显卡微调8B大模型：显存优化技术详解
详解如何在4GB显存的笔记本显卡上微调80亿参数大模型，涵盖QLoRA量化、梯度检查点、梯度累积等显存优化技术原理，分析其实际价值与局限性。
阅读全文 →
·16 分钟
Mac仅需4.3GB内存运行80B大模型：极限压缩技术解析
深入解析如何在Mac上仅用4.3GB内存运行80B参数大模型的技术原理，涵盖超低比特量化、稀疏化、内存映射等关键技术，探讨本地大模型部署对隐私保护和边缘AI的深远意义。
阅读全文 →
·14 分钟
Nightcrawler：手机本地运行的AI渗透测试代理深度解析
深入解析Nightcrawler项目，一个完全在智能手机本地运行的AI渗透测试代理。探讨端侧AI技术如何赋能网络安全测试，分析其技术架构、应用场景与潜在风险。
阅读全文 →
·13 分钟
Token经济学：AI时代的价值新度量单位
深入解析Token如何从大语言模型的技术概念演变为AI经济的核心计量单位。探讨AI Agent时代Token消耗爆炸、成本优化策略及Token经济学对开发者和投资人的深层影响。
阅读全文 →
·14 分钟
从零训练13亿参数大模型：完整流程与核心挑战解析
深入解析从零训练1.3B参数大语言模型的完整实践流程，涵盖Transformer架构设计、数据准备、分布式训练优化等核心环节，为开发者提供可复现的技术参考。
阅读全文 →
