共 157 篇相关文章

Homebench是一款开源的本地大模型评测工具,从速度、内存占用和输出质量三个维度综合评估LLM在本地硬件上的真实表现,帮助开发者做出最优的模型选型和量化方案决策。

阿里巴巴发布Qwen3.8-Max模型,拥有2.4万亿参数,具备超10天自主编程、闭环多模态智能等突破性能力。即将开放权重,API定价极具竞争力,标志着AI从工具迈向自主协作者。

Unsloth与Thinking Machines合作推出Inkling模型动态1-bit GGUF量化版本,将模型从1.9TB压缩至270GB,缩减86%且保留74.2%准确率,并支持视觉和音频多模态能力,大幅降低本地部署门槛。

AI辅助数据分析成本降低10倍背后的技术逻辑与行业影响。从Text-to-SQL到算力成本下探,解析数据分析民主化趋势、分析师角色转变及落地风险。

Vao2是一款开源个人信息聚合器,整合新闻、YouTube、GitHub和RSS订阅到单一信息流,通过Ollama本地AI生成内容摘要,兼顾隐私保护与零成本使用,适合重视数据主权的技术用户。

MacWages Index借鉴巨无霸指数思路,将AI完成任务的价值折算为人类工资等价物,为企业量化AI投入产出提供直观参照。本文解析其核心理念、方法论挑战及对AI价值定价的启发意义。

24GB内存Mac Mini运行本地大模型太慢?本文分析14B模型在Mac Mini上慢的原因,推荐适合Home Assistant等场景的3B-8B模型选型方案,并提供Ollama推理速度优化的实用建议。

深入解析Heretic去审查技术在Jamba2-Mini、Qwen3.5-9B和27B三款开源模型上的应用实践,探讨拒答率从97%降至4%的技术原理、部署方式及去审查模型的安全争议。

探讨AI大模型迭代速度加快的趋势:Qwen3.6 27B等开源小模型在基准测试中逼近甚至超越GPT-5,分析背后的技术原因、开源崛起的力量,以及对AI行业未来竞争格局的深远影响。

7月24日AI行业要闻:黑森林实验室发布Flux 3多模态模型,美英政府测试显示Kimi K3落后前沿模型,阿里通义Qwen-Audio 3.0登顶TTS排行榜,Etched完成3亿美元融资,AMD发布MI430X加速器。

深度分析国内用户使用ChatGPT面临的注册、访问障碍,客观评估第三方镜像聚合平台的真实风险,并提供官方API自建、国产大模型等更安全可靠的替代方案。

Thinking Machines发布Inkling开源多模态大模型,近万亿参数MoE架构,100万tokens上下文窗口,Apache 2.0协议开源。本文深度解析其技术架构、基准表现、实测体验与定价策略。

Ollama紧急扩容迎接万亿参数级开源模型,Kimi K3、Qwen 3.8等即将开源。同期Hugging Face向OpenAI提出1亿美元安全补偿,阿里Coder移动端上线,DeepSeek暂停融资。一文梳理开源大模型生态最新动态。

月之暗面Kimi-K3模型即将在HuggingFace发布,从模型架构、许可协议到社区反应,全面解读这一国产大模型开源事件的战略意义与行业影响。

一位创客用NVIDIA Jetson Orin和4S LiPo电池DIY陪伴机器人,从通电成功到AI交互的完整开发历程。了解Jetson Orin边缘计算在机器人项目中的技术选型、供电设计与陪伴机器人的发展趋势。

详解Ollama连接OpenWebUI后回答质量下降、响应变慢的常见原因,涵盖num_ctx上下文截断、采样参数差异、GPU资源争抢、系统提示词干扰等排查方法,附系统化排查清单。

月之暗面正式发布Kimi K3,2.8万亿参数、100万上下文、原生多模态开源模型。凭借KDA架构创新与超低成本,在编程、知识工作等基准测试中媲美GPT-5.6与Fable 5,重新定义AI竞赛性价比。

Redis作者antirez开发纯C推理引擎DS4「矮星」,通过不对称量化将DeepSeek V4 Flash从500GB压缩至80.8GB,实现128GB统一内存本地部署,每秒生成26.7个Token。本文深度解析MoE架构优势、三档部署现实与本地大模型的真正门槛。

前沿AI模型正加速走向通用化:成本大幅下降、通用模型在数学推理与竞赛编程中超越专用模型、小型编程任务趋近自动化、多智能体工作流持续进化。本文深度解析这些信号背后的技术逻辑与行业影响。

开发者发现llama.cpp中一个潜藏多年的CUDA精度Bug,仅影响NVIDIA Tesla P100(sm_60架构)。三行代码修复后,KL散度中位数降低约2300倍,首选token一致性从96.5%提升至99.9%,且性能不损反增。本文深入解析Bug根源、测量数据与市场影响。