共 159 篇相关文章

Ollama近期品牌重心从本地大模型部署转向云端API服务,引发Reddit社区激烈讨论。本文分析Ollama商业化转向背后的资本逻辑、社区担忧,以及开源AI工具用户应如何应对这一趋势变化。

一份系统化的AI工程师学习路线图,涵盖编程、数学、机器学习四大基石,以及LLM、RAG、智能体、MCP等前沿AI工程技术,附免费开源课程资源推荐。

深度分析AI产品发布如何引爆开发者社区情绪,解读Reddit、Discord等平台的集体兴奋背后的行业趋势,以及开发者如何从情绪化反应转向理性技术评估的完整框架。

深入解读AI团队如何通过Harbor平台实现Agent评估标准化,以及从执行轨迹到评估任务的数据转化方法论,探讨Agent评估工程化的核心趋势与实践路径。

Tomte是一款专为Apple Silicon优化的Gemma模型本地运行框架,免费开箱即用,提供高速推理体验。本文详解其核心功能、性能优势及与ChatGPT的对比,帮助Mac用户实现隐私安全的本地AI部署。

Vao2是一款开源个人信息聚合器,整合新闻、YouTube、GitHub和RSS订阅到单一信息流,通过Ollama本地AI生成内容摘要,兼顾隐私保护与零成本使用,适合重视数据主权的技术用户。

详解如何将散落的自动化脚本整合为本地AI Agent智能中枢。涵盖Function Calling核心机制、Ollama+Qwen2.5本地部署方案、工具编排架构设计及完整落地路线图,适合独立开发者和小团队。

24GB内存Mac Mini运行本地大模型太慢?本文分析14B模型在Mac Mini上慢的原因,推荐适合Home Assistant等场景的3B-8B模型选型方案,并提供Ollama推理速度优化的实用建议。

MLflow 3.15.0带来三大核心更新:MCP Registry统一管理Agent工具生态、更智能的Assistant降低开发摩擦、Multimodal Judges支持多模态评估。深入解析这些功能如何提升AI Agent开发体验。

系统提示词是驱动LLM应用的核心组件,却常常缺乏版本控制和回归测试。本文探讨如何通过版本化、结构化拆分、回归测试和代码评审,将提示词纳入完整的工程管理闭环,避免提示词退化和指令冲突。

详解如何用Ollama本地部署大模型,结合Qwen-Agent构建私人AI助手。涵盖RAG知识接入、语音交互、权限隔离等核心技术,提供完整实现路线图,兼顾能力与安全的本地AI Agent架构设计。

一款无需Python环境的命令行工具,支持在本地完成文本、图像、视频、音乐和3D内容生成。了解这款多模态CLI工具的技术思路、优势与局限,以及本地AI工具化的发展趋势。

本地部署大模型在Agent框架中频繁崩溃或卡顿?问题可能出在num_gpu参数设置过高。本文解析num_gpu的真实含义(GPU层卸载而非显卡数量),揭示显存争夺导致KV Cache溢出的机制,并提供实用调优方案。

深入解析Chrome内置AI技术,探讨浏览器本地运行AI模型如何实现数据零上传、即时响应,并通过时尚推荐实例展示端侧AI在隐私保护和开发成本方面的优势。

Kimi K3 模型正式登陆 Ollama Cloud,被标注为「超高用量」类别。本文解析 Kimi K3 的免费调用额度、云端推理体验、技术优势,以及开发者如何通过 Ollama 统一接口无缝调用这款高性能大语言模型。

HuggingHack发布重磅更新,新增S3/MinIO对象存储支持、Ollama与vLLM双引擎智能调度、GGUF格式检查及本地账户系统,全方位提升本地化大语言模型管理能力,助力团队私有化部署与多用户协作。
每日AI新鲜事·07月27日午间版:AI成本分析工具与Kimi K3开源
2026年07月27日午间版 AI新闻速递+热点深度讨论

SayIt是一款开源AI语音输入工具,支持本地模式、云API及服务器三种部署方式,兼容DeepSeek、通义千问等主流大模型,可自定义润色Prompt,是Typeless的理想自托管替代品。