共 122 篇相关文章

Poolside 发布开源智能体编程模型 Laguna S 2.1,118B总参数仅激活8B,DeepSWE基准得分40.4%,超越DeepSeek V4 Pro Max约4.5倍。支持百万Token上下文,单台工作站可部署,OpenRouter定价$0.10/百万Token起,256K上下文端点免费。

Redis作者antirez开发纯C推理引擎DS4「矮星」,通过不对称量化将DeepSeek V4 Flash从500GB压缩至80.8GB,实现128GB统一内存本地部署,每秒生成26.7个Token。本文深度解析MoE架构优势、三档部署现实与本地大模型的真正门槛。

全面解析Spring AI核心模块:ChatModel对话、EmbeddingModel向量化、RAG检索增强生成、Tool Calling工具调用及MCP协议。Java开发者快速接入DeepSeek、ChatGPT等大模型的实战教程,涵盖Milvus向量数据库与Ollama本地模型集成。

Spring AI 1.0稳定版发布,Java开发者无需转Python即可开发AI应用。本文涵盖大模型接入、RAG知识库、智能客服、Agent智能体五种模式及企业级落地实践,助你用Spring技术栈全面进入AI开发领域。

阿里Qwen3 Max预览版完成重要迭代,前端代码生成质量显著提升,智能体工具调用更稳定可靠。本文基于PinBench实测数据,深度解析2.4万亿参数旗舰模型的核心改进、性能表现及免费使用方式。

手把手教你用Ollama+Dify搭建本地企业级RAG知识库,涵盖模型安装、IP监听配置、自定义微调模型导入、Embedding向量检索全流程,彻底摆脱云端API依赖,保障数据安全。

通过 Ollama 开源方案,将 Claude Code 等 AI 编程工具指向本地运行的开源模型,解锁 DeepSeek、Qwen3、Gemma 等数百个模型,在保持原有工作流不变的前提下,将 API 使用成本降至接近于零。本文详解配置方法、硬件要求与竞品对比。
llmfit:一条命令检测硬件能跑哪些本地大模型
llmfit 是用 Rust 编写的开源命令行工具,无需下载模型即可预判本地硬件能否运行指定 LLM。覆盖数百种模型与 Ollama、llama.cpp 等主流推理后端,帮助开发者在本地部署大模型前快速完成硬件适配评估,避免反复试错。

为想转型AI大模型领域的开发者提供一份系统学习路线:第一个月打好Python与API基础,第二个月聚焦开发岗技术栈(LangChain/FastAPI),第三个月通过RAG、AI Agent实战项目完成转型,少走弯路,快速上手。
每日AI新鲜事·07月16日午间版:MiniMax M3本地部署与Agent…
2026年07月16日午间版 AI新闻速递+热点深度讨论

Mesh LLM 是一款开源分布式推理框架,通过模型分层拆分,将多台普通设备聚合成「虚拟超级显卡」,让小显存机器也能运行数百GB的超大语言模型。本文详解其工作原理、跨平台安装体验,以及网络带宽这一不可回避的物理瓶颈。

Reddit社区曝光苹果M7 Ultra芯片规格,最高1.5TB统一内存或支持本地运行所有主流开源大模型。本文深度解析其技术架构、定价争议、内存带宽瓶颈及苹果生态锁定问题,探讨这款芯片对本地大模型部署的实际意义。

开发者仅凭GDScript与Vulkan计算着色器,无需llama.cpp或外部依赖,在Godot 4引擎内完整运行Gemma大语言模型。本文深入解析其技术架构、性能表现与实际价值,探讨游戏引擎原生运行LLM的可行性。

系统学习Spring AI框架:涵盖ChatModel对话、EmbeddingModel向量化、ChatMemory记忆、Tool Calling工具调用、MCP协议及RAG检索增强生成,Java开发者构建大模型应用的完整路线图。

深度实测AMD Ryzen AI Halo迷你AI盒子:搭载Ryzen AI Max Plus 395(Strix Halo)芯片,128GB统一内存,售价4000美元。对比英伟达DGX Spark,从Token生成、预填充速度到x86架构优势,全面解析谁更值得入手。

AI时代最真实的打工人困境:不是失业焦虑,而是订阅焦虑。ChatGPT、Claude、Copilot……月费叠加轻松破百美元,AI生产力工具究竟是助力还是新负担?本文深度拆解AI订阅经济的隐形成本与破局思路。

Ollama如何从小众开源项目成长为开发者默认选择?本文从产品设计、技术策略、生态建设三个维度,拆解Ollama在本地大语言模型工具领域快速崛起的核心逻辑,以及它对AI工具开发者的启示。

基于真实私有化部署实测,对比DeepSeek、千问3、智谱GLM、Kimi K2、MiniMax M3、腾讯混元3六款开源大模型的硬件成本、推理效率与落地难度,帮助企业找到最匹配的内网部署方案。

Databricks开源Meta-Harness工具Omnigent,支持编排Claude Code、Codex等多个AI编码助手协同工作,内置护栏策略、跨模型工作流与实时协作能力,10分钟即可上手,已在Databricks内部大规模验证。

AMD正式发布Ryzen AI Halo本地AI开发套件,售价约4000美元,搭载128GB统一内存,支持本地运行70B大模型。本文深度解析其配置亮点、定价策略及在本地AI算力市场的竞争格局,并梳理Anthropic大模型可解释性研究等科技要闻。