Docker Model Runner
Docker Model Runner 是 Docker 平台提供的 AI 模型本地运行组件,允许开发者使用标准 Docker 命令拉取、管理和运行大语言模型及其他 AI 模型。它将模型运行环境容器化,提供与 OpenAI API 兼容的接口,便于开发者在本地环境中集成和测试 AI 模型能力,无需依赖外部云服务。
时间轴 (近 90 天)
Ollama、LM Studio、Open WebUI、Docker Model Runner、LocalAI、TabbyAPI 属于封装层工具,不改变底层能力,只提供调用便利性。
Docker Agent采取模型无关策略,支持OpenAI、Anthropic、Gemini、xAI、Mistral等云端模型,也能通过Docker Model Runner运行本地模型
Docker Agent 兼容 OpenAI、Anthropic、Gemini 以及 Docker Model Runner,不绑定单一厂商
LM Studio、Ollama、Docker Model Runner等工具本质上大多是推理引擎的封装
Docker Model Runner目前作为Docker Desktop的实验性功能提供,在Linux加NVIDIA硬件上表现好,暴露REST API端口约12434
全部知识事实 (8)
容器内运行时通过model-runner.docker.internal这个内部DNS与Docker Model Runner模型服务通信
90%待验证本地开发时Docker Model Runner的模型API地址为localhost:12434
85%待验证Docker Model Runner使用GGUF格式的量化模型文件,这些文件被打包为符合OCI规范的artifact
85%待验证Ollama、LM Studio、Open WebUI、Docker Model Runner、LocalAI、TabbyAPI 属于封装层工具,不改变底层能力,只提供调用便利性。
50%待验证Docker Agent采取模型无关策略,支持OpenAI、Anthropic、Gemini、xAI、Mistral等云端模型,也能通过Docker Model Runner运行本地模型
50%待验证Docker Agent 兼容 OpenAI、Anthropic、Gemini 以及 Docker Model Runner,不绑定单一厂商
50%待验证Docker Model Runner目前作为Docker Desktop的实验性功能提供,在Linux加NVIDIA硬件上表现好,暴露REST API端口约12434
50%待验证LM Studio、Ollama、Docker Model Runner等工具本质上大多是推理引擎的封装
50%