OpenAI 兼容 API
核心事实
时间轴 (近 90 天)
应用的通信架构分为两条通道:Android 客户端通过 Hermes 提供的本地 OpenAI 兼容 API 与 Agent 交互;另一条独立的控制 API 负责管理虚拟机和 Agent 的生命周期。
Spring AI 和 LangChain4j 都是 JVM 上成熟的 LLM 集成选项,两者都支持 OpenAI 兼容 API,覆盖大量托管模型和本地模型服务(如 Ollama、vLLM)。
Dynamo 前端暴露 OpenAI 兼容 API,客户端使用熟悉的 routes 调用,前端将请求路由到后端 Worker。
Locally Uncensored 在 8129 端口暴露一个 OpenAI 兼容的本地 API,默认仅监听 localhost 且要求 token 认证。
LLST 通过 OpenAI 兼容 API 的 token 模式对接,支持多种推理框架
全部知识事实 (6)
OpenAI API格式已成为大模型领域事实上的行业标准接口规范,其核心是/v1/chat/completions端点
80%待验证应用的通信架构分为两条通道:Android 客户端通过 Hermes 提供的本地 OpenAI 兼容 API 与 Agent 交互;另一条独立的控制 API 负责管理虚拟机和 Agent 的生命周期。
50%待验证Spring AI 和 LangChain4j 都是 JVM 上成熟的 LLM 集成选项,两者都支持 OpenAI 兼容 API,覆盖大量托管模型和本地模型服务(如 Ollama、vLLM)。
50%待验证Dynamo 前端暴露 OpenAI 兼容 API,客户端使用熟悉的 routes 调用,前端将请求路由到后端 Worker。
50%待验证Locally Uncensored 在 8129 端口暴露一个 OpenAI 兼容的本地 API,默认仅监听 localhost 且要求 token 认证。
50%待验证LLST 通过 OpenAI 兼容 API 的 token 模式对接,支持多种推理框架
50%