云端推理
AI 模型部署在数据中心、用户通过网络传输请求并获得回传结果的推理方式，可运行更大模型但依赖网络连接且存在数据外传风险
核心事实
时间轴 (近 90 天)
本地推理在隐私敏感场景、离线环境和低延迟交互中具有云端推理不可替代的优势。
生产环境建议采用边缘预处理加云端推理的混合架构，边缘侧负责视频抽帧、ROI裁剪和初步过滤，云端运行更重的检测模型并聚合多摄像头数据。
现实更可能是混合模式：对延迟敏感、隐私要求高、任务固定的场景，本地推理有不可替代的价值；对需要前沿能力、弹性扩展、大规模并发的场景，云端依然是更经济的选择。
对于以云端推理为主的照片配对功能，数据流转路径、保存期限及是否用于模型训练会成为用户信任与合规审查的焦点。
在消费级产品中，照片配对能力往往先在云端完成推理，再将结果推送到设备端。
本地版本在能力上往往与云端全量版本存在差距。
实际产品往往采取混合策略：意图识别、记忆检索等轻量任务放在本地，复杂推理按需调用云端。
云端推理方案面临网络中断时的降级策略、数据隐私与传输安全、以及在不同网络环境下的延迟稳定性等现实挑战，对于工业机器人或医疗机器人等场景可能成为采用的硬性障碍。
云端推理需要把数据打包上传、排队等待 GPU 资源、再把结果传回，单次往返往往在数百毫秒到数秒之间；本地推理把这些环节压缩到同一台机器内，延迟主要取决于本机算力。
边缘AI方案将小型化模型部署在本地芯片上，数据不出设备；受限于算力和功耗，其对话能力通常弱于云端方案。
还有 10 条时间轴事件
全部知识事实 (20)
本地 AI 推理与云端推理的本质区别在于计算发生的位置：云端需要将提示词和上下文数据发送至远程服务器由服务商 GPU 完成运算，本地推理则把模型权重下载到用户设备并在本机完成前向传播
65%待验证云端推理需要经历网络往返（请求上行、服务器排队、模型计算、结果下行），每一步都会引入延迟
60%待验证本地推理的权衡在于数据不出本地、无API成本、完全可控，但即便顶级消费级硬件token吞吐速度也难以匹敌云端专用部署
60%待验证本地推理在隐私敏感场景、离线环境和低延迟交互中具有云端推理不可替代的优势。
50%待验证生产环境建议采用边缘预处理加云端推理的混合架构，边缘侧负责视频抽帧、ROI裁剪和初步过滤，云端运行更重的检测模型并聚合多摄像头数据。
50%待验证现实更可能是混合模式：对延迟敏感、隐私要求高、任务固定的场景，本地推理有不可替代的价值；对需要前沿能力、弹性扩展、大规模并发的场景，云端依然是更经济的选择。
50%待验证对于以云端推理为主的照片配对功能，数据流转路径、保存期限及是否用于模型训练会成为用户信任与合规审查的焦点。
50%待验证在消费级产品中，照片配对能力往往先在云端完成推理，再将结果推送到设备端。
50%待验证本地版本在能力上往往与云端全量版本存在差距。
50%待验证实际产品往往采取混合策略：意图识别、记忆检索等轻量任务放在本地，复杂推理按需调用云端。
50%待验证云端推理方案面临网络中断时的降级策略、数据隐私与传输安全、以及在不同网络环境下的延迟稳定性等现实挑战，对于工业机器人或医疗机器人等场景可能成为采用的硬性障碍。
50%待验证云端推理需要把数据打包上传、排队等待 GPU 资源、再把结果传回，单次往返往往在数百毫秒到数秒之间；本地推理把这些环节压缩到同一台机器内，延迟主要取决于本机算力。
50%待验证边缘AI方案将小型化模型部署在本地芯片上，数据不出设备；受限于算力和功耗，其对话能力通常弱于云端方案。
50%待验证端侧推理与云端推理的核心差异在于约束条件改变：端侧受限于功耗预算、热设计、内存带宽和散热条件，模型通常需量化和稀疏化，推理延迟要稳定可预测。
50%待验证云端推理延迟由排队、网络往返、推理时间三部分构成，其中排队和网络往返几乎无法控制。
50%待验证纯云端推理模式的主要代价包括延迟、网络依赖、隐私风险以及持续调用带来的成本。
50%待验证本地推理与云端推理的核心差异在于计算发生的位置，本地推理直接在本机 CPU 或 GPU 上完成计算，省去网络延迟，不受服务端速率限制，且天然支持离线运行。
50%待验证在云端推理中，速度与成本往往成反比，更快的响应通常意味着占用更多并行计算资源
50%待验证本地推理指AI模型直接运行在设备芯片上，响应更快、不依赖网络、隐私数据不离开本机；云端推理则将请求发送至服务器处理，能调用更大模型但受网络延迟和数据上传风险影响
50%待验证云端推理通常有数十到数百毫秒的网络往返延迟，对于机器人控制、自动驾驶等实时性要求极高的场景不可接受
50%