端侧 AI
端侧AI指在设备本地完成人工智能推理与计算，无需将数据上传至云端。依赖专用NPU芯片加速模型运算，核心优势是低延迟、隐私保护和断网可用，约束在于算力冗余需求和模型压缩要求。
核心事实
时间轴 (近 90 天)
每增加一种 Siri 支持的语言，都需要在有限的设备资源约束下重新训练、压缩和部署对应的语音识别与语义理解模型。
Siri 的 AI 能力高度依赖设备本地处理（端侧 AI）。
端侧 AI 的优势在于低延迟、隐私保护和离线可用性，但受限于设备算力与存储，模型规模通常远小于云端大模型。
端侧运行把数据处理限制在员工设备内，减少了数据在第三方服务器留存的风险，也更易通过企业终端管理策略进行审计
智能体能否本地运行，关键不只是模型能否本地推理，还取决于工具调用链路、权限控制与执行环境是否都在端侧闭环
Perplexity 此举延续了 AI 产品向端侧迁移的趋势，将智能体放在本地运行回应了企业用户对数据合规的顾虑，并减少了对网络和云端算力的依赖
本地运行的性能上限取决于设备硬件，复杂任务的处理能力和响应速度可能与云端版本存在差异，官方尚未给出对比数据
本地运行并不自动等同于完全合规：模型来源、日志记录方式、应用自身的网络行为仍需单独评估，因此这类功能通常被视为降低合规摩擦的手段，而非合规的充分条件
过去端侧大模型的优化重心多在量化与剪枝，而系统层的调度与预取同样能释放巨大空间。
端侧处理是指AI模型直接在用户设备上运行推理和计算，而不将原始数据上传至云端。
还有 7 条时间轴事件
全部知识事实 (18)
端侧处理是指AI模型直接在用户设备上运行推理和计算，而不将原始数据上传至云端。
75%已验证本地运行的模型相较于云端千亿参数大模型，在推理深度、上下文长度和复杂分析能力上有所取舍
65%待验证端侧 AI 的优势在于低延迟、隐私保护和离线可用性，但受限于设备算力与存储，模型规模通常远小于云端大模型。
50%待验证Siri 的 AI 能力高度依赖设备本地处理（端侧 AI）。
50%待验证每增加一种 Siri 支持的语言，都需要在有限的设备资源约束下重新训练、压缩和部署对应的语音识别与语义理解模型。
50%待验证本地运行并不自动等同于完全合规：模型来源、日志记录方式、应用自身的网络行为仍需单独评估，因此这类功能通常被视为降低合规摩擦的手段，而非合规的充分条件
50%待验证智能体能否本地运行，关键不只是模型能否本地推理，还取决于工具调用链路、权限控制与执行环境是否都在端侧闭环
50%待验证Perplexity 此举延续了 AI 产品向端侧迁移的趋势，将智能体放在本地运行回应了企业用户对数据合规的顾虑，并减少了对网络和云端算力的依赖
50%待验证端侧运行把数据处理限制在员工设备内，减少了数据在第三方服务器留存的风险，也更易通过企业终端管理策略进行审计
50%待验证本地运行的性能上限取决于设备硬件，复杂任务的处理能力和响应速度可能与云端版本存在差异，官方尚未给出对比数据
50%待验证过去端侧大模型的优化重心多在量化与剪枝，而系统层的调度与预取同样能释放巨大空间。
50%待验证端侧智能体对模型的要求与云端智能体有明显差异，低延迟和稳定的结构化输出往往比绝对智能水平更关键。
50%待验证端侧 AI 的两个约束是芯片需保留算力冗余，以及模型需针对有限内存与功耗做压缩。
50%待验证端侧 AI 面临的三个主要现实约束是：内存硬约束（两个模型不能共存）、散热和续航隐性成本（神经引擎持续推理产生热量、高耗电）、模型更新运维难题（用户需重新下载数百 MB 甚至 GB 级权重）。
50%待验证适合端侧 AI 的场景包括：对隐私极度敏感的个人数据处理、网络不稳定或不可用的环境、需要低延迟响应的简单交互；不适合的场景包括：复杂推理、大规模知识检索、需要频繁更新模型能力的应用。
50%待验证文章认为端侧 AI 得益于小模型、量化和移动端推理框架的组合，使业余开发者无需服务器即可在消费级安卓设备上运行有交互能力的 AI
50%待验证离线运行带来隐私保护、无网络依赖和零 API 成本等好处
50%待验证无人机AI系统通常依赖边缘计算，在本机上运行轻量化计算机视觉模型而非依赖后方服务器
50%