本地推理的两大核心优势是隐私性和零边际成本，代价是对硬件有一定要求且模型参数规模和知识覆盖面往往不及云端大模型。