SHAP

SHAP（SHapley Additive exPlanations）是主流的机器学习模型解释框架，理论基础源自博弈论中的Shapley值

LIME和SHAP是可解释AI（XAI）领域中尝试事后解释模型行为的方法

LIME（局部可解释模型无关解释）和SHAP（Shapley加性解释值）是为复杂黑箱模型提供事后解释的主要工具

SHAP基于博弈论中的Shapley值，能够量化每个特征对最终预测结果的贡献度，是目前工业界应用最广泛的解释性工具之一

LIME通过在输入样本周围生成扰动数据集训练局部线性近似模型来解释单次预测，SHAP基于博弈论Shapley值提供特征归因，两者均为模型无关技术

经典深度学习解释方法（如Integrated Gradients、SHAP、Grad-CAM）大多依赖近似，通过梯度或采样估计特征重要性，计算成本高且结果受基线选择影响。

事后解释方法包括SHAP和LIME，内在可解释模型包括线性模型和决策树

研究采用SHAP量化每个特征对情感预测的贡献，并借助GRAD-CAM对声乐技巧的学习表征进行定性评估，二者互补形成从输入特征到模型决策的完整解释链条。

SHAP精确计算随特征数量呈指数增长，实际中通常采用KernelSHAP或TreeSHAP等近似算法。

SHAP分析表明，颤音对情感的影响是上下文相关的，具体取决于发音速率（articulation rate），同样的颤音在不同语速下可能传递不同的情感色彩。

当前可解释性主流路径包括事后归因方法（如注意力可视化、SHAP）与机制可解释性（如稀疏自编码器、电路分析），后者试图在神经元激活层面定位可识别的「特征电路」。

SHAP值的采样次数不足会导致归因结果不稳定，表现为不同运行间特征排名波动；建议增加采样次数或使用DeepSHAP，并报告归因的置信区间。

SHAP值度量的是特征对模型预测的贡献程度，基于统计相关性而非因果效应，因此不能证明温度是强度的直接因果驱动因素。

SHAP和PDP分析表明，温度是影响高温后抗压强度的首要因素，其后依次为细骨料、减水剂、水泥用量、水胶比和用水量。

可解释性技术包括特征重要性分析、局部近似解释（如LIME、SHAP）以及本身可解释的模型设计。

2017年Lundberg与Lee提出SHAP，将Shapley值引入机器学习可解释性领域。

提供可解释性信息（如 LIME 或 SHAP 生成的特征归因）能够有效对抗自动化偏见

LIME、SHAP、Grad-CAM等基于像素级归因的方法解释单元是像素或区域，而非人类熟悉的语义概念

SHAP和LIME都是事后（post-hoc）解释框架，不改变模型本身，而是在预测完成后再生成解释

行业内常用的医疗AI可解释性缓解手段包括注意力可视化（Grad-CAM）、SHAP值解释以及'人在回路'设计