#可解释AI
共 14 篇相关文章
AI解码人类基因组调控的局限与突破口
人类基因组98%的非编码调控区域仍是未解之谜。本文分析AI基因组基础模型在黑箱解释、机制洞察与因果推断上的结构性局限，探讨物理感知神经网络、CRISPR扰动数据与多模态整合如何推动可解释基因组AI的发展。
公式可追溯AI：ADE决策引擎如何让俄罗斯方块AI可解释
ADE（Aether Decision Engine）通过公式可追溯流水线让俄罗斯方块AI的每次决策都可审计，平均延迟仅0.18ms，并展示该模式在自动驾驶、金融交易、医疗诊断等领域的通用价值。
DecisionLens：带证据溯源的离线AI决策智能体
DecisionLens 是一个用纯 Python 标准库编写的离线零依赖AI决策智能体，每条结论都附带文件、行号和字段的证据引用，可审计、可调试且绝不编造。本文解析其感知-推理-解释循环、评测设计与离线数据安全特性。
Hide and Seek：无需模型权重的黑盒视觉模型概念解释新方法
Hide and Seek（HnS）是一种新型概念级归因方法，无需访问模型权重或标注数据集即可解释黑盒视觉模型。本文解析其遮蔽-观测的四步原理、在CelebA与COCO-Stuff上的验证结果，以及在图像描述和卫星分割等任务上的通用性。
稀疏弹性网络如何实现可解释的泛癌分类
解析稀疏弹性网络（Elastic-Net）如何用于可解释的泛癌分类与生物标志物发现，探讨其在高维基因数据中的特征选择优势及在精准医疗中的价值与局限。
从对数几率到Shapley值：加权朴素贝叶斯的可解释几何
arXiv新论文为加权朴素贝叶斯分类器构建可解释几何框架，证明对数几率诱导的监督距离精确等于解析Shapley值的ℓ1距离，统一了监督距离、局部解释与预测行为三者关系。
可解释自杀风险评估：从预测走向证据溯源
基于IEEE BigData可解释自杀风险检测挑战赛，一套融合风险评估、证据溯源与因素识别的框架，让AI对社交媒体帖子的自杀风险判断不仅给出结论，还能提供支撑证据与心理社会因素分析，推动心理健康AI走向可解释。
BoT-Feedback：用生物力学证据让AI教练反馈更可解释
BoT-Feedback 提出"思维生物力学"四阶段推理框架，将多模态大模型的动作反馈建立在生物力学证据之上，专家评分提升40%，大幅减少幻觉，让开源小模型逼近大型专有系统。
域偏移下的行人检测：可信度控制的XAI可解释性审计
一项arXiv研究针对自动驾驶行人检测模型，提出可信度控制的XAI可解释性审计方法。研究发现D-RISE等解释的忠实度与检测强度强耦合（相关系数0.70-0.82），且在域偏移下仍具域依赖性，揭示安全攸关感知需要更稳健的解释评估范式。
零样本重建动力系统：极简可解释架构的研究探索
一项关于零样本重建动力系统的研究提出极简可解释架构，探索在无针对性训练下还原系统演化规律。本文解析其核心思路、零样本泛化意义及科学机器学习价值。
合成基准破解可解释AI评估难题：九种XAI方法测试揭示局限
arXiv论文提出基于合成真值的可解释AI（XAI）评估框架，通过受控干预构建已知重要性的数据集，在图像、表格、时间序列三大领域测试九种主流XAI方法，揭示现有技术的显著局限。
AI·rete·RAG：用Rete规则引擎决策，RAG解释理由
开源项目 AI·rete·RAG 提出一种混合架构：用 Rete 规则引擎做确定性决策，用 RAG 解释决策理由。本文解析其神经符号思路与可解释AI的工程价值。
