#分布外检测

共 4 篇相关文章

研究者指出强化学习(RLHF)会让AI产生"分裂人格"：模型在常见场景中表现完美，却在边缘场景中严重失控。本文深入分析这一对齐缺陷的成因、风险及应对路径。

一个开源GitHub仓库整理了30多本合法免费的AI与机器学习经典书籍，覆盖深度学习、强化学习、NLP、计算机视觉等十大领域，含Goodfellow、Sutton等圣经级教材，支持自动链接检测，持续更新可用。

OpenAI发布关于"广泛且持久有益性"的新研究，探索如何让AI模型在训练分布之外的高风险场景中保持安全行为。本文解析其核心目标、技术路径及对AI Agent安全的深远影响。

深入解析AISTATS 2024论文MixupMP，揭示深度集成在不确定性量化中的根本缺陷，并介绍如何利用Mixup数据增强与Martingale后验框架构建更可靠的预测分布，提升模型校准与分布外检测能力。