共 2 篇相关文章
新论文揭示预测多重性的阴暗面：有动机的各方可通过软操纵或硬操纵逆转个体预测甚至聚合估计，同时通过黑盒或白盒审计。Reconcile算法在对抗性模型选择下更偏向操纵者，论文建议预注册、版本化模型等缓解措施。
一份宣称AI能读取神经网络权重的论文在Hacker News引发热议。本文拆解其真实方法与局限：游戏识别依赖有标签输入，数学提升源于剪除循环方向，真正有价值的是智能体在测试预算下跑完ML调试循环。
