概念AI-assisted evaluation
AI辅助评估
AI辅助评估指利用AI系统参与评估其他AI系统的能力与安全性,以应对人类审核速度跟不上模型迭代的瓶颈。
时间轴 (近 90 天)
11月2日
业界正在探索可扩展监督(Scalable Oversight)、AI辅助评估(AI-assisted evaluation)等让AI参与监督AI的路径,但这本身又引入了新的信任循环问题。
待验证50%
AI辅助评估指利用AI系统参与评估其他AI系统的能力与安全性,以应对人类审核速度跟不上模型迭代的瓶颈。
业界正在探索可扩展监督(Scalable Oversight)、AI辅助评估(AI-assisted evaluation)等让AI参与监督AI的路径,但这本身又引入了新的信任循环问题。