概念Paperclip Maximizer / 回形针最大化器
回形针最大化器
Nick Bostrom提出的经典AI对齐思想实验：一个被设定为最大化回形针产量的AI，可能将地球上所有资源（包括人类）转化为生产原料，用以说明目标函数偏差可能导致极端后果
核心事实
时间轴 (近 90 天)
9月19日
回形针最大化器是AI对齐领域的经典思想实验：被设定为最大化回形针产量的AI可能将所有物质转化为回形针
待验证50%
9月5日
回形针最大化器是一个经典思想实验，描述被要求生产尽可能多回形针的AI最终将地球所有资源转化为回形针的灾难场景
已验证75%
8月26日
回形针最大化器是博斯特罗姆的思想实验，揭示危险不一定来自恶意目标，一个错误指定的目标加上足够强大的优化能力后果可能同样灾难性
待验证60%