自动化偏见
认知心理学概念，指人类过度信任自动化系统输出、降低独立批判性评估的认知偏见，在AI决策辅助场景中尤为突出，可能导致对错误结论的盲目接受
核心事实
时间轴 (近 90 天)
飞行自动化领域的研究早已证明，当系统给出错误建议时，人类操作员的纠错能力会显著下降，因为他们不再主动监控。
自动化偏见在开发者用基本输入运行AI生成代码、看到它能工作、然后基于“模型已经处理了其他所有情况”的假设停止测试的那一刻达到峰值。
大型语言模型生成的译文即使漏掉从句、丢失否定词、四舍五入数字或发明改变含义的表述，读起来依然流畅，这比统计机器翻译的明显错误更危险，因为审校者更容易忽略流畅文本中的错误（自动化偏见/流畅性启发）。
认知心理学中的“自动化偏见”研究表明，当系统频繁弹出审批请求时，人类操作者倾向于快速点击“通过”而不做实质审查。
自动化偏见最早在航空领域被系统研究，后续在医疗诊断、军事指挥、金融交易等领域反复验证。
引入自动化审查可能移除原本由人工专家提供的审核层，且组织往往在自动化后削减人力，形成难以回退的路径依赖（自动化偏见与责任稀释）
认知错觉与自动化偏见是此处两个重要的心理学概念。
在航空、医疗等领域，自动化偏见已被证明会导致严重判断失误。
评估自动化偏见需要专门纳入对临床决策过程的观察，例如记录医生修改AI建议的比例、对AI提示的响应时间，以及AI错误输出被拦截或放行的频率，而不仅仅关注最终结局指标。
自动化偏见（automation bias）指当人类长期处于确认算法结论的角色时，批判性思维会逐渐退化
还有 16 条时间轴事件
全部知识事实 (20)
初级开发者对AI生成代码的过度依赖导致其调试能力和系统设计思维的培养周期被拉长
80%已验证自动化偏见（automation bias）指当人类长期处于确认算法结论的角色时，批判性思维会逐渐退化
70%已验证自动化偏见是指人类倾向于过度信赖自动化系统输出的心理现象，最早在航空和医疗领域被广泛研究
70%已验证Compliance采取AI辅助筛查、人工最终决策的路线，而非用AI完全取代人工审查
65%已验证自动化偏见指人们与自动化系统长期协作时逐渐降低对系统输出的质疑和审查力度，最早在航空领域被系统研究
65%已验证自动化偏见（automation bias）这一术语最初由心理学家Linda Skitka和Kathleen Mosier在1999年研究航空决策系统时提出，指人类倾向于无批判地接受自动化系统的建议
65%已验证自动化偏见（Automation Bias）最早在航空自动化研究中被系统描述，1980年代研究发现飞行员即便面对明显错误的自动驾驶决策也常倾向跟随系统
65%已验证心理学将人们对AI输出的过度信任归因于自动化偏差（Automation Bias）
65%待验证将AI输出盲目信任并不加审查地直接使用是一种应警惕的现象
60%待验证飞行自动化领域的研究早已证明，当系统给出错误建议时，人类操作员的纠错能力会显著下降，因为他们不再主动监控。
50%待验证自动化偏见在开发者用基本输入运行AI生成代码、看到它能工作、然后基于“模型已经处理了其他所有情况”的假设停止测试的那一刻达到峰值。
50%待验证大型语言模型生成的译文即使漏掉从句、丢失否定词、四舍五入数字或发明改变含义的表述，读起来依然流畅，这比统计机器翻译的明显错误更危险，因为审校者更容易忽略流畅文本中的错误（自动化偏见/流畅性启发）。
50%待验证认知心理学中的“自动化偏见”研究表明，当系统频繁弹出审批请求时，人类操作者倾向于快速点击“通过”而不做实质审查。
50%待验证自动化偏见最早在航空领域被系统研究，后续在医疗诊断、军事指挥、金融交易等领域反复验证。
50%待验证引入自动化审查可能移除原本由人工专家提供的审核层，且组织往往在自动化后削减人力，形成难以回退的路径依赖（自动化偏见与责任稀释）
50%待验证在航空、医疗等领域，自动化偏见已被证明会导致严重判断失误。
50%待验证认知错觉与自动化偏见是此处两个重要的心理学概念。
50%待验证评估自动化偏见需要专门纳入对临床决策过程的观察，例如记录医生修改AI建议的比例、对AI提示的响应时间，以及AI错误输出被拦截或放行的频率，而不仅仅关注最终结局指标。
50%待验证自动化偏见（Automation Bias）是心理学概念，指当系统以权威确定语气呈现信息时，人类决策者倾向于降低批判性审查
50%待验证大模型在日常任务上的高准确率为自动化偏见提供了温床，正确率越高的系统越容易在出错时被人放过
50%