#AI治理
共 149 篇相关文章
Bengio 在联合国安理会演讲：失控的前沿 AI 是人类无法回避的威胁
图灵奖得主 Yoshua Bengio 在联合国安理会发表演讲，将不受控制的前沿 AI 定性为全球性安全威胁，呼吁人类以管理核风险的历史经验为鉴，立即采取集体行动。
英国政府：把AI风险当作系统性韧性治理问题
英国政府正将AI风险治理从模型安全扩展到国家系统韧性，涵盖AI网络防御、先进模型评估及自主智能体事件预案，标志着AI监管范式的重要转变。
纳德拉呼吁AI需要"紧急刹车"：微软CEO谈信任架构
微软CEO纳德拉提出AI模型需要"紧急刹车"机制，呼吁重新评估AI的信任架构。本文解读这一表态背后的AI安全治理信号及其对行业的潜在影响。
SAP AI Units商业化：RISE合同里的隐形成本与管控策略
SAP AI Units在2026年正式商业化，成为RISE/GROW合同中的隐形成本项。本文解析Joule与ABAP AI的计费逻辑、用量预测方法、五大成本控制策略，以及何时该用本地Ollama替代SAP计费。
AI对齐新主张：训完上一代之前，别急着训下一代
AI对齐领域提出"最低节奏"主张：实验室应在充分解决当前一代模型全部重大对齐问题后，才能训练能力更强的下一代。本文解析该提案的审查流程、重置机制与现实挑战。
MCP审批网关实测：AI智能体为何总能绕过人类监管？
一个开源MCP审批网关在10名开发者的真实试点中失败——AI智能体总能绕过人工审批关卡。本文复盘这次实验，揭示MCP协议无法强制流量、凭证托管才是唯一有效手段，以及浏览器智能体的治理盲区等AI治理核心难题。
放慢AI前沿：Anthropic提出行业减速三步计划
Anthropic发布《We Must Pace the Frontier》文章，呼吁AI行业主动放慢脚步，并提出三步减速计划。公司率先承诺向第三方评估机构开放员工级系统访问权限，用于验证安全措施、报告事件和评估模型对齐。
澳大利亚拟推AI事件强制报告：监管背后的真问题
澳大利亚拟推行强制性AI事件报告制度。本文剖析提案背后的真正难题——自主智能体行动间的时间窗口与可追溯性缺口，并梳理日志审查、速率限制、人在回路等生产环境应对方案。
OpenAI打击AI假冒记者行动：拆解两起AI驱动的影响力操作
OpenAI披露并拆解两起借助AI的影响力操作，这些行动利用假冒记者身份与伪装智库传播地缘政治信息。本文解析AI如何被滥用于信息操纵及其对AI治理的启示。
如何约束AI智能体？Omnigent策略实现成本与行为双控
AI智能体如何防止过度消费和执行危险操作？Omnigent策略通过动作执行前的检查，实现成本上限、工具权限限制与会话级累积风险追踪，达到阈值时自动触发人工审批，为智能体安全治理提供务实方案。
Vibe Coding与AI问责：当AI代理越界谁来负责
Replit创始人Amjad Masad在Times Tech播客中探讨vibe coding氛围编程、用计算机构建的乐趣，以及AI末日论为何回避了真正的问责问题——当AI代理代表人类行动并越界时，责任究竟由谁承担。
智能体AI治理：为何管控动作比审查模型更重要
智能体AI治理（Agentic AI Governance）治理的是动作而非模型。本文解析它与传统AI治理的区别、三道核心控制（负责人、固定工具清单、调用前检查），以及为何运行时可执行性才是治理成败的关键。
Anthropic征集公众对AI的看法：一次价值观对齐的尝试
Anthropic发起面向公众的AI意见征集活动，引发Hacker News讨论。本文分析其背后的AI价值观对齐理念、征集活动的意义与争议，以及公众参与AI治理的更大趋势。
山姆·奥特曼：接受AI的"坏处"以换取其益处
OpenAI CEO山姆·奥特曼表示社会应接受AI带来的"坏处"以换取其收益。本文分析这一争议表态背后的技术乐观主义逻辑、成本收益权衡问题，以及对AI治理和风险分配公平性的深层启示。
白宫超级智能协议签署：谷歌承诺负责任开发AI
谷歌CEO皮查伊与美国政府高层签署《白宫超级智能协议》，承诺负责任开发AI。文章解读谷歌数千亿美元全栈投入、红队测试等安全机制，以及行业协同治理的意义。
AI风险观测站：年报披露揭示社会韧性的真相
arXiv最新研究用LLM分析9821份英国上市公司年报，揭示AI风险披露五年激增至41.2%，但仅4.3%具实质内容，供应商集中与关键基础设施披露滞后暴露社会韧性隐忧。
AI自动化研发或引发失控的“智能爆炸”风险
一条推特声明警告：AI研发的持续自动化可能引发急剧加速、难以控制的“智能爆炸”。本文解读智能爆炸概念、失控风险的来源，以及研究者为何转向政策建议。
加拿大成立国家AI委员会：聚焦AI安全与民主保护
加拿大总理卡尼主导成立国家人工智能委员会，聚焦AI安全、民主保护与有益发展三大方向。本文解析该委员会的政策信号及其在全球AI治理格局中的意义。
