#AI治理
共 149 篇相关文章
教皇良十四世呼吁AI“裁军”：机器是工具而非人
教皇良十四世在周五讲话中呼吁AI系统应被“解除武装”，强调机器是工具而非人，并敦促联合国成员国在下月日内瓦会议上采取具体步骤禁止致命性自主武器。
AI智能体监控与气候反馈循环：科技治理的双重挑战
本文探讨AI智能体实时监控的紧迫性及气候反馈循环的加剧，基于Partnership on AI的观点和气候科学共识，分析科技治理与环境保护的双重挑战。
Salesforce推进Agent注册制：AI治理将迎哪些变化？
Salesforce计划2026年11月推出Agentic Identity，Agent注册将成强制要求。使用MCP服务器的客户需在可用性通知后三个月内完成注册。了解AI治理变化及企业应对步骤。
Anthropic IPO文件曝光：五个令人意外的细节
Anthropic向SEC提交超300页S-1招股书，本文梳理其中五个值得注意的细节：高管薪酬结构、IPO资金在算力与安全研究间的分配、风险因素披露、以及公益公司架构下的治理与投票权安排，分析这家AI实验室走向公开市场时使命与资本的取舍。
OpenAI携手波兰NASK：共建AI安全防线
OpenAI与波兰国家研究机构NASK达成合作，聚焦AI安全、安保与技术研究，强化模型防护并支持更具韧性的数字生态。本文分析合作动因、内容框架及其对AI治理格局的启示。
VERA：面向欧盟AI法案的负责任AI评估仪表盘
VERA是一款开源自托管仪表盘，基于COMPL-AI框架将欧盟AI法案的十二项可测量要求转化为直观评分。在欧洲大型银行部署中，它将负责任AI评估时间从56秒缩短至30秒，有用性评分4.36/5，并记录能耗数据，助力非技术审批人员高效完成合规评估。
可扩展AI的基础：数据、工程与治理如何协同
MIT科技评论EmTech Future会议探讨可扩展AI的基础：数据、工程、平台、运营模式与治理五大维度如何协同运作，以及在高监管环境中实现负责任、可信赖的AI落地的关键挑战。
OpenAI发布使用政策新标准：以一致规范拓展负责任访问
OpenAI发布使用政策说明，阐述如何通过与分发合作伙伴协作，以一致的安全标准实现广泛访问，明确使用政策期望，推动负责任的AI访问。
Anthropic发布年度公益报告：五大支柱推进AI向善
Anthropic发布年度公益报告，围绕五大支柱盘点推进AI向善的具体行动。本文解读公益公司身份的意义、报告核心内容及其对AI行业治理的启示。
DeepSeek V4.1 Flash与Gemini 4 Argon：一次AI对比背后的哈耶克警示
从B站一段标题为DeepSeek V4.1 Flash对比Gemini 4 Argon的视频切入，探讨哈耶克《通往奴隶之路》中的知识分散性警示如何映射到当前大模型治理与权力集中问题，分析AI对齐的深层张力与法治式治理出路。
纽约市长曼达尼：AI并非必然，必须加以控制
纽约市长曼达尼公开表态AI并非不可避免，主张必须加以控制。本文梳理纽约市学校AI禁令、房地产广告披露规则，以及联邦与地方在AI监管上的张力与企业内部风险声音。
Mamdani痛批联邦AI监管缺位，呼吁纽约人主动反击
纽约市长马姆达尼批评联邦政府在AI监管上放弃职责，呼吁市民拒绝「AI接管不可避免」的叙事，主动要求保护公众的监管规则。本文解析其表态背后的权力分配争议与地方AI治理路径。
家族办公室AI就绪度自检：10个问题判断能否安全用AI
家族办公室如何判断是否准备好用AI？这份十问自检清单要求每个"是"都有文件或测试记录支撑，涵盖书面政策、训练条款、权限测试、报告溯源与删除验证，并附0-10分区间解读。
AI Agent权限失控？独立授权层拦截数据库变更
AI Agent能操作数据库，不等于有权操作。本文解析一个基于LangGraph、SQLite与开源治理平台BHANUJ-AIGP的实验：通过独立授权层、委托机制与fail-closed设计，拦截未授权的数据库变更，并保留可追溯的执行证据。
用证据系统驾驭AI代理：形式化验证加密代码的治理实践
Reddit开发者分享用"证据系统"治理AI代理编写形式化验证加密代码的实践：通过规格映射、验证器输出、反例记录与不确定性声明，把凭直觉的协作转为可审计的治理机制，并讨论人类审查角色的转变与证据系统自身的风险。
Anthropic捐出5%股份设立公益基金，AI治理新范式？
Anthropic宣布将5%股份注入公益基金，这一举措在AI行业尚属首次。本文分析其对AI公司治理结构、社会责任与公众利益分配的可能影响。
Copilot能批准PR了，但AI审批需要职责分离
GitHub Copilot code review 现已可批准拉取请求，但当 AI 审批计入合并规则时，团队必须重新设计职责分离：敏感路径人类专属、上下文排除即批准策略、agent 编写的代码需独立审查。
拒绝背锅：开发者的AI伦理觉醒
Hacker News热议开发者因AI伦理顾虑退出项目事件，剖析AI开发中责任错位、伦理审查缺失与个人抉择的分歧，为从业者提供职业边界参考。
