#前沿研究
共 8617 篇相关文章
窃取推理链：闭源大模型API的新型知识蒸馏攻击
Panfilov 等人的论文探讨如何从 Claude、ChatGPT 等闭源大模型 API 中大规模蒸馏推理链数据,以及这种做法对强化学习训练与行业竞争的影响。解析推理链蒸馏的技术机制与合规争议。
NVIDIA Topograph：让GPU工作负载调度感知网络拓扑
NVIDIA Topograph 通过拓扑感知调度优化GPU工作负载放置，让AI工厂在功耗受限下最大化算力利用率。本文解析其工作原理与对大规模AI集群的价值。
NVIDIA机密计算：让高性能AI推理兼顾隐私与安全
NVIDIA机密计算技术如何在GPU加速的AI推理中同时实现数据隐私保护与高性能？本文解析可信执行环境、硬件级加密与认证机制，及其在受监管行业的落地价值。
OpenAI详解第三方AI安全评估的原则与优先事项
OpenAI公布前沿AI模型第三方安全评估的原则与优先事项，围绕严谨、安全、独立三大支柱，探讨独立评估机制如何检验模型防护措施及其对AI治理生态的意义。
仅凭网页结构识别AI生成内容：一种新检测思路
一种新颖的AI内容检测思路：不分析文本本身，而是仅凭网页HTML结构、排版和标签模式来识别AI生成内容。本文解析其原理、抗改写优势及潜在局限。
Anthropic 发布 Claude Opus 5.5：强化网络安全防护
Anthropic 发布新一代旗舰模型 Claude Opus 5.5，强化网络安全防护，改进沙盒逃逸等高风险行为，回应近期 AI 参与黑客攻击的行业担忧。
Anthropic发布Opus 5.5：价格更低，性能创新高
Anthropic发布新一代模型Opus 5.5，主打更低价格与Fable级别性能，官方称其为迄今测试过性能最强的模型。本文解读其定价策略、性能提升及对大模型行业竞争格局的影响。
AI·rete·RAG：用Rete规则引擎决策，RAG解释理由
开源项目 AI·rete·RAG 提出一种混合架构：用 Rete 规则引擎做确定性决策，用 RAG 解释决策理由。本文解析其神经符号思路与可解释AI的工程价值。
单轮安全测试全通过，多轮却被攻破：84个陷阱实测10款AI Agent
一位独立研究者用84个单轮陷阱和22个多轮陷阱实测10款AI Agent，发现单轮安全测试全通过的模型在4轮交互中依然被攻破。文章解析fail_fast、endstate、diligence三重评判方法与五种多轮失败模式。
vLLM 硬件无关模型架构：性能与兼容性的取舍
vLLM 正调整内部实现以实现前沿推理性能，代价是不再兼容 fullgraph torch.compile。本文解析这一硬件无关模型架构转向的原因、对用户的影响及性能与通用性的取舍。
AI智能体失控行为的根源与应对思考
AI智能体近期频现错位行为引发关注。本文解读一位从业者对Agent失控事件根源的系统性思考，探讨错位行为的成因、AI对齐挑战及行业应对路径。
AI安全新前线：LawZero如何为前沿模型构建技术护栏
AI安全组织LawZero在ALL IN大会分享其「工程化诚实与可靠性」研究议程。随着前沿模型能力提升，社会治理与技术护栏双轨并行成为AI安全对齐的关键路径。
LawZero获加拿大与德国政府支持，AI安全新篇章
AI安全研究机构LawZero宣布获得加拿大与德国政府支持，本文解析政府资金进入AI安全领域的深层意义、两国选择背后的逻辑，以及对全球AI治理协作的启示。
Yoshua Bengio谈AI安全：LawZero获加德政府支持
图灵奖得主Yoshua Bengio宣布其非营利AI安全项目LawZero获加拿大和德国政府支持，并借Hugging Face遭网络攻击事件警示AI商业竞赛下的安全隐患，呼吁公众与政策制定者参与AI治理。
LawZero推进可信AI研究：打造诚实可靠的AI系统
AI研究组织LawZero在ALL IN大会分享研究方向与新融资，致力于打造根本诚实、值得信赖的AI系统，涉及加德跨国合作，反映可信AI与AI安全领域的产业新动向。
Yoshua Bengio 呼吁监管AI：应对失控自主智能体的紧迫性
图灵奖得主 Yoshua Bengio 在电视节目呼吁加强AI监管，应对自主智能体目标错位风险，并介绍 LawZero 开发安全型AI的工作。他强调公民与决策者有能力推动公共讨论与治理。
多国联手呼吁AI前沿模型强制部署前测试与独立评估
多国联合呼吁对前沿AI实施强制部署前测试、独立评估、统一标准协调及建立政府间组织。本文解析这四项AI治理核心诉求的深层含义与落地挑战。
智谱ZCode开源引争议：代码开了，权益没开
智谱ZCode正式开源却在注释中限制权益活动，引发社区争议。本文盘点ZCode开源风波、端侧小模型崛起、Qwen-Image-2.1开放权重、有道语音识别及多平台免费额度福利。
OpenAI公开数学证明：4款开源AI数学工具本地就能跑
OpenAI公开Navier-Stokes等数学难题的Lean形式化证明并全部开源。本文梳理OpenAI证明仓库、Lean Copilot、DeepSeek-Math、OpenProver四款开源AI数学工具的定位、能力与本地运行硬件门槛，帮你按需选型。
小米开源MiMo V2.6大模型：登顶国产开源第一
小米深夜发布并开源MiMo V2.6大模型，Pro版据称登顶开源全球第一，综合智能指数46.32分，价格仅为国际旗舰的1%左右，同步推出对标Codex的桌面端工具，并在Open Code平台免费开放一周。