Dario与Daniela Amodei同台对话：解读Claude未来与AI安全战略

哎李博，你看到Anthropic那个活动了吗？Dario和Daniela两个人同台，还挺少见的。 看到了看到了，我当时就觉得这事儿有意思。你知道这俩人一起公开露面的次数屈指可数吧，这次阵仗还挺大的。 对，而且主持人还是他们的首席产品官Ami Vora，之前在Meta干过的那位。我就觉得这个安排本身就在释放信号——不是纯聊技术，是要聊产品方向。 嗯，你这个观察挺准的。其实Anthropic现在处在一个很微妙的节点上。它估值已经飙到600多亿美元了，但外界对它的认知还停留在'那个做AI安全的公司'。 等等，600多亿？我记得它才成立几年啊。 2021年成立的。你想想，Google投了20亿，Amazon直接砸了40亿，这融资速度在AI行业也是炸裂级别的。 这Daniela是真能谈钱啊。 哈哈，别小看她。Anthropic能从一个纯研究实验室变成商业巨头，Daniela的作用绝对是被低估的。Dario管技术方向，Daniela管钱和商业落地，这组合其实很互补。 说到Dario，我之前读过他那篇《Machines of Loving Grace》，一万多字，写得真的很有野心。他说AI可能在五到十年内彻底改变医疗、教育、经济发展这些领域。 那篇文章我反复读了三遍。它厉害的地方在于，不是那种硅谷式的盲目乐观。他是先承认风险巨大，然后在这个前提下论证积极的可能性。这种叙事方式在AI圈的CEO里面，几乎没有第二个人能做到这个深度。 好了好了，你又要开始学术崇拜了。咱聊点实际的——这次对话里最让我兴奋的其实是Agent这个方向。 哦？你们产品经理终于关注Agent了？ 拜托，我天天在想这个好吗！你知道我现在做的产品线，用户最大的痛点就是——AI能回答问题，但不能帮我把事情做完。 对，这就是Agent的核心价值。传统AI是问答模式，你问一句它答一句。但Agent不一样，它能自己规划任务、调用工具、执行多步骤操作，还能根据反馈动态调整。 比如说？ 比如你跟它说'帮我调研三个竞品，生成一份分析报告'。它会自己去搜索、提取数据、做对比分析、最后输出报告。整个过程不需要你一步步指挥。 这不就是我梦想中的实习生吗！ 哈哈，比实习生靠谱多了。而且Anthropic在这块已经有实际动作了——Claude的computer use功能，直接让模型操作电脑界面。这个能力一旦成熟，游戏规则就变了。 真的假的？直接操作电脑？那跟RPA有什么区别？ 区别大了。RPA是写死的脚本，遇到意外就崩。Agent是有理解能力的，它能处理模糊指令和异常情况。这是从'工具'到'协作者'的质变。 懂了懂了。那安全问题呢？让AI自己操作电脑，这听着就很吓人。 这就要说到Anthropic的看家本领了——Constitutional AI，宪法AI。 这个我一直没太搞明白，跟普通的RLHF到底有什么本质区别？你能说人话吗？ 行，我打个比方。RLHF就像请一堆家教来教小孩，每个家教标准不一样，小孩学出来的东西很混乱。Constitutional AI呢，是先给小孩一本校规——这个能做，那个不能做，为什么不能做，写得清清楚楚。 然后让小孩自己对照校规反省？ 对！精确地说分两步：先让模型根据这些原则自我批评、修改输出；然后用模型自己的判断作为反馈信号来训练。不再完全依赖人类标注员。 哦——所以成本更低，而且规则更透明，谁都能去看这部'宪法'写了什么。 Bingo。这就是Anthropic最聪明的地方。安全不是黑箱，是可审计的。你作为用户或者监管者，可以直接去看它的行为准则是什么。 这确实比OpenAI那种'相信我们'的态度要让人放心。但是我有个疑问——光靠安全标签，能在商业竞争中活下来吗？ 你这个问题问到点子上了。现在是四强争霸的格局嘛——OpenAI有品牌和先发优势，Google有数据和算力，Meta有开源生态。Anthropic的资源其实是最少的。 对，我就是担心这个。安全是好故事，但企业客户买单最终还是看能力。 但你看Claude最近的表现——代码生成、长文本理解，好几个benchmark已经跟GPT-4打平甚至超过了。它不是只有安全没有能力。 嗯，这倒是。我们公司内部其实有些团队已经切到Claude API了，反馈确实不错。 所以Anthropic的策略其实是：用安全做差异化品牌，用能力留住客户。两条腿走路。Daniela在商业侧的布局就是在打这个组合拳。 你觉得这次他们同台，最想对外传达的核心信息是什么？ 我猜是两个字：信任。在AI能力越来越强的时代，谁能让用户、企业、监管者都信任，谁就赢了下一局。Anthropic在赌这个。 有道理。而且他们选择用公开对话这种形式本身就是在建立信任——你看，我们的决策者愿意站出来接受提问。 对，透明度本身就是竞争力。这一点上，Anthropic确实走在前面。不管最终谁赢，这种态度值得整个行业学习。 行，那我们持续关注后续他们放出的具体信息。下次有料了再聊。 好，随时call我。