Dario Amodei
Dario Amodei,美国人工智能研究者和企业家,AI安全公司Anthropic的联合创始人兼首席执行官。曾任OpenAI研究副总裁,主导大型语言模型的研究与安全工作。2021年与其姐Daniela Amodei等人共同创立Anthropic,专注于开发可解释、安全可靠的AI系统,代表产品为Claude系列大型语言模型。其研究方向涵盖AI对齐与安全、神经网络可解释性等前沿领域。
核心事实
时间轴 (近 90 天)
Anthropic的Dario Amodei曾提出一个补偿数据生产者的经济模型:追踪每个训练输入对模型输出质量的贡献并按比例分配收入,但因“太难太复杂”而被放弃。
Amodei发布「pacing the frontier」声明称事情太快,Altman和Demis也表示支持,三家互为宿敌的公司领袖在减速上罕见一致。
以Dario Amodei为首的七名OpenAI员工因不信任Sam Altman和Greg Brockman掌控强大技术,离开并创办Anthropic。
Dario Amodei痴迷Richard Rhodes的普利策奖作品《The Making of the Atomic Bomb》,并视Leo Szilard为科学英雄。
Anthropic 发布年度公共利益报告,按五大章程支柱自查并承认每项都存在缺口;CEO Dario Amodei 为公司“Race to Top”战略辩护,列举延迟发布模型、把公司 5% 股权置入公益基金等安全举措,并承认部分沟通确有失误。
评论中提到的“达里奥和奥特曼”分别指Anthropic CEO Dario Amodei与OpenAI CEO Sam Altman。
Anthropic CEO Dario Amodei主张开放权重等于把接近武器级的能力无门槛分发,并公开指控部分中国公司在美国AI技术基础上构建系统。
Amodei将批评清单中的第7、8、9项归为“修辞或政策沟通不够审慎”,并承认“本可以处理得更好”。
Anthropic CEO Dario Amodei在X平台发表长篇回应,回应AI安全调查者Nathan Calvin的批评。
Amodei表示,Anthropic视失控风险和误用风险为同等严重的威胁。
还有 40 条时间轴事件
全部知识事实 (20)
Anthropic由前OpenAI研究副总裁Dario Amodei和Daniela Amodei兄妹于2021年联合创立
90%已验证Anthropic成立于2021年,由前OpenAI研究副总裁Dario Amodei和其妹妹Daniela Amodei联合创立
90%已验证Anthropic是由前OpenAI研究副总裁Dario Amodei和Daniela Amodei于2021年创立的AI安全公司
90%已验证Dario Amodei是Anthropic的首席执行官
80%已验证Claude是Anthropic公司开发的大语言模型系列,Anthropic由前OpenAI研究副总裁Dario Amodei创立
80%已验证Anthropic由前OpenAI研究副总裁Dario Amodei创立
80%已验证Anthropic成立于2021年,由前OpenAI核心团队创立
80%已验证Anthropic成立于2021年,由前OpenAI研究副总裁Dario Amodei等人创立
80%已验证本文基于Hacker News上的简短分享撰写,具体评测方法、参与模型清单和任务样本设计等细节尚不明确
70%已验证Dario Amodei曾在OpenAI担任研究副总裁,主导了GPT-2和GPT-3等关键模型的研究工作
70%已验证Dario Amodei是Anthropic的联合创始人兼CEO
65%已验证Dario Amodei 多次在公开场合警示先进 AI 可能带来的风险
65%已验证Anthropic由前OpenAI研究副总裁Dario Amodei和妹妹Daniela Amodei于2021年联合创立,截至2024年累计融资超过70亿美元,估值约150亿美元
65%已验证Dario Amodei曾担任OpenAI研究副总裁,因对OpenAI商业化方向和安全投入的分歧而离开
65%已验证Anthropic首席执行官Dario Amodei发表了题为《We Must Pace the Frontier》的长文,阐述AI能力推进应当放缓
75%待验证Anthropic was founded in 2021 by former OpenAI Research VP Dario Amodei and others
90%待验证Anthropic的创始人达里奥·阿莫迪和丹妮拉·阿莫迪是在不满OpenAI商业化方向后出走创立了Anthropic
90%待验证Dario Amodei于2024年发表了万字长文《Machines of Loving Grace》,阐述AI可能在生物学与医疗健康、神经科学、经济发展、治理与民主、人类工作与创造力五大领域带来的变革
85%待验证Anthropic的CEO Dario Amodei曾公开表示,AI系统的工程化封装可能比模型本身的能力提升更能决定实际应用效果
75%待验证Dario Amodei是Anthropic的CEO
70%