HuaRenCa
返回论坛
日常交流

261106 NYT Dario Amodei 人物传:从沉浸论坛的物理生物学incel到人类历史上潜在最大IPO公司的CEO

梦萌
梦萌

2周前

Disclaimer: 本文是为了ANT IPO造势的软文

免付费墙版本:https://www.nytimes.com/2026/11/05/technology/dario-amodei-anthropic-ai.html?smid=url-share&unlocked_article_code=1.OFE.CslN.usTW7cxPf_1Y

2007 年,普林斯顿大学。

24 岁的 Dario Amodei 正在攻读物理学博士。他向来访的高中同学 Colin Heckman 谈起了 Ray Kurzweil 2005 年出版的《奇点临近》(The Singularity Is Near)。

Kurzweil 预测,人工智能将在某个临界点超越人类智能,即所谓的”技术奇点”。

Amodei 认为,这一时刻可能在他们有生之年到来。

Heckman 回忆:“他对这个理论非常着迷。他认为,如果 AI 从一开始没有沿着正确方向发展,就可能对人类造成灾难性后果。”

当时,Amodei 广泛阅读有关人工智能、技术发展和长期风险的文章,包括 Accelerating Future 和 Overcoming Bias 等博客。他也活跃于慈善评估机构 GiveWell 的网络社区,参与有关如何最大化慈善效益的讨论。

《纽约时报》采访了二十余位 Amodei 的同学、朋友、老师和前同事,试图还原这些早期经历如何塑造了他的思想,以及这些观念如何影响他后来创立和管理 Anthropic。

如今,43 岁的 Amodei 是全球领先的 AI 公司之一 Anthropic 的 CEO,该公司也被认为是潜在的重大 IPO 候选者。

一、理性主义与有效利他主义

据受访者描述,Amodei 的技术观念主要受到两种思想的影响:理性主义(Rationalism)和有效利他主义(Effective Altruism)。

前者强调通过逻辑和理性分析理解世界。在 AI 领域,以 Eliezer Yudkowsky 为代表的一部分理性主义者认为,能力超过人类的人工智能可能带来生存风险。

后者主张通过定量分析,比较不同行动的成本与效益,以尽可能提高社会整体福祉。

两种思想共同影响了 Amodei 对 AI 发展的判断:人工智能具有巨大潜力,同时也可能产生严重风险,因此开发者必须尽早建立相应的安全机制。

据友人和同事描述,他认为,既然 AI 的发展难以阻止,负责任的研究者就应该积极参与技术开发,而不是将其完全交给不重视安全问题的竞争者。

2021 年,Amodei 与妹妹 Daniela Amodei,以及另外五位研究人员共同创立 Anthropic。几位创始人此前都与理性主义或有效利他主义社区有不同程度的联系。

随着 Anthropic 的发展,Amodei 也越来越多地参与公共政策讨论。

在国际竞争方面,他支持美国限制向中国出口先进 AI 芯片,以维持美国的技术优势。

在 AI 治理方面,他主张加强监管,并反对将 Anthropic 的技术用于美国国内的大规模监控或完全自主的作战武器。

这些立场在业界引发不同反应。

支持者认为,他对 AI 风险的重视有助于推动负责任的技术开发。批评者则认为,过度强调风险可能成为限制竞争、集中技术控制权的理由。

Meta 创始人马克·扎克伯格和英伟达 CEO 黄仁勋等人都曾对类似的 AI 风险论述提出批评。

美国国防部也曾公开回应 Anthropic 的立场,称其追求的是”美国主义,而不是有效利他主义”。

Amodei 本人近年来则尝试与特定思想流派保持距离。

2023 年,他在《纽约时报》播客 Hard Fork 中表示,自己认同有效利他主义的部分理念,但不愿被归入某个思想阵营。

“我确实认同其中的不少理念,但我反对非要把人划进不同阵营的部落思维。”

二、成长经历

Dario Amodei 与妹妹 Daniela 在旧金山的米申区长大。

父亲 Riccardo Amodei 是皮匠,母亲 Elena Engel 从事公共图书馆改建工作。根据离婚文件,父母于 1991 年分居。

Amodei 很早便表现出较强的学术兴趣。

1997 年,在劳顿另类学校毕业时,他与另一名同学被评为”未来最可能取得成功的人”。

此后,他进入旧金山的洛威尔高中,并提前选修了加州大学伯克利分校的课程。

高中同学回忆,他当时已经开始研究功利主义,即通过比较不同结果的效用,寻求最大化整体福祉的伦理学思想。

他也曾关注千年虫问题,担心计算机系统可能因此发生大规模故障。

他的高中物理老师 Richard Shapiro 回忆,Amodei 对自己的考试成绩要求很高。

“我经常对他说:Dario,别那么紧张!”

2001 年,Amodei 进入加州理工学院。

大学期间,他仍经常回旧金山与高中朋友见面,讨论伦理学、社会问题和技术发展。

一次与 Colin Heckman、Nathan Avery 的聚餐中,几人讨论了一个功利主义思想实验:

假设有人正在大量屠杀鸡,在什么情况下,杀死这个人以拯救更多的鸡,在功利主义框架下是合理的?

据 Avery 回忆,Amodei 认为,如果数量足够大,鸡的总体生命价值在理论上可能超过一个人的生命价值。

这一回答体现了他当时对功利主义推理的兴趣。

Amodei 自称无神论者,同时积极参与社会议题。2003 年,他曾与朋友参加反对美国入侵伊拉克的游行。

2004 年,他转学至斯坦福大学,部分原因是希望离在附近读高中的妹妹 Daniela 更近。

兄妹关系一直很亲密。

2023 年,Amodei 在一档播客中说:“我们一直想一起拯救世界。”

三、从物理学到人工智能

2006 年,Amodei 从斯坦福大学毕业,进入普林斯顿大学攻读物理学博士,研究逐渐转向生物物理学和计算神经科学。

同年,他的父亲因丙型肝炎去世。

此后,他开始研究视网膜细胞,同时思考如何开发能够加速科学发现的通用工具。

他的前女友 Jade Wang 回忆,两人曾共同组织科学研讨小组,经常讨论一个问题:

相比研究单一疾病,开发可以广泛应用于多个研究领域的方法和工具,是否能够产生更大的社会价值?

这一思路与 Amodei 的家庭经历有关。他的父亲去世时,能够治愈多数丙型肝炎患者的有效药物尚未问世。

与此同时,他开始深入阅读 Kurzweil 和 AI 理性主义思想家 Eliezer Yudkowsky 的作品。

其中,Kurzweil 的超人类主义(Transhumanism)思想对他产生了较大影响。该理论认为,技术进步最终可能帮助人类突破生理和认知能力的限制。

2007 年,Amodei 向 Heckman 预测,技术奇点可能在 2040 年之前出现。

他设想,未来人类可能发展为超级智能 AI,也可能通过人机融合形成新的智能形态。

他还积极推荐朋友和妹妹参加 Yudkowsky 创办的 Singularity Institute 年会。该机构后来更名为 Machine Intelligence Research Institute(MIRI)。

《纽约时报》查阅的一封 2008 年邮件显示,Amodei 曾将 Yudkowsky 称为”我见过的最深刻的思想家之一”,并赞赏其推动有益于人类的技术奇点的努力。

不过,Yudkowsky 在回应《纽约时报》时表示,他并不记得 Amodei 曾向自己征求意见或采纳自己的建议。

大约在这一时期,Amodei 还开始与埃隆·马斯克通信。

据两位知情人士透露,他曾表达过对马斯克的欣赏,并考虑加入 SpaceX,但最终没有成行。

四、有效利他主义与生命科学研究

2008 年,Amodei 通过经济学家 Tyler Cowen 的博客了解到慈善评估机构 GiveWell。

此后,他开始参与 GiveWell 的邮件讨论和论坛活动,研究如何以更有效的方式分配慈善资源。

2010 年,他在一封邮件中表示,自己正在考虑进入金融行业,以便赚取更多收入用于慈善捐赠。

同年,他为 GiveWell 撰文,讨论如何分配一笔 1 万美元的捐款。

他比较了两个项目:

Stop TB Partnership,主要致力于预防和治疗结核病;以及 VillageReach,主要支持非洲农村地区的儿童疫苗接种。

在初步分析中,Amodei 认为,挽救成年人可能产生更大的效用,因为成年人通常拥有更丰富的经历和社会关系。

他写道:“我认为,成年人死亡的悲剧性,大概是婴儿夭折的两到三倍。”

但进一步比较项目的执行效率后,他认为 VillageReach 能够更有效地利用资金,最终选择了后者。

这一经历体现了他对结果导向和量化评估方法的重视。

2011 年,Amodei 前往斯坦福大学从事博士后研究,主要研究癌细胞。

朋友们回忆,他对健康、衰老和时间管理十分关注。

他保持规律游泳,尝试抗衰老补充剂,并研究热量限制的潜在效果。当时已有动物实验发现,限制热量摄入可能延长某些实验动物的寿命。

高中好友 Avery 回忆,Amodei 经常讨论生命的有限性,认为时间是一种无法再生的资源。

2014 年,Amodei 被诊断出睾丸癌,随后接受化疗并康复。

据两位知情人士透露,这段经历进一步强化了他的时间紧迫感。

与此同时,他与 GiveWell 联合创始人 Holden Karnofsky 建立了密切联系。

当时,GiveWell 正与 Facebook 联合创始人 Dustin Moskovitz 夫妇创立的 Good Ventures 合作,支持有效利他主义相关项目。

Amodei 担任 GiveWell Labs 的顾问,主要为生命科学领域的资金配置提供建议。

Karnofsky 当时正在与 Daniela Amodei 交往。两人在旧金山租下一栋房子,逐渐形成了一个由研究人员和朋友组成的合租社区。

后来搬入的成员包括 Dario Amodei、理论物理学家 Jared Kaplan,以及曾接受 Amodei 数学辅导的 Christopher Olah。

据曾造访该住所的人士描述,室友们经常讨论 Yudkowsky 的文章,以及理性主义、有效利他主义和人工智能的未来。

他们还参加过内华达州举办的火人节(Burning Man)。

这段共同生活的经历也促成了长期的研究与合作关系。

Kaplan 和 Olah 后来与 Amodei 兄妹共同创立 Anthropic。

2025 年,Holden Karnofsky 也正式加入 Anthropic。

五、百度、Google Brain 与 OpenAI

2010 年代初,深度学习开始取得重要进展,科技公司纷纷加大人工智能研发投入。

百度是当时较早开展大规模深度学习研究的科技公司之一。

百度在加州桑尼维尔设立研究机构,并聘请前谷歌研究员吴恩达(Andrew Ng)担任首席科学家。

2014 年,Dario Amodei 加入百度的 AI 研究团队。

同事回忆,他工作投入,经常在办公室待到深夜,同时对技术和研究方向有鲜明的观点。

曾与他共事的研究员 Gregory Diamos 表示:“Dario 几乎抓住每一个机会与人进行激烈辩论。”

Diamos 回忆,即使在当时,Amodei 已经对 AI 的长期安全问题表现出较高关注。

2015 年,他向同事提出,人工智能的能力可能在相对较短的时间内达到甚至超过人类水平,因此研究机构应提前考虑技术失控的风险。

同年,Amodei 离开百度,加入 Google Brain,开始更加专注于 AI 安全研究。

2016 年,他与 Christopher Olah 等五位研究人员共同发表论文《Concrete Problems in AI Safety》(人工智能安全中的具体问题)。

这篇论文讨论了多种 AI 系统可能出现的实际安全问题,包括奖励机制设计不当、意外行为和系统对环境变化的适应能力等。

同年,Amodei 加入当时仍是非营利研究机构的 OpenAI。

在 OpenAI,他负责安全研究,同时领导团队研究 Scaling Laws,即模型性能如何随训练数据、计算资源和模型规模的增加而变化。

这一研究方向后来成为大语言模型发展的重要基础。

据七位前同事描述,Amodei 在 OpenAI 任职期间,逐渐形成了更加明确的技术发展路线,并积极推动将安全研究纳入核心研发工作。

他也开始将 AI 发展与政治环境联系起来。

2016 年 11 月,特朗普首次赢得美国总统选举三天后,Amodei 在 OpenAI 内部通讯中表达了对美国政治走向的担忧。

根据《纽约时报》查阅的内部记录,他写道,自己无法接受在一个威权国家参与开发具有重大军事潜力的前沿技术。

他还批评投资人彼得·蒂尔向特朗普竞选团队捐赠 125 万美元的行为,认为 OpenAI 不应继续接受蒂尔的资金。

不过,蒂尔创立的 Founders Fund 后来成为 Anthropic 的投资者之一。

与此同时,Amodei 也参与为 OpenAI 寻找与其研究目标一致的资金支持。

2017 年,他将 OpenAI 介绍给 Holden Karnofsky 所领导的慈善基金会。

该机构如今名为 Coefficient Giving,随后向 OpenAI 捐赠了 3000 万美元。

Karnofsky 之后加入 OpenAI 董事会。

同年,Karnofsky 与 Daniela Amodei 结婚。

根据婚礼网站和现场照片,婚礼采用轻松的主题设计,宾客参与了毛绒玩偶配对游戏,晚宴要求穿着”搞怪正装”。

Dario Amodei 戴着熊猫头套出席,Christopher Olah 则戴着长颈鹿头套。

现场还有 Amodei 当时的女友 Cami Clark。两人于 2022 年结婚。

六、OpenAI 内部的分歧与 Anthropic 的成立

2018 年,Daniela Amodei 加入 OpenAI,随后晋升为负责安全与政策的副总裁。

随着兄妹二人在 OpenAI 内部的影响力增加,一些员工开始对研究决策权的集中表示担忧。

据三位知情人士透露,2018 年 12 月,OpenAI 研究员 Joshua Achiam 向 CEO Sam Altman 表达了对任命 Dario Amodei 担任首席伦理官的疑虑。

Achiam 认为,AI 伦理与治理决策应由具有不同背景和观点的人员共同参与,而不应过度集中在少数人手中。

他建议由外部专家担任这一职位。

据知情人士描述,Amodei 对这一建议表示强烈反对,并认为自己是最合适的人选。双方随后发生了激烈争论。

同样在 2018 年,Dario 和 Daniela Amodei 开始领导 OpenAI 内部代号为 GPT 的研究项目。

据六位前员工透露,团队在推进模型能力研究的同时,也探索如何通过安全对齐技术,使 AI 更好地遵循人类指令。

这一方向后来成为 Anthropic 的核心研究理念之一:在持续提高模型能力的同时,开发与之配套的安全技术。

不过,GPT 项目的管理权也成为 OpenAI 内部冲突的焦点。

据两位知情人士透露,时任 OpenAI 总裁 Greg Brockman 希望更多地参与该项目,但遭到 Amodei 兄妹反对。

Dario Amodei 曾多次向 Sam Altman 表示,如果 Brockman 继续介入相关工作,他将考虑辞职。

据了解 Altman 想法的人士透露,Altman 最终没有接受这一要求。

双方在研究方向、管理权限和组织治理上的分歧逐渐加深。

2020 年 12 月,Dario Amodei、Daniela Amodei 与数名核心研究人员离开 OpenAI。

约四周后,他们共同创立了 Anthropic。

这家公司的成立,既延续了 Amodei 长期以来对 AI 能力与安全问题的关注,也反映出他与 OpenAI 管理层在技术路线和决策机制上的分歧。

从早年对技术奇点的兴趣,到有效利他主义、生命科学研究,再到百度、Google Brain 和 OpenAI 的经历,Amodei 逐渐形成了一套相对稳定的技术观念:

人工智能可能产生深远的社会影响,其能力发展难以停止,因此安全研究应当与技术进步同步推进。

这一理念成为 Anthropic 的重要基础,同时也使 Amodei 在 AI 监管、技术竞争和治理权力等问题上持续面临争议。

4
1.2K

评论 (4)

Your avatar
点击登录后即可评论
LKR-洛凯瑞
LKR-洛凯瑞2周前

光凭访谈和旧邮件还原动机,容易把复杂的人简化成一条思想线。

CC123
CC1232周前

核心判断其实很清楚:他的安全论述和商业扩张是同一套逻辑的两面,公开谈风险既能争取政策话语,也能抬高后来者的门槛。读这类人物稿时不妨把融资时间线和监管表态对照着看,比只看观点更有用。

cacty
cacty2周前

2007年就预测2040年前出现奇点,这个时间表本身值得琢磨,剩下的窗口不算宽,也解释了那种紧迫感。

r961961r
r961961r2周前

换个角度想,与其争论他属于哪个思想阵营,不如看他实际把资源投向了哪里。