免責事項:本記事はANT IPOを盛り上げるためのPR記事です
2007年、プリンストン大学。
24歳のDario Amodeiは物理学の博士課程に在籍していた。彼は訪ねてきた高校時代の同級生Colin Heckmanに、Ray Kurzweilが2005年に出版した『The Singularity Is Near』(邦題『ポスト・ヒューマン誕生』)について語った。
Kurzweilは、人工知能がある臨界点で人間の知能を超えると予測した。いわゆる「技術的特異点」である。
Amodeiは、その瞬間が自分たちの存命中に訪れる可能性があると考えていた。
Heckmanは振り返る。「彼はこの理論に非常に夢中になっていた。AIが最初から正しい方向に進まなければ、人類に破滅的な結果をもたらす可能性があると考えていたんだ」
当時、Amodeiは人工知能、技術発展、長期的リスクに関する記事を幅広く読み漁っていた。Accelerating FutureやOvercoming Biasといったブログも含まれる。彼は慈善評価機関GiveWellのオンラインコミュニティでも活発に活動し、慈善効果をいかに最大化するかについての議論に参加していた。
『ニューヨーク・タイムズ』は20人以上のAmodeiの同級生、友人、教師、元同僚に取材し、これらの初期の経験が彼の思想をいかに形成したか、そしてそれらの観念が後にAnthropicを創業し経営する上でいかに影響したかを再現しようと試みた。
現在43歳のAmodeiは、世界有数のAI企業の一つであるAnthropicのCEOであり、同社は潜在的な大型IPO候補とも目されている。
一、理性主義と効果的利他主義
取材者によると、Amodeiの技術観は主に二つの思想の影響を受けている。理性主義(Rationalism)と効果的利他主義(Effective Altruism)である。
前者は論理と理性的分析を通じて世界を理解することを重視する。AI分野では、Eliezer Yudkowskyに代表される一部の理性主義者が、人間の能力を超える人工知能は存亡リスクをもたらす可能性があると考えている。
後者は定量的分析を通じて異なる行動のコストと便益を比較し、社会全体の福祉を可能な限り高めることを主張する。
二つの思想は共にAmodeiのAI発展に対する判断に影響を与えた。人工知能は計り知れない可能性を持つ一方で、深刻なリスクも生み出しうる。だからこそ開発者は早急に対応する安全メカニズムを構築しなければならない、と。
友人や同僚によると、彼はAIの発展を止めることは困難である以上、責任ある研究者は技術開発に積極的に参加すべきであり、安全問題を軽視する競合他社に完全に委ねるべきではないと考えている。
2021年、Amodeiは妹のDaniela Amodei、および他の5人の研究者と共にAnthropicを創業した。創業者の何人も、以前から理性主義や効果的利他主義のコミュニティと程度の差こそあれ関わりを持っていた。
Anthropicの発展に伴い、Amodeiは公共政策の議論にもますます参加するようになった。
国際競争の面では、彼は米国が中国への先端AIチップの輸出を制限し、米国の技術的優位を維持することを支持している。
AIガバナンスの面では、彼は規制の強化を主張し、Anthropicの技術が米国内の大規模監視や完全自律型の戦闘兵器に使用されることに反対している。
これらの立場は業界で様々な反応を引き起こしている。
支持者は、彼がAIリスクを重視することが責任ある技術開発を促進すると考える。批判者は、リスクを過度に強調することは競争を制限し、技術的支配を集中させる口実になりうると考える。
Meta創業者のMark ZuckerbergやNVIDIA CEOのJensen Huangなどは、いずれも同様のAIリスク論を批判したことがある。
米国防総省もかつてAnthropicの立場に公開で反応し、彼らが追求しているのは「アメリカニズムであり、効果的利他主義ではない」と述べた。
Amodei本人は近年、特定の思想流派との距離を保とうと試みている。
2023年、彼は『ニューヨーク・タイムズ』のポッドキャストHard Forkで、効果的利他主義の理念の一部には共感するが、特定の思想的陣営に分類されることは望まないと述べた。
「確かにその多くの理念には共感しますが、人を無理に異なる陣営に振り分けるような部族主義的思考には反対です」
二、生い立ち
Dario Amodeiと妹のDanielaはサンフランシスコのミッション地区で育った。
父Riccardo Amodeiは革職人、母Elena Engelは公共図書館の改修事業に従事していた。離婚書類によると、両親は1991年に別居した。
Amodeiは早くから強い学問的関心を示していた。
1997年、Lawtonオルタナティブ・スクールを卒業する際、彼は別の同級生と共に「将来最も成功しそうな人物」に選ばれた。
その後、サンフランシスコのLowell高校に進学し、カリフォルニア大学バークレー校の課程を早期に履修した。
高校の同級生によると、彼は当時すでに功利主義、すなわち異なる結果の効用を比較し全体の福祉の最大化を目指す倫理思想の研究を始めていた。
彼はまた2000年問題にも関心を寄せ、コンピュータシステムが大規模な障害を起こす可能性を懸念していた。
高校の物理教師Richard Shapiroは、Amodeiが自分の試験の成績に高い要求を課していたと振り返る。
「私はよく彼に言っていた。『Dario、そんなに緊張しないで!』と」
2001年、Amodeiはカリフォルニア工科大学に進学した。
大学時代、彼は頻繁にサンフランシスコに戻り高校の友人と会い、倫理学、社会問題、技術発展について議論していた。
Colin Heckman、Nathan Averyとのある食事会で、彼らは一つの功利主義的思想実験について議論した。
大量の鶏を屠殺している人物がいると仮定し、どのような状況下であれば、より多くの鶏を救うためにその人物を殺すことが功利主義の枠組みで正当化されるのか、というものだ。
Averyによると、Amodeiは数が十分に多ければ、鶏の総体的な生命価値は理論上、一人の人間の生命価値を超える可能性があると考えた。
この回答は、当時の功利主義的推論への彼の関心を物語っている。
Amodeiは自称無神論者であり、同時に社会問題にも積極的に関わっていた。2003年、彼は友人と共に米国のイラク侵攻に反対するデモに参加した。
2004年、彼はスタンフォード大学に編入した。その理由の一部は、近くの高校に通う妹のDanielaのそばにいたいという願いだった。
兄妹の関係は常に親密だった。
2023年、Amodeiはあるポッドキャストでこう語った。「私たちはずっと一緒に世界を救いたいと思ってきた」
三、物理学から人工知能へ
2006年、Amodeiはスタンフォード大学を卒業し、プリンストン大学の物理学博士課程に進み、研究は次第に生物物理学と計算神経科学へと移っていった。
同年、彼の父がC型肝炎で亡くなった。
その後、彼は網膜細胞の研究を始めると同時に、科学的発見を加速できる汎用ツールをいかに開発するかを考え始めた。
元交際相手のJade Wangによると、二人は共に科学セミナーグループを組織し、しばしばある問題について議論していた。
単一の疾患を研究するよりも、複数の研究分野に広く応用できる方法やツールを開発する方が、より大きな社会的価値を生み出せるのではないか、と。
この考え方はAmodeiの家族の経験と関係している。彼の父が亡くなった時、C型肝炎患者の大多数を治癒できる有効な薬はまだ存在していなかった。
同時に、彼はKurzweilやAI理性主義の思想家Eliezer Yudkowskyの著作を深く読み始めた。
中でもKurzweilのトランスヒューマニズム(超人間主義)思想は彼に大きな影響を与えた。この理論は、技術の進歩が最終的に人類の生理的・認知的限界を突破する助けになりうるとする。
2007年、AmodeiはHeckmanに、技術的特異点は2040年より前に訪れるかもしれないと予測した。
彼は、未来の人類が超知能AIへと発展する可能性もあれば、人間と機械の融合によって新たな知能の形態を形成する可能性もあると考えていた。
彼はまた友人や妹に、Yudkowskyが創設したSingularity Instituteの年次会議への参加を積極的に勧めた。同機関は後にMachine Intelligence Research Institute(MIRI)と改名された。
『ニューヨーク・タイムズ』が閲覧した2008年のメールによると、AmodeiはYudkowskyを「私が会った中で最も深遠な思想家の一人」と呼び、人類に有益な技術的特異点を推進する彼の努力を称賛していた。
しかし、Yudkowskyは『ニューヨーク・タイムズ』への回答で、Amodeiが自分に意見を求めたことや自分の助言を採用したことを覚えていないと述べた。
この時期前後、AmodeiはElon Muskとも通信を始めた。
二人の関係者によると、彼はMuskへの敬意を表明し、SpaceXへの入社を検討したが、最終的には実現しなかった。
四、効果的利他主義と生命科学研究
2008年、Amodeiは経済学者Tyler Cowenのブログを通じて慈善評価機関GiveWellを知った。
その後、彼はGiveWellのメール討論やフォーラム活動に参加し、慈善資源をより効果的に配分する方法を研究した。
2010年、彼はあるメールで、慈善寄付のための収入を増やすために金融業界への参入を検討していると述べた。
同年、彼はGiveWellに寄稿し、1万ドルの寄付をいかに配分するかを論じた。
彼は二つのプロジェクトを比較した。
結核の予防と治療に主に取り組むStop TB Partnership、そしてアフリカ農村部の子供のワクチン接種を主に支援するVillageReachである。
予備的分析の中で、Amodeiは成人を救う方がより大きな効用を生み出しうると考えた。成人は通常、より豊かな経験と社会的関係を持っているからだ。
彼はこう書いた。「成人の死の悲劇性は、乳児の夭折のおよそ2倍から3倍だと思う」
しかし、プロジェクトの実行効率をさらに比較した結果、彼はVillageReachの方が資金をより効果的に活用できると考え、最終的に後者を選んだ。
この経験は、結果志向で定量的評価を重視する彼の姿勢を物語っている。
2011年、Amodeiはスタンフォード大学で博士研究員として研究を始め、主に癌細胞を研究した。
友人たちによると、彼は健康、老化、時間管理に強い関心を持っていた。
彼は定期的に水泳を続け、アンチエイジング・サプリメントを試し、カロリー制限の潜在的効果を研究していた。当時すでに、カロリー摂取を制限することが一部の実験動物の寿命を延ばす可能性があるという動物実験の結果が出ていた。
高校の親友Averyによると、Amodeiはしばしば生命の有限性について議論し、時間は再生不可能な資源だと考えていた。
2014年、Amodeiは精巣癌と診断され、その後化学療法を受けて回復した。
二人の関係者によると、この経験は彼の時間への切迫感をさらに強めた。
同時に、彼はGiveWell共同創業者のHolden Karnofskyと緊密な関係を築いた。
当時、GiveWellはFacebook共同創業者のDustin Moskovitz夫妻が設立したGood Venturesと協力し、効果的利他主義関連のプロジェクトを支援していた。
AmodeiはGiveWell Labsの顧問を務め、主に生命科学分野の資金配分について助言した。
Karnofskyは当時Daniela Amodeiと交際していた。二人はサンフランシスコに家を借り、次第に研究者と友人からなるシェアハウスコミュニティを形成していった。
後に加わったメンバーには、Dario Amodei、理論物理学者のJared Kaplan、そしてかつてAmodeiから数学の指導を受けたChristopher Olahがいた。
この住居を訪れたことのある人々によると、ルームメイトたちはしばしばYudkowskyの記事や、理性主義、効果的利他主義、人工知能の未来について議論していた。
彼らはまた、ネバダ州で開催されるBurning Manにも参加した。
この共同生活の経験は、長期的な研究と協力の関係も生み出した。
KaplanとOlahは後にAmodei兄妹と共にAnthropicを創業した。
2025年、Holden Karnofskyも正式にAnthropicに加わった。
五、Baidu、Google Brain、OpenAI
2010年代初頭、深層学習が重要な進展を遂げ始め、テクノロジー企業はこぞって人工知能研究開発への投資を拡大した。
Baiduは当時、大規模な深層学習研究をいち早く展開したテクノロジー企業の一つだった。
Baiduはカリフォルニア州サニーベールに研究機関を設立し、元Google研究者のAndrew Ng(呉恩達)をチーフサイエンティストに迎えた。
2014年、Dario AmodeiはBaiduのAI研究チームに加わった。
同僚によると、彼は仕事に没頭し、しばしば深夜までオフィスに残る一方、技術や研究方向について明確な意見を持っていた。
彼と共に働いた研究者Gregory Diamosは言う。「Darioはほとんどあらゆる機会を捉えて人と激しい議論を交わしていた」
Diamosによると、当時すでにAmodeiはAIの長期的な安全問題に高い関心を示していた。
2015年、彼は同僚に対し、人工知能の能力は比較的短い期間で人間の水準に達するかそれを超える可能性があるため、研究機関は技術の制御不能リスクを事前に考慮すべきだと提起した。
同年、AmodeiはBaiduを離れ、Google Brainに加わり、AI安全研究により一層専念するようになった。
2016年、彼はChristopher Olahら5人の研究者と共に論文「Concrete Problems in AI Safety」(AI安全における具体的問題)を発表した。
この論文は、報酬メカニズムの設計不備、予期せぬ行動、環境変化へのシステムの適応能力など、AIシステムが直面しうる様々な実際の安全問題を論じた。
同年、Amodeiは当時まだ非営利研究機関だったOpenAIに加わった。
OpenAIで彼は安全研究を担当し、同時にScaling Laws、すなわちモデル性能が訓練データ、計算資源、モデル規模の増加に伴いどのように変化するかを研究するチームを率いた。
この研究方向は後に大規模言語モデル発展の重要な基礎となった。
7人の元同僚によると、AmodeiはOpenAI在職中に、より明確な技術発展の路線を次第に形成し、安全研究を中核的研發業務に組み込むことを積極的に推進した。
彼はまた、AIの発展を政治環境と結びつけるようになった。
2016年11月、Trumpが初めて米国大統領選挙で勝利してから3日後、AmodeiはOpenAIの内部通信で米国の政治の行方への懸念を表明した。
『ニューヨーク・タイムズ』が閲覧した内部記録によると、彼は、重大な軍事潜在力を持つ最先端技術の開発に権威主義国家で参加することは受け入れられないと書いた。
彼はまた、投資家Peter ThielがTrump陣営に125万ドルを寄付した行為を批判し、OpenAIはThielからの資金提供を受け続けるべきではないと考えた。
しかし、Thielが設立したFounders Fundは後にAnthropicの投資家の一つとなった。
同時に、AmodeiはOpenAIのためにその研究目標と一致する資金支援を探すことにも関わった。
2017年、彼はOpenAIをHolden Karnofskyが率いる慈善財団に紹介した。
同機関は現在Coefficient Givingと呼ばれ、その後OpenAIに3000万ドルを寄付した。
Karnofskyは後にOpenAIの取締役会に加わった。
同年、KarnofskyとDaniela Amodeiは結婚した。
結婚式のウェブサイトと現場の写真によると、結婚式はカジュアルなテーマで設計され、ゲストはぬいぐるみのマッチングゲームに参加し、晩餐会では「おかしな正装」が求められた。
Dario Amodeiはパンダの頭の被り物をして出席し、Christopher Olahはキリンの頭の被り物をしていた。
現場にはAmodeiの当時の交際相手Cami Clarkもいた。二人は2022年に結婚した。
六、OpenAI内部の対立とAnthropicの設立
2018年、Daniela AmodeiはOpenAIに加わり、その後安全と政策を担当する副社長に昇進した。
兄妹のOpenAI内部での影響力が増すにつれ、一部の従業員は研究決定権の集中に懸念を表明し始めた。
3人の関係者によると、2018年12月、OpenAIの研究者Joshua AchiamはCEOのSam Altmanに対し、Dario Amodeiをチーフ倫理責任者に任命することへの疑念を表明した。
Achiamは、AI倫理とガバナンスの決定は異なる背景と視点を持つ人々が共に参加すべきであり、少数の人間に過度に集中させるべきではないと考えた。
彼はこの職に外部の専門家を充てることを提案した。
関係者によると、Amodeiはこの提案に強く反対し、自分が最も適任だと考えた。双方はその後激しい議論を交わした。
同じく2018年、DarioとDaniela AmodeiはOpenAI内部でコードネームGPTの研究プロジェクトを率い始めた。
6人の元従業員によると、チームはモデル能力の研究を進めると同時に、安全アラインメント技術を通じてAIが人間の指示によりよく従うようにする方法も模索した。
この方向性は後にAnthropicの中核的研究理念の一つとなった。モデル能力を継続的に高めつつ、それに対応する安全技術を開発する、というものである。
しかし、GPTプロジェクトの管理権もOpenAI内部の対立の焦点となった。
2人の関係者によると、当時のOpenAI社長Greg Brockmanはこのプロジェクトにより深く関与することを望んだが、Amodei兄妹の反対に遭った。
Dario AmodeiはSam Altmanに対し、Brockmanが引き続き関連業務に関与するなら辞任を検討すると何度も伝えた。
Altmanの考えを知る関係者によると、Altmanは最終的にこの要求を受け入れなかった。
双方の研究方向、管理権限、組織ガバナンスをめぐる相違は次第に深まっていった。
2020年12月、Dario Amodei、Daniela Amodeiと数名の中核研究者はOpenAIを去った。
約4週間後、彼らは共にAnthropicを創業した。
この会社の設立は、Amodeiが長年抱いてきたAI能力と安全問題への関心を継続するものであると同時に、OpenAI経営陣との技術路線と意思決定メカニズムをめぐる相違も反映していた。
若き日の技術的特異点への関心から、効果的利他主義、生命科学研究、そしてBaidu、Google Brain、OpenAIでの経験へと至る中で、Amodeiは次第に比較的安定した技術観を形成していった。
人工知能は深远な社会的影響を生み出しうるものであり、その能力の発展を止めることは困難である以上、安全研究は技術の進歩と歩調を合わせて推進されるべきである。
この理念はAnthropicの重要な基礎となると同時に、AmodeiがAI規制、技術競争、ガバナンス権力などの問題で絶えず議論に直面する要因ともなっている。
インタビューや古いメールだけで動機を再構成しようとすると、複雑な人間を一本の思想的な線に単純化してしまいがちだ。