本動画は、The New Yorker誌のジャーナリストであるアンドリュー・マランツとローナン・ファローが、OpenAIのCEOであるサム・アルトマンの複雑な人物像と、彼を取り巻く様々な騒動の裏側について語ったインタビューである。アルトマンが非営利団体としてOpenAIを立ち上げた際の「恐れ」を利用した巧みなリクルート手法から、安全志向から利益追求へと舵を切った背景、そしてイリヤ・サツケヴァーらによる突然の解任騒動の真相に至るまで、16,000語に及ぶ綿密な取材に基づく見解が示されている。さらに、彼がいかにして相手の望む言葉を察知し、巧みに姿を変える人物であるか、そしてその特異な才能が世界のパワーバランスにもたらす潜在的な脅威についても深く掘り下げている。
サム・アルトマンとオッペンハイマーの不吉な類似点
さて、アンドリュー、あなたはサム・アルトマンをロバート・オッペンハイマーに例えていますね。言うまでもなく、オッペンハイマーは原爆の開発において中心的な役割を果たした人物です。彼は単にテクノロジーを開発しただけでなく、ある意味でアメリカの歴史におけるひとつの時代、つまり「原子力の時代」を決定づけました。しかしもちろん、その比較には非常に不吉な響きも含まれています。ですので、まずはここから始めましょう。
アンドリュー、サム・アルトマンとは一体何者なのか、そしてなぜ彼をロバート・オッペンハイマーと比較するのでしょうか。
そうですね、彼をオッペンハイマーに例える理由のひとつは、彼自身が自分をオッペンハイマーに例えているからです。それも、常にです。OpenAIが存在する以前、なぜそれが必要なのかというレトリックの全体を通して、マンハッタン計画への例えが絶え間なく続いていました。
たとえば、2015年の5月に彼が突然イーロン・マスクにメールを送ったとき、彼は「やあイーロン、サムです。Yコンビネータでお会いしましたね」と挨拶し、「AIのためのマンハッタン計画が必要だと思います」と伝えているんです。
なるほど。
そしてそこには、私たちが善人となって悪人を打ち負かすんだ、という両刃の性質が含まれています。つまり、私たちがアメリカ軍で、ナチスを打ち負かすんだ、ということです。
ええ。でもこの場合、ナチスの代わりに、国家安全保障の文脈では中国であり、企業の競争という文脈ではGoogleということになりますね。
しかし、そこに不吉な部分もあるわけですよね、ローナン。原子爆弾が「原子力の時代」という時代を決定づけたという概念です。それは今でも私たちの政治や世界の安全保障に暗い影を落としています。AIがもたらす可能性のある不吉な側面とは何でしょうか。新薬の開発やあらゆることに素晴らしい影響を与える可能性があると聞く一方で、神のみぞ知る膨大な数の雇用を奪うかもしれないとも言われています。しかし、事態はさらに暗い方向へ向かう可能性もあります。
この取材を始めた当初、私自身はこのテクノロジーがそれほど変革的な影響を与えるとは確信していなかったと言っておきましょう。しかし取材を終えて、その思いは確信へと変わりました。あなたがほのめかしているようなシナリオが存在するんです。原爆のようなシナリオですね。人間の制御を離れた悪意ある人工知能が、私たちの望む方向性から逸脱し、核兵器の制御を奪うという、まさにターミネーターのスカイネットのようなシナリオに現実につながるかもしれないという考えです。
しかし、そのような極端なシナリオを信じなくても、アメリカ経済全体が今やAIに全振りしている少数の企業に支えられており、その中心にOpenAIがいるという目に見える影響を理解することはできます。最も信頼性の高い予測の多くが、非常に近い将来、数百万の雇用がこれによって破壊の危機にさらされると見込んでいます。また、戦場で兵器が使用される方法においても、大きな変化をもたらす要因としてすでに形になりつつあります。人間のオペレーターがいなくても、ただ発射することが可能になるのです。これは、ごくごく近い将来に起こる問題です。
さらに、生物兵器の開発においても形になりつつあります。これらはすべて、すでに起こっているか、あるいは起こる寸前のことであり、遠い未来のファンタジーではありません。
AGI（汎用人工知能）への野望と恐怖を利用したリクルート
少し明確にしておきたいのですが、アンドリュー。私たちのほとんどがAIと聞いて思い浮かべるのは、大規模言語モデルで動くチャットボットです。それは、まだ存在していないAGI、つまり汎用人工知能への熱望とはどのように違うのでしょうか。
ChatGPTは、メールを書くのを手伝ってくれる便利なツールです。一方、AGIは、人間ができるあらゆる認知タスクを、おそらく人間よりもうまくこなせるようになることを想定しています。つまり、メールを書いたりチェスをしたりするだけでなく、新しい薬を発見したり、新しい医学的課題を解決したり、物理学の新たな領域を開拓したりできるから「汎用」なのです。ですから、私たちはまだその段階には達していません。
The New Yorkerの全スタッフを置き換えるようなことですね。
そこまでも、まだ達していませんよ。
ああ、よかった。でも、時間の問題かもしれませんね。
興味深いのは、アンドリュー、あなたがサム・アルトマンを、コンピューターサイエンスの知識をそれほど持っていない人物としてすぐに描写していることです。実際の科学や実際のテクノロジーに関しては、サム・アルトマンは決して偉大な天才ではありません。
では、彼をこれほどまでに変革をもたらす人物にしている、彼ならではの強みとは何なのでしょうか。
そうですね、ある意味で、すべての起業家がやっていること、つまり技術的な才能を持つ人々と投資家を集め、彼らを資金力のある会社に統合するという意味では、それほど驚くべきことではありません。彼を非凡にしているのは、陶器店に暴れ牛が入り込むようなやり方をしないという点だと思います。彼はイーロン・マスクやジェフ・ベゾスのように、「権力に向かってブルドーザーのように突き進むぞ」と宣言するわけではないんです。
2014年、2015年、2016年頃、大衆がテクノロジー界の大物たちの豪語に少し疲れ果てていた時期に、彼はとても巧妙なセールストークを持ち込みました。誰もが突然ソーシャルメディアに怒りを覚え、言論を弾圧したとして共和党に、トランプを生み出したとして民主党に怒っていたような時期です。そこに彼が現れて、「無知な規制当局なんて誰が必要とするんだ？」と言う代わりに、「どうか私を規制してください。私が作っているものはあまりにも恐ろしいので、もし私を規制しなければ、あなたの愛する人は皆死んでしまうでしょう」と言ったのです。
そしてそれが、直感に反して、非常に優れたセールストークであることが判明しました。さらに重要なことに、それは採用活動においても優れたアピールになったのです。
つまり、それは彼がかつて所属していたYコンビネータという、テクノロジーと技術投資のための工場、いわば開発の場のような組織に向けたアピールだったわけですね。そしてその後、彼がOpenAIと呼ばれる組織を立ち上げます。ローナン、これはそもそも何だったのでしょうか。
そうですね、それは最初は非営利団体として始まりました。そしてこれこそが、この物語の核心部分なんです。現在、イーロン・マスクがサム・アルトマンとOpenAIを提訴しているのも、まさにこの点に関わる問題です。
最初は誰がOpenAIに関わっていたのですか？
ごく初期の頃は、サム・アルトマンは様々なことに手を出していました。彼は多くの異なる最先端分野に投資しており、その中でAIに魅了されるようになりました。業界がその方向へ向かっているのを見たのです。そして興味深いことが起こりました。彼はテクノロジー全般に対して非常に楽観的でしたが、当時の彼と対話し、彼の思考を知る人たちによれば、ある転換点を見たのだそうです。業界のリーダーたちの多くがAIに対してより終末論的な見方をし始めており、その中の一人がイーロン・マスクでした。
実際、高度なAIを構築する能力が最も高い科学的探求者たちこそが、それについて最も恐怖を抱いていた人たちの一部だったのです。ですから、彼らにアピールし、採用するためには、多くの人の証言によれば、彼らのもとへ行き、「私もあなたたちと同じくらい恐れている」と伝えなければならなかったのです。
でも、理解できないのですが、なぜ最初から両方を追求できなかったのでしょうか？「よし、私たちは安全性を非常に警戒していくが、同時に、これまでテクノロジー業界の人々が長くやってきたように、ここで利益も上げるつもりだ」となぜ言えなかったのでしょうか。そこには正義の仮面のようなものがありますよね。それが物語の一つの側面です。
そして私たちは、サム・アルトマンの周りにいる多くの人が、実は彼を信用しておらず、彼に反逆し、彼を嘘つきだと考えていることを、ごくごく短期間のうちに知ることになります。ローナン、それはなぜなのでしょうか。
この2つのことは深く関連しています。確かに、サム・アルトマンはもっとオープンに、そしておそらくもっと早くに、営利目的を持っていることを提示できたはずだ、と批判する人たちは言います。しかし、彼のアピールが力を持っていた理由の一部は、彼がイーロン・マスクのところへ行き、「あなたの言う通りだ。これは人類を滅ぼすかもしれない。私たちは何かを構築しなければならないが、それは安全第一でなければならず、テクノロジーをいち早く手に入れる競争であってはならない。安全を保つためなら開発を遅らせることもいとわないシナリオでなければならない」と語ったことにあるんです。それはすべて、恐怖を原動力とした主張に根ざしていました。
だからこそ、Googleは悪者だったのです。Googleは営利企業であり、巨大企業だからです。だから私たちが善人になるのだと。そしてそれは、アンドリューがほのめかしたように、非常に強力な採用ツールとなりました。なぜなら、OpenAIの強みは、サム・アルトマンがその並外れた説得力をもって、資金を集める必要がある理由として恐怖主導の論理を提示したことだけではないからです。彼はまた、この分野で最も優秀な頭脳を持つ人々のところへ行き、「これは非営利団体です。Googleほど高い給料は払えないかもしれないが、別のものを提供できます。それは、私たちが善人であるということです」と言うことができたのです。
クーデターと解任騒動の真相
では、数年前に何があったのでしょうか。あのちょっとした騒動です。
ええ、あの騒動は何だったんですか？
彼らが採用したトップクラスの人物の一人で、Googleでの年俸600万ドルのオファーを断って、善人たちのために働くことを選んだイリヤ・サツケヴァーという人物がいます。彼は2020年頃から2023年まで取締役を務めていました。そして彼は、記事の中で私たちが引用しているように、「原爆の例えに戻るなら、サムはボタンに指をかけるべき人物ではないと思う」と感じ始めたのです。そして彼は、サムに反対するよう取締役会をまとめ始めます。
これは、シリコンバレーで何年にもわたってくすぶっていた疑問でした。「私が見たものは何だったのか？彼がまとめた秘密のメモには何が書かれているのか？決定的な証拠はあるのか？すべてを説明する何か一つの出来事があるのか？」と。
そして私たちが発見したもの、そしてあなたが私たちに16,000語もの字数を与えて説明させてくださった理由は、決定的な証拠が一つあるわけではないからです。それは、サツケヴァーのような人々にとって、総体として「この世界を変えてしまうようなテクノロジーを任せることはできない人物だ」と感じさせるに至った、細かな行動パターンの小さな蓄積だったのです。
例えばどのようなことですか？
確かに、OpenAIの歴史の中で、まだ広く報道されていない具体的なエピソードはあります。例えば、社内の批判的な人々が主張し、この件で辞職をほのめかす人々さえ出た瞬間の詳細な記録があります。それは、次世代のテクノロジーであるAGIが完成した暁には、それを国際的な最高額の入札者に売却し、中国、ロシア、アメリカを互いに競わせるという計画が、会社の最高幹部レベルで検討されたというものです。
そしてそれは、社内の安全性を重視する人々に、「これは狂っている」と実際に言わせる事態を引き起こしました。影響はどうなっていたでしょうか。
つまり、ウラジーミル・プーチンが世界で最も危険なテクノロジーに対して不釣り合いな支配力を持つという状況が起こり得たということですね。
ただ、これは最終的には実現しなかったことであり、OpenAIは「当時は検討された多くのアイデアの一つに過ぎなかったが、それを支持する人々がいた」と述べていることは付け加えておきます。
プーチンに売ることを検討していたのが、単なるアイデアの一つだったというのは、少し安直な言い訳に聞こえますね。
おっしゃる通りです。そしてそれは、ある種の道徳観の欠如を示唆していますよね。
それに、彼らの言い分の一つは、「売るという話ではなく、彼らに与えるという話だった」というものですからね。
それはずっとマシですね。（笑）
つまり、これらはすべて仮説の話であり、狂っているように聞こえる仮説なのです。
今回浮かび上がってきたのは、これまで公にされてこなかった内部のコミュニケーションを通じて、サム・アルトマンという人物の新たな深い実像です。彼が解任された背景には何があったのか、なぜその批判がくすぶり続けているのか、そしてそれらがどれほど事実に基づいているのか。彼を会社から追放することになった、これまで公開されてこなかった有名なメモの数々が、記事の中に収められています。
私たちは非常に法医学的な方法で証拠を検証しています。これは単純な記事ではありません。人々がこれを読んで、全員が同じ反応を示すとは思えません。これを読んで、「安全性を最優先と考える利益重視の人々はもう時代遅れだ」という結論に達する人もいるでしょうし、「これは本当に恐ろしく、危険なことだ」と言う人もいるでしょう。
当時、取締役会が使った表現は「率直さを欠いている」というものでしたね。
「嘘つき」という言葉が、多くの、本当に多くの人々によって使われていたと思います。「病的な嘘つき」といった表現さえ、多くの情報源から重複して聞かれました。私たちは、何らかの形でアルトマンに近い100人以上の人々と話をしたんです。
嘘と真実の間で揺れ動く評判
そして、あなたはアルトマンと6回話をしたんですね。その時の経験がどのようなものだったか教えてください。彼に会いに行ったんですよね。
最終的な事実確認を含めると、1ダース（12回）以上ですね。
いや、なるほど。それで、彼はどんな人なんですか？というのも、私もここThe New Yorker Radio Hourで彼にインタビューしたことがあるんです。そして正直に言うと、雲にインタビューしているような気分でした。彼は非常に穏やかに、そして巧みに答えていましたが、時々、彼の答えの真意を掴むことができなかったんです。
例えば、雇用の喪失の問題について話した時、インタビューを終えた後、私は自分自身にあまり満足していませんでした。サム・アルトマンがどういう人物なのか、全く掴めた気がしなかったんです。でも、あなたはもっと長い時間をかけ、深くアクセスして明らかに何かを掴んだはずです。あなたが会ったのはどんな人物で、彼に対するあなたの印象はどのように形成されていったのでしょうか。ローナン。
私はこのことについて、本当に深く考えました。ご存知のように、この話は、何かが私たちの膝の上に落ちてきて指示されるような、単一の決定的な証拠を追いかけるような話ではありませんでした。私たちは現在のジャーナリズムの状況では非常に珍しいことを行い、1年以上かけてAIを見つめ、そこからどのような疑問が浮かび上がってくるのかを観察することができました。そして、あなたが描写したのとまさに同じ理由で、サム・アルトマンが疑問の対象として浮かび上がってきたのです。
人々は、彼の動機として何が起こっているのかを正確に把握するのは難しいと感じています。彼は様々なグループの人々に対し、それぞれが「自分たちと同じ懸念を彼も抱いている」と感じられるような、矛盾する可能性のある異なる説明をすることができるし、そうする傾向があります。
それはビジネスパーソンとしては並外れて役立つスキルですね。
しかし時間が経つにつれ、私たちが話を聞いた情報源の大多数の人が次々と気づいたのは、真実の基盤のようなものに一切頼ることができないということでした。全く嘘をつく必要のないような小さなことにおいてさえ、異常なほどのレベルでです。
例えば、彼が同僚たちとオフィスにいて、自分は卓球の競技大会のチャンピオンのようなものだと主張していたらしい出来事について触れています。アルトマンはこれはおそらく冗談だったと言っていますが、周囲の人たちはそれを真に受け止めており、その後彼がオフィスで最も卓球が下手な一人だったという事実に衝撃を受けたのです。これは、時として彼がいかにありふれた些細な嘘をつくかを示す例です。
そしてアンドリューが指摘したように、それはさらに広がり、彼が自身の経済的利益の一部を隠していたとか、特定の製品の安全性テストの要件について取締役や幹部を欺いていたという主張にまで発展しました。つまり、深刻な事態にも波及していったのです。
言っておきますが、決定的な証拠という明確な境界線がないという点で、これほど奇妙な話は今まで扱ったことがありません。しかし、それはあまりにも蔓延しており、私はここでほとんど誇張していません。彼と一緒に部屋から出てきた誰もが口を揃えて言うことなのです。それは並外れたことであり、このような記事で扱うのは非常に困難です。私たちはそれを細心の注意を払って表現しようと努めました。
イーロン・マスクとはどう違うのでしょうか。これもアルトマンが醸し出す雰囲気や気質的な表現の一部ですが、彼はあのように傲慢で威張った態度をとるわけではありませんよね。
全く違いますね。
ええ、全くです。だからこそ、それもパターンのひとつだと思います。イーロン・マスクや他のそういった人たちに何か言われて、後でそれが事実でないとわかっても、世界で一番ショッキングなことではありません。「自分のTwitterアカウントを不正に優遇したりしていない」とイーロン・マスクが言っていて、後でそうしていたとわかっても、「ああ、そう。別に驚くことじゃない」と思うだけです。
トランプみたいな感じですね。
ええ。でも、アルトマンのやり方は非常に控えめです。とても思慮深いんです。彼のアピールの一部は、自分を誠実な人間として見せることです。「あなたの言うことはわかります」と。
記事には引用していませんが、ある人がかつて彼を「傾聴のマイケル・ジョーダン」と呼んでいました。
そうなんです。だから、彼はあなたの目を見て、相手の目を見て、相手が聞きたいことを反射して返すんです。
1年間この問題に没頭してきて、これが重要な総括になると思います。私たちはこの記事で、様々な視点を提示しています。もちろんアルトマンの擁護者もいて、彼らとは何度も話をしましたし、記事にも登場します。そして批判者の中にもスペクトラムがあります。
熱狂的な安全性至上主義者たちは、「この技術は私たち全員を殺すかもしれないのに、彼はマキャベリ的でソシオパス（社会病質者）だ」と言います。一部の批判者からは、こうした極端な言葉が使われており、だからこそこれは本当に危険なのだと主張します。
その中間に位置する人々は、「これは単なる機能不全に陥った経営だ」と言います。「純粋に利益を追求する経営者であったとしても、これほど重要な会社の幹部が、常に矛盾する説明をしていては成り立たない」と。
私自身はこの取材を通じてアルトマンと接した経験から、彼に対する分析としては、そこまでマキャベリ的ではないという見方に傾いています。彼はこの記事の中で、新しくより誠実な方法でこの問題に取り組んでいると思います。彼は過去にこれに関する問題を抱えていたことを語っています。自分の周りにそういう問題が存在しないかのように振る舞うことはしていません。時間の経過とともに変化したことについて語り、人を楽しませたい、喜ばせたいという感情の深い根源についても語っています。私にもそれは理解できますが、彼は今、それが極端に行き過ぎた場合の代償に改めて直面しているのだと思います。
軍事契約と巨額の資金調達
数週間前、OpenAIはAnthropicに代わってペンタゴン（米国防総省）との関係に介入しましたね。サム・アルトマンは、この軍事契約について自社の従業員に何と言い、一方で政府には何と言ったのでしょうか。
最初、軍がAnthropicを排除し、ブラックリストに載せようとしていた時のことです。基本的に何が起こったかというと、ピート・ヘグセスと国防総省が「我々のテクノロジーで我々が望むことは何でもできる権利を与えろ」と言ったのです。
それに対してAnthropicは、「ダメだ、大量監視はできないし、自律型兵器も作れない」と答えました。そしてそのために、彼らはブラックリストに載せられたのです。
それにはビジネス上、とてつもなく大きな影響がありますよね。
そして、とてつもなく大きな政治的影響もあります。つまり、これは大きな一歩です。彼らは中国へのチップ販売をブラックリストに載せているわけではありません。この会社をブラックリストに載せているのです。そしてアルトマンは公には、「私たちはAnthropicを支持します。彼らが引いた明確な一線は正しいと考えます」と言いました。
しかし裏では、彼はまさに同じ契約についてペンタゴンと交渉していたのです。
そしてこれは、シェイクスピア劇のようなライバル関係の側面にも関わってきます。多くの場合、これは個人的なことであり、些細なことでもあります。しかし、その結果もたらされる影響が、文字通り実存的リスクと言えるほど非常に高いものとして提示されているため、人々はこれを「誰がAGIの独裁権を握るか」として語るのです。「誰が黄金の指輪を手に入れるのか」「誰がサウロンの指輪を手に入れるのか」と。
だから彼らは、サム・アルトマンにせよ、ダリオ・アモデイにせよ、イーロン・マスクにせよ、彼らの頭の中では、その競争に勝つためならどんなことでもする価値があると考えているのだと思います。なぜなら、それは完全に人類の存続に関わることだからです。
サム・アルトマンにとっての金銭的な利害関係はどのようなものですか、ローナン。
莫大です。私たちが話していることの一つは、サムがこの会社を軌道に乗せるために、ポジティブとネガティブの両方の論理を使ったということです。人々の恐怖をどう利用したかについてはすでにお話ししました。彼はまた、このテクノロジーが将来どうなるかという楽観的な予測の周りに人々を集結させました。
近年の彼のブログ記事を見ると、彼は「私たちはまさにその入り口にいる」とか、「事象の地平面（イベント・ホライズン）をすでに越えたかもしれない」といった言葉を使っています。
神のみぞ知る、それが何を意味していたのか、ですね。
そうですね、汎用人工知能（AGI）だけでなく、さらにその先の人工超知能（ASI）へと私たちをごく近いうちに導く軌跡について語っています。そしてその結果として、例えばガンを治癒するとか、他の惑星へ旅行するとか、彼が箇条書きにしているように、本質的に「すべての経済的価値の光円錐を捉える」のだと。
ちょっと待ってください、そこ読みました。タイムアウトです。「すべての経済的価値の光円錐を捉える」とは一体どういう意味ですか？
私たちはそれを引用符で囲みました。（笑）
SF的な表現で、基本的には太陽系内のすべての経済的価値を獲得するという意味です。ですから、大抵は宇宙植民地化も含まれます。
なるほど、それ以降は快適な生活が待っているということですね。
超絶な豊かさです。私たちみんな、のんびり過ごせるようになります。
つまり、将来は誰もが余暇のある生活を送り、働く必要がなくなるというケインズ経済学的な考え方の一部です。しかし、この手の話がどのように使われるかおわかりでしょう。
私にはもう遅すぎますね。（笑）
例えば彼は、この未来の一部としてユニバーサル・ベーシック・インカム（ベーシックインカム）を提唱しています。しかし、例えば私たちが「非常に多くの仕事がこれによって奪われるというこれらの経済的予測についてどう思いますか？」と尋ねたとき、私の見方では、それに対する熟考や葛藤はそれほど深いものではありませんでした。彼は自分の楽観的な予測のすべてを信じている、あるいは信じているように見えます。
しかし、その一方で彼は同時に「これはバブルだ」とも言っています。では、彼はどうやってそのバランスをとっているのでしょうか。
彼は基本的に、雇用の喪失とバブルのリスクについて、「いや、実はこれはすべてを良くするだけだ。誰もがChatGPTにアクセスできるようになり、それが失業者に…」と、これは大まかに意訳していますが、要するに「それがより多くのスタートアップの創出を可能にし、それがすべての人を助けることになる。そして私たちは大きくて古い財団を持ち、いくつか慈善活動を行い、それが助けになるだろう」と言っているんです。
そしてまた、ローナン、あなたが彼のブログ記事を話題に出しましたが、時間が経つにつれての主張の変化についてお話ししましょう。人々は彼を「偉大なピッチマン（宣伝マン）」と呼びます。現在のブログ記事は非常に強気で楽観的です。私たちはガンを治します、と。
しかし2、3年前に遡ると、ブログ記事には「アライメント（AIの方向性を人類の利益と一致させること）の問題を解決しなければならない。さもなければ、人類を絶滅させる悪意あるAIが誕生する」と書かれています。
アライメント問題ですね。アライメント問題とは、もし私たちが自分たちの利益と一致しない超知能を構築した場合、それが『2001年宇宙の旅』のHAL 9000のように自我に目覚めて私たちを殺しに来る必要すらなく、私たちの利益と一致していないだけで、誤って私たちを殺してしまう可能性があるということです。記事の中で引用したブログ記事でそう書いたのは、他ならぬサム・アルトマンです。
しかし、あなたがここで触れようとしていることの一つは、一種の政治、外交的な側面、つかみどころのない政治についてですね。彼のレトリックの一部は左派的な響きを持ちますが、それでも彼はトランプ一家と折り合いをつけ、友好関係を築いています。それについて教えてください。
ええ、彼は長い間、民主党に寄付をしてきましたし、「トランプはアメリカにとって容認できない脅威だ」と言っていました。
トランプをヒトラーに例えていましたね。
ええ、彼の会社の副社長や他の数人もそうしていました。しかし2024年になると、彼は少し方向転換し始めます。
ヒトラー発言を撤回したんですね。
撤回しました。私たちはあやうくそれを記事の見出しにするところでした。（笑）
そして彼は、「何が起ころうとも、この国は大丈夫だと思う」と言い始めるんです。私たちが話を聞いたバイデン政権の国家安全保障当局者の多くによれば、彼はかつてバイデン大統領のホワイトハウスに頻繁に出入りし、「もっと厳しく規制すべきだ」と促していたことは非常に明らかです。
「この大統領令では不十分だ、このテクノロジーをもっと制限し、規制する必要がある」と。
ところが、トランプが就任すると、文字通り就任初日に、トランプ政権は大規模な新しいデータインフラストラクチャープロジェクトを発表し、トランプと彼の政権はこのテクノロジーの加速を祝福し、競争を煽り始めます。トランプのホワイトハウスのレトリックは、「安全性に対する懸念は間違っている」というものです。JD・ヴァンスがこの記事の中でそう言っていますし、デビッド・サックスもそうです。そしてシリコンバレーやワシントンでは、安全性を重視する考え方は大きく後退しました。
この記事で記録していることの一つは、サム・アルトマンの様々な変貌と、時折見せる矛盾した立場が、より大きな業界の転換点をも表しているということです。あの騒動の瞬間、業界の人々はまだ揺れていました。
クーデター未遂事件のことですね。
ええ、クーデター未遂と解任騒動です。当時業界の人々は、この変革的なテクノロジーを形作る経営者を他の経営者と同じように扱い、普通の基準を適用すべきなのか、それとも私たちの未来を握っているのだから、より高いレベルの誠実さを持った人物が必要なのか、確信が持てていませんでした。
当時はその答えが出ていなかったため、あの事件につながったのです。もともと非営利団体としてスタートし、ある程度はまだ非営利団体であった会社で、その使命に賛同して入社した大勢の人々が、「この男は嘘をつきすぎている。辞めさせなければ」と言ったわけです。
そして一応確認しておきますが、現在OpenAIは営利企業なんですよね。
ええ、今は他の企業と何ら変わらない営利企業です。彼らは自らをPBC（公益法人）と呼んでいますが、実質的には営利機関であり、かつて主役だった非営利部門は今やマイノリティ出資（26%か27%）しか持っていません。
解任騒動という転換点、そして私たちがこの記事でそれを重要視する理由は、より高い基準を持つべきだという主張が実際に試された瞬間だからです。その後に見えてきたのは、彼がこのような形で地位を奪還する姿です。
私たちが記録しているように、彼が投資家たちのもとへ行き、彼自身のために主張を展開したことが功を奏した部分もあります。「おい、こいつらはこんな実体のない理由で私をクビにしたんだぞ」と。彼がそれを成し遂げられた理由の一部には、彼を解任した旧取締役会が、多くの点で戦略的にうまく立ち回れず、透明性も欠けていたことがあると思います。
しかし彼は自身の弁護をする中で、巨大な経済的利益を伴うAGI達成競争において、あのような安全性を重視する考え方はもはや居場所がないという、より広範な主張を業界に浸透させることができたのだと思います。今日、安全性の問題において、これらの企業が底辺への競争（レース・トゥ・ザ・ボトム）に陥っているという主張は非常に的を射ているという現実が見て取れます。
チャットボットの現実と訴訟問題
アンドリュー、OpenAIを提訴しているのはイーロン・マスクだけではありません。現在、ChatGPTが原因とされる自殺や殺人に関連して、同社に対していくつの訴訟が起こされているのでしょうか。
ええ、様々な異なる理由で多くの訴訟が進行中です。その一部は責任能力に関するものです。実際に起きている現実的な害を理解するために、SF的な人類滅亡の脅威を信じる必要はありません。チャットボットへの依存によって悪化する精神病などです。
どうしてそんなことが起こるのでしょうか？
これはGoogle検索のようなものとは違います。人々がチャットボットと継続的な関係を築いていくものであり、チャットボットは媚びへつらう存在になり得るのです。
少し説明してください、チャットボットとは何ですか？
チャットボットとはChatGPTのようなものです。入力するか話しかけると、返事をしてくれます。記事の中で有名な「チューリングテスト」に触れています。これはかつて、コンピューターが人間のように聞こえる話し方をするという、到達不可能に思われた基準でした。私たちはとっくの昔にその基準をクリアしていますよね。あまりにも早く物事が進んでいるので、私たちは気づいていないだけです。私たちはすでにそういう世界に生きています。現在、ChatGPTは、人間が人間の発言だと見抜くよりも高い確率で、人間の観察者を「自分は人間だ」と信じ込ませることができます。
私が自分を晒す前に、もう少し具体的に教えてください。
これは昨年発表された研究ですが、チャットボットが人間の観察者を騙して、チャットボットが人間だと思わせることができるかというテストを見たとき、人間がその基準をクリアする確率は、ChatGPTよりも低いんです。
AIが書いた文章とコーマック・マッカーシーが書いた文章を見分けるクイズのようなものも頻繁に行われていますが、人間の正答率は50%程度です。ですから、私たちは…
それは私たちの職業にとって明るい兆しですね。（笑）
ええ。それで言おうと思っていたのですが、私たち言葉を扱う人間はこういうことを考えたがらないものですが、実はこういうことなんです。宇宙にあるすべての言葉をチップに詰め込めば、それは新しい言葉のゴーレムのようなものを作り出し、無限に言葉を吐き出すことができるというわけです。
そして指摘しておくべきですが、The New Yorker、Vogue、Wiredなどを所有するコンデナストは、まさにその目的のために、他の多くの出版会社と同様に、OpenAIやその他の同様の企業と契約を結んでいます。
ええ。一部の出版社にとっては、「どうせ勝手に使われるなら、何も得られないよりはマシだ」という恐怖があるのだと思います。この手のデュアルユース（軍民両用）テクノロジーの多くがそうであるように、これを最も厳しく批判する人たちでさえ、それが便利で、楽しく、魅力的であることを否定できません。もしこれほど便利でなければ、これほどの経済的脅威にはならないでしょう。
そして指摘しておく価値があるのは、非常に誠実で深い意味で「役立つ」ということです。医療への応用を見れば、診断によって命が救われています。厳しい気象警報などでもゲームチェンジャーとなっています。ありふれたことに聞こえるかもしれませんが、それは本当に命を救うものです。これがすでに本物として機能している応用分野はたくさんあります。
あなたはこの人物像を把握しようとしましたね。そして彼は、10代の頃に同性愛嫌悪による非常に深刻な襲撃の被害に遭ったことを話してくれたと思いますが、あまり詳しくは語りたがりませんでした。ローナン、彼はあの瞬間が自分をどう形成したと考えているのでしょうか、そしてあなたはどう見ていますか。
正直に言うと、この取材を通して、奇妙なことですが、サムとはどこか繋がっているように感じています。彼から見れば関係性の捉え方は違うかもしれませんが、あるレベルでは彼を理解していると思うんです。
例えば、私は彼にこう尋ねたことがありました。「あなたの誠実さや高潔さについて、周りの多くの人がこんな風に言っていることに対して、あなた個人の人間としての感情はどうなんですか？」と。私なら、そんなことを言われたらひどく打ちのめされてしまうでしょうから。
この点について言えば、彼は自己内省に対してある種、抵抗感を持っているという印象を受けました。他の多くの質問に対してもそうです。彼のルーツや、おそらく彼を形成したであろう要因、つまり性的アイデンティティ、ユダヤ人であること、社会経済的な生い立ちなどについて話したときのことです。
彼は裕福な家庭の出身でしたね。
ええ、裕福で、立派な郊外の家庭です。母親はとても有名な皮膚科医で、父親は住宅問題の活動家です。彼はしばしば、特にセクシャリティの質問に関しては、自分でも内省が足りていないことを認めます。記事の中でも、「ええ、あの時は殴られました。でも、同情を引こうとしていたり、人を操ろうとしていると見られると思うので、その話はしたくありません」と語っています。
つまり彼は、そういった批判のいくつかを内面化しているんです。また同時に、事実確認の際にも彼は、「私はそういったことを気にしたくないんです。あの事件が私を決定づけたわけではありませんから」と心から強調していました。
「これについてのあなたの経験はどうですか？例えばセラピーなどでこれと向き合ったことはありますか？セラピーは受けていますか？」と尋ねると、彼は西海岸でよくある、「呼吸法」のようなありきたりな知識を暗唱しました。
セラピーを試して、いいと思ったことはある、と曖昧に言っていましたね。
しかし非常に明確だったのは、この成層圏を突き抜けるような上昇の過程において、多くの困難や、大半の人間にとっては苦痛であろう批判の渦中にあっても、彼の中で内面を深く見つめるプロセスは存在しなかったということです。それが、これらの質問を彼に投げかけた私の見解です。
彼は軽やかにそれらを退けます。そして、私たちが記事で語っている多くの職業上の状況にも、それが共通して流れていると思います。ある状況の真実に対して、個人的に重要な内面的つながりを持つ人々がいる一方で、彼はそうではない。人々の心を自分の目的へと束ねる際に、ある現実のバージョンから別のバージョンへと難なく移行できるからこそ、彼はある意味でこの仕事に特有の適性を持っているのだと思います。
プライベートへの疑惑とビジネスの泥仕合
過去1年間、サム・アルトマンの私生活、性生活、彼が何をしたか、あるいはしなかったかについての非常にセンセーショナルな疑惑を調査することに多大な時間を費しましたね。結論としてどうでしたか？それについて何が言えますか。
ええ、これについて重要なのは、私たちは最初からそれを探し求めていたわけではないということです。この状況を異常なものにしている理由の一つは、「サム・アルトマンは常に嘘をつく」という主張が蔓延していることです。
そしてもう一つ異常なのは、それらのより実質的な批判（私の見解では）が広く存在する一方で、彼の私生活に関する信憑性の低い主張が信じられないほど広く流布していることです。これについて何ヶ月も調査した私の見解ですが、皮肉なことに、ライバルによってでっち上げられた、あるいは根拠の薄いこれらの偽の主張が存在することで、本当の批判が覆い隠されてしまっている状況を私たちは捉えています。
この分野の紛争の雰囲気は、ある幹部が言うように「シェイクスピア劇」のようです。
インターネットの台頭時よりもひどいですか？あるいは鉄道やその他のビジネスの台頭時よりも？
歴史家は議論するかもしれませんが、この分野で私たちが話を聞いた多くの人々は「絶対にそうだ、今はもうルールなんて存在しない」と言います。私が驚いたのは、その対比です。私たちは、このテクノロジーがいかに危険で、私たち全員の生存に関わるものであるかについて話していますよね。それなのに、それを運営している人間たちは、まるで殴り合いの喧嘩をしているんです。互いに泥を投げ合っています。
私たちが直面したのは、あるライバルから少し話を聞いたというレベルのものではありません。政府関係者、投資会社の人々、ライバル企業から、10回近くも直接電話がかかってきました。この業界の誰と話しても、彼らは多くの場合、それを「公知の事実」として引き合いに出します。例えば、「サムは未成年者を狙っている」という主張です。それは非常にしつこく言われています。
そして、手短に明記しておきましょう。
私たちはその証拠を一切見つけられませんでした。サムと私はこのことについて直接対話しました。もちろん、「サム・アルトマンの言うことは話半分に聞くべきだ」と人から言われていましたが、私たちのオフレコの率直で個人的な対話の中には、ある程度の誠実さを感じました。それらの疑惑に対する彼のスタンスを把握できたと思います。
そして私たちは、調査で確認できた事実のみを記事に掲載しました。つまり、証拠は全く見つからなかったということです。これは事実無根であると思われます。
誰によって広められているのですか？
彼の敵対者たちによって激しく広められています。イーロン・マスクの仲介者からの文書があり、場合によってはイーロン・マスクから支払いを受けているケースもあります。
もしここにイーロン・マスクが座っていたら、彼は何と言うでしょうか？
ええ、私たちは確かにこの件についてインタビューを申し込みましたが、彼は断りました。しかし、彼の他の仲介者を通じて事実確認を行いましたし、彼には私たちがこの件について述べていることのいくつかに対する反論があります。ただ、アルトマンのライバルたちがこれを強く推進していることは紛れもない事実です。
MicrosoftはOpenAIの巨大な資金提供者であり、彼らの自社製品への独占的なアクセス権を多く持っていますよね。しかし最近、Microsoftを迂回しているように見えるAmazonとの契約に関して、MicrosoftがOpenAIとAmazonを提訴するかどうか検討していると報じられました。これがどういうことなのか説明してください。私にはただの混乱状態にしか見えません。
ええ、これはビジネスパートナーやライバルが、アルトマンとOpenAIを「両立しない契約について矛盾する発表をした」と非難しているいくつかの例の一つです。
専門的な詳細で退屈させるつもりはありませんが、要するに、Microsoftはある種の基盤モデルの独占的なプロバイダーであり、彼らはその上での契約を発表しました。実は同日、彼らはAmazonとの間でそのMicrosoftの独占性を再確認していたのです。そしてMicrosoftは、企業がエージェントを構築できるようにするためのエンタープライズ製品に関するこの新しい契約が、まさにMicrosoftが独占的に管理すべきものに依存していると主張しています。
その後、彼らは互いに声明を発表し、Microsoftは「OpenAIがここでの法的義務を理解していると承知している」と述べています。ですから緊張状態にはありますが、裏でMicrosoftの幹部と話をすると、彼らは「まず第一に、これは完全に矛盾している。彼が矛盾する二つのことを発表したため、Amazonの発表で約束されたこと（つまり、これらの矛盾を解消する新しいソリューションを構築するという約束）をアルトマンが実現する方法はない」と言っています。
これは、これらの契約の多くが堂々巡りになっているという問題にも繋がります。例えば、「OpenAIはNvidiaと契約し、NvidiaはAmazonと契約し、AmazonはOpenAIと契約している」と描写される時によく見られるミームがあります。自分自身にプラグが刺さっている延長コードの画像です。そういう「私があなたのものを買い、あなたが私のものを買う」みたいな契約がたくさんあるんです。
アンドリュー、OpenAIの規模はどれくらいですか？利益は出ているのですか？彼らが非常に多くの投資を受けていることは確かですが。
どれくらいの規模かということと、利益が出ているかということは別の問題です。
その通りですね。
彼らは凄まじい勢いで現金を燃やしています。この記事を制作している間にも、彼らがさらなる資金調達ラウンドを次々と終了させたため、史上最大の資金調達額の数字を何度も修正しなければなりませんでした。最新の評価額は、たしか1,220億ドルだったと思います。
そうです。
そして同時に、私たちが知る限り、彼らはまだ赤字です。なぜなら彼らはただ…
そのお金はどこへ消えているのですか？
その多くはデータセンターに投入されています。
彼らはUAE（アラブ首長国連邦）に、セントラルパークの7倍の広さで、マイアミの都市と同じくらいの電力を消費するデータセンターを建設する予定です。
それは環境にとって素晴らしいですね。（皮肉）
ええ、環境には完璧です。でも心配しないでください。AGIが環境問題を解決してくれますから。
ああ、それなら安心しました。（笑）
地政学的な観点から言っても、この記事の大きなテーマの一つは、勢力同士を互いに競わせるという初期のアイデアについて語るだけでなく、この計算能力が、サムの言葉を借りれば「世界の新しい通貨」となり、国家間の力関係を形作る要因になりつつあるという現在の現実です。
そのため、この業界や国家安全保障体制の中には、資金をできるだけ多く集めるという、この無制限で、アルトマンの場合はしばしば露骨に取引的なアプローチ（それは現在の現実においては必然的に中東の資金への依存を強めることを意味します）に危機感を抱いている人々がいます。
そのような批判者たちは、それが独裁体制の下に信じられないほど地政学的に敏感な、新しい種類の権力を集中させていると言います。それは最終的に私たちの制御を超えてしまうかもしれません。一人の独裁者が、地球上で最も強力なテクノロジーに対して不釣り合いな所有権を持つという状況に陥る可能性があります。そしてそれは、国家安全保障上の真の脅威となり得ます。
しかし、そこにお金があるわけですよね。
そこにお金があるんです。そしてシリコンバレーでは、中東から資金調達することが標準になっていると言うべきでしょう。
ハリウッドも、どこもかしこもそうです。
どこもそうです。しかし、そのような背景にあってさえ、アルトマンの壮大なビジョン、つまりこれほど莫大な資金を獲得し、その代わりにUAEにこれほど大規模なインフラストラクチャーを約束することに対しては、多くの不満の声が上がっていました。
映画の資金をどこから調達するかということと、一部の人々が呼ぶように、「天才たちの国」をデータセンターのどこに配置するかということは別の問題です。言い換えれば、もし本当に新しい形の超知能を育てていると考えているなら…
身内（家族）の中に置いておきたいですよね。
まさにその通りです。
サム・アルトマンが本当に望んでいるもの
最後にお二人に、まずはローナンに伺います。この時点で、イーロン・マスクが何を意味し、イーロン・マスクが何を望んでいるのかは、私たち全員がわかっているような気がします。しかしサム・アルトマンはもっと謎めいています。ローナン、サム・アルトマンは何を望んでいるのでしょうか？ここでの壮大な野望は何ですか？世界一の金持ちになることでしょうか。ある時点で彼は「お金よりも権力に興味がある」と言っていますが、どう感じていますか？
サム・アルトマンはしばしば、「この瞬間にあなたが望んでいること」を望む人物である、というのは単なるカリカチュアや誇張ではないと思います。
どういう意味ですか？
それが問題の核心です。サム・アルトマンは多くの場合、これらすべての文書や情報源を通して見ると、テーブルの向こう側にいる相手が何を必要とし、何を求めているのかを読み取り、それこそが自分の望みであり、信じていることだと彼らに伝えるんです。
会社の設立当初のストーリー全体を見ても、安全性への恐怖が蔓延し、それが議論の原動力となっていた時期に、彼は「安全第一の男」となり、それが自分の最も深い信念だと皆に語りました。現在彼は、「時間が経てば進化するのは当然のことだし、変化する状況に適応しなければならなかった」と言い、それは完全に不当な言い分ではありません。
しかしそれを考慮に入れても、彼が「安全重視の男」から、彼自身は反論するでしょうが、「規制反対の男」になったと正確に言えるような全体的な構図においても、そしてすべての小さなやり取りというミクロな構図においても同じです。
記事の中で、現在Anthropicの競合相手であるダリオ・アモデイ（Anthropic設立前はOpenAIの幹部でした）を、同じく会社にいたアモデイの妹と共に部屋に呼び出し、彼ら二人が政治的な動きをし、自分に敵対して働いていると非難したエピソードを紹介しています。そしてアルトマンは、この噂の出所だとする別の幹部を呼び出しました。するとその幹部は「そんなことは一度も言っていない」と言い、アルトマンは「じゃあ、私もそんなことは言っていない」と返したそうです。そこにいた人物の証言によればですが。関係者全員と話をしたので、正確な報道内容は記事で確認できます。
しかし要するに、彼は同じ瞬間において、異なる見解や欲望を反射して見せるのです。彼自身の言葉によれば、彼は極端に「争いを避ける」人物です。そしてこの記事は、感情的な側面でのその現実に対する同情、その理解しやすさ、共感しやすさを多く含んでいます。しかし同時に、それで彼を正当化するわけでもありません。これは彼の中に異常なほど存在する特性であり、彼のビジネス、そして世界に大きな影響を及ぼしているのです。
アンドリュー。
ええ。このテクノロジーに関する初期の売り込みが、時間を経て完全に覆ってしまった世界観にどれほど基づいていたかを理解することが重要だと思います。私たちはこれを、「企業は立派なプレスリリースを出し、『私たちは悪にはならない』と言っておきながら、後になって何が悪かの定義を変えるものだ」というレンズを通して見がちです。
しかし、これはそういうことではありません。アルトマンはブログ記事を書き、人々を説得し、夕食に誘い、「地球上のすべての人を文字通り殺すことなく、このテクノロジーを世に送り出すために信頼できる人間は私だ」と伝えるために多大な労力を費やしたのです。それが文字通りの売り込み文句でした。
それなのに、今になって「あの破滅主義的な話はもう心配しなくていい」と言う。それは、「あの時嘘をついていたか、今嘘をついているか」のどちらかです。
あるいは、AIの研究において何か進展があり、彼が警戒心を解くようなことがあったと反論するかもしれませんね。
そう反論するかもしれませんが、彼はそうはしませんでした。彼が言うのは、問題の再定義です。
ええ。
彼はアライメント問題を、文明的、実存的な問題から再定義し、Instagramのアルゴリズムが時間を無駄にさせるよう誘惑してくるような「厄介な問題」へと再定義したのです。単に論点をすり替えただけです。
ここで言っておきたいのは、The New Yorkerのような本格的な調査報道、特に私の仕事を見ると、これが「悪役に対するバッシング記事」だと思う人もいるかもしれません。もちろん私はそのような特徴づけには反論します。私たちはこれらの複雑な問題を公平に見ています。
しかし特に今回のケースでは、単一の明確な犯罪容疑を調査しているようなケースとは全く異なります。シリコンバレーにはサム・アルトマンを悪役だと考えている人々がいます。ただ言っておきますが、この取材を終えて、私はサム・アルトマンを悪役だとは思っていません。
彼は複雑なキャラクターだと思います。彼はその瞬間に言っていることを、自分でも信じていることが多いのだと思います。これが争いを避ける性格に根ざしているという彼の主張も、非常に現実的だと思います。彼に近いある人物が記事の中で語っているように、彼には自己疑念というものが全くないように見えます。だからそれはスーパーパワーなんです。彼が口にするとき、彼はそれを信じているのだと思います。
そして彼自身もその結果と向き合い、葛藤しているのだと思います。そして業界もまた、その結果と向き合わなければならないというのが、私が主張したい主な点です。
全く同感です。デイビッド、別の言い方をすれば、もし彼を解任に追いやったあの初期のメモの中に、わかりやすい決定的な証拠が含まれていたなら、私たちはこの記事が出るずっと前にそのことを知っていたはずです。
ええ。
メモには、たった一つの決定的な証拠は含まれていません。そこに含まれているのは、16,000語に及ぶThe New Yorkerの記事を費やして初めて解明できる、行動のパターンなのです。
ローナン・ファロー、アンドリュー・マランツ、本当にありがとうございました。
ありがとう、デイビッド。
コメント