アンスロピックCEOの大胆な主張 – ポール・レッツァーとマイク・カプットによるAIショー

2,487 文字

Anthropic CEO's Bold Claim - The AI Show with Paul Roetzer & Mike Kaput

In a striking new interview from the annual World Economic Forum conference in Davos, Anthropic CEO Dario Amodei has mad...

世界経済フォーラムが年次総会をダボスで開催しました。第132回のエピソードでは、AIリーダーたちの興味深いインタビューをいくつか取り上げましたが、今回のエピソードでは、その中でもアンスロピックのCEOであるダリオ・アマデのインタビューについて、より詳しく掘り下げていきたいと思います。彼はAIの進展について非常に興味深い予測を示しました。AIが2027年までに人間の知能を超える可能性があると示唆し、当然ながら人々は他のAIリーダーたちにもこれについての反応を求め、質問を始めました。
このインタビューで彼は、AIの急速な進歩に対する確信が最近の数ヶ月で劇的に高まったことを明かしています。以前は変革的なAIの実現タイムラインについて不確実性を維持していましたが、今では「今後2〜3年以内に、あらゆる面で人間より優れたAIシステムが登場する」ことを「比較的確信している」と述べています。また、アンスロピックの成長や資金調達、今後数ヶ月以内にクロードに重要なアップデートが予定されているという直近のロードマップについても言及しました。
しかしポール、この2027年という予測が注目を集めたのは、彼がまた「AIの能力が向上するにつれて、社会は経済のあり方を根本的に見直す必要がある」とも述べているからです。「人間が地球上で最も知的な種である時代に作られた多くの前提が、AIによって無効化されようとしている」と語っています。ポール、彼がこのような予測をし、さらにタイムラインを加速させた背景には何があるのでしょうか。
そうですね、面白いのは、私は彼がタイムラインを加速させているとは実は思っていないんです。もし振り返ってみると、これは第119回のポッドキャストで話題にした「Machines of Loving Grace」という記事を彼が書いたのは2024年10月15日でした。その記事で彼はAIについてかなり急進的な予測をしていて、その時点で彼は「パワフルなAI」について語っていました。彼はAGIという言葉が一種のマーケティング用語だと考えているので好まず、代わりに「パワフル」という表現を使用しています。
その時点で彼は2026年という早期の実現可能性について言及していました。彼はほとんどインタビューに応じないので、今回これが大きく取り上げられたのは、単に彼がダボスの世界経済フォーラムでインタビューに応じたからかもしれません。彼は2026年の可能性を示唆し、その記事では5〜10年のタイムフレームで考えていると述べていました。
彼は歴史的に見てもかなり曖昧な表現を好む傾向にあります。物事の正確な意味や、いつ、なぜそうなると考えているのかについて、具体的に特定するのが難しいんです。他の誰よりも、彼は非常に広い一般論で話す傾向があり、具体的な詳細に踏み込むのが難しい人物です。私はダリオの発言には常に耳を傾けていますが、彼はしばしば突飛なシナリオを提示した後で、基本的に「その意味は分からない」と言うんです。それが彼の一般的な回答パターンです。
「もしそれほど心配なら、なぜ開発を加速させるのか」という質問に対しても、「良い結果をもたらすと考えているし、どうにかして解決策を見つけ出す。リスクを理解するAIを構築していく」といった具合です。私が言いたいのは、彼の話を聞いていると落ち着かない気持ちになるということです。
アンスロピックはおそらくブレークスルーを起こしていると思います。第132回で話したように、彼らは現在何らかの理由で情報を抑えているのだと思います。安全性の問題かもしれませんし、訓練が期待通りの結果を出せていないのかもしれません。しかし、彼らは公表している以上のものを持っていると思います。
彼のインタビューが落ち着かない理由は、「これは何を意味するのか」という質問に対して明確な答えを持っていないように見えることです。他の誰よりも、彼らが行っていることの危険性について警鐘を鳴らしているにもかかわらず、「リスクが顕在化した時点で解決する」以外に、それにどう対処するのかという答えを持ち合わせていないように見えます。
先週、彼のインタビューをいくつか聞きましたが、内容は似たようなものでした。この2027年というタイムラインには何か根拠があるはずです。彼が「Machines of Love and Grace」を書いてから3〜4ヶ月しか経っていませんが、彼も他の人々も、私たちがAIの重要な進歩に非常に近づいていると考えていると思います。私もそう信じています。彼は必ずしもそれを最も上手く言語化できているわけではありませんが、これが現実だと考えているのだと思います。
その点について、以前のエピソードでも話しましたが、主要なリーダーたちが「ちょっと待って、スピードを落とそう」というような発言をしているのはあまり見かけませんね。なぜなら、彼らは皆同じ資金と影響力を求めて競争しているからです。彼らは皆、自分たちこそがリスクを特定し解決するのに最適な立場にあると考えているのでしょう。
ただ、今年か来年には、これらのプレイヤー間でもっと協力関係が見られるようになるのではないかと思います。いずれデミス・ハサビス、ダリオ・アマデ、サム・アルトマン、あるいはOpenAIの主任エンジニアといった人々が一堂に会して、2027年までにAGIやスーパーインテリジェンスが実現した場合の現実について話し合う必要があると思います。彼らは皆、国際評議会の必要性や、誰かがこの問題を解決する必要性について語っています。
彼ら自身がこの技術を構築している当事者なのに、その技術がもたらす結果への対処は誰か他の人が解決してくれることを期待しているようです。イーロン・マスクがサムや他の人々と同じ部屋に入ることを望むとは想像できませんが、3〜5年以内に社会を変えると考えている技術を構築している企業を率いる世界の5〜6人のリーダーたちが、私が知る限り、その対処について互いに話し合っていないのです。