10,970 文字
多くのインタビューで、あなたは「ターミネーター的な結末は心配していない」と言っていますが、超知能はすべての人間を合わせたよりも賢く、間違いなく抜け道を見つけるでしょうし、おそらく独自のエージェンシーや意志、目標を持つでしょう。なぜそれを人類にとっての本当のリスクとして考えないのですか？
確かにリスクではありますね。私が言いたかったのは、まず、時間の経過とともに状況が変化してきたということです。4、5年前に遡ると、AIに関する記事には毎回赤い目のターミネーターロボットの写真が付いていましたよね。今ではそれは減っています。私が言いたかったのは、技術そのものが暴走することよりも、人々が悪いことに技術を使うことの方が心配だということです。ただ、技術が暴走する可能性があるし、実際に起こることも認識しています。
ある意味では、私たちはすでに超技術に征服されていると言えます。宇宙から見下ろすと、地球上の支配的な種は自動車だと言えるかもしれません。私たちは都市の3分の2を自動車のために捧げ、彼らは人間を奴隷にして運転させていますが、最近では自分で運転し始めています。技術には意図しない副作用があることがあります。そのことは確かに心配しています。
もう一つ思うのは、私たちは知能を過度に重要視しすぎているということです。私たちは自分たちをホモ・サピエンス（知恵ある人）と呼ぶので、知能が最も重要だと考えています。もし象が考えることができれば、おそらく「超強さが最も重要だ」と言うでしょう。チーターは「超スピードが最も重要だ」と言うでしょう。知能はただの一側面で、できることもあればできないこともあります。もし知能だけが重要なら、最も賢い人々が世界を支配しているはずですが、私たちが住んでいる世界はそうではないと思います。
何らかの理由で、より賢くなることが助けにならないと感じる部分があります。チェスをより上手に指したいなら、より賢いアルゴリズムやより速いGPUを持つことが確実に役立ちます。しかし中東危機を解決したいと思って10倍速いコンピュータを持っていても、ただ10倍速く苛立つだけで、答えを見つけることはできないでしょう。特に、これらの機械が知能を得ているのは主に私たちのデータからのトレーニングによるものだからです。ある種の上限があります。
もちろん、機械は私たちが考えなかったことを組み合わせたり、より速く考えたりできるので、絶対的な上限ではありません。カーツワイル曲線のように全て上向きのグラフがありますが、開発に関しては、垂直的な上昇というよりは漸近的になると感じています。
最近、Matterという研究会社が、AIエージェントが長期的なタスクを実行する能力が7ヶ月ごとに向上し、開発と長期タスクを実行する能力の軌道が実際に加速していることを示す研究を発表しました。
測定できる項目はたくさんあり、改善を示すことができます。私のルールの一つは、新しいシステムが登場するたびに、進歩を示す指標が出てくるということです。指標は非常に多いので、あなたの偏見をサポートしたいなら、常に見つけることができます。
それに加えて、何かをトレーニングしようとすれば、おそらくそれに成功するでしょうが、全てのことに成功するというわけではありません。
AIがその天井に到達するのはいつだと思いますか？
それは続くでしょう。カーツワイル曲線を見る別の方法として、指数関数的な曲線は上がり続けるように見えますが、対数グラフで描くと単なる直線になります。私たちはその成長をそのように感じていると思います。AIの前からでも、すでに驚くべきものがたくさんあります。皆が持ち歩いているこれらの機器を見てください。100年前から今日まで一気に来たら、人々は驚愕するでしょうが、代わりに私たちはこれが普通だと言って慣れています。
徐々に慣れていくと思いますし、より強力なものも出てくるでしょうが、「ああ、これで最終目標を達成した」と言う瞬間は一つないと思います。
ChatGPTについては、たとえ内部の人たちが何をしているか知っていたとしても、一般の人にとっては「今や、このAIは驚くほど多くのことができる」という感じでしたよね。
多分私には偏りがあるかもしれません。毎年「ちょっとずつ良くなっている」と見てきましたから。でも一般の人々はそれを使っておらず、突然「これは変化だ」と思ったのでしょう。しかし、その後慣れてきます。
超知能が起こる可能性はあると思いますか？
どんなタスクを選んでも、人間よりも優れることは簡単だと思います。1990年代に遡ると、突然スーパーチェスプレイヤーが現れ、それは一部の人々にとって驚きでした。その後も続けていますし、これからも続けるでしょう。私が言いたいのは、彼らはある意味で世界での経験に基づいているということです。その経験のほとんどは私たちから来ているので、私たちが理解できるものとはまったく異なるとは思いません。
AIの最先端の研究所の研究者たちは「2028年までにAGI、遅くとも2030年までにAGIを期待している」と言っています。2030年がAGIを達成する必要がある期限のようです。AGIについてあなたの予測はどうですか？
それは全て、どのように定義するかによります。どれだけのArtificial（人工的）さ、どれだけのGeneral（一般的）さ、どれだけのIntelligence（知能）が必要かということです。ブレイザーと私は昨年論文を書き、AGIはすでに存在すると述べました。
私たちが言いたかったのは、もちろんこれらのシステムが多くの間違いを犯すことは否定できませんし、ひどい誤りや幻覚、誤った引用など、多くの欠陥がありますが、重要なのは、過去3年間で初めて、ソフトウェア業界が特定のソフトウェアではなく一般的なソフトウェアを構築する方向に変わったということです。
アナロジーの一つは、1945年のENIACコンピュータに戻ることです。部屋全体のサイズで非常に遅く、メモリも非常に小さかったですが、プログラム可能で分岐文があり、if文とループ文があったため、今日私たちが知っているものとして100％一般的でした。メモリと速度に制限がなければ、どんなコンピュータでもできることを数学的に証明できます。それ以来、単に段階的な改良が続いています。
私たちは汎用性のポイントを通過し始めています。事前に「これは銀行の会計ソフトウェア」「これは言語生成器」「これは画像認識器」と決めるのではなく、ファウンデーションモデルを構築し、それを使って何でもできるようになっています。私にとって汎用性はすでにここにあり、あとはゴールポストをどこに置くかという問題です。どれだけ高くなければならないか、任意にこれがAGIだと言うことはできますが、私はそのゲームにあまり興味がありません。
私が見た多くの定義では、AIは知的労働者の仕事を行い、彼らを置き換えることができ、基本的に経済的に価値のあるタスクを生産できるというものです。企業は人間を必要とせず、AIで彼らを置き換えます。これが基本的に経済をシフトさせるAGIです。これは起こると思いますか？
小さなシフトが見られていますし、より大きなシフトも見られるでしょう。2030年までに大きな変化があるとは思いません。また、ほとんどの場合で人々を置き換えることに興味はありません。いくつかの場所ではそれが良いアイデアかもしれませんが、ほとんどの場所では人々を強化したいと思います。
新しい人間は必要ありません。私たちは古いやり方でそれを知っています。私と妻は2回行いました。彼女は私よりも多くの仕事をしましたが、結果は素晴らしく、私はとても誇りに思っています。それが私たちがすべきことだと思います。人々をより良くするべきです。
ある意味では、少ない人数で会社がより多くのことをできるため、仕事は少なくなるでしょう。なぜなら、人々とAIが協力してより良いことができるからです。しかし、別の意味では、これまで見たことのないものを簡単に作れるようになるため、より多くの仕事が生まれるでしょう。
危機が起こり、人々が仕事を失い、何も見つけられなくなるとは思いませんか？
速度と変化への抵抗のために問題があると思います。過去にもこのような混乱がありました。かつてアメリカでは約90％の人が農家でしたが、今では2％ほどです。私は農家でしたし、両親や祖父母も農家でした。しかし今の子供たちは大学に行き、農場ではなくオフィスビルで働くようになります。それは世代的なものでしたが、今は「2年間仕事をしていたが自動化され、別の仕事を見つけたが1年しか続かなかった、そしてまた別の仕事を見つけたが6ヶ月しか続かなかった、今はイライラしていて何をすべきかわからない」という感じです。
それは社会的な問題になると思いますが、技術が存在しても、その技術の広範な使用にはより時間がかかるというのも事実です。好きなアナロジーは、工場への電気の導入を振り返ることです。かつて工場は中央に蒸気機関を持ち、それから様々な導管が出て各機械に蒸気を押し出していました。非常に非効率的で、「蒸気機関を捨てて電気モーターに置き換えよう」となりました。彼らは中央に電気発電機を置き、まだ全ての導管を持っていましたが、今はいくつかは蒸気ダクトの代わりにワイヤーでした。
それはあまり効率的ではなく、「一つの中央機械を別のものに置き換えるだけというのは間違いだった」と言うまでに時間がかかりました。代わりに、工場全体に広がる各機械に電気モーターを置き、物事の進め方を完全に再考する必要があります。技術を持つことは一つのことですが、それがどのように社会全体に統合されるかを理解することはより難しいと思います。
人々は妨害するかもしれません。特に科学者や専門家は、AIが彼らを助けるとは思わず、AI以上に自分自身や専門知識を信頼するケースがあります。そこには妨害が起きています。そのようなことも期待しています。
次の質問は、実際にAIが経済をどのように変えると思うか、そして人々がこの変化にどのように準備すべきかに関連しています。特に、おそらく仕事を失うであろう知識労働者は、どの程度の規模かはわかりませんが、それは起こるでしょう。彼らは今何を始めるべきでしょうか？どのようなスキルを身につけるべきでしょうか？
これらのツールを使い始めることです。多くの例を見てきました。生物学者の友人は「私はプログラマーではなく、生物学の博士号を持っている。いくつかの技術的なことを知っていて、スプレッドシートからデータを取り出して図を作り、その図を論文に挿入して送信することはできる」と言っていました。彼は「鳥の移動を地図上で本当に追跡するアプリが欲しかった。本物のプログラマーならできると知っていたが、自分にはできるとは思わなかった。しかしCopilotについて聞いて使い始めたら、アプリを構築できた」と言いました。
以前は自分にはできなかったことが、今はアクセス可能になっているということを認識する意欲を持つことが重要です。快適ゾーンから飛び出して、「これを使ってみよう」と言う意欲が必要です。
もう一つの例は、Googleの内部アプリです。専門的なもので、毎日使う人は気に入っていますが、複雑で上部に20の異なるメニューと100の異なるボタンがあります。彼らはそれを使うことを学び、気に入っていますが、マネージャーが年に一度見たいと思うと「このアプリを学びたくない」となります。そこでエンジニアに「これを見せて、あれを見せて」と頼み、一緒に座って行う必要がありました。
そこに小さなLM（言語モデル）ボックスを入れたところ、今ではマネージャーはボックスに入力するだけで「もうエンジニアは必要ない、自分で操作できる。全てのボタンを学びたくないが、何を尋ねたいか知っている」というようになり、それがうまく機能しています。
これは大きな変化だと思いますし、特に小さな会社にとって真実になると思います。大きな会社なら独自のITチームがあり、重要なことなら彼らが構築してくれます。中規模の会社ならSalesforceなどを雇い、彼らに支払う十分なお金があります（Salesforceは正直言って苦痛ですが）。小さな会社なら、本当に何もできませんでした。しかし今は、小さな会社に2人の営業担当者がいて「これが私たちのワークフローです」と言って、彼らにぴったりのカスタムアプリを構築します。それが大きな違いを生むと思います。
例えば、会社に20人の営業担当者がいて、AIのために2人の営業担当者だけが必要になったら、残りの18人は何をすべきでしょうか？
そういうことも一部あるでしょうし、「私たちははるかに効率的になれる」というようなこともあるでしょう。各営業担当者が世界の異なる地域を担当し、以前よりもっと多く販売するようになるでしょう。いくつかの販売損失と能力の拡大の組み合わせになると思います。
昨年、SB 1047法案をめぐる論争を覚えていますか？基本的に2つの陣営があると思います。「ドゥーマー（破滅論者）」陣営は「悪意のある行為者が使う可能性がある有害な知識があるため、AIを規制する必要がある」と言い、もう一方は「中国のためにAIを加速させる必要がある」などと言っています。まず、あなたはどちらの陣営に属しますか？そして、もし破滅的なシナリオが起きた場合、コミュニティとして今日何ができると思いますか？
SB 1047の多くは時代遅れだと思います。昨年、「全ての行動が少数の大企業が運営する強力なファウンデーションモデルに集中するなら、どのようにこれらの企業を規制するか」ということが焦点でした。しかし今や、オープンソースモデルのおかげで、誰でも自分のモデルを構築できるようになりました。これらの蒸留モデルはほぼ同じくらい良く、コストはほんの一部です。猫はすでに袋から出ています。それが全ての視点を変えていると思います。
1年か2年前の会議で、エリック・シュミットが「悪い人々が手に入れて恐ろしいことをする恐れがあるため、モデルをオープンソース化できない」と言っていたのを覚えています。「誰かが10億人を殺す病原体の作り方を尋ねるなら、それを記録して何かできるようにしたい」と。先月、エリックは「もっとオープンソース化すべきだ」と言いました。彼は「もう遅すぎる、それを止めることはできない」と言ったのです。
そのため、より多くの競争があり、分野がより速く成長するようにオープンソース化すべきだと言いました。これは常に問題になるでしょう。立法府は特定のことを行うように設計されていますが、AIが動く速度に対応するようには設計されていません。彼らはAIへの対応には適していません。彼らは道路での速度制限を決めるなどには適していますが、AIには適していません。
彼らには一定の役割があり、合法と違法を決めるべきことはありますが、立法府だけに任せたくはありません。様々な側面を取り入れたいです。その一部は自己規制で、多くが見られています。
自己規制とは何を意味しますか？
全ての大企業はAI原則を持ち、全員が受けなければならない内部トレーニングがあり、内部と外部の両方のレビューボードがあります。私にとって、Anthropic、Microsoft、OpenAIなどの同僚と話すと、それは大きなことです。彼らにとってこれは非常に重要であり、真剣に取り組んでいます。一部のスタートアップはそれほど真剣ではないかもしれません。「私たちは少数の人しかいないので、それが最優先事項ではない」と言うかもしれませんが、大企業にとっては本当に重要で、良い仕事をしていると思います。
最近、Underwriters Laboratoryが設立したAI安全委員会に参加しました。彼らは非常に興味深い組織だと思ったからです。彼らは非営利、非政府、第三者、独立、偏りのない、認定された専門家です。
最後に一般の人々が「この技術は私を殺すだろう」と恐れていたのは100年以上前の電気でした。Underwriters Laboratoryが現れて「このステッカーをあなたのトースターに貼ります。それはあなたを殺さないという意味です」と言いました。消費者はそのマークを信頼し、企業は自発的に認証を受けました。それは役立ったと思いますし、そのような独立した組織を持つべきだと思います。
また、専門家組織が台頭する可能性もあると思います。私はACMと三重AIのメンバーで、それらにはAI原則がありますが、あまり縛られている感じはしません。これらの組織のメンバーシップが私のアイデンティティの大きな部分だとは感じません。「会議に行くとき、メンバーだからちょっと安く済む」くらいです。
しかし、それ以上のことができるはずです。他の分野ではそうです。私は自分をソフトウェアエンジニアと呼べますが、公式なものは何もありません。誰でも自分をソフトウェアエンジニアと呼ぶことができます。他の分野ではそうではありません。明日「私は土木技師だから橋を作らせてくれ」と言うことはできません。それは許されていません。認証を受ける必要があります。
すべてのソフトウェアエンジニアが認証を受ける必要があるとは思いません。それは確実に物事を遅くするでしょう。しかし、これらの重要なAIの一部については、何らかの認証にもっと関与する可能性があるかもしれません。
AIの加速について、DeepSeekが本当にゲームと考え方を変えたと思いますが、米中AI軍拡競争についてはどう思いますか？誰がリードしているのでしょうか？潜在的にどのような結果をもたらす可能性がありますか？
内部の人間かどうかによって異なります。一般の人々にとってはこれは大きなことのように見えましたが、私やOpenAI、Microsoftなどの企業の人々にとっては「何が大したことなの？私たちもそれをやっている」となります。「私たちは一般に公開した大きなモデルを持っていて、それは確かに高価で、数十億の顧客に宣伝したので多くのお金を払いましたが、内部的には半ダースの研究チームがあり、全て小さな予算を持っていて、何も発表していませんが、全て同じくらい良くて安いモデルを構築しています」となります。
基本的に、一般の人々は実際に行われている一部の研究にアクセスできません。同じような種類のコスト削減、サイズ削減などの研究が行われており、全ての大企業は多くのそのようなモデルを持っていますが、旗艦モデルに焦点を当てているため、それらについて話していないのです。
私にとってそれは大したことではなく、それは避けられないことでした。多くの人々がそれを行うことができ、中国の人々も同様にできます。彼らは速いフォロワーであり、それをうまくやっています。
これがスプートニクの瞬間のようなものだと言う人もいて、それは米国、そしておそらくヨーロッパの業界にとって良いことかもしれません。中国は本当にそこでリードしていると思います。中国でスタートアップ企業を立ち上げると、ここよりも必要な計算能力に簡単にアクセスできます。
今、誰がリードしていますか？首位を競っているのでしょうか？
米国はより多くのトッププレイヤー、トップ研究者などを持っているので、より良い状況にあります。しかし、中国も優れています。ある程度、複数の異なるゲームがあります。次の大きなアイデアを持つトップ研究者は一つのことですが、速いフォロワーとして何かを素早く実装できるかどうかは別のことです。
オープンソース以外に、AIが平等に分配され、人々に利益をもたらし、ただ一部の人が兆万長者になって他の人々が取り残されないようにする方法はあると思いますか？
それについては確かに心配しています。最初の質問は「ターミネーターについて心配していますか？」でした。私の2つの最大の心配は、1つは悪い人々が強力なものを自分の目的のために使うこと、2つ目は不平等という考えです。
それは特にAIではなく、ソフトウェア全般に関係していると思います。ソフトウェアは商品の限界コストがほぼゼロで、市場はグローバルです。昔、私たちが農家だったとすれば、あなたが私の2倍優れていたなら、おそらくあなたは私の2倍のお金を稼ぎ、私たちは両方とも大丈夫でした。
しかし、私たちが両方ともアプリメーカーで、あなたが私の2倍良いアプリを作るなら、あなたは2倍稼ぎ、あなたが世界で最高なら、世界全体にアクセスでき、私は何も得られません。本当に大きな勝者は少数になるでしょう。それは問題になるでしょう。
AIがソフトウェア市場の本質的な部分よりもそれをどれだけ悪化させるかはわかりませんが、AIを使えば速く進めるので、それを加速させるかもしれません。
サム・アルトマンは、「独自の創業者だけで数十億ドル規模の企業を見ることになるだろう」と言いましたが、そのようなことが実際に起こりうると思いますか？
独自でいることは愚かだと思いますが、10人の会社が100人の会社や、自分の慣性に縛られている無限のリソースを持った既存の企業と競争できる可能性はあると思います。
実際、WhatsAppは良い例です。彼らは確か17人でしたが、170億ドルほどで買収されましたよね？
素晴らしい例です。17人は良い数字です。一人だけだと、不必要に自分を制限しているように見えます。眠る必要があるし、誰かと話せるのは役立ちます。一人だけでやろうとすることを勧めません。また、もしあなたが数人を説得して参加してもらえないなら、それはそれほど良いアイデアではなかったのかもしれません。
あなたが以前のインタビューで触れた、AIを誤情報に使うことについての質問です。また、私が気づいたのは、人々がLLMとAIに大きく依存する傾向があり、次世代のAIネイティブな人々はAIの出力を疑問視さえしないということです。誤情報のリスクを最小限に抑え、AIを使って人々の考えを操作することを防ぐアイデアはありますか？
少なくとも2つの異なる部分があると思います。まず、LLMに何かを入力すると、それが何かを言い、それが間違っていて、あなたが気にしないという状況です。人々は情報源に注意深くないということは常にありました。私たちはそれをもっと良くできると思いますし、Perplexityがすべてのソースを提供することを大きく宣伝しているのを見ています。もちろん、それはあなたが実際にソースをチェックする場合にのみ役立ちます。
しかし、これが信頼できる情報だと自分自身を納得させ、他者を納得させることをより簡単にすることで、私たちはもっと良い仕事ができると思います。
第二に、これらのシステムがトレーニングされた素材の中には、誤りやあるいは意図的な誤情報によって間違っているものがあります。それから保護する方法を学ぶ必要がありますが、それははるかに難しい問題です。
2001年初頭、私はGoogleにいて、アル・ゴアが取締役会に加わりました。彼は次の4年間、別の仕事をするつもりでしたが、うまくいきませんでした。しかし彼は取締役会に加わり、感動的な講演をしました。「Googleの皆さんは素晴らしいことをしています。世界中の情報へのアクセスを提供していて、それは世界をより良い場所にします。」しかし、誤情報に気をつけるべきだとは一度も言いませんでした。彼はおそらく当時、最も技術に詳しい政治家でした。おそらくギングリッチも同じレベルにいましたが、それは彼らのレーダーに入っていませんでした。
私たちは内部的にはそれをレーダーに入れていましたが、同じ方法ではありませんでした。ウェブマスターがお金を稼ぐためにランキングで上位に来ようとして私たちをスパムしていることは非常に認識していました。そのような種類の誤情報は認識していましたが、政治的な誤情報については考えていませんでした。その後、その産業全体が成長し、対処するのは難しいです。「これは文ですが、これは真実ですか？」という決定的な方法はまだありません。
基本的に人々の認識と、より包括的な世界モデルを構築したいという欲求に依存しています。一つの情報源に頼るのではなく、自分の意見では少なくともそうです。
Googleは検索でまだモードを持っていますが、PerplexityやChatGPT、Claudeも検索機能を持っています。正直に言うと、事実性を気にするなら、特定のソースやリンクが必要ならGoogleに行きます。10年後のGoogleはどうなると思いますか？独占を維持できると思いますか？
まず最初に言いたいのは、皆がGoogleを検索会社だと思っていることです。彼らは検索から始まり、その後YouTubeや広告など様々なものを追加しました。しかし、最初の頃に戻ると、彼らはここから数ブロック離れた小さな建物にいて、その前はゲイツホールからさらに半マイル離れた所にいました。それは大学のプロジェクトでした。
彼らは検索について考えていませんでした。むしろ、ラリーとセルゲイは「このインターネットというものがあり、それは本当に速く成長しているようで、本当に興味深いようだ。インターネットのコピーを入手して、それで何ができるか見てみよう」と言いました。
それは実際には情報会社、またはデータ会社でした。そして、彼らが重要なページを全てダウンロードできるだけの十分なコンピュータとディスクを確保する方法を理解したら、彼らはそれをいじり始め、最終的に「私たちはそれを検索に使うつもりだ」というアイデアに至りました。
しかし、それは偶然のものでした。それは他のことかもしれませんでしたし、その情報を利用する他の方法かもしれませんでした。10年後から、彼らはおそらくまだ検索をしているでしょうが、彼らが焦点を当てているのは他のことかもしれません。
検索を10の青いリンクとして考えないでください。それをGoogleが情報へのアクセスを提供するものとして考えてください。その一部はリンクを通じたものであり、一部は「あなたのためにポッドキャストを作ります」、「あなたのために映画を作ります」、「会話をします」というものかもしれません。それはまだ情報へのアクセスです。
最終的な検索技術、考えられる最高のものは何かと考えていました。私が思いついた最良のものは、Neuralinkテクノロジーが十分に良ければ、何かについて考えるだけで、心を通じて検索し、必要な情報を見つけることができるというものです。
ありがとうございます。お時間をいただきありがとうございました。公式な部分を終了しましょう。
コメント