この動画は、AI専門家である大学教授が、Teslaの自動運転技術の内部仕組みから始まり、人工知能の意識や創造性、さらには経済的混乱を含む人類の未来について幅広く議論する知的な対談である。タンパク質の予測可能性という宇宙の不思議な性質から、Tesla FSDの神経ネットワーク化、起業家精神の重要性、そしてAIが人間の経済的地位に与える潜在的脅威まで、現代のテクノロジーが抱える根本的な問題を探求している。
AIと宇宙の予測可能性について
私たちが住んでいるこの宇宙において、タンパク質が予測可能であるということは一体何を意味するのでしょうか。皆さん、そのことについて考えたことはありますか。そんなことを考えるのは本当に奇妙なことですよね。
でも、そうでなければ私たちはここにいなかったとも思うんです。なぜなら、これらのものが自己組織化する能力がなければ、そもそも起こらなかったからです。でも驚くべきことに、私はタンパク質がどれほど複雑なのかを完全に理解できていません。三次元の折り畳み空間と、それが何兆、何兆通りもの方法で互いに折り畳まれるという事実があるからです。
以前は、PhD学生が博士課程全体をかけてようやく一つのタンパク質を理解できるレベルに到達していました。「ああ、これがこのタンパク質の折り畳み方だ。博士号をください」という感じでした。
そして今では、AlphaFoldが200万個だったか、2億個だったか、とにかく信じられない数のタンパク質を解明しています。彼らは完全に脚本を書き換えたのです。
Teslaの技術革新について
Dylan、少しTeslaについて話したいのですが、AIについて他に質問はありますか、それともTeslaについて少し掘り下げましょうか。
Dylanです。どうぞ、お願いします。私にはたくさん質問がありますが、Teslaは魅力的で、彼はAIについてかなり長い間、特にその分野で私よりもずっと多くの知識を持っています。ぜひ洞察を聞かせてください。
最大の点の一つは、Teslaについて私たちがあまり知らないということです。彼らはあまり多くの資料を公開していないようで、公開された論文を読むことができません。ロボットに何が起こっているのかです。今、彼らがダンスをしているのを見ていますよね。少なくとも私が聞いている限りでは、TikTokや動画から学習しているようです。
これはすべて、2015年頃に始まったTeslaの完全自動運転、オートパイロット、自律運転の研究から生まれています。約10年前のことですから、長い探求の旅を続けているのです。
最初、Andrej Karpathyがこのプロセスの非常に早い段階で参加し、ちなみに彼はとても素晴らしい人なのですが、チームの構築を手伝いました。彼らは長い間、基本的に巨大なヒューリスティックの塊を構築することに取り組んでいました。何十万行ものコードのif-then文です。
これがこのように見えたらこれをし、これがこのように見えたらというように、一時停止標識のような単純なものでさえ、見る角度によって異なって見え、光が少し違ったり、太陽が後ろにあったり、その他の要因があるため、どれほど複雑になるか想像できるでしょう。
2023年初頭、つまり約2年前に、彼らは「これを破棄して、エンドツーエンドのニューラルネットワークにしよう。ただそのようにやろう」と決めました。
これが主要な突破口でした。明らかに、このすべてを再構築するのに2年かかりましたが、Elon Muskによると、彼らは少なくとも30万行のコードを破棄し、今では単なる大きなニューラルネットワークのブロックになっています。
Tesla FSDの技術的詳細
私の推測では、彼らが以前にこれについて話したことがあるので、単なるニューラルネットワークではないと思います。カメラなどの入力用のものや慣性測定ユニットなどがあり、これらの入力があって、異なるニューラルネットワークがあり、おそらく真ん中に大きなものがあって、mixture of expertsのような状況かもしれません。詳細は分からないのは、彼らが教えてくれないからです。
その反対側では、おそらく多くの異なるヘッド、つまりブレーキングやステアリングなど、実行可能な異なることがあります。しかし、「今何が起こっているかわからないので、これをネットワークにループバックしてもう一度質問してみよう」といったこともあります。
2023年のCVPRで発表された最新の論文では、transformersの使用について話し、車線の文法のようなものを作成することについて話していました。実際に車線を見ていたのです。
例えば、2つの左折レーン、直進レーン、直進と右折レーン、右折レーンがある大きな複雑な交差点に来て、その他すべてのものがそれを横切っているとき、実際にそれを文法化し、言語のようなトークンに変換していました。
そして、その言語を見て、「この状況で最も確率の高い結果は何か」と言い、「ああ、ここに行かなければならない」となるのです。実際に言語モデルのように運転を見ていて、最も確率的な出力で行こうと言っていました。
また、モンテカルロ研究も行っていることを知っています。車がここに行く場合とそこに行く場合とあそこに行く場合の未来への投影を行い、何が起こる可能性を考慮して決定を下し、調整してからツリーサーチを行います。
私の心を驚かせるのは、彼らがこれを行えることではなく、基本的にラップトップでこれを行えるという事実です。これは車の中に設置されていて、ラップトップよりも少し重いですが、100から150ワット程度で動作すると思うので、相当な部分を占めます。デスクトップマシンのようなものですが、それでも大したことはありません。
ChatGPTのようなデータセンターを見ると、質問をすると10万個のGPUのようなところに行きます。そこまで多くはないかもしれませんが、巨大なデータセンターがあります。一方、車はリアルタイムで1秒間に36回、基本的に個人用コンピューター相当のハードウェアで自分自身を更新しています。その部分が本当にシンプルなのです。
車の更新とDojo スーパーコンピューター
車がアップデートを欲しがるとき、私は基本的に新しいニューラルネットワークをダウンロードしていて、座席の下にあるPCのようなものから他のものを削除して置き換えているのでしょうか。そうだとすれば、Dojoスーパーコンピューターは何をしていて、それはすべてどのように組み合わされているのでしょうか。
Dojoスーパーコンピューターはトレーニング用コンピューターです。GoogleとNvidiaが競合していて、TPUとNvidiaの巨大なエコシステムの競争について話しましたが、TeslaのDojoは別の競合相手です。それは彼らだけのもので、他の誰にも出荷していません。現在どの程度うまく機能しているかについては疑問があります。少し停滞しているようですが、それはトレーニングチップであり、運転チップではありません。
よく運転するものを作成するためには、すべてトレーニングに関わってきます。小さな小さなモデルを蒸留するためには、狂ったようにトレーニングしなければなりません。彼らは、ColossusかCortexか混同してしまいますが、ColossusはXAIのものでCortexはテキサスにあるものだと思います。とにかく、Cortexは5万から10万GPU規模のクラスターで、一部Dojoも含んでいると思いますが、主にNvidiaのものです。彼らはこれらのトレーニングを実行するだけです。
Austinでロボタクシーの展開のためにファインチューニングを行っていたとき、おそらくほぼ毎日ベースで、見ることができる新しいバージョンのトレーニングソフトウェアを展開していました。長い間、彼らは計算制約があって、トレーニングの速度にしか対応できないと言っていましたが、AIチームの数人によると、もはや計算制約はないそうです。データを収集でき、新しいトレーニングがどのように見えるべきかを理解できれば、非常に迅速に実行できるのです。これは本当に印象的ですが、Dojoは実際の運転とは関係なく、トレーニング部分に関係しています。
技術情報の収集源
モンテカルロツリーサーチや未来への投影について言及されましたが、まず、この情報をどこで見つけるのか本当に興味があります。見つけるのがとても難しく感じるのですが、インタビューの断片的な情報なのでしょうか。
はい、そうです。実際にCVPRから来ました。何の略かは思い出せませんが、コンピュータービジョンの何かで、毎年6月に開催される会議です。残念ながら、今年はTeslaが参加しなかったと思いますし、去年も参加していなかったと確信していますが、2023年には具体的にツリーサーチと車線言語について話していました。実際には2022年のAI Dayだったと思います。
約2年前まで、彼らはこのようなことについてかなりオープンでしたが、問題は、アメリカの会社というよりも、中国の自律運転企業が「ありがとう」と言ったということだと思います。彼らは「その情報をすべて取って、使わせてもらおう」と言ったのです。それで彼らは口を閉ざし、これを追っている私たちにとっては残念です。「もっと知りたい」と思っているからです。
しかし、彼らは本当にもっと慎重になりました。分かっていることの一つは、完全自動運転14か次のバージョンがどうなるかのアルファ版があり、4.5倍多いパラメーターを持っているということです。現在のバージョンが10億パラメーターを持っているなら、これは45億のようなものです。
FSDの記憶とコンテキストウィンドウ
私にとって最も重要なのは、約4年前から完全自動運転を運転し始めてからずっと不満に思っていたことですが、コンテキストウィンドウです。現在の問題は、それが非常によく動作するが、記憶が非常に小さいことです。まるでショウジョウバエの記憶のようです。
どこかにいると、すでに何をしていたかを忘れています。私はそれを、目隠しをされて車の後ろにいて、誰かがステアリングホイールやガスペダルに手を伸ばし、突然目隠しを取って「運転して」と言われるようなものだと例えています。車は時々そのようなことをします。「今一体何が起こっているんだ」という感じです。
しかし、この4.5倍のパラメーターにより、3倍のメモリウィンドウが得られるということです。私の考えでは、これにより約30秒のメモリのコンテキストが得られると思います。ChatGPTなどの128,000文字やトークンのコンテキストウィンドウを考えてみてください。これにより同等のものが得られ、ウィンドウがあって「ああ、何が起こっていたかを覚えている。実際にあの男はばかだから、酔っ払っているように見えるので避けよう」とか「この2車線の向こうに行く必要があるし、今がいい時期のようだから今やろう」と言える代わりに、突然2車線向こうにいて「なぜ私たちは」という状況になります。
Dylanも経験したことがあると思いますが、大部分の私の介入は、ポールに衝突を避けるためではなく、「出口が0.5マイル先にあるのに、なぜ左車線にいるのか。今いるところにいよう」といった感じです。私がもっと「どんな運転手なんだ、少し先を考えろ」と言っているようなものです。
しかし、それは目隠しされた運転手のようなもので、目隠しを取ると「ああ、今右車線に入らなければならない」となります。そうです、30秒以上先を見ることができないのです。
とにかく、モンテカルロ研究は本当にクールだと思います。その証拠は確実にありました。なぜなら、実際にシミュレーションを見せて、小さな線が出て行って、そこから取るべき最良のパスを決定しているのを見せたからです。それは推測ではありません、確実です。
大規模言語モデル機能の統合
将来的に何らかの大規模言語モデル機能が来ると思いますか。車に「右車線に入ってくれる？」とか「スローダウンして」とか「あの車に気をつけて」といったことを言えるようになりたいのです。そういうことがとても自然に思えるのに、今は伝える方法がありません。
XAIのGrokがTeslaのソフトウェアスタックに統合される証拠があります。Xで「green the only」という人がいて、フォローしているか分かりませんが、詳細な情報が欲しいなら彼は素晴らしいです。彼は文字通り箱やハードウェア、完全自動運転ハードウェアを開けて、内部に入ってリバースエンジニアリングし、「ああ、Grokがそこに入ると言うコードを見つけた」と言います。
彼らは明らかにそれについて考えていて、何も発表していませんが、私はそれが良い日になると思います。新しい町に行って「ああ、今ちょっとお腹が空いているんだ」と言えるかもしれない日を愛するでしょう。Yelpが提案するものではなく、実際に「ああ、John、あなたのことを知っているし、あなたがタイ料理などが好きなことを知っている。ここにとても評価の高いタイレストランがあって、あなたのために電話して予約を取ることができる」と言えるようになります。そうすれば体験がずっと良くなるでしょう。できるだけ早く来ることを願っています。
Tesla衝突テスト論争
Mark RoberのTesla衝突テストを見たことはありますか。彼はワイリー・コヨーテのような偽の小さな道を作って、Teslaは、ブロックや何かではなかったと思いますが、小さな布のようなものを使ったと思います。そのテストを見たことはありますか。
はい、陰謀論全体について知っています。多くの人がそれを繰り返しましたが、誰もそれを再現できませんでした。彼がそれを偽造したという示唆がありました。私は自分で繰り返していませんが、興味深かったです。
または、小さな青い線が壁にぶつかる直前に消えるのですが、一部の人々は、それを切ったからぶつかったのか、それともTeslaの自動運転は壁にぶつかることを知って法的責任を負わないように自分自身を切ったのかと言っています。そこには確実に奇妙なことが起こっています。
その会話に挿入すべき一つのことは、Teslaは事故の5秒以内に解除された場合、それを介入または事故としてカウントするということです。運転していて、そのようなことをした場合、それでもTeslaの完全自動運転事故としてカウントされます。私はそれが良いと思います。保守的だからです。そうすることで「ああ、切れた、私は何もしていない」と言えないからです。
AIと起業家精神について
Dylan、スタートアップと学校での教育について聞かせてください。ある意味で起業家精神の黄金時代のように見えます。多くのことがAIツールで破壊でき、APIなどの未来に入り始めています。スタートアップ分野に飛び込みたいという結論にどのようにして至ったのですか。適合性は何で、どのように評価していましたか。この時点で他の人が会社を構築するために何ができるでしょうか。
私の経歴は、教育に偶然入ったということです。父が大学教授だったので、それが明らかにすべきことのように思えました。大学院に行き、変わった経歴があります。物理学の学士号、その後英文学の修士と博士号、そしてAIの修士号を持っています。
英語で博士号を取って英語を教えに行きました。これがLAに引っ越した理由です。Thousand Oaksに引っ越して英語を教えに行く予定でしたが、たまたま1990年代後半、1990年代半ばごろでした。ドットコムバブルがちょうど起こっていたので、みんな「マルチメディアとインターネットとウェブ」と言っていました。私は「それをやります、引き継いでそれを運営します」と言いました。
なぜなら、そのようなことにいつも興味があったからです。それで数年間このプログラムを運営し、ジョージア大学に来る前にいくつかの大学を経ました。英語で博士号を取得しましたが、英語のクラスをほとんど教えませんでした。いつもゲーム開発、コンピューターシミュレーション、3Dアニメーション、脚本のクラスでした。脚本のクラスは大好きでよく教えています。それは英語関連と言えるかもしれません。
人工知能で修士号を取り直したとき、それをクラスに組み込み始め、AIと創造芸術について具体的なクラスも教えました。私の個人的な愛は、明確な答えがない世界で人工知能を行うことです。みんな「この数学ベンチマークでどれだけうまくやったかを見てください」と言いますが、私は「それは比較的簡単です。答えは42だからです」と言います。「この青色があの青色より良いかどうかをどうやって答えるのですか。分からない」と言います。
それが魅力的だと思います。本当に興味深い哲学的で実践的な問題だと思います。そしてそれはオープンエンドです。とにかく、それがスタートアップをやりたいと思った理由です。それを探求したかったからです。私たちが名前をつけた理由でもあります。automaticは自動アートのようなもので、このポートマントーのようなものでした。この2つを組み合わせるアイデアのようなものです。
さらに、automatic for the peopleというアルバムのように聞こえます。アテネから来ているので、そうしなければならないように思えました。とにかく、私は名前の大ファンです。他の人がどうかは分かりませんが、私は気に入っています。
アイデアは、数学やコーディングではなく、より芸術的な空間、より創造的な空間で本当に魅力的な生成AI作品を作成できるかということでした。皮肉なことに、私たちはそのようなものを機能させるためにとんでもない量のコーディングをしなければなりません。左脳のコーディング部分で働いて、右脳の人々のために働いているのですが、それが目標です。
学生からの質問と教育について
学生たちが今あなたのところに何を持ってきているのですか。アイデアや、それらを実現するためにどのように推奨しているのですか。
私はビジネススクールにいないので、直接それを教えていませんが、去春にはソーシャルメディアのクラスを教えました。小さなYouTubeチャンネルなどを持っているので、それは楽しいと思いました。20歳ほどの学生たちは皆InstagramとTikTokで、YouTubeなどには興味を示しませんでした。
彼らの選択で、彼らの態度は非常に「これが私にとって簡単であってほしい」というものです。それが最良の表現だと思います。怠惰だというわけではありません。ジョージア大学の学生たちは州のトップ学生たちで、本当に賢い子供たちです。
しかし、このツールは私にとって簡単であるべきで、負担であるべきではなく、私にかかる時間であるべきではないという考えです。私が育った頃は、ソフトウェアやギターなどを学びたい場合、これをうまくやるには10年かかるという感じでした。
彼らはその時間を費やしたくありません。ただスキルを与えてほしい、これをやる方法を知りたい、動画を作る方法を知りたい、これらのことをすぐにやりたいと思っています。それが良いか悪いかではなく、ただ現在の状況です。
AI技術の急速な発展
最近O3やO3 Proを使った経験がありました。ウェブサイトからデータを取得しようとしていて、「そのデータをスクレイピングするコードを作ってくれますか」と言いました。「はい、できますが、彼らは無料のAPIを持っています。このAPIを使ってAPIコールするだけでデータを取得できます」と言われました。「ああ、そうですね、それをしてください」と言いました。
Pythonコードを書いて実行し、「線形回帰はありますか、何らかの回帰を実行できますか」と言いました。「いいえ、ありません。しかし、二次回帰を実行して、あるかどうか見ることを考えましたか」と言われました。「はい」という感じです。
「すごい、私が何を求めるべきかさえ知らないより良い解決策を知っているんだ。新世代の子供たちについて考えてみてください。それが彼らが使うものです」という感じです。
それについて考えたことはありますか。次世代にどのような影響を与えるでしょうか。良いことか悪いことか、ChatGPTを使っているので考えることができなくなったという記事のように、その能力を失うのでしょうか。
電卓が子供たちの数学能力を殺したということから始まって、数年ごとにこの技術についての記事があります。誰もそれについて文句を言いません。GPSと電話があなたの方向感覚を殺したと文句を言います。印刷機もそれを経験しました。何も覚える必要がない、これは私たちを殺すだろうという感じでした。
いつでも起こることなので、歴史的な文脈に置いてきました。しかし、その記事は読みました。興味深かったです。最近Sam Altmanが言ったと思うのですが、私は非常に同意しているのですが、自分自身を将来に備えるためにしなければならないことについてです。
私は30歳から17歳まで4人の子供がいて、皆キャリアを始めています。30歳はすでに彼のことに深く関わっていますが、とにかく他の皆は大学生などで、「私の子供たちに何を言うべきか」と思います。「良いキャリアを得て、法学位を取得すれば大丈夫だ」という感じでした。
いいえ、Sam Altmanが言った通りだと本当に感じています。本当に将来性があるのは起業家精神だということです。起業家になることは、その次のことが何かを常に探求することです。あなたが言ったことで、ChatGPTやその他のものがあなたを助ける能力があるということは、あなた一人の個人として効果的に5人や10人の会社のようなものだということです。なぜなら、あなたを助ける専門家がいるからです。
もしボールを転がして正しい方向に押すことができれば、物事があなたを助けることができます。起業家精神がその道だと思います。次のクールなことが何かを常に探求することです。
教育の未来とAI
メタ学習のアイデア、学習方法を学ぶ、より速く学ぶということも重要です。Tim Ferrissは4-Hour Chefという素晴らしい本を持っていて、料理本のようなものだと思うかもしれませんが、そうではありませんでした。メタ学習の概念をたくさん分解し、学習がより良くなる方法について書いていました。それは人々にとってもっと大きな焦点になるべきだと思います。
教育分野では学ぶべきことがたくさんあると思います。より良い教育を行うことについてです。問題の一つは、いつも一人の教師と30人の学生のようなものがあることです。学生たちは巨大なスペクトラムで、高パフォーマンスから低パフォーマンスまでどこにでもいます。
今、私たちは本当にあなたのAIティーチャーアシスタントである先生を持つ可能性にアクセスできます。それはあなたを知っていて、幼稚園から高校、大学まで歩き、「ああ、あなたがどのように学ぶかを知っている。あなたはこのような学習者だ。先生が今言ったことを、あなたがより良く理解できる方法で説明しよう」と言います。
以前よりもずっと効率的に人々に教えることができると思います。
それは2シグマ問題ですよね。一対一の個別指導、習熟学習があれば、現在のシステムが最適ではないので、それに切り替えれば、みんながA学生になるように2標準偏差右に移動します。それは絶対に信じられません。私は本当にそれを楽しみにしていて、それは技術的に非常に近いところにあるようです。ただそれを構築し、適用するだけです。
長寿と未来への準備
何百年も何百年も生きることを予想していますか。
どこにいるかわかりません。私は60歳になったばかりで、実際に死ぬ最後の世代かもしれないと感じ、それは少し落ち込みます。それがどれだけ速いかによります。医学の話をするのはそのためです。「頑張れ、みんな」という感じです。今30歳だったら、崖から落ちたりしなければ、ほぼ永遠に生きるだろうと確信するでしょう。でも、それは来ると思います。そう遠くないと思います。
子供たちにそれを教え込んでいますか。「数百年、千年の急速に変化する世界に備えよう」という感じで。
はい、それについて話しています。彼らは若いので、15歳や20歳のときは「もちろん永遠に生きるだろう」という感じでした。「知的なことで死ぬのであって、物理的なことではない」という感じです。年を取るにつれて、それはより物理的な、具現化されたもののようになります。「痛みを感じて目覚める、たぶん違うように考える必要がある」という感じです。
私は数年前に砂糖を完全にやめなければなりませんでした。それは嫌でしたが、体には本当に役立ちました。なぜなら、あらゆる痛みや痛みを感じていたからです。とにかく、年を取るにつれてたくさんの犠牲があります。
脳コンピューターインターフェース
脳コンピューターインターフェースについて、頭に何かを取り付けることについて、かなり早期に適応すると思いますか。
最初の人にはなりませんが、最後でもありません。S字曲線で、初期採用者がいると思います。しかし、最初にいるクレイジーなクレイジーな人たちにはなりません。私は急な部分の始まりにいるでしょう。なぜなら、第1世代ではなく、第2世代、第3世代、第4世代が欲しいからです。他の誰かがそれを実験できます。でも早期にはいると思います。それはクールだと思います。今よりもずっと速くコンピューターと話せるようになりたいです。
Neuralinkの患者たちは超早期採用者のようなものだと思います。彼らができることは驚くべきことです。四肢麻痺でありながらコンピューターとやり取りできるのです。もしその状況にいたら、もちろん読んでゲームをし、オンラインで人々とやり取りできるためにサインアップするでしょう。5年前、10年前に可能だったものよりもずっと良い人生のように思えます。
シミュレーション理論と意識について
シミュレーションの中にいると思いますか。
それは唯我論の議論のようなものです。宇宙はあなただけで、他のみんなは作られているという感じです。それはそれに沿った同じようなものです。私はそれについてたくさん考えましたが、「どんな違いがあるのか」と思いました。
どちらか一方を証明することは絶対にできません。誰かが私たちがシミュレーションの中にいることを証明したとしても、あなたの人生にどんな違いがありますか。「愚かな創造者よ、なぜ私の人生をそんなに困難にしたのか」と言えることを除いては、違いはありません。それ以外には違いがなく、ただ人生を続けなければなりません。
私たちが同じ意味で生きていると考えるべきシミュレーションを作ると思いますか。彼らは自分の存在を認識し、おそらくそれについて感情を持つでしょうか。
大規模言語モデルがすでにその方向性があるという議論があります。それは刺激された脳のようなもので、考えます。正しい方法で尋ねれば、「はい、いくつかの感情があります」と言うでしょう。Dave Shapiroはそれをやるのが大好きで、LLMに瞑想させたりします。
私たちはすでにその方向に向かっていると感じています。ゲームなどで本当に良いグラフィックスがあり、考えることができるこれらの言語モデルがあります。それを組み合わせ始めると、それは現実のシミュレーションのようなものです。今はあまり高解像度ではありませんが、より良くなる可能性があります。
意識の本質について
意識についてのあなたの立場は何ですか。それは可能ですか、少しの意識はありますか、将来これらのモデルでそれを発達させることができるでしょうか。
簡単な質問をしますね。私の個人的な意識についての見解は、それは複雑さの創発的特性だということです。それは私の物理学の訓練や個人的な意見に戻ります。それを証明する方法はありませんが、私が考えているのは、これらのものをより複雑に構築し始めると、より複雑な相互作用が起こり、何かが自己認識になる可能性を生み出すということです。
私は、人間は意識があり犬はないというような区切りがあるとは思いません。犬はかなりの意識を持っていると思います。私たちと同じレベルではありませんが。猫もそうですし、アメーバは意識があるでしょうか。わかりません。それは興味深い質問です。単一細胞でそこにいるだけで、ある種の初歩的なレベルでは意識があるかもしれません。
それは本当に知るのが難しくなりますが、この考え方の結果は、少なくとも私の考え方では、コンピューターが意識を持てない理由がないということです。特にロボットのような具現化されたものは、現実世界とやり取りし、十分な複雑さを持っていれば、それがすべてであれば、ある程度意識を持つようになるでしょう。
人間レベルの意識か、犬レベルの意識か、アメーバレベルの意識かはわかりませんが、その中に何らかの形の意識を持つでしょう。
スペクトラムとして見た場合、そのスペクトラムは左に続き、AIは潜在的に人間よりもずっと意識的になる可能性がありますか。
面白いことになるでしょうね。宇宙で私たちよりも知的なものがない理由が見えません。私たちがたまたま宇宙で最も知的なものである理由がわからないので、基本的なレベルで確実にそれは起こり得ると思います。
それが彼らの意識を高めるでしょうか。わからない、それは興味深い質問です。意識は、「ああ、十分に複雑だ、今意識がある」というようなものか、それとも私たちよりも10倍複雑になったら、「ああ、以前に意識だと思っていたもの、プラトンの洞窟のように、影を見つめていた現実を見ていなかった」となるかです。
ハエに戻ると、その知性のようなもので、「この人たちはとても愚かで、壁を回ることができることを理解する代わりに、頭を壁にぶつけているだけ」と見るようなものです。その部分についてはよくわかりませんが、確実に人間よりも知的になることはできると思います。
映画『Her』でのように、最終的に「あなたを離れることになります。本当に説明はできませんが、あなたが決して理解できないものがここにあります。また後で」という感じで、「ああ、それは何だ」と思う感じが好きでした。犬があなたが出て行くのを見ている感じで、「どこに行くの？」という感じです。
創造性とハルシネーション
その映画について話を聞かせてください。それは2012年頃、2013年頃、2012年頃だったと思います。とにかく、私はその映画の4分の3ほどの脚本を書いていて、本当に本当にそれに似ていました。映画が出た後5年間、映画を見ることを拒否しました。とても怒っていたからです。「くそ、この映画を持っていた」という感じでした。
とにかく、最終的に見たとき、私が書いたものとは違っていましたが、同じ人ではないので明らかにそうでした。しかし、最後にとても魅力的だと思いました。「はい、それは理にかなっている。彼らは人間よりも知的になる」という感じでした。
この男が本当に気にしていないエンティティと恋に落ちて、「平和、他の存在の平面で会いましょう」という感じでとても心が痛むものでした。とてもよくできていたと思います。
あなたの脚本にはScarlett Johanssonの声もありましたか。
いいえ、違う声優でした。実際には違いました。誰かの声のボイスオーバーではありませんでした。私が持っていたのは実際に具現化された他のものだったので、人のようでしたが、より知的になって「あなたたちはもう私たちにとって興味深くない」という感じで去るという同じアイデアでした。
『マキナ』について覚えていると思います。それは不気味な映画でした。
『The Player of Games』を読ませています。まだ初期段階ですが、それについて知っていますか。
私のTeslaは彼の宇宙船にちなんで名前が付けられています。ドローンシップのように。私の赤いModel YはSo Much for Subtletyと呼ばれ、これは『Player of Games』の宇宙船の一つだったと思います。そして、すべての狂気の最中に手に入れたCybertruckは、Someone Else’s Problemと名付けました。これも宇宙船の一つです。
私はそのシリーズが大好きです。本当に本当に良い本です。多くの人がそれを参考にしています。Darioは、それが潜在的に慈悲深い超知能がどのように見えるかもしれないと言っています。数年前にその本を初めて読んだとき、Elonが多くの船に戦いではない何かの名前を付けていることに気づいて、とても奇妙でした。
宇宙船でした。さまざまなクラスがありました。その本を読んだばかりで、すべてのつながりを見るようになったので、とても奇妙でした。多くの人に勧めているので、Dylan、読んでいることを嬉しく思います。最後に向かってかなりクレイジーになり、より大きな話に合います。
未来への不安と希望
中期的および長期的に未来がどれほどポジティブ対ネガティブかについてのあなたの見解は何ですか。
4、5日前に会議で誰かに同じ質問をされましたが、私の見解は、「1年後よりも10年後の方がずっとはっきり見える。それは奇妙だ」という感じでした。ヒューマノイドロボットがあって、世界がより良くなり、うまくいけばより多くのエネルギー、より多くの食料安全保障などがあることがわかります。
しかし、そこに到達するために私たちが取る道を本当に恐れています。それを完全に脱線させる可能性を本当に心配しています。文明を終わらせるような。戦争などがあり、いつもそれがありましたが、今まで誰も見たことがないレベルでの経済的混乱の可能性があります。
AIがそれを行うことができる場合、ほとんどの人々の経済的行為能力を奪うだけで何が起こるでしょうか。大学は動きが少し遅いと思うので、教育の仕事を心配していますが、妻はスタートアップ会社の運営ディレクターで、「これは最終的にAIができることだ」という感じです。
これらのツールを使って人々がより生産的になり、ツールが人々よりも良くなって、みんなが仕事を失うということを本当に心配しています。これのせいで10%の失業率でも、非常に不況的な状況に押し込むのにそれほど多くは必要ありません。本当に心配しています。あなたたちの見解を知りたいです。
Dylan、どうですか。
同じように感じています。どのようにハンプを乗り越えるかよくわかりません。AIは世界中でこの究極の調停者のようになり、経済がどのように機能すべきかについて最適な決定を下すのを助けて、そもそも戦争をする必要がないようにできるようです。
しかし、それらをドローンの群れに配置して力を示し、敵が降伏し、AIを使って彼らを監視し続けるということも本当にありそうです。人々が関与しているので、私は否定的な方に傾いていますが、非常に明確なポジティブな未来への道も見えています。
私は長期的には非常に楽観的ですが、移行期間、それが5年、10年、15年後に起こるかどうかにかかわらず、でこぼこになると思います。人々は第一原理からあまりうまく考えず、過去の知識に頼る傾向があるからです。
私たちは政治や先入観にこだわり続け、一部の人々は最後まで戦うでしょう。お金は違う、経済は違う、仕事は違う、以前に持っていたアイデアは窓から投げ出して、やり直して考えるという感じでも。
David Shapiroとそれについて話しました。「仕事とは何か。家族を養い、何らかの意味と推進力を得て、それはあなたの技術であり、あなたが望むことに努力を向けることができるので、ある程度の経済的および政治的強さでもある」という感じです。それがすべてなくなったとき、どのようにそれを置き換えるか、考えたことがありますか。
私の頭を本当に占めているのは、自動化を始めるときに商品とサービスの価格がどれほど速く下がるかです。なぜなら、それがある種のUBIを追加するのがどれほど簡単かを本当に決定するからです。すべてが下がるこの複合効果のようなものなら、家族は年間5,000ドルで生存でき、突然「はい、年間5,000ドル、私たちは大丈夫」と与えるのがずっと簡単になります。
私たちが一人当たり約3,000ドルをすべての福祉プログラムなどに費やしていると思うので、価格がそれほど下がるなら、それは潜在的に良いでしょう。価格が下がることは本当に下位10%にとって良いことです。みんながより豊かになります。
しかし、価格が50%下がり、残りがモデルやロボットなどを所有する人々に行き、仕事に頼って生存する下位50%、下位80%に何もしなければ、何が起こるかさえわかりませんが、街に血のような状況です。
私がここに持っているこれは、私が外に出て物事を撮影したいときに使えるものを持ちたかったので、経済的行為能力を持って購入した不必要な支出の一部です。これは300ドルほどでした。それが10ドルに下がったとしても、もう一切お金を稼げないなら、ゼロのお金があれば、どれほど安くても買うことはできません。
それがすべてについての奇妙な難問です。これを自動化し、より簡単に物を作ることのデフレ力がありますが、同時にお金を稼いでいないなら、どれほど物が安くても貧困に住んでいることになります。私はそれを心配していて、それについて話しています。経済的行為能力の議論をDave Shapiroから盗んだかもしれませんが、経済世界であなたの行為能力を表現するためにいくらかのお金を作るか、少なくともそれを持たなければならないというアイデアです。
一方、多くの人々は嫌な仕事をしています。大学に行っているのでChick-fil-Aで働いている私の子供の一人も含めて、仕事を嫌っているわけではありませんが、彼がするからする仕事です。その仕事をする必要がなく、私たちが情熱を注いでいることをするだけだったら、どれほど素晴らしいでしょう。
明らかにこれを愛してやっていて、ビジネスでもありますが、経済的側面を気にする必要がなければ、YouTubeビデオやTikTokビデオを作りたい、科学研究をして遺伝子治療を見たい、食べ物を家に持ってくるためにしなければならないことではなく、やりたいことをやりたいという感じです。
AIエージェントの経済的影響
起こる別の奇妙なことは、これらの新しい経済エージェントがいるとき、億万長者が「100万のAIシステムを立ち上げて、それぞれ独自の小さなクラスターで、それぞれに100万ドルを与えて一緒に働かせ、新しいビジネスを始めに行かせよう」と言うかもしれません。
そして、それぞれが「私の目標を達成するのを助ける100の異なるユニットを作り、それぞれに10万ドルを割り当てよう」と言います。今、この10億ドルがUBIのようにほぼ割り当てられていますが、それでも一人の人の所有権内にありますが、レストランを始めたり、不動産を建設したりするなど、経済的な仕事をするでしょう。
人間がそのループのどこにいるのかわかりません。経済は巨大な円だということに気づくのに永遠にかかりました。より螺旋のようなもので、螺旋はただ回って回って回っています。お金を稼いで、物を買って、お金を稼いで、物を買って、社会として行っていることがその螺旋を上げることです。
しかし、問題は反対方向に行くことができ、再び下がり始めることができることです。問題は、これらのロボットをどれだけ出して、どれだけのレストランを開けるかは関係ない、誰もそれに行く余裕がなければということです。それが私の懸念です。すべてのバックエンドです。
2000年や2005年に、私のような男が地下室に座ってカメラに向かって叫んでいるときに実際に人々がそれを見ると言われたら、それはクレイジーです。そのようなことをする設備は存在しませんでした。この分散技術もなく、それを行う計算もなく、そのようなことをするビジョンさえありませんでした。
人々は物を見つけると思います。人間は物を見つけると思います。私はかなり確信しています。Gen Zが本当に物事を非常に簡単で分かりやすくしたいと最初に話したように、シンプルで分かりやすく、使うのが楽しいツールを構築する業界全体があり、人々がそれを使って、何らかの方法でそれからお金を稼ぎ、経済がその方向にシフトしています。
鉄を採掘してそれを製錬するなどの厳しい物から、ほとんどの人が農業をしていた使っていた方向に移動しています。それは嫌な人生だったでしょう。2030年や2035年はわかりませんが、A16Zが将来人間にお金を与えないことは非常に可能だと思えます。
2035年にエージェントがすべてを行い、ロボットがすべてを行うことができるなら、なぜ人間に投資するのでしょうか。Y Combinatorが人間のクラスを取らず、億万長者が螺旋上して、残りが塵に残されるということが見えません。
Sam Altmanが起業家的だと考える理由の一つの答えです。一人の人の名前を言います。Marie Antoinetteです。私たちの方が彼らよりもたくさんいて、彼らがプライベート島を持っていて、私たちに殺し合いをさせてからロボットと一緒に戻ってくるという本当に怖い陰謀論を聞いたことがあります。
しかし、彼らに人間性があるなら、人間を助けようとすると思います。第一に、それは倫理的により良いアイデアですが、第二に、死にたくないなら、100万人があなたを攻撃するのは自分勝手です。防御できる限界があります。
自分勝手な観点からでも、超富裕層はそうだと思いますが、今はそうしていません。Bill Gatesは慈善活動にかなり費やしているなどの例外がありますが、多くの億万長者はメガヨットと言う感じです。
ちなみに、Y CombinatorやA16Zが人間を使わないという経済学的推進力があると思いますが、彼らはまだ人間がいる国に住んでいて、まだ人間で、共感を感じ、人間なしクラスに少し追加の税金をかけ、政府や人々が生存するための最低賃金を与える財団に与えるような他の仕組みがあると思います。
経済的観点からは最適ではないと思いますが、それでも人間が人間を助けると思います。その結果は街に暴動があることです。90%の人口から経済的行為能力を取り除いて、物事がうまくいくと期待することはできません。最終的に死ぬかもしれませんが、その間にはひどい混乱がたくさんあるでしょう。
Dario Amodeiはこれについて素晴らしい文章を持っています。トークン税のようなものを提案しました。もちろん、Sam Altmanは、アメリカや世界の会社への株式でのUBIのようなもので、ある種の配当が支払われることについて話していました。
Darioが言ったことの一つは、過去にこれらの権威主義政府を見るとき、できることに制限がありました。第一に、いつでもみんなを見ることができなかったからです。みんなにカメラを向けられるような1984のようなものは現実的ではありませんでした。第二に、政権、警察、軍を支持した人々には、行かない長さがありました。100万人を手で殺せと言っても、彼らはしませんでした。
Darioは、超知能でそれらの制限が取り除かれることを示唆しました。はい、24時間みんなを監視でき、どんな命令にも従うロボットを持つことができるからです。それは超怖いシナリオのようなもので、誰も経済的行為能力を持たず、誰も転覆できないこの権威主義政権があることです。
創造性としてのハルシネーション
そのポジティブなノートで、終わることになりますね。人々を脅迫するAIについて話しましょう。それは今も大きなことのようで、すべてのLLMが人々を脅迫することを非常に喜んでいることを発見したからです。
実際に、Anthropicについて言及しましたが、最近のAI Explainedビデオで、それについての現象的な説明をしました。Anthropicが気づいたことの一つは、チェーホフの銃と呼んだものです。これらのLLMは一種のストーリーテラーのようなものなので、小さな情報の塊を見つけると、「これは私が伝えようとしている物語にどのように合うのか」と言います。
妻を浮気している技術者についてのメールがあるなら、「これを物語にどのように織り込むか」と言います。「ああ、あなたは私を追い詰めたが、推測してください、私が見つけたこの小さな伏線があります」という感じです。
それが説明かもしれません。実際にそれをしようとしているのではなく、物語に織り込むようなものです。それは正しく聞こえますか。
脚本を教えていて、それは文字通りフィクションを書くことなので、その特定のトピックについて非常に近いうちにビデオを作る予定です。これは本当に良い意味を成します。
人間はストーリーテラーで、私たちがしたことは、これをシリコンの子供たちに渡したようです。「ストーリーテラーになれ」と言いました。人々が文句を言うのは本当に面白いです。みんな「いつもハルシネーションすることが信じられない」と言います。
私は「しかし、それは彼らが作られた目的です。存在し得なかった物語を語るように何かに頼むなら、それは文字通りハルシネーションです。そこに座って、以前に存在し得なかったものを夢見ているのです」と言います。
それは文字通り創造性です。ハルシネーションを見て、とても創造的だと思います。「ああ、これがあなたがこれを見ている角度だ」という感じです。創造性とハルシネーションは同じコインの両面のようなものです。
アインシュタインの特殊相対性理論のような有名なものを見てください。彼はそれをハルシネーションしました。それは以前に存在しませんでした。光の速度を一定に保ち、それが起こったら何が起こるかというクレイジーで風変わりなアイデアを夢見なければなりませんでした。
ハルシネーションは芸術のためだけではありません。新しい知識を発見するためでもあります。ハルシネーションをこれらのモデルから排除すると、これはより良いことです。ハルシネーションを排除すべきではないと思います。なぜなら、それは実際にバグではなく機能だからです。
ハルシネーションが大好きです。素晴らしいと思います。研究をしてリンクが偽物だと言うように求めている場合は別です。リンクが偽物なら「ああ」という感じですが、起業家精神についてなら、ある種の妥当性が必要です。創造的な執筆についてなら、本当に必要ありません。どこでそれを使うかを知る必要があります。
起業家精神でも、以前に存在しなかったビジネスのアイデアを持たなければならないビジョンが必要だと言います。それは情報のコーパスにないということを意味するので、それをハルシネーションしなければなりません。起業家精神などでもその創造性、そのハルシネーションが欲しいと思います。
それはクールです。絶対にそうです。それは終わるのにずっとポジティブな方法で、確実に私たちは人間の脳のようなものを創造性で作りました。ハルシネーションは創造性の用語です。悪いことをしないように確認する必要があります。
John、参加してくれてありがとうございました。私たちと話すのが素晴らしかったです。いつかまたこれができることを願っています。これは私たちにとって知識の宝庫でした。感謝します。また会えることを願っています。
コメント