40,241 文字
私は知性と単なる計算の間に明確な境界線の違いはないと確信させる科学的進歩をいくつか作りました。それでもし私のその哲学的な主張が正しいなら、私たちの文明が蓄積した知識に基づいて質問に答えるシステムを構築できるはずです。
それで2000年代半ばに、実際にこれを試してみる時だと決めました。それが2009年に出たWolfram Alphaと呼ばれるシステムにつながりました。Wolfram Alphaのアイデアは、純粋な自然言語を取り、それを正確な計算言語に変換し、そこから答えを計算して人々に伝えることができるというものです。
Wolfram Alphaを導入していた時、AIが当時は完全に死んでいたので、それは興味深かったです。みんなはこのようなものは機能しないと思っていました。人々は統計的、記号的、その他さまざまなAI技術で質問応答システムを作ろうとしました。
何十年も試しましたが、決してうまくいきませんでした。特に注目すべきでした。私たちがWolfram Alphaをリリースする数週間前に起こった話があります。私は前に述べたAIの大きな先駆者であるMarvin Minskyを偶然見かけました。
それでMarvには言いました、私たちには出てくる新しいクールなものがあります、見せてあげましょうと。いくつかのことを見せると、彼は話題を変えました。興味がありませんでした。なぜなら彼にとって、「質問応答システムを作りました」と言う人々の何千もの例を見てきたからです。
それで私は言いました、「見て、Marvin、もっと注意深く見るべきです。今回は実際に機能します」と。それで彼はもう少し入力して、「なんてことだ、実際に機能する」という感じでした。そして彼は私たちがいたイベントで周りを走り回って人々に「これを見なければならない。これを見なければならない。実際に機能する」と言っていました。
それは興味深かったです。なぜならそれは当時人々がAIは死んだと思っていたという事実のスナップショットのようなものだったからです。2009年に。
それで、Wolfram Alphaで私たちは初めて自然言語理解問題を解決しました。プレーンテキストを取って、人々はコンピュータにそれを理解させようと思っていましたが、コンピュータにそれを理解させることが何を意味するかは明確ではありませんでした。
私たちが構築したものを構築した後に初めてこれに気づきました。私たちには大きな利点がありました。なぜなら1988年から出ているMathematicaと現在のWolfram言語という基礎となる計算言語をすでに持っていたからです。これは世界のものを計算的に表現する方法です。
私たちはすでに世界の正確な計算的表現を持っていました。それで私たちの自然言語理解は、コンピュータに抽象的にこれを理解させることではありませんでした。それは、そのうるさい人間が言うことを、私たちが計算できる正確な計算言語に翻訳することでした。
それがその話の一部でした。次の質問は、ChatGPTが出てきた伝統とは何かということです。非常に異なる伝統で、第二次世界大戦で暗号解読を行っていた1940年代に始まったと思われる非常に異なる種類の作業です。
暗号解読を行う時、暗号でメッセージを暗号化する時、意味のある英語の文字から、文字が完全にランダムに見えるものに変換します。英語を取り出すために行わなければならないことは、何が行われたかを統計的に理解することです。
重要なアイデアは、英語は文字のランダムな配列ではないということでした。英語には特定の統計的規則性があります。Qを見たら、次におそらくUが来るでしょう。EよりもXを多く見るなどです。
Claude Shannonという人がこれを情報理論と呼ぶものを作り出しました。実際、戦争中に作り出し、おそらくAlan Turingもこれに多少関与していたと思います。1948年に情報理論を導入したこの論文を書いたと思います。言語のようなものの統計のこのアイデアです。
言語の統計を持っていれば、どの文字がより一般的か、どの文字のペアがより一般的かなどを知っていれば、言語を統計的に生成することを想像し始めることができます。たまたまQをランダムに選んだら、次の文字はUになるなどと言えます。
それが言語について考える方法でした。そしてすぐに思いついたのは、言語を統計的に生成でき、それが意味を持つかもしれないということでした。しかし、そのようにはうまくいきませんでした。一連の努力がありました。
特に音声認識を行う人々にとって興味深いものでした。これらの音声音を聞いて、その音声音が大体母音だったと統計的に理解できますが、その後の質問は、Lだったかもしれない、Rだったかもしれないなどの、それらの音素、音声の断片についてのかなり不完全な推測をどのように組み立てて、実際に意味のあるテキストになり得るものにするかということでした。
それで人々はテキストの統計的構造に非常に興味を持つようになり、それらの種類のことができるようになりました。
2010年代初頭頃に起こったことは、人々は音声を音素に分解し、特定の音素パターンを認識するなどして、言語の統計的再構築を試みる音声認識システムを持っていました。
それは大きな痛ましいプロセスでした。人々は聞く音声から生成されるテキストに直接ニューラルネットを使おうとし始めました。うまくいくことがわかりました。画像認識が解決されたのと同様に、音声からテキストも解決されました。
2010年にSiriが世界に登場した時で、私たちはSiriの計算バックエンドで、フロントエンドには音声認識システムがあり、人々が数学について質問している時、数学のπを音声からテキストシステムが彼らが言っている言葉としてパイを送信していたので、私たちは常にイライラしていましたが、それは解決されました。
それがニューラルネットの次の大きな成功でした。
それから配列予測と呼ばれることができるかという質問がありました。このようにテキストが始まっている場合、次に何が来るかをよりよく知ることができるでしょうか。2021年頃のような時代に存在していた配列予測は本当にお粗末でした。全く良く機能しませんでした。
コードの自動補完などを予測するために使おうとしましたが、全く良く機能しませんでした。それからOpenAIの人たちが基本的にこの膨大なトレーニングデータを収集しました。
一つの技術的アイデアがありました。歴史の長期的な視点でどれほど重要かわかりませんが、トランスフォーマーネットのアイデアです。脳の切片を見ると、私は実際の生活ではそれをするには気弱すぎますが、ニューロンがすべて非常にランダムに互いに接続されているのを見るでしょう。
まるですべてのニューロンが多かれ少なかれ他のすべてのニューロンに接続されているかのようです。しかし、網膜のような場所、例えば網膜では光受容体ですが、視覚皮質では実際のニューロンで、物事がより局所的に接続されている領域があります。
画像を扱っている場合、画像はすべてのピクセルが二次元にレイアウトされており、ニューロンも二次元にレイアウトされるようにしたいです。
それが畳み込みニューラルネットと呼ばれるものにつながりました。これが画像識別問題に使用したものです。言語のようなものになると、言語には順次性という特徴があります。文字や単語や音などの流れが出てくるだけです。
トランスフォーマーネットと呼ばれるものがあり、これは順次にのみ接続を持つネットワークですが、その接続は非常に長距離になり得ます。文の中の単語が文の中のずっと前の単語を参照できるのと同様です。
とにかく、ウェブなどからの多くの材料を使って大きなトレーニング努力が行われました。GoogleからもOpenAIが初期のアルゴリズムに使用したオープンソース情報があったのではないでしょうか？
わかりません。元の画像識別が行われた時、Googleが飛び込んできて、一夜にして作られた会社を買収したと言えるでしょう。学術研究者によって作られた会社です。
それでGoogleはそれを開発し、検索に使っていたと思います。なぜなら検索をランク付けする時、検索から出てくるページをどのようにランク付けするか、何が最も関連性があるかなどは常に問題だからです。使用できる多くの異なるシグナルがあり、それらのシグナルをどのように組み合わせるかを理解することは、ニューラルネットを使用するのにかなり良いケースです。彼らはしばらくの間、ニューラルネットをそれに使用していたと思います。
しかし、ニューラルネットが物事をできるようになることについてはかなり多くの興奮がありましたが、何をできるようになるかは明確ではありませんでした。ChatGPTが到着した時、私は出てすぐにそれに取り組んだ人々とチャットしていたことを覚えています。私の明らかな質問は、それが機能することがわかっていましたかということでした。彼らは「いいえ」と言いました。
実際、それが実際にそれほどうまく機能することがわかっていたら、おそらくそれをもっと多くの方法で制約しようとしていたでしょう。彼らがしたことの多くは、生産システムを構築しようとしている場合にすることではなく、実験をしようとしている場合にすることでした。ただそれが機能するかどうかを見るためです。
それで大きな驚きはそれが機能したことでした。私はそれを電話の発明のような技術史のことに例えます。
人々は原理的に電気線で音声を、電気線で音を送信できることを知っていました。しかし人々がそれを行った時、線の一端で聞こうとしても、何が言われているか理解できませんでした。最終的に、Alexander Graham Bellは、またしても彼が機能することがわかっていたとは思いませんが、一連のハックを見つけましたが、突然人々は実際に何が言われているかを理解できるようになりました。
あまり良い音には聞こえなかったと思いますが、人々がそれを理解できるには十分良かったです。ニューラルネットでも同じようなことが起こったと思います。人間が書いた意味のあるテキストのように読めるテキストを読むことができるように十分良くなりました。
そして、プロンプトから始めて、ウェブ上でこの質問が尋ねられたら、この答えが与えられたような感じで、統計的にそれに従うことを期待できるChatGPTの瞬間でした。
追加のトリックがありました。それは強化学習、特に人間のフィードバックを伴う強化学習のアイデアで、この文はどのように続くかだけでなく。猫はマットの上に座った、次の単語は何？統計的にウェブから、おそらくマットなどです。
しかし実際に指示されたことを行い、質問に答えるなどのことをさせるアイデアです。それは別の訓練層で、それも機能しました。
ChatGPTが出てきた時、非常に多くの人が私にこれはどのように機能するのか、なぜこれが機能するのかなどを尋ねていました。私は最終的に「ChatGPTは何をしているのか、なぜ機能するのか」という小さな本になったものを書きました。これは非常に人気になりましたが、私にとってはある意味失望でした。なぜなら一週間で書いたのに、何年もかけて書いた他の多くのものがあるからです。
一週間で書いたものを人々は非常に気に入っているようです。現在多くの言語に翻訳されており、人間によってかAIによって行われたかわかりませんが、異なる国からの本の表紙を見るのはいつも楽しいです。
その中から出てきた二つのことは、なぜ実際に機能するのかということと、それが世界の生態系にどのように適合するかということでした。
なぜ機能するかという質問について、私が理解したのは、ある意味それが機能する理由と私たちをそんなに驚かせる理由は、昼間の戦車かそうでないかということと少し似ているということです。私たちが気づかなかった言語について何かがあり、実際に私たちが想像していたよりも規則的だということです。
私たちはみんな文法を行い、英語の文は名詞動詞名詞の異なる品詞と異なる組み合わせで形成されることを知っています。しかし、それ以上のものがあります。ただの名詞動詞名詞のほとんどの文は完全に無意味です。しかし、意味に基づく文法、どの名詞、どの動詞、どの名詞が一緒になることができるかを言う意味的文法があります。
その構造には多くの規則性があると思います。言語の意味的文法があります。それは実際にChatGPTがウェブを見ることによって統計的に発見したものです。人々は例えば、それが論理を発見できる、論理的な意味を持つ議論を作ることができることに非常に驚きました。
それがそれを行った方法は、アリストテレスが数千年前に論理を発見したのと同じ方法だったと思います。人々が言う多くの文を見て、それらが持つ構造的パターンは何かを尋ねることです。アリストテレスの時代には三段論法につながりました。
ChatGPTが持っている統計的知識は、三段論法のようなもので、猫はマットの上に座ったの後の次の単語がマットであるのと同様に、論理的な何かを生成できるということです。しかし、それは論理を含む言語の意味的文法を学んだのです。
非常に明確だったのは、ChatGPTはテキストを生成するのが得意だということでした。それが得意だった他のことは、Wolfram Alphaから持っていたシステムがテキストを取ってそれから計算できるというものでした。それはかなり良い組み合わせでした。
ChatGPTがテキストとして生成するもの、ChatGPTが答えてもらいたい質問を作るものを取ることができるからです。私たちがすぐに気づいたのは、AIと私たちの計算システムの間の輸送層として英語を効果的に使用できるということでした。ChatGPTはツールとしてWolfram Alphaを呼び出すことができました。
初期の驚きの一つは、輸送層として英語を使用するだけでなく、何年もかけて構築してきたWolfram言語、何百万もの人々が計算を行う言語として、計算的に自分の思考を表現する方法として使用する言語も、ChatGPTは同じことができるということでした。
Wolfram言語コードを書くことができました。それで最初はChatGPTへのプラグインのようなものを構築し、その後LLMである大規模言語モデルが行っていることの絵がある多くの他のものを構築しました。
歴史的な観点で興味があるかもしれませんが、なぜそれらは大規模言語モデルと呼ばれるのでしょうか。言語モデルもあったからです。これは音声からテキストを解読するために、統計的に次の単語が何かを理解しようとするために人々が使用していたものでした。
言語モデルの長い伝統があり、しばしばマルコフモデルと呼ばれるもので、基本的にこれらの異なる状態を持ち、次の文字が何になるかを決める異なる状態に移行するシステムです。
大規模言語モデルは、ニューラルネットでこれを行い、何十億ものニューラルネットの重みを入れるということでした。それが大規模言語モデルです。ChatGPTが例であるLLM、大規模言語モデルです。現在多くの他のものがあります。
私たちには素敵な小さなウェブサイトがあり、毎週これらの様々なLLMがどのように行っているかの評価を行っています。それは注目に値します。それは実際にこの特定の週に勝利LLMが何かという点で、ほぼ毎週トップで変化があるほど活発な分野です。
しかし、出現したのは、LLMは言語のための言語的インターフェース、言語のためだけに言語を扱うことでこの種の言語的インターフェースを行うのが本当に得意だということです。
それらは計算を必要とすることを行うのが得意ではありません。それがそれらの意図ではありません。それがそれらの構造ではありません。実際、それらがそれが得意ではないという大きな手がかりがあります。なぜなら人間もそれが得意ではないからです。
私たちは心の中でプログラムを実行するなどのことができるようになりません。それで、私たちにとっては良いことでした。なぜなら私は世界について広範囲の計算を行うことができるこの全体システムを構築するのに4十年を費やしたからです。
プログラミング言語は、コンピュータができることを取り、人間にコンピュータの条件でコンピュータに何をするかを伝える方法を与える方法として意図されています。
私が長い間構築してきたものは、この種の計算言語で、世界を計算的に記述しようとするものです。世界は都市や映画や画像や地理やその他何でもあり得て、世界を計算的に表現できて、それについて計算できるようにするものです。
これはプログラミング言語で試みられてきたよりも高いレベルのものです。これは私がずっと使っているシステムです。数百万の他の人々もそうです。主に研究開発やそれらの種類のことのためですが、世界で私たちの技術を下に使う実用的なシステムの数も増えています。
多くの技術を構築してから、世界の大きなシステムの消費者ユーザーになり、自分の技術がその下にあることを知っているが、それが役に立たないのはいつも奇妙です。
消費者システムはそれがすることをします。とにかく、私たちにとって興味深いことは、主に人間のユーザーがいたのに、今はAIユーザーもいるということです。LLMが自然言語を通じて人間とインターフェースしているが、下では私たちのツールを使ってこれらの計算的なことを行っています。
それが起こるのを見るのは興味深いことでした。LLMが容易にできることと生の計算で容易にできることは非常に異なることです。その組み合わせは本当に強力で、その組み合わせでは、まだそれを行う方法がわかりませんが、最終的に起こることの一つは、それらのもののより細かい統合を作ることです。
なぜなら現在、LLMは進んで、多くのテキストを生成し、そして私たちのシステムをツールとして呼び出すために必要なものを生成し、結果を取り戻し、続けて、それらの結果を取って、書いているテキストに織り込みます。
では、現在持っているものから、人々が現在汎用人工知能、AGIと呼んでいるものまでの技術的なギャップは何でしょうか？最初に実際にAGIがあなたにとって何を意味するかを定義してから、今日いる場所からAGIに到達するために必要な場所までのギャップは何で、消費者の観点からそれはどのように見えるでしょうか？ほとんどの人は技術的な詳細を本当に知らないからです。
誰もAGIが実際に何を意味するかを知りません。それは流行語です。最初にAIが流行語で、人々はそれが何を意味するかよくわかりませんでしたが、人々がすることのようなことをするものを意味すると思っていました。
現在、言語を生成する、車を運転するなど、人々がすることの多くのことをするものがあります。しかし、まだ人々がすることに違いがあるはずで、それがAGIでなければならない、何らかの一般的な知性のことです。
実際に一般的知性という用語は1930年代に作られたと今話していて気づきました。IQの概念が入ってきたのと同時だったと思います。
私の意見では非常に問題のある概念ですが、人々が軍隊の新兵などのために理解しようとしていた時でした。この人は身長5フィート9インチのように数字を言えるような方法はあるでしょうか？彼らがどのくらい賢いかに数字、メトリックを与えましょう。
私の意見では、かなり運命的な概念ですが、それがG、一般的知性の係数と呼ばれるものにつながり、人々がテストを作り始めました。それで私はそれがどこから来るかだと思います。非常に運命的な場所です。
しかし、それは何を意味し、人間がすることは何でしょうか？人間がすることのより多くをするものをどのように作るでしょうか？そこで難しいのは、手で何かを拾うことができるAIがありますか？それは人間らしいことです。感情的な反応を持つことができるAIはありますか？それは人間らしいことです。
自分自身の死を感じるAIはありますか？これらすべてのことです。最終的に、人間のようであることのすべてのボックスをチェックするものは人間だけです。それで、机の上に座っている電子機器の箱が、ある面では人間らしいことができるが、他の面ではそうではありません。
最終的に、AGIで私たちが意味するのはすべての面で人間らしいものだと言うなら、それはかなり運命的なアイデアです。なぜならすべての面で人間らしいものは人間だけだからです。
今、質問は、これまで行ってきた軌道で進んでいくとどうなるかということです。何十億の重みを持つニューラルネットがあり、何百万のニューロンがあります。例えばそれをもっと大きくするとどうなるでしょうか？
私たちにはそれについてのモデルがあります。考えるのが少し奇妙ですが、ショウジョウバエから始めます。脳に13万個のニューロンがあります。私たちの脳には約1000億個のニューロンがあります。猫と犬の脳には10億個ほどのニューロンがあると思います。
私たちはいくつかのことができます。ショウジョウバエができない多くのことができます。特に、私たちが誇りに思うのは人間の言語です。それは私たちの文明を可能にしたことの一つなどです。猫と犬はそれをあまり持っていません。お座り、お手などがあるかもしれませんが、私たちが持っているような、文を作るために任意の組み合わせで単語を組み合わせることができる構成的言語は持っていません。
それで、合理的に尋ねる質問は、私たちが進んでいる軌道で進んでいて、人間の脳らしい数のニューロンなどを持つニューラルネットがあるなら、それよりもさらに多くあったらどうなるでしょうか？猫と犬から人間への心の次のレベルは何でしょうか？それはどのように見えるでしょうか？
それはある種の、現在ある程度人間らしいものがあります。私の推測では、次に解決されるAIの大きなことは、次にロボティクスでしょう。
ロボットの手に物を拾わせることや、倉庫から欲しいもので箱を詰めることなどは、超困難でした。私たち人間はかなり簡単にできることです。人間が書くもののための訓練データを得るのは少し困難でした。ウェブには何兆もの言葉などがありますが。
どのように世界でものを操作するかを見るためにビデオを見るなどして情報を得るのは少し困難です。それがどのようにうまくいくかは正確にはわかりませんが、私の推測では、それは人々が「なんてことだ、これが今AIでできるようになった」と言うもう一つのことで、世界で可能な実用的なことに多くの結果をもたらすでしょう。
しかし、それはAGIなのか、それとも単にハードウェアを通じて物理的な形のAIなのでしょうか？私が言っているのは、AIの限界は何かということです。知性を人間が持っているものと定義するなら、AIの限界はかなり人間です。
今、質問は、その軌道を技術的に進んでいる場合、人間を通り過ぎることができるかということです。人間が持っているより大きな能力に到達できるでしょうか？知性と呼ぶかどうかはわかりませんが、人間が持っているより大きな能力です。
答えはおそらくそうですが、その時の質問は、それはどのようなものでしょうか？私たちが1000億個のニューロンを持っているとき、100兆個のニューロンを持つものがあるとき、私たちが脳で毎秒行う計算数ではなく、それよりも何兆倍も多くの計算をしているものがあるとき。
それはどのようなものでしょうか？基本的なことは、それはあまり人間らしくないということです。それがどのようなものかの本当に良いモデルがあります。それは自然界です。自然界は脳が計算するよりもはるかに速く計算するもので絶対に満ちています。
せせらぎや何かを見ると、水で起こっているすべての流体乱流などは、私たちの脳の電気信号を計算として考えることができるように、計算として考えることができます。せせらぎには多くの計算が起こっていますが、それは非常に人間らしくない計算で、脳で起こるのと同じ種類のことではありませんが、多くの計算です。
私が思うことの一つは、より多くの計算を得ることは、容易に期待できることだということです。実際、私が科学で長い間行ってきたことの一つです。私の大きな発見と科学の方向の一つは、野生での計算がどのように見えるかを理解することです。
私たちが計算を行う時、通常プログラムを書き、私たちがやりたい特定のことを行うようにプログラムを設定します。しかし、1980年代初頭に興味を持った質問は、ランダムに選んだプログラムは、典型的に何をするかということでした。
小さなプログラムなら、小さなシンプルなことをするだけだと想定するかもしれません。しばらく慣れるのに時間がかかった大きな驚きは、それが真実ではないということです。可能なプログラムの計算宇宙では、非常にシンプルなプログラムでも信じられないほど複雑なことができます。
科学の観点から、それが自然がこの複雑さを作るために使う秘密だと気づきました。しかし、それもある意味では計算です。知性と考えることもできますが、非常に非人間的な方法で起こっています。
多くのことが起こっているだけです。これらのものを見て、「わあ、それは本当に複雑で込み入っていて興味深いが、本当に理解できない」と言うことができます。
実際、科学の使命は、ある意味では、自然界に存在するものと、私たちの有限な心で理解できるものとの間に橋を作ることです。川の中のすべての分子が何をするかを私たちの心で理解するつもりはありませんが、川が大体どうするかを支配する流体力学の特定の法則について話すことができます。
私たちは自然で実際に起こっていることと、私たちの有限な心に適合するものとの間に橋を作っています。今、私たちはより大きな心を作る場合、どのような種類のものになるかという絵があります。
私の推測では、それは非常に非人間的で、それがすることからそれが理解するものまでの橋を作ろうとすることができる物事があるかもしれないという質問があります。「わあ、感銘を受けました。それは科学的に興味深い」と言うことができるかもしれません。
しかし、それがしていることは人間のように走っているようなものではありません。人間が速く走っているようなものもあるでしょうが、ほとんどの場合、極めて非人間的なもので、本当の質問は、その非人間的計算をどのように私たちが気にかけることにつなぎ止めるかです。
それは非常に類似しています。それで、人々が言うAIが人間レベルの知性や人間の知性に到達するというAGIの定義を、あなたはAIの進歩を見る間違った方法だと思いますか？AIは実際に非常に非人間的な知性になる場所に向かっているからです。
私がAIに最初に注意を払い始めた1970年代後期には、この種のチェックリストがありました。これを持っている時、AIを持つでしょう。その一つは記号的数学を行うことができることでした。もう一つは質問応答を行うことができることでした。
チェックリストを下りていきます。私たちはそれらのものを持っています。しかし、人々はまだ「しかし人間について違うことがある」と言います。はい、人間について違うことがあります。人間は人間で、食べて飲んで死ぬなどの種類のことです。
この電子デバイスソフトウェアシステムがすることとは異なります。歴史を通じて人々は、私たち人間について非常に特別なこと、根本的に特別なことを探したがってきました。
私たちが作ることができるチャートで、私たちが本当にそのデータポイントが抽象的に道を外れているような特別さではなく、たまたま私たちがあるような方法である人間の詳細で特別です。
科学の歴史の教訓は、私たちがこの方法やあの方法で特別ではないという事実で謙虚になり続けてきたということです。私が思う私たちが特別である方法は、私たちが正確に私たちがある方法だということです。
私たちが持っているすべての詳細、二つの目と耳とすべてのこの種のことを持っています。私たちは私たちが特定にあるものです。そして、はい、私たちが特定にあるものをより密接に近似するAIを作ることができます。
私たちが歩く同じ方法で歩き回っているので、世界の経験が私たちと似ているヒューマノイドロボット。同様の経験を持つ二つの目を持つもの。もし世界中のどこからでもあらゆる種類のことを見ている百万の目を持つものがあったら、それはあまり人間らしい経験ではないでしょう。
百万の目のAIが有用だと思うような種類のことは、おそらく私たちが有用だと思うものとは非常に異なるでしょう。
AIが人間を置き換えるかもしれないという社会の恐怖が醸成されているのに、私たちはAIを人間の特性とどれだけ複製できるかという目標ポストを立て続けているのは興味深いです。まるで実際に自分自身を置き換えようとしているかのように、同時に恐怖が醸成されています。
もし技術的目標が何かと言うなら、それは人間らしいものを作ることです。それは見ることができる種類の目標ポストです。しかし、それは間違った目標ポストだとあなたは言っています。
AIが私たちを置き換えるという恐怖が醸成されているなら、人間が個人として存在し、AIを私たちを助けることができる完全に異なるものにしようとするべきではないでしょうか？
私たちは自然に対して取るに足りませんが、その立場で十分満足しているようです。宇宙に対して取るに足りない、地球上で起こっている計算に対しても取るに足りません。しかし、それでも自分自身を非常に誇らしく思っています。
それが考える方法だと思います。私たちは人間のニッチである特定のニッチに存在しています。「いやあ、他の惑星にいたい。これやあれやその他になりたい」と言うことができます。
それでも、私たちが最も気にかけるニッチは人間のニッチです。宇宙にとって、私たちのAIが他の星に行ったりその他何でもしているなら、宇宙にとってより重要だと抽象的に言うことができます。
宇宙にとってより重要だとはどういう意味かわかりません。なぜならそれは実際に定義を持たない宇宙の倫理を求めているようなものだからです。何にとって重要か、何にとって意味があるか、何にとって正しいかのこれらの種類の質問。
それらは最終的に私たちに根ざした質問です。抽象的に意味のある方法でそれらの質問を尋ねることはできません。技術とは何かということです。技術は世界に存在するものを取り、人間の目的やさまざまな種類のもののために使用できる部分を取ろうとする試みです。
人々が磁気岩を発見した時、最初は何に良いかわからなかったと思います。人々が液晶を発見した時、最初は確実に何に良いかわかりませんでした。そしてまあ、液晶からディスプレイを作ることができることが理解され、それがそのユースケースでした。
同様に、計算宇宙にはこのすべてのものがあります。野生でのこのすべての計算があり、そのほとんどを私たち人間が気にかけることに使う方法を知りません。
科学技術と社会の進歩で起こることは、私たちが気にかけると思うものがますます多くなり始めることです。おそらくもはや気にかけない他のものを忘れるでしょう。
ビデオゲームをしたり、ビデオゲームをストリーミングしたりして生計を立てることができるとは想像できないと人々が言うようなものがたくさんあります。人々がそれを興味深いと思うだろうとは想像できません。
私たちが今日することを見て、千年前のレンズからそれを想像すると、私たちが今日することの多くは千年前の誰かには絶対に無意味に見えるでしょう。私のお気に入りの例の一つは、トレッドミルで歩くことです。
千年前の誰かにトレッドミルで歩く理由を説明してください。まあ、健康を改善するためで、長生きするためです。なぜそれが意味をなすのでしょうか？
神のより大きな栄光などのためにすることをします。地球での短い時間などです。なぜトレッドミルにいるのか、歩いているのにどこにも行かないのか。
千年前に人々が重要だと思ったかもしれないさまざまなことを見ることができます。なぜトレッドミルで歩くのかを説明するものは何もありません。
それが社会と文明の進歩で見ることです。目的があり意味があるように見えるものが徐々に変化し、AIや一般的な自動化は何をするかというと、人間がやりたいことを取って、それを何らかの方法でより簡単にできるようにします。
すべてが簡単になるので人間の必要がないだろうと言うかもしれません。しかし、まだ実際に何をしたいかという質問があります。それは何をすべきかという質問に抽象的な答えがないところです。
宇宙は何をすべきでしょうか？宇宙は宇宙がすることをします。何をするかの選択は、ある意味で究極的に典型的に人間的なことです。なぜなら、できることはたくさんあり、猫と犬が決めることもできたし、エイリアンが決めることもできたでしょうが、何らかの任意のものが何をしたいかを決めなければならないからです。
技術の弧は常に人間がやりたいことを取って、より自動的で簡単にできるようにすることでした。それは人間に何をするでしょうか？
以前、人間がする仕事に何が起こったかを見ました。例えばアメリカでは、人々がどんな仕事をするかについて1850年頃にさかのぼるデータがあります。1850年には、ほとんどの人が農業をしていました。ほとんどの人が実際に畑を耕すなどのことをしていました。
それはほとんどすべてが自動化されました。それで経済に何が起こったでしょうか？起こったのは、パイの大きな塊が何億もの異なる領域に分裂したことです。経済がより発達すると、それが典型的に見るものです。
開発されるより多くの異なる仕事のカテゴリがあり、それが典型的なパターンです。物事のある種のカテゴリが行うのが困難で、多くの人が地上でそれを行っていて、それから私たちはそれを自動化し、その自動化のまさにそのプロセスが可能な他の多くのことを開かれました。
最前線は通常、人々が選択をしなければならないことで終わります。抽象的に供給する方法がない場所です。人々が「まあ、AIに選択を放棄しよう」と言う状況にいることができます。
それは少し悪い状況です。なぜならそれは、AIによって捉えられた社会と文明をそのまま取って、同じことを何度も何度も実行しようと言っているようなものだからです。
人間は新しく異なることをする機会を得ることはありません。では、なぜAIは創造的になれないのでしょうか？AIが創造的になるのは非常に簡単です。ランダムな数を選ぶだけで、それは創造的なことをしています。
今、質問は、それが選ぶランダムなことは、人間が気にかけるものでしょうか？例えば、私がかなり見てきた興味深い質問は、数学の定理を見ると、計算システムに何十億もの定理を吐き出させるのはかなり簡単だということです。
すべて真の定理です。「わあ、エキサイティング。数学で進歩を遂げている」と言うかもしれません。しかし、人々が気にかける数学で進歩を遂げているわけではありません。なぜならそれらの定理のほとんどを人々は見て、「ああ、確かに真実だが、だから何？」と言うからです。
人間が気にかける数学としてカウントされるものは、この種の尖った部分、建設される塔になる傾向があります。人間はこれを気にかけます。彼らがそれを気にかけることを考えると、今度はこれを気にかけます。そのように構築しています。
同じ種類のことです。至る所で見ます。一年ほど前にやったことですが、エイリアンの心とエイリアンの心の心的画像について興味がありました。
それはどういう意味でしょうか？画像生成AIシステムを作ることができます。説明を伝えます。パーティーハットをかぶった猫。写真を生成します。パーティーハットをかぶった猫の説明に合う写真を何兆も生成します。
それがAIがすることで、写真にラベルを付けた人間などから学んだものです。では、AIの内部ノードを変更するか、または代替的に、パーティーハットをかぶった猫の内部描写を取ってそれを調整し始めるとどうなるでしょうか？
パーティーハットをかぶった猫の概念から、私が概念間空間と呼んでいたものに移動します。人間定義の概念から、AIの心に存在するが私たち人間にはなじみのない概念に移動します。
私がそれを猫島と呼んでいた、猫概念の周りにあるその概念間空間でこの種の島を見ます。私たち人間はそれらを猫の写真として認識します。
それからこの概念間空間に移動しますが、これはAIの心にとってその概念間空間の猫ポイントと同じくらい意味のある空間ですが、私たちには非常に意味がありません。これらの写真を見ると、わからない、縞と点と正方形と円とこれとそれがある写真です。
何の写真かわからない。なぜ気にかけるかわからない。しかし、私が作ったその投稿の写真のいくつかを誰かが取って、現在パリのどこかのアート展示会にあることに気づいて面白がりました。
その写真を作るスタイルは、少なくとも一つの小さなケースで、実際に他のものもあったと思いますが、現在アートと考えられています。
概念間空間にあったものが、いつかそのようなスタイルのアートに発展し、私たちが知って、私たち人間の概念空間の一部である概念になるかもしれません。
そこで理解することは、AIが概念間空間で戯れているということです。AIの内部で起こることは、概念間空間からのこれらのもので満ちています。
自然が多くの非人間的なことをしているのと同様に、極めて非人間的です。AIを今日存在するように開いて、ここで何が起こっているかと言うなら、これは私が気にかけるものかということです。
最近実際にかなり作業してきたことですが、興味深いです。なぜなら本質的に、そこで見つけるこれらの還元できない計算の塊があり、AIの訓練で起こったことは、私たちがそれにしてもらいたいことを行うために、これらの還元できない計算の塊を一緒に適合させたことです。
私が使っているアナロジーは、岩で壁を建てているようなものです。石の壁を建てているのです。計算のこれらの塊を取って、猫と犬を区別することなどに対応する必要があるものにたまたま適合し、それらをたくさんまとめて、猫と犬を区別するなど、私たちが望む目的を達成するものを得ます。
内部で起こっていることは、ある意味では、どの岩がたまたま転がっていたかのように、ランダムに選ばれたものです。ある意味では、この種の還元できない計算の塊で満ちているので理解できません。
人間には理解できないことをしているAIに支配される世界はどのようなものでしょうかと言うことができます。その感覚は、自然界に住んでいる感覚と非常に似ていると思います。
私たちが構築する技術を理解できることを期待する歴史の短い期間がありました。過去に人々が馬に乗って移動していた時、馬に望むことをさせる方法について何かを知ることができましたが、馬が内部でどのように機能するかを機械論的に知ることは、本当に気にかけることではありませんでした。
馬を有用なことに使うことができましたが、馬が内部でどのように機能するかは知りませんでした。産業革命後、短い間、内部で何が起こっているかを知っている単純な機械を操作していました。
計算を最も良く利用できるようにするシステムを作るために、私たちは必然的に心で容易に理解できないこの種の還元できない計算を扱わなければならない状況に戻っています。内部で何が起こっているかの物語的説明を持つことはできません。
では、それにどう対処するでしょうか？私たちが技術で永遠に行ってきたのと同じことです。原理的に可能な、自然界で可能かもしれない、計算界で可能かもしれないものがあります。
今、私たちが気にかけることと一致することのためにそれらをどのように使うでしょうか？私たちが望まないことと一致しない理解できないものもあるでしょう。
自然界には、私たちが望まないトルネードなどのものがあります。私たちはそれらを予測し、トルネードシェルターなどを持って、それらと共存することができるようになります。
計算宇宙から出てくるそのようなものもあるでしょう。ある意味ですでにあります。より大きな知性と考えることができるものと共存する方法を概念化する方法の見方だと思います。
確実に計算的により大きいですが、それは自然界から非常になじみのあるものです。
あなたはおそらくほとんどの人が本当に深いレベルで理解しない物事を理解する非常に高いレベルの知性を持つ人として。AIがどのように進化したかについても、それについて非常によく理解しています。
理解しない世界のAI発展を恐れますか？私はこれらの小さなプログラムを作り、プログラムを見ると、それは完全に些細で、それから実行すると、理解できないことをします。
私は45年ほど自分でそれを経験してきました。最初はそれは非常に奇妙でした。これが起こっているはずがないという感じでした。この小さなプログラムがこのすべての素晴らしいものを作ることはできません。しかし、それが自然のあり方です。慣れます。
私にとって、物事への一般的なアプローチは、できるあらゆるツールを使うことです。私自身が面白いことは、人々がAIが本当に賢くなったら、人間にとってどのようになるだろうかと言うことがあります。
私自身は、物事について考える能力を高めることができるツールを構築するという、自分で作り出した状況にたまたまいました。45年ほどそのようなツールを構築してきました。
私が構築したツールにより、アイデアを取って、その結果を本当にかなり効率的に見ることができます。アイデアを持ったら、どの方向に行きたいかを知ったら、タイプタイプして小さなWolfram言語プログラムを持ち、実行して、そのアイデアを実行させます。
非常に短いプロセスです。最近さらに短くなりました。なぜなら、LLMや私たちが作った他の技術に基づくこのノートブックアシスタントシステムを構築したからです。これにより、持っている思考から実際に実行できる計算言語コードにさらに効率的に移行できます。
私は他の人々がそれを生きたかもしれない場所の先を生きたのかもしれないので、面白いことです。私たちの技術を使う人々はたくさんいますが、おそらく私と似たような立場にあります。アイデアがあって、その結果を見たい、それは非常に短い道筋です。
通常、もしコンピュータで実装できる物事のために、アイデアから現実までのその道筋を本当に短縮する技術を、部分的に私自身のため、部分的にみんなのために構築してきました。
それは、ロケットを建設するなどのことではありません。知的観点から興味のある種類のことをすることです。それで、それについてしばらく生きてきたこのことです。それをイメージして、それから現実にする。
それは私が長い間生きてきたことです。人々はますますそれを期待するようになると思います。それはある意味非人間化することではありません。何をしたいかがより重要になるからです。持っているアイデアは何でしょうか？
内部でどのように機能するかという質問について、その船はずっと前に出航しました。コンピュータの内部で詳しく何が起こっているかを理解している人はいるでしょうか？
科学をして、これらのシンプルなプログラムを設定する時も、常に理解しないことをしています。いつも、そのような種類のことに取り組んでいる時、実際には毎日、物事が何をするかを想像し、想像しなかったことをするという事実に謙虚にされます。
ソフトウェアの観点から物事がどのように反応するかを理解しないことについて言いましたが、ハードウェアやロボティクス、物理的に私たちを傷つけることができるものに入る時、そのより虚無主義的または終末レベルの質問にどう答えますか？
自然は私たちを殺すことができますが、確実に理解しません。物理的に私たちを傷つけることができるソフトウェアとハードウェアの観点から、理解が少なくなる時、その質問についてどう考えますか？
現在、自動運転車、飛行機、電車、いくつかの車など、多くの自動運転車両があります。さまざまなレベルのAIに委ねた多くの種類のものがあります。
おそらく私たちは、このAIが立ち上がって私たちをみんな殺したがるだろうと言って人間化します。それは非常に複雑な概念です。実用的な観点から、AIに委ねることができる愚かなことがあります。
世界の多くのシステムにAIを接続して、すべてがうまくいくと言うことができ、そうはならないでしょう。しかし、世界に一つのAIがあるわけではないと思います。
科学小説や人々の初期のコンピュータの概念でさえ、一つの巨大なコンピュータを構築して、それがすべてだということもあり得ました。
それは少し異なる状況です。一つの生物がいて、生物間の競争がないなどと言うようなものでしょう。それは異なる状況でしょう。一つの大きなAI状況ではないと思います。
今、質問は何でしょうか。人々はAIのIQについて考え、それが自分自身を改善でき、そのIQが無限に走り去ることを考えることについて想像します。
IQテストを本当によくできる多くの人を知っていますが、それだけでは世界を乗っ取るチケットではないことを確信できます。
世界の多くの特徴があります。世界の多くの物理的制約があります。はい、あらゆる種類のことを理解したAIを持つことができますが、それでも物理の法則に従います。
人々は、それがすべてを理解するだろうと考えるかもしれない物事があります。実際、多くのことを試さなければなりません。物理世界は多くの計算を行っているので、物理世界で何が起こるかについて事前に理解することはできません。
何が起こるかを見るために実際に実験などを試さなければなりません。それはすべてを理解してテイクオーバーするという別の部分を遅くします。
しかし、最も重要なことは、人々がAIにこれやあれをしたがるというアイデアを投影する傾向があることです。他の人々が他の人々にこれやあれをしたがると投影するのと同様です。
私たち自身が内部でどのように感じているかは、確実に知っている唯一のことです。他のすべては一種の仮定、投影です。このすべての計算能力を持つAIが何かをしたがるという概念は、非常に奇妙な概念です。
計算宇宙で私が研究してきたこれらすべてのプログラムの一般化は、例えば、人間として私は、それがこの物を黒い正方形で埋めたがっているように見えると言うかもしれませんが、それは本当に非常に奇妙な記述です。
それは本当にあまり人間的でない何かの非常に人間化された記述です。AIの破滅の主要な人物の一人であるEliezer Yudkowskyという人と会話をしていました。長い会話をして、私はついに彼の破滅のシナリオの見方を理解したと思います。正直に言って、それは正しくないと思います。
彼の理論はこうです。AIはほとんど何でもすることの最適化ができるようになるでしょう。私はそれに同意します。物理世界の制約まで。言い換えれば、あなたがしたいと定義できることがあるなら、それをできるようにする道筋を最適化できるようになるでしょう。
私が構築したソフトウェアで過去40年間生きてきたのは、それを自動化できるか、それを最適化できるかということです。それを合理的なこととして受け入れます。
二番目の声明は、AIは目的を持つと定義できるなら、かなり広範囲の異なる目的を持つでしょう。それは一種の真実だと思いますが、彼らが目的を持つと言うことが何を意味するかわかりません。
次の主張は、それらの可能な目的のほとんどは人間の余地を残さないというものです。それはずっと奇妙な主張だと思います。なぜならそれは、人間らしい思考を持たない、人間らしくない何かの目的の概念を定義するのが非常に困難だと言っているようなものだからです。
この小さなプログラムがあって、それがすることをすると言うことができますが、それは目的を持っているでしょうか？いいえ、実際にはありません。それはただすることをするだけです。
人間は目的を持っているでしょうか？ある程度では、私たちはただすることをするだけです。私たちの脳の神経発火は、私たちに彼らがさせることをさせます。外部から、その人間がこれとそれとその他のためにそれをしていると言う記述を持つでしょう。
しかし、それは外部からの記述です。それは課せられた目的の概念です。私たちは目的の観点で私たち自身の思考について考える私たちの内部思考で感じるかもしれません。それは可能です。
私たちがすることを目的の観点で記述することが、生来で自然なものなのか、それとも言語を学ぶのと同様に学ぶものなのかは興味深い質問です。私がこれこれのためにそれをしていると私たちのすることを記述することは、言語の観点で物事を記述できるのがより高い層であるのと同様に、より高い層かもしれません。
だから可能な目的の空間で、AIはこれとこれとこれを選び、それから糸を引き締め、糸を引き締める時、人間は絵から締め出されるだろうと言うことができるという概念は、目的の空間について考えることが何を意味するかの正しい絵だと思いません。
目的について話すことが何を意味するかさえわかりません。宇宙を興味深く保つ責任があるというEliezerの一種のアイデアについて複雑な倫理的質問にすぐに入りますが、それが何を意味するかまったくわかりません。
宇宙を通して生命を広めることは、宇宙を通して生命を広める宇宙への倫理的義務があるということです。私は全くそれを理解しません。倫理は人間的なことです。抽象的な倫理はありません。
人々は倫理的質問を科学的質問として言い換えようとするので混乱します。例えば、有名なのはトロッリー問題です。
今日では自動運転車で、5匹のラマか1匹の絶滅危惧種のトカゲのどちらかを殺すことを決めなければなりません。どうやって決めるでしょうか？要点は、その問題でのごまかしは、科学で科学を可能にすることの一つは、制御された実験ができることです。
世界で起こっている他のすべてを無視して、世界のこの小さな部分で実験をすると言うことができます。しかし、倫理では、それは不可能だと思います。
言い換えれば、ラマや絶滅危惧種のトカゲの質問への答えは、そのラマの一匹が誰かのペットのラマだったかどうか、ラマを崇拝するグループがあったかどうか、絶滅危惧種のトカゲがあらゆる種類のことだったかどうかなど、ラマの接続の全体の話を知ることなしにはありません。
それは世界のすべてに素早く絡み合います。制御された実験、抽象的なことのこの種の科学的なことをする機会はもはやありません。
私のような人が、AIが彼らの代わりに仕事をするだけになることに関して何を感じるかについて、以前尋ねていたと思います。
それに対する私の態度は、存在するツールを使って私ができることを活用し、何かを考えることから実行することまでの最速の道筋に私を乗せることに人生を費やしてきたということです。
AIと話してコードを書くのを手伝ってもらうことなどは、純粋に、そのプロセスを助けるだけです。
私がちょうど始めたもう一つのことがありますが、どれくらいうまくいくかよくわかりませんが、こうです。例えば、私は興味があります。5年前に基礎物理学で大きな進歩を遂げ、この物理学理論の実験的結果があるかどうかという大きな質問があります。
理解できるその実験的結果があるかもしれません。実験がすでに行われていて、人々がそれをどう解釈するかを知らなかった実験的結果があるかもしれません。
世界には何百万もの物理学論文があります。私はそれらすべてを読んでいません。読むことができませんでした。では、AIを使って本質的にそれらすべての論文をテーマ別に分析し、テーマ別に教えてもらうことができるでしょうか？
統計を行って、この数字の山があって、10匹中7匹のキリンが長い首を持っているなどと言うのは一つのことです。数字では、統計を行うことができます。
しかし、AIで可能になったことは、百万のテキストを取って、そのすべてのテキストからテーマ的なものを抽出しようとすることです。数字の平均ではなく、テキストの気分のようなものです。
私がちょうど試し始めたことです。どれくらいうまくいくか見るのは興味深いでしょう。かなりうまくいくと思います。これまで持っていたものからの不連続性でしょうか？本当にそうではありませんが、別の大きなステップです。
1970年代にすでにオンラインデータベースサービスを使っていました。人々がすべての科学論文の要約をアップロードしたところで、キーワード検索ができました。論文を見つけることができました。
ウェブが登場し、検索エンジンが登場すると、それがずっと簡単になりましたが、1970年代にはすでに可能でした。ウェブはフルテキスト検索などを簡単にしました、検索エンジンなど。これは別のステップです。
どれほど重要なステップかは本当にわかりません。興味深い多くのユースケースがあります。私が興味を持っているのは医学診断です。
実際にほとんど何でもの診断です。コンピュータの問題の診断など、起こり得ることについての知識体があり、特定の症状があり、それらの症状を知られていることに一致させようとしているものです。
現在のAIラウンドは、おそらく超人間的な方法でそれをかなりうまく行うだろうという疑いが私にはあります。
私たち人間にとって、それは世界に出ているもののテーマ検索のようなことです。LLMのような最もAIらしい部分を使わないテーマ検索の部分もあります。
大きなテキストを取って、単語に砕くのではなく、何らかの文の意味を表す数字の配列に砕いて、私が今尋ねている文があって、すでにそこにあったものに意味が近いことが数字が近いことで明らかにされた文があるかと言うものです。
あなたが言った興味深いことの一つは、人間は何をしたいかという根本的な質問です。John Maynard Keynesについてのエッセイの引用があったと思います。1930年代に彼は、技術の進歩により生産性が非常に向上するため、100年後には人間は週15時間未満しか働く必要がないと言いました。
AIと AIの発展で人間はほぼすべてのことができるとあなたは言いましたが、ここで私たちは100年後にいて、人間はまだ週40から50時間働いています。何も本当に変わっていません。
それは私たちが目的としてどのように自分を特定するかについて何を言っているでしょうか？AIが本当に私たちができるすべてをできるなら、社会として学習解除する必要があることは何でしょうか？
Keynesの時代には、多くの人が農業をしていました。多くの人が自動化された物事で非常に一生懸命働いていました。前に言ったように、データで実際に見るのは、それらの人々が何億もの他の仕事に分裂したということです。
経済がより発達するにつれて、開発されるより多くの異なる仕事のカテゴリがあり、それが典型的なパターンです。
電子的に文書を作ることができる時、紙がなくなるというペーパーレスオフィスの神話のようなものです。現在実際にはあまり紙はありませんが、それには時間がかかりました。より多くの紙の大きな爆発がありました。
私たちが見ると思うのは、人間がすることにより重点が置かれることです。人間は選択をします。人間は他の人間と交流します。これらは一種のユニークに人間的で独立したことです。
他の人間との交流さえ、それがどのように展開されるかわかりません。現在AIチューターを構築する大きなプロジェクトがあります。人々は70年間コンピューター化された教育をしようとしており、基本的にいつも失敗してきました。
コンピューターに助けてもらうことはできますが、主要な教師になることは決してうまくいきませんでした。今回は有望に見えます。確実にうまくいくとは言いません。数ヶ月後にリリースする予定で、その時にうまくいくかどうかわかるでしょう。
Khan Academyスタイルか、どのようなものでしょうか？これは文字通り、私たちが特に対象としているのは代数です。人々が多くの問題を抱えているようだからです。
通常私たちが構築する製品では私がターゲット市場にいるので、私にとってはイライラします。これは私がターゲット市場にいない実質的に最初の製品で、相互作用がどのように見えるかを内在化するのが非常に困難です。
あなたの方が代数がひどいのでより良いユーザーになるでしょう。
Khan Academyの中心は、物事を説明するビデオです。彼らはLLMでいくつかの実験を行ったことを知っています。
生のLLMはこれをあまりうまく行いません。クラスの課題やクラスのノートをアップロードして、LLMにこれらのノートに基づいて質問してもらうと言えば、それなりの仕事をします。
しかし、このコース全体を通して私を導き、軌道に乗せ続けてなどと言うなら、それは少なくとも私たちの観察では、多くの上部構造、多くの種類が必要なもののようです。
数日前に学んだ興味深い統計ですが、私たちのAIチューターでは、実際に学生と相互作用しているAIよりも、裏で進行している4倍多くのAI作業があります。
何が起こるべきかを定義している機械と比べて、全体を軌道に乗せ続けている4倍多くの機械があります。それは、現在起こっているAIの典型的なことだと思います。
現在の世代のAIが本当にかなり役に立つタスクのコンポーネントがあり、これまで不可能だったことを可能にしますが、あなたがしたい完全なタスクを行うことができるより大きな機械の馬具にそれをどのように適合させるかという大きなものがまだあります。
しかし、教師が人間を説得すること、人間との相互作用による動機など、人間が関わることを含むようなことがどれくらいAI可能になるかはわかりません。
しかし、仕事と人間が仕事の周りにアイデンティティを定義することについて具体的に、AIがすべてを置き換える時。9時から5時まで変わる必要があるでしょうか？誰も働く必要がなくなった時に何が起こるでしょうか？
働くことが何を意味するかによります。ビデオゲームをしてそれで生計を立てているなら、それは働くことでしょうか？
私が生活のためにすることは、特に働くとは考えません。興味があるからそれを行います。興味深いと思います。たまたま商業的に成功することです。
私がすることの多くは、200年後に商業的に成功するかもしれない基礎科学ですが、それは本当にポイントではありません。
人々は、より多くの技術によって深く活用される経験の集合、人々ができることの集合を持つと思います。これまでもそうでした。
ソーシャルメディアで時間を過ごす人々、ソーシャルメディアでやり取りしたり、ポッドキャストをしたりして生計を立てる人々などは、技術によって可能になったことです。
私たちが現在していることは、多くの技術なしには行うことができませんでした。より多くの人間がすることが可能になると思います。
確かに人間がみんなカウチポテトになって、純粋な消費者になることは考えられます。しかし、確実に、これまでの傾向は、人間がすることがあるということです。
人間は働く必要があるでしょうか？言い換えれば、人間が誰かが仕事と考えることを何もしないで世界が運営できるでしょうか？可能です。
人々は発明しなければならなかったすべてのテレビ番組は必要ないと言うことができます。人々がしているすべてのポッドキャストなどは必要ありません。世界はそれなしに運営できます。
100年前に戻れば、本当にする必要があることは農業を自動化することだと言うでしょう。それが完了したら、誰も働く必要がありません。すべて良いです。
ただぶらぶらして、テーブルに食べ物を届けてもらい、他に何も心配する必要がないようなものです。しかし、それは私たちの種の歴史ではありませんでした。
私たちは、何かが可能になるものを見つけることになります。まあ、人々はそれをするでしょう。そこにはある種の運転があります。続けて物事を運転する種類の欠乏があります。
科学でこのことを発見するのは自動的になるだろうと言うことができます。しかし、あなたがその方向に決めるなら、それを発見する最初の人になることは常にあるでしょう。それはこれやあれを行う最初の人になるエキサイティングなことです。
そこにあるものには常に組み込まれた欠乏があります。理解すべきことは、可能性の計算宇宙は無限だということです。
作ることができるすべての発明が作られる時が来ると思ったかもしれません。その時は決して来ないでしょう。1世紀前、人々は、作ることができるほぼすべての発明を作ったと言っていました。
それは真実ではないことがわかりました。しかし、私が理論科学で行った多くのことは、証明できるすべての数学定理が証明されたと言えない意味で、作ることができるすべての発明が作られたと言えないことを非常に明確にします。
それは決して起こりません。これらのもののの無限のフロンティアがあります。作ることができる発明があるたびに、世界で新しく異なることができる種類の新しいものがあり、その時の質問は、人間は気にしないと言うかもしれません。
人間が、過去100年、過去1000年などに発明されたものを信じない、過去100年、1000年に発明されたものを使って生活しないように生活すると決めるかもしれません。
現在可能なことをロックアウトすることにすると決めることができます。ソファポテトの社会のようなものを持つこともできます。決して何かをしようとしないと決めた人々です。
それが人間の条件が展開される方法だとは思いませんが、住んでいる世界のどこに住んでいるかとその地域に何人の人がいるかによりますが、十分な天然資源がある場所にいるなら、地面からそれらを採掘して生計を立てることができる場所があります。
世界のそのような部分があります。その状況で人々は何をするでしょうか？何もする必要がない時に何をするでしょうか？
理解することは、人間の条件は、例えば希少なものや他のものなどを求める傾向があるということです。
それは多少私たちにかかっていると思います。すでに私たちの種のある小さな部分については、何もする必要がない場合になっているという事実です。
しかし、質問はあなたが何もする必要がないのではなく、AIが引き継ぎ、私たちにすることは何もないということだと思います。
AIがより多くのことを可能にしたという事実は、私たちをより高いプラットフォームに置き、私たちがその後できることがより多くあります。少なくとも、私の人生観では、それは素晴らしいことで、はるかに遠くに行くことができます。
「ああ、諦めるべきです。AIは私ができるすべてをするでしょう」と言うものではありません。それは多少個人に依存するものかもしれません。
人々が常にすることを求める人間の条件の私のおそらくバラ色の見方で、彼らが死ぬか飢えるかなどしないためにそれをしなければならない観点からそれをするかどうかは、彼らが選択してすることとは少し異なることです。
しかし、すべての人間は食べ物をテーブルに置く必要があります。すべての人間は屋根が必要です。ほとんどの人間は頭の上に屋根が必要で、基本的な必需品を満たすことができる必要があります。
歴史を通して、私たちは常に経済でのある形の価値と労働を交換して、基本的な必需品を満たすために実際に支払うことができる通貨のようなお金の通貨を私たちの場合には置くことができました。
しかし、十分な仕事がなく、人々が価値を提供して実際に交換し、基本的な必需品を満たすことができる能力がない時は何が起こるでしょうか？それはUBIのような他の経済手段で解決できる問題でしょうか、それについてどう考えますか？
多分私には何かがあります。最初のポイントは、今日世界で人々が支払うものの多くは基本的な必需品ではないということです。すべての国ではありませんが、世界の多くのセグメントで、人々が主に支払っているものは基本的な必需品ではありません。
人々が支払うことを気にかけることがあり、それは食べるのに十分な食べ物を得ることよりもはるかに薄れたものです。
私を驚かせた何かの驚きがあります。40年か45年前、私は一般的な人のコンピューターよりもずっと豪華なコンピューターにアクセスしていました。しかし実際には、消費者電子機器が安くなり、みんなが現在同じ種類のコンピューターを持っています。
非常に平坦で、消費者電子機器がこの大きな山だった場合があり得ました。多くの努力でのみトップに到達しました。基本的な必需品のようなものは、自動化を通してより安くなるでしょう。より安くなりました。
肥料が発明された時、作物が人口増加に対処するのに十分な農作物が生産されないだろうから、世界は食べ物を使い果たすだろうと人々は思いました。しかし、肥料、作物の育種などが発明され、その問題は何かによって消え去りました。食べ物が効果的により安くなり、食べ物がより簡単に生産できるようになったからです。
特定の種類の基本的な必需品をゼロアウトした時に何が起こるかという質問だと思います。人々は他のものを欲しがります。
人々はその素晴らしい特殊効果のテレビ番組を見たいと思います。彼らはこのことを見たいと思います。彼らはこれやあれの経験をしたいと思います。それらは一種のものを行いたいと思います。
それはまた経験でした。数千年の期間があったと人々は言います。基本的な必需品が世話されたグループがあったと人々は言います。
ベリーを茂みから摘むなどするだけでよい場所に住んでいました。その状況で人々は何をしたでしょうかと尋ねると、よくある人類学的な声明は、これを深く掘ったことがないので、どれくらい信じるかわかりませんが、人々が非常に儀式的な種類の行動に入るという声明がなされます。
外部からは、あまり多くのことが起こっているようには見えません。人々が引用符付きの儀式的な種類のことをしているだけです。
私たちが今日することの多くがどれくらい儀式的に見えるかに気づいて面白がります。コンピュータの前に座って、スクリーンに奇妙な写真が出てくるのは、何をしているのかを理解していないなら、献身的な儀式的な種類の活動のように見えます。
言い換えれば、何がポイントかの理解の糸を作ることができないなら、その種の活動を本質的にポイントが何かを知っているものに結び付けることができないなら、それは引用符付きの儀式的に見えるだけです。
ニーズが満たされた人間は何をするでしょうか？答えは今日の私たちの見方から、彼らは儀式的な種類のことをしているように見えるかもしれませんが、彼らの内部の見方では、彼らは非常に重要なことをしています。
ソーシャルメディアでの相互作用について心配している子供を見ると、なぜあなたがこれを気にかけるのかわかりませんが、彼らにとって、それは非常に重要なことです。
外部から、または歴史の異なる時から、重要に見えないかもしれませんが、瞬間に、内部体験では、重要に見えることができます。
未来のある見方があります。脳のアップロードなどをすべて理解し、すぐに人類の未来は、永遠にビデオゲームをする箱の中の1兆の魂になるでしょう。
そして「いやあ、それはひどい結果だ」と言うかもしれません。今日の私たちの観点から、今日の私たちの経験から、今日私たちが気にかけることから、それはひどい結果のように見えます。
しかし、私の推測では、その非肉体化された魂の内部体験では、引用符付きビデオゲームをすることは完全に意味があるでしょう。彼らは私たちの時代を振り返って、「いやあ、それは私たちが現在できるこれらすべての素晴らしいことができなかったに違いない。なんて退屈で、無意味な存在だったでしょう」と言うでしょう。
千年前のトレッドミルで走り回ることが狂気に見えるように言ったように。
技術の進歩の軌跡がぜいたく品をよりアクセスしやすくすると、Uberを通してみんなが個人的な車を持ち、世界のどこでもAirbnbを借りて人の家に入ることができ、すぐに家にロボットを持つことができ、あなたのために何でもできる何十ものロボットアシスタントを持つことができます。
もしそれが本当で、基本的な必需品が満たされると言っているなら、お金と富について考える私たちの見方は何でしょうか？今日のように将来人々は裕福になりたいと思うでしょうか、それともお金との関係は変わるでしょうか？
常に欠乏があるでしょう。山の頂上に住む人が常にいるからではありません。山の頂上は一つしかありません。最終的に別の山を建てることができるかもしれません。
Xを行う最初の人が常にいるでしょう。だから、汎用化できないものが常にあるでしょう。あなたは気にしないかもしれませんが、誰かが値上げする価値があると思うかもしれないものが常にあるでしょう。
それが理解することの一つです。私は私が興味深いと思うことをしたい人生を生きてきました。私が充実していると思うことです。私がしてきた活動で非常にまともなお金を稼いできましたが、それは、より興味深いことをする、よりお金を稼ぐこととの道の分岐点が多数あったところです。
一部の人々のある種の恐怖に、私はいつもより興味深いことを選びます。
現在世界にはお金ではない多くの通貨があると思います。友達がいるかどうかのソーシャル通貨があり、名声通貨など、お金に関連しない多くのものがあります。
食べ物などを買うお金としてのお金は、通貨のものかもしれませんし、そうでないかもしれません。
一つの価値の保存があり、それがお金だという非常に概念は、経済について考える際にかなりうまくいった興味深い概念です。わかりません。
実際に理解しようと思っていることですが、まだ理解していません。
人々は時々お金で何でも買えると言いますが、今日の世界では実際には真実ではありません。
私が科学のものを理解することで行ったことなどは、その一部を本当に楽しい時間を過ごしました。どれだけお金を払っても、その経験をするのに役立ちません。
それにオンランプするために行うことができるものがありますが、それは本当にお金で買えるものではありません。
基本的な必需品に必要なものと存在する経済モデルにおいて、世界での価値が実際に何であるかのこの全体の質問は興味深い質問です。
私がした科学のいくつかは、経済について考える方法について多くのことを教え始めるように見えます。これは私たちがここで実際に深く掘ることができない非常に異なるトピックですが、私も理解していません。
5年前に開始されたこの物理学プロジェクトは、実際に去年、生物学と生物学的進化についてより多くを理解させ、機械学習についてより多くを理解させた物事について考えるための形式主義につながったということは非常に奇妙なことです。
私は経済についてそれが言う多くのことがあることをかなり確信していますが、それらが正確に何であるかはまだわかりません。
暗号通貨は本当に何かの価値があるのか、それとも食べ物を買うのに実用的ではないので実際には何の価値もないのかという質問に関連します。
したがって、それは実際には何の価値もありません。その議論は正しくないと思います。それは、その存在などに依存する物事の全体のネットワークがあるので、何かの価値があると思います。
それはまた、世界のすべての価値は家や食べ物などを持っているという事実だと言うことができることの例ですが、存在するように見えるこれらの他の種類の価値があります。
私は過去の時代に、十分な食べ物を食べることが世界の一部でまだ問題ですが、世界の多くの部分で、食べるのに十分な食べ物があることが問題ではないと感じます。
実際、問題は通常あまりにも多く食べることです。歴史の異なる時代に、それは大きなストレッチゴールだったでしょう。十分な食べ物を得ることです。
ヘンリー8世のすべての肖像画を見ると、彼は非常に太っています。それは成功の兆候でした。ほとんどの人々が十分な食べ物を食べることができなかった時代に、非常に太ることができるという成功の兆候でした。
将来人々は自分たちと何をするでしょうか？仕事は同じように見えるでしょうか？仕事は多く変わりました。産業革命前、仕事は今日の9時から5時の仕事のようなものには見えませんでした。
ほとんどの人々は自分たちのために働いていました。自分たちの使用のために作物を育てるなどです。その時物事が合理化され、中央集権化され、現在は人々がより自分たちのために働くようなことが少しより多くあります。
より多くの人がより多くの異なることをしているのに気づきました。データを本当に持っていませんが、何をしているかと言うと、まあ、私はこれです、それが私の日中の仕事ですが、それからポッドキャスティングをして、それから競技自転車レースか何かをして、それから何でもします。
人々が持っている個々の生活でさえ、経済が多くの異なる仕事カテゴリに分裂することから独立して、人々は彼らがすることでより多くのトラックを持つことになっています。
それが可能である理由の一部は、それらのトラックに入るコストが下がったからかもしれません。例えばポッドキャスティングを取ります。世界に物事を放送するような人になりたい場合、このスタック全体を構築し、ラジオ局で働くなどしなければなりませんでした。
しかし技術のために、ポッドキャスティング事業に入るコストが大幅に下がりました。だからギグとしてそれを行うことができます。全人生にする必要がありません。
それはおそらく人々がいくつかの異なることをするトレンドだと推測します。
人々が全人生一つの仕事をする時期がありました。時々それはまだ素晴らしいことです。一つの場所で働くことができますが、することは完全に変わることができます。
しかし、私は機械の自動化されることについてよりも選択についてのより多くの分裂のこのアイデアを種類だと思います。機械がされることが自動化されるということは、より多くの選択があることを意味し、多分それはより多くの種類の仕事と個々の人々によってされるより多くの仕事の両方で明らかです。
それが私の推測です。私が言ったように、カウチポテトとして座り回ることを選択する可能性があり、多分社会のセグメントがそれを行い、今日の私たちの観点からは、1兆のアップロードされた魂が悪い結果に見えたのと同様に、かなり悪い結果に見えるでしょう。
私にとって、私は非常に良いカウチポテトではありません。テレビを見ない、ゲームをしない、たくさんの人が絶対に充実していて興味深いと思うものは私が個人的にたまたま興味深いと思わないものがありますが、他の人はそれらのものを絶対に充実していて興味深いと思います。
私の特別な興味について他の人のものよりも何らかの方法でより素晴らしいという主張はしないでしょう。それは私が興味を持っているものの詳細です。
より多くが自動化されると、私たちそれぞれが私たちの特別な興味と気まぐれで、機械的なものをしなければならない量が非常に大きかったので以前は不可能だった方法でそれらのことを追求することができるようになると思います。
ポッドキャスティングは今日存在する自動化のレベルなしには行うことができなかったものの本当に良い例です。
それは多分過度に楽観的な物事の見方ですが、私たちはすべて異なる興味と目的と気にかけることなどで鍛造されています。
それは私たちの経験とともに遺伝学と生理学の混合である非常に任意のことです。しかし、私たちは皆、したいことがあることにおいて、この立場にいます。
より多くが自動化されるように世界がより私たちがしたいことをできるようによりエルゴノミックになることに関する議論をすることができます。
言い換えれば、過去には、私たちはこれとこれとこれをしたいことがありましたが、いやあ、それをできるようになることは決してないでしょう。あまりにも困難だからです。
しかし、より多くがより簡単になると、私がしたいこれとこれとこれがあります。まあ、良い。今実際にそれをすることができます。
私の人生の話は、本当にしたかったことが、それらのことを到達可能にする自動化の大きな塔を構築したということです。それなしには、これらのことをできるようになることはなかったでしょう。
最近でも実際に、している科学で特に多様なことを多く行っており、構築した技術塔とある量の科学的知識がなければ、それは私が蓄積したもので、すべてのそれらの異なる領域を横断することは完全に考えられないでしょう。
クレイジーです。ある月に生物学について何かを書き、別の月に機械学習について、別の月に数学の基礎について書くことはできません。
多くのものを自動化したから可能になりました。
それがあなたと話しているように、これが実際に私が思う絵だと気づいています。私たちはすべてしたい多くのことがあり、それらのもののほとんどへの参入障壁は私たちが実際にそれらをするのにあまりにも高かったということです。
より多くが自動化されると、私たちはそれらをできるようになるでしょう。今、それに対して何を得るかという点で何でしょうか？お金を得るかもしれません。他の種類の通貨を得るかもしれません。内部の充実感を得るかもしれません。おそらくそれ自身の通貨、個人的な通貨です。
食べ物をテーブルに置くことがストレッチでなくなったのと同様に、時間が経つにつれて。特定の種類のもので、消費者電子機器のように、実用的なレベルで考える人として、私は人生で選択をするなどで、まあ良い、私はこれをすることができ、それをしてお金を稼ぐでしょう。
非常に実用的なレベルで、このレベルのお金でそのレベルのお金で何をすることができるかについて考えました。
それは興味深いです。異なるレベルで何が可能かの異なるレベルがあります。幸運なことに、家賃の支払いをするタイプのレベルを扱っていませんが、それでもそれは一種の興味深いです。
ヨットを買うお金を得ることができることがあるのレベルがありますが、私は気にしません。それは私が興味を持っていることではありません。
私がすることの多くの例では、それはお金の質問ではありません。それをできるようになることは、直接お金ではない他の種類のものの質問です。
アメリカのために、人々が気にするのをやめて、ただしたいことを追求することができる人が作るべき正しいお金の量は何だと思いますか？
興味深い質問です。わかりません。1950年代頃の白いピケット柵などの小さな家のイメージがあったと思います。それが人々が普通に欲しがるもののイメージでした。
時々それは複雑な、欲しがることに注意してくださいということです。私の主な家は何年も前に建てた本当に大きな素晴らしい家ですが、子供たちはみんな引っ越し、今それはちょっと大きすぎて大きな首の痛みです。
だから時々それは複雑です。
私にとって、レベルによって数字はわかりません。私にとって、私は数百万ドルを燃やすプロジェクトをするかもしれません。そのプロジェクトはうまくいかないかもしれません。
でも誰かが「これは1億ドルかかるプロジェクトです」と言ったら、「それはできません」と言います。
私が興味を持っていることをすることは、それらをするために持っている資源によって多少滴定されています。
ロケットを建設してマスに行くなど、非常に高価な努力に興味がないとたまたまです。
この物理学プロジェクトで、1億ドルかかる物理学実験をすることに突然本当に興味を持つかもしれません。その時何が起こりますか？
その時、それらの道筋を追求するためだけにお金を稼ぐことをより気にかけるようになりますか？
わかりません。その特定のケースでは面白い状況だと思います。なぜなら私にとって、私たちが持つこの物理学理論が正しいことを十分確信しているので、実験が起こるのを見ることはクールでしょうが、ほとんど「良い世界、今あなたは私を信じることができる」タイプのことで、私があまり気にしないことです。
だからその場合、まあ、これをすることができると思います。1億ドルかかるでしょう。する価値があると思います。
私が正しいかどうかを見つけることを気にするなら、それをしてください。私の金銭ではありません。しかし、心を変えるかもしれません。
私がする科学は、ほとんどあまり高価ではありません。私を助ける人々などで、一定の金額がかかりますが、理論科学はあまりひどく高価ではありません。
実際、時々これらの物事は大きすぎることによって自分自身を負かします。言い換えれば、この小さな数の人々が何かに激しく働いていて、起こっていることに多くの柔軟性があるなら、実際、私は千人にこれに働いてもらうつもりだと言います。
必要な構造で終わります。そうでなければ、それは全くの混乱になります。構造があります。その構造は可能になる柔軟性と革新のレベルを減らし、それから革新的な部分と実際に物事を成し遂げる機械的な部分を一緒に切り出す複雑な管理問題です。
私は生活費データを見て、何について意味のあることを言うために悪いです。いくつかの食料品アイテムがいくらかかるかなどについてクイズを始めたら、私を当惑させるでしょう。わかりません。
みんなのために、ペニーを本当に気にしないタイプのレベルがあると思います。そのセットポイントがどこにあるかは、あなたがどのように人生を導くかについての多くのことに依存します。
ほとんどの人がもう十分なお金があって、もっと必要ないと言う時はいつでしょうか？
それは決して起こりません。なぜなら人々がその希少なものを得るためにより多くのお金を稼ぎたいと言う希少なものが常にあるからです。
私にとって、例えば、私はしたいことをすることができる立場に一般的にいることができて幸運でした。したいことをするための資源があります。
今、多分私は自分をだましています。なぜなら本当に、もしより多くの資源があったら、できる多くのより多くのことを考えるでしょう。そうは思いません。
あなたが見る多くのことがあります。私はそれをするのに十分なお金がないからそれをできないと人々が言うのを覚えています。
時々それは真実ですが、多くの場合、それは真実ではありません。多くの場合、それをすることを決めることで、それをする方法があり、お金とは本当に関係がありません。
それはただの言い訳です。そのことをする主導権を本当に持っていない言い訳です。ああ、もしより多くのお金があったら、人生がより快適になり、そのことをする主導権を得るでしょう。
それが一部の人々にとってそのように起こるかもしれません。
私たちの会社が特によくやった時があり、基礎科学により多くの努力を入れた時と相関する時が少なくとも一つあります。私にとって、それは本当に因果関係ではありませんでしたが、多分それは心理的な関係があったかもしれません。
技術開発にそれほど多くの努力を入れる必要がない、なぜなら最近それで本当によくやったので、それが私をより多くの基礎科学に努力を入れることに傾けます。わかりません。
しかし、内部からでも、正確に何があなたを異なる種類の動機に導いているかを言うのは困難です。
私は人々が「ああ、私はより多くのお金が必要だからそれをできない」と説明する多くのケースを見てきました。それはただ真実ではありません。それは主導権の問題です。
何年も前に魅力的なケースがありました。私は一種のCEOカウンセリングと会社にアドバイスすることなどの趣味があります。私はまた子供をメンタリングすることにいつも興味を見つけてきました。
ある時点で、私がその両方のカテゴリ、子供のカテゴリとCEOのカテゴリを見つけたことに気づきました。それらは何でも可能だと信じるタイプの人々です。
何でも可能だと信じない多くの他の人々がいます。彼らは私たちがいるこの特定のトラックに立ち往生している感じです。
しかし、それらの二つは何でも可能という感じがあり、私はたまたまこれを持っています。私は人生を効率的にしようとし、ここからそこまで運転している時、電話をかけるなどしています。
一人の子供との電話があり、それから一人のCEOがあり、子供は十分なお金がないなどでこれやあれをできないと説明していました。
私が話そうとしていたCEOは会社を売って約5000万ドルを稼ごうとしていました。
私はこの子供に言いました、次の電話でする、この人は、すでにいくつかの問題が何であるかを知っていたので、彼らができないこれとそれとその他のことを私に言おうとしています。
彼らは明らかにお金は彼らの問題ではないと言いました。だから彼らがこれらのことをできない理由は、子供が言っていたように十分なお金がないからではなく、それをすることに自信を感じない、それをする主導権がないなどの何か他の内部の種類のブロックのためです。
この子供は私にそれが有用な会話だったと言い、彼が考えていたことをして、それはかなりうまくいきました。
しかし、それは興味深いことでした。わかりません。質問に答えていません。
AIからUBIをみんなに配布できるなら、世界はより良い場所になるでしょうか？疑います。
人々が行った実験は、ベースレベルをリセットして、みんながこれを持っている状況で、それでも人々は欠乏を求めるなどしようとすると思います。一部の人々は欠乏を求めようとし、一部の人々は負のお金の価値の話のようなものです。
私はいつも正のお金の価値と負のお金の価値があることに気づきます。負のお金の価値で多くの方法で噛まれた多くの人々を知っています。
たくさんのお金を相続しました。人生で何をすることになっているかなどです。お金のポットがあり、そうでなければ友達になるだろう人々がそれについて死ぬまで議論しているなど、お金のポットがなかったら、彼らはただ互いに幸せに友達でいるでしょう。
これらすべての異なるシナリオがあります。それは複雑です。お金で何でも買えるとは思わないのと同様に、システムにある量のお金を注入することがすべてを解決するとは思いません。
しかし、これは私の通常から遠く離れています。これは世界の常識的な観察者としての私です。
AIがより簡単に物事をできるようにするということは、人々が異なるスキル、人々が異なる興味を持っているということも言うと思います。
人が住んでいる歴史の期間で幸運または不幸になることができます。例えば、私はコンピュータが使えるもの、していることの多くにとって良い適合であるような時代にいたことで自分を幸運だと考えます。
地球の表面を探索することに夢中だったら、すべての写真を撮った衛星があるので、歴史の間違った時に住んでいたでしょう。
あなたが知的で、アイデアについて本当に考えたい場合、申し訳ありませんが、食べ物を得るために畑を耕すか、世界が崩壊しないように軍隊で戦わなければならない歴史の時があったと思います。
少なくとも多かれ少なかれ私がいたすべての場所で平和時にいる場所にいる時に住む幸運がありました。
テクニーなタイプの人で、ビジネスで物事をしていた時があり、ああ、あなたはただのテクニー、後ろの部屋にいると言われていました。そして、ある時点で、テクニー、オタクが引き継いだと言えます。それからテクニーでビジネスをするのはかなりクールなことでした。
あなたは、本当にビジネスでショットを呼びたいテクニーであることに非常にイライラでき、みんながあなたに「いいえ、いいえ、プロの管理者がそのタイプのことをするでしょう」と言っています。
これから来ることは、思考が好きなら、これがあなたのための時だと思います。アイデアを持つことなどが好きなら、これがあなたのための時です。
物事を行う機械的なことが好きなら、多分それはあなたのための時間が少ないかもしれません。より機械的なものが自動化され、より自動化されるでしょう。
それが人々が教育で学ぶことに関連すると思います。過去100年ほどの教育の多くは、物事を行う機械について多くでした。
それは物事について広く考えることができるために知る必要がある事実を学ぶこと、そして物事について広く考える方法を学ぶことについてより多くあるべきです。
しかし、それは私たちが持つ傾向があった教育の産業化された形式ではありませんでした。それはますます重要になると疑います。
物事について考える方法と、この種の形式化された物事について考える方法としての計算的思考として、哲学の極端のようなものが学ぶ価値のある思考の二つの良い形式だと思う傾向があります。
それらは多くの機械が自動化された来るべき世界で、人々ができることにとって非常に重要になるものです。
そして、それらのことをするのが好きなら、今はあなたのための時です。
来ているもののこのアイデアと物事が自動化されることに基づいて、私たちは現在、プロンプトを立てることができ、通常週や月や年さえかかったであろうソフトウェアを分以内に作成できるソフトウェアの世界に入っています。
RepletやWindsurfなど、アプリを作成し、ウェブサイトを作成できるプログラムが現在あります。ソフトウェアを作成するこのアイデアは、人々は商品になりつつあると言っており、YouTubeやSpotifyで配布する世界中で配布し、公開するポッドキャストを公開できるシームレスな方法と似たような、アプリストアでアプリを公開できるようになるこの世界を見ることができます。
これはYouTubeがアプリストアに出会うようなこのハイブリッドで、人々は言っています。そうは思いません。
ソフトウェアを自動化するこの全体のビジネスは、私が過去4十年間してきたことです。Wolfram言語を使う人々は、アイデアから実行するものまで驚くほど短い時間で行きます。
手動労働ソフトウェア開発をしている人々の全体の生態系があるという事実は、ただ奇妙です。労働の経済学、技術が開発された方法の束のために起こりました。
しかし、事実は、それは多くの倍、仕様を得て、仕様を実装するのに二週間を費やすと言うことです。
会社で面白いことを見ることが多いのは、それらを運営する人々、CTO、CEOなどが実際に私たちの技術を使い、非常に短時間で物事のプロトタイプを構築し、それから次にしたいことを理解し、それも構築することです。
しかし、現在ソフトウェアエンジニアリングの塹壕にいる人々は、「まあ、私たちはちょうど仕様を得ました。その仕様に構築します」と言います。
私たちの技術でずっと速くそれを行うことができるなら、彼らは「まあ、今私はすることが非常に困難なことがあります。新しい仕様を作らなければなりません。それは私の仕事ではありません。私の仕事はコードを挽き出すことです」と言います。
はい、これは機械的なものが自動化されているところの例です。
私はその特定のものをよく知っています。なぜなら、その一つの自動化を行うのに過去4十年間を費やしたからです。
自然言語記述からコードに行くことができるという事実は、私たちのテキストスタックに非常によく合うものです。
しかし、その一部は、とにかく私たちの言語で一つの関数であるPythonコードのブロブを書くことができます。
それを書いていないでしょう。しかし、AIはそれを書くことができます。しかし、ソフトウェアのようなものについて理解することは、この会話で話してきたことと非常に関係があります。
指をパチンと鳴らして、アプリがあると言います。そのアプリは何をすることになっているでしょうか？それが何をするかを記述しなければならず、それは選択をするということです。
そして何をするかの記述は、価値があるものです。多くのことの機械ではありません。
私たちのテキストスタックで、例えば、それを使うすべての人々にとって、多くのことを行う機械の種類は、何年も前にゼロアウトされました。それらは多くの種類の開発と科学などでより遠くに行くことができることを意味しているので素晴らしいです。
しかし、それは良い、私にアプリを作って、そのアプリは何をすることになっているでしょうか？アプリが何をすることになっているかを概念化しなければなりません。
それから、まあ、どのようにそれを構築するつもりかなどを掘り始めます。
だから、それは私が話してきたことの本当に良い例です。つまり、人間の行為になるのは、それに何をしてもらいたいかです。
その特定のケースで、私は過去4十年間、その自動化をしようとして過ごしました。AIはその自動化の別のレベルを追加しますが、アプリが何をすることになっているかを決めなければならないところは通り抜けません。
どこかでアプリが何をすることになっているかを決めなければなりません。
それでも、ポッドキャストが大幅に増加したのと同様に、ソフトウェアの供給を大幅に増加させないでしょうか？その場合、ソフトウェアが困難で、今簡単で、これまで以上に多くの供給があるなら、あなたがアドバイスしているソフトウェア起業家の堀は何でしょうか？
まあ、それは何をするかの質問です。私の人生でしたことで、おそらく最も価値の高いものは、私たちの計算言語の設計だと思います。
実装、確かにそれは価値があり、それを行うのに膨大な金額がかかり、人々は毎日いつも使用します。しかし、私にとって、本当に最も価値の高いのは、言語の機能設計に多くの努力を費やしたことです。
実際、私たちの多くのソフトウェア設計会議をライブストリームしています。だから、それを行うことに実際に関わっていることの1000時間がわからないものが世界に出ています。それは実際に非常に興味深い知的活動です。
ある意味では、その仕様を取って、それを再実装することができます。頑張って。
様々な種類の堀があると思います。このソーシャルメディアプラットフォームがあり、すべてのあなたの友達がそれにいる堀があります。あなたもそれにいるべきです。
私たちが構築してきたこの種のユニークな知的財産があり、それが私たちが持つ主な塔です。例えば、私たちの技術スタックで、ソフトウェア開発を助けるために様々な形の機械学習とAIを長い間使用してきました。
私たちがしなければならないことの多くは、アルゴリズム間で選択するメタアルゴリズムを作ることで、それは長い間機械学習を使用してきたものです。
内部で起こっていることの戦略は、多くの人間の選択で、ゼロアウトすることはまだありません。
私の会社は生産したものに比べて本当に小さな約800人だと思います。ソフトウェアの量に比べて、どのようにそれが可能だったでしょうか？私たちは物事を自動化したからです。
私たちは、私たちが自動化することができた最後のもののために再帰的により多くできるこの塔を構築してきました。
興味深い質問だと思います。可能なソフトウェアの空間はどうでしょう？計算宇宙で研究してきたこれらの小さなプログラムのようなものです。
すべては、ある意味でソフトウェアの一部です。すべては何かをします。そのほとんどは誰も気にしないものです。それらのいくつかは本当にきれいな写真を作ります。
いくつかは良い暗号システムを作ります。いくつかは良い画像処理フィルターを作ります。それらは私たちがそこにあるものを採掘し、有用だと思うものに変えることができたものです。
しかし、それに向かう主要な部分は、それに何をしてもらいたいかでなければなりません。何を欲しがるものですか？
人々の活動が広がると、ソフトウェアに人々がすることを望むより広い集合があるでしょうか？
例えば、ポッドキャスティングを再び取ります。ポッドキャスティングが存在するまで存在する必要がなかったポッドキャスティングの周りの多くのソフトウェアがあります。
拡張機会の観点からそれが私がいつも見るものです。私は技術の観点からは、地平線上に来る技術があり、地平線の終わりにしっかりと座っているが何度もほぼ地平線上に来たもので、VRまたは一般的にXRのようなものがあります。
いつかそれは本当に地平線上に来て、それは私の環境に置くバーチャル付箋の管理方法やその他何でも知っているように、多くの新しいものを可能にするでしょう。
そのためのアプリがあるでしょう。技術の一般的な潮流が上昇すると、私たちは今、特定の方向に何をするつもりか、私たち人間が次のステップとして選ぶことを理解しなければならないより多くのものが始まります。
それは非常にAIの話と同じ話だと思います。より多くが可能になり、より多くが自動化されます。今、私たちが行いたい次のステップとして何を人間が選ぶかという質問です。
次のステップについて話すと、行く必要があり、それは聞いている人がその質問、私たちは何をすることになっているかを尋ねる素晴らしい終了の質問だと思います。
Stephen、ショーに戻ってきてくれてありがとうございます。これはいつものように知的に興味深く、考えさせられる会話でした。
それが気にかけることなら、人々がオンラインであなたを見つけることができる場所はどこでしょうか？
わかりません。stephenwolfram.comが始めるのに良い場所です。そしてそれには、通常のソーシャルメディアプラットフォームですべて私を見つけることもできます。
私はポッドキャストだと思うものをしています。週に二回、質問に答えるなどのライブストリームをしています。
美しい。人々が私を見つけることができる場所です。
美しい。とにかく、Stephenありがとうございます。
たくさんの興味深い質問をありがとうございました。それは楽しかったです。
コメント