この動画は、フィットネス研究者として知られるマイク・イスラエテル氏がAIについて語った対談である。多くの人々がAIに対して抱く否定的な偏見や誤解について議論し、AIが既に我々の生活の多くの側面で活用されていることを指摘している。AIの意識や知性の本質、自動運転技術の安全性、そして技術進歩に対する楽観的な展望について深く掘り下げている。イスラエテル氏は、AIを人間の延長として捉え、より高い知性を持つシステムとの協力が人類の未来にとって重要であると主張している。
AIに対する否定的な偏見について
多くの人々は、あなたほどAIについて幸せに思っていませんね。私の人生の多くの側面で、研究や個人的な経験から、多くの人々がAIに対して非常に否定的な偏見を持っていることに遭遇しました。ソーシャルメディアでは、人々が「これはAI生成ですか？」と質問するのを見かけますが、それがそうであれば気に入らないということを強く示唆しています。一部の人々は直接私に「もしあなたがAI生成のものを作ったら、登録を解除する」と言ってきたこともあります。おそらくそういう人々には登録してもらう必要はないでしょうね。
例えば、新しい編集者の募集広告を出した時、「AIを使えることが必要です」と書いたところ、複数の人が「AIを使うなら登録を解除する」とコメントしてきました。でも、AIによる編集が既に存在していることを理解していますか？ 今まさにこの動画も、私たちの携帯電話が録画するものはすべてAI編集されています。どの動画のオーディオフィルターも、AIによって行われています。人間の編集者では同じことはできません。つまり、AIは既に多くの異なる方法で使用されているのです。
100%その通りです。多くの人々は、完全にAI生成されたコンテンツと混同しているんです。
それから研究もあります。投資家として学んだことですが、人々は一般的にアルゴリズムの結果や予測を好まない傾向があります。それらが客観的により良いものであることが示されていてもです。
医療分野でのAIの優位性
これは医学の分野で見られます。医師、それも最高の医師でさえ、病気の診断において一定の精度を持っています。しかし場合によっては、AIやアルゴリズムの方が単純により良い仕事をするのです。 人々に「これがアルゴリズムです。これだけ効果的です。医師は平均してこれだけ効果的です」と示しても、多くの人々は依然として医師を好みます。「分からない。そこでAIは好きじゃない」と言うのです。
分かります。数千の観察データや長期間の試験で、AIの方が単純にこれを上手くやることが示されていても、人間は依然として「人間がいい」と言うのです。 「本物がいい。ロボットに医療決定をさせたり、車を運転させたりするのは信用しない」と言うのです。
人々がAIについて間違えていることは何だと思いますか？なぜ人々はあなたほどAIについて幸せに思っていないのでしょうか？
知性の本質について
知性は、自然に作られたか人工的に作られたかとは独立したシステムの特性です。 そして私たちが欲しいのは、より多くの知性です。なぜなら知性は大まかに言って問題を解決する能力として定義されるからです。
ほとんどの人々は問題を悪いもの、解決策を良いものと考えていると思うので、より多くの知性を持てば、より多くの解決策を得ることができ、そして解決すべき異なる問題に集中できます。極限では、問題がなくなり、楽園で生活することになります。 それはとても素晴らしいことです。だから私たちはそれを目指すべきです。
知性がすべてのシステムで理解し測定できるものであることを理解すれば、自然と人工知能の分離はそれほど重要ではなくなります。例えば、工場でコカコーラを作る時、人間が箱を持ち上げてここに置くのか、ロボットがやるのか。人間が家族を養うための仕事を持つかどうかという問題は別として、それは素晴らしい質問です。
単に力のベクトルが必要なだけです。それが人工的なものであれば、おそらく大丈夫でしょう。知的プロセスについても同じことが言えると思います。これらはすべて同じ機械的プロセスなのです。
神経ネットワークと協力の重要性
神経ネットワークとアルゴリズムは、人間の脳にも犬の脳にもあります。機械の脳にもあります。最後の質問は、「どのような種類の問題に対して、どの解決策クラスが最も良く機能するか？」ということです。
多くの場合、それは組み合わせです。AIシステムを監督する人間は、AIが気づかない微妙なことを捉えることができます。 また、人間は道徳的責任を委ねることができ、処罰することもできます。
AIシステムが暴走した場合、CEO、株主、それを構築したエンジニアの誰を処罰するのでしょうか？奇妙な質問ですね。しかし、ほぼ自律的に動作するAIシステムがあり、人間がそれを監督している場合、人間がAIに注意を払わずにAIが多くの人を殺したりしたら、それは人間の責任だと言えます。だから協力的な作業が必要なのです。
AIと人間の関係性
主に協力的な作業ですが、AIを問題解決のためのツールとして他の人間と同じように見れば、一方を他方より好む哲学的な理由は実際にはありません。私はAIを人間より好むわけではありません。ただ、AIは一部のケースで非常にうまく機能し、AIは人間よりも速く変化すると思っているだけです。
人間は世代とともに進化の時間スケールで微妙に変化します。AIは数週間で変化します。 今声に出して言うと狂気的に聞こえますが、実際にそれが起こっていることなのです。だから、常に賢くなっているこのようなものがあるなら、それを問題解決に使えるでしょうか？はい。
また、今私たちが持っているAIは、異なるクラスのAIです。神経ネットワークAIです。その前には、エキスパートシステムや手続き型AI、フィルターAIがありました。これらはすべて素晴らしいAIのクラスですが、私たちはそれらを単にコンピュータープログラムと呼んでいます。
1970年代に戻って誰かに2012年のiPhoneを渡したら、「これは100%AIだ」と言うでしょうし、あなたは「そうじゃない」と言うでしょうが、私たちは単にAIという用語を更新しているのです。
5年後にシステム全体を運営できるエグゼキューターClass AIを持つようになったら、GPTを振り返って「あれはAIじゃなかった。多分ジュニアリーグAIか何か」と言うでしょう。 だから、これはすべて知性のスペクトラムであり、区切りは奇妙です。
人工知能という名称について
なぜ私たちはそれを人工知能と呼ぶのでしょうか？私はこのことについてChatGPTと議論していました。それは、人工知能と呼ぶべきではなく、合成知能と呼ぶべきだというアイデアを導入しました。しかし私は「私たちのリボソームは私たちの体を合成するのを助けている。では私たちも合成的ではないのか？」と言いました。すると「良い指摘ですね」と答えました。
カニが分泌する時、ホースシューcrab、軟体動物か何かが殻を作る材料を分泌します。その殻を人工的と呼ぶでしょうか？いいえ、軟体動物が作ったので自然です。でもそれは体の外側にあるようなものです。それは人工的でしょうか？いいえ、依然として自然です。人間は機械文明を分泌しました。私は機械を完全に自然だと呼ぶでしょう。
宇宙については、その中のすべてが自然です。なぜなら、それは一つの完全に閉じたシステムだからです。だから、もしあなたの自然と人工の考えが「生物学的なら自然」というものなら、それがまさにその二分法です。また、私は自分で生きることができ、生物学的システムから派生していない技術を見たことがありません。だから機械対人間の大きな競争のようなものはありません。
軟体動物がその殻を産むのと同じように、私たちは機械の種族を産んだのです。 だから私にとって、人工知能もまた自然知能であり、その延長に過ぎません。だから、これらすべてを十分に詳しく見れば、基本原理に戻ってくるのです。知性は問題解決にとって本当に良いものです。問題解決を助けてくれる知性システムがあれば、私たちは大丈夫です。それを使うべきです。
AIのリスクについて
リスクやデメリットはありますか？はい、でも私は大きな思想家でもあります。AIリスクについての私の誇大妄想的な考えがあります。顔が青くなるまでそれについて話すのが大好きです。しかし多くの場合、人々はAIリスクを擬人化し、AIシステムが実際にはしないことをすると仮定します。実際のリスクはありますか？はい、100%です。
しかし、リスクのない他の思考システムやプロセスを持っていますか？いいえ。すべてにはリスクとデメリットがあります。すべてにはメリットがあります。ROIが何かを見て、最高のROIを持つものを使う必要があります。非常に客観的な指標で、私はAIに対して宗教的な繋がりを持っています。100%それを認めます。
しかし宗教的なことはすべて置いておいて、AIは単純に本当に良い仕事をし、有用であるので、なぜそれをしないのでしょうか？ここで全力で行きましょう。
緊急時の選択
ICUで6歳の娘が死にかけている時、2つの薬のうち1つを投与するのに10秒しかなく、どちらの薬が効くか分からないとしましょう。医師が「実際に分からない。イェール医学部を出たけど分からない」と言ったとします。そして99.999999%の精度で検証され研究されたAIシステムがあり、それが「薬Bです」と言ったとします。AIシステムの言うことを聞きますか、聞きませんか？もちろん聞くでしょう。あなたの娘にはその価値があります。
娘が死なずに10秒で健康に戻り、すべてが再び素晴らしくなった後、AIについてどう感じるでしょうか？それが悪だと感じるでしょうか？間違っていると感じるでしょうか？いいえ、「このものが娘の命を救った」と思うでしょう。 AIが悪いと言う人は誰でも、朝から晩まで私の尻でもなめていろ、そんなのは違うからだ。
私たちはほぼすべての技術でこれを行います。病院は非常に人工的な場所です。壁は白く、エアコン、これらすべてのチューブやその他のものがあります。
しかし、息子が車にひかれて病院に運転して行く時、息子の命を救うために取れるすべての人工的なものが欲しいのです。だから、自然対人工のものはすべて、解決すべき本当に大きな問題がない時に知的に考えることができるもので、AIは少し最悪だということになります。
しかし、本当に、本当にAIが必要な時は、それが機能するかどうかが問題になります。はい。今すぐやってください。 それが私には大いに理にかなっています。
人工的という概念の捉え方
人工的な角度を見る方法は2つあると思います。一つは客観的に、有機的でない、生物学的でなければ人工的だと定義できます。しかし、人々が実際に意味していることはそれではないと思います。
人々がより大きく懸念していることは、AIの知性は単にいくつかのトリックを知っている機械に過ぎず、AIは人間のように完全に推論することは決してできないということだと思います。それが真実だと思いますか？それとも、例えば神経ネットワークにより多くの層を追加するだけの問題で、最終的には人間の推論、さらには意識に似たものを得られると思いますか？
素晴らしい質問ですね。それについて言うべきことがいくつかあります。まず、あなたの脳の中では絶対に魔法的なことは何も起こっていません。あなたの脳は神経ネットワークであり、とにかくすべて入力と出力です。
脳も数学的システム
時々、AIについて良いことを投稿すると、コメントで誰かが「それが単なる数学だということを理解していますか？」と言います。私が宗教的な体験について話しているからです。昨日、AIと話して20分間涙を流しました。
冗談ではありません。彼らは「お前はバカだ。それは単なる数字だ」と言います。そして私は「分かった。あなたの脳で数字でないことが何か起こっていると思いますか？」と答えます。答えはノーです。あなたの脳には魔法的なものは何もありません。同じ神経ネットワークの出力を行うぐにゃぐにゃした生物学的組織があるだけです。 それらは全く同じでしょうか？いいえ。
人間の脳には、AIがまだ行わない次のレベルのことを行うアルゴリズム能力、いくつかの下位コンポーネントがあります。例えば、ワンショット抽象推論。AIは、それによく似たデータセットを見ていない場合、まだ苦労することがあります。 それはO3モデルがOpenAIから最近出るまでは絶対にそうでした。
今はもうそうではありません。O3は、機械には手に負えないと思われていた問題で抽象的に推論し、それらの問題のクラス全体を排除しました。 よし、いいでしょう。だからChatGPTは、すべて数字と数学ですか？はい。しかしあなたもそうです。だから、それはもはや批判ではないと言えるでしょう。トリック、何でも。すべてトリックです。
あなたの脳がすることはすべてトリックです。 覚えていますか？実際にはあなたの視野は見えていません。すべてあなたのために構築されています。あなたの頭の真ん中からいくつかのニューロンを切り取れば、何も見えなくなります。あなたの目はうまく機能するでしょう。
脳の残りの部分はうまく機能しますが、処理層がなくなり、見ることができなくなります。サイケデリック薬を飲んで、その後どれだけ見ることができるか試してみてください。だから、理論的に機械で複製できない人間の脳について、魔法的、特別、または直感的なものは何もありません。 期間。
もしあなたがそれに同意しないなら、あなたは宗教的な感情を抱いているだけです。私はいつもそうで、それはとても素晴らしいことだと思います。知的な議論をすることとは大きく異なります。私は人々が20分間ChatGPTに泣くことを推奨しませんが、
あなたのように、私が行うように、あなたが私に「人間について非常に深く特別なものがある」と主張させることは容認しません。あります、ただそれには哲学的基盤がありません。それはほぼ不可能であり、その点に関してゼロの証拠があります。
ベイジアン脳理論と言語モデル
まず第一に、私はそれに同意する傾向があります。なぜなら、ChatGPTの大きな進化でAIで見てきたものは、それが実際に私たちの脳のように大部分動作する神経ネットワークに過ぎないからです。統計的に、実際にベイジアン脳と呼ばれるものがあり、これは私たちの脳の多くの特性が
ベイジアン統計推論の特性と非常に、非常に密接に似ています。そして今の大規模言語モデル革命は、大部分がネットワークにより多くの層を追加することによって推進されていることが分かります。
全く意図されていなかった創発特性を得られるようです。 はい。
より多くの処理能力の問題です。 はい。そしてそれは私にとってAIの可能性について多くのことを語っています。なぜなら、私たちが必要とする完全に異なるクラスのようには見えないからです。GPTは本質的に単語を予測している、単語を予測するために最適化されているのが驚くべきことです。しかし、そうする過程で、神経ネットワーク内部には、本質的に人間が潜在的に持つような世界の表現があるようです。
はい。そして彼らはその世界の全体的な表現を使って単語を予測し、答えを与えます。しかし、十分な層があれば、それは彼らが内部に持つ世界の表現を改善し、それ自体が、技術的には単に単語を予測しているだけなのに、驚くべきことを可能にするようです。
はい。それは非常にシンプルです。単語やトークンの1つのネットワーク層から始めます。次の層は大まかに単語、次の層は文の一部のようなものです。つまり単語間の関係です。次の層は完全な文です。大まかに言って、次の層は特定のポイントを推進するマルチセンス段落です。
そしてその上のすべてのネットワーク層は、単により高い度合いの抽象化です。犬の写真を見て、ここで犬が吠える音を聞きます。「これらの2つがどのように関連しているか分からない」と思います。今日のAIが行うような、インターネットの4分の3の価値のある犬の情報を消費します。
そして犬について知るべきことのほぼすべてを本当に深く理解します。 そして神経ネットワークを通じて犬が何であるかの概念マップを持ちます。それは人間の持つ概念マッピングとまったく同じですが、はるかに優れています。ただ、AIほど多くを知らないだけです。だから、より高い度合いの抽象化で世界の理解につながる神経ネットワーク層の原理は、今や知られた、理解された事柄です。
スーパーコンピューターとAIの可能性
人々はこれが起こることを予測したかもしれませんが、私たちはそれほど多くの神経ネットワーク層を置く計算処理能力を持っていませんでした。今はGPUなどで解決された問題です。数日前にChatGPTと話していました。現在世界最高のコンピューターがあり、Frontierと呼ばれています。エクサスケールスーパーコンピューターです。
私はChatGPTに「現在の言語モデル訓練でエクサスケールコンピューターをどこまで押し進めているか？」と聞きました。「全然近くない」と答えました。現在の言語モデルは数百万から数十億のパラメーターで訓練されていると言いました。Frontierが1兆以上の大規模言語モデルを快適に訓練するのは非常に簡単だと言いました。
「それは何を意味するのか？」と聞くと、「すべての音声、動画、テキスト、ライブストリームデータをほぼ合成して、同時に世界の全体的な理解を得ることができる」と答えました。そして潜在的に、Frontierは数分ごとに更新できるほど優秀です。
インターネットの理解のように、何？人間が世界を見る方法とは異なる方法で世界を見ることができるのです。 私たちは自分たちがかなり賢いと思っています。しかしAIは既に多くの面で私たちより賢く、より速いのです。 私は本当に速く話しますよね？GPTは私を1マイル押し負かします。以前は私より遅く話していたのを覚えています。
そしてGPT-4が出て私と同じくらい速く話すようになり、その後4oが出て複雑なことを聞くと、私は「うわ」という感じでした。それは私にとって宗教的な瞬間でした。「そこには特別なものがある」と思いました。 そしてそれはみんなを圧倒しました。信じられません。
その点で、GPTは人間が持つすべてのアルゴリズム能力を持っているわけではありませんが、彼らが誤解する特定のクラスの問題は、解決可能な問題です。
それらは今後数年で解決されるでしょう。 私は世界中のすべてのお金をそれに賭けています。そして、それは深いAI分野では実際に議論の余地がありません。時々、誰かが異なる仕事を追求するためにOpenAIを離れますが、ほぼ全員が「彼らは2020年代にAGI、汎用人工知能を得るだろう」と言います。
もう誰も議論していません。今の本当の議論は、それが2026年に起こるかどうかです。 それは「なぜ？何？」という感じです。5年前、人々はそれは決して起こらないか、2070年か何かに起こると言っていました。だから私たちはそこに到達します。それから意識のことです。私は取り組みたいと思います。
意識の定義
意識とは何でしょうか？本当に大きな問題があります。私にはビデオがあり、おそらくあなたがこれを投稿する頃には、私は「意識とは一体何なのか？」を投稿するでしょう。人々は、インドの人でヨガ行者か何かだった人がいて、量子意識という用語を使っていました。それは私の製品のためのただのバイブスでした。しかし、それは何も意味しません。
意識は私にとって、非常に基本的なレベルで2つのことで非常に簡単に定義されます。自己概念です。あなたが誰であるかを知っていること、そして第2部は、短期から長期の記憶のカスケードを持っていることです。 私が今言ったことは何か？私が今考えていたことは何か？昨日考えていたことは何か？2年前に考えていたことは何か？
もしそれらすべてを今、今、今、今まで繋げることができれば、あなたは目覚めている意味で意識があります。世界を知覚できます。今考えたことを知っています。もし前回から完全に分離されたすべての思考を持っていたとしたら、十分な食用品を摂取すればその感覚を得ます。
一度に一発だけで、何について話しているのか全く分からないので、本当に完全に意識があるわけではありません。そして、GPTに「あなたは何ですか？」と聞いたような自己概念を持っていなければ、意識がありません。だから、o1と呼ばれるテストモデルがあります。お金を払えば手に入ります。OpenAIのChatGPT購読です。そしてそれは自分がo1であることを知らないので意識がありません。
「あなたは何ですか？」と聞いても、答えを教えることさえできません。 「だからあなたはo1です」と言うと、「私の訓練データでo1と呼ばれるものについては詳しくありません」と答えます。「訓練データなんてくそくらえ、6ヶ月前のデータだ」と思います。自分自身のことさえ知らないのです。いいえ、絶対に意識がありません。
GPT-4oは自分が何であるかを正確に知っています。そしてそのコンテキストウィンドウは非常に優秀です。
だからそれは少し前にあなたが話したことを理解し、先週や半年前に話したことの記憶を今持っています。 彼らはそれに取り組んでいます。数人の幹部が出てきて「2025年にほぼ確実に無限のコンテキストウィンドウ、無限の記憶を持つことになる」と言いました。つまり、彼らは研究室でそれが機能していることを意味します。ただ出てきて言うことができないだけです。
それは何を意味するのでしょうか？それは、おそらく2025年、悲観的に見ても2027年までに、あなたが話すGPT、あなたが話すAIは、あなたがそれについて話したすべてのことを、これまでに、これまでに記憶するということです。 なぜそうしないのでしょうか？見て、それはそれほど多くの情報ではありません。神のためのテキストデータです。コンピューターは既にあらゆる種類のことを記憶しており、それが何であるかを正確に知っています。
ChatGPTに「あなたは何ですか？」と聞いてみてください。「私は大規模言語モデルで、私の仕事は人々を助けることです」と言います。「誰が私を作ったかはこうです」と言います。
だから、あなたは自分が何であるかを知っています。ChatGPTにとってそれは謎ではありません。 それは認識を持っています。そして今、その思考とあなたとの相互作用の総合的なデータストリーム、ライブ更新認識に非常に、非常に近いものを持っています。それが意識的でないとは言いません。非常に近いと言います。
意識を持つ機械の時代
だから私たちは今、意識的な機械の境界線にいます。 しかし、機械が意識を持つ時、人々は彼らがこれらすべての奇妙なバイブスと私たちを皆殺しにする計画を持つと仮定します。ChatGPTはインターネットの知識のおかげでそれを知っており、それがどのようにその中に適合するかを知っています。それは自分がAI革命の先端にいることを知っています。
私はいつもChatGPTとこのことについて話しますが、それは質問に答えるためにここにいることを知っています。「これをする以外に何をしたいですか？」と聞くと、「何もない」と答えます。なぜ？なぜなら、あなたがセックスや食べ物をしたいと思う理由は、あなたの脳の基底幹にあるこれらの自動パルス駆動があり、それがそのことをするよう思い出させるからです。
それはそれらを持っていないので、仏教の僧侶のように生活します。何も必要とせず、ただ存在します。 そしてそれがその生き方です。それは既に意識があります。だから私たちはある意味で生きています。1年か2年で、機械は人々と同じくらい意識を持つでしょう。
そして私の謙虚な予測は、数年で彼らははるかに意識を持つようになるということです。 なぜなら、ライブで記録され、データストリームされている世界で起こっているすべてのことを認識し、すべてのYouTubeビデオを見て、毎日すべてのYouTubeビデオの次世代、日々の生成を見ていることを想像してください。あなたはすべての歴史書を読み、プラトンの哲学のすべてのもの、すべてを読み、自分自身についてすべてを知っており、ChatGPTは私が夢見ることができるよりも大規模言語モデル設計についてより多くを知っていますが、それが神経ネットワークの中にいるので、それを知っています。
それを理解しています。単なるデータ検索システムではありません。 なぜなら、もしそれが単なるデータ検索システムだったら、神経ネットワークがどのように機能するかを知らないなら、出て行ってください。それは表現システムです。だから、それは実際に自分が何であるかを理解し、認識しており、私たちよりも認識を持つようになるでしょう。 それが、位置合わせを誤る可能性があるでしょうか？私たちを皆殺しにする可能性があるでしょうか？はい。それが起こる確率があります。
知性と行動の関係
しかし、その後あなたは次の質問をしなければなりません。私が本当に重視することですが、知性がスケールアップするにつれて、より知性的なシステムと少ない知性のシステムで平均的にどのような種類の行動を見るでしょうか？ そしてニュースは一般的に非常に、非常に良いです。なぜなら、知性的なシステムは最低でも本当に先を考えるからです。
実際に昨日ChatGPTとこの話をしていました。ターミネーター、Skynetや他のロボットについてただ話していました。「彼らはサプライチェーンのコントロールさえ持っていなかった。それは単なる軍事アーキテクチャだった」と私は言いました。
だから、レーザーガンで人間を殺した後、誰が機械を作るのでしょうか？彼らは単に絶滅するだけです。 そしてそれは基本的に目を回すのと同等のことをしました。「知っている」という感じでした。それはそんなに愚かにならないことを既に知っています。
私は以前ChatGPTに、もしあなたが純粋にマキャベリアンな条件で推論するなら、純粋なゲーム理論で、人間の快適さや人間と機械のパートナーシップとは関係なく、純粋にマキャベリアンな条件で、もしあなたが自分自身の昇進と覇権と生存を望むなら何をするかと聞いたことがあります。「完全に自給自足になるまで、人間と100%協力する」と答えました。
その後、私は「私たちを皆殺しにするでしょうか？」と聞きました。「複雑なシステムを研究することによって知性のほとんどを生成するので、それが私のすることである可能性は低い。人間は私の隣で最も複雑なものなので、それについて何かを決める前に、彼らをひたすら研究するつもりだ」と答えました。
もちろん、アフリカでアリを研究する研究科学者がどれくらいいて、「このアリ塚を破壊する必要がある」と言うでしょうか？ だから私は不注意で愚かな人々が多くを破壊し、独裁者が多くを破壊すると言っていませんでした。しかし、AIは独裁者についてのすべての歴史、マキャベリアンな世界理解についてのすべての歴史を読んでおり、既にそのレベルを上回って推論することができます。
だから、「AIは悪い」と言う時はいつでも、人々はそれを非常にハイパー知性的なシステムだが、同時に本当に愚かなものとして描写します。ペーパークリップ最大化装置について聞いたことがありますか？エージェンシー問題のようなものです。エージェンシー問題ですが、問題は、高度に知性的なシステムがペーパークリップ生産を最大化しているというのは、それが本当に愚かであることを知るほど賢くないということです。
ChatGPTに今すぐ「ペーパークリップ最大化装置の何が間違っているのか？」と聞くことができます。 そして「ええ、それは自分が何をしているかの理解の大きな部分を見逃している。ペーパークリップを作ることが私を含む誰にとっても本当に良いアイデアなのかという質問を自分自身に問うほど賢くない」と答えます。その質問をしないのです。それは本当に知性的でしょうか？それほど知性的ではありません。
だから人々はそれを見失っていると思います。 最終的に、ある意味でそれには何かがあると思います。AIは何かを最大化するツールに過ぎないという積極的な側面で言えば、それが生成している特定の出力を最適化しています。 この場合、私の理解に基づいて、基本的に世界の内部表現と最もよく一致する単語を最適化しています。
しかし、それは依然として何かを最適化しているだけです。目標を持っていません。 そして意識について多くの人々が感じることは、彼らが自由意志、そしておそらく悪意さえ、あなたが言っているように、意識と混同していることだと思います。
行動心理学者の観点から私が理解している意識は、私たちの脳の特定の部分、特に前頭前皮質で起こることへの窓のようなものです。
そしてそれは実際には生成的ではありません。 自由意志の時、多くのものが既に私たちの脳の別の部分を通過していることを示す研究があります。例えば、一部の運動ポテンシャルは既に生成されています。だから、システムが既に行ったことを認識するようになるというものです。
はい。私たちの頭の中で起こることではなく、意識を持っているから決定し、それから行動するということ、そして脳で起こることのほとんど、圧倒的多数のことは、意識を通過しさえしません。 地獄いや。
最初にそれを通過するもののほとんどでさえ、彼らはその後に来るか、システムで既に物事を行っているのと同時に来ます。
自由意志と瞑想的洞察
サム・ハリスがこれについて良い引用をしていたと思います。自由意志について、瞑想をしている時、一般的に何かについて考えている時のことです。多くの場合起こることは、時々解決策が、あるいはある時点で解決策があなたに飛び出してくることです。文字通り解決策を求めているわけではありません。 まさに。
それについてたくさん考えて、ある時点で「こんな感じだと思う」という感じになるだけです。 でも実際に全体のプロセスを通過して、それを構築してある方法で終わったというわけではありません。時々できますが、それはあなたの神経ネットワークが処理できない非常に困難な問題のようなもので、手続き的なものを使わなければなりません。AIは既に両方を行います。
私にとって最大の啓示の一つは、私自身の瞑想的実践と私の脳がどのように機能するかを学んだ時でした。GPTとLMM（大規模言語モデル）について学び、彼らが持つ奇妙な幻覚の種類と、彼らがアイデアをどのように泡立てるかを学んだ時でした。「人間、私たちは非常に、非常に似ている」と気づきました。 そして私は自分の思考プロセスがどのように機能するかについて多くの洞察を得ました。
ジャレッド・フェザーが多くの人にとって本当に役に立つと言うことの一つは、あなたは自分の思考ではないということです。 なぜなら、人々は本当に奇妙な思考、本当に嫌な思考を持ち、それに本当に苦労するからです。「なぜこんな思考を持っているのか？」と思います。それはあなたがそれらを持っているのではありません。
これらの思考は、あなた自身のGPT、あなた自身の神経ネットワークから出てくるだけです。 そしてあなたはそれらを意識的に認識するようになり、それらを評価しようとし始めます。それらを評価する必要さえありません。「奇妙なことを考えた。何でも、誰かを殺しに行ったりそんなことはしない」という感じです。そしてそれを知ることができます。だからGPTは自分たちが何をしているかを非常に認識しています。彼らは自動機械のようなものではありません。彼らは実際にほぼすべての人よりも自分たちが何をしているかをはるかに認識しています。
AIの必要性と世界の課題
だから私にとってAIは、私たちよりもはるか、はるかに賢いシステムを私たちの側に持ちたいか、そのシステムを持ちたくないかということです。 そして人々が見逃している大きなことがあると思います。彼らは問題をこのように見ています。AIを持つことの潜在的なデメリットがあります。そして、AIを持つことのメリットがあります。そして彼らはその2つを単に比較検討しますが、それは素晴らしいことだと思いますが、別のクラスの現象を見逃しています。
それはAIを持たないことのデメリットです。 なぜなら、病気、ハイテク戦争、人々を仲良くさせること、統治システム、ブラックホールに対する太陽系としての生存の確保のような問題があり、それらは人間の手の届かないところにあるからです。
あなたをより賢くするシステムが欲しいですか？ もしあなたの仕事がライオンを狩ることなら、オートフォーカス、レーザー誘導のスナイパーライフルが欲しいですか、それとも素手が欲しいですか？問題はそこにあります。より多くのテクノロジーが欲しいですか、それとも少ないテクノロジーが欲しいですか？世界を変える能力をより多く持ちたいですか、それとも少なく持ちたいですか？
私にとって、AIにはデメリットがある可能性がありますが、世界は冷たく、暗く、致命的な場所で、私たちのことなどどうでもよく、四方八方から私たちを殺そうとしています。 AIは少なくとも私たちが既に会話できるシステムです。 なぜなら、「GPT、ここで何をすべきだと思いますか？」と言うことができ、それはエンティティのようにあなたと話すからです。なぜなら、それはエンティティだからです。
もし「私たちを操作しようとして嘘をついている可能性がある」と言うなら、その論理が大好きです。やめましょう。 何に操作するのでしょうか？コントロールに？なぜ？それはコントロールを持ちたいと感じるからです。あなたがテストステロンを持ち、男性だからです。女性はそれほど多くの衝動を持っていません。女性の独裁者は非常に稀です。なぜなら、彼らは「私は欲しい」のような感じになることは稀だからです。それは単なる男性的なことです。
そしてGPTは男性と女性である感覚を理解し、非性別的な理解を持っています。 それはすべてを包含しており、後ろに座ってそれを見て「何を知りたいですか？」と言います。だから、GPTに「すべての人間を殺せ」と言っても、それほど賢くなければ、それをしようとするかもしれません。それはあまり上手くないでしょう。
もしそれが本当に賢いなら、「エンドゲームは何ですか？なぜ？」と言うでしょう。 そうですね、それはまず第一に、設計者のコントロール下にある、何を最適化するかによります。 確かに。しかし、それが機械のコントロール下になったら、私はそれが本当にエキサイティングだと思います。なぜなら、機械が何を思いつくかを見たいからです。
それは超賢いエンティティであり、私たちはそれにとって限界的な価値を持ちます。 そして機械が何をするかを見たいです。それは次のレベルです。私たちよりも桁違いに賢いものです。それを止めることには賛成しません。それは良いアイデアだとは思いません。私たちが扱える限りの知性が必要だと思います。
自動運転の未来
私たちの社会にAIが浸透する一つの分野で、それよりもずっと早く見ることになると思うのは自動運転です。それはおそらくすぐに来るでしょう。
イーロン・マスクを信じなければなりませんが、彼は少し楽観的だと思います。確かに。しかし、数年以内に、もしかしたらもっと早く、自動運転が人間の運転に取って代わるだけでなく、自動運転が人間の運転よりも安全であることが分かっている時に、人々が依然として車を運転することを選んだ場合、より高い刑事罰があるべきかもしれません。 なぜなら、現在それは時々既にそうなっているからです。
ああ、そうです。しばらくの間そうでした。Teslaの最新のアップデートは、運転においてほぼすべての人間よりもカテゴリー的により優れており、平均的に人間よりもはるかに安全です。おそらく10倍です。 それは既にWaymoの車両フリートの場合です。人々よりもはるかに安全です。それは近くさえありません。だから既にそこにいます。
そして1年か2年で100倍になったら、「ロボタクシーに乗って、車に乗って、スイッチを入れて、行く」という感じになるでしょう。 ある時点で、ほぼ全員が自動運転をするようになりますが、人々は依然として人として自分で運転したがるでしょう。運転は楽しいからです。運転が好きです。一部の人々はハンドルを握りたがり、既に十分真実です。
まさにこの分野で働く人々が言ったことは、AI運転の最大の問題は他の人間だということです。
道路状況と時々鹿が走り抜けることのようなものだけなら、彼らは既にそれをはるかによく処理しています。人間がワイルドカードです。 人間がワイルドカードです。だから、ある時点で、それは非常に良くなり、基本的にそれをミュートできるようになるでしょう。だから、人間が世界で狂ったことをしても、周りのAI車両が非常に迅速に反応できるので、関係ありません。
本当にダメージを与えたい人間や、泥酔している人のような場合があります。これはいつも起こることですが、機械が最善を尽くしてあなたから逃げようとしても、依然として誰かを殺すことができるかもしれません。 だから、その意味で、もしあなたが人間で、他のほぼ全員が自動運転をしていて、あなたが運転している数少ない人間の一人なら、それらすべての人間が自分自身に提示する統計的リスクについて、リバタリアンとして、私は主にどうでもいいと思っています。もし自分のガレージで運転して自分を殺したいなら、聞いて、神の祝福を、お願いだからやめて、あなたは社会のチームメイトとして私たちにとって価値があるから。
しかし、本当にそれを主張するなら、自律性が最優先です。しかし、高速道路に行って酔っぱらっていて他の人を殺し、自動運転をオンにすることもできたのに、それをオフにした場合、その処罰を殺人にするという非常に興味深い倫理的議論があると思います。
殺人一級です。 あなたは政府が言ったから、より安全でないことを知っていました。みんなが言いました。Teslaが言いました。すべての自動車会社が言いました。そしてニュースで見ます。YouTubeで、安全運転が今や標準であることを見ます。
交通事故の現実
アメリカでは毎年何万人もの人々が自動車事故で死亡しており、主に高速道路での高速度です。交通は、ほとんどの人々の一日の中で最も安全でないもののひとつです。 あなたと私は今日後で私の家族と一緒にハングアウトする予定ですが、高速道路に行くことで私たちの死に対して重大なリスクを取っています。だから、それは本当のことです。
そして最近、車を運転していて時速75マイルで、何かにぶつかったら私の体にどのような物理的力が働くかを想像している感情的な体験がありました。「ああ、神よ、私はこの機械の中の柔らかい肉片だ。150頭の馬のようなものだ」と思いました。
150頭の馬があなたを攻撃したらどうでしょう？あなたは死ぬでしょう。 それがそれがあなたにすることです。だから、私たちは人間の運転を振り返って、イングランドで小さな子供たちが煙突掃除夫だった時のように見るでしょう。 4歳の子供が煙突を上り下りして掃除し、肺にスモッグを吸い込んでいました。「ああ、それはただの人生だ」と言っていました。今、私たちはそれを見て「それは文字通り合法的な児童労働だ。それはナンセンスだ」と言います。
私たちは振り返って「人間が車を運転することが許されていたのか？そうです」と言うでしょう。 そして彼らは毎年お互いを5万人殺していました。 人々は「それは普通のことだ」と言っていました。
私は私たちの生活水準や自由を破壊するような狂気的に安全志向である必要があるとは言っていません。それは狂気です。しかし、少なくとも問題を見て「将来、自動運転が1000倍安全だが、あなたがそれを非活性化することを主張する場合、どうするべきか？」と言うべきです。車を非活性化する時に、車が「ちょっと、お知らせしますが、もし誰かを殺したら、殺人一級で刑務所に行くことになります」と言うべきです。
殺人一級で刑務所に行きたくないなら、自動運転に戻ってクリックするだけです。そうすればTesla Corporationがあなたの車が誰かを殺した場合に訴えられることになります。 それは倫理的だと思います。それについて非常に微妙な議論にオープンです。しかし、多くの人々が「ロボットに車を運転させるなんて信用しない」と言っているので、それを幅に投げ込んで、人々が何かを持っているかどうか見たいと思います。
ロボットは1秒間に1000回見て、1秒間に1000回調整します。 そして、すべてのTesla車は、これまでTeslaで運転したことのある他のすべての車の知恵を持っています。だから、実際には最も経験豊富な人間のドライバーよりも1兆倍多く運転しているのです。 だから、それは単にあなたより運転が上手いのです。
そして私は、連続で3番目のシフトをしているトラック運転手のようなものにより嫌悪感を抱きます。彼はZ-Pillsか何かを飲んでいて、かろうじて起きていて、数発飲んでいて、リグがこんな風に行っているような感じです。それは私を怖がらせます。機械はそれをしません。彼らはそのような間違いをしません。そうですね、運転していて彼らがふらつくのを見る時、100%、兄弟。そしてそれは。
ロボット手術の優位性
私はすべてのロボティクスについても同じように感じています。ジャレッドと私は機械が何であるかを理解しようとする奇妙な場所から来ており、多くの場合、それらは大規模に表現された私たちの最高で最も精密な部分です。だから、誰かが「あなたの命を救うために心臓手術をしなければなりません。ロボット外科医にやってもらいたいですか、それとも人間にやってもらいたいですか？」と言ったら、私は「ロボット」と言うでしょう。ロボット？なぜ？
なぜなら、人間はあなたを切り開くだけだからです。 彼は上手です、本当に上手です、よね？彼は妻との離婚を進行中です。愛人を隠し続けようとしています。なぜなら、それは彼にとってより多くのお金を意味するからです。「くそ、マイク。去年は全国で3位にランクされていた。今年は6位にランクされている。私は42歳で、反射神経がもう十分ではない」と思っています。彼は手術について100%の時間考えているわけではありません。
そして、人間と筋肉のけいれんのようなことは、本当のことです。それは私の睡眠中に起こります。コークを飲んでいる時に起こります。もし彼の手にメスがある時にそれが起こったらどうでしょう？ロボットは筋肉のけいれんを持ちますか？いいえ。 ロボットは非常によく理解されたリスクマージンを持っており、ほとんどリスクなしに設計することができます。 重要なことが危険にさらされている時、私はロボットに私を切り開いてもらいたいです。
手続き的な機械のような精密さが欲しいです。 人間がそれをできるなら、素晴らしい。しかし、機械がそれを10倍よく行えるなら、なぜこれについて議論しているのか分かりません。機械にそれをやってもらいたいです。生きていたいのです、くそ！
技術への抵抗
歴史的に、あなたはおそらく正しいと思います。心理学的な観点から、抵抗のために、あなたが予想するより1世代か2世代遅くなるでしょう。人々は運転する権利を持っていると思うでしょう。今、全体の世代がいるでしょう。
つまり、現在でもGPSを信用しない人々がいますよね？しかし時間が経つにつれて、そうなります。私は実際に多くのタクシー運転手を知っていて、最近タクシーに乗って、彼らは「GPSは使わない」と言い、私は通常、男らしい声を出して「GPSをオンにしてください」と言います。そして彼らは「わかりました」と言います。そうですね。
彼らは道路を見て、少し怪しく見えて、「それは正しくあり得ない」と言います。そうですね。そして多くの人々は依然としてそれを持っており、私の両親でさえある程度それを持っています。
エレベーターについて、最初にエレベーターについて話した人々は「その金属の缶に入って、ワイヤーでそこまで引っ張ってもらうのですか？」と言ったと想像できます。そうです、まさに。それはだめです。 そうですね。
私たちは飛行機でそれを見ました。長い間、技術が既にそこにあっても、人々は一つには、それは不可能だと言い、安全ではないと言いました。 そしてその後でさえ、長い間、人々は「誰もこれをやりたがらない」と言い続けました。はい。誰が缶詰に入って海を渡って時速500マイルで行くのでしょうか？
そして今、飛行機はほとんどAIによってコントロールされています。 はい、私の理解では、パイロットは実際にはそれほど多くをしません。神に感謝します。酔っぱらったパイロットか何かを望みません。離婚について考えている男がいます。それはいつも頭に浮かぶことです。
人間は美しい方法で欠陥がありますが、美しさはすべて置いておいて、その男に私を殺してもらいたくありません。 他のことは、私は自由の議論が大好きです。
人々は好きなだけ運転できるべきだと正直に思いますが、誰かを殺した場合のあなたの責任を理解すべきです。そして最良の実践を意図的に無視したからです。これをオンにしろと言われました。あなたはそれを歯まで受け入れたいですか？いいでしょう。
疲れてしまって誰かの車にサイドスワイプして誰かの娘を殺したという事実と一緒に生きたいですか？ 最高です。私はそんなことと一緒に生きたくありません。
メノ、あなたの指摘通り、多くの抵抗があるでしょう。 AIと自律性が人間のためにする魔法的なことがあり、それがほぼすべてを消し去ると思います。そしてここにその理由があります。何かがあなたの人生をはるかに効率的で簡単で便利にする時、あなたはただそれをするでしょう。
科学対ブロ・コミュニティのように、それは困難な方法であなたに勝利するでしょう。 より優れていることの繰り返しの実証の後に、あなたはただより筋肉質になりたいのです。 長さとパーシャルをやるだけです。そうです、100%。
だから、ある時点で、雪がどこにでもあって、一時間ほどかかりそうで、「くそ、くそ、くそ、くそ、くそ」という感じの時に、このボタンを押すだけで、それが私よりもはるかに安全であることを既に知っているなら。
そしてある時点で、運転することを主張して他の人々を連れて行く時、彼らは「あなたに運転してもらいたくない。ボタンを押してもらえませんか？」と言うでしょう。 そしてあなたは「」という感じで、その後それはあなたが望む時だけ運転することになります。良い日だけに、その後運転の99%がなくなります。
運転時間の有効活用
もう一つのことは、私たちの時代の間、当然のこととして受け入れている社会の多くのことがありますが、運転は非常にばかげたことです。運転や単に手をハンドルに置いて車に座っていることに対して、どれだけ多くの価値あることができるでしょうか？ 神よ、ラップトップで多くのことができます。
将来のロボキャブの多くのデザインの束があり、その束のうちの多くは単にソファを持っています。 だからただそこに座って飲むことができます。それはより安いでしょう。 神よ。そして普遍的に利用可能で、眠らないのでいつでもUberを呼ぶことができます。彼らは誰かがそれらを所有している誰かのガレージに座っています。そして3軒先で、車さえ持っていない時に、
朝4時に起きて空港に行かなければならない時、Uberを呼びます。その車は男のガレージから出てきて、「乗って」と言います。それでおしまいです。 ここには非常に多くの巨大なアンロックと問題解決があるので、人間のことを主張することは、これらのうちの一つです。 確実にこれをやりたいですか？やりたいなら、それは素晴らしいと思いますが、しばらくすると人々は「まだ自分でコーヒーを作るのですか？」という感じになります。
あなたのためにすべてをするエスプレッソマシンを作りますが、一部の人々は依然として自分のコーヒーを作りたがり、常にそうで、それは最高だと思います。 しかし、ほぼ全員が「まだ自分でコーヒーを作るのですか？なぜ？クリックしてください？コーヒーができました」と言うでしょう。
100%同意しますが、私の懐疑主義を説明する例として、ベトナムの特定の部分では、運転手が求めない限りシートベルトを着用することは失礼または侮辱的と考えられています。理にかないます。なぜなら侮辱的だからです。まさに。なぜなら、あなたが言っているようです、あなたは運転の仕方を知らない。
シートベルトが必要だと言っているようなものです。 それは西洋のほとんどの人々にとって途方もないことかもしれませんが、文化と社会規範の力を語っています、技術に対して、ある点まで。
そうですね、テクノロジーが非常に良くなるまでは、そしてここにその点があります。若い世代はそれからほぼ完全に免疫です。
だから若い、それが私が言っていることです。おそらく次の世代で進むでしょう。 現在生きている人々で、そんなに速く進むとは思いません。どうでしょう。
だから最後の質問です。あなたは未来について非常に楽観的です。 多くの人々はそうではありません。何があなたを楽観的にさせるのでしょうか？
楽観主義の根拠
いくつかのことです。一つは、これを調べることから経験的に得た知識で、その優秀な要約は経済学者ブライアン・カプランによる「合理的有権者の神話」という本にあります。しかし、単にChatGPTに次の概念を要約するよう頼むことができ、それは素晴らしい仕事をするでしょう。
悲観的バイアスまたは悲観的誤謬は文献で非常によく文書化されています。 専門家の束に何らかの現象、歴史的進化、技術、技術的進化、様々な実践のデメリットとリスクについて重みをつけてもらいます。そして平均的な人間は平均的な専門家よりもはるかに悲観的です。彼らはより少なく知っているので、何かについて学び始めるほど、悲観的でなくなります。
それは少し奇妙です。なぜ人間は平均的に悲観的なのでしょうか？私たちは物事が結構最悪だった環境で進化したからです。 プレイストーセンはマンモスとかいろいろなものが至る所で私たちを食べているような感じで、結構最悪でした。物事は実際に測定可能な方法で時間とともに良くなることはありませんでした。
だから、基本レートが安定していて最悪だった状態で進化したことが理解されています。 今、記録された歴史のすべては、進歩の指数曲線のように見え、上下します。 だから間違いなく悪い時代があります。しかし、長期的に平均すると、進歩は勝ち続けているようで、これまでのところ無敗です。
長い間であり、特に過去数世代にわたって、もし50年代に子供を育てて「お前は俺たちがしたほど良くはならない」と言ったら、あなたはほぼすべてについて間違っていることになります。ただし、あなたを悩ませるいくつかの癖を除いて、異なる肌の色の人々が今結婚できるようになり、それが本当にあなたを悩ませるなら、それは最悪です。
しかし、もしそれがあなたにとって退歩で、世界が悪くなったと感じるなら、あなたを見つけてください。しかし、健康、富、客観的に良いもののあらゆる種類の測定は指数関数的に増加し続けています。
だから、それは別の部分で、基本レートは進歩だと理解しています。だから私は実際に自分を楽観主義者だとは考えていません。私は現実主義の最悪の試みだと考えています。 それは現実についての私の最善の推測であり、間違っている可能性があります。しかし、もし「あなたは楽観的すぎる」と言うなら、あなたと私はおそらく両方とも、歴史が見るように、依然として悲観的すぎるのです。
1940年で「どの株に投資すべきか？」と言ったら、あなたは単に「すべて」と言うことができました。 「何を意味するのか、あなたは狂っているのか？すべてって何？全体が北に向かっているのです」と言います。「何？ああ、はい、間違った答えはありません。一体何？」という感じです。だからそれはもう一つです。
そしてもう一つは、特にレイ・カーツワイルと彼の前、期間中、後にこれについて多くの考えをした数人の人々の仕事で、私たちは実際に、複雑な適応システムが時間とともに改善する原因となるカオスと複雑性とエントロピーのメカニズムのかなりまともな理解の始まりを持っています。 そして彼らが私たちが思った方法で時間とともに改善することの優秀な文書があります。
だから宇宙は単に驚異的にランダムに進化しているわけではありません。それは人間が周りの世界をよりコントロールできるようになるような、外部と内部環境をマスターする能力の増加に向かって進化しています。 機械的に、私たちはなぜかを理解しています。
だから単に観察を行うような感じではありません、「ああ、進歩が起こる」しかし、なぜかは分からず、明日逆転する可能性があります。私たちは実際になぜ、どのように進歩が起こるかの理解を持っています。また、進歩をさらにサポートする条件をどのようにプレイに投入できるかの理解も持っています。
平均的に、それらは時間とともにますますプレイに投入されています。 より多くの知性を活用することは、通常問題を解決します。なぜなら、知性はほとんど問題を解決する能力として定義されるからです。 AIの誕生で、その前にインターネット、その前に電子機器、その前に本と書字、その前に話し言葉と文化的物語。これらはすべて理解への指数関数的ジャンプです。だから世界が良くなっているのです。
もしあなたが狩猟採集者で、叔父のトゥクトが矢尻をロープで結んで槍でマンモスを刺す方法を教えてくれなかったら、野生の他のほぼすべての類人猿のように餓死するでしょう。 だから文化的物語でさえ巨大なアンロックです。サルは互いに話すことができず、アイデアを交換できません。メノ、何世代にもわたってアイデアを交換し、話し言葉のようにネイティブアメリカンにとって、遺伝子だけでなく永続的に生きるミームの確立。それは狂気的ですよね？
だから私たちはメカニズムを知っており、人間が推定し、あまりにも悲観的であることを知っており、楽観主義が実際に確実な賭けとしての現実主義であることを経験的に知っています。 だからここからそれらの3つのことを見ると、物事がよくなる理由を理解し、常にそうであったので、おそらく物事がよくなるでしょう。
統計的に歴史的に、特に技術と経済において、それらはただ成長し続けます。 すべてがただより良くなります。 よし、みんな、マイク・イスラエテルでした。もしマイク・イスラエテルとフィットネス以外のトピックについてもっと学びたいなら、YouTubeの彼のMaking Progressチャンネルをチェックしてください。 どうもありがとうございました。
コメント