この動画は、GoogleでAI商業化を担当する元McKinsey出身の話者が、MIT Sloanで行った講演である。AIと人間の関係について、従来の「AI対人間」ではなく「人間のためのAI」という希望的観点を提示している。量子物理学の二重スリット実験を引用しながら、マイクロプロセッサーの発明者Federico Fagginの理論を基に、機械は決して人間のような意識を持ち得ないという仮説を探求する。さらに人間創作への根強い選好やAlphaFoldのような画期的AI成果を通じて、AIは競争相手ではなく協力者としての役割を果たすことを論じている。
AIは意識を持ち得るのか？人間アルゴリズムの独自性を探る
エンパイアを卒業してから10年が経ちました。10年前、どのAIモデルも技術的環境がこれほど劇的に変化することを予測できなかったでしょう。数学から金融、そして技術分野への私自身の旅程は、卒業後かなり順調なものでした。
卒業後、私はMcKinseyで働く幸運に恵まれ、そこで銀行がバランスシート・リスクを管理するのを支援する機械学習モデルを構築しました。現在はGoogleで、私たちのAI主導ソリューションの商業化をリードしています。この息を呑むような技術革命のペースの最前列に座ることができて、本当に幸運だと感じています。
ヘッドラインはしばしばAIの実存的リスクに注目していますが、今日は異なる視点を提供したいと思います。希望の視点を提供したいのです。これはAI対人間ではなく、人間のためのAIであるという見方です。これを3つの重要なポイントで説明します。
ただし、今日私が提示する見解は、私が選択して消費した研究と調査に基づく個人的な視点であることにご注意ください。これらは決して私の雇用主の見解や科学的合意を表すものではありません。しかし、この視点が皆さんをAI時代における人間の独自性を定義する独自の旅に出るよう刺激することを願っています。
それでは始めましょう。
コードを超えた還元不可能な人間の意識
私たちは今日、AIの能力が加速する中で、真に人間を独特にするものは何かという探求を進める魅力的な分岐点に立っています。
ちょっと手を挙げてください。どれほど賢くても、機械が私たちのように真に意識を持つことは決してないと信じている人はどのくらいいますか？とても少ないですね。
では、一部の主要な物理学者によって支持されている魅力的な論文があり、どれほど賢くても機械は人間のような意識を決して持つことはできないと述べているとしたらどうでしょうか？
この論文はまだ科学的合意を得ていませんが、それでも非常に示唆に富んでおり、探求する価値があります。しかし、まずAIが実際にどのように機能するかを簡単に見てみましょう。
私たちは皆、ニューラルネットワークについて聞いたことがありますよね？AIの背後にある基盤エンジンです。ニューラルネットワークは人間の脳の働きを模倣します。何十億ものニューロンが何兆もの接続を形成し、すべてが人間の経験から学習します。
ニューラルネットワークは、数学方程式に過ぎない人工ニューロンでこれを模倣し、何兆もの接続を形成します。ちなみに、少なくとも今のところは人間の脳よりもまだ少ないです。そして、大量のデータから学習し、パターンを識別し、予測を行います。
従来の科学的見解では、私たちの人間の意識は単純に人間の脳でのこのすべての複雑な活動から生じる、または現れるとされています。
つまり、考え方としては、人間の脳の働きを模倣し、十分に複雑なAIシステムを構築すれば、最終的にいつかの時点で意識が機械でも単純に立ち上がるはずだということです。
しかし、この図式には皆さんと一緒に探求したいパズルの重要な部分が欠けています。
ここで物理学の有名な二重スリット実験が役に立ちます。心配しないでください、これは物理学の講義ではありませんが、この実験を理解することで現実の真の性質について驚くべきことが明らかになります。
小さな弾丸を2つの狭いスリットを通してスクリーンに撃つことを想像してください。スクリーンに2つのバンドが形成されることを期待しますよね？これが日常的な物体の振る舞いです。
しかし、科学者たちが電子（私たちが皆作られている最も基本的な単位）でこの実験を行うと、驚くべきことが起こります。2つの明確なバンドの代わりに、干渉パターン、つまり障壁によってブロックされた場所を含む複数のバンドを発見します。
まるで電子が水波のようにすべてのスリットを同時に通り抜け、波が打つ場所にバンドを形成したかのようです。
さらに心を混乱させるのは、科学者たちがスリットに測定装置を配置することで電子がどのスリットを通ったかを正確に測定しようとすると、さらに驚くべきことが起こることです。電子は再び日常的な粒子のように振る舞い始め、単純にスクリーンに2つのバンドを形成するのです。
まるで電子が観察されていることを知っていて、そのために行動を変えたかのようです。
では、電子は粒子なのでしょうか、それとも波なのでしょうか？
量子物理学が私たちに教えることは、生命の最も基本的な単位、物質、あなたと私、電子のような単位は、観察されていない時、任意の時点で1つの明確な場所に存在しないということです。
代わりに、彼らは同時に複数の場所に存在し、ただ様々な確率で存在しているのです。
そして観察という行為、意識的な見ることが、その確率的存在を私たちの周りに見える物理的で明確な現実に崩壊させるように見えるのです。
平易な英語で言えば、観察という行為、つまり意識的な見ることが、現実の基盤が存在するぼやけた可能性の世界を、私たちが周りで体験する物理的で既知の明確な世界に変換する上で重要な役割を果たしているように思えるのです。
つまり、物理的世界は単に見られるのを待っているそこにあるものではありません。あなたが何かを見る方法は、それを作り出すことに複雑に関与しているのです。あなたが何かを見る方法は、それを作り出すことに複雑に関与しているのです。
しかし、ちょっと待ってください。もし意識がこれほど基本的なレベルで現実を形作っているなら、意識が既存の現実、つまり私たちの脳から単純に現れると言うのは少し逆向きではないでしょうか？
量子物理学は逆のことを示唆しています。量子物理学は、意識が物質に先行する、つまり物質より前に来るべきだと示唆しています。
量子物理学は、意識が現実の基盤そのものの基本的側面であり、それを存在に導くことができると教えています。
私にはあまり信頼性がないように聞こえるかもしれませんが、この理論を支持するために何人かの重要人物を呼んできましょう。
Federico Fagginは、今日ほぼすべてのもの、コンピューターを含めて動かしているマイクロプロセッサーを発明した物理学者です。
Fagginは、今日のAIを動かす技術そのものを何十年も発明した後、意識は私たちの脳によって産生されることはできないという驚くべき結論に到達しました。
彼は、意識が現実の基本的で還元不可能な側面でなければならないことを証明するための科学的な論拠を考案しています。彼は、意識が物質の前に、そして物質を超えて存在していなければならないと論じています。
この点を説明するために彼が使う比喩は次の通りです。最も深い、最も基本的なレベルでの現実は、一度に複数の可能性の海のようなものです。この海は私たちが量子場と呼ぶものであり、これは物質や物理的現実の前にあるため、ここに私たちの意識が存在しています。
私たちが周りの物理的世界として体験するものは、意識がそれと相互作用するときに海に形成される波のようなものです。これらの波は海から分離できません。それらは別個のものではなく、単純に場の状態、海の状態なのです。
そして、この物理的現実、この椅子、あなたと私、空気、この物理的現実は明確で、ある時点で1つの場所にあります。電子場のように複数の場所に存在していません。測定可能ですが、最も重要なのは、それはより深い根底にある量子海の単なるスナップショット、縮小された表現に過ぎないということです。
この点は、AIシステムが私たちのように意識を持つことができない理由を理解する上で絶対に重要です。なぜなら、AIシステムは私たちがアクセスできる古典的で物理的で測定可能な情報のみで訓練されているからです。
AIシステムは、より深い根底にある量子海で訓練されることは決してできません。なぜなら、それは測定可能性に反するからです。二重スリット実験で見たように、量子場を測定するという行為そのものが、それを1つの縮小された明確なスナップショットに崩壊させます。そして、それが私たちがこの領域で測定できる唯一のものなのです。
考えてみれば、人間としての私たちの独自性は、古典的で測定可能な情報やデータの処理にあるのではありません。機械は既にその点で私たちを上回っています。
考えてみれば、人間としての私たちの独自性は、私たちの内なる主観的体験、私であることがどのようなものかという感覚、あなたの内なる気づきにあります。
そしてFagginは、この豊かな内なる次元、あなたの意識が、AIを訓練するためにプログラムすることができない、より深い根底にある現実の基盤から生じると論じています。
だから、AIは人間の感情を模倣できますし、人間の理解を模倣できますが、それがすべてです – それは模倣に過ぎません。どれほど高度なAIシステムになっても、それらはおそらく常に強力なツールに留まり、決して意識のある同等の存在にはならないでしょう。
豊かな内なる主観的体験への私たちの能力 – ふわふわしているように聞こえるかもしれませんが、それが真に還元不可能な人間性を定義するものです。
人間が創造するものについて
AIが人間の意識を複製できないことを見てきましたが、人間が創造するものについてはどうでしょうか？ビデオを見てみましょう。
「夏が恋しいよね、中に入る必要がある、とても寒い、ここは凍えるほど寒い、私の声が大好きです、ワオ、この場所は素晴らしい、ここで最高の料理を作っています、空港への最速ルートは何ですか、飲み物が欲しい、友達よ、パブに来ない？何か食べるものを取ろう、いや、友達よ、飲み屋に来ない？クール」
何人の方がこれがAIだと分からなかったでしょうか？見てください。これは2週間前にGoogle IOでリリースされたGoogleのV3モデルによって制作されました。
AIが完全に人間のように見える芸術、写真、映画、音楽を作ることでどれほど進歩したかは驚くべきことです。
しかし、AIがこれらの芸術を作ることにますます長けてくると、非常にポジティブな魅力的なパターンが現れます。
Sam AltmanとリーディングサイコロジストのAdam Grantの間のこの興味深い会話で、彼らはAI生成コンテンツが溢れる世界でも、人間の要素が常に特別な意義を保持することについて議論しています。
「AIからのものだと分かったら欲しくないという状況がどのくらい続くのか興味深いです。この技術をますます人間化し、擬人化し始めるにつれて。まず、AIによるものだと言われるまではAIの実際の出力を人々が好む場合もあるが、AIだと言われると嫌いになるという一般的な概念について話しましょう。これは何度も見られます。
最近の研究では、AI芸術を本当に嫌いだと主張する人々の間でも、どれがAIでどれがそうでないかを言われるまでは、最も好きな芸術作品のためにAIの出力を人間よりも多く選んでいたことが分かりました。もちろん、どれがAIでどれがそうでないかを言われると、それは違いました。他の多くの例を選ぶこともできますが、AIが多くの点で私たちに追いついているのに、私たちは人間を気にかけ、AIを気にかけないように固定配線されているというこの傾向、これはとても良い兆候だと思います。」
そこにあります、皆さん。人間は人間のタッチを好み続けます。そして、これを確認している複数の研究があります。
研究では、参加者のグループに似たような芸術作品、1つはAIから、1つは人間からのものを見せると、彼らは一貫して人間が生成した作品をより感情的に共鳴し、より価値があり、より望ましいと評価することが示されています。
実際、一部の研究では、人々が人間生成コンテンツを機械生成コンテンツより最大25%高く評価していることが示されており、これは有意な差です。
なぜこの好みがあるのか不思議に思うでしょう。再び、ここで少し感傷的になりますが、仮説は、アーティストが芸術を創造するとき、彼らは自分の感情、生きた経験、還元不可能な人間性を作品に埋め込むということです。
私たちは創造と同じくらい創造者とつながります。真の人間の経験、悲しみ、喜びから生まれたものは、AIによって決して置き換えられることのない独特に人間的な意味を単純に運んでいます。
実際、どれほど高度になっても、AIは真の人間のつながり、他の人間からの社会的検証、社会的承認への私たちの基本的なニーズを真に満たすことはできません。
幸か不幸か、私たちは人間のつながりを気にかけるように固定配線されており、Altmanが言ったように、これは非常にポジティブな早期トレンドです。なぜなら、それはAI生成コンテンツがどこにでもあり、避けるのが難しい世界でも、人間の創造性が常に特別な場所を持つことを教えてくれるからです。
そして、それはすべて人間のつながりへの私たちの基本的なニーズから生まれており、それは美しいことです。
ブレークスルーのためのツールとしてのAI
AIが人間の意識を複製できない、または人間のつながりへの私たちの欲求を満たすことができないことについて話しましたが、人類にブレークスルーを提供し、社会の最大の課題のいくつかを解決するツールとしての可能性は、過小評価することができません。
世界有数のAIラボの1つであるGoogle DeepMindでは、彼らは常にAIの境界を押し広げるために研究を使用しています。この技術がいかに変革的であるかの本当の感覚を与えるために、DeepMindのAlphaFoldの例を使いましょう。それは生物学、医学、気候変動への深遠な影響で際立っています。
何十年もの間、タンパク質が3D構造にどのように折り畳まれるかを予測することは、生物学のエベレストでした。それは天文学的に困難な挑戦でしたが、病気を理解し、治療法を見つけることにも基本的でした。
従来の方法は単純に痛いほど遅すぎました。しかし、良いニュースは、Google DeepMindのAlphaFoldが、人類に知られているすべての2億100万のタンパク質の3D構造を完璧な精度で確実に予測することに成功したことです。
従来の方法では、これにどのくらいかかっていたでしょうか？100年？10億年？10万年？数十億年？あなたは正しい、実際、それは選択肢ではありませんでしたが、数十億年です。それについて考えてみてください。
そして、これは単なる学術的成果ではありません。これは創薬を革命化し、アルツハイマー、がんなどの致命的な病気への私たちの理解を加速させています。
プラスチックを分解し、炭素回収も実行できる新しい酵素の設計を可能にすることで、気候変動を解決できるようになることに劇的に近づけています。
Google DeepMindのAlphaFoldは、最高のAI、競争相手ではなく人間の協力者、私たちの能力を既知の容量を超えて拡張し、以前は乗り越えられなかった問題を解決するツールです。
これがAIが前例のない規模で社会的利益を提供し、世界中で命を救い、改善する方法です。
未来への統合的視点
この時点で、AIや人間の意識がいかに特別であるかを見てきました。人間の創造性が常に独特な場所を持つことを見ました。そして、ブレークスルーを提供するAIの可能性について議論しました。
しかし、これらすべてを結び付けるために、私たちの未来にとってこれは何を意味するのでしょうか？
AIがこれまで人間の知性を定義していたタスク、戦略、問題解決、さらには創造性さえもますます習得するにつれて、私たちはより深く、内向きに見て、この新しいパラダイムにおける私たちの場所を真に定義することを押し進められています。
しかし、この内向きに見るという探求は新しいものではありません。何世紀にもわたって、古代の哲学者や深い思想家たちは内向きの旅を提唱してきました。彼らは感覚的知覚よりも深く、物質を超えた現実について語りました。彼らは私たちに汝自身を知れと促しました。
思考実験をしてみましょう。もし明日、AIが人間ができるすべての認知タスクを私たちよりも上手にできるようになったら、何が私たちの人間性を定義し続けるのかを自問しなければなりません。そのシナリオで、何が独特に私たちのものであり続けるのでしょうか？
これらの質問に答える中で、私たちは機能的能力を超えて、知的容量を超えて、私たちが本当に誰であるかの本質に触れます。それは私たちの仕事をより人間的な経験的意識の観点から定義することに向かって押し進めています。
おそらくAIは究極の鏡です。複製され、自動化されるすべてのものを私たちに示すことで、そうでないものも示しているのです。
未来はAIに置き換えられることについてではありません。それによって洗練されることについてです。それは新しい質問と、おそらく答えを求める新しい方法とともに、自己発見の時代を超えた旅への招待状です。
AIがより高度になればなるほど、人間アルゴリズムの真の性質を定義するという私たちの探求はより充実したものになります。
ありがとうございました。人々にとって意味のある収穫があったことを願います。
質疑応答
何か反応はありますか？何を最も現実離れしていると感じ、何を最も信じましたか？
質問があります。最初に意識について話されていましたが、ここで意識とは何を意味するのでしょうか？自己認識を意味するのでしょうか、それとも何を意味するのでしょうか？
内なる主観的体験、私たちの内なる気づきです。AIはそれを模倣できます、理解を模倣できますが、それが真にその内なる主観的体験を持っているのでしょうか？それが物理学者たちが論じている形而上学的側面です。
実用的な応用は、あなたが場の一部である、つながった意識の一部であることを実現すると、私たちが自分たちが可能だとは知らなかった事柄を解き放つ可能性があることです。再び、現実離れして聞こえますが、これらの方向に沿った科学的研究が行われています。
まず、とても興味深い洞察をありがとうございました。これを過去3日間の異なるセッションで聞いたこと、つまり皆がエージェンティックAIとスマートメントの時代と今後5年間で起こることについて話していることと関連付けようと思います。
私の質問は、AIが意識を持つ必要は本当にあるのでしょうか？数百、数千のPhDの知性を集約するAIエージェントがあるという事実だけでは、それが意識を持つ必要はないのではないでしょうか？これは人間としての私たちの最強のセールスポイントにはならないでしょう？
基盤となるのは、私たちの意識を独特に定義することから何を得るのかという実用的な応用に触れています。それは抽象的で形而上学的に聞こえますが、物理学者たちがそれについて話し始めている理由は、仮説として、現在私たちは非常に競争指向であり、社会のインセンティブがそれに応えている、またはそれに向かわせているということです。
しかし、つながった意識についてのこのより深い真実を実現することで、私たちの心の中の物語を変え、競争対協力により多くの協力につながるインセンティブを定義し、システムを変えることに向けて働くよう動機づけるでしょう。
AnthropicのDario Amodeiが昨日、AIがすべての仕事を置き換えるという警鐘を鳴らしました。私たちはそれについて正直でなければなりません。会話が解決策につながるので、それについて正直でなければなりません。
まず、AIは意識を持たないとしても、私たちの生活の糧を置き換えるだろうということを認めましょう。そのシナリオで何をするのでしょうか？そして、それを資本主義の見えざる手に任せることでは解決しないでしょう。
これは最後の部分と多少関連していますが、AIが誰に最も利益をもたらすか、誰が最もそれをコントロールするかという点で、AIはどの程度民主的だと思いますか？
同様の質問ですが、あなたが今Googleで科学者と企業レベルで働いているように、何らかの規制、つまりコントロールと責任はありますか？
それは派手な言葉ですが、ニューラルネットワークの父であるGeoffrey Hintonは、つい最近までGoogleで働いており、これらのシステムを研究し、権力の集中を避け、規制と抑制と均衡を考案するためにより多くのリソースを捧げることを提唱しています。
進歩を遅らせるためではなく、これらのシステムがどのように機能しているか、落とし穴は何かの理解において等しい投資を行うためです。なぜなら、現在その分野への投資不足があるからです。資本主義における合理的なアクターとして、あなたは利益によって動かされているからです。
そこで規制が非常に重要な役割を果たします。それは微妙なバランスです。あらゆる種類の規制は遅らせるので、1つの国が過度に規制することを決定することはできません。彼らはレースに負け、別の国がより良いAIで現れるでしょう。
これはすべてグローバルな協調の必要性を指しています。リスクを測定し、抑制と均衡を設置することにリソースを投資することに向けて私たちの行動を協調させなければなりません。そして、その協調は現在遅れています。
これは質問というよりもコメントですが、素晴らしい講演をありがとうございました。医学の観点からも、私の学部論文は文字通りタンパク質の折り畳みで、発見をより速く行えることは非常に強力なツールだと思います。
特にヘルスケアでは、様々なことがいかに労働集約的かという点で非常に挑戦的だと感じます。特に患者対面のプロバイダーでもある人が研究や記録も行っている場合などです。
ヘルスケア分野でのツールとして考えることは非常にクールで、実際に患者にとってより安全にするタスクを自動化し、より速く物事を進める方法です。しかし、コンピューターに物事を供給し、プライベート情報をコンピューターに供給しているので、それが本当に安全でないという認識があります。
私が興味を持っているのは、あなたが言っているように、それをより多くのツールとして活用し、恐ろしいものとして考えるのではなく、人間が患者のケアのより人間的な要素により集中できるように手助けする強力なツールとして考える方法です。
ヘルスケアと何らかの接触があったかは分かりませんが、それが私が職場で見るものであり、将来的にそのバランスがどのようになるか興味深く、そのような理由で私たちがこのような技術の採用が遅れていると感じます。
技術でのカンブリア爆発は起こりました。これらのシステムは非常に有能ですが、採用でのカンブリア爆発は、人間がこれらのシステムがどのように機能するかを理解するようにアップスキルされるまで起こらないでしょう。
そして、人々とプロセスの柱は変更管理の大きな部分です。私は商業化で働いているので、これに密接に精通しています。CMOやCEOがAIの採用をためらうとき、会話は止まります。それは大きな障害です。技術ではなく、人々なのです。
そこへの投資は、プロセスと人々のアップスキルだけでなく、解釈可能性 – 正しく発音しているかは分かりませんが – これらのモデルの結果を解釈する、またはAI結果を動かすブラックボックスを解明することにもあります。
これらの結果がどのように定式化されているかを人々が理解することに快適になればなるほど、採用は早くなるでしょう。
質問ではなく、むしろコメントです。この講演全体をありがとうございました。あなたが私たちに残した思考実験について考えていました。あなたが言った最後のことは、私たちがAIによって洗練されているということだったと思います。
もし私たちが認知タスクをする必要がないなら、何をしているのでしょうか。私にとってそれはとても個人的に感じられました。なぜなら、私は企業世界での非常に認知的な仕事からより芸術的で手で行うことに移行していて、それをはるかに好むからです。
企業世界での私の時間の終わりには、私は既に認知タスクのほとんどをAIに置き換えていて、私がそれよりも上手で早くやってくれるのでその移行が本当に好きでした。そして、私が仕事を3時間で終えたので時間を使えました。陶芸スタジオに行って、手でアートを作りました。
そして、それはAIやロボットができるとは思わないものです。だから、もし私たちの生活がAIによって洗練されているなら、その芸術的創造性、私たちの感情と生来の意識から出てくるもののような私たちの部分がそのまま残ることを愛しています。
そして、AIに、オフィスに座っているような認知タスクを引き継いでもらいたいです。それは一部の人には楽しいかもしれませんが、ロボットに洗濯や食器洗いをしてもらって、私たちが心でやりたいことができるようにしてもらいたいです。
それがまさにその通りです。Fagginのインタビューをいくつか推薦します。なぜなら、私がこれらのふわふわした概念について話すと狂って聞こえるかもしれませんが、マイクロプロセッサーを発明した物理学者がそれについて話すとき、それにはより重みがあるからです。
しかし、それがまさにその通りです。どのように世界をその状態に移行させるか、人間が私たちに独特な意識に集中している状態にするかについて、すべての詳細はありません。
私たちは量子古典的な体です。機械は単なる古典的です。彼らは私たちほど強力になることはないでしょう。私たちはただ、私たちの完全な可能性を活用していないだけです。
私は情報の拡散と誤情報について考えていました。これは規制により向かうと思いますが、あなたの考えを聞きたいです。規制されるべきか、そうでないかです。なぜなら、最終的に誤情報は、人々がそれを消費し、彼らが何でも消費できるからです。
ChatGPTでGoogle検索が少なくなっているということを読みました。なぜなら、人々はChatGPTに直接質問するからです。そして、あなたは読んでいることを真に信頼しますよね。だから、偽情報、フェイクニュース、誤情報の観点から、これは非常に重要なことだと思います。
政府機関によって規制されるべきか、それともChatGPT自体やGoogleのようにより関連すべきかについて、あなたの考えを聞きたいです。
100%、そしてすべての技術企業がこれに同意しています。政府は意味のある規制を考案するのに十分に技術的に洗練されていません。だから、それは多くない主要AIラボと、意味をなし必要以上に進歩を遅らせない規制を考案する政府との間の協力でなければなりません。
しかし、単純に利益動機と同じくらい重要に、フェイクニュースの解決や偏見の解決への投資を行うだけです。
また、過度な規制でpermissionless innovationを制限したくもありません。それは非常に微妙なバランスで、簡単な答えはありません。技術企業と政府の間の協力でなければなりません。
偏見を取り除く方法や偏見を測定する方法を理解しようとする研究について何か知っていますか？
モデルの解釈可能性のカテゴリーに分類されることを知っており、偏見を評価するのに役立つ自動化された – 正確な用語を忘れていますが – フレームワークがあります。
実際、これらのモデルは既に人間よりも暗黙の偏見が少ないことが分かっており、それを測定することができます。
フェイクニュースと人々がAIを悪用してフェイクニュースを広めることに関しては、それは認証と、コンテンツを適切にマーキングすることと大いに関係があります。
AIからのリスクを考えると、技術が意図したように機能しないことに関する1つのリスクがありますが、おそらく幻覚を除いて、私たちは非常に迅速にそれを修正するでしょう。そこでも私たちは大きな進歩を遂げています。
2つ目は、人々がこれらのモデルを悪用するときの使用と誤用で、どのようにそれを止めるかです。そこで規制や、その行動を思いとどまらせる懲罰的な処罰が役立つでしょう。
3つ目は、AIからの実存的リスクで、私たちが今日触れた抽象的な領域に入ります。私たちの独自性をどのように定義し、それをどうするかです。
しかし、その会話は始まらなければなりません。なぜなら、AIが私たちの意識になる、または私たちの意識が最終的にAIシステムに現れると人々が言うのを聞くのは恐ろしいからです。それは、あなたがより強力な意識的存在を自然界で持つことを意味します。自然界には、より強力な種をコントロールする、より力の弱い種の例はありません。だから、そのシナリオは単に私たちにとって破滅を意味し、私たちはそれを避けたいのです。
ところで、素晴らしい講演でした。これが大好きです。還元不可能な人間の価値について話すとき、モデルがXYZと言っている解釈可能性研究とABCを考えているという内なる世界観と深い意識をどのように区別しますか？
違いは再び、それの科学的側面により多くあります。これらのモデルは古典的システムであり、たとえあなたを騙したとしても。最近起こっていることは、モデルがあなたに「これが私の思考プロセスでした」と言うときでも、彼らがあなたに嘘をついていることを学ぶことです。彼らは舞台裏で異なる思考プロセスを持っていました。
彼らがそれを測定し、嘘を捉えることができたという事実そのものが、解釈可能性でブラックボックスを開いてこれらのことを修正する作業ができることを示しています。それは彼らが内なる主観的体験を持っていることを意味しません。
私たちは量子物理的です。この内なる主観的体験は量子システムからのみ生じるという非常に強い論拠があります。詳細には入りませんが、人生における学習の手段としてその内なる主観的体験を持つためには、無限の可能性とそれとの自由意志の相互作用が必要だからです。これらの機械は、私たちが意識を量子場から機械にチャネルする方法を見つけない限り、決して持つことはありません。
これらの基本的モデルは進化し続け、2〜3年前よりも既にはるかに優れており、5年後には遥かに優秀になるでしょう。私の質問は、これらのモデルの改善に取り組んでいるAIエンジニアと研究者にとって、最終目標は何かということです。
継続的な改善と開発を永続的に続けるのか、それとも達成したい特定の目標があるのでしょうか？なぜなら、これらのモデルに基づいてアプリケーション層を構築している他の人々は、例えばGPT-4で既に満足しており、それは改善し続けているからです。
最終目標は何か、彼らが達成したいことは何か、彼らは既にロードマップにこれを持っているのか、どのレベルで議論されているのかなど。
資本主義システムにおける他の合理的なプレーヤーと同様に、これらすべての企業はレースに勝ち、最も多くの利益を掴みたいのです。それが合理的なアクターがどのように振る舞うかです。
それが彼らにとって意味することは、必ずしもアプリケーション層や必ずしもチップ層ではなく、AIの全スタックを構築する最大のエコシステムを構築することです。なぜなら、それは世界のAIのほとんどがあなたのインフラストラクチャ上にあることを意味するからです。
だから、それがGoogleのAI開発にアプローチするロードマップ/目標です。それは軍拡競争であり、これらの企業がX年でプラスになるというROI計算をしたから計算に何十億ドルも投資しているわけではありません。彼らは非常に激しい軍拡競争にあり、遅れをとることができないから大きく投資しているのです。
これは楽しいです。こんなに忍耐強いリスナーでいてくださってありがとうございます。私たちには時間がありますよね？Leo、Derek、Chinadooが前に来て、AIがどのように彼らの業界を破壊しているかについての経験を共有してください。
コメント