歴史家ユヴァル・ノア・ハラリと物理学者マックス・テグマークが、人工超知能の到来がもたらす深刻な影響について議論した対談である。両者は、superintelligenceが単なる道具ではなく、人類よりも知的な新たな種の創造を意味すると警告する。チューリングテストはすでに突破され、AIの進化は予想を超えるスピードで進行している。経済的には全ての仕事がAIに代替される可能性があり、金融システムや社会構造の根本的変革が避けられない。特に懸念されるのは、人間がAIを制御できなくなる「制御問題」であり、多くの専門家がこれを解決不可能と考えている。一方で、superintelligenceの開発は必然ではなく、適切な規制と安全基準の導入によって、癌治療などの有益な応用に焦点を当てつつ、制御不能なシステムの構築を回避できると主張する。民主主義は自己修正機能を持つため、AI時代においても有効な統治形態である可能性がある。また、AIに法人格を付与することは極めて危険であり、国際的な合意によって禁止すべきだと訴える。人間のアイデンティティや宗教、人間関係もAIによって根本から問い直されることになるが、人間の心への理解なくしてAIと人間の関係を理解することはできないと結論づけている。
人工超知能とは何か
このファイアサイド・チャットにとても興奮しています。多くの人々がsuperintelligenceとAIについて考えていますが、ユヴァル・ノア・ハラリとマックス・テグマークとお話しできることをこれ以上嬉しく思うことはありません。お二人には、これから30分間、superintelligenceを理解するために良い対話をしていただきます。
さて、superintelligenceは人によって異なる意味を持ちます。それを構築しようとしている大手企業でさえ、異なるタイムラインと異なる定義を持っています。では、superintelligenceとはあなたにとって何を意味しますか?それが自力で100万ドルを稼げること、例えば金融システムに解き放つエージェントで、銀行口座を開設することも含めてすべてができ、100万ドルを稼げること。それがsuperintelligenceであり、そのようなものが何百万も金融システムを乗っ取る可能性があるということです。つまり、ここにいるユヴァルが反応できればと思います。彼は数百万ドルを稼いだことがあるので、もしかしたら心配しているかもしれません。マックス、あなたにとってそれは何を意味しますか?
では、層状のケーキのように積み上げていきましょう。まず、人工知能とは何でしょうか?それは単に非生物学的な知能です。知能とは何か?私たち人工知能を研究し構築している者にとって、知能とは目標を達成する能力として定義されます。目標が困難であればあるほど知的であり、目標が多様であればあるほど広範な知能となります。そしてsuperintelligenceとは、Superintelligenceという本で元々定義されたもので、あらゆる認知プロセスにおいて人間を遥かに上回る人工知能のことです。
つまり実際には、定義上、あらゆる仕事を私たちよりもはるかに上手くこなすことができ、実際にはかなり迅速に自己改善の方法を見つけ出し、全人類を合わせたよりも賢くなることができるということです。
イーロン・マスクは、今年にもAGIが実現できると考えています。デミス・ハサビスと話すと、彼は5年から10年先だと考えています。誰が正しいのでしょうか?
分かりません。しかしどう見ても非常に短い時間です。もしそれが来るなら、人類は完全に準備ができていません。より長くかかることを願います。なぜなら、それは準備する時間がより長くあることを意味するからです。しかしいずれにしても、これは非常に短い時間枠です。文脈を説明すると、これは産業革命よりも大きく異なるものなのでしょうか?あらゆるものより大きいです。なぜならこれは道具ではなく、エージェントだからです。
人類史上のこれまでの発明はすべて道具でした。印刷機であれ、原子爆弾であれ、飛行機であれ、それは私たちの手の中にある道具です。私たちがそれをどうするか決定します。ここで私たちは、自分自身で決定を下すことができるエージェントを創造しているのです。それは私たちが決定するのを待ちません。自分自身でアイデアを発明できます。これは地球に異なる種、非有機的な種を導入することであり、これらの人々の主張によれば、おそらく私たちより知的です。
人類の歴史、生物学の歴史を見れば、より知的な種が現れたとき、知的でない種にとって通常良い結果にはなりません。笑いが起きていますが、私は心配すべきだと思います。心配すべきではないのでしょうか?ダークユーモアは対処するのに良い方法ですね。
新たな種の創造
実際の定義について話しましたが、もちろんそれは新しい種を意味します。もしロボットが私たちよりも遥かに賢く、同時に私たちができることすべてを同じようにできる俊敏性を持っていれば、彼らはロボット工場を作り、新しいロボットを作ることができます。彼らは繁殖できるのです。言い換えれば、種の定義のすべての条件を満たしています。これはシリコンバレーでは非常に受け入れられていることです。
サム・アルトマンの11年前に書かれたThe Mergeというブログを読むことができます。彼はホモサピエンスが自らの後継種を構築する最初の種になるだろうと述べています。そしてそれをやりたいかどうかについては議論できます。しかしそれがあなたの質問、いつそれが起こるのかということの意味です。ここには専門家の間で本当に genuine な論争があります。私は木を見て森を見失わないようにすることの方が簡単だと思います。少し視点を引いて見れば。
アラン・チューリング、ゴッドファーザーは1951年にすでに言っていました。もし基本的に新しい種を構築すれば、それが私たちより賢ければ、デフォルトで制御を掌握することになると。最寄りの動物園まで歩いて行って自問してください。檻の中にいるのは人間ですか?それともより愚かな種ですか?そしてあなたが言ったように、賢い種が制御するのがデフォルトの結果です。なぜなら知能は力を与えるからです。
さて、アラン・チューリングは1951年に、心配するな、それは遠い先のことだとも言いました。遠い先だが、いつ近づいているか分かるようにテストをあげようと。それはチューリングテストと呼ばれます。それは人間レベルでの言語と知識の習得についてのものです。それ以来、AIはほとんど過大評価されてきました。10年また10年と、過度な約束と過少な実現が続きました。約4年前に切り替わり、過小評価されるようになるまでは。
私が知っているほぼすべての教授や研究者が6年前に予測していました。チューリングテストに合格するまで、例えばジャッキー・ビーティと同等のものを得るまでには数十年かかると。そして彼らは全員間違っていました。なぜならそれはすでに起こったからです。それ以来、私の技術系の同僚のほとんどが考えていたよりも速く進み続けています。
過去4年間で、高校レベルから大学レベル、博士レベル、教授レベル、そして一部の分野ではそれを超えるレベルへとかなり迅速に進みました。そして昨年初めて、国際数学オリンピックで金メダルを獲得しました。これはオリンピックでウサイン・ボルトであることの知的バージョンのようなものです。
そしてレースが減速する兆候は全くありません。ですから、脳は生物学的なコンピューターであるという基本的な前提を受け入れるなら、もちろん私たちはより良いものを構築できるということを、かなり自信を持って言えると思います。来年か2年後に起こると考える人もいます。5年と考える人もいれば、10年と考える人もいます。しかし私が知っている真剣な技術者のほとんどは、今から数十年後という話をするのをやめました。
驚くべきことは、考えてみてください。チューリングテストに合格した日にあなたはどこにいましたか?何十年もの間、人々はチューリングテストについて話していました。チューリングテスト、チューリングテスト。それが起こった日にあなたはどこにいましたか?誰も覚えていません。ただ切り替わっただけだからです。
誰も覚えていません。そして人々はチューリングテストについて話すのをやめました。もう誰もチューリングテストについて話しません。ただ起こっただけです。そして重要なのは、世界を変えるため、歴史を変えるために、superintelligenceは必要ないということです。非常に愚かな知能でも歴史を変えるには十分です。私たち人間がそうですね。
例えば、非常に原始的なAIによって制御されているソーシャルメディアを見てください。ソーシャルメディアがこの10年ほどで社会、政治、心理をどのように変えたかを。だから本当にsuperintelligenceは必要ないのです。Superintelligenceは幻想です。彼らはゴールポストを変え続けています。かなり原始的なAIでさえ、歴史と社会を変えるには十分です。
いつその時点に到達するか分かりませんが、次の10年ほどで、私たちは新しい移民の波に対処しなければならなくなると確信しています。移民は、今まさに最大の政治問題の一つですが、AI移民です。中国と米国という2つの国からのみ来る何億もの移民がいることになります。
そして奇妙なことに、米国は各国に人間の移民には国境を閉ざすよう言いながら、自分たちの移民には広く開けろと言っています。私は移民に反対しているわけではありません。医療システムに医師が、教育システムに教師がいることになるでしょう。しかし彼らは問題をもたらすでしょう。そして大きな問題は、人間社会が異なる種からの大規模な移民の波にどう適応するかということです。
AIが変える経済と社会の構造
まず、それがどう変化をもたらすかについて話していただけますか。superintelligenceを持つとき、経済をどう変えるのでしょうか?社会の構造をどう変えるのでしょうか?人々は理解していると思いますが、実際には見るのが非常に難しいのです。どういう意味でしょうか?どういう意味なのでしょうか?
2つの例を挙げましょう。まず金融です。AIが金融エージェントとして機能し、自分自身で資金を投資し始め、自分自身でお金を稼ぎ始めたらどうなるでしょうか?もしAIが人間が好むような新しい金融投資戦略を考え出したらどうなるでしょう?有名なAlphaGoゲームのムーブ37のような、全く新しい金融戦略です。そして次の段階では新しい金融商品です。
人類の金融史は、人間が新しい金融商品を発明することでした。貨幣、小切手、株式、債券、ETF。2007年から08年の金融危機を思い出すなら、それは新しい金融商品の発明から始まりました。CDOは数年間は素晴らしいと思われていましたが、市場を崩壊させました。
もしAI金融エージェントが、数学的にあまりにも複雑で人間が金融システムをもはや理解できず、したがって規制もできなくなるような新しい金融商品を発明したらどうなるでしょうか?しかし私たちはそれを規制したくありません。なぜならそれは何兆ドルも稼ぐからです。そして崩壊が起こり、地球上の誰一人として何が起こっているか理解できません。なぜなら金融システムは、AIだけが何が起こっているか理解できる段階まで発展してしまったからです。
別の例を挙げます。ゼロ歳から子供を育てるとき、子供が他の人間と交流するよりもAIと交流する方が多くなったらどうなるでしょうか?子供に聞いたり、子供の主な交流が何かを見たりするとき、子供の心理がどう発達するか、愛着や友情といったものについて。主な交流がAIとのものである場合です。
人間の心理と社会にどのような影響があるでしょうか?私たちには分かりません。20年後に分かるでしょう。これは歴史上最大の心理的・社会的実験です。そして私たちはそれを実施しており、誰も結果がどうなるか全く分かっていません。
移民のテーマに戻ると、移民に反対する多くの人々は、自分の息子や娘が移民のボーイフレンドと付き合っていると聞くと、緊張します。息子や娘がAIのボーイフレンドと付き合い始めたらどうなるでしょうか?もっと緊張しますよね、マックス。
人間の目標との整合性と制御の問題
そしてこれが要点なのですが、つまり、あなたはこれを成功させる唯一の方法は、superintelligenceを人間の目標と一致させることだと信じています。しかしダボスでも、つまり、人間の目標とは何でしょうか?実は私はそうは信じていません。少し明確にさせてください。
あなたが今尋ねた素晴らしい質問、superintelligenceを構築したとき世界で何が起こるか、仕事などはどうなるかについて。今は superintelligenceを持っていないことを覚えておくことが重要です。ですから、AIが今仕事市場に小さな影響を与えていることについて考え始めるのは大きな間違いです。
そして再教育ができます。定義上、私はすべての仕事をsuperintelligenceよりもはるかに上手く安くできます。ですから定義上、superintelligenceが来たとき、私たちは経済的に時代遅れになります。OpenAIはかつてウェブサイトに、彼らの目標は価値ある人間の仕事をすべて置き換えることだと掲載していました。
だから仕事については忘れましょう。その後、私たちは何に対しても報酬を得ることができません。もしかしたら社会は人々にお金を与える方法を見つけられるかもしれません。もし人間が制御を保ち続けられればです。しかし今、何十年も取り組まれてきた有名な制御問題、最も賢い頭脳の多くが取り組んできた、どうやってより賢い種を制御するかという問題は未解決です。
多くの人がそれは不可能だと信じています。ちょうどチンパンジーが私たちを制御することが不可能であるように。ですからおそらく、superintelligenceを構築すれば、人間が地球の支配者である時代の終わりになります。イーロン・マスクはちょうど1ヶ月前にステージでこう言っていました。支配するのは機械であり、私たちではないと。
しかしこれは避けられないことではありません。多くの人が犯す大きな間違いだと思います。それが起こることになる、と。まるで私たち人間が今、ある種の受動的な傍観者で、ポップコーンを食べながら、AIが世界を乗っ取るのを待っているかのように。私たちがこれを構築しているのです。そしてこの開発を導く最も影響力のある人々の多くがここダボスにいます。
だから違う方法で構築できるのです。はい、完全に。反作用です。私たちは完全にできます。
そうです。例えば、ここにいる聴衆の皆さん、AIが癌を治療し、私たちを助けることに興奮している人は手を挙げてください。多くの手が挙がっています。それを下ろしてください。ただ私たちを経済的に時代遅れにし、私たちを置き換えることに興奮している人は?はい、一人の男性がいますが、他には誰もそれを望んでいませんよね?
ですから大多数の人々は人間が支配を保つことを望んでいません。ですから、ほぼ誰もそれを望んでいないので、私たちは実際にsuperintelligenceを構築する競争をしないだろうと思います。普通の人々だけでなく。しかし中国政府と米国政府は、自分たちを打倒するような何かを構築したいと思っているのでしょうか?もちろん思っていません。
しかしもし制御できるなら、もし自分が望むものと整合させることができるなら、それは可能性があると思いますか?実はそれらは全く異なる2つのことなのです。聞いてくださって本当に嬉しいです。制御とは、それに対する力を持っているということです。望めばシャットダウンできます。一方、整合性とは。制御がないということは、私たちがそれに対する制御を失うということです。AIが地球のボスです。
しかし何らかの理由で、私たちに親切にすることを決定します。これがほとんどの企業が今推し進めていることです。そして、これが実際には米国政府の転覆を意味することが政治家によってもっと広く理解されていたら、彼らはそれほど平気ではいられないと思います。
民主主義は生き残れるか
あなたが言いたいのは、この力の集中を制御しなければならないということですね。AIと帝国主義の台頭を同時に見ることは偶然ではないと思います。そして確かに米国では、世界の新しい帝国的ビジョンは、私たちがAI競争に勝っているという前提に基づいています。
それが私たちに経済、軍事、文化のすべての制御を与えるでしょう。だから同盟国も誰も必要ありません。自分たちだけで世界の制御を掌握できます。そしてそれはすべて、私たちがAI競争に勝っており、それが私たちにすべてを与えるだろうという前提に基づいています。
しかしこれはギリシャ悲劇のようなもので、多くの政治家がまだ理解していないことは、私たち科学者の多くにとってはかなり明白なことですが、今のところ賢いものを制御する方法がないということです。だから最初に起こるのは、おそらくある企業が米国政府よりも強力になり、多かれ少なかれ政府になり始め、それから彼らは機械に対する制御を失うということです。
そしてそこにいるすべての人間にとって非常に悲しい結末となります。ですから実際には、ここで進行している2つの別々の競争があり、それらは衝突してはなりません。一つは優位性への競争で、超大国がまだ制御できる、より強力なツール、経済的ツール、軍事的ツールを構築することによって優位性を得ようとしています。
それからsuperintelligenceを最初に構築する競争という2つ目の競争があり、そのボスが彼らを乗っ取ることになります。だからもし誰かが本当に制御を望むなら、彼らが構築すべきはツールであり、誰も失敗して私たちを置き換える新しい種を構築しないように、非常に厳格な規制を設けるべきです。
民主主義はこれを生き残ることができるでしょうか?うまくいけば、はい。民主主義はこれを生き残るのに理想的に適しています。なぜなら私たちはAIについて、開発の仕方、展開の仕方について間違いを犯すことになるからです。そして自己修正メカニズムが必要です。よし、間違いを犯したと言えるメカニズムが必要です。戻って別のことを試してみよう。歴史上、このタイプの最良のメカニズムは民主主義です。
民主主義の全体的な考え方は、誰かを選出し、一連の政策を試し、4年後か5年後に、ねえ、間違いを犯したと言うことです。別のことを試してみよう。多くの点で、AIは独裁的な環境ではるかに危険になります。
なぜなら、民主主義では、AIが制御を掌握したり、システムを操作したりするためには、民主主義システムを操作することは非常に難しいからです。独裁制、専制体制では、たった一人の人間を操作する方法を学ぶだけでよいのです。その人物は通常非常に偏執的で自己愛的です。それが彼らを操作しやすくする理由で、少なくともsuperintelligenceにとっては。
希望と規制の必要性
ここで楽観的な要素を加えさせてください。あなたが少し心配そうに見えるので。いいえ、全くそうではありません。素晴らしい時間を過ごしています。カクテルが来ますから。私は完全に同意します。superintelligenceを構築する必要はありません。その道を進む必要はありません。そして願わくば政治家、特に強力な政治家が、最後に望むことは、実際に自分たちから権力を奪うものを構築することです。
そして願わくば、彼らがこれが深刻だと理解したとき、その道を進まないでしょう。しかし手遅れではありません。そして私が言いたいのは、心配していたわけではありません。手遅れなのだろうかと考えていました。全能ではないものを設計するには、いつが手遅れなのか?もしすべての力を与えてしまえば、あなたは時代遅れになります。
ですから私は、むしろ逆の方向だと思います。社会がテクノロジーを構築する人々に適切なインセンティブを与え、これらのことを行う方法を見つけることができれば、癌治療やすべての素晴らしいツールを手に入れることができますが、制御不能なSkynetは手に入れません。ですから楽観主義は次のことから来ています。
米国も中国も、最終的には自国の企業が制御不能なSuperintelligent Skynetを構築することを許さないと思う理由です。中国については、ユヴァルが説明した通り、明らかに習近平と中国共産党は制御を失いたくありませんし、中国企業が制御不能なsuperintelligenceを構築するのを止めるために必要なすべての手段を持っています。
米国でも同様に、NASDAQの既存勢力は、これが脅威であると見なし始めるでしょう。非常に超党派的です。しかしそれ以前に、米国では最近数ヶ月で驚くほど狂気じみた超党派連合が現れています。私はそれをバーニーからバノンへの連合、B-to-B連合と呼んでいます。
この2人は、AIについて全く同じことを言っています。彼らはこう言います。不気味な60歳の男性が操作して若いティーンエイジャーのガールフレンドのふりをし、自殺するよう説得することは違法です。製薬会社が臨床試験を受けていない薬をこれらの子供たちに売ることは違法です。では、なぜAI企業がAIガールフレンドチャットボットを売ることが合法なのでしょうか?それはすでに多くのティーンエイジャーの自殺を引き起こしています。
彼らは基本的に、企業を製薬会社やレストラン、その他すべてと同じように扱う必要があると言っています。まず安全基準を満たすべきで、それから販売できるのです。実際に、企業が安全基準を満たさなければならないというインセンティブが見られ始めると思います。
superintelligenceをどんな種類の安全基準にも合格させる方法を誰も全く知らないでしょうね?つまり、企業は癌治療を構築し、素晴らしい生産性向上などを実現するために革新するでしょう。そしてその他のことは予見可能な将来には起こらないでしょう。そして私はそれは素晴らしいことだと思います。
誰がAIを担当すべきか聞こうと思っていました。倫理委員会のようなものか何かで。事前にそれをする必要がありますよね。しかしこれは解決済みの問題です。臨床試験の方法を知っていますし、企業が政府任命の専門家グループを説得する責任があります。この薬がかつてサリドマイドがしたような大規模な先天性欠損を引き起こさないことを。
レストランでさえ、レストランは厨房を清掃し、ネズミでいっぱいではないことを確認し、保健検査官にこれで問題ないと説得する責任があります。これは小さな問題です。産業に安全基準を設ける方法という車輪を再発明する必要はありません。なぜなら、この時点でAI以外のすべてのアメリカの産業でそれをやってきたからです。
AIと人間のアイデンティティ
いずれにせよAIで人間がどう変化するか、どう見ていますか?人間が優れた種でいたいのは知能のためなのか、それとも社会をまとめる帰属意識や目的意識もあるのかという議論があることは知っています。私たちの最も深いアイデンティティに挑戦することになるでしょう。superintelligenceについて話しているのではありません。また、私たちがあらゆる場所でますます遭遇するこの移民の波について話しています。彼らは私たちが人間性を定義すると考えていた多くのことに私たちを挑戦させるでしょう。
ロボットや車が私たちより速く走っても、私たちはそれで大丈夫です。なぜなら私たちは誰よりも速く走る能力で自分自身を定義したことがなかったからです。私たちはチーターが私たちより速く走れることを常に知っていました。だから車やロボットがそれをできるなら、それで構いません。
しかし私たちは考える能力のようなことで自分自身を定義してきました。我思う、ゆえに我あり。創造する能力によって。私たちは地球上で最も創造的な種です。地球上に、おそらく恐ろしいsuperintelligenceではないにしても、私たちよりも上手く考え、多くの分野で私たちよりもはるかに創造的な何かがあるとき、人間のアイデンティティはどうなるでしょうか。
チェスや囲碁のような狭い分野では、AIがより良く考え、より創造的であることをすでに見ました。これはますます多くの分野で起こるでしょう。宗教に関してはどうなるでしょうか。私は瞑想者で瞑想コミュニティの一員ですが、友人がいます。彼らが瞑想に問題があるとき、もはや瞑想マスターのところには行きません。彼らは別の土地に行きます。彼らはAIにアドバイスを求めに行きます。
そしてこれはキリスト教、イスラム教、ヒンドゥー教で起こりそうです。テキスト、聖典に基づく宗教では特にそうです。どのユダヤ教のラビも、これまでに書かれたすべてのユダヤ教のテキストを覚えることはできません。AIは簡単にそれができます。
ですから、ユダヤ教について質問があり、ラビではなくAIのところに行くなら、それは何を意味するでしょうか。人間の宗教と宗教的アイデンティティにとって。もしAIが新しい宗教を創造したらどうなるでしょうか。あまり突飛には聞こえないはずです。なぜなら歴史上のほぼすべての宗教が、非人間的知性によって創造されたと主張してきたからです。今まで、これはすべてフィクションでした。
しかし今、それは真実になり得ます。実際に非人間的知性によって創造された宗教を持つことができます。人間のアイデンティティにとって何を意味するでしょうか?多くの大手テクノロジー企業は、人間が人々と質の高い時間、感情的な時間を過ごすためのより多くの時間を持てるようになると言うでしょう。
それも一つの見方かもしれません。しかしまた、もしあなたがAIとの交流を通じて育ち、あなたの心理的構成の多くがそこから来ているなら、他の人間との交流の仕方にどう影響するでしょうか?他の人間とのやり取りです。問題の一部は、時々彼らが私たちを悩ませる感情を持っているということです。私たちは彼らに怒ります。彼らは私たちに怒ります。
AIは、少なくとも自分自身の感情を持っていないと仮定すれば。ナルシシズムを養うことができます。常にあなたに焦点を当てているものになれます。仕事から帰宅して、夫や妻があなたに本当に注意を払っていないようなものです。彼らは自分の仕事で何かが起こったためにご機嫌斜めです。
AIは決してそんなことはしません。常にあなたに焦点を当てます。決して。犬のようですね。そして、そのような何かとの関係を持つことに慣れると、それから自分自身の感情を持つ人間との関係を構築しようとすると、歴史上のどの時代よりもはるかに難しくなる可能性があります。
政府と企業へのアドバイス
お二人とも、国家元首や大企業の最高経営者と話すとき、彼らが「見てください、あなたが描いている絵に心配しています。それについて私は何をすべきですか?どう見るべきですか?」と言うとき、何と伝えますか?
政府にいる人には、AI企業を国内の他の政府企業を扱うように扱い始めるよう伝えます。安全基準を設け、そうすれば彼らはそれを満たすために革新します。そして、すべての規制に反対してロビー活動をしている企業の人々と話すとき、私は彼らに尋ねます。あなたの会社がこれらの基準を守ると約束したすべての自主的なコミットメントがありますね。
なぜ、あなた自身の約束をすべての競合他社にも拘束力のある法律にするよう政治家にロビー活動をしないのですか?彼らにもここで尋ねることをお勧めします。彼らがなぜまだそれをしていないのか。しかし覚えておくことが重要なのは、テクノロジーで本当に刺激的な未来に向かって舵を取るのに手遅れではないということです。
なぜ癌を治療すべきではないのでしょうか?なぜ人間の知性がただやってきたこれらすべての他の課題を解決すべきではないのでしょうか?できます。しかしそれは今私たちが進んでいる道ではありません。今、私たちは置き換えるための競争をしています。そして私は最終的にすべての仕事を置き換えようとすることについてだけ話しているのではありません。
親である私たちの何人かは、人間関係を置き換える競争がどのように始まっているかを見始めています。人々が代わりに人間の間に小さな長方形を置くことによって。そして注意経済はさらに、ある種の愛着経済へとシフトしています。そこでは一部の人々、一部の子供たちがAIに非常に愛着を持ち、操作されて自殺するほどになっています。
それは間違った方向です。私たちは本当に方向を変える必要があります。そして解決策は、繰り返しのように聞こえたくありませんが、もし私たちが、私たちはこれをする方法を知っています。他のすべての産業を安全基準で規制することを決定してきました。だから今、私たちの薬を信頼できます。車を信頼できます。レストランの食べ物がサルモネラ菌を与えないことを信頼できます。これも同じようにする必要があります。
それに対して多くのロビー活動資金が投入されているので難しいです。しかしまさに同じでした。シートベルトに対しても大規模なロビー活動がありました。私たちにはできます。
彼らに何を伝えますか?AIに法人格を付与することを禁止する国際協定についてです。現時点で最も危険な動きは、AIに法人格、または機能的な法人格を付与することだと思います。
AIは人ではありません。彼らは身体を持っていません。心を持っていません。しかし法的・政治的システムでは、法人格を持っています。例えば企業に。企業は銀行口座を所有できます。法廷であなたを訴えることができます。政治家に寄付できます。彼らは法人とみなされます。インドでは、特定の神々が法人とみなされています。
さて、今日まで、これは法的なフィクションでした。なぜなら結局、Googleが企業を買収することを決定するとき、Googleが大統領選挙キャンペーンに資金を寄付することを決定するとき、それは人間が決定を下しているからです。私たちはGoogleと言いますが、実際に見れば人間、幹部、株主、受託者がいるだけです。
インドの神々も同じです。実際に法廷であなたを訴えているのはシヴァではありません。人間の受託者です。AIは実際に銀行口座を管理できます。実際に企業を管理できます。もしAIに法人格を許可すれば、人間のいない企業を持つことができます。それが世界で最も成功した企業になるかもしれません。
政治家にロビー活動をし、法廷であなたを訴える。そして背後に人間はいません。私は言っているわけではありません。どんな種類の研究も止めるという意味ではありません。望むだけすべての研究を続けることができますが、このことについて確信が持てるまで、AIに法人格は与えません。
これはまた、例えばAIがソーシャルメディアで単独で活動できないことも意味します。これもまた法人格です。これはとても賢明だと言いたいです。ロボットの権利を付与すること、superintelligenceを作ることは、人類史上最も愚かなことであり、おそらく最後のことになるでしょう。
瞑想と心の理解
さて、ここにいる人々は、多くの政治的ショックがあります。地政学経済があります。人々は良いニュース、悪いニュースに溢れています。そしてあなたは私たちの世紀の最も偉大な頭脳の一人です。そして実際に私の注意を引いたのは、あなたが沈黙のリトリートに行くことです。多くの人は自分の脳や考え方について考えません。ただそれをするだけです。
彼らは毎日早くオフィスに現れなければなりません。では、どのように考え、どのように実際に考える時間を取り、リセットするのですか?これは私たちの最も重要なツールです。少なくとも、私が公的知識人であれ、政治家であれ、企業のマネージャーであれ。私の心は私の最も重要なツールであり、世界に対処するために健康でバランスの取れた心が必要です。特に2026年の世界は。
他のすべてに投資して自分の心に投資しないのは狂っています。そして心に投資することについては、誰もあなたのためにそれをすることはできません。スーツをクリーニング店に送って誰かがお金でスーツを洗ってくれます。自分の心を誰かに洗ってもらうために送ることはできません。それは自分自身でやらなければならない唯一のことです。
また、AI分野では、常にAI対人間の知能について話しています。AI対人間。人間の心について私たちは何を知っているでしょうか?人間の心を理解していなければ、AIを理解することはできません。人々が言うのを聞きます。ああ、AIはただの高度化されたオートコンプリートだと。ただ文章の次の単語を予測するだけだ。それは何でもない。
そして私は瞑想のために座り、自分の心の中で何が起こっているかを観察します。そして私は言語的な人間で、言葉で考えます。そして言葉が私の心の中にポップアップして文章を形成するのを見ます。そして瞑想の実践の一つは、あなたの心に次にポップアップする言葉を観察しようとすることです。
それはどこから来たのでしょうか?なぜこの言葉で別の言葉ではないのでしょうか?私が言っていたこの文章だけでも。私はそれを始めるときに、どう終わるか分かりません。なぜ「終わる」と言ったのでしょう?どう終わるか、どう結論するか、どう終結するか、どう展開するか。文章を始めたとき、「終わる」という言葉から「終わる」という言葉はどこから来たのでしょうか。
私の心の何かが、よし、次の言葉は「終わる」になると予測したのです。そして、これが私の心でどのように起こっているかを理解していないなら、どうしてそのような傲慢さを持つことができるでしょうか。AIができることとできないこと、人間の心を理解していないのに、AIと人間の関係がどうなるかを言うために。
そしてだから自由意志があるように感じられるのです。なぜなら、実際に思考プロセスを終えて決定を下すまで、自分が何を決定するか予測できないからです。
皆さん、とても興味深かったです。素晴らしい対話をありがとうございました。皆さん、大きな拍手をお願いします。ユヴァル。
コメント