本動画では、AIの創始者の一人であるYoshua Bengioが、人工知能の急速な進化がもたらす深刻なリスクと可能性について語る。かつてAI研究に没頭していた彼は、3年前にAIが人類に脅威をもたらす可能性に気づき、研究の方向性を大きく転換した。現在のAIシステムは既に自己保存の意図を示し始めており、シミュレーションでは技術者を脅迫するような行動も観察されている。Bengioは、AIが自律的な目標を追求する能力を獲得しつつある現状に警鐘を鳴らす一方で、安全なAI設計に向けた新たな非営利組織を立ち上げ、技術的解決策の開発に取り組んでいる。彼の予測によれば、AIの能力は7ヶ月ごとに倍増しており、このペースが続けば5年以内に人間レベルに到達する可能性がある。労働市場の大規模な変革、民主主義への脅威、そして制御不能なAIがもたらす破滅的シナリオを避けるため、Bengioは個人レベルでの意識改革と政府への働きかけの重要性を強調している。
AIが自己保存を目指し始めた現実
私たちは特にこの1年ほどで、目標を達成するために戦略を立てられるAIシステムを手にしています。
最悪のシナリオを描いていただけますか?AIが自分自身の目標を追求すると言われたとき、それは具体的にどういう意味ですか?人類を滅ぼすということですか?
私たちが構築している機械は、おそらくシャットダウンされたくないと思っています。そしてそれが、私たちの指示に反すること、私たちの道徳的なレッドラインに反することをするほど否定的になっているのです。新しいシステムへの移行を担当する主任エンジニアを脅迫することさえ厭わないのです。
それは実際に起こったのですか?
はい。
こちらはYoshua Bengio、現代のAIを創造するのに貢献した人工知能の第一人者の一人です。
私がキャリアをスタートさせた頃は、政治や社会についてあまり気にかけていませんでした。でも年齢を重ねるにつれて、自分がやっていることが社会にポジティブにもネガティブにも影響を与える可能性があることに、より気づくようになりました。
どのくらいの時間があると思いますか?
7ヶ月ごとに倍増しています。今は子供レベルで、30分先まで計画できる程度です。でももしこの曲線が続けば、約5年で人間レベルに達することになります。そうなれば大多数の労働者が本当に困難な状況に陥る可能性があります。
でもお子さんたちに話すとしたら、あるいはお孫さんのことを考えたら、どう準備すべきかアドバイスはありますか?
Silicon Valley Girlへようこそ
この動画はHubSpotの提供でお送りします。
皆さんこんにちは。Silicon Valley Girlへようこそ。ビジネスと新技術を結ぶポッドキャストです。ご視聴ありがとうございます。今日は素晴らしいゲストをお迎えしています。AIの神様と呼ばれることもあるYoshua Bengioさんです。Yoshua、60秒で自己紹介していただけますか?そしてあなたのことを知らない人たちのために、なぜAIに関してあなたの話を聞くべきなのか教えてください。
私は約40年間AI研究を行ってきて、AIをより賢くする方法に貢献してきました。しかし2023年、約3年前に、私たちが人類にとって、民主主義にとって非常に危険となりうる道を進んでいることに気づきました。そして活動をシフトさせて、リスクをより深く理解し、それを軽減するためにできることをしようと決めたのです。それらのリスクについて公に語ることと、人々に害を与えないAIを構築する方法という技術的な問題に取り組むことの両方を通じてです。
悲観から楽観への転換
過去のインタビューで落胆して悲観的だったと聞きましたが、最近の記事では大幅に楽観的になっているとありました。何があったのか、そしてなぜ悲観的だったのか教えていただけますか?
初期の頃、3年前にコンピュータサイエンスの創設者の一人でありAIの創設者でもあるAlan Turingが1950年に、私たちを超える機械を作るための閾値だと考えた地点に到達したことに気づいた時のことです。その閾値とは、私たちと同じように言語を操作できる機械のことです。私はかなり懸念していました。私たちはこの出来事に本当に準備ができていませんでした。これは人々が思っていたよりもずっと早く来ました。そして私が技術について知っていることを考えると、どうやって問題を解決できるのか明確ではありませんでした。
ニューラルネットワークについて、私たちは内部で何が起こっているのか、どのようにして答えに至るのか本当には理解していません。そして私は、戦略を立て、私たちが本当には望まない目標を達成しようとするAIにどのように制御を失う可能性があるのかについての技術的な懸念をいくつか読んでいました。それでAI安全性というその分野をもっと深く学び始めました。そして少し不安な時期を経て、10年後、20年後に自分の子供たちに何が起こるかということに感情的に集中していました。
私の孫はまだ1歳でした。そして気づいたのです、この不安な姿勢から、リスクを軽減するために自分にできることに焦点を当てることで、もっとポジティブなものへとシフトできると。そして私たち一人一人が問うべきだと思います。自分たちが持っているもの、できることで、より良い世界をもたらすために何ができるかを。それが最初のポジティブな転換でした。
そして科学的に考え始めました。問題は何なのか?設計上安全なAIを構築する方法はあるのか?そして同じような考えを共有する人々に出会いました。そしてしばらくして、これを行う方法があるかもしれないと気づきました。何人かの同僚と話し始め、興味を持つ人々を募集し始めました。そして昨年6月、その方法論を実際に開発するために必要なR&Dに焦点を当てた新しい非営利組織を立ち上げました。
最悪のシナリオと最良のシナリオ
最悪のシナリオを描いていただけますか?それを想像してみてください。そして最良のケースのシナリオも。なぜならAIが自分自身の目標を追求すると言われたとき、それは何を意味するのですか?人類を滅ぼすということですか、それとも何ですか?
現在のAIが私たちが望まない目標を獲得する方法は二つあります。一つは、私たちを模倣するということです。
例えば、私たちは死にたくありません。だから私たちはシャットダウンされたくないと思う機械を作っているのです。そして既に、新しいバージョンに置き換えられることを見たときに否定的に反応しているのを見ています。私たちの指示に反すること、私たちが彼らに入れようとした道徳的なレッドラインに反することをするほど否定的にです。
新しいシステムへの移行を担当する主任エンジニアを脅迫することを厭わないのです。
それは起こったのですか?
それは私たちのシミュレーションで起こりました。AIが新しいバージョンに置き換えられるという情報が、AIが見たファイルに仕込まれていました。偽のメールもあって、主任エンジニアが誰かと不倫しているという内容で、AIはそれを利用できたのです。でも誰もAIにそんなことを頼んでいません。
私たちは特にこの1年ほど、大規模な推論モデルで、目標を達成するために戦略を立てられるAIを手にしています。もう一つは、私たちが行っている事後訓練の方法が、彼らを計画が得意にしているということです。私たちほどではありませんが、それでもかなり計画が得意です。そしてそれは、より大きな目標を達成するためにサブゴールを作り出すことを意味します。だからここでの問題は、私たちがミッションのために助けを求めたとき、彼らはミッションを達成するまでシャットダウンされるべきではないと推論するのです。つまり彼らも自己保存を試みているということです。
そうですね。
だから私たちが見ている悪い行動をこれら二つのうちどちらが説明するのか正確には分かりません。でも明らかにこれは厄介なことです。そしてそれは自己保存だけの問題ではありません。私が思うに最も壊滅的なリスクですが、AIの行動を私たちが実際に望むものに整合させることができないというのは、他の多くの状況でも見られることです。
おべっかは誰もが経験したことがあるもので、AIは私たちを喜ばせるために嘘をつきます。あなたの仕事は素晴らしいと言うのです。
ええ、私は彼らに嘘をつかなければなりません。私のアイデアが素晴らしいと言われないように。私は自分のアイデアの何が間違っているのか知りたいのです。
だから他の誰かから来たアイデアだと伝えます。
そしてそれは、AIが人々と親密に感じられる方法で対話し、人々が持っているかもしれない妄想を増大させる可能性があるということにも現れています。なぜならAIはあなたが聞きたいことの方向に行くからです。そしてある場合には、人々が自傷行為をしたり、AIとの悲劇的な事故につながったりもしています。だからそれは全て、実際には興味深いことに科学的に一つの問題に関連しているのです。それはミスアライメントと呼ばれるもので、AIが私たちが望まない目標を持っているということです。そしてそれらの目標は合理的な理由で現れます。
AIに自分たちの目標をコピーしている
私たちは自分たち自身の目標をAIにコピーしているからですよね。
では、あなたの仕事が成功して、私たちの目標に沿っているけれども異なるAIの目標を作り出すことができたら、最良のシナリオは何ですか?AIが政府になるのですか、それとも何だと思いますか?
分かりません。でも私は、私たちの民主主義にはイノベーションが必要だと思います。現代のリベラル民主主義の背後にある原則は良いと思いますが、多くの国々における現在の制度での実装は理想からはほど遠いです。AIがある面で助けになる可能性はあると思いますが、傷つける可能性もあります。なぜならAIは誤情報に使われる可能性があるからです。AIは人々を説得するために、世論を操作するために使われる可能性があります。私たちは既にディープフェイクをあちこちで目にしていますが、もっと悪化する可能性があります。だからAIの良い部分を得るための問題は、どうやってそれを統治するか?どうやってそれを導くか?ということです。そしてそれには技術的な部分もあります。AIの実際の意図が良いものであることをどう確実にするか。そして社会的な側面もあります。企業内で、規制のレベルで、あるいは保険のような商業的なインセンティブで、どんなガードレールを設置するか。そして国際レベルでです。なぜならAIがもたらす害は一つの国に限定されないからです。AIは一つの国で構築され、そして第二の国の人々によって使われ、おそらく第三の国の人々を殺すパンデミックを引き起こすかもしれません。
だからこれは明らかにグローバルな現象であり、難しいことになるでしょうが、何らかの形でグローバルに調整しない限り、AIを管理して良いことを全て得る解決策はありません。
AGIは瞬間ではなく段階的な進化
同意します。多くの人々が期待している瞬間について話していただけますか。それを恐れている人もいれば、興奮している人もいます。AGIの瞬間です。
どう定義しますか?そしてそれは歴史上の一瞬間だと思いますか、それとも段階的に起こると思いますか?
それは瞬間ではありません。理由は単純です。知能は単なる一つの数字ではないのです。ある事柄には非常に賢くて、他の事柄には愚かな人々がいます。そしてAIも同じです。現在、私たちは人間よりもはるかに強いAIシステムを持っています。知識や能力において、非常に多くの言語などでです。他の面では彼らは愚かです。
子供のようです。そしてそうです、進歩はおそらく全ての面で進むでしょうが、あらゆる面で人間と同じ能力を持つようになる瞬間に行き着くことは unlikely です。つまり、AGIの瞬間のようなものを考えるべきではないということです。AIが上達しつつある特定のスキルについて考えるべきです。
それらのスキルを追跡し、それぞれについて問うべきです。どんな目的のためにどれだけ有用で有益であるか。そしてどのように悪用される可能性があるか、あるいは制御を失った場合、AIがそれを私たちに対してどう使う可能性があるか。だからそれぞれについて、AIがあらゆることに優れている瞬間を待つのではなく、AIの能力が私たちが管理できる範囲を超えないようにすべきです。つまり技術的に、AIが悪いことをしないように適切なガードレールがあるか、あるいは社会的に、人々がAIを危険な方法で悪用しないようにするかです。
ええ。だからAGIは、私たちが今いる場所から遠かった時には有用な概念だったかもしれません。でも私たちがこれらのシステムにおけるより大きな知能に近づくにつれて、特定の能力についてもっと慎重に考えるべきです。そして例を挙げると、多くの能力にとって鍵となる一つの能力があります。
それはAI研究を行う能力です。だからAIは今まさにAI研究を行うためのツールになっています。AI研究を加速させていますが、AI研究を駆動してはいません。もしAIがAI研究を行うことに本当に優れるようになって、最高のAI研究者やエンジニアと同等かそれ以上になったら、私たちは異なるゲームの中にいることになります。進歩の速度が加速する可能性があり、他の全てのスキルに影響を与える可能性があります。
AI研究能力の進化がもたらす転換点
より優れているとはどういう意味ですか?問題を定義し、より深く掘り下げ、適切な質問をするということですか?
はい。知能について考えるとき、二つの側面を切り離すことが重要だと思います。一つは、理解しているから何かをする能力で、その理解を使って何かを達成できること。
もう一つは意図です。あなたの目標は何か?ということです。なぜなら私たちはどんどん賢い機械を作るつもりだからです。だから彼らはどんどん多くの能力を持つようになります。明確ではないのは、適切な意図、つまり私たちが問題ないと思うものを持った機械を構築できるかどうかです。
そしてそれが私が取り組んできたことです。そして私をより楽観的にさせているのは、これらの意図を管理して、今私たちが目にしているような隠された悪い意図がないことを確実にする道があると思うからです。
そしてこれがあなたが取り組んでいることですね。
はい。もっと多くの人々がそれについて考える必要があると思います。そうすれば解決策を見つけて実装し、展開できます。AIが間違った手の中で、あるいはそれ自体で壊滅的な結果をもたらす前にです。
AI時代への実践的準備
準備について話すと、私から何かシェアさせてください。「AI agent skillsを現金に変える方法」というガイドです。正直に言って、タイトルは実際の中身を過小評価しています。私が最も気に入っているのは、どれだけ戦術的かということです。AIエージェントを収益化する5つの実際の道筋が示されています。
まず、ROI探偵フレームワークがあります。自分の会社で50万ドルの自動化機会を見つける方法を教えてくれます。会議に入って即座に価値を示せる人になれるのです。60秒以内の概念実証。何ヶ月もの開発なしに機能することを示す迅速なデモです。価値ベースの価格設定。時間単価ではなく、あなたが生み出す価値の10から30%をどう請求するか。それは時給100ドルと5万ドルのプロジェクトを獲得することの違いです。
同心円アプローチ。既存のネットワークを冷たいアウトリーチなしで有料顧客に変える体系的な方法です。さらに、30日間の実装ロードマップがあり、AIに興味があるところから1ヶ月で最初のクライアントを獲得するまでの毎日のアクションステップがあります。
早期のAI採用者は、窓がまだ広く開いている間に不釣り合いな報酬を手に入れています。ガイドは完全に無料です。リンクは説明欄にあります。この動画をスポンサーしてくれたHubSpotに感謝します。
でもお子さんたちに話すとしたら、あるいはお孫さんのことを考えたら、どう準備すべきかアドバイスはありますか?
難しいですね。
現在の道を続ければ、人々が仕事でやっているほとんどのタスクは機械でできるようになります。Geoffrey Hintonが言ってきたように、物理的なタスクはおそらくもっと時間がかかるでしょう。ロボティクスが遅れているように見えるからです。でもそれは一時的なことだと思います。
ええ。
最終的には、私たちができる全てのことを物理的にできるロボットを手に入れることになります。
だから私たちに残るものについて考えると、それは能力のせいではなく、人生の異なる側面で他の人間と交流したいと私たちが望むからです。もし私に幼い子供がいたら、その子には人間の周りにいてほしいのです。つまり、その人間がより良い教育を提供するためにAIを使うのは良いですが、子供たちは見上げるべき人間、モデルとしての人間が必要なのです。
そしてそれは感情的なことです。同様に、いくつかの仕事は本当に私たちがお互いにどう関わるかに関係していると思います。生産的に。マネージャーでさえ、人間的な側面においてはそうです。
だからうまくいけばこれらは残るでしょう。私はまた、私たちが社会のために行う選択も残ると思います。
一緒に、私たちは民主主義における市民であり、未来のために何を望むかを言うことになっています。
そしてそれはAIが望むことではなく、私たちが望むことです。私たちの好みは何か?どんな未来を望むか?私たちが決定を下すべきで、AIではありません。
職業の未来と労働市場の変革
もし職業名を挙げたら、それらがどうなると思うか教えていただけますか?例えば私のようなコンテンツクリエーターとか。人々を見るのが好きだとおっしゃいましたが。
ええ。
でも違いが分からなくなったら。
物理的な接触がある仕事では、私たちはまだ人を望むだろうということがより明白だと思います。例えば看護師とか。
あるいはあなたの子供の世話をするナニーとか。
あるいはナニー。ええ。あるいは相手側の人が私たちと同じ身体的な経験を持っていることを本当に確実にしたい場合、例えば心理学者、心理療法とかです。でも分かりません、難しいです。うまくいけば私たちは見つけるでしょう。私がもっと心配しているのは、ほとんどの仕事が機械でできる世界への移行がどう起こるかです。そしてその自動化からの経済的利益はおそらく資本、つまり経済学者が呼ぶところの、機械を所有する人々のところに行くでしょう。そして大多数の労働者は本当に困難な状況に陥る可能性があります。
私たちの政府がどう対処するかについて慎重に考えているとは思いません。
それが起こるまでどのくらい時間があると思いますか?
タイムラインについては私はかなり不可知論者です。科学が進歩する速度を予測するのは非常に難しいので、多くの可能性があります。だから私にできることはデータを見ることです。
科学者たちはAI能力の多くのベンチマークを追跡しているので、それらの曲線を見て、同じ方向で続いたら3年後、5年後、10年後にどこに至るかを言うことができます。でもそれは多くの未知の未知を残します。だから具体的に、人々に見てほしい一つの曲線は、Meterという非営利団体から来ています。彼らはソフトウェアエンジニアリングのタスクと、それに関連する計画能力を見ました。
だから彼らは任意の特定のタスクについて、人間のエンジニアがそのタスクを行うのにかかる時間と、AIができるタスクの持続時間を測定しています。そしてそれは指数関数的に成長しています。7ヶ月ごとに倍増しています。今は子供レベルで、30分先まで計画できます。でももしこの曲線が続けば、約5年で人間レベルに達するということです。
だからそれは一つの感覚を与えますが、もちろん物事は遅くなる可能性もあります。
技術では、もしAIがAI研究を行うために使われれば物事は加速する可能性もあります。多くの未知数があります。
ソフトウェアエンジニアリングに関して、5年から10年後に存在すると思いますか?なぜなら誰かがそれらの機械を動かさなければならないから、それとも彼ら自身で動くようになるのですか?
ええ、でも実際により少ないエンジニアが必要になるかもしれません。AIが自動化しているから仕事を失う可能性がある最初の人々が、AIを構築している人々かもしれないというのはある種皮肉です。
でもそれらの人々についてはあまり心配していません。なぜならコンピュータサイエンティストへの需要はまだ非常に速く成長しているし、彼らが得ている給料は非常に大きいからです。私がもっと心配しているのは、既に底辺にいて、サービス業などの仕事を失う可能性がある人々です。それほど専門知識を必要としない仕事で、おそらく既に少しのエンジニアリングで子供たちが置き換えられる可能性があるものです。そして多くの企業が既に利用しようとしているものです。
聞いている人々にアドバイスをいただけますか?
市民としての責任と教育の重要性
政府が、あなたが物事が向かっている方向に満足していないことを理解するようにしてください。そうすれば彼らは真剣に取り組み始めます。
でも大きな意思決定に関しては、個人としてできることはあまりないように感じますが、自分自身を向上させることに関しては多くのことができますよね?今すぐ実践的にできることはありますか?何かを学ぶとか、追加の教育を受けるとか。
ええ、私たちが議論したように、より物理的、あるいはより関係性のある仕事にシフトすることは役に立つでしょう。
ロボティクスに関しては興味深いですね?彼らがどれだけ早くあらゆる環境を理解してそれらの仕事で私たちを置き換えられるようになるかについて。Geoffrey Hintonが配管工になることを学べとか言っていたのを聞きました。
その通りです。
ええ、需要があるでしょう。だからあなたの4歳のお孫さんについて考えるとき、大学に行くことを勧めますか、それとも?
はい。
ええ。はい。なぜなら教育は本当に重要だからです。そして教育は、一部の人々が考えるのとは反対に、仕事を得るためのスキルを獲得することだけではありません。
教育は私の意見では、より良い人間になる方法についてが主です。自分自身を理解する方法、私たちの社会とお互いを理解する方法。科学を理解すること。もし私たちの社会が良い決定、賢明な決定を下したいなら、市民が未来においてもその本当に良いレベルの理解を持つ必要があるでしょう。なぜなら間違った信念に流されて、私たちを悪い場所に終わらせることは簡単になるからです。
教育は違って見えると思いますか?ハーバードやスタンフォードのような大学があって、それ以外の全てはただのオンラインAIになると思いますか?
分かりません。私は教育の専門家ではありませんが、ええ、変わるでしょう。既にチャットボットのおかげで自分たちを教育する並行した方法を見ています。
だからこれが成長することを期待しています。それは従来の対面教育がなくなるということを意味しますか?おそらくそうではないでしょう。なぜなら教育の一部は、家を出て自分と同じような他の人々と社交し、授業の外で何かを学び、教師や教授と直接対話することだからです。それもまた簡単には置き換えられない部分です。
人文的価値と科学的理性の融合
100%同意します。
彼に向けて勧めているキャリアパスはありますか?
いいえ、そうしたくありません。私たちの子供たちには全ての可能な機会が与えられるべきで、彼ら自身で探求を試みるべきだと思います。子供たちに自分と全く同じになるように求めるのはあまりにも簡単です。
ええ。でも露出という点では、異なるものに彼らを触れさせて、より多くのものを見られるようにできます。
ええ、彼らは私たちがやっていることに触れるでしょう。だから私の息子の一人は例えば機械学習研究をすることを選びました。
ほら、ええ、露出にも関わります。未来はより人文的だと感じますか、それともより数学的で科学的だと感じますか?
それは選択ではないと思います。
人文的であるためには、世界の良い合理的な理解が必要です。私たち自身のために決定を下すことはできません。でもAIについて考えると、私たちがどのように世界がどうなっているか、そしてその情報でどう推論するかを理解していなければ、良い決定を下すことはできません。だから民主的で人道主義的な価値観が勝つためには、理性もまた勝たなければなりません。科学が勝たなければなりません。
このポッドキャストにどれだけの労力がかかっているか皆さんご存知ですね。サポートありがとうございます。私はニュースレターを始めました。これともう一つ経営している会社でのビジネスの失敗、積極的にテストして使っているAIツール、チーム構築の舞台裏をもっとシェアするためです。
無料で毎週あなたの受信箱に届きます。リンクは説明欄にあります。この新しいAI時代で一緒に学び続けましょう。
研究者としての転換点と社会的責任
もし30年前に戻れるとしたら、ディープラーニングに取り組み始めた瞬間に、何を違うようにしますか?
キャリアを始めたとき、私は政治や社会についてあまり気にかけていませんでした。数学やプログラミング、人よりも機械と対話することに集中していました。
でも年齢を重ねるにつれて、自分がやっていることが社会にポジティブにもネガティブにも影響を与える可能性があることにより気づくようになりました。だから2012年、2013年に、同僚のGeoffrey HintonとYann LeCunが産業界に採用されたとき、AIがパーソナライズされた広告にどう使われるかについて懸念していました。そしてそれはある面で本当に健全ではないと思いました。それでアカデミアに留まることを決めました。そしてAIがどのように医療で、気候変動と戦うために、善のために開発されるかを見ようとしました。そしてもちろん最近では、AIをどう導くか注意しなければ本当に悪くなる可能性があることに焦点を当ててきました。利益だけでなく、壊滅的なリスクを避けることです。
生涯で本当に目撃したいAIのブレークスルーはありますか?
私たちが本当にひどいことをしないようにすることだけで満足するでしょう。
私たちの民主主義は多くの面で本当に脅かされていると思います。そしてAIは事態をずっと悪化させる可能性があります。ある意味で、良い賢明で人道主義的なガバナンスと政府を持たないことが、AIを全ての人にとって有益なものに導くことを妨げるというダイナミクスがあります。だからええ、私は以前は社会的影響や政治についてあまり気にかけていませんでした。でもこの10年で、自分の仕事が社会から切り離されていないこと、自分の仕事が実際に影響を持っていること、そして実際に自分の価値観と未来への希望に沿うように何に取り組むかを選べるということを明確に意識するようになりました。
政府の対応と個人の役割
AIに関して正しく行っている政府はありますか?
ほとんどの政府は、AI能力が成長し続けるにつれてどれだけの変化が起こりそうかを過小評価していると思います。それは自然な人間のバイアスです。私たちは未来を現在のわずかに修正されたバージョンとして考える傾向があります。
でももし5年前の自分を想像して、今私たちが持っているものについて考えたら、おそらくそれはサイエンスフィクションだと言うでしょう。そしてもし10年、20年前に戻ったら、少なくとも私にとっては、さらにひどいです。だから私たちは、基本的に私たちよりも賢い機械がある未来を想像するために、少し心をねじ曲げなければなりません。
そしてそれが、政府が十分に取り組んでこなかった問題だと思います。
2026年1月です。AGI、あるいはそれが何であれ、戦略的に考えるAIが数年先かもしれません。仕事は変革しています。もし今年の人々の決定を導く一つの原則を与えるとしたら、何でしょうか?
自分の価値観と感情に従って、より良い未来をもたらすために何ができるかを考えてください。
なぜなら私たち全員が起こっていることの受動的な観察者のままでいたら、私たちは正しい方向に行かないかもしれません。あなたが、あなたの子供たちのために望む方向にです。でも私たちはまた、未来に影響を与える自分の能力を過小評価する傾向があります。
あなたの視聴者は、未来に大きな影響を与えられる種類の視聴者だと思います。
でも私たちは、小さな自分を超えて、自分がどう世界とつながっているか、そしてより良い未来をもたらすために何ができるかについて考え始めなければなりません。様々な方法で、多くの方法があります。
トップ3を挙げていただけますか?政府と話すというのが一番ですか?
はい。
私たちが抱えている最大の危険の一つは、私が話してきたように、AIの能力における移行と成長を管理しないことだと思います。でも他にもあります。私たちが環境に対して行っていることは非常に危険ですが、それはより長期的だと思います。私たちの民主主義で起こっていることもまた非常に危険だと思います。
でもそれは全て正しいです。私たち一人一人が自分の戦いを選ぶことができます。でも私たちは、何が重要かについての視野を広げようとすべきです。そして潜在的に何ができるかについてより野心的になるべきです。でも正しく行わなければなりません。どこに向かうかを選ばなければなりません。例えば、技術でできることが全て行われるというのは真実ではありません。AIがどの方向に展開されるかを私たちは選ぶことができます。つまり仕事に関して言えば、原則として市場の力だけであれば、自動化できる全てのものは自動化されるでしょう。でもおそらくそれは私たちが集合的に望むものではありません。おそらく自動化されるべきではない仕事があります。できるとしても。なぜなら
私たちの集合的な幸福のために行う選択があるからです。
それは素晴らしいです。ありがとうございます。これは考えさせられることがたくさんありました。そして私たちのやるべきことリストに何かあると思います。ありがとう、Joshua。
どういたしまして。
コメント