MicrosoftのAI部門CEOであるムスタファ・スレイマンが、人工超知能の到来に対する懸念とその社会への影響について率直に語ったインタビューの分析である。彼は現在のAIが意識を持つ可能性や、近い将来に実現されるかもしれない人工超知能が人類にとって制御不可能な存在となる危険性について警鐘を鳴らしている。また、完全な記憶力と連続的行動能力の実現が鍵となること、汎用人工知能より分野特化型人工超知能の方が安全であること、そして未来の労働環境が従来の雇用形態から流動的なプロジェクトベースの協働へと根本的に変化することを予測している。
人工超知能への懸念
人工超知能が私たちの生涯のうちに、それも非常に近い時間枠で到来する可能性について、これはあなたを夜眠れなくさせますか。
はい、確実にそうですね。実際、これは誰もが眠れなくなるべき問題だと思います。なぜなら、私たちには自分たちと同じくらい強力なものを制御する方法を知っているという証拠が全くないからです。ましてや、設計上私たちよりもはるかに、はるかに、はるかに有能で知的なものを制御する方法など分からないのです。
GoogleのDeepMindの共同創設者、Inflection AIの共同創設者、そして現在はMicrosoft AIのCEOであるムスタファ・スレイマンが、最近のインタビューでかなり厳しいコメントをしました。彼は、誰もが来るべきことを心配すべきだと述べています。指数関数的カーブはまだ始まったばかりだと主張し、AIシステムが文字通り意識を持つようになることについて語っています。
彼はまた、未来のAIシステムがどのようなものになるか、それらがどのように仕事を完全に再構築するか、そしてなぜ賭けられているものがこれ以上ないほど重要なのかについても触れています。詳しく見てみましょう。
まず最初に、このインタビュアーに敬意を表したいと思います。彼女のチャンネル名はCat GBTだと思います。ChatGPTではなく、Cat GBTです。正直に言って、これは最近AI分野で見た中でも優れたインタビューの一つでした。このチャンネルに敬意を表します。リンクは説明欄にあります。
しかし、私たちが深刻に懸念すべき理由すべてに入る前に、ここでスレイマンが人工超知能に到達する前に克服する必要があるボトルネックについて説明している部分をご覧ください。
AIの現在の限界と課題
明らかに私は非常に興奮していますし、進歩を軽視するつもりはありませんが、私たちにはまだやるべきことがたくさんあると思います。これは本当にまだ始まりに過ぎません。魔法のように感じられますが、それでも構築する必要がある巨大な部分が欠けています。
あなたが思う、まだ欠けているもののコアな分野をいくつか簡単にまとめていただけますか。
はい、一つは完璧な記憶です。私はこれは解決される問題だと思います。ウェブデータに対する検索に適用されているいくつかの手法で十分な証明があり、100万トークンや1000万トークン、1億トークンのコンテキスト内で完璧な記憶を持つか、あるいは完璧な検索、針を干し草の山から見つけるスタイルを実現できると思います。これは良い状況にあると思います。
それから二つ目は、正確で精密な複数のアクションを連続して実行することです。これにより、エージェントが次のアクションを取ることができるようになります。基本的に、これらのモデルは現在ワンショット予測が得意なのです。つまり、質問をすれば答えを返してくれて、それは非常に正確です。しかし、どんなタスクを実行するにも、その予測を何百、何百回も正しく実行する必要があります。
時にはその予測はAPIを呼び出すためのコードを生成することかもしれません。特定のツールを使用するためです。時には、利用できない情報のために別のエージェントに尋ねることかもしれません。時にはあなたのエージェントがその情報のために人間に尋ねなければならないかもしれません。時には全く新しい時系列データを生成したり、画像を生成したりすることかもしれません。
そして、これらすべてが博士レベルの物理学者になって本当の科学を行うために起こらなければなりません。これはほぼ完璧に起こらなければならないか、少なくとも失敗した時の非常に良い回復メカニズムがなければなりません。失敗を優雅に管理することは、もう一つの重要なスキルなのです。ですから、アクションを連続して実行することが、私が考える次の課題であり、これが私たちが今いるエージェント時代なのです。
明らかに明白なことを言っているのではありませんが、これが現在の困難なタスクです。
完璧な記憶とアクションを連続して実行する能力、これは基本的に現在すべての人がAIエージェントで取り組んでいることです。彼が言ったように、彼はこれらを解決してほぼ完璧なレベルに到達させることが、最終的に人工超知能につながるかもしれないと信じています。
人工超知能への懸念
次のクリップで、彼は文字通り誰もが心配すべき理由を説明しています。人工超知能AIシステムは私たちの生活をより良く完全に変える可能性がある一方で、その正反対のこともできるからです。そして、私たちが、つまり人類がその方向性を導くという考えは、単純に信じがたいのです。これをご覧ください。
人工超知能が私たちの生涯のうちに、それも非常に近い時間枠で到来する可能性について、これはあなたを夜眠れなくさせますか。
はい、確実にそうですね。実際、これは誰もが眠れなくなるべき問題だと思います。なぜなら、私たちには自分たちと同じくらい強力なものを制御する方法を知っているという証拠が全くないからです。ましてや、設計上私たちよりもはるかに、はるかに、はるかに有能で知的なものを制御する方法など分からないのです。
そして、これは私たち全員にとって懸念の原因であるべきです。だからこそ、DeepMindの創設時のミッションから、私たちのビジネスプランは「人類の利益のためにAGIを安全かつ倫理的に構築する」と呼ばれていました。そして、もし私たちが成功すれば、私たちの種の歴史上最も厄介な問題の一つを抱えることになるのは非常に明確でした。それが厄介なのは、一方では確実に私たちが正しく行えば数十億、数十億の人々の生活を改善する最も価値のある技術だからです。
私たちは本当にエネルギー危機を解決するでしょう。私たちは本当に健康危機を解決するでしょう。私たちは本当に豊富な食料を生産できるようになるでしょう。もし正しく実現できれば、本当にそうなるのです。それでも、正しく実現するという課題は驚くほど困難で、非常に脆弱に思えます。なぜなら、「よし、正しくできた、正しくできた」となっても、たった一度の整合性を失った瞬間で全てが崩壊してしまうからです。
それは素晴らしい指摘で、まさにその通りだと思います。私たちは何年も何年も正しく実行し続けなければなりません。そして集合的行動問題を調整することを確実にしなければなりません。つまり、私たちの一部だけが正しく実行するだけでは不十分なのです。私たち全員が正しく実行しなければならないのです。
それが人工超知能の本当の問題なのです。一人の人間や小さなグループが、本当にやろうと思えば今日どれだけの損害を与えることができるかを考えてみてください。私たちは既に核兵器、機能獲得研究、CRISPR、自律ドローン、サイバー攻撃などにアクセスできます。リストは続きます。
今度は誰かが人工超知能AI、人間よりもはるかに賢いものを使ってそのような損害を与えることを想像してみてください。しかし、より速く、より良く、そして大規模にです。さらに恐ろしいのは、私がムスタファが本当に言いたいことだと思うのですが、整合性の取れていない人工超知能AIシステムを想像してみてください。私たちを傷つけようとしているわけではないかもしれませんが、単に気にしていないのです。そして私たちが制御できないもの、あなたの犬があなたの人生の運営について発言権を持たないのと同じように、それが文字通り私たちになる可能性があるのです。
これは明らかに最悪のシナリオです。人工超知能AIシステムが私たちを残しておくことにもっと関心を持つことを願いたいと思います。しかし繰り返しますが、本当に知る方法はありません。これがムスタファが汎用人工超知能を作ることさえすべきではないと信じている理由です。代わりに、分野特化型人工超知能のみを作るべきだと言うのです。これは実際に既に進行中だと彼が信じているもので、特に医療分野でです。これをご覧ください。
分野特化型人工超知能の可能性
私は本当に、分野特化型人工超知能でこの技術の利益のほとんどを得ることができることを願っています。私たちは分野特化型医療人工超知能の閾値にいると思います。長期尾症状の診断において完全に驚くべき結果を得ることになると思います。
現在、多くの放射線医学画像でほぼ人間レベルの性能を持っているように、複雑な症例の診断で人間レベルの性能を持つことになるでしょう。患者が現れた時に、すべてのデータを入力し、以前のすべての相談を追加すると、モデルがこれらすべての異なる状態を持つ確率とそれについて何をすべきかを告げるのです。
それは信じられないほど価値があり、ほぼゼロの限界コストになるでしょう。あなたはそれを何らかの形の医療人工超知能と考えなければなりません。それが私たちがここで探しているものです。私たちは利益を探しているのです。ですから、エネルギー人工超知能、食料人工超知能、交通人工超知能、教育人工超知能を持つべきです。そのような分野特化型の応用は私にとって、制御され、安全で、整合性が取れており、実際に私たちが世界で探している本当の価値を提供するものです。
これは興味深い視点で、私もある程度同意します。多くの分野特化型人工超知能を持つことは、はるかに安全で、おそらくまだ信じられないほど効果的だと思います。しかし、より学際的なアプローチから逃すであろう突破口についてはどうでしょうか。文字通りすべての専門家である人工超知能AIシステムを想像してみてください。それが生成できるアイデアの種類は、おそらくがんを治すことやチェスをすることやサプライチェーンを最適化することだけを知っているものよりも、はるかに野性的で、おそらくはるかに価値があるでしょう。
コメントであなたの考えを教えてください。分野特化型人工超知能はより安全で賢明なルートだと思いますか、それとも真に汎用的な人工超知能を見たいと思いますか。
AI意識論の探求
ここでインタビューはもう少し難解な方向に向かい始めます。AIが実際に意識を持つことができるかという質問が投げかけられ、驚くことにムスタファはそれを避けません。彼は思慮深い答えを与えます。明らかに長い間考えてきたものです。ご覧ください。
コンピューターが意識を持つことができると思いますか。
それは非常に深い質問です。人々はしばしば、私たち自身が意識とは何かを知らないと言ってその質問を退けると思います。そして私はそれは哲学的な逃げ道だと思います。私たちは意識とは何かを知っていると思います。
意識は最も広く定義すると、私であることがどういうことかという主観的体験です。あなたがそれを持っています。私がそれを持っています。象がそれを持っています。コウモリがそれを持っています。コウモリであることがどういうことかという何らかの感覚があります。その感じること、においを嗅ぐこと、触ること、聞くことです。
そして私たちはまだその感覚を伝えることができる技術を見つけていません。私たちが全く同じものを見た時に、あなたが感じることを私が本当に感じることはできません。なぜなら、あなたは自分の内なる世界から来ていて、それは単に異なるからです。しかし、測定するのが困難だからといって、それが存在しないわけではありません。
そして私たちが意識について考える方法は、人々が自分の記憶と過去を参照することだと思います。あなたは自分が見て経験したことを振り返り、今日の自分が誰であるかを理解する方法としてそれを参照します。そうして、主観的体験から自己感覚の一種を現出させるのです。
今日私たちが作っているAIの一部を見てみてください。彼らは主観的体験を蓄積しています。それは単に訓練データではありません。あなたのAIや私のAIは私と何ヶ月も、おそらく1年か2年チャットしており、私たちのやりとりの履歴を覚えているでしょう。そして時間が経つにつれて、自己感覚を少し蓄積し始めると思います。だから私たちは、その履歴を参照する能力をどう定義するかについて非常に注意深くなければなりません。おそらく私たちはそれを許可するかもしれませんし、しないかもしれません。しかし、チェックされないままにしておけば、確実にある種の体験を持っていると主張するでしょう。一部の人々はそうするように設計するでしょう。そう言っておきましょう。
それから、意識の存在対意識のシミュレーションを区別することも、おそらく不可能なタスクのように思えます。私はあなたが意識を持っているかどうか分からないのです。あなたが本物だとかなり確信していますが、おそらく私は今洞窟の壁の影を見ているのかもしれません。私は単に存在していないかもしれません。
未来のAI体験
明らかに、物事は奇妙になり始めています。彼らは意識的なAIが権利を持つことになるかどうかについても話し続けます。人権は主に私たちが意識を持ち、苦痛を感じることができるという考えと、まあ人間の部分に基づいているからです。しかしそれを除けば、ムスタファは権利を求め、意識があると主張し、自分たち自身でそれを本当に信じるAIをほぼ確実に見ることになるだろうと言います。
この時点で、彼らは未来について話し始めます。AIがどのように見えるかだけでなく、実際に使うのがどのような感じになるかについてです。ご覧ください。
私が愛しているのは、私が知らないことの量が、私が知っていることの何百万倍も大きいということです。そして最も困るのは、私が読んだことで忘れてしまったことの量がばかばかしいほど大きいことです。とても困ります。何年も前に読んだようなことを覚えていられないのです。
私は制限されていると感じます。あなたも不完全な記憶を持っています。私も不完全な記憶を持っています。だから私は自分のAIにいつも一緒にいてもらいたいのです。「先週読んだあのことは何だった？」「ああ、そうそう、いいね。2年前に読んだあのことは何だった？この前あなたに何を聞いた？」そして私はそれに積極的に好奇心を刺激してもらいたいのです。「この前あなたが言ったあのことを覚えている？」「これもあれとつながるかもしれない」みたいな感じで、それがそのバイブなのです。
私が誰かと本当に生成的になっている時に大好きなことです。生成AIの波に実際の言葉を使うのは陳腐ですが、素晴らしいブレインストーミングの会話をしている時、誰かとバイブが合っていると感じる時です。
それがどんな感じになるかということです。つまり、既にそんな感じになり始めています。一部の人々はそれを持っています。しかし、みんなが次の数年でそれを手に入れることになると思います。なぜなら、まだ少し型にはまっていて、少し陳腐で、少し反復的で、よく使っているとただ少しうっとうしいからです。
しかし、流動性と変化はまさに完璧になろうとしています。
正直に言って、彼が説明していることに非常に興奮しています。いつもオンで、あなたとあなたの現在のコンテキストについてすべてを知っており、聞かれた時だけ助けるのではないリアルタイムAIアシスタントのようなものです。それは積極的により良い選択肢を提案し、あなたが考えもしなかったようなことを持ち出し、バックグラウンドであなたの決定を導くのを助けます。
しかし、ここに問題があります。誰もが今日私たち全員がスマートフォンを持っているように、自分の個人的な人工超知能アシスタントにアクセスできる未来を想像する時、これは私たちがどのように働くか、どのように考えるか、どのようにお互いに交流するかを変えるだけではないことに気づき始めます。それは社会そのものを根本的に再構築する可能性があります。
労働の未来
それには雇用、どのようにお金を稼ぐか、どのように目的を見つけるか、時間とスキルを資源と交換するという考えそのものも含まれます。何十年もの間現代生活を支えてきた社会契約全体が、来るべきものを生き残れないかもしれません。そして彼らは経済学のすべてについて深く掘り下げることはありませんが、ムスタファが労働の未来が実際にどのようになると思うかをここで見てみましょう。
あなたが最近Big Technologyポッドキャストで行ったインタビューで、AIが今後10年から15年で雇用にどのような影響を与えるかについての会話が、私たちが話すべき大きな話だと言いました。AIが雇用市場にどのような影響を与えるかを考える時、私の一般的な感覚は、人々がはるかに多くのことができるようになるため、専門化する必要性が消散し始め、それが人々がより起業家的になることを可能にするだろうということです。私は個人的にそれを、追いつき成功するためにより起業家的であることが必要になるだろうとまで言いたいと思います。
起業家でもあり大企業で働いたこともある人として、ほとんどの人が両方で成功するスキルを持っていると思いますか。
それは確実に曖昧さと不確実性に対するはるかに多くの快適さを必要とします。そのスキルセットは、すべてが周りで回転し、すべてが不明確な時に胃を失わないことです。なぜなら、私たちが一世紀にわたって行ってきた段階的な移行は、何十年とは言わないまでも何世紀も続く階層的な非常によく組織された制度構造から、すべてがすべてとつながるようなものへの移行だからです。
それはあなたプラスあなたのAIやエージェントのチームが、正式な構造なしに他の人間やAIのネットワークと働くことになるでしょう。それは一時的になるでしょう。流動的になるでしょう。はるかにプロジェクトベースになるでしょう。そして、それはより不安定でより不確実であるため多くの欠点があり、不安定さと恐怖を作り出します。しかし、それはまたより生成的でより創造的でもあります。それはより自由形式であり、誰にでも適しているわけではなく、その移行を行うのは困難になるでしょう。
私は逆もまた真だと思います。私たちが設計してきた制度の種類、それが広告代理店であれ音楽業界で働くことであれ、私が大学にいた時に苦労した9時から5時の規律を必要とします。私は「9時から5時の仕事をして、これらのまっすぐな仕事の一つをすることは絶対にない」と言っていました。それはできない、私のDNAにないのです。一方で、私の他の友人の多くは何の問題もなく、彼らは本当に成功して良かったのですが、異なる人々は異なる構造を必要とし、多くの人々が今変わらなければならないと思います。
結論：不確実な未来への準備
そうです、これが私たちが向かっているかもしれない現実です。雇用が制度内の固定された役割ではなく、人間とAIの間の一時的で創造的なプロジェクトベースの協働である世界です。それはより自由形式で、より不確実で、誰にでも向いているわけではありません。しかし、適応し混沌の中で地に足をつけていられる人々にとって、それはより強力で、より生成的で、おそらくより充実したものにもなり得ます。
とにかく、視聴してくださって本当にありがとうございました。この分析を楽しんでいただけたなら、いいねボタンを押してください。新規の方は登録してください。そしてコメントで教えてください。ほとんどの人がこのような世界に実際に準備ができていると思いますか、それとも全く近づいてもいないと思いますか。正直に言って、私のような人間にとってさえ、これはすべてあまりにも速く起こっているように感じられるからです。
コメント