本動画は2001年に制作されたBBCアーカイブの知的討論番組であり、人工知能の未来について複数の専門家が議論を交わしている。1950年にアラン・チューリングが予言した「思考する機械」の実現可能性を検証しながら、知能とは何か、AIはどこまで進歩したのか、そして真の人工知能は実現可能なのかという根本的な問いに迫る内容である。Deep Blueのチェス勝利やHondaのP3ロボット、音楽作曲プログラムなど当時の最先端事例を紹介しつつ、トップダウンとボトムアップの二つのアプローチ、チューリングテストの妥当性、創造性や自己認識の問題、そして50年後の未来予測まで幅広く論じられている。専門家たちの見解は楽観論から懐疑論まで多岐にわたり、AI研究の複雑さと課題が浮き彫りになる充実した議論となっている。
2001年における人工知能の未来予測
こんにちは、サイモン・シンです。ナレッジ・トークスへようこそ。私たち人間は、自分たちを地球上で最も知的な存在だと考えるのが好きです。抽象的な思考ができること、創造的であること、深い感情を感じられることを誇りに思っています。しかし、私たちは常にこの崇高な地位を享受し続けるのでしょうか。
1950年、腕時計ほどの性能しかないコンピューターが大きな部屋を占めていた時代に、数学者であり暗号解読者でありコンピューターの先駆者であったアラン・チューリングは、2001年までには思考する機械が私たちの周りにあることにすっかり慣れているだろうと予測しました。
しかし今日、真の人工知能、つまりAIはまだ遠い先のように思えます。しかしチューリングの夢は忘れ去られていません。あの映画『A.I.』からのスピルバーグの新作のクリップは21世紀後半を舞台にしており、AIについてかなり野心的な描写をしています。しかしAIは本当に実現可能なのでしょうか。いつ、もしそうなるとしたら、私たちは本物の知的な機械を手にするのでしょうか。そしてこれまでどこまで進歩してきたのでしょうか。AIは望ましいものなのでしょうか。
人工知能に関わるこれらの問題やその他の課題について議論するため、人工知能界の4人のメンバーにお集まりいただきました。サイエンス・ミュージアムのウェルカム・ウィングで、リコ・イノベーションズの主任研究員でスタンフォード大学のコンサルティング教授であるデイビッド・ストーク、ハートフォード大学コンピューターサイエンス学部の講師であるカースティン・デンハム、レディング大学のサイバネティクスの講師であるマーク・ビショップ、そしてスターリング大学の認知神経科学者であるビル・フィリップスです。
知能とは何か
人工知能については多様な意見があることは承知していますが、まずは私たちが何を目指しているのかについて合意することから始めましょうか。知能とは何でしょうか。知的な機械には何ができることを期待するでしょうか。マーク、まずあなたから始めましょうか。
マークは答えます。知能は何か一つの特徴的な要素ではないと思います。おそらく多くのシステムに存在していて、私にとっては、システムがますます複雑化する環境とより複雑に相互作用する能力とともに増大するものです。重要なのは環境の複雑さやシステムの相互関係だけではありません。そのシステムが環境とどのように柔軟に相互関係を持つかということです。
これは、エンジニアとしての私の仕事に有用だと思われる、知能に関する一つの操作的な見方です。しかし私にとって知能のもう一つの、より人間的な部分は、心の関連付け能力とでも言うべきものです。心が全体を見る能力です。
五感を通して入ってくるすべての感覚データを考えてみると、私たちの脳がそれを一つの共通の世界観に統合する能力があります。カントが私たちの知覚の統一性と呼んだものです。
サイモンは脳の専門家であるビルに尋ねます。脳は何をすることで知的だと思わせるのでしょうか。
ビルは説明します。異なる心理学者たちは多くの異なる答えを出すでしょう。私が知能を見る限り、それは単一の言葉や単一の尺度で特徴づけるにはあまりにも複雑なものを要約するために発明された概念です。心を研究するすべての科学は、精神プロセスが多くの専門的なサブシステムを含むことを絶対的に明確にしています。
たとえば人間には、言語的、空間的、音楽的、感情的、社会的なものがあり、それぞれがそれ自体、相互作用するサブシステムの集合体です。また、これらがどのように発達するか、専門化が何であるか、そしてそれらが脳内でどのように実装されているかについて多くのことが知られています。しかしまだ理解されていないのは、これらすべての専門化された活動が新しい状況で新しい結果を生み出すためにどのように動的に調整されるかということです。そしてそれは多くの人が知能について話すときに考えることの一部なのです。
つまり個々の知能の要素だけでなく、それらを組み合わせる方法も重要だということですね。通常の知能テストは知識とその新しい使い方の両方を測定します。
カースティン、このリストに追加すべきことはありますか。
カースティンは答えます。社会的知能が言及されたとき、これは私が興味を持っていることです。なぜなら人工知能研究は常に人間の知能とは何か、そしておそらく人間が他の動物とどう違うのかに非常に焦点を当ててきたと批判したいからです。私は例えば、人間以外の動物を研究する人々と話をして、知能の起源について知ろうとするのが好きです。
そして魅力的な仮説の一つは、例えば人間の知能の進化的起源は、人間の祖先が他の仲間の生き物、他の人間とどう付き合うかを学ぶことにあるというものです。つまり社会的知能が人間の知能の進化における主要で重要な要因だということです。そしてAIの観点に戻ると、社会的に知的で、人間や互いに相互作用できるシステムを構築することは、非常に興味深く大きな挑戦です。
社会的知能は確かに後で戻ってきたいテーマですね。デイビッド、質問を少し言い換えさせてください。あなたがスタンリー・キューブリックの大ファンだということは知っています。スタンリー・キューブリックはスピルバーグの映画のアイデアを思いつき、少なくとも彼の死までそれを見守りました。彼はまた映画『2001年宇宙の旅』も制作しました。その中にHALがいます。人工知能の素晴らしい例です。HALが示すもので、HALが単なる20世紀のコンピューター以上のものだと私たちに思わせるのは何でしょうか。
デイビッドは答えます。人工知能とは、コンピューターに映画で行うことをさせることだと言われてきました。そしてキューブリックはその完璧な例です。彼はHALを持っていただけでなく、おっしゃったように映画『A.I.』の若い少年デイビッドも持っていました。HALは話すこと、推論すること、唇を読むこと、感情を持つこと、推論すること、自己意識を持つこと、乗組員の感情を見分けることができました。「デイブ、あなたがこのことで動揺しているのが分かります」などと言えました。彼は私たちが共有し、知的であることの一部だと言う幅広い能力を示しました。彼はこれまで私たちが挙げたすべてのポイントをほぼ拾い上げています。
現在のAI技術の到達点
それが私たちが考える知能であり、人工知能に示すことを期待するものです。しかし問題は、今日私たちはどこにいるのかということです。テクノロジー・ストラテジストのピーター・コクランに彼の見解を聞きました。
ピーター・コクランは説明します。AIまたは人工知能は、自然によってではなく人間によって作られた知能です。私たちが抱える困難は、知能の適切な記述、定量化、または測定がないということです。そのため言葉で表現され、非常に曖昧です。私が目にするAIの定義やビジョンのほとんどは、テクノロジーの擬人化に関連しています。それは私たちのように見えるので恐ろしいのです。
しかし実際にはそういうことではありません。AIは本当に、私たちのために仕事をしてくれる機械を作ることであり、私たちが些細なことから解放され、能力を拡大できるようにすることなのです。
通常のコンピュータープログラムは純粋に論理的です。完全にアルゴリズム的です。入力すると、出力は常に同じです。一方、AIシステムは学習します。認知の要素があります。入力を受け取ります。それを過去の行動や結果と比較し、それに応じて出力を変更します。
原理的には、私のラップトップコンピューターは平均的なげっ歯類よりも賢いかもしれません。なぜそうではないのかと問うと、それは非常に単純な要因に帰着します。まず第一に、その機械への入力は非常に限られています。キーボードです。一方、出力は非常に高いです。画面です。プロセッサは固定されており、ソフトウェアも固定されています。
しかしげっ歯類ではすべてが逆転しています。入力は非常に高く、耳と目があります。出力である動きは非常に少なく、ハードウェアである脳と、脳内のアルゴリズムとでも言うべきソフトウェアはすべて適応可能です。
私たちは今、機械のソフトウェアとハードウェアを適応可能にし、機械に膨大な量の入力を与えることができる地点に達しました。したがって原理的には、私たちは非常に知的な機械を作り出す瀬戸際に立っています。
サイモンは指摘します。ピーター・コクランが指摘した点の一つは、ラットの素晴らしいところは非常に豊かな入力を持っているということです。物を見ることができ、音を聞くことができ、物に触れることができます。常に刺激を受けています。一方、家の私のラップトップは、時々タイプし、マウスをクリックし、少しモデム入力を受け取ります。それは重要なポイントでしょうか。それは人工知能の達成に対する本当の障壁なのでしょうか。
デイビッドは答えます。一部の人々は、身体化された知能、つまり世界と非常に豊かに相互作用する物理的なデバイスやロボットが必要だと感じています。そして後に、今から何年も先に、実世界で十分な経験を積んだら、テキストのような非常に狭いチャンネルを通してそれらを使うことができるでしょう。質問することができるのです。
データの重要性について、またはデータは非常に重要だと思います。私たちは非常に多くのデータが必要です。言語とは何か、視覚とは何かなどをプログラムして正確に理解しようとするのは、あまりにも難しいのです。そのため、私たちのほとんどは、システムをトレーニングし、多くの例を与えることが重要であり、豊かな環境を得ることがそのために重要だという見解を持っていると思います。
カースティン、それはあなたが取り組んできたことですね。実際に存在し、これらの経験を蓄積できる生活を持つロボットを持つことです。
カースティンは答えます。そうですね。つまり、ピーター・コクランが実際にどう意味していたかは分かりませんが、より多ければより良いと主張したいという印象を受けることがあります。つまり、より多くのセンサー情報があり、より多くのアクチュエーターがあり、より多くのメモリパワーがあれば、自動的に、あるいはだいたい、物事はより良くなり、より複雑なシステム、より知的なシステムを持つことになるということです。
しかし、私たちのコンピューターは毎年速度が2倍になっています。つまり、彼が言っているのは、最終的にそこに到達するということです。これらのことを達成する力を持つことになります。それは単純なことですか。
この計算能力をどうするかです。これは本当に非常に重要な質問です。非常に遅いコンピューター、非常に古いロボットで素晴らしいAI研究ができます。センサー情報をどう使うか。簡略化された方法でどう翻訳するか、しかし動き、行動、発話をどう生成するか。これはまだ非常に非常に未解決の問題です。
つまり、計算能力、メモリスペース、ハードウェアの価格。これは確かに助けにはなりますが、問題を解決するものではありません。
脳は私たちにこれらすべてのデータをどう扱うかについてある程度のアイデアを与えてくれますか。脳はどれほど強力で、これらすべてのデータをどう扱うのでしょうか。
ビルは説明します。非常に単純なレベルでは、霊長類の脳とほとんどの哺乳類の脳、おそらくすべての哺乳類の脳は非常に巨大であることは非常に明確です。人間ではよく知られた記述として100億個のニューロンがあり、それぞれに約10万個のイオンチャネルがあります。それらは最速の動作速度で毎秒1000回開閉できます。
イオンチャネル間のこれらの接続が、細胞間のシナプス接続を実装するものです。したがって、これらすべての数字を掛け合わせると、非常に大きな数字になります。
心理学的な観点から、私たちは膨大な量の知識を使っていることが分かっています。多くを持っています。知識を獲得し、それを使っています。そして、ある瞬間に使う知識は、多くの知識ですが、私たちが蓄えている量の小さなサブセットです。
したがって、状況に適した、はるかに大きな知識体から大きなサブセットを選択する方法は、本当に挑戦的なタスクであり、多くの計算能力が必要になることは確信できます。
デイビッドは付け加えます。しかし彼女の要点を別の言い方で言うと、私たちはハエの視覚システムを実装する計算能力を持っていますが、それをどうするか分かりません。ハエが単純な物体を認識する能力を複製することはできません。
したがって、それは単なる計算能力ではありません。ハエは成長するにつれて、膨大な知識体を発達させ、この膨大な知識体を持ったら、適切な部分を選び出すという問題があります。
AIの成果と限界
今日のAIシステム、あるいはいわゆるAIシステムでのハイライトは何でしょうか。人工知能版の『砂漠の島のディスク』があり、世紀の変わり目のAIの偉大な業績を思い出させる何かを持っていかなければならないとしたら、何を持っていきますか。
マークは答えます。私にとっては、HondaのP3ロボット、二足歩行ロボットがそこにあると思います。それは本当に驚くべき技術です。
それは何をするのですか。
ええと、一つには、サッカーをすることができます。人間のように見えるものについて話しています。それは人間全体のように見えます。背中は宇宙服を着た人間のように見えます。そしてこのロボットは階段を上がり、階段を下り、サッカーボールを蹴ることができます。
現時点では、Hondaはこの驚異的なエンジニアリング作品のソフトウェアにもっと時間を費やす必要があることをまだ認識しています。なぜなら、ロボットの多くはまだオフラインで制御されており、ロボットにもっと多くの知能を与えたいと考えているからです。それにもかかわらず、AI組み込みハードウェアとして、P3は砂漠の島に持っていきたいおもちゃの一つです。それでサッカーをします。
つまり、歩くことができる機械ですが、オフラインのものがあまりにも大きくて重いので、自分の脳を運ばなければならないとしたら歩けないでしょう。
デイビッドは指摘します。現時点では、彼らはAI側のソフトウェアを望むほどうまく整理できていません。私はDeep Blueを指摘したいと思います。それが知的だからではありません。
Deep BlueはIBMのコンピューターで、1997年にトーナメントプレイでガリー・カスパロフを破りました。それは人間がチェスをする方法をエミュレートすることなく、そうしました。人間のマスターは特に、ボード上の駒のパターンと構造を見て見ます。代わりに、Deep Blueは大規模な並列検索を使用して多くの愚かな動きを探索しましたが、良いものを見つけるためでした。
その作成者たちでさえ、これは知的なシステムではないことに同意しています。一般性がありません。チェッカーさえもプレイできません。しかし、それが示したのは、人々が特に難しいと考えていた問題を、人間がそれを行う方法とは非常に異なる方法で解決できるということです。そして、私たちの方法だけがこれらの難しい問題を解決する唯一の方法ではないという概念に慣れなければならないと思います。
それが私のリストに載るでしょう。
Deep Blueはチェスのゲームに勝ったことを認識していましたか。
いいえ、絶対にそうではありません。いいえ、それは知的ではありません。自己意識がありませんでした。勝つことに誇りを持っていませんでした。それにもかかわらず、人々が難しいものとして提起した明確に定義された問題を、知的ではない方法で解決しました。
Deep Blueと言うとき、Deep Blueがカスパロフを破ったと言うとき、物理的な機械を意味するのですか。それとも非常に高速なハードウェアと連携したIBMのデザイナーチームがチームとしてガリーを破ったと言う方がより正確ではないでしょうか。
確かに。しかし、あなたが構築するすべてのAIシステムでそれが得られると思います。エンジニアや科学者が構築するものは何でも、常にそれを指して言うことができます。「見てください、彼らは床を這うことを学んだハードウェアを組み立てました。見てください。」
つまり、人工知能とはそういうことです。
これらの機械はすべてある程度の知能を示しているように見えますが、それらは限られています。では、さらに先に進めるでしょうか。AIの究極の挑戦は何でしょうか。
チューリングテストとその問題点
コンピューターの先駆者アラン・チューリングは、真の人工知能を達成したときに教えてくれるだろうと彼が考えたテストを考案しました。彼の伝記作家アンドリュー・ホッジスに、アラン・チューリングの思考する機械についての見解を話してもらいましょう。
アンドリュー・ホッジスは説明します。アラン・チューリングにとって、心のパズルは最初からそこにありました。コンピューターの物語は、エンジニアが構築したオブジェクトの物語として語られることが多く、それから他の人々がプログラムを実行し、それから他の人々がやってきて「ああ、プログラムを知能のようなものにできるかどうか見てみましょう」と言いました。しかしチューリングの場合、思考プロセスは本当に逆の方向に進みました。
最初に来るのは思考の性質です。しかし1936年に彼がこれについて考えていたとき、それがわずか10年かそこらでどこに導くのか誰も推測できなかったでしょう。もちろん状況を完全に変えたのは、第二次世界大戦の到来と、アラン・チューリングがドイツの軍事および海軍のコードを破る非常に重要な仕事に関わったという事実であり、それが彼の人生を変え、論理と技術の全体的なつながりを永遠に変えたことでした。
これはチューリングのボムベの現代的な復元プロジェクトです。そしてそれは第二次世界大戦を通じて毎日毎日エニグマメッセージを破った主力馬でした。この機械は、いくつかの可変入力を持つ一つの特定の手順を実行します。
つまり、それに使用できるさまざまなメッセージです。そしてそれは現代のコンピュータープログラムのようなものです。それはコンピューターではありません。プログラムやアプリケーションのようなものです。ですから、ある意味で、チューリングのコンピューターのアイデアは、このような非常に困難で精巧な機械を構築する代わりに、今では私たちがよく知っている一つの機械、つまりコンピューターを持ち、それに新しいソフトウェアを書くというアイデアによって動機づけられたと言えます。
マンチェスター大学では、2の127乗マイナス1が素数かどうかを緊急に知りたい人は誰でも、人間の脳で6か月かかるところを、電子脳で25分で答えを与えられます。
ボランティアリングは、脳が何をしているにせよ、それは何らかの明確なプロセスによって行われているに違いないという見解に非常に熱心でした。それは何らかの明確な方法で機能し、したがって、その明確なプロセスを何らかの形のプログラムとしてエンコードできない理由はなく、それをプログラムとしてエンコードできるなら、コンピューター上で実行できます。独創性、創造性、主導性などの能力は、実際には機械的であり、プログラムできるものです。
テストはこうです。コンピューターベースのシステムがあり、それがその知能を誇示しようとしています。そしてそれをテストするために、別の人、普通の人がいて、公平な審判はコンピューターからと人間からの両方のメッセージを受け取り、会話を行わなければなりません。そしてそれはあらゆる種類の会話であるはずです。計算やコンピューターのようなことについての会話だけではありません。
そして審判はどちらがどちらかについて決定を下さなければなりません。そしてチューリングの主張は、審判がどちらがどちらか見分けられないなら、私たちは機械に見えない人間に与えられているのと同じ種類の知能を認めるべきだということです。
サイモンはまとめます。アラン・チューリングは私たちにチューリングテストを遺しました。それは、機械が人間のようにコミュニケーションできるなら、人間のように考えると言っているように見えます。
多くの人がチューリングテストに合格するようにコンピューターをプログラムしようとしましたが、すべてかなり惨めに失敗しました。カースティン、コンピューターが現実的な方法で人間とコミュニケーションすることは何がそんなに難しいのでしょうか。
カースティンは答えます。それは、人間の間での、また他の動物の間での実際のコミュニケーションでは、いくつかのことが単純に簡略化されているからです。
たとえば、特定のシンボルの意味は非常に曖昧なことが多いですが、それは共通のコンテキストを共有する2人の人間によって解決されます。そしてこれはしばしば助けになり、何が起こっているかを理解するために必要な計算能力を簡略化しています。たとえば、私があなたに「このグラス」と言った場合、私がどのグラスを意味するかを理解するのに問題がありますか。まあ、わずかな曖昧さがあるかもしれません。
このグラスかもしれないし、マークのグラスかもしれません。なぜなら、あなたが私のグラスについて尋ねるつもりなら、あそこに立っているグラスを意味しないことを知っているからです。
コンピューターにとっては、私のジェスチャーを認識する方法がなく、あなたが座っている場所に座っていないコンピューターにとっては、基本的にどのグラスでも意味する可能性があり、このグラスへの私のジェスチャーが参照であることを指定しなければなりません。
ですから私が言いているのは、チューリングテストは確かに非常に非常に難しい問題に取り組んでいるということです。しかし現実の生活ではそれほど難しい問題ではありません。なぜなら、共通のコンテキストを共有する2つの身体化されたシステムの言語的および非言語的コミュニケーションの多くの方法があり、問題を簡略化するからです。
ですから私にとって、チューリングテストは確かに興味深いですが、間違ったことに焦点を当てています。これがおそらくそれがとても難しい理由です。
デイビッドは異論を述べます。共有されたコンテキストだけではないと言いたいです。なぜなら、私たちは常にメールでやり取りしているからです。私たちが共有しているのは常識です。最も単純な文を理解するために、私たち全員が持ち込む膨大な量の知識があります。
たとえば2つの文です。サイモンは空腹でした。彼は店に行きました。彼は棚の上のリンゴを見て、それを買いました。彼が棚や店ではなくリンゴを買ったことをどうやって知るのですか。私たちは知っています。食べ物とは何かなどについて常識を持っています。
そして同じ部屋にいて指さしなどをしなくても、それを共有する必要はありません。
マークは反論します。機械にチューリングテストに合格させることの純粋な技術的困難は別として、それはチューリングが想像していたよりもはるかに複雑であることが証明された問題です。テスト自体の実際の妥当性があります。
そして私はこの非常に、私には非常に単純な行動主義的なテストが理解するためのものだとは本当に思いません。チューリングが言っているように見えるのは、何かがアヒルのように見え、アヒルのように歩き、アヒルのようにガーガー鳴くなら、確かにそれはアヒルだということです。そして明らかにそうではありません。たとえば、映画館のスクリーンでアヒルを見ることを想像できます。それはアヒルではありません。あなたはアヒルの表現を見ているか、テーブルを横切ってよちよち歩く小さなおもちゃです。それはアヒルではなく、おもちゃのアヒルです。何かが何かと特定の属性を共有しているからといって、それが何か別のものの複製だとは言えません。
ですから私にとって、チューリングテストはその時代の産物です。チューリングは論理的行動主義者の背景に対して登場し、哲学的に、彼は明確なイエスかノーの答えを出すことができるテストを望んでいました。このものは理解していますか。していませんか。非常にテスト可能な方法で。それは知能を持っていますか。持っていませんか。しかし私自身、このテストはあまりにも行動主義的だと感じており、そこから前進しなければなりません。
ビルは付け加えます。当時のチューリングテストについて重要なことは、思考が機械化されるかもしれないという概念だったと思います。それは私たち自身とは非常に異なる形をとるかもしれず、実際に私たちがそのようなものを設計できるかもしれないということです。それがこれらのことが可能かもしれないという重要な洞察でした。
当時テストが設計された方法は、彼がやるのが最も難しいと考えたことを中心にしていました。つまり、微分方程式を解くことなど、私たちが難しいと感じることであり、これらの高度なシンボル処理のようなものです。時間は、それらが機械化するのが簡単なものであることを私たちに示しました。機械化するのが難しいのは、そのシンボル処理システムとそれが置かれている物理的環境との相互作用、およびそれ自身の物理的現実です。
私たちはまた、心理学的および神経心理学的に、言語は私たちの精神的スキルに何か重要なものを貢献しますが、それらのスキルのすべてではないことを知っています。たとえば、重度の失語症の人は完全にチェスをプレイし、複雑な環境をナビゲートし、自分の人間関係を遂行することができます。家族生活は崩壊しません。カースティンが話していた他の方法でコミュニケーションします。人間で特別に発達した言語的コミュニケーション形式は、私たちの頭の中にあるこの複雑な専門家の社会のほんの一つの側面にすぎないことを示しています。
知能テストの代替案
サイモンは尋ねます。では、他にどのようなテストを提案しますか。チェスについては以前話しました。人々はチェスを人工知能の試金石として話していたことを覚えています。遺伝学者がショウジョウバエに対して自分たちをテストするのと同じように、AI研究者はチェスに対してそれを行っていました。チェスは解決されました。
さまざまな哲学的およびその他の理由でコミュニケーションは好きではありません。テストとして何を提案しますか。
デイビッドは答えます。この分野の人々がAI完全と呼ぶ多くの問題があります。これを解決できれば、基本的に他の多くの問題も解決できるでしょう。
たとえば、システムに映画を見て要約させること、キャラクターを知り、まず第一にキャラクターを認識することです。
サイモンは笑います。私はいくつかの映画でそれがかなり難しいと感じます。
ええ、それは非常に難しいです。特に『2001年宇宙の旅』です。ですから、オブジェクト、それらの関係、動機、画面外の見えないもの、個人の動機を理解する必要があります。それは非常に難しい問題です。私たちがそれを実現するまでには長い時間がかかるでしょう。
あなたはそれで満足ですか。
マークは答えます。私は非常に満足するでしょう。他の人々もそれをまともな代替案として受け入れるでしょう。
ビルは慎重です。私はテストのアイデアに特に魅了されていません。それはそのような複雑なことです。知識を獲得し操作できる認知システムで、それを行う方法は非常に多くあり、それらが大丈夫な方法でそれを行っているかどうかのテストを求めることは、何かが美しいかどうかのテストを与えてくださいと言っているようなものです。そして、私はこのテストに何でも従わせ、それが美しいかどうかを決定します。美しさはそのようなものではありません。
デイビッドは主張します。しかし、私はそれが好きです。なぜなら、それは研究を駆動し、焦点を合わせるのに役立ち、ある種の進歩を測ることができるからです。それは完全な問題に対する進歩ではないかもしれません。Deep Blueが示しているように、それは知能の問題を解決しているわけではないと思います。それにもかかわらず、私はテストが好きです。
ビルは譲歩します。ああ、途中のステップが好きです。確かに。いいですよ。
カースティンは同意します。問題の一つは、テストを持たないことでもあると思います。私もテストが好きです。私たち全員がそれに同意していると思います。たとえばチューリングテストのようなものや、あなたが提案するようなテストを決定することに対する私の特別な問題は、これがテストだと言うことです。これが標準的な参照テストです。
個人レベルでも進化レベルでも知能に興味がある場合は、一連のテストについて考えることができます。たとえば、1歳の子供の知能テストはどうでしょうか。犬の知能テストはどうでしょうか。犬にとって、嗅覚は非常に重要です。ですから確かに、その場合のテストは、おそらく物体を区別すること、またはどこかで物体を見つけること、または他の仲間を見つけることなどを含まなければなりません。
ですから、私は知能について考えたいと思います。私たち全員が同意すると思いますが、知能は形式的に定義できるものではなく、「はい、これが知能です。そしてそれに対する1つのテストがあり、それに合格するかしないかだ」と言えるものではありません。知能のテストについて、つまり動物システム全般や人間の複雑さとさまざまな側面を説明できるさまざまなタイプのテストについて考えることです。
サイモンは質問します。あなたが早い段階で言及した資質の一つは、異なるものに対して異なるテストを持つということでした。感情のためのテストがあると想像しましょう。あなたが考えたテストはありますか。それに取り組むテストはありますか。
カースティンは答えます。社会的知能については、私が通常非常に驚かされることの一つは、ホテルで受付係として働いている人々が、定期的に毎日怒っている人間に対処しなければならないということです。彼らの主な仕事は、確かに多くの知識が必要です。ただの知識、物事をどうするかの知識です。これは一つの側面です。もう一つの側面は、人々を幸せに保つこと、彼らと話すこと、彼らを落ち着かせようとすることです。非常に非常に難しいです。非常に非常に難しいです。
そして確かに、多くのホテルには、自動的にチェックインまたはチェックアウトできる一種のインターフェースがあります。これは私が話していることではありません。私が話しているのは、動揺した顧客が受付係のところに来て、受付係が解決策を見つけなければならないということです。
会話が終わった後、全員が幸せで、顧客がホテルに戻ってくるように。
サイモンは指摘します。しかし、私はチューリングテストのバージョンに合格しようとプログラムされた非常に難しいコンピューターを見たことがあり、それらができるように見えることは、人々とチャットして彼らを落ち着かせることです。精神科医のチューリングテストプログラムがあります。ですから、それはそれほど難しくないように思えます。
カースティンは反論します。いいえ、いいえ、それは非常に非常に難しいです。試してみてください。つまり、他の人々とどう付き合うかの一部は、あなたの性格を持ち込まなければならないということと、一般的な人間ではなく、特にあなたが他の人々とどう付き合うかです。
もし、たとえばElizaシステムのようなものを使用し、私はそれを試してみました。Elizaは精神科医でした。小さな質問などを入力するだけです。これは特定のコンテキストではある種の治療ツールになるかもしれません。他のツールを使うのと同じです。しかしこれは、あなたが関係を築くことができる種類のシステムではありません。
サイモンはまとめます。つまり、精神科医であることは、ホテルの受付係であることよりも簡単だということですね。
カースティンは笑います。ええ、時々多かれ少なかれランダムな質問をすることは確かに簡単です。今あなたのお母さんについて教えてください。これは比較的簡単です。
サイモンは思い出します。私は、父という言葉に言及するたびに、あなたの父について教えてくださいと言うバージョンを見ました。しかし、ネルソン・マンデラは国の父だと言うと、それもあなたの父について教えてくださいと言います。ですから、それは明らかに世界で最も賢い機械ではありません。
AIの構築アプローチ
テストについて話し、多くのテストについて話しました。それは、本当の問題を避ける方法だと思います。それは、これらの人工知能マシンの一つを実際にどのように構築するかということです。
イーストロンドン大学のロボティクスの講師であるマーティン・スミスがいます。ボトムアップアプローチとして知られる戦略についての彼の見解をご紹介します。
マーティン・スミスは説明します。人間が知っているすべてを機械にプログラムすることは不可能です。それには何年もの厳しい粉砕的なプログラミングが必要になります。私たちは、自分で学習できる機械を作る必要があります。
ボトムアップアプローチに従うなら、非常に単純な動物、アメーバのような非常に単純な単細胞生物を模倣する非常に単純な機械を見て、それを複製しようとし、次に次のレベルの生物を複製しようとします。最終的には虫を複製し、次にナメクジ、猫、犬、そして最終的にはサル、人間などを複製します。
進化をコピーし、進化に従って、徐々にますます知的になっている機械を構築します。そしてそれは以前に機能したので、私たちがそれをコピーできる限り、再び機能させることができることを知っています。
これらの小さな生き物は、あなたが得ることができる限り単純なものです。これらはアメーバの電子的な同等物です。いくつかは光を追いかけます。いくつかはヒゲで障害物を避けます。いくつかはランダムに動き、明るすぎる光、暗すぎる、物にぶつかりやすい場所を避けます。
ですから、それらはアメーバと電子的にほぼ同等です。次に、進化の木を上に移動すると、この機械は学習機械です。ランダムに脚を動かし、しばらくすると、前に歩くのに役立つ脚の動きを覚えます。
役に立たないすべての脚の動きを忘れ、それを行うと、自分で歩くことを学習したことになります。この機械は自分で学習します。プログラムは必要ありません。プログラムはありません。
これらの機械は知能の最初のステップです。実際、彼らには本当の知能はまったくありません。彼らは単に彼らの感覚、彼らの環境に反応しているだけです。
知能は複雑さからの創発的な性質です。ですから、十分に複雑な機械を作れば、それは知的になることができます。逆もまた真です。複雑な機械なしには知能を持つことはできません。そのすべての複雑さが必要です。できるだけ多くの複雑さが必要です。
トップダウンとボトムアップの議論
サイモンはまとめます。映画の中で、マーティン・スミスはボトムアップアプローチについて話しました。すぐに戻りますが、トップダウンアプローチもあると思います。疑いなく、トップダウン派はボトムアップ派を批判し、その逆もあります。トップダウン派に公平なチャンスを与えるべきかもしれません。ここにトップダウン派はいますか。トップダウンの立場を説明したい人はいますか。
デイビッドは答えます。私は説明することを喜んでいますが、両方が必要になると思います。トップダウンシステムでは、良い例はテキサスのサイコーププのPsycプロジェクトだと思います。世界についての常識を得るために、個々の知識エンジニアが世界についての事実を入力しています。
死んだら、死んだままです。動物は横よりも前に速く走ります。
これは、私たち全員が共有する非常に高レベルの知識であり、それが入力され、彼らは500人年を費やしました。
トップダウンアプローチは、多くの低レベルの経験から明示的に学習させる必要なく、高レベルの概念と概念的関係を与えることから始めることを意味します。
ここにいる全員がトップダウンに反対ですか。誰かいますか。
マークは否定します。いいえ。
それの利点は何ですか。トップダウンがどこまで進んだか。多くのことが行われています。まず、Deep Blueです。
トップダウンアプローチのもう一つの利点は、通常、システムになぜ特定の方法で行動することを決定するのかを尋ねることができることです。そして、私は口語的にボトムアップアプローチと呼ばれるものにもっと関わっています。
しかし、原子力発電所の制御や医療システムでコンピューターシステムを使用する場合の利点の一つは、なぜ特定の方法で行動することを選択するのかの理由を得ることができることです。それは良いことのようです。
サイモンは確認します。つまり、トップダウンアプローチを構築する場合、またはトップダウンシステムを構築する場合、またはエキスパートシステムを構築する場合、必要なことをすべて教えるだけです。
デイビッドは説明します。多くの知識、その知識を操作するための多くのルールです。そして、それは多くの状況で機能します。
では、欠陥はどこにありますか。
それはしばしば非常に脆いです。特殊なケースのための十分な情報がありません。非常に異常なものを投げかけると、これらのボトムアップシステムよりもはるかに劇的に壊れます。
これらのボトムアップシステムは、砂利の上を這うことを学んだかもしれませんが、今、氷の上を這うように求められた場合、それほど悪くはありません。ですから、おそらくより良く一般化できます。
では、楽しみは何ですか。では、誰かが私のためにボトムアップアプローチを繰り返すことができますか。ある意味で、ボトムアップとトップダウンの区別について話すこともできます。必ずしもどのようなメカニズムを使用するかではなく、ニューラルネットワークかルールかどうかに関係なく。
ニューラルネット。ニューラルネットとは何ですか。どのように機能しますか。
デイビッドは説明します。ええと、これをどれほど詳細に説明すべきかわかりません。ニューラルネットについて喜んで話します。それらは、非常に単純な非線形システムである生物学的ニューロンに緩く基づいていました。力は、それらの非常に多くを持つことと、それらの間の相互接続から来ています。
過去数十年にわたって私たちが学んだことは、生物学的インスピレーションは実際にはそれほど重要ではないということです。それらが学習しており、基本的に統計的推定、統計的学習を行っているという事実です。そして、それは幅広い問題に非常に有用です。
マークは割り込みます。私は入らなければなりません。つまり、私はニューラルネットワークで働いています。それが私の仕事の主な9時から5時の部分です。
しかし、人々がニューラルネットワークが学習すると言うとき、私は本当に心配になります。なぜなら、私は彼らがそうするとは確信していないからです。たとえば、ブラックボックスとニューラルネットワークがあり、たとえばプラス2演算子を教えようとした場合、ニューラルネットワークに2の入力を与え、望ましい出力が4であると伝え、3の入力を与え、望ましい出力が5であると伝え、66の入力を与え、望ましい出力が6であると伝えるかもしれません。
その間に何をしていますか。多くの望ましい入力パターン、多くの入力パターン、多くのターゲット出力パターンを与えています。アイデアは、それを合理的な範囲の入力条件で十分に頻繁に行えば、ニューラルネットワークは引用符付きでプラス2演算子を学習するということです。
しかし、それがそうしないことはかなり明白に分かります。私のトレーニングデータがnから100の範囲にあり、ニューラルネットワークに517を与えた場合、出力として任意の数を与えるかもしれません。521を与えるかもしれません。
一方、もしあなたが2を加えることが何を意味するかを本当に理解していると私が信じている場合、私はあなたに任意の数を与えることができ、あなたは正しくプラス2を与えるでしょう。そして、私たちが学習という言葉を正しく使っているとは思いません。
デイビッドは強く反論します。私は、リコ・イノベーションズの機械学習と知覚グループの責任者として、深く反対します。学習は、入力と出力に基づいて行動を変えることです。長い除算のような、ニューラルネットワークがひどいシステムであり、うまく一般化しない問題を選択することができます。しかし、それらがうまくいく多くの問題があります。手書き、手書き認識、音声認識などです。これらすべてのもの、根本的なことは学習です。学習は情報に基づいて行動を変えることです。
マークは反論します。それがあなたの学習の定義です。しかし、今日サイエンス・ミュージアムの外で誰かに学習とは何を意味するかを尋ねたら、彼らはシナプス接続の調整という観点から学習を必ずしも定義しないと思います。
デイビッドは答えます。いいえ、シナプス接続である必要はありません。私はそうである必要があるとは言いませんし、文法学習を持つこともできます。名詞、動詞、目的語の例を与え、文構造のパターンを学習させることができます。
ですから、学習の重要なことは、ニューラルネットワークでも統計的でも文法的でもありません。全範囲があります。入力と望ましい出力に基づいて行動を変えるということです。
創発と複雑性
サイモンは話題を変えます。マーティン・スミスは映画で言及した点について、創発または創発的性質と複雑性と呼ばれるものについて話しました。それはどういう意味でしたか。
カースティンは説明します。そうですね。つまり、人々がシステムを設計する方法を見ると、この部屋から次の建物の部屋にナビゲートできるロボットが必要だとすると、それを行うには2つの方法があります。
これが明確に指定できる問題である場合、どのように解決できるかを指定し、形式化することもできます。特定のナビゲーションアルゴリズムを使用したいとし、このアルゴリズムが適用されれば満足だとします。そうすれば、ニューラルネットワークを使用するか進化的技術を使用するかは実際には問題ではありません。問題を指定し、特定の実装に落とし込み、テストすることができます。
たとえば、創発的な行動、人工生命に興味がある人々が行っていることは別のものです。これは、人工生命の分野は人工知能に関連していますが、重複はありますが同じではありません。人々は、インクリメンタルまたは発達的アプローチと呼ぶかもしれないものにもっと従っています。彼らが言っているのは、ナビゲートすべきこのロボットは、ロボットが非常に非常に単純なことをすることから始めるということです。ただ前に進むだけ、いくらかの地面をカバーします。次に、障害物を避けること、角を曲がることなど、もう少し難しいことをします。
ですから、ゆっくりとレベルを積み上げており、各段階で実装し、テストし、評価し、次に何が来るかを決定します。そして、しばしば発見できることは、動作が創発的であるという意味で観察できる動作があるということです。つまり、この動作がどのようにコード化されているかは、プログラムのどこにも明示的に指定されていません。これが人々が創発効果と呼ぶものです。
サイモンは確認します。つまり、明示的な動作がないか、動作の明示的な表現がないということです。それが複雑さがどこから来るかです。人々は、ますます多くの動作が互いに相互作用し、重要なことに環境と相互作用する、ますます複雑なシステムを構築することを期待しています。静的なシステムについて話しているのではありません。世界で何かをしていて、フィードバックを得るシステムについて話しているのです。
サイモンは考えます。これはインターネットを思い出させます。それは単純なものとして始まります。それは単なる接続です。外の世界と相互作用しています。どんどん大きくなっていきます。つまり、奇妙なアイデアです。つまり、インターネットのようなものから知能が創発する可能性はありますか。
デイビッドは答えます。私たちは知能について考える歴史の中で非常に興味深い時期にあると思います。知能がどのように構築またはモデル化できるかについて、いくつかのモデルがありました。デカルトはチューブなどについて話しました。次に、電話交換機のモデルがありました。そして長い間、メインフレームコンピューターのモデルがありました。そして、映画『A.I.』のデイビッドのような個々のロボットがありました。そして、インターネットがAIの発展の場所になり得る時代に移行していると思います。多くの理由があります。
まず第一に、アーキテクチャは非公式に脳に似ているという点で、中央制御装置がありません。非常に拡散的です。欠陥があり壊れた情報を含む非常に不完全なシステムがあり、矛盾しています。しかし、インターネットでのAIの発展について最も重要な単一の側面は、経済的なインセンティブがあることだと思います。
人々は木星への宇宙船を飛ばすためにHALを構築するつもりはありませんが、人々はインテリジェントな検索、情報の要約などを望むでしょう。そしてこれらのシステムです。また、私の検索エンジンとあなたの検索エンジンを比較する能力もあります。ですから、本当の経済的推進力があります。
サイモンは確認します。しかし、あなたが言っているのは、インターネットは知能を実行しているものではなく、知能を埋め込んでいるということです。それは一部、AIプログラムをテストできるアリーナです。
デイビッドは答えます。ええ。しかしまた、誰も個別にプログラムしなかった解決策を持ち帰ってくるでしょう。つまり、誰も予想できなかった答えが得られます。
ビルは付け加えます。しかし、私たち自身の脳の知能は一つの部分にはないかもしれません。それはシステム全体にあります。そしてインターネットは、それを使用する社会全体、コミュニティ全体の能力を向上させる手段です。ある意味で、知識創造の手段です。
マークは割り込みます。しかし、チューリングテストとトップダウンアプローチを離れる前に、シンボルを単にシャッフルしたり、非常に巧妙な方法でシンボルを操作したりするシステムの一つの限界は、これらのシンボルに意味を与えることだということを強調することが重要だと思います。
そして、これはサールの中国語の部屋の議論です。彼はアナロジーで言っていました。もしあなたが中国語のシンボルをシャッフルしているなら、中国語の文字でどのように関連しているかを学習し、それらを適切にシャッフルする方法でそれを行うことができるかもしれません。しかし、もしあなたがこれらのものが世界に関連しているのを見たことがないか、それらが世界とどのように関連しているかを知らなかったなら、それらに意味を与えることができず、絶対に本質的な何かが欠けています。
そして、私はこれが事実だと思います。シンボル操作システムがどれほど巧妙であっても、それらのシンボルに自分自身の外の存在の宇宙での意味を与えることができなければ、私たちがそうするように、それらをシンボルとして使用していないでしょう。そして、シンボルに意味を与える重要なルートは、他の動物の社会的環境や人間との相互作用を含む環境内に知能を身体化することだと思います。しかし、シンボルの外の現実世界と相互作用する方法でです。
マークは慎重です。私は、身体化それ自体が理解を保証するのに十分だとは思いません。なぜメカニズムが何であるかを、私に、またはこれに興味がある誰かに説明しなければなりません。どこでこれを得るのか。
ビルは同意します。絶対に。これは本当に重要な問題だと思います。これは神経生物学では解決されていない問題であり、AIではなおさらです。脳信号が脳の他の部分に何かを意味する方法がわからないのです。それらをシンボルと考えることができ、私たちは今ここに座って、外の世界だと思っているものを経験していますが、私たち全員、今持っている自分自身の意識的な認識は自分の頭の中で起こっていることを認識しています。そして、自分の頭の中で起こっていることは、ニューロンの発火であり、それ自体は現実世界で実際に起こっていることと任意のシンボルと同じくらい遠く離れていると考えるあらゆる理由があります。
私が赤を見るとき、私の頭の中に赤い信号はありません。
創造性と自己認識
サイモンはまとめます。では、これは次のことに移るかもしれません。つまり、これまでナットとボルトの知能について話してきましたが、創造性、自己認識、想像力のアイデアに移るべきかもしれません。創造性の観点から、ここで小さなテストをしたいと思います。
2つの音楽を聴いていただき、それについてどう思うか見てみましょう。最初のクリップです。
音楽が流れます。
美しい。
音楽が続きます。
それが最初のクリップでした。そして、2番目が来ます。
音楽が流れます。
音楽が続きます。
音楽の愛好家はいますか。誰か私が言いたいことは。
デイビッドは答えます。私は真面目な音楽家です。2番目はコンピューター生成で、最初はそうではなかったと思います。
サイモンは尋ねます。全員がそれに同意しますか。
デイビッドは続けます。私の推測では、2番目のものは多くのモーツァルトを聴き、構造を抽出し、モーツァルトのパターンを認識し、それを再作成しようとしたプログラムによって作曲されたということです。
サイモンは明かします。あなたはおそらく正しいと思います。2番目のものは、カリフォルニア大学のデイブ・コープという人物によって作曲された、音楽知能の実験と呼ばれるプログラムによって作曲されました。
2番目の音楽作品は、またはそれを作成したコンピューターは、その言葉のどの定義においても何らかの形で創造的でしたか。
マークは答えます。プログラム自体は創造的ではなかったと主張します。創造性の行為は、プログラマーまたはこの場合のプログラマーのスキルと創意工夫にあります。非常に非常に洗練された電子機械、コンピューターに助けられて、彼の考えを非常に速い速度で具現化し、コンピューターなしでは彼ができなかったことを行うことを可能にします。
彼は音楽を作曲する新しい方法の手段を定義しましたが、彼の一連のルールに従うコンピューターを使用することで、初心者には漠然と音楽的に聞こえる音楽の断片を作成することができます。たとえその背後にベースビートがなくてもです。
サイモンは尋ねます。つまり、音楽作品を聴いて、それがコンピューターが作成したもので独創的だという理由で、それに創造的であるという評価を与えることが可能だと思いますか。それとも、常にプログラムの作成者に功績を与えますか。
マークは答えます。私のこれまでの議論での発言から推測できるでしょうが、驚かせてください。私は、時計仕掛けのようなシステムがそのようなシステムが創造的だと主張するとき、私は懐疑的です。私は苦しい戦いをしていると思いますが、もう一度試してみます。
サイモンは紹介します。ここに創造性の別の例があります。アーティストのハロルド・コーエンによって書かれたアーロンと呼ばれるプログラムです。これがもう少し印象的かどうか見てみましょう。
音楽が流れます。
ハロルド・コーエンは説明します。それは知っていることについて何でも絵を描きます。実際には比較的少ないことについて比較的少数のことを知っています。人間について知っています。植物を育てる方法を知っています。箱や鍋などのようなものを作る方法を知っています。
しかし、それには表現にその知識を構築する方法についての別の知識体系があります。それは完全に別の問題であり、コンピューターグラフィックスの物事を行う方法とはまったく異なります。
最も挑戦的なことは、圧倒的に着色でした。
カラリストとして機能する人間は、彼らの目を使用しています。非常に強力なフィードバックシステムです。コンピューターはそれを行うことができません。少なくとも私のものはできません。目がないからです。プログラムは、色を置き始める前に全体を構成します。
うまく機能しているようです。それは単に物事を行う別の方法です。しかし、私がそれを見ることができる前に、私の頭を正しい場所に置くには非常に長い時間がかかりました。
私は自分のプログラムが創造的だとは思いません。ほとんどの人よりも創造性が何を意味するかについてはるかに厳格な概念を持っているようです。私が何年も前に提案したテストは、1月にプログラムへの作業を止め、8月に1月には生成できなかった画像を生成した場合、それが創造的なプログラムだと言う準備ができているということでした。
私は単に、プログラムにパラメーターをランダムに変更させて異なる画像を思いつかせることについて話しているのではありません。インテリジェントな自己修正について話しているのです。それが目標だと思います。そして、私たちはそこに到達するつもりだという信念の問題だと思います。
しかし、アーロンがそうではないことは自分の心の中で非常に明確です。
それが何をしているか知らないという考えです。それは単にルールに従っているだけか何かです。まあ、あなたが知っている、そもそも、アーティスト、人間のアーティストが何をしているかをどの程度知っているか私は確信していません。彼らがルールに従っている程度も明確ではありません。
ルールがより複雑になり、何が起こっているかを追跡できなくなるだけです。そのような用語を使用するとき、人は人間を考えています。人は自分が何をしているかを認識しています。コンピューターは認識していますか。私は全く分かりません。質問の仕方がわかりませんが、この複雑なことを行うエンティティは、自分が何をしているかを知らない限り、何もできないと思います。
サイモンは尋ねます。それでも、地獄のためにこれをあなたに尋ねます。それに対して何か共感はありますか。
マークは否定します。ええ、いいえ。つまり、私の以前の発言から明らかだと思いますが、私はそのプログラムが何も知っていたとは思いません。もし何かを知っているとしたら、それは絵を描くロボットを制御するプログラムの機械コードを実行する際に、メモリから数値をアキュムレータにロードし、別の数値をそれに追加する方法です。
それが私がそのプログラムに与える準備ができている最大の知識です。
サイモンは尋ねます。あなたはこれらのロボットに興味があることを知っています。それらはほとんど育てられています。彼らはある種、ほとんど生まれて、それから世界を走り回ります。物にぶつかります。おそらく、私たちが痛みと呼ぶかもしれないものの初期の兆候を経験します。これらのロボットのいずれかが、ハワード・コーエンが示唆しようとしている意味で創造的になれると思いますか。
カースティンは答えます。今後10年間で私が見るロボットはないと思います。
システムが真に創造的であるために私が期待することは、性格を持ち、人生を持つことです。現在私が知っているすべてのロボットは、一日の終わりにスイッチを切り、これでおしまいです。彼らは叫びません。
ビルは問題を提起します。創造性の問題についての議論。その根底にあるのは、私たちができることで、原理的に機械知能ができないことがあるのかという懸念です。そして、私たちがどれだけ待っても、彼らがどれほど賢くまたは速くなっても、彼らが私たちほど得意にならないことが一つあると思います。それは人間であることです。
人間であることは、特定の物理的現実と、あなたが知っている特定の個人的な歴史を持つこと、そして外の世界から自分自身を区別する自己意識を持つことを意味します。HALが「申し訳ありませんが、それはできません」と言ったときの声明で最も重要なことは、単純な「私」という言葉だったと思います。そして、自己意識を持つには、私が知る限り、どの機械知能でも視野にないと思われるものが必要です。
マークは共感します。あなたが言っていることに共感するものがあります。はい、共感があります。つまり、AIについての私の根本的な懸念、つまり機械が世界を乗っ取ることについてあまり心配しないようにさせるものは、一度か二度聞いた予言ですが、コンピュータープログラムの単なる実行が、それ自体で現象的状態を具現化するのに十分であるかどうかは明確ではないという事実です。
そして、現象的状態とは何を意味するかというと、もし私があなたの頭を叩いたり、認められたことに気付かなかったりした場合に私が得る感覚です。または、もし私があなたのシャツの特定の青を見て、どのコンピュータープログラムの実行がマシンにそのような状態を具現化できるかは明確ではありません。そして、マシンに現象学が組み込まれていない限り、私たちが住んでいる世界にマシンをどのように根拠付けることができるかは明確ではありません。
デイビッドは異議を唱えます。現象学が必要かどうかわかりませんが、私の主な要点は、コンピューターが非常に愚かな今、このように話すのは簡単だということです。100年、200年、500年、1000年後、この会話の反対側が、「はい、私は青を見ます」と本当に言い、本当に身をすくめるコンピューターによって支持されているとき、はるかに難しくなるでしょう。
私はそれが非常に遠いと思います。他の多くの予言者よりもはるかに長いと思います。有用なツールなどがあることに同意しますが、AIを構築するもう一つの理由は自分自身を理解することだと思います。
マシンに構築しようとするまで、人間が解決していることに気付かなかった問題が非常に多くあります。絶対に。
ビルは例を挙げます。私のお気に入りの例は、音声のセグメンテーションです。私が話しているとき、私たちは個々の単語を聞きます。しかし、音自体にはそのような区切りはありません。
そして、連続音声を認識するマシンを構築しようとして初めて、私たちが行っているこの驚くべきことに気付きます。そして、私たちは自分自身をよりよく理解します。そして、私を本当に興奮させるのは、今気付いていない他の深遠な問題があると確信していることです。
50年後のAIの未来
サイモンは尋ねます。50年後、私たちはどこにいるでしょうか、マーク。
マークは予測します。私たちは、以前議論したチューリングテストのようなテストに合格することがさらに優れたマシンを持つと思います。
チューリングテストは50年以内に合格すると思いますか。
驚くでしょうが、プログラムは明らかに改善すると思います。より良くなるでしょう。ロボットを持つでしょう。彼らはより遍在するでしょう。より洗練されるでしょう。人間の心の働きについてより多くの洞察を私たちの調査から得るでしょう。
サイモンは要求します。具体的なものが欲しいです。より多くまたはより良いものは欲しくありません。遊ぶ新しいおもちゃが欲しいです。何ですか。
カースティンは答えます。私が望むのは、私たちを笑わせることができるシステム、本当に面白い話を私たちに話すことができるシステムです。ただの短い話や些細なケースではなく、私たちを楽しませることができるシステムです。
つまり、ユーモアのセンスは、感情の微妙な知能と外の世界の理解などを示します。
そうです。つまり、確かに短いジョークを言うことができます。言葉のさまざまな解釈に基づいているかもしれないいくつかの単純なジョークを知っています。これは私が意味することではありません。
私が意味するのは、たとえば、私たちに経験について話すことができるロボットで、私たちはこれらの経験に関連付けることができ、彼らは私たちが関連付けることができることを認識できるので、彼らが私たちに話す話の種類を修正できます。
サイモンは確認します。皮肉のセンスや自虐的なユーモアを持つロボット。では、あなたはそれがあなたが望むものだと言いました。それが私が望むものです。私は実際にそれについて非常に悲観的です。50年は早すぎます。
奇妙なジョークはあるが、それ以上ではない。
ビルは予測します。人々は他の種類の知能と相互作用することに慣れるようになると思います。西洋からの人間が非常に他のコミュニティの人々と出会ったとき、彼らは人間の種が以前に想像していたよりもはるかに多様である可能性があることを発見しました。そして、それは私たちの意識を拡大します。そして、50年後、私たちではなく、私たちの孫は、私たちが慣れていない方法で、有能な知識ベースのシステムと相互作用することに慣れて育つと思います。実際、それはすでに起こっています。
サイモンは尋ねます。映画『2001年宇宙の旅』は、AIの研究への関心を本当に刺激したと思いますか。あなた自身のキャリアは、2001年に登場するものの一つである読唇術のようなものです。
映画『A.I.』はすでに繁栄している産業である人工知能を活性化させるでしょうか。
デイビッドは答えます。それは繁栄しています。私たちはAIの長い歴史を辿ることができます。ビジョンを持つことはしばしば役立つと思います。それは誤解を招く可能性があります。ある意味で、チューリングテストは、床を這うことがおそらく私たちの最初のステップであるべきだったのに、非常に高レベルの問題に取り組もうとすることで、この分野を誤った方向に導いたと思います。
しかし、私たちはこれらの映画に触発されるでしょうし、AIは社会の一部になっていくでしょう。
エピローグ
サイモンはまとめます。では、そこで止めるのが良いかもしれません。私のゲスト、デイビッド・ストーク、マーク・ビショップ、ビル・フィリップス、カースティン・デンハムに感謝します。
終わる前に、AI研究者の何人かから聞いた小さな話をあなたに残すことができるかもしれません。それは2050年に関するものです。
想像してみてください。AIコミュニティが団結し、世界中のすべてのコンピューターを相互接続して、真の機械知能を作成するという巨大な努力をします。彼らは少しトップダウン、少しボトムアップを試します。いくつかのニューラルネットをその中に入れることなどを許可し、真の知能を達成するまで10年ほど煮込むことを許可します。
そしてその時点で、主任プログラマーがコンピューターに近づき、究極の質問を尋ねます。神は存在しますか。
短い間があり、その後コンピューターが答えます。「今、神が存在します。」
サイモンは締めくくります。さようなら。悪夢を見ないでください。
音楽が流れます。
コメント