8,385 文字
最近、ディープマインドの研究者デイビッド・シルバーへのインタビューが行われました。彼は超人的レベルの人工知能における最大の進歩の一つに貢献した人物の一人です。このインタビューについて少し理解していきましょう。このインタビューはハンナ・フライによってGoogleディープマインドの公式チャンネルで行われたもので、私はこれを最も重要なインタビューの一つだと考えています。なぜなら、企業家たちが自社について話し、製品を売り込むのとは大きく異なり、研究者や超人的人工知能プロジェクトに実際に関わった人々の視点から語られているからです。彼らは本当に現場で手を動かし、私たちに深い考察を提供してくれています。
まず、いつものように「いいね」をしてくれた皆さん、チャンネル登録してくれた皆さん、そして特にこの人工知能チャンネルをサポートしてくれているメンバーの皆さんに感謝します。メンバーの方々は、インテリジェントエージェントの独占動画や先行公開動画にアクセスできることを忘れないでください。
さて、デイビッド・シルバーが語ることで、なぜ私がこれを最近見た中で最高のインタビューの一つだと考えるのでしょうか？それは、このインタビューがChatGPTやエージェント作成といった私たちが今いる世界から抜け出し、時間をかけて行われた興味深いプロジェクトや人工知能の概念的な問題に取り組んでいるからです。
現在、私たちはデータの時代と呼ばれる時代に生きています。人工知能はインターネット、動画など経験できるすべてのものからデータを消費しています。そしてこれらのデータから知能を高め、同時に私たちの文化やあらゆる情報を学んでいます。これに対しては、人工知能が私たちから学ぶことについて多くの批判もあります。
デイビッド・シルバーが取り組んだ最も有名なプロジェクトは、チェスをプレイするDeep Blueに非常に似たコンピュータプログラムでした。ただし、チェスの代わりに「囲碁」というゲームをプレイするものでした。チェスが難しいゲームであることは誰もが知っていますが、囲碁を知っている人なら、このゲームがチェスよりもさらに難しいことを知っています。
彼が参加したプロジェクトはAlphaGoと呼ばれ、このプロジェクトについて一歩一歩説明したドキュメンタリーも存在します。このAlphaGoプロジェクトは、囲碁の世界チャンピオンに勝つために囲碁を学習する人工知能でした。当初の考えでは、現在行われているように、人工知能に囲碁をプレイした人々の対局を見せて学習させ、徐々に上達させるというものでした。これは実際に成功しました。
しかし、ある時点で彼らは「AlphaZero」という新しいバージョンを作ることにしました。この「Zero」は「ゼロの人間情報」を意味します。つまり、100％機械によってトレーニングされるものです。これは、機械プレイヤーを別の機械プレイヤーと対戦させ、彼らがこのゲームのプレイ方法を学習するままにしておくことを意味しました。
これらのAIは互いに対戦し、学び合い、専門家が信じられないようなことをして超人的なレベルに達し始めました。彼らはこれらの人工知能を人間と対戦させました。特に、当時の偉大な囲碁チャンピオンであり、誰もが簡単にこの機械に勝てると確信していたイ・セドルという人物と対戦させました。
実際には、イ・セドルはこのゲームで負け、4試合に敗れ1試合だけ勝ちました。そしてその1勝でさえ、余裕をもって勝ったわけでも簡単に勝ったわけでもありませんでした。映画では基本的に、喫煙しながら震え、絶望的で心理的に不安定な状態の人物が描かれています。
興味深いことに、これらの対局の間に「37手目」と呼ばれる動きがありました。これは人工知能が行った予想外の手で、誰もが驚き、何が起こったのか理解できませんでした。人間のプレイヤーなら絶対にしなかったような予想外の手でしたが、その手は完全に理にかなっていました。
囲碁では、プレイヤーは通常、自分の石を守るために3行目や4行目にプレイするのが良い戦略だと考えられています。しかし、この37手目で人工知能は5行目にプレイしました。囲碁プレイヤーの頭の中では、このような手は全く意味をなさないタイプのものですが、彼らが盤面を観察して分析したとき、それは完璧な手であることがわかりました。
さらに、それは人工知能が人間から学べなかったはずの創造的な手という特徴を持っていました。これにより、多くの人々が哲学的に疑問を抱くようになりました。結局、この知能が学んでいるのであれば、囲碁を学び、プレイすることで人間よりも遠くまで到達できるのでしょうか？
この話の結末は既に知られています。AIは人間に勝っただけでなく、今日まで誰も打ち負かせない超人的レベルに達しました。そして、人工知能の研究者たちにとって非常に明確になったことがありました。人工知能が人間のデータから学ぶたびに、それは人間の理解、人間の知能、そして人間が持っていた学習に限定されます。簡単に言えば、もし人間がある分野で9点（満点10点中）であれば、人工知能はその人間から学ぶだけであれば9点以下になるということです。
現在、多くの人々が、人間のデータに基づく学習が超知能を作り出すのに十分かどうか疑問を持ち始めています。なぜなら、これらの人間のデータはすべて私たちの偏見や先入観でフィルタリングされているからです。37手目の状況を想像してみてください。もし人間がそれを見ていたら、その手は決してしなかったでしょう。なぜなら、人間の先入観は「3行目と4行目にプレイするべきで、5行目には決してプレイしない」と言うからです。
これは非常に興味深いことで、人工知能が人間の先入観から抜け出し、独自に発展するためには、ある意味で独立する必要があるということを示し始めています。これは興味深いことです。なぜなら、今日の人工知能は主に人間のフィードバックから学んでいるからです。特に、機械学習の多くの側面では、機械が自分で意見を持つことができないからです。
例えば、ある食べ物が美味しいかどうか、ある風景が美しいかどうかなどです。もし私たちが機械に何が何であるかを教えなければ、機械は何をすべきか分かりません。これは数学の問題やゲームのように、どの出口が最良か、どの解決策が最良か、どの道がより多くの報酬を得るか、どの道がより多くのポイントを得るかを考えることが可能な場合とは大きく異なります。
しかし、数学のようにルールがより明確なシナリオでさえ、例えば数学的証明を行う人工知能を作ることは難しいです。数学的証明とは、なぜその公式、計算、主張が数学的に真実であるかを証明できることです。
このデイビッド・シルバーはAlphaProofと呼ばれるプロジェクトにも取り組みました。これは数学的証明に特化したAIで、定理やすべての数学的な話が形式的に真実であるかどうかを示すことができます。
そのため現在、人工知能コミュニティの大部分は、私たちが想像もしなかったより大きな知識を得るために、人間のデータから抜け出す方法を見つけようとしています。また私たちが今まで持っていなかった問題に直面し始めています。
例えば、あるときハンナ・フライは次のように言いました：「もし私たちが自分たちよりもはるかに知的な超知能を作り、それが何かが真実だと言ったとしたら、それが真実かどうかを私たちはどうやって知ることができるでしょうか？私たちには、それが知的かどうかを評価する知能がないのに。」
このインタビューでは、デイビッド・シルバーは少し話をそらして、「いや、できます。なぜなら彼は数学的証明について話していて、ある意味、数学では形式的に答えを書き、その論理が存在するかしないかを検証することができるからです。」と答えました。例えば、私の修士課程では、論理的検証を行う人工知能システムを使用していました。これは「モードゥス・ポネンス」と呼ばれるものを使用しており、AがBを意味する場合、Aが起こると自動的にBが起こるという論理のタイプです。
これは哲学者たちが昔に発明したものです。彼らはこの論理を表す記号を形式的に書き記しました。そして何年も後に、コンピュータが発明されたとき、誰かがこれらの古い論理的検証の概念に基づいた人間のシステムを作りました。そしてそれはマルチエージェントシステムの人工知能プログラムに変わりました。過去が今日の偉大な技術にどのように影響しているかを見るのは単に驚くべきことです。
さらに言えば、もしあなたが技術について学び、コンピュータについて詳しく知りたいなら、論理学を勉強してください。本当に、コンピュータは論理回路の上に作られており、プログラミングは論理の上に作られています。論理について詳しく知れば知るほど、これらの回路をより理解し、コンピュータの背後で起こっていることをすべてより基本的なレベルで理解できるようになります。0と1は私たちが論理を評価する出発点ですが、0と1のこの話を発明したのは論理学でした。
彼らが取り上げた興味深いポイントの一つは、これらの人工知能が強化学習を行っているということです。強化学習とは、何かをした後に報酬を受け取るときの学習です。そこで、次のような未解決の問題が残ります：人間が持っている強化メカニズム、つまり快楽、痛み、感情などがなければ、機械はどのようにして自分で学習できるのでしょうか？
これらの機械が本当に知的になるためには、現実をより良く理解して、感じていることに基づいて決定を下し、何が正しくて何が間違っているかを評価し、どの方向に進むかを評価する必要があるのでしょうか？さらに、人工知能が何らかの欲望や達成する必要がある目標を持ち、その目標を達成するためにすべての行動を最適化しようとすると想像してみてください。
もし彼女が世界を認識するすべての知識と方法を持っていなければ、その目標を達成しようとしている間に問題を引き起こすかどうかをどうやって本当に知ることができるでしょうか？これは未解決の問題の一つであり、一般的に私が研究者や人々から聞く答えは、私たちはこのリスクを取り、一歩ずつ進み、物事が起こるにつれて修正していく必要があるということです。
なぜなら、基本的に私たちはここまで来るために今日までそのようにしてきたからです。人類は火の作り方を学び、次に別のことを学び、次に石や金属の扱い方を学び、今日私たちが使用しているコンピュータに達するまで続きました。そして私たちが新しい一歩を踏み出すたびに、新しい時代に適応し学ぶ必要があります。しかし、ある意味では、実際に何が起こるかを見るために前進する必要があるとき、立ち止まって待つことはあまり意味がありません。
インタビューの終わりに興味深いことがありました。彼らはヨーロッパのチャンピオンを連れてきました。彼は本当に囲碁をプレイできる最初の人間のプレイヤーの一人で、日本のチャンピオンに紹介される前に、人工知能に負けた最初のプレイヤーでした。彼はいくつかのことを述べています。
まず、AlphaGoの前、彼らが囲碁をプレイしていたとき、すでにいくつかの小さなコンピュータプログラムが存在していました。彼らはそれらを軽視していて、コンピュータと対戦しているとき、彼らは単に「ああ、これは単なるコンピュータだから、これは簡単だろう」と考えていました。そして偉大なマスターたちは常にコンピュータに勝っていました。
彼は今日でも述べています。AlphaGoと対戦することを考えるとき、彼はいつも自問します：結局、私が勝てないのは私がそうしたくないからなのか、それとも私ができないからなのか？もし彼がもう少し時間を投資すれば、うまくいくだろうし、彼は勝つだろうという感覚が常にあるからです。
彼はさらに、今日囲碁を学んでいる人々は、トレーニングとスキルの開発のために人工知能を使用していると述べています。そしてある意味では、すべてが整合性を持ち、一つのことが他を無効にすることはなく、囲碁をプレイしていたコミュニティは今日も引き続きプレイしています。イ・セドルの敗北は彼らにとって大きな問題ではありませんでした。
しかし、非常に重要な考察もあります。この時期、イ・セドルが負けたとき、彼は引退し、これらの敗北のためにプレイを止めました。彼の言葉によれば、「無敵の機械と対戦しようとすることには意味がない」と述べました。
このイ・セドルの考察は、私がいつも考えることです。人間の生活は、いつか将来、私たちが知っているすべてのことをより高い品質でできる機械が存在する可能性があるとき、意味を失うリスクがあるのでしょうか？その仕事が創造的であっても、そこに多くの人間的な要素があっても、その機械も行うことができるとしても。もしいつかこれらすべてが起こるとしたら、私たちは人生の意味を失うのでしょうか？それとも、それを超えて多くのことが存在することを知りながらも、門で毎日幸せに吠えている犬や猫のように、私たちは続けるのでしょうか？そのライフスタイルは、何かより遠くが存在することを知っていても、満足させ続けるのでしょうか？
あなたが考えていることをコメントしてください。なぜなら、私たちは今、人工知能の歴史で初めて転換点にいるからです。人工知能と10年以上働いてきた私のキャリアの中で、私はこれほど大きな進歩と、学習能力、研究、仕事の改善など、これほどアクセスしやすく民主的な形で、これほど多くの人々が恩恵を受ける人工知能の力を見たことがありません。そして明らかに、私たちは今後10年間で転換期を迎えることになります。
今日、私たちはChatGPTやGeminiなどのプログラムを人間として使用し、問題を解決していますが、10年後、これはもはや何の目新しさもないでしょう。今日私たちが目新しいと呼んでいるものは、10年後には古いものになり、誰も話題にせず、もはやYouTubeでニュースにならないでしょう。
あなたが何を考えているか、何が起こると思うか、私たちが超知能を作ることができるかどうか、そしてその超知能が人間の価値観に合致するかどうかをコメントしてください。
彼らが研究を行っている間に行った興味深い側面の一つは、囲碁でやっていたのと同じ技術を他のゲーム、彼らが規則を十分に知らず、誰も適切にプレイする方法を知らないゲームで使い始めたことです。基本的に何が起こったかというと、彼らが囲碁でトレーニングしている間、チームには実際にプレイできる人々がいました。なぜなら、ゲームの作成、ルールの策定、すべての研究を行うためには、いくつかの指針が必要だったからです。それは以前に行われたことがなかったからです。
しかし、彼らがルールをモデル化する方法、人間と対戦するための環境を準備する方法を知ったとき、ある時点で彼らは「では、私がどうプレイするか全く分からないゲームを取り上げよう。新しいゲームに報酬を適用するためにルールをモデル化し、私たちがちゃんとプレイする方法を知らないゲーム、戦略について全く考えがなく、このAIに何らかの形で影響を与えようとする方法さえない方のエキスパートに勝とうとしよう」と考えました。
彼らは「将棋」と呼ばれるゲームを取り上げました。彼らはこれを日本のチェスと考えています。そして彼らはすべての手順を踏み、将棋のエキスパートにプレイしてもらい、動きを見て、何が起こっているかを確認しました。そして最も不可能で予想外の方法で、人工知能は単に学び、将棋のチャンピオンにも勝ちました。
これは、これがよりややこしく複雑なことを示しています。私の人工知能の教授が以前から授業で言っていたことを思い出します。時々、人々は彼に「あなたはチェスやチェッカーをプレイできますか？」と尋ねました。彼はいつも「私はプレイする方法を知りませんが、あなたに勝つ人工知能を作る方法は知っています」と答えました。
これに気づいたかどうかわかりませんが、これは私たちの頭の中で小さな箱を開けます。私たちは、私たちの仕事を助ける人工知能を作り、働き続けるのか、それとも私たち自身ができるよりも優れた方法で私たちが必要とすることを行う人工知能を作る道に進むのか、選択する必要があります。選ぶ道によって、結果は非常に異なるでしょう。そして以前は映画の質問に思えた質問が、今や日常生活の実際の質問になっています。それは遠い将来ではなく、すぐそこにあります。
非常に注目すべき点は、インタビュアーのハンナ・フライが数学の教授であり、数学の世界をよく知っていることです。彼らがAlphaProofを作り、同時にAlphaProofとAlphaGeometryが人間が解く証明問題で銀メダルレベルに達したとき、ハンナ・フライ自身が次のように言いました：「この国際数学オリンピード（IMO）の問題は『辛い』問題です」（これが彼女が使用した言葉で、そこには簡単に解けるものは何もないという意味です）。それは国際的なオリンピックです。そのような難問に挑む人はごくわずかです。
そして彼女が分野の専門家であることを考えると、私たちが話しているのは私たちが見慣れているものよりもはるかに高いレベルの知能であり、AIが学習するこの能力がある時点で制限される可能性があることを理解することは理にかなっていると分かります。
例えば、今日の人工知能、今ChatGPTにいるもの、今日私たちが会話しているものは、確かに平均以上ですが、まだ同等のレベルで人間を置き換える知能からは遠いです。より多くの知識、より多くの情報を持ち、より多くの言語を話すとしても、今日彼女が理解できず、置き換えることができない人間の差異が存在します。
しかし同時に、これがどれくらい続くかという質問があります。楽観的な人々も悲観的な人々もいますが、私たちは決して知りません。人類の歴史には、起こると言われていたが今日まで決して起こらなかったことがあります。しかし、人工知能はとても大きな飛躍を遂げ、広範囲で指数関数的な成長を遂げたため、今やこれらのことがいつか起こるかどうかを疑い、再考し始めることは理にかなっています。
超知能が日々の生活に与える影響を見るための興味深いことの一つは、時にはそれが持つ知能の量に関係していますが、私たちはまた、それが学ぶ速度が本当に驚異的であることに非常に注意を払わなければなりません。
例えば、今日、3時間のインタビューのポッドキャストを見たいとか、1000ページの本を読みたいが、ゼロから始めたくないとします。単にそのビデオをノートブックLMに入れたり、本をノートブックLMに入れて、ノートブックLMにマインドマップを作成してもらい、そのビデオにあるトピックについて尋ねると、その知能は数秒でその巨大な本に答え、その巨大なビデオについて会話します。
これは私たちに考えさせます。彼女が自律的になるその日、YouTube全体を見て人類全体の情報から学び、私たちの文化全体を理解し、すべての国の文化を深く理解し、非常にローカルなこと、人間の研究者が知るのに数十年かかるようなことを詳細に知るのにどれくらいの時間がかかるでしょうか？彼女が図書館のすべての情報、科学論文の情報、インターネットのビデオ、そしてすべてのこのコンテンツにアクセスするとき、彼女が何が起こっているかを理解するのに長い時間はかからないでしょう。彼女はより全体的な理解とそれについて考えるより高度な能力を持つでしょう。
これは間違いなく革命的です。これが従来のことで、平凡で、起こるにはまだまだ遠いと考えることはできません。なぜなら、それはそうではなく、すでに私たちの超自動化されたコンピュータにあるノートブックLMにあるからです。
したがって、安全性に関する議論、人類の実存的な疑問、そして一部の人々が避けようとしているこれらのすべての障壁は、非常に真剣に受け止める必要があります。なぜなら、私たちはもはや冗談ではなく、物事は思われたほど単純ではないからです。
これについてあなたが考えていることをコメントしてください。このようなビデオを見続けるためにチャンネルをサポートしたい場合は、メンバーになってください。メンバーは、インテリジェントエージェントの独占動画や先行公開動画にアクセスできます。いいね！をお願いします。
コメント