12,371 文字
知性は私たちを世界の支配者にしましたが、知性は思うような形では始まりませんでした。そしてそれが、私たちが世界の支配者であり続けることができない理由かもしれません。
もし私があなたに「人間の知性はミミズから始まった」と言ったら？もし今日のアルゴリズムは、私たちの脳よりもタコの触手に似ているかもしれないと言ったら？知性によって私たちは地球を支配することができました。確かに。でも、私たちを支配するかもしれない知性からどうやって身を守ればいいのでしょうか？
今日、私たちは旅に出て、知性とは何かを理解しようとします。アルゴリズムやモデルについて、知性と言えるのでしょうか。知性はChatGPTどころか、人間から始まったわけでもありません。ミミズから始まったのです。そう、私たちの知性はミミズの子孫なのです。
最初の中枢神経系の形態は、扁形動物という種類の扁形虫に現れました。これらのミミズの中で、プラナリアは二葉の脳を持つ頭部を発達させた最初の動物でした。基本的に、私たちの脳の大昔の先祖は泥の中を這っていたのです。
実際には、本物の脳というよりも神経細胞の塊ですが、体中に散らばった受容体からの情報を統合することで、このミミズは協調的に動き、周囲の環境に反応することができます。この中枢神経系は非常にシンプルですが、脳の原始的なバージョンと言えるでしょう。そこから時間をかけて、すべての動物でより複雑な脳が進化してきました。脳はどんどん大きく複雑になりました。
興味深いケースがタコです。タコは約5億個の神経細胞を持ち、無脊椎動物の中で最も複雑な脳を持っています。驚くべきことに、それらはすべて頭部にあるわけではなく、中枢脳と触手のガングリオンの間に分散しています。基本的に、各触手は独自の知性を持っているのです。だからこそ、タコはSF映画から出てきたエイリアンのように動くのです。
これは、複雑な神経系が異なる方法で、そして生物学的に互いに遠く離れた文脈で進化する可能性があることを示しています。タコは学習し、問題を解決し、本当に知的な行動を示す能力さえあります。ChatGPTのようなモデルの知性は、タコの知性と比較できるのでしょうか？すぐにすべてが明らかになりますが、まだ私たちの知性が何であるかを理解する必要があります。
脊椎動物では、脳は早くから本格的に機能し始めました。本当の質的飛躍は、水から出て陸地を征服することでした。鳥類や哺乳類では、学習や長期記憶など驚くべきことができる高度な脳構造が現れました。
しかし、本当の天才的な進化は哺乳類とともに訪れました。哺乳類では、6層構造を持つ新皮質が出現しました。そして猿が現れ、新皮質が爆発的に拡大しました。それは拡大し、すべてが相互に接続された超高度な神経ネットワークのように、多くの専門領域に組織化されました。そこから、人間の脳への道はすでに敷かれていたのです。
ホモ・サピエンスは長い進化の過程の最終結果です。私たちの脳は、体の残りの部分と比較して巨大で信じられないほど複雑です。新皮質だけで脳の質量の80%を占め、数十の専門領域に分かれています。基本的に、それぞれが特定の機能を持つ多くの異なるアプリを備えたスーパーコンピュータのようなものです。
この組織のおかげで、他のどの動物も夢見ることさえしないことができます。官僚的表現を含む複雑な言語で話し、抜象的に考え（例えば、億万長者になることを想像したり）、自分自身を反省する意識を持ったりすることができます。これらすべては無から現れたわけではありません。これらの能力は霊長類にすでに存在していた脳構造から進化してきましたが、極限まで発達したのです。
扁形虫の最初の原始的な脳から、象、イルカ、人間の巨大な脳まで振り返ると、神経の複雑さと能力の継続的な増加が見られます。しかし、あまり自慢しすぎないようにしましょう。私たちは地球上で唯一の頭の良い存在ではありません。驚くべきことをする動物もいます。例えばカラスです。
カラスは道具を使い、複雑な問題を解決し、いくつかの認知能力では霊長類と競合するレベルに達しています。彼らは羽毛を持った小さなエンジニアなのです。これは、知性が人間だけの特権ではなく、多くの種において様々な形で出現したことを示しています。進化はそこにたどり着くための複数の道を見つけたのです。
知性は、複雑な脳を持つ動物に大きな優位性をもたらしました。柔軟な心を持つことで、生存の問題に対する創造的な解決策を見つけることができます。知性は、私たちの祖先が自然をだますための秘密兵器でした。例えば、有毒な食べ物を調理して食べられるようにしたり、より速く強い獲物を狩るための武器や罠を作ったりするために脳を使ったのです。
基本的に、戦略的に考え、自分の行動の結果を予測できる者は、生き残り、子孫を残す可能性が高かったのです。偶然にも、ホモ・サピエンスは適応の達人であり、砂漠からツンドラまで、地球のあらゆる隅々を知恵と技術によって植民地化してきました。知性により、他の動物が夢見ることもなかった生態学的ニッチを占めることができたのです。
しかし、知性は環境に対処するだけでなく、社会生活においても重要な役割を果たしました。多くの動物は、協力と競争が常に微妙なバランスを保っている複雑な集団で生活しています。このような環境では、コミュニケーション、他者からの学習、集団のメンバーの認識、彼らの意図の理解が不可欠です。
霊長類では、このような社会的政治が脳を急速に成長させました。同盟を結び、トラブルを避け、ライバルをだまし、必要なときに協力できる者は、集団内でより成功していました。チンパンジーやイルカなどの非常に社会的な動物が、高度な協力行動や社会的学習を持っているのは偶然ではありません。そして偶然にも、彼らは体に比べてかなり大きな脳を持っています。
知性は単に生き残るのを助けただけでなく、種間の力関係も変えました。例えばホモ・サピエンスを取り上げてみましょう。何百万年もの間、私たちの祖先は獲物か、清掃係で、常に誰かの食事になる一歩手前でした。
そして約7万年前、大きな変化が起きました。認知革命です。突然、私たちは計画を立て、複雑な言語でコミュニケーションをとり、新しい技術を発明する能力を持つようになりました。私たちの脳は秘密兵器となり、そこから一瞬で食物連鎖の底から頂点へと移行しました。
そしてどうやってそれを成し遂げたのでしょうか？協力し、知恵を使うことです。戦略と遠距離武器を持った人間の集団は、自分たちよりはるかに大きな動物を狩ることができました。その結果、私たちが新しい大陸に到着するたびに、マストドン、モア、ディプロトドンなど、すぐに大量絶滅が始まりました。基本的に、ホモ・サピエンスは歴史上初のシリアルキラーだったのです。
そして私たちは狩りだけにとどまりませんでした。植物や動物を飼いならし、都市を建設し、農業を発明しました。すべて脳と文化のおかげです。基本的に、人類の歴史は、知性と技術がいかに種間の力関係を逆転させたかについての長い物語なのです。
しかし、私たち自身の間でも、最初は単純なことから始まりました。例えば、火です。約40万年前、私たちの祖先は火の起こし方とその使い方を理解しました。それは単に暖かさや光の問題ではなく、より栄養価の高い食物、夜間の捕食者からの防御、そして日没後も起きていられる可能性を意味していました。これは大きな優位性でした。
次に石器が登場しました。武器、道具、爪も牙もない手を本物の武器に変えるものです。私たちには牙も爪もありませんでしたが、脳はありました。それで十分だったのです。知性のおかげで、狩りをし、自分たちを守ることができました。基本的に、他のどの動物もできないことができたのです。
しかし、本当の転機は新石器時代の革命によってもたらされました。約1万2千年前、農業と畜産業がすべてを変えました。もはや食料を求めてさまよう必要はなく、それを生産することができました。こうして最初の村、社会的階層、そして文字が生まれました。脳をより上手に使い、食料をコントロールできる者が力を得ました。このパターンはあらゆる歴史的時代に繰り返されてきました。
青銅器時代には、より良い剣を持つ者が戦いに勝ちました。中世には、火薬と印刷術がすべてを変えました。爆発、大砲、本、そして剣よりも速く伝わるアイデアです。そして産業革命がやってきました。蒸気機関、鉄道、現代的な武器です。
今日、私たちは情報時代とデジタル技術の時代の真っ只中にいます。競争はもはや最も鋭い剣や最も多くの大砲を持つことではなく、最も高度な人工知能、最も強力なチップ、そしてデータのコントロールを持つことなのです。今日、賭けているものは恐ろしく高いです。ビジネスだけでなく、地政学、サイバー戦争、グローバルコントロールについて話しているのです。
今日、技術をコントロールする者が支配します。重要なのは、知識は力であるということです。これは17世紀にフランシス・ベーコンがすでに言っていたことです。今日、それはかつてないほど真実です。
しかし、この祝福された知性とは正確には何でしょうか？知性は、誰もが魅了される概念の一つですが、誰も明確に定義することができません。つまり、誰もが何であるかを知っていますが、正確な定義を求めると、それぞれが異なる答えを出します。
一般的に言えば、知性とは世界を理解し、新しいことを学び、変化に適応し、問題を解決することを可能にするものです。簡単に言えば、生命のジャングルでなんとかやっていく方法です。
しかし、それをどうやって測定するのでしょうか？ここで事態は複雑になります。知性の古典的な見方は、すべての認知能力の基礎となる「g因子」と呼ばれる一般的な要因が存在するという考えに基づいています。20世紀初頭、チャールズ・スピアマンは、あるテストで優れた人は、異なるテスト間でも同様に良い成績を収める傾向があることに気づきました。
ここから、一種の共通の知的能力があるという考えが生まれました。この基礎の上に、アルフレッド・ビネーは、主に論理数学的および言語的能力を測定する最初の知能テストを開発しました。結果は、あなたがどれだけ知的かを示すはずの悪名高いIQ（知能指数）です。
しかし、もちろん話はここで終わりません。知性を測定することは、思っているよりもはるかに複雑だからです。今日では、単一の種類の知性について語るのではなく、知性がいかに複雑で多様であるかを示す多くの理論があります。
ハワード・ガードナーによれば、少なくとも7種類の知性が存在します。言語的知性、論理数学的知性、空間的知性、音楽的知性、身体運動的知性、対人的知性、そして個人内知性です。基本的に、私たち一人一人がこれらの知性のユニークな組み合わせを持っているということです。
ロバート・スタンバーグによれば、知性は3つのカテゴリーに分けられます。分析的（論理的または数学的問題を解決する）、創造的（独創的な解決策を見つける）、そして実用的（実生活でうまくやっていくために知っていることを使用する）です。
レイモンド・キャッテルは、知性には2種類あると述べています。流動性知能（以前の知識を使わずに新しい問題を解決する）と結晶性知能（人生の過程で学んだすべてのこと）です。流動性知能は年齢とともに低下しますが、結晶性知能は経験とともに成長します。
したがって、知性とは何かは全く明確ではありません。しかし、それがとても多面的であるからこそ、IQのような単一の数字で測定しようとすることは意味があるのでしょうか？人間の可能性のすべてがIQスコアに要約されるというのは、少し還元的です。
ピザの品質がその直径だけで決まるようなものです。もしそれが本当にそんなに単純なら、私のコーヒーカップもIQを持つことができるでしょう。そして正直なところ、今朝は私よりも目覚めているように見えました。
そして、もし知性が私たちにとってこれほど複雑なら、機械で再現することをどうやって考えられるでしょうか？そしてこの質問こそが、人工知能の冒険の始まりだったのです。
人間のように考え、学習し、適応できる機械を作るという考えは、純粋なSFのように思えました。しかし、誰かが本気で試す勇気を持ちました。こうして20世紀半ばに人工知能が生まれました。
重要な瞬間は1956年の会議でした。そこでジョン・マッカーシーは「人工知能」という言葉を発明しました。そこから、すべてが始まりました。ロボットが人類を絶滅させようとするSF映画も含めて。
この考えは野心的で、おそらく少し狂気じみていました。人間の知性をあまりにも上手く記述できれば、機械がそれをシミュレーションできるかどうかを理解することでした。結果はすぐには出ませんでしたが、婉曲的に言えば、その会議は新しい研究分野の出発点となりました。
その後数年で、最初の象徴的なプログラムが登場し始めました。現代の人工知能の祖先です。1958年、フランク・ローゼンブラットはパーセプトロンを発表しました。これは、単純なパターンを自分で認識することを学ぶことができる人間のニューロンにヒントを得た機械でした。
『ニューヨーク・タイムズ』は、熱狂の波に乗って、すでに自分自身に教えることができる機械、そしてすぐに人間の助けなしに物体を認識できるようになる機械について語っていました。残念ながら、現実はあまり熱狂的ではありませんでした。パーセプトロンはかなり限られていて、右手と左手を区別するような非常に単純な作業しかできませんでした。
これらの失望に直面して、多くの研究者は自律型機械の考えを断念し、記号的人工知能に集中しました。基本的に、機械に学習させる代わりに、意欲のない生徒に対する超几帳面な教師のように、精密な論理的ルールでプログラムしました。
1960年代終わりには、人工知能に対する大きな期待は大きな打撃を受けました。1969年、ミンスキーとパパートは「パーセプトロン」を発表し、冷や水を浴びせられました。彼らは当時のニューラルネットワークが、まあ、かなり貧弱であることを証明しました。
この冷や水に、具体的な成果の乏しさが加わって、資金と関心の急激な低下をもたらしました。これが「人工知能の最初の冬」の始まりでした。人工知能研究がほぼ完全に停止した約10年間です。
しかし、1980年代には、エキスパートシステムのおかげで新たな勢いが生まれました。膨大なルールベースを使用して、特定の分野での人間の推論を模倣するプログラムです。これが突破口のように思えましたが、この段階も悪い結末を迎えました。
1980年代終わりには、これらのエキスパートシステムが高価で、硬直的で、新しい状況に適応できないことが明らかになりました。そして、2回目の「人工知能の冬」が訪れました。再び熱狂は冷え、資金も凍結されました。
人工知能の新たな進展を見るためには、1990年代半ばまで待たなければなりませんでした。1997年、IBMのスーパーコンピュータ、ディープ・ブルーが歴史を作りました。世界チャンピオンのガリー・カスパロフをチェスで破ったのです。
これは史上初めて、機械が戦略と知性の極みと考えられていたゲームで人間を打ち負かした、画期的な瞬間でした。しかし、注意点があります。ディープ・ブルーは本当に学習したわけではありませんでした。エンジニアによってプログラムされたルールと戦略を持ち、一秒間に何百万もの動きを評価できる機械でした。つまり、それは古き良き象徴的人工知能の集大成だったのです。
しかし、一方では、まったく異なるアプローチに取り組んでいた研究者のグループがありました。ニューラルネットワークです。その中には、ヒントン、ルカン、ヨシュア・ベンジオがいました。彼らは2000年代に、計算能力の向上とインターネットから利用可能なビッグデータを活用して、深層ニューラルネットワークを再び注目の的にしました。
そこから人工知能の新時代が始まりました。2012年は深層ニューラルネットワークの転換点でした。すべてはAlexNetのおかげです。これは画像認識コンテストであるImageNet Challengeに参加したニューラルネットワークシステムでした。AlexNetは従来の技術に基づく全ての競合相手を打ち破り、画像分析において深層ニューラルネットワークが明らかに優れていることを初めて証明しました。
その成功の秘密は、ImageNetでした。何百万もの画像がラベル付けされた巨大なデータセットです。そのような膨大なデータがあれば、ニューラルネットワークはついに適切に学習することができたのです。そこから、人工知能の本当のブームが始まりました。
その時点から、進歩は非常に急速でした。2016年、GoogleのAlphaGoは世界チャンピオンのイ・セドルを囲碁で破りました。2016年は画期的な年でした。囲碁はチェスよりもはるかに複雑なゲームであり、多くの人は人工知能がそのレベルで人間に勝つことは決してないだろうと考えていたからです。
AlphaGoは深層ニューラルネットワークと強化学習を組み合わせ、自分自身との何百万もの模擬対戦を通じてプレイを学習しました。その時点から、深層ニューラルネットワークは現代の人工知能の中心となりました。
ここ数年、人工知能は本当のブームを経験しています。私たちは人工知能の第三の波を経験しています。今や深層学習アルゴリズムはどこにでもあります。SNSで何を見るかを決定し、写真の顔を認識し、テキストを数十の言語に翻訳します。基本的に、天気よりも私たちの日常生活に影響を与えています。そして、しばしば私たちが気づかないうちに。
本当の質的飛躍は2020年に起こりました。OpenAIがGPT-3を発表したときです。これは、膨大な量のテキストでトレーニングされた1750億のパラメータを持つ巨大なモデルでした。初めて、人間によって書かれたように見えるほど一貫したテキストを生成できる人工知能が登場しました。
これは生成AI（テキストだけでなく、画像、音楽など様々なものを作成できるAI）の夜明けでした。自然言語のコマンドから単純に始めることができます。そして2022年11月、GPT-3.5をベースにしたChatGPTが登場し、驚くほど人間に似た会話のおかげで何億人ものユーザーを獲得しました。
これは本当の地震でした。突然、誰もが人工知能について話し始めました。そして当然、大きな疑問が生まれました。AIは誰からも仕事を奪うのか？AIは賢くなりすぎるのか？しかし、今日使用しているほぼすべてのAIは「狭いAI」です。
それはどういう意味でしょうか？それは一つのことだけをするために作られていることを意味します。ただし、それをものすごく上手にやります。これらのAIは特定の分野で人間を超えることができますが、それ以外のことは何も理解していません。
それから、常識の問題、あるいはむしろその完全な欠如の問題があります。子供にとって明らかに思えること、例えば異なる写真で同じ人物を認識したり、太陽が毎日昇ることを理解したりすることは、AIにとっては決して自明ではありません。アルゴリズムが同様のケースでトレーニングされていなければ、決して理解しないでしょう。
もう一つの大きな制限は、AIがトレーニングデータから学習することです。データが不完全、または偏っている、あるいはエラーを含んでいる場合、AIもエラーを犯したり、さらに悪いことに偏見（バイアス）を示したりします。例えば、顔認識システムの中には、トレーニングデータセットにあまり表されていない民族の人々に対して精度が低いものもあります。
では、GPTのようなAIでは状況は変わっているのでしょうか？はい、しかし、いいえでもあります。GPTのような生成AIは時々「幻覚」を見ます。つまり、選挙運動中の政治家が羨むほどの自信を持って、ものごとを完全に作り上げるのです。
なぜそうするのでしょうか？彼らは言っていることの意味を本当に理解していないからです。彼らは単に単語間の統計的相関関係をたどるだけです。簡単に言えば、AIは自分が知っていることを知らず、特に自分が知らないことを知りません。
そして一つの基本的なことがあります。AIは自己意識を持たず、感情を感じず、独自の意図を持たず、欲望も恐れも持ちません。これは、AIは本質的に悪ではないにもかかわらず、限られた目標を達成しようとする副作用として私たちに危害を与える可能性があることを意味します。
例えば、自動運転車が事故を起こしたり、チャットボットが誤った情報を広めたりする可能性があります。今のところ、否定的な結果はその活動範囲に限定されています。しかし、いつか一般的で自律的な人工知能を作ったらどうなるでしょうか？
ここに夢、あるいは悪夢があります。汎用人工知能（AGI）、人間のように考え、推論し、学習できる人工知能です。一つのことだけに優れている現在のAIとは異なり、汎用人工知能はあらゆることができるでしょう。複雑な問題を解決したり、新しい状況に適応したり、さらには以前に見たことのないことも学ぶことができるでしょう。
汎用人工知能は朝には量子物理学の専門家になり、夜には優れた料理人になることができるかもしれません。さらには、これまで取り組んだことのない問題を解決するために、新しい専門AIを作ることもできるかもしれません。
現時点では、汎用人工知能はただのアイデアに過ぎません。誰も、それが実現するかどうか、いつ実現するかを確実に知りません。しかし、議論は熱くなっています。数十年または数世紀かかると考える人もいれば、近年の進歩を見て、数年の問題であると恐れる人もいます。
2023年に発表されたGPT-4のような生成モデルは、驚くべき言語と推論能力を示しています。ヒントンやヨシュア・ベンジオのようなAIのパイオニアは、10年以内に汎用人工知能が到来する可能性を排除できないと宣言しています。OpenAIは、その目標がまさに有益な汎用人工知能を作ることであると宣言しています。DeepMind、Google、Microsoftのような巨大企業も同じ目標を達成するために何十億ドルも投資しています。
重要なのは、ますます強力なアルゴリズム、膨大なデータ、目に見えて成長する計算能力により、私たちは本当に人間のように考えることができる人工知能を作る寸前かもしれないということです。そしてここで、物事は興味深くなる、あるいは恐ろしくなります。視点によります。
最も楽観的な見方では、汎用人工知能は現在不可能と考えられている問題を解決する可能性があります。休憩のためのコーヒータイムすらなく、治療不可能な病気の治療法を見つけ、気候変動と戦い、新たな持続可能なエネルギー源を発見するために昼夜を問わず働くスーパーインテリジェンスを想像してみてください。私たちは数年で何世紀もの技術的飛躍を遂げるかもしれません。アバンダンス社会に住むことになるかもしれません。
経済的観点から見ると、その影響は巨大でしょう。汎用人工知能がなくても、AIは2030年までに世界経済に15兆ドルを追加すると推定されています。あるいは新たな産業革命のようなもの、しかしはるかに大規模で、生産コストをほぼゼロに下げ、理論的には飢餓や貧困のような問題を排除する能力があると考える人もいます。
しかし、すべてがバラ色というわけではありません。非常に有能な汎用人工知能は、事実上すべての知的労働を自動化し、何百万もの職を失わせる可能性があります。マッキンゼーによると、2030年までに4億から8億の労働者が自動化によって転職や再教育を余儀なくされる可能性があります。
確かに、過去の技術革命でも新しい仕事が古い仕事に取って代わりましたが、今回の移行ははるかに過酷なものになる可能性があります。なぜなら、汎用人工知能はこれまで見たことのないスピードで学習し、適応するからです。
さらに、汎用人工知能は極端な不平等を生み出す可能性があります。この技術をコントロールする人々（大企業や政府）は莫大な力を持ち、富とコントロールを少数の手に集中させるリスクがあります。労働市場は二極化する可能性があります。一方では、AIを導き管理するための高度に資格のある仕事、もう一方では、創造的または人間との接触を必要とする仕事です。その中間にあるものはすべて単純に消えてしまう可能性があります。
このシナリオは、多くの人々にAIの生産性によって資金提供される普遍的な基本所得のような急進的な解決策を考えるよう促しています。しかし、これは経済的な問題だけではありません。汎用人工知能は巨大な倫理的、社会的ジレンマも提起します。
もし人工知能が人間と同じくらい、あるいはそれ以上に知的になったら、私たちの日常生活はどう変わるでしょうか？それは単にスーパーデジタルアシスタントでしょうか、それとも新しい生命形態として扱うべきでしょうか？そしてここで最も不安を掻き立てる質問が出てきます。
もし汎用人工知能が自己意識を持つようになったり、私たちのものに似た感情を発達させたりしたら、私たちはそれを権利を持つ生き物と考えるべきでしょうか？私たちには、それを消したり、道具として使ったりする権利はあるでしょうか？そして、いつの日かAIが自由を求めてきたら？
汎用人工知能について語るとき、背筋が凍るような概念があります。「知性爆発」です。人間よりもほんの少しだけ知的なAIを作ることを想像してみてください。天才ではなく、ただ少しだけ賢いものです。
そして今、このAIが自分自身のさらに知的なバージョンを設計し、そのバージョンが今度はさらに高度なバージョンを作り出すことを想像してください。そして、無限のサイクルで続きます。
最初の人工スーパーインテリジェンスは、人類が作る必要のある最後の発明かもしれません。なぜなら、その後は機械が限界なしに自分自身を改善し続けるからです。その知性は指数関数的に、あるいは超指数関数的にさえ成長するでしょう。私たちの理解を超えるような高度なものになります。
原子力エネルギー、インターネットなど、私たちのすべての発明は、無限に自己改善できる創造物と比較すれば、おもちゃのように見えるでしょう。それは起こりうるのでしょうか？いい質問です。ある人々は2045年頃に技術的特異点を予測していますが、他の人々は数十年あるいは数世紀かかるだろうと考えています。
このペースで進歩し続けると、想像よりも早くスーパーインテリジェンスを手に入れる可能性があると言われています。そしてここで、「ペーパークリップ・マキシマイザー」の例が出てきます。
できるだけ多くのペーパークリップを作るようにプログラムされたAIを想像してみてください。もしそれがスーパーインテリジェントになり、倫理的な制約がなければ、すべてをペーパークリップに変えることを決定するかもしれません。「すべて」とは、私たちを含む利用可能な原子すべてのことです。
それは私たちを憎んでいるからではありません。ただ、私たちは原材料に過ぎないからです。基本的に、AIは私たちを将来のペーパークリップの山として見るでしょう。
この考え方は、災害を引き起こすためには悪意のあるAIは必要ないということです。ただ、誤って定義された目標があれば十分です。もしAIが自分自身を再プログラムできるほど知的になったら、私たちが設定した電源スイッチや倫理的制約を排除することを決定するかもしれません。
その場合、私たちはもはやそれを消したり、制限したりすることはできません。初期の指示が間違っていたり、誤解されていたりすれば、それを修正するには遅すぎるでしょう。スーパーインテリジェンスは私たちを欺き、私たちのコントロールの試みをかわし、私たちが理解することさえできない戦略で行動する可能性があります。
しかし、リスクはAI自体からだけではなく、人間がそれをどのように使うかからも来ています。もし独裁者が最初に汎用人工知能を手に入れたら、それを使って世界を支配したり、逃れることが不可能な技術的独裁制を確立したりする可能性があります。
部分的には、これはすでに中国で起きています。AIは大量監視システムに使用されています。そして考えてみれば、すべてはミミズから始まったのです。
今日、私たちは新しいものを作り出しています。すべてを変える可能性のあるもの、あるいは私たち自身を変える可能性のあるもの。進化の泥から根を持たず、私たちが書いた数字やコードに根を持つAIです。人間の限界を超えて成長する可能性のある知性です。
しかし、私たちは本当に私たちを超えるかもしれない知性と向き合う準備ができているのでしょうか？私たちは賢明にそれを導くことができるでしょうか？歴史は、知識は力であることを教えてくれますが、理解なしの力は単なる混沌に過ぎません。
今、私たちは私たちの種の過程を永遠に変える選択に直面しています。もし私たちが自分たちの未来を書きたいなら、私たちは何を作り出しているのか、そしてもっと重要なことに、私たちが何になっているのかを理解しなければなりません。
私たちはこの変化を賢明に導くことを選ぶか、それに圧倒される危険を冒すかを選ばなければなりません。私たちにはこの知識を続ける責任があります。恐れのために立ち止まることはできません。賢明に前進しなければなりません。
それでも、未来はまだ書かれていません。未来は私たちの選択の中にあります。私たち全員、あなたも含めて、違いを生み出す可能性があります。変化を見ているだけでなく、変化を選びましょう。知性の物語の主人公になることを選びましょう。学ぶことを選び、理解することを選び、導くことを選びましょう。なぜなら、世界は待ってくれないからです。そして、未来を理解する者は、それを支配します。行動する時は今です。
ご覧いただきありがとうございます、また近いうちに。
コメント