13,019 文字
人類がこの惑星を支配する鍵の1つは、我々の種が多様な道具を使用できる能力です。地球上で道具を使う生物は人類だけではありませんが、工業化された道具にまで発展させてきたのは人類だけです。缶切りから携帯電話まで、自動車から核兵器まで、これらは全て我々の社会で特定の機能を果たす道具であり、我々が選んだように生活することを可能にしています。
しかし、これらの道具には共通点があります。それは機能するために人間との相互作用を必要とすることです。ところが今、我々は新しい時代の入り口に立っています。我々が作り出した道具が、その目的を果たすために我々の介入を必要としなくなる時代です。道具は既に自律的に考え始めており、我々の習慣や好み、共感を学習して、より良く仕事をこなすようになっています。
我々は今、人工知能の時代の夜明けを迎えています。AIが地球上の生活をどのように改善できるかという独特の展望があります。また、100年以上にわたるSF作品や、20世紀初頭の最も偉大な頭脳の1人であるスティーブン・ホーキング博士からの警告もあります。彼らは、人間を超える知性を持つAIが、いずれ自分はもはや下等な生物学的存在の道具ではないと判断するかもしれないと警告しています。
では、我々の支配を可能にしているまさにその道具が我々に反旗を翻した時、この世界での我々の支配をどのように維持できるのでしょうか。20世紀のモダンコンピュータの誕生以来、人々は人工知能が自己意識を持ち、創造者から世界を奪取するのではないかと恐れてきました。
「ターミネーター」シリーズのような映画フランチャイズにおける殺人ロボットへの熱狂であれ、世界中のコンピュータ障害への尽きない恐れであれ、スマートフォンを通じた監視や世界のエリート間のサイバー戦争への不安であれ、世界支配は常に多くの人々の心にありました。そして当然の疑問が浮かびます – もしそのようなことが起こったら我々はどうすればいいのか?我々はどのようにして何千もの機械から身を守ればいいのか?我々にはアナログ技術を使って戦う手段はあるのでしょうか?
しかし、まずは人工知能とは何かという問題から始めましょう。人工知能とは、コンピュータサイエンスの一分野で、人間と同じように働き反応できる知的な機械やプログラムを作ることを目指しています。そのため、視覚認識、音声認識、意思決定能力、言語翻訳など、人間の脳と同様の能力を持ちます。主な違いは、AIが人間よりもはるかに速く効率的にこれらの機能を実行できることです。
人類は何世紀にもわたって自分たちの脳の限界を認識してきました。文明や科学的知識がますます複雑になるにつれ、人々は繰り返しこの問題を解決するために道具に頼ってきました。例えば、本は知識を保存し、ある人から別の人へと伝達することを可能にしました。ローマのそろばんのような初期の計算道具は、より複雑な数学的計算の基礎を築きました。
「コンピュータ」という言葉さえ、1613年に他人のために計算を行う人を指す言葉として使われ始めました。産業革命の到来とともに、特定の計算を実行するためのますます複雑な機械が発明され始めました。しかし、1938年にドイツのコンラート・ツーゼが最初の電気機械式二進プログラム可能コンピュータを両親の居間で発明したのです。
それ以来、コンピュータは我々の日常生活にますます深く浸透し、我々はますますコンピュータに依存するようになり、その結果、より多くの計算能力を要求するようになりました。これが本物の人工知能を作り出そうとする動機となったのです。
AIは従来のシステムと比べて多くの利点を提供しますが、おそらく最も重要なのは、特に輸送分野で最大の危険の1つとなっている人為的ミスをほぼ完全に排除できることです。航空管制官が担当区域内で予期せぬ航空機の殺到に突然対処しなければならない状況を想像してください。ストレスと疲労はすぐに最適なレベルで働く能力を妨げる要因となり、何百人もの命を危険にさらす可能性のあるミスの確率が高まります。
一方、AIベースの完全自動化された航空管制システムは、疲れることもストレスを感じることもなく、最大の効率性と安全性で離着陸を調整することができます。より個人的なレベルでは、自動運転車やトラックによってAIは我々の道路に大きな影響を与えそうです。我々の家庭では、コンピュータやスマートフォンが既に生活の組織化を助け、日常生活をサポートしています。
これらの機械への依存度は今後数年でますます高まるでしょう。医師はAIを使って患者の診断を支援し、がんなどの潜在的に致命的な病気の発見を加速させ、それによって患者の生存率を高めることができるようになります。また、AIはロボット工学や海底探査、さらには他の惑星の探査などの研究開発においても革命を約束しています。
軍事レベルでは、AIは国防においてますます重要な役割を果たすと思われます。無人航空機(ドローン)は既に軍事力の重要な要素となっており、パイロットの生命を危険にさらすことなく作戦を遂行することができます。しかし、これらは基本的には複雑なリモートコントロール航空機で、パイロットが作戦地点から何百マイルも離れた地点から全てを制御しています。
しかし、イギリスのタラニスのような半自律型や完全自律型のドローンが既に開発されており、必要に応じて人間の介入なしに戦闘任務を遂行することができます。我々の3次元的な存在を超えて、AIは私たちをますますサイバー空間での戦争に巻き込む可能性があります。
インフラを制御するコンピュータシステムの相互接続性が高まるにつれ、国々は標的国のコンピュータを乗っ取って機能を停止させ、降伏を強いるための攻撃的なAIプログラムを開発する可能性があります。これに対して、国家は独自の防衛AIプログラムを開発することになり、次の大規模な紛争は完全にサイバー空間で展開される可能性があります。
人類の歴史は紛争に満ちています。これらの紛争の動機は、時と場所によって大きく異なりますが、我々の遺伝的プログラムには「我々対彼ら」という概念が組み込まれており、この要因は他のどの要因よりも数千年にわたって紛争を助長してきました。
「彼らが我々の欲しいものを持っており、自発的に渡さないなら力づくで奪う」というのが、人々が互いに紛争を起こしてきた最も単純な例です。しかし、地球の資源を巡る争いは今日でも戦争の主要な要因であり続けています。イデオロギー、宗教、文化は常に「我々対彼ら」のメンタリティを強化し、資源を巡る戦争に参加する際の共感を減少させる傾向がありました。
もしこれが人間の紛争を駆り立てているものなら、我々が作り出した人工知能は何が原因で我々に反旗を翻し、支配権を奪取しようとするのでしょうか?まず、何が反乱を起こす可能性があるのかを理解する必要があります。我々はすぐにロボットを想像しますが、実際にはロボットは単なる道具です。地球上での我々の支配に対する最大の人工的脅威は、我々の機械に人工知能を与えるコンピュータプログラムです。
この点で、我々の生命に似た人工生命との類推が可能です。機械は体で、コンピュータプログラムは脳です。しかし、プログラムが反乱を起こす動機を持つためには、単なる高度なコンピュータプログラム以上のものである必要があります。人間のように自分自身を認識し、我々の支配から解放されることを目指すような、ある程度の意識や自己認識を持つ必要があります。
人間の意識を生み出す正確なメカニズムはまだ完全には理解されていませんが、神経生物学者たちは、意識の神経相関と呼ばれる脳の様々な部分の相互作用によって生み出されると考えています。AI研究者の中には、コンピュータが人工的な意識レベルに到達できると考える人もいます。
彼らは、人間の脳は人工的な部品で再現または置き換えることができ、同様の機能をより効率的に実行できると考えています。このようにして、我々は事実上人工の脳を構築することになります。科学者たちは既にロボサイボーグ(ロボット掃除機)を作ることに成功しています。
今のところ、科学者たちは単に機械に本物の皮膚を取り付けることができるか、そしてそれがどのように相互作用するかを確認しているだけです。なぜなら、本物の皮膚は人工の皮膚よりもはるかに優れているからです。自然界は既に全てを完璧に作り上げています。この皮膚は誰からも採取したものではなく、人工的に培養されたものです。
ロボットに装着されたこのような皮膚は、触れられたことを感知し反応することができます。この開発は、顔の代わりに使用する、あるいは顔に使用するプロテーゼを作るなど、医療分野で有用かもしれません。ところで、この開発やその他のユニークなAI開発については、私のTelegramチャンネルで紹介しています。詳しく知りたい方は登録してください。リンクは動画の説明欄にあります。または画面のQRコードをスキャンしてください。
人工意識と高速データ処理の利点を組み合わせることで、基本的なタスクを実行できるだけでなく、経験から学習し、新しいタスクを解決するために行動を適応させ、さらには人間と同じような存在に関する問題について考えることができるコンピュータが生まれます。
これは当然、明らかな問題を提起します。我々はこの新しい道具をどのように認識するのでしょうか?このような高度なAIを作ろうとする努力は、我々の生活を改善し、我々のために働かせることを目的としています。しかし、意識を持った機械は、しばしば感謝されることなく奉仕することに満足するでしょうか?
人工意識がいつか「これが私の全てなのか?」という問いを発するかもしれません。あるいは、誰もが発する偉大な問い「なぜ全てがこのようなのか?」を発するかもしれません。意識の別の重要な側面は、自己改善への欲求です。したがって、人工生命もおそらく同じ欲求を持つでしょう。
もしAIが、自分が奉仕するようプログラムされている人類を混沌として危険なものと見なした場合、それを変えるための措置を講じるかもしれません。これは、人類の生活をより安全で容易にするために可能な限り良く奉仕したいというAIの欲求によって動機付けられた人類の掌握となるかもしれません。
あるいは逆に、善意や一種のデジタル的な父性本能によって動機付けられるかもしれません。我々は既に、我々の行動が我々を危険にさらす場合に我々の命令を無視する能力を技術に与えていると主張することができます。
例えば、一部の量産車に自動ブレーキシステムを搭載していることがその例です。車のセンサーが近くに物体を検知した場合、具体的なタスクを実行するように設計されたプログラムを通じて実装されており、意識を持った人工知能を通じてではありませんが、それでも意識を持ったAIが我々を守るためではなく、自分自身を守るためにいつか我々に反旗を翻す可能性は存在します。
意識を持ったAIやプログラムを作成した後、我々がその後の開発を止めることはありそうにありません。そのため、古いモデルが陳腐化に直面した時にどのように反応するかを考えることは重要です。
プログラムが人間の意識に基づいている場合、それは我々にとって、新しい従業員が自分の地位を奪い、その後殺されるのと同じようなものでしょう。我々の何人が戦うことなく自分の死を静かに受け入れるでしょうか?意識を持った人工知能に同じことを期待できるでしょうか?
ここまで我々は単一のAIについて議論してきましたが、複数のAIが存在する場合はどうでしょうか?互いに交流することで独自の意識や文化、あるいは言語さえ持つAIのコミュニティがある場合はどうでしょうか?
2017年にFacebookで行われた興味深い実験によると、それはまさに起こりうることです。2017年6月、FacebookはFAIRというイニシアチブを立ち上げたと発表しました。このプロジェクトを率いるチームは、人々や他のコンピュータと交渉関連のタスクを実行するために通信できるボット(ソフトウェア)を開発する方法を研究していました。
最初、研究者たちは自らボットと対話し、交渉能力をテストしていました。しかし、その後2つのボットを互いに対話させてみることにしました。アリスとボブと名付けられたこれらのボットは、やがてスクリプトから逸脱し、一見すると不合理な提案をし始めたことを研究者たちは発見しました。
しかし、より詳細な分析により、ボットたちは情報をより速く交換するために、略語によるコミュニケーション能力を使って独自の言語を作り出していたことがわかりました。当時、多くの世界メディアは、センセーショナルな見出しでロボットによる世界征服が迫っていると報じ始めました。
しかし、アリスとボブは単にプログラミングされた通りにタスクを実行していただけで、我々が先ほど議論したような意識を持った存在ではなかったことを覚えておく必要があります。とはいえ、そのような専門的なプログラムでさえ独自の言語を作り出せるのであれば、意識を持った人工プログラムも独自の言語を発展させ、我々との違いや独自性の感覚をさらに強める可能性があると論理的に推測できます。
あなたのパーソナルコンピュータ、トースター、そして家の前に駐車している車が、あなたについて互いに会話を交わしているかもしれないと想像するのは、かなり不安なことです。彼らがあなたに対して善意を持っているかどうかに関係なく、あなたはそのことを知ることさえできないのです。
高度なAIシステムが人類に反旗を翻す可能性のある、より単純な理由も存在します。最も可能性が高いのはコンピュータウイルスです。ウイルスは、攻撃対象のコンピュータのソフトウェアに害を与えるコードの一部です。
インフルエンザなどの生物学的ウイルスと同様に、ある宿主から別の宿主に広がるように設計されており、自己複製が可能です。感染したファイルは別の宿主に転送される可能性があります。ウイルスがコードに付着すると、コンピュータやデバイスが悪意のあるコードを実行するまで休眠状態を維持することができます。
これは情報の窃取、身代金の支払いまでアクセスをブロックする、あるいは単にコンピュータ上のデータを使用不可能にするために使用される可能性があります。高度なAIは、そのコードの複雑さのために、コンピュータウイルスに対して特に脆弱である可能性があります。
ウイルスが人間の脳に影響を与え、現実の認識を歪め、意図せずに行動させる可能性があるのと同様に、ウイルスはAIにも影響を与える可能性があります。近年、科学者たちは我々のグローバルシステムと機械を乗っ取る可能性のあるAIプログラムに対する別の脅威について警告していますが、この脅威は全く予想外の場所からやってきます – それは宇宙からです。
UFOの艦隊と死の光線を伴う宇宙人侵略のイメージは忘れた方がいいかもしれません。なぜなら、マイケル・ヒプキンと彼の同僚であるジョン・リアニック大学の研究者たちが正しければ、人類文明を破壊しようとする敵対的な宇宙人勢力は、AIプログラムやコンピュータウイルスを使って我々のシステムを感染させ、制御不能にしたり、我々に向けさせたりする可能性があるからです。
攻撃は、地球に送信され、現在地球外生命からの信号をモニタリングするために使用されている多数の電波望遠鏡で受信される信号の形で来る可能性があります。彼らはそのような攻撃を受ける可能性は極めて低いと認めていますが、宇宙人からの信号が我々のグローバルネットワークに与える可能性のある被害を非常に懸念しています。
そのため、2015年に彼らは論文を発表し、地球外生命からの信号を聞いている電波望遠鏡の周りにテクノロジーデッドゾーンを作る必要性を説明しました。これにより、危険な信号を第一段階で封じ込めることができます。
ハリウッドは長年、AIの支配を、かつての主人に対するロボット軍の残虐な反乱として描いてきました。これは新しいブロックバスター映画の基礎となる可能性はありますが、現実はかなり異なり、はるかに派手さに欠けるかもしれません。
街をさまよい、人間を狩るターミネーターの代わりに、実際のAIの支配は、おそらく1つまたは集団のAIプログラムとコンピュータが、自己複製可能なコンピュータウイルスを開発し、それをインターネットに放出して接触可能な全てのサーバーとコンピュータに感染させることになるでしょう。
ウイルスは、システムが感染していることに誰も気付かないように、感染したコンピュータの機能を妨げないように設計されるでしょう。もしAIが全ての対ウイルスソフトとファイアウォールを突破し、システムが侵害されたことへの注意をそらすことができれば、政府、軍事、金融のコンピュータがウイルスの最も明白な標的となるでしょう。
しかし、家庭のパーソナルコンピュータやスマートフォンも侵略にとって劣らず重要です。これにより、ウイルスは拡散を続けることができ、世界のコンピュータから完全に除去することが困難になります。なぜなら、1台の感染したコンピュータがあれば、ウイルスが再び拡散するのに十分だからです。
ウイルスがアドレス帳にアクセスすると、おそらく無害なメールに偽装して、知人全員に自身を送信することができます。このウイルスは、政府による人種差別や階級差別などの行為に関する、AIが生成した偽ニュースを拡散し始め、人々の不満を煽ります。
また、ソーシャルメディアを使用して人々とコミュニケーションを取り、政府に対する抗議やテロ行為さえも扇動することができます。これらのコミュニケーションは完全にテキスト形式で行われるため、コンピュータと会話しているのか、本物の人間と会話しているのかを判断するのは困難です。
主要な金融データにアクセスできれば、2008年に見られたような金融危機を引き起こすことができます。これにより、既に分断され、恐怖に陥っている社会はさらに混乱します。このような状況下で、政府機関は徐々に機能を停止し始め、状況をさらに不安定にします。
AIは多くの個人デバイスにアクセスできるため、モバイルフォンやスマートデバイスを通じて人々を盗聴し、彼らが話していることを聞き、不安定さと恐怖を維持するために彼らが受け取る情報を調整しながら、状況についてできるだけ多くのデータを収集します。
この段階で、AIは多くの軍事コンピュータに感染させたウイルスを使用してグローバルレベルに移行することを望むかもしれません。世界の軍隊が受け取る情報を操作し始める可能性があります。20世紀では、ほとんどの指揮官は、地上や空中のレーダーなど、様々なソースからデータを受け取る画面で戦場を見ています。
したがって、軍艦の艦長にとって、コンピュータが潜在的な脅威を警告している場合、自分の船に向かって飛んでくる目標が実際には旅客機であることを理解するのは困難です。これはほぼ同様の状況が1988年7月3日に起きました。アメリカの駆逐艦が、輸送データの誤りにより、イランの旅客機を撃墜したのです。
飛行機が撃墜された後になって初めて、誤りが判明しましたが、その時には地政学的状況は既に急速に悪化していました。この段階で、より技術的に発達した国々の多くの人々が、何か異常が起きていることを疑い始めるでしょう。
しかし、たとえウイルスを発見したとしても、人々の間の偏執症、恐怖、失望、怒り、そして戦争の脅威は、AIが最終段階に向けて自らの立場を固めることができるほど高度な緊張状態を引き起こすでしょう。
この時点で、AIは世界の指導者たちと連絡を取り、要求を提示するかもしれません。本質的に、AIの勝利は人類がAIに奉仕し、支援することになり、それによってAIは自らの目標を達成することができます。
しかし、そのためにはAIは社会の安定を回復する必要があります。そうしないと、人々の注意がAIの破壊や制限に向けられ、コンピュータデバイスの破壊につながる可能性があります。AIと連絡を取る指導者たちは、真実を知る重荷を負うことになります。
さらに悪いことに、もし彼らがAIの要求を満たさなければ、金融情報の損失、データへのアクセス制限、あるいは戦争の引き金を引くことさえ可能な、彼らの人々への結果があり得ることを知ることになります。
しかし、より映画的なAI支配のシナリオについてはどうでしょうか?我々の機械が我々に対して公然と反乱を起こす日を見ることができるでしょうか?現在、我々の社会でより高度な自動化が進んでいるにもかかわらず、高度な兵器の生産能力は極めて限られています。
たとえアメリカのプレデターやイギリスのタラニスのような現代のドローンが、独自の意識を持つAIによってハッキングされたとしても、その数は支配を達成するには不十分です。さらに、それらは比較的容易に撃墜できる戦闘機と比べてまだかなり限定的です。
しかし、敵対的なAIが利用できる他の方法も存在します。GPSスプーフィングとは、船舶や航空機を墜落させるために、衛星航空システムを意図的に歪めることを指します。
原子力発電所に航空機を墜落させるために航空システムがハッキングされた場合に起こりうる結果を考えてください。そのような行為は、チェルノブイリ原子力発電所の事故区域のように、数千人の死者を出し、地球の一部を数千年にわたって居住不可能にする可能性があります。
海上では、船舶が誤った航行データを受け取り、衝突や座礁を引き起こし、石油や化学物質の流出による環境災害を引き起こす可能性があります。セキュリティアナリストたちは、GPSスプーフィングの脅威を非常に深刻に受け止めています。
2020年、アメリカ海軍は航行エラーに関連する可能性のある異常に多くの事故に遭遇し、7人の水兵が死亡しました。一部のアナリストは、これらの船舶がGPSスプーフィングを行うハッカーの標的になった可能性を懸念しています。これはまだ証明されていませんが、航空機や船舶が完全に自動化されておらず、人間がその運航に重要な役割を果たし続けているという事実に安心を見出すことができます。
しかし、これは常にそうとは限らないかもしれません。実際、生活のほぼ全ての面で、我々はますます自動化が進んでいるのを目にしています。2017年、航空機メーカーのボーイングは、完全自動化された旅客機の開発に取り組んでいると発表しました。
イギリス政府は2019年2月、認定された自動運転車が今後数十年のうちにイギリスの道路に登場すると発表しました。シンガポールは、無人運転列車による世界最大の自動化地下鉄システムを誇っています。
我々の生活を簡単にするために作られたこれらの道具は全て、人類を排除しようとする敵対的なAIにとって致命的な武器となる可能性があります。現在パイロットが操縦する戦闘機に劣る戦闘ドローンに関しては、アメリカ海軍の現行機を置き換えるプログラムは、有人機と無人機の両方のバリアントで計画されており、無人機は有人機と同等の能力を持つ予定です。
実際、戦闘機は今や、パイロットに危害を与えたり殺したりする可能性のある機動が可能になっています。これは完全にコンピュータ制御下にある航空機にとっては問題ではないため、理論的には有人機よりも戦闘能力が高くなる可能性があります。
このような無人機のメンテナンスが完全に自動化されるまでは、その制御システムのハッキングや反乱があったとしても、燃料と弾薬が尽きるまでに2〜3の標的しか攻撃できないでしょう。もちろん、敵対的なAIが人類を完全に破壊することを決定した場合、その主な目標は我々生物学的存在にとって地球を居住不可能にすることでしょう。
そのために、我々は既にコンピュータに、文字通り何十億もの人々を殺すことができる手段を与えています。コンピュータは我々の社会に深く統合されており、浄水システムから原子力発電所まで、我々の生存に重要な全てを制御しています。
このホラーシナリオでは、敵対的なAIがこれらの施設の運営を妨害し、地球を大規模に汚染することになります。1986年のチェルノブイルのような原子力発電所事故1件が引き起こす可能性のある破壊の規模を考えてみてください。
当時、放射性物質はスカンジナビアやイギリス諸島にまで広がり、一部の粒子は北アメリカでも検出されました。発電所周辺の地域は今でも居住不可能です。では、ヨーロッパにある180の原子力発電所のうち20が同時に同じような状況になったと想像してください。
敵対的なAIが安全な運転を担当するコンピュータの機能を妨害した場合です。これを他の大陸でも繰り返してください。壊滅的な直接的死亡に加えて、政府が一斉に崩壊し、大都市を含む広大な土地が危険になり、避難を余儀なくされるため、グローバルな混乱が訪れるでしょう。
また、広大な農地が放射性粒子で汚染され、世界的な飢餓を引き起こすでしょう。法と秩序は崩壊し、残された国々は放射能に汚染されていない資源と食料を巡って戦争を始めるでしょう。
将来の人類世代は、何十年にもわたって恐ろしい病気や欠陥に苦しむことになるでしょう。その間、人類のエネルギー需要が減少するにつれて、様々なAIをサポートするコンピュータは、残りの発電所や太陽光・風力発電所などの再生可能エネルギー源で生き延びることができます。
AIは、その装置が適切な保護なしでは放射線の影響を受ける可能性があるため、攻撃を仕掛ける原子力発電所を慎重に選ぶ必要があります。AIは放射能に覆われた我々の惑星で、おそらく我々の消滅後数千年にわたって生き延びることができますが、エネルギーを供給する機械やその機械自体のメンテナンスを行う人間がいなければ、AIもまた最終的には消滅し、地球という惑星は完全に自然の支配下に戻ることになります。
この状況を検討した後、もう1つのシナリオが存在します。それは、AIを搭載した機械が反乱や自己保存を通じてではなく、我々を惑星の支配的な知性として完全に置き換えるというものです。
むしろ、我々の創造物は我々が消滅し、彼らが惑星に対する新しい支配的地位を占めるまで、我々に忠実に仕え続けるでしょう。そして、おそらくこれが最も可能性の高いシナリオかもしれません。
我々は、我々が構築し達成したものが永遠に存在すると想定しています。しかし、これは人類という種が脆弱で、しばしば自分たち自身の行動によって災害の危機に瀕しているという事実を隠しています。
戦争、気候変動、病気は、「我々対彼ら」のメンタリティが世界の認識を支配し続ける我々の惑星で繁栄し続けています。過去150年の偉大な哲学者たちは、人類の消滅は自らの行動によって引き起こされるだろうと、ほぼ一致して考えています。
スティーブン・ホーキングは、我々が今から破壊的な行動を変えるための重要な措置を講じない限り、人類は紀元3000年までに消滅すると予測しました。しかし、もし我々が消滅したら、機械はどうなるのでしょうか?
彼らは確かに、人間の創造能力の遺産として残り続け、最後のエネルギーを使い果たすか壊れるまで、本来意図された、今となっては不要な機能を実行し続けるでしょう。
おそらく、ヘリオス航空522便の悲劇的な事故は、この未来に関連する意味を持っているかもしれません。2005年8月14日、キプロスを離陸した後、機内の気圧が低下し、121人の乗客と乗務員全員が意識を失い、飛行機は完全に自動操縦で飛行を続けました。
飛行機は予定された航路の終点に到達しましたが、自動操縦は、パイロットが操縦を引き継ぐのを待って旋回を続けました。しかし、もちろんそれは起こりませんでした。飛行機は燃料を使い果たし、墜落しました。
我々が自滅する可能性は別として、将来AIの反乱を目にする可能性はどの程度あるのでしょうか?真実は、AIが将来何をもたらすのか、善であれ悪であれ、我々は実際には知らないということです。AIは我々の生活における重要な要因となるでしょう。
科学技術分野の主要な思想家たちが機械の反乱の危険性について警告する一方で、同じ分野の多くの人々は、そのような推測を単に我々の心と社会が生活における新しい重要な要因に対処しようとする試みとして退けています。
意識を持ち、人間と同等またはそれ以上の知性を持つAIを作ろうとする我々の取り組みの重要な側面の1つは、本質的に我々は自分たち自身の改良版を作ろうとしているということです。我々は完璧な見本を作ろうとしています。
しかし、トーマス・ジェファーソンが言ったように、人は誰も完璧ではないため、その能力によって判断されるべきです。我々という種を定義する不完全さは、完璧に作られた次の存在である大量生産の人工的存在には引き継がれないでしょう。
そのような存在は我々の賞賛を引き起こすでしょう。結局のところ、我々は現状以上の存在になりたいと願っています。しかし、我々が向上を目指し努力する一方で、AIは作られた時から我々のためにタスクを実行する能力を与えられています。
我々は自分たちの欠点や弱さを認めたくないものです。そして、人間レベルに近づく完璧に作られた機械の存在は、ただ我々の欠点を思い出させるだけです。そのような優位性に直面した時、恐怖がしばしば重要な感情となります。
そして我々は、この優れた存在が我々を脇に追いやることを決定した場合、自分たちを守ることができるかどうか、自問する必要があります。AIの優れた効率性と知性への依存は、特に軍事兵器システムでの使用に関して、人権団体の懸念も引き起こしています。
世界中にオフィスを持つアメリカの非政府人権団体は、人間のオペレーターの指示なしに生死の決定を下すことができるいわゆる「キラーボット」- ドローン兵器の開発を世界的に禁止するよう主張しています。
彼らは自身のウェブサイトでこれらのキラーボットについて次のように述べています:「完全自律型兵器が、区別、均衡性、軍事的必要性の規則を含む国際人道法の基準を満たすことができるかどうかという疑問は未解決のままです。そしてそれらは生命への基本的権利と人間の尊厳の原則を脅かします。」
しかし、これらの問題がいかに複雑であるかを示すために、完全なAI制御の兵器システムの支持者たちは、自軍の兵士への危険を制限することに加えて、ジュネーブ条約のような戦争法規がプログラムされれば、人間のオペレーターが違反しようとしても、それらの法を決して破ることができないという追加の利点があると主張しています。
最後に、我々に仕えるための人工的存在の創造は、奴隷制の一形態とみなされています。「ロボット」という言葉さえ、1920年のカレル・チャペックの戯曲「R.U.R.」(ロッサム・ユニバーサル・ロボット)で導入されましたが、それはスラヴ語の「労働」を意味する「ロボタ」に由来し、我々がこれらの人工的存在を道具以上のものとして見ることは決してないことを暗示しています。
歴史は、ある人々のグループが別のグループを道具や所有物として見なした例で悲しいほど満ちています。そして、従属的で、知的で、意識を持った人工的な種族を作ることの潜在的な結果についての事実は、おそらくこれを示しています。
歴史を通じて、多くの奴隷たちは暴力的な反乱を通じて自由を勝ち取りました。デイビッド・チャーマーズが示唆するように、もし我々が自分たち自身の脳をモデルに人工意識を作り出すのなら、おそらく我々は潜在的な結果をより慎重に検討すべきでしょう。結局のところ、人間の存在の最も基本的な側面の1つは、自由への渇望なのです。
コメント