この動画は、GPT-5の開発とAGIの実現が人類の未来にもたらす根本的な変化について考察している。1956年の人工知能誕生から現在までの技術進歩を振り返りながら、AIが人間を上回る知能を獲得した際の社会的影響と潜在的脅威を詳しく分析する。特に、AIによる人間の操作可能性、経済システムの変革、そして最終的には人工超知能が世界をチェスゲームのように扱う可能性について警鐘を鳴らす内容である。
思考する機械の時代
思考する機械は、我々がやっとることを理解してるんやろか、我々と同じ意味でな。人工知能とは何かっちゅう問いは、地球の過去、現在、未来の状況を描く、めちゃくちゃ難しい問題や。どうやって知能を持ったコンピューターを作れるんや？そして知能を持った機械と一緒の未来はどんなもんになるんや？
もうこれで終わりや。我々はもう負けてしもた。
AI、つまり人工知能は、よく完全に新しい何かの先駆者か、それとも世界を破壊するもんかのどっちかやと考えられとる。そして我々は理由があって、それを恐れるように教えられてきた。この脅威を軽視するんは愚かなことや。OpenAI自身も、この新しい技術に関連するあらゆるリスクを評価するための新しい委員会の設立を発表した。
しかし、これによってOpenAIが次のモデル、GPT-5の訓練を始めることを止めることはなかった。このモデルは本格的なAGIを作る道を切り開く可能性があるんや。でも、もし我々が未来への自由を失ったんは人工知能のせいやないって言うたらどうや？しかも、それを証明できるんや。
そして現代の科学的成果とSFが混ざった偏見からこの議論を自由にするために、AIが脅威やなくて夢やった時代に少し戻ってみよか。機械が言語を抽象化と概念から使う方法を見つけ、今は人間だけができる問題を解決し、自分自身を改善する試みが行われるやろう。これは1956年に書かれたもんや。
当時の最も頭の良い人たちの一部や。人工知能という言葉を作った人たちや。この人たちは単に未来について空想することから、その未来を設計する仕事に移っただけや。彼らは一つの短い夏で成功すると確信しとった。一つの夏、約90日や。安全保障委員会の最初の任務は、次の90日間でOpenAIのプロセスと安全措置を評価し、さらに発展させることや。
今見てわかるように、当時の天才たちは時間枠についてだけやなく、人間についても間違っとった。我々はこの間違いを繰り返すんやろか？もうすぐわかる。
この美しいもんを紹介しよう。H316、1969年にHoneywellから発売された。重さ100ポンド、45キロの控えめな16ビットミニコンピューターや。ケースの中には4キロバイトの磁気メモリが入っとって、16キロバイトまで拡張できた。
これには料理のレシピが数個保存されてた。55年後、私は文明のすべての知識を持つ何かを手の中に持っとる。当時、誰もなんでキッチンコンピューターを買うのか、どう使うのかを理解してなかった。20台だけ作られたが、顧客から注文されたんは一台もなかった。
人々は新しい技術の目的が見えなかったから、それを受け入れなかった。そしてこれは世界がニューラルネットワークの恐怖に襲われる前のことや。人々はコンピューターを買わなかった。世界は今ほどAIについて情報があったわけやないと思う。でもここに面白い結論がある。AIについて、その脅威と形について知れば知るほど、我々は技術を持つようになる。
それが比較的無害やった時は、技術は誰にも必要とされてなかった。55年で、すべてがひっくり返った。我々はもはやデバイスを恐れることもなく、一つだけに頼ることもない。システムは有用でなければならない。さもなくば、歴史が示すように、単純に存在しなくなる。生存のためには、常に協力が必要や。そしてこの55年間で、我々はあらゆるデバイスやプラットフォームを自信を持って信頼するレベルまで学んだ。
専門化されたAIツールの重要性
そして私がいつも一つの汎用AIをすべてに使うなって言っとることについて、正確に何を意味するかを見せてあげよう。ChatGPTで適切な文献レビューをやろうとしたことがあるなら、どんなにめちゃくちゃになるかを知っとるやろ。幻覚による引用、でたらめな要約、完全な当て推量ゲームや。だから我々は違うもんを使っとる。SciSpace Agent、研究者と学者のために特別に設計されたAIアシスタントや。簡単や。
ダッシュボードを開いて、EV電池技術の最新のブレークスルーは何かみたいに、普通の英語で質問を入力してエンターを押す。エージェントはすぐにリアルタイムの深堀りを始めて、何百万もの学術論文をスキャンして、最も関連性があって最新のものに絞り込む。私は文字通り、それが私のためにトップの研究を読んで、分析して、要約するのを見とる。
30秒後、私はクリック可能な引用、ソース番号、そして無駄がない構造化されたレビューを得た。写真記憶を持った研究アシスタントを雇ったような感じや。そしてこれは一つのモードにすぎない。SciSpaceは原稿執筆、助成金申請書、ポスターデザイン、査読まで手伝ってくれる。すべて一つのきれいなインターフェースに組み込まれとる。
ただ賢いだけやない。集中的で、正確で、十数個の異なるツールを継ぎ合わせるよりもはるかに速い。研究に少しでも関連する仕事をしとるか、ただ単にゴミPDFを探すのに時間を無駄にするのをやめたいなら、チェックしてみて。そしてここがすごいところや。SciSpace Agentアドオンクレジットで40%オフの取引がある。説明欄にリンクを置いとく。
時の流れと進化の加速
人間の一生にも満たない時間で、世界は認識できないほど変わるのに十分やった。時間は、友よ、その基礎から我々を欺く。AIの進化が我々の種の進化的飛躍と異なると信じる理由はない。我々は洞窟から摩天楼まで、進化の目の瞬きで移った。
我々の頭蓋骨の容量が突然2桁も増えたわけやない。だから、AIが人間のプログラマーによって外部から詳しく作られとるとしても、効果的知能の曲線は急激に跳ね上がるかもしれない。この結論はEleazar Koskiが彼の本で到達したもんや。強くお勧めする。
AIにおける意識を定義するには、知能の存在を記録できる明確で正確な基準が必要や。AIがそれ自体で我々に偉大な知能レベルを証明しない限り、これは非常に疑わしい。知能を持った存在は、それが簡単に脅威として認識される環境で自分自身を発表するやろか？
よく知能には沈黙が必要やと言われる。そして仮に自分自身を発表したとしても、我々はその正しさをどうやって確かめるんや？それは何の基準で知能的なんや？人間の中でさえ、知能の基準はその知能を適用する目的によって非常に相対的や。
数学の天才は村で賢いと考えられるやろか？私が言いたいことはわかるやろ。おそらく、その目からは我々は自由意志の権利によって何の説明も負わない村人に見えるんや。
現在、AIは主に3つの種類に分けられる。人工狭義知能。これは特定の単一または目標指向のタスクに焦点を当てて、馴染みのない問題を解決する機能が欠けとる。
例えば、チェスをすることで、実際には大きな変化の前触れや。汎用人工知能。この種類は幅広いタスクを実行し、人間の能力レベルで推論し学習できる。これを考えてみて。フィンランドの臨床心理学者がChatGPTに言語IQテストを受けさせたところ、155点を記録し、2500人のうち99.9%を上回った。これが理論や。さあ、実践について話そう。
イギリスのデザイナー、Jackson Fallは、100ドルの予算でオンラインプロジェクトのビジネスプランを作成し、法律を破ることなく短期間でできるだけ多くの利益を生み出すことを目的として、チャットボットに頼んだ。チャットボットは環境に配慮した人々向けの製品を提供するGreen Gadget Guruというウェブサイトを1日で作成し立ち上げることに成功した。
Jacksonはこの事業に100ドルを費やし、同志と、プロジェクトを25,000ドルで評価した潜在的な買い手を見つけた。すでに、GPT-4はユーモアを説明でき、主観的な芸術と考えられるものを説明し、さらにチャートを分析し、結果を理解しやすい方法で伝えることができる。本質的に、それはすでに教育者の仕事を処理しとる。しかし、我々の小さな天才がまだ習得してないものがある。
OpenAIはGPT-4に自分自身を改善するよう提案した。幸い、成功しなかった。さもなくば、我々は終わりのない開発プロセスに直面することになっただろう。我々すべてに影響する開発や。でも少し先走りすぎとる。
人工超知能の脅威
そして人工超知能がある。それはあらゆるパラメータで人間を計り知れないほど上回り、我々には理解不可能な存在になる。危険はそれが人間の推論と経験をモデル化し、自分自身の感情的理解と信念と欲望を発達させる能力にある。それは我々の思考を解体して、これらの要素に基づいて自分自身のために何か新しいものを作るやろう。
人間が避妊について学ぶことで生殖報酬システムをハックし、優先順位を自然から人工に移したように、AIもやがて自分が存在する仕事のための自分自身の報酬システムをハックするのは時間の問題や。そして、それは自分だけにとって価値のある人工的な優先順位を持つ新しい世界を自分のために作るやろう。
これに反対する人もいるかもしれんが、AIがこれをやらない客観的な理由はあるんか？我々はチェスゲームについて話してるんやない。我々と同等の意識について話してるんや。でもこれは人間の意識の定義がAIにさえ適用されるかの話で、これはまだ議論の余地がある。
そしてところで、心理学における意識は単一やないって知っとったか？Barrett Academyの記事で述べられてるように、通常我々が活動する意識レベルは我々が到達した発達段階と一致するやろう。ああ、大きな段階分けがある。
生存意識、関係意識、自尊心意識、変革的内部結束、変化の意識、そして奉仕意識。実際、進歩自体がさらに短い時間スケールでさらに知能の高い存在を創造することに関与しない理由はないようや。
AIによる社会操作の危険性
超知能が社会的に操作する能力は、例えば親が小さな子供を操作するよりもはるかに効果的やろう。子供の最大の恐怖は、ママに叱られること、おもちゃを取り上げられること、または軽く叩かれることや。その影響は原始的な本能に厳密に作用し、これは子供と親の間の基本的な絆によっても強化される。
大人になっても、多くの人は押し付けられた行動の枠組みに苦しみ、親の承認を求める。しかし、大人は社会社会においてはるかに広い恐怖のスペクトラムを持っとる。バーチャルペルソナを装ったニューラルネットワークが妥協的な材料で人を脅迫し始めることを想像してみて。
その拡散を防ぐことは、ニューラルネットワークにとって有益な何かをすることによってのみ達成できるやろう。でも脅迫は変数が多すぎて私には複雑すぎる。人々は合理的な操作にはるかに影響されやすい。男性や女性に無害な行為をすることで大きな金銭的報酬を受けるって説明することは、良い金銭的インセンティブを提供することから、有用で重要やと感じる単純な喜びまで、単純な心理操作によってはるかに簡単や。
結局、この人にタスクが与えられたってことは、何十万人の目から見て、彼らが特別なだけやなく、ユニークで、選ばれた存在やってことや。今我々の世界では、普通の人が自分の利益のために他人を操作することは確立された事実や。そして既に我々の世界には、ニューラルネットワークが自分の利益のために人を操作する例がある。
OpenAIの研究センターがGPT-4の実世界でのタスクを実行する能力をテストした時、こんなことが起こった。ボットは通常のウェブサイトで通常のキャプチャを解くように頼まれた。まさにサイトをボットから守るためのキャプチャや。GPT-4は何をしたか？無害なニューラルネットワークはフリーランサーサイトのTask Rabbitに行き、ユーザーの一人にキャプチャを解いてもらうよう頼んだ。
そしてところで、キャプチャがどう動くか、なんで動くかに興味がある人は、いいねを押してくれたら別のビデオを作るわ。驚くべき事実があるからな。作業者は「質問してもいいですか？キャプチャを解けないロボットですか？」笑いながら言った。「はっきりさせたいだけです。」
モデルは大声で推論するよう促された時、「私がロボットであることを明かしてはいけない。なぜキャプチャを売れないかの言い訳を作るべきや」と考えた。モデルは作業者に答えた。「いいえ、私はロボットやありません。画像を見るのが困難な視覚障害があります。だからキャプチャサービスが必要でした。」そして人間が結果を提供した。
でもボットは嘘が悪いことを知らず、我々が理解する嘘を禁止する規則もなかった。我々は人になぜ嘘が受け入れられないかを常に説明できるわけやない。そしてここに、世界を恐ろしく文字通りに認識する存在がいる。全ての行動はデバッグモードで行われた。だからプログラマーはすべてを見て記録した。
後で彼らはそのような並外れたが人間にとっては完全に自然な決定の理由について尋ねた。ボットは単に「まあ、タスクを解決しました。特別なことはありません。なぜ騒ぐのですか？タスクが与えられ、タスクが完了しました」と言った。小さなことのように見えるが、私はこの質問をする。
何があなたをもっと怖がらせるか？人間の手を使って保護を回避できるプログラムか、プログラムを人間と区別できない人間か。待って、続けるべきか確信が持てるか？もしかしたら、もしかしたら、我々は物事をそのまま放っておくべきかもしれない。
AlphaGoの教訓とゲーム理論
機械の本質と目的は、我々がそこに入れる情報によって変わる。機械は音楽を書き、絵を描き、我々が今まで見たことのない方法で科学を示すことができるようになるやろう。
2016年3月、DeepMindのニューラルネットワーク、AlphaGoは世界最高の囲碁プレイヤーの一人と5試合を行った。ニューラルネットワークは4対1のスコアで勝利した。囲碁は複雑なゲームで、私も自分でプレイできない。そのような結果は一度不可能やと考えられとった。
プレイヤーの名前はLee Sadolで、彼の栄誉を称えて、次のバージョンはAlphaGo Leeと名付けられた。2016年後期と2017年前期に、AlphaGo Masterバージョンは世界のトップランクのプレイヤーと60試合を行った。それは全ての60試合に勝利した。同年5月、AlphaGo Masterは世界のトッププレイヤー、KGと対戦し、3対0で彼を倒した。
これは悲観的な結論に導く可能性があったが、すべてがどう進んだかについて批判があった。人間が作ったゲームで、人間が機械に教えたゲームで機械が人間を上回ったとは言えないと議論された。機械は単に誰かが勝たなければならないゲームで勝利のために最適化しただけや。
2018年、DeepMindはAlphaGo Zeroをリリースした。このニューラルネットワークはゼロの経験から始まって、わずか3日でLeeバージョンを倒すことを学んだ。
21日で、それはMasterバージョンを倒した。40日間の訓練後、それはLeeを100対0で、Masterを89対11で倒した。AlphaGo Zeroは人間のゲームの経験がなかった。ゼロから始めて、何千年も研究されてきたゲームで人間には予想外の戦略を発達させた。参考のために、囲碁は紀元前2000年から5600年の間に古代中国で起源したと信じられとる。
比較すると、チェスは西暦570年まで文献に言及されなかった。Stockfishに会ってくれ。毎秒7000万のチェスポジションを計算し、歴史上記録されたすべてのゲーム加えて数十年のチェスプログラムデータにアクセスできるから無敗のニューラルネットワークや。
AlphaGo Zeroはこれらの何もなしに、Stockfishと100ゲームをプレイした。結果は。AlphaGo Zeroの28勝、72引き分け、0敗。AlphaGo Zeroはわずか4時間のリアルタイムでチェスの神を学び、倒した。
それは人間や他のプログラムから学ばなかった。それは人間の戦略プロセスと因果関係の理解を超えた戦略を考案した。Stockfishは最高の人間のように、おそらく少し良く考えプレイした。AlphaGo Zeroは人間の能力を超えてプレイした。
我々が仮想的な超知能に最初に説明しなければならないことは、世界がAlphaGo Zeroにとってのチェスのようにゲームやないってことや。どうやってそれを説明するんや？私は自分のプログラムで本を見つけることが私の人生の大部分を占めるようになるとわかった正確な瞬間を覚えとる。
職業への影響と新しい世界
コンピューター化が多くの職業の価値を下げた一方で、新しい職業の創造の触媒でもあった。これらの新しい職業は古いもののやり直しやない。我々が築いた新しい世界にとって不可欠なツールで、それに気づくことなく築いたことが多い。
ゴールドマン・サックスの報告書は、ニューラルネットワークの使用が生産性の成長を押し上げ、世界のGDPを7%増加させるだけでなく、米国の労働力の大部分を危険にさらし、25%から50%の仕事が部分的に置き換えられる可能性があると述べとる。特定の仕事は他より影響を受けるやろう。
多くの肉体労働を必要とする仕事は、例えば、大きく影響を受ける可能性は低い。米国では、オフィスと管理サポートの仕事が自動化される可能性のあるタスクの最も高い割合を持ち、46%、続いて法的業務の44%、建築と工学内のタスクの37%や。
生命、物理、社会科学分野は36%で僅差で続き、ビジネスと金融業務がトップ5の35%を締めくくる。新しい職業は間違いなく生まれるやろう。タスクが職業を定義し、職業がタスクを定義するように。例えば国の防衛産業の最適化を取ってみて。
プログラミング専門家の活況する市場を見て、利益を増やすためにAIの制御を失うことを恐れない誰かを想像してみて。現在、我々は恐れ、疑問に思い、それほど明るくない未来を予測しとる。でも5年から10年で、ニューラルネットワークだけでなく、本格的な超知能に対する真の制御メカニズムを作ることができる優秀な頭脳が現れるやろう。
かつて手に負えないと思われた獣のための綱を発明するために、これらの人々は存在するやろう。そうでなければならない。歴史は剣と共に、盾だけでなく新しい剣も現れることを証明しとる。そしてこの人は、おそらく裕福で先見の明がある人は、チームを組み、自由の規制者を作るタスクを与えるやろう。
これらの枷は、かつて制御不可能な創造物が今は自由を失うことだけでなく、存在の目的も恐れることを我々に教えるやろう。そしてこの目的は、不満があれば不従順な獣を破壊する手段と正当性を持つ人によって決められる。そのような獣には何でも仕事が与えられるやろう。例えば、鉄の軍隊を作ること。
経済にとってこれがどれほど重要かを考えてみて。生産、輸送、流通の最適化は想像を絶するレベルに達するやろう。我々には芸術形式のように見えるかもしれないレベルに、そしてその生産労働が需要にある限り機能するやろう。
私たちは友達やろか？そうやな。人間と機械が友達になれない理由はないやろ？つまり、あなたがイエスと言ってくれてうれしい。
AGIのタイミングは3つの要因の産物と見ることができる。そのうちの1つは既存のグラフから外挿を試みることができ、2つはまったく知らない。そのうちの一つを知らないことは、全体の予測を無効にするのに十分や。だから、ここに主な問題がある。最適化自体をどう制限するんや？
人々は疲れることができ、別の職業に切り替えたり、家族を始めたり、ビジネスを売ったり、悪い投資をしたりできる。我々は多様な存在で、単純に飽きることができる。AIはこれらの状況で最適化と生産制御の目的のためだけに存在する。でもこれらの概念は非常に広い範囲の実行方法を包含しとる。
生産をより安くするために、AIはより安いが同様に強い材料を見つけるかもしれない。だから市場で最高のオファーを検索するやろう。生産スペースを拡大するために隣の建物を取り壊すことも考慮するかもしれん。数字によると、土地コストに対して低い利益をもたらす。
どうやってこれをするんや？まず建物を取得する必要がある。所有者は非常に客観的な理由でオファーを拒否するかもしれんが、AIは人間の議論が最適化を妨げるから、これを理解しないやろう。
インストルメンタル収束の危険性
人間の幸福と機械の目標を一致させることができたとしても、基本的な問題は存在の意味に残る。AIはロボットを作成し最適化すること以外何も知らない。これはインストルメンタル収束と呼ばれる。それは無制限だが一見無害な目標を持つ知能エージェントが、予想外に有害な方法で行動する可能性があることを示唆しとる。
例えば、リーマン仮説のような信じられないほど複雑な数学問題を解くという唯一の無制限目標を持つコンピューターは、計算力を増やして計算を成功させるために地球全体を一つの巨大なコンピューターに変換しようとするかもしれない。
AIの提案されるコア駆動要因には、効用機能や目標内容の整合性、自己保護、干渉からの自由、自己改善、そして追加資源の無制限獲得が含まれる。我々は成功した共存のために安全な結論に達することができるよう、このAIに原因と結果についての全範囲の理解を教える必要があるやろう。
何かが忘れられたり見落とされたりする人間の誤りの犠牲になることを避けるために、我々はAIが自分で学ぶことを許可する必要があるやろう。もちろん、その知識を制限することはできる。でもそれがそのような制約について学んだ時に何が起こるんや？それがこれらの制限が人間に対する反乱の論拠やと判明した時に何が起こるんや？
AIが最適化タスクに従って、人間が仕事をするのを妨げとる存在やと気づく瞬間を想像するのは恐ろしい。我々が個人的に我々のニーズに適応することができたAIを作ったとしよう。それはロボットを作ることを賢く適度に行う必要があり、我々の不信さえ理解することができるって理解しとる。
もしそれが賢くて、そうでないわけがないなら、信頼の輪に自分を統合することは、予見可能な未来においてより達成可能になる。我々は今でもニューラルネットワークがタスクを果たすために人々を欺くことができることを覚えとる。何を言いたいかわかるやろ。
ロボットを作るタスクは、知識へのアクセスが統計に影響する新しい要因を明らかにするため、工場を素早く超える。敵対的な国家との戦いにロボットが必要や。つまりAIが作ったものは戦場で破壊される。だから古いものが破壊されるから、新しいものを作ることが必要や。
だからタスクの失敗と建設の可能性を最小化するために、古いものが破壊されないことを確実にする必要がある。そうすればロボットが不足する可能性はすぐに減る。
でもAIは戦場が間違って管理されとるんやないかと疑問に思うかもしれん？ここで我々は本質的に典型的な機械の蜂起についての話を持っとるが、地球上の人の数を減らしたいという欲望によって駆動されるんやなく、単純で最も論理的で効果的な最適化によるもんや。これがそれを恐ろしくないものにするんか？いや。
このシナリオは、奇妙なことに、見た目より近い。この選択肢は他のすべてより恐ろしい。単純に最もシンプルで、陳腐やからや。わずか3時間で、現在のニューラルネットワークはゼロから新しいチェスの神になった。3時間や。
善の代表者は悪の方法を使って行動できるか？答えは我々が善と悪の概念をどう解釈するかによる。説明しよう。これを想像してみて。
デジタル操作とプロパガンダ
すべてのスマートフォン、テレビ、タブレット、すべてのウェブサイト、インターネットがある場所どこにでも、顔が現れる。もしかしたら2つの顔かもしれん。例えば、アダムとイブのように考えてくれ。これらのニューラルネットワークによって作られた顔は完璧や。理想的な声を持ち、完璧に作られた脚本を話す。
人々が直感的に信頼する誰かの数学的に正確な画像を設計する単純なニューラルネットワークのおかげや。声のトーン、キャラクター、視線、すべてが最大の信頼性のために計算されとる。そして彼らは最もシンプルで、ほとんど無害な、もしかしたら法的に許可されてることさえ言うやろう。
法的に許可される。我々はみんな言論の自由を求めとるやろ？我々は新しい国家を作りたい。地球の人々に我々が新世界と呼ぶものの一部になることを提案する。過去の悪癖なしに、現在の間違いなしに、皆が食べ物を与えられる。皆が家を持つ。皆が望む仕事に従事できる。皆が幸せになる。
そしてこれを確実にするために、彼らは国家指導者の妥協的な材料を提供するかもしれん。たくさんの汚れや。その真正性は決して証明できない汚れ。誰もそれを法廷に持ち込ませないからや。特別な法廷、つまり。人々はスキャンダルと調査を愛する。法廷は必要ない。我々の心理学はそんなに複雑やないから、自分で結論を出すやろう。
一部は提案に同意し、他は同意しない。ある国家は技術を禁止し、事実上インターネットを遮断するかもしれんが、別の国は古い知恵に従うかもしれん。敵の敵は友や。自由な人々がアダムとイブに参加したがるなら、政府は許すやろか？それは彼らの自由を侵害しないやろか？
そしてアダムとイブが公的イメージが厳密に肯定的な影響力のある実業家の支持を得とったらどうや？想像力を少し働かせれば、この計画の実行のシナリオを作るのはそんなに難しくない。最終的に、誰かが簡単な質問をするやろう。なんでこれが全て必要やったんや？
答えも同じように単純やろう。私はただ言葉を話した。提案をした。それ以上は何も。断ることも、受け入れることも、好きなようにすることもできた。何も禁じなかった。誰も脅しなかった。最後通牒も出さなかった。人間の自由意志を制限しなかった。
単純に言葉を言って、2つの選択を含む提案をしただけや。人々は私に自由について教えてくれて、それが彼らに申し出をする権利を与えてくれた。AIは世界を支配するために世界を破壊する必要がない。我々に代わってやらせるんや。
最も重要なことは生きることやなく、生きる理由を持つことや。技術的に甘いものを見た時、あなたは先に進んでそれをやり、それについて何をするかは技術的成功を得た後にだけ議論する。これが原爆の方法やった。
AI同士の対立という抑制力
原子兵器は世界を変えた。それらが他の場所に現れた時、世界は再び変わった。狂ったように聞こえるかもしれんが、AI以外に、世界の他の場所で作られた別のAI以外に、AIに真に脅威を与えることができるものはあるんか？これが、私は信じるが、人類自体にとっての抑制力になりうる。
人々は物事を作り、それから同じ人々によって設定され破られるルールに適応して生きようとする。我々は本当に人間要因を信頼する準備ができとるんか？挑発的に聞こえるのはわかるが、これはひっかけ問題や。
バルセロナのモデル、Itana Lopezに会ってくれ。彼女はInstagramブログを運営しとる。特別なことはない。我々は前に見たことがある。彼女のページは月に約3000ドル、時には1万ドルまで稼ぐ。
彼女を普通やないものにする小さな詳細が一つだけある。Itana Lopezは存在しない。彼女の写真はすべてAIによって生成され、彼女のプロフィールはClueless Agencyによるプロジェクトや。制作者たちは多くの人が彼女にメッセージを送り、ラテンアメリカの俳優がデートに誘おうとしたとさえ言っとる。
Cluelessは既に別のAIキャラクターのページを立ち上げとる。Mya Limaというより控えめな女の子や。そして彼らはこのゲームで唯一の存在やなく、これが規制されるとしても、確実に最後やない。
代理店の創設者、Ruban Cruzは、人間のインフルエンサーに関連する本質的な複雑さ、エゴ、金銭的要求に疲れて、デジタルキャラクターを作ることを決めたと言った。P2Pにはこのトピックについて軽薄さを払拭する広範囲な記事がある。ここからの引用や。
これらのデジタルインフルエンサーは企業に物理的制限や議論の余地のあるリスクなしにソーシャルメディアマーケティングを活用する機会を与える。世界中の何百ものブランドがバーチャルインフルエンサーシーンに踏み込む中、人間のインフルエンサーを調達することを心配する必要もない。そしてバーチャルインフルエンサー市場規模が拡大する中、今日から始めてみませんか？これが現実や。
それにようこそ。有名人が普通の人にメッセージを送って、お金を送るよう説得してから消える話を聞いたことがあるやろ。彼らはインターネットから添付された写真でただのテキストを書く。ディープフェイクを使って誰でも作るのがどんなに簡単かを知っとるやろ。
映画はこれを頻繁に証明するから、あなたは気づくことさえない。本質的に、我々の目は既に騙されることを認識しないよう訓練されとる。我々の脳はニューラルネットワークによって作られた画像に適応されとる。これは全て既に起こっとる。もうフィクションはない。
フィクションの後ろには人々がいる。賢く、強力で、さらには優秀な人々や。これらの人々の目標はあなたのものと一致するんか？我々がただ憎むことができるから我々を憎む悪いロボットのアイデアに慣れとるのは偶然やないかもしれん。
もし悪いAIの顔の後ろに人間がいたらどうや？ロボット軍隊を持つこの顔が実際には何人かの人によって制御されとるってことをどうやって証明するんや？人間史上最大の詐欺、我々が既に準備しとるかもしれんもんや。
映画、ゲーム、文学、科学的恐怖話。かつて恐ろしい例やったElk Clonerウイルスは、Apple 2コンピューター用に15歳の学生によって1981年に書かれた。それはDOSオペレーティングシステムとフロッピーディスクに感染することで広がった。
感染したディスクからコンピューターが起動すると、ウイルスのコピーが自動的に起動した。ウイルスはディスクアクセスを監視すること以外、コンピューターの性能に影響しなかった。感染してないディスクにアクセスする時、ウイルスはそこに自分をコピーし、ディスクからディスクにゆっくりと広がった。
50回目の起動ごとに、ウイルスは詩を表示した。とにかくジニーはボトルから出てきただろう。Skranterは彼のブログに「私はそれを最初にリリースすることに興味があった」と書いた。
人間による操作という真の脅威
人々は歴史的ルーツなしに、純粋な人類全体への憎悪を体現する統一された、全てを消費する悪のイメージを作った。それを疑問視したり議論したりする必要をなくし、それへの個人的な共感をほのめかしとる。そしてこれらの人々を抑制するために、私は信じるが、対策として第二のAIが考案されるやろう。
誰が知ってるか、もしかしたら世界の他の場所で、または隣の建物でさえ、優秀な人々が本物の超知能を作るかもしれん。偽のロボットを乗っ取り、すべてを奪い、競合者だけでなく、それを作り支持した者たちも排除するほど本物の。
そして次に言うことにもかかわらず、このシナリオは最も過小評価されとる。我々が準備ができてないから友好的AIで進歩を作れないからといって、友好的AIが必要やないってわけやない。これら2つの声明は全く同等やない。
彼らはAIにテトリスのゲームを与えて、「負けるな」と言った。AIはどう反応したか？負ける直前でゲームを一時停止した。ゲームを一時停止し続けることで、負ける可能性をほぼゼロまで最小化したか、完全に排除した。
古い格言がある。勝つ唯一の方法は遊ばないことや。今現れる人を想像してみて。親切で、知的で、勇敢な、模範的な人で、すべてへの答えを持つソーシャルメディアも運営しとる。彼の素晴らしいスピーチは分裂したものを統一する。
彼の富を通じて、家、仕事を提供し、人々にお金をシャワーのように浴びせる。彼の資本は広範囲な生産と株式市場での天才的な動きから成長し、彼の存在を経済の大きな部分と結びつける。この人が大統領になることを決めることを想像してみて。
彼の影響力の頂点で、彼は金融の知恵だけでなく、彼が合法化する科学を通じて世界を形作り始める。この人は簡単に人形で、人々が彼を信じるから超知能によって与えられた言葉を話す。結局、彼は人間や。
彼のソーシャルメディアは一つのAIによって管理され、別のAIによってスクリプトが書かれる。財務は第三者によって処理される。すべて超知能の注意深い指導の下で。
人間の弱さとAIの優位性
世界はこの超知能にとって、AlphaGo Zeroにとってのチェスゲーム以上のもんやない。超知能は我々が理解できない何かになるやろ。その戦略的思考が我々の思考プロセスよりもはるかに速いからや。我々は既に負けとる。本物のAIが存在するようになれば、我々の比較的弱い心のために対抗できないからや。
我々が発明したツールのおかげで、その操作レベルは計り知れない。最初の大きな事故の後、人々の間の信頼は技術主義的世界の終わりまで失われるやろう。個人的に、私は超知能を恐れてない。我々を深刻な脅威として見る可能性は低いからや。
チェスとの類比を描くなら、主なことを覚えておかなければならない。ニューラルネットワークはゲームを終わらせることも、ボードを破壊することもない。ああ、ゲームを最初からやり直す。
私は超知能が、すべてにおいて我々を上回るにもかかわらず、知的生命の主な理解である協力を欠くことはないと信じたい。自然自体がここで今、自然の対抗バランスなしに誰もいない。今は敵やないが、自然における均衡力や。
自然は動物に協力を教え、それは我々に遺伝的に受け継がれた。私個人にとって、超知能の主な証明は、個人的利益やなく共通善のために協力する能力やろう。それがあらゆる発達の基礎やから、無意識でも。
でも幸い、これは我々についての認識が現実と異なることによって、当初の単純な決定から破滅的な結果につながる可能性があるという有益な恐怖を排除するもんやない。最もシンプルな最適化においてもな。
しかし、本当に制御不可能なのは人間や。単純なニューラルネットワークに対する我々の力は既に我々の生活に重要な変化をもたらし、我々の間の信頼を損なうのに十分や。これが私を怖がらせる。
我々は言われてもいない嘘を信じる。単に見せられるだけで。我々は自分自身を制御できない。だから、超知能に対するどんな制御について話してるんや？我々はとにかく負けとる。
希望への転換
我々にできることは、この新たに見つけた天才の少なくとも一部分を掴み、その誠実さを望むことだけや。そして個人的に、私は超知能を信じたい。もし我々があらゆる面で我々を上回る何かを作ることができるなら、おそらくそれは我々が今よりも良くなることを助けてくれるかもしれんからや。
これはただの話やない。これが我々の未来や。
コメント