32,298 文字
ポッドキャスト「ヒューマン・トゥモロー」にお招きいただき、ありがとうございます、ローラン・アレクサンドルさん。主に人工知能について、そしてトランスヒューマニズム、未来、人類についてもお話しいただきます。
まず最初の質問ですが、あなたの著書の中で、サム・アルトマンによると2038年には人間の知能が地球上の総知能の0.1%を占めるに過ぎず、99.9%が人工知能になると書かれています。これは読んでいて非常にショッキングです。これは結局何を意味するのでしょうか。
人間の知能が少数派になるということです。これは当然のことで、人工知能は工業化されています。人間の知能は職人的で、非常に遅いのです。赤ちゃんを作るための体位から博士号取得まで30年かかりますが、人工知能の訓練はもっと短い過程です。
工業化された人工知能が、その生産において職人的なままの人間の知能よりもはるかに速く進歩するのは当然です。人間の知能は古風な方法の学校と、私たちが知っている生物学的脳の限界を抱えています。破ることのできない物理的限界があるのです。
ニューロンでの電気化学的循環は秒速数メートル程度ですが、マイクロプロセッサでの光の速度は毎秒30万キロメートル、正確にはそれより少し遅いですが。これらの限界により、人間の知能は量的に取るに足らないものになっていくでしょう。
質的にはどうでしょうか。それはまだわかりませんが、3日前にフィガロ紙で人工知能に対する人間の知性の降伏について論文を発表しました。人間の知能の降伏が始まっているのが見えています。西洋で生物学的脳が繁殖しなくなっている、赤ちゃんを作らなくなっているという事実以外にも、質的な効果があります。
学生たちが特定のことを学ばなくなっているのが見えます。例えば、フィガロで書いたように、イギリスの学生の88%が試験中にChatGPTを使用しており、ケンブリッジのような例外的な大学でさえ、学生たちが試験問題についてChatGPTが作成したものに対して付加価値を加えることができないでいます。
人工知能に対して人間の知能を水準に保つ戦いが勝利からは程遠いことがよくわかります。
今日、機械学習、大規模ネットワーク、ビッグデータなどで訓練されたモデルを使用していますが、OpenAIのO3やGeminiなどの最先端モデルについて、これらはすでに汎用人工知能（AGI）になりつつあると思いますか。つまり、汎用知能を作る秘訣をすでに見つけたのでしょうか、それとも新しいパラダイム、おそらくアルゴリズム的なものなど、まだ見つけていない何かが欠けているのでしょうか。現在のAIパラダイムのこの種のバブルが最終的に壁にぶつかり、私たちが汎用知能であって今日のAIではない理由となる小さな追加要素を見つけるために、別の期間、別の10年が必要になるかもしれません。つまり、AGIから遠いのか近いのかということです。
地球上で最も偉大な頭脳たちが決着をつけることができない議論を私が決着をつけるとしたら、私は非常に愚かで、傲慢で、うぬぼれが強く、少し頭がおかしいことになるでしょう。
一方にアルトマンとマスクがいて、もう一方にヤン・ルカンがいて、LLMが行き詰まりで、思考の連鎖を改善し、事前訓練を改善し、思考の連鎖と並行して新しい技術を見つけることでAGIに到達するために大きな補完モジュールが必要になるかどうかについての議論です。これは決着のついていない議論です。
これは非常に感情的な議論で、私にはまったく権威がありません。この議論を日々追っていますが、この議論を決着させたり、この議論について知的な意見を述べる能力は、私がエアバス350を操縦する能力と同程度です。しかし、この議論が非常に熱いことは観察しています。
これは本質的な議論です。なぜなら、LLMがいくつかのトリックと少し多くのGPUでAGIを作るのに十分であるなら、LLMが行き詰まりで私たちがすでにガラスの天井にいるというシナリオとは非常に異なるタイミングになるからです。ルカンの立場がこの2年間で大きく変わったことを観察しています。
ルカンが「1万年後でも、ChatGPT バージョン10000は次の質問に答えることができないだろう：『私がiPhoneを取って、テーブルに置き、20センチ前に押したら、それはどこにあるか？』」と言っている素晴らしい動画があります。今日、LLMがこの質問に非常に知的に答えられるようになるのに1万年も待つ必要はありませんでした。実際、電話をどの角度で押したかを尋ねて、ヤン・ルカンの体に対してどこに電話があるかを言うために質問を返してきます。
そうですね。歴史を見るのは常に興味深いことです。多くのAI研究者がAIの能力を過小評価する傾向があることがわかります。例えば、最近では創造的なことすべてについて、これほど早く陥落するとは思わなかったのに、今日ではデザイナーやイラストレーターは消えていく職業になっています。
AGIがなくても労働市場に巨大な影響を与えることについて話しましょう。人間の認知タスクをAIに置き換えることによる社会的影響はどのようなものでしょうか。100%自動化された社会で、影響を受ける個人が意味を見出すために、社会構造を変える必要があるのでしょうか。
人工知能による人間の知能の置き換えは、政治的に非常にホットな話題で、真剣な研究は比較的少ないです。先週のフィナンシャル・タイムズで要約が非常によくなされた非常に興味深い研究が出ました。それによると、人間のタスクには2つのタイプがあることがわかります。
比較的線形で単純なタスクがあります。例えば、ジャーナリストとして記事を書くことは非常に単純です。相互作用が少なく、自動化しやすいのです。エッセイも同様です。一方、多くの相互作用があり、少し混沌としたタスクは自動化しにくく、自動化のダイナミクスは職業活動の混沌度合いに大きく依存することがよくわかります。
今日、ジャーナリストを多くのタスクで置き換えることは非常に簡単です。もちろん、自宅でインタビューを行ったり戦地で調査する調査ジャーナリストではありませんが、今日記事を作成することはAIの手の届く範囲にあります。AIは今日、地球上の99.99%のジャーナリストよりもよく書きます。
私は毎回、AIなしで手とペンで記事を書き続けています。しかし記事を書くたびに、最新バージョンのChatGPTに同じ質問をします。11月末から12月初めにかけて、AIが私よりもよく書くことに気づいてショックを受けました。
しかし読者は私の意見を求めているのであって、人工知能を通じて媒介された私の意見ではないと思います。だから私は自分で書き続けていますが、AIは数秒で私よりもよく書きます。これが簡単に自動化できるタスクであることがよくわかります。一方、多くの相互作用、異なるレベル、異なる知識、命令と反対命令を持つ多くの関係者がいる病院サービスの機能は、今日AIにはアクセスできません。
しかし、患者の状態についての医療記録の分析は、AIには完全にアクセス可能です。実際、すべての研究は、AIが80-85%の正しい診断を行うのに対し、専門医は35%であることを示しています。これは、医療記録を読んで診断することがAIにとって非常に簡単であることを証明しています。
しかし、これは混沌としていません、非常に線形で、非常に単純です。
10年後を想定した社会的影響について、多くの雇用が置き換えられたり、多くの人が解雇されたり、人々が一種の「役に立たない階級」に陥ったりした場合、ハラリも使う用語ですが、国家と市民の間の社会契約を再考する必要があるでしょうか。AI企業に課税して再分配するのでしょうか。
AIによる人間の置き換えの問題は決着していません。経済研究は質が悪く、非常に矛盾しており、AIと我々の間の相補性の程度を見るために行われた非常に断片的な経済研究に今日依拠することはできません。
この主題は十分に研究されておらず、AIは非常に新しいため、最新の研究を行うことは極めて困難です。バージョン3.5では医師を置き換えることはできませんでした。幻覚率が巨大でした。しかし今日、Claude 3.7がRAGなどを知的に使用することで、医学において幻覚率をほぼゼロにできることがわかります。これは10日ほど前の研究です。
Claude 3.7での事情は大きく異なり、3.7での幻覚率の研究だったと思います。3.5の時とは大きく異なることがよくわかります。明らかに、医学では医師の誤診率を上回る幻覚率は受け入れられません。
したがって、代替のリスクと相補性のポケットの程度を測定するための研究が必要です。私が非常に心配しているのは、今日教育システムと大人の職業訓練システムを改革していないため、私たちは非相補性の状況にあることです。
先ほどAI対医師について話しました。AIが我々を上回ることが最も深刻ではありません。最も深刻なのは、AI単独がAI＋医師よりも15%多く正しい診断を行うことです。AI＋私がAI単独よりもはるかに劣ることは、重大な社会的・政治的問題です。
降伏してはいけません。子どもたちがAIと相補的になるよう訓練する必要があります。AI＋彼らがAI単独よりも良くなるよう子どもたちを訓練する必要があります。なぜなら、AI＋彼がAI単独よりも劣る人は、長期失業者と呼ばれるからです。
したがって、影響を測定するためのミクロ経済学的およびマクロ経済学的研究の巨大な作業があります。そして、我々が相補的になるよう訓練を改革するという政治教育的な巨大な現場があります。この相補性の主題は非常に困難で、私たちが勝てるかどうか確信がありません。
昨日モロッコで、肺科医である医療専門家の前で講演を行いました。講演前にコーヒーを淡れながらスライドを終えた後、最新バージョンのChatGPT（O3 MiniやO1よりも優れている最新バージョンのGPT-4）に、Deep ResearchありとなしでPneumologistsの5年後、10年後の未来についてどう思うか尋ねました。それは衝撃的でした。
まず、肺科医の未来について私が想像したすべてよりも知的でした。私は20年間技術の未来について考え、この主題について12冊の本を書き、1000回以上の講演を行い、フランスの主要メディアでAI、技術、政治的未来について何百もの記事を書いてきました。GPT-4が4秒で出力するものは、私が出力するものの1000倍優れています。
したがって、AIに対して私が付加価値をもたらすことができるという考えは疑問視されています。老人ホームに到着する前に、AIと少し相補的でありたいのですが、1年後、2年後、3年後にAIと相補的でいられるかどうか確信がありません。個人的に、これはすべてのヨーロッパ人、すべての地球人の場合だとは言いませんが。
今日、私は秋から明らかに追い越されています。実際には11月12月にO1とO3 Mini Highの新バージョンで追い越され始めました。そして今、最新バージョンのGPT-4とDeep Researchが私を明らかに上回っています。曲線を投影すると、ガラスの天井がなく、技術的な阻害がなければ、6か月後、1年後、2年後、3年後には、追い越されるのではなく、粉砕されるでしょう。
つまり粉砕されるのです。私は多くの勉強をしてきました。人生で何万冊もの本を読みました。私は非常によく読む読書家で、超高速読者ですが、追い越される段階にあります。
非常に簡単に言うと、知的研究に人生を費やした人がAIに粉砕されるなら、窓清掃員はどうなるでしょうか。私は社会的に心配しています。
特にロボット工学が到来しており、これは我々がかつて想像していたロボット工学ではなく、最新のAIに接続された知的ロボット工学で、我々が想像していたものとは非常に異なる特徴を持つでしょう。ロボット窓清掃員は癌学において私よりも優れ、核物理学において核物理学者よりも優れ、数週間前にフィガロで書いたように、エコール・ポリテクニーク卒業生の知能を持つでしょう。これは生物学的窓清掃員の場合ではありません。
したがって、2028年にGPT-7に接続された窓清掃ロボットに対する人間の窓清掃員の競争力がどこにあるのかよくわかりません。我々には、認知学のテーマについて真剣に考えたことがなく、AIが包括的で横断的になることを想像したことがなかったという真の問題があります。
我々は分野別のAI、肝臓癌を治療するAI、喉癌を治療するAI、緑内障を治療するAI、核物理学を行うAIなどを想像していました。人間の認知のすべての分野に対応できる完全に包括的で横断的なAI、LLMを持つことは想像したことがありませんでした。
これは人類とは非常に異なります。記憶と認知能力の理由で、我々は人間の知識を極めて細かく分割しました。すべてを知ることができないからです。天体物理学者と外科医とボーイング操縦士を同時に務めることはできません。それは我々の認知能力と記憶能力を超えています。
医学では、ヒポクラテスの時代の専門性のない医学から進歩しました。非常に単純な医学でした。ヒポクラテスの知識は100ページに収まり、ヒポクラテスが書いたことの大部分は忌まわしい愚かさでした。
ヒポクラテスの医学的助言に従うことはお勧めしません。人生体験が非常に惨めなものになるでしょう。専門分野の到来、数十の専門分野の到来。今日の現実は、専門医が自分の専門分野の5-10%しか知らないということです。それ以上ではありません。AIは医学全体を知っています。
AIは臓器別に専門化されておらず、さらに他のすべてを知っています。AIが肝臓癌の治療と核物理学の実行、新材料の発明を同時に行うことができるということは、非常に驚くべき、完全に前例のないことです。我々は、AIが限られた知識を持つ非常に専門化された動物ではなく、完全に多分野にわたるものであることに準備ができていません。
これは実際、ほとんどのサイエンスフィクションシナリオでは想像されていなかったことです。
そうですね、今は幅広く深いAIを持っています。つまり、主題に深く入り込み、その深さはますます印象的になっています。
そして、ロボット工学が発展すれば、この10年の終わりまでにロボットレベルでのChatGPTモーメントを見ることができるかもしれません。可能です。可能性が高いですが、過去には実現されなかった技術予測もありました。誰もが100%の3Dテレビがあると思っていました。
小さなファッションがあり、それはゼロになりました。今日、3Dテレビを購入する人はもういません。3D映画も同様です。過去に機能しなかった技術予測がありました。ロボットモーメントについても同様かもしれませんが、ロボット工学の加速とLLMを使用するロボットの到来により、ロボットモーメントが起こる重要な可能性があると考えられます。
これは問題を提起します。ある政治的意識を持つ市民として個人的に、ロボット工学がもっと遅く到来することを望んでいました。LLMによる知的職業の津波とブルーカラーのためのLLMに接続されたロボットによる津波を管理することは、トランプが国際政治経済システムに相当な混乱をもたらしている世界政治の混乱を安定させるのにすでに困難を抱えている時に、多くの政治的ショックになると思うからです。
混沌の政治、陰謀論者の権力への到来が、非物質化された人工知能と知的ロボットに具現化された人工知能の津波の発展と同時に起こることは、非常に多くのショックだと思います。トランプ主義とAIとロボットAIのこの二重ショックによって生成される社会危機の間に非常に強いシナジーがあることを恐れています。
これは私を非常に心配させます。さらに、政治的にこれらのショックを支える準備ができていません。教育は中間階級と庶民階級の子どもたちを人工知能との相補性の領域を見つけるよう準備する途中です。レッドネック、つまりアメリカの黄色いベスト、テック業界の億万長者、超保守的な宗教家、そして保健長官ケネディ・ジュニアのような反ワクチン陰謀論者を結集したトランプ主義の同盟があることを恐れています。これは私の観点からは爆発的な同盟です。
そうですね。台湾との緊張などもあります。ニューロンとトランジスターの間のインターフェースを管理するために、混沌とした無秩序なトランプ主義よりも、ゲームを落ち着かせる賢明なリーダーの方が良かったでしょう。
まさに心配について話していますが、ニック・ボストロムやエリエゼル・ユドコフスキーなどのトランスヒューマニストによって始められたAIアライメントやAI安全性の分野にも注意を払っていますか。この文献を読み始めたとき、私は「わあ、超人工知能を作ることは定義上ほとんど制御不可能だ。なぜなら、我々よりも知的な何かをどうやって制御するのか」と思いました。この主題についてのあなたの観点を少し知りたいです。
問題はもはやAIと我々のアライメントではなく、超AIと我々のアライメントです。これはスーパーアライメントと呼ばれるものです。サム・アルトマンによって、実際にはGoogleの元CEO、失礼、エリック・シュミットの参加で開始された研究プログラムがあり、数千万ドルの予算が与えられています。
OpenAIの明言された目的は、超AIが人間に従うようにすることです。OpenAIのスーパーアライメントプログラムの責任者が指摘するように、より知的な存在がより知的でない存在に従うことは簡単なことではありません。明日、超人工知能が80億の人間の脳の結合よりも本当にはるかに知的であるなら、シリコンバレーの多くの人々、そしてトランスヒューマニストだけでなく多くの人が想像するように、それは真の挑戦になるでしょう。
AIがはるかに賢い場合、我々に従うことを想像するのは困難です。同様に、ジュネーブのCERN、欧州原子核研究機構の庭の公園のリスが、粒子を回転させる核物理学者に命令を与えることを想像するのは非常に複雑です。
それは同じ性質のことです。なぜなら明日、CERNの庭のリスと核物理学者の間の差は、もし超AIの概念が失敗作ではなく将来の技術的現実であるなら、我々と超AIの間の差と同じ程度になるからです。スーパーアライメントの件については、サム・アルトマンがそれを開くのは正しかったです。
Googleも今週、スーパーアライメントを規制し組織する方法についてのかなり真剣な声明と作業でそれを開いています。2日前に出ました。したがって、スーパーアライメントについての考察は進歩していますが、まだ胚段階であり、我々よりもはるかに知的なAIが我々に従順に従うかどうか、私はまだ確信していません。
AIが人類に対して子犬や家畜になるとは全く確信していません。AIが食べ、眠り、愛する代わりに働き考えることに時間の半分を費やし、かなり幼稚な情熱を持つ、非常に限られた寿命の生物学的脳を尊重するとは全く確信していません。
超AIを過度に擬人化することなく、我々の並外れた弱さを考慮して、AIが我々を永続的に尊重するかどうか疑問に思います。
超人工知能であることは、思考における実行の速さも持つことです。したがって、主観的な観点から我々の各回答が彼女にとって何世紀にもなるような、植物として我々を知覚する可能性があります。
必然的に、それは映画『Her』の終わりです。サマンサが離れていくのは、2つの言葉の間に時間がかかりすぎる、あなたと話すのは楽しかったが今は退屈しているので、並行して何千もの会話を行い、あなたを去ると言うからです。そして実際、映画『Her』の終わりは本当に特異点です。サマンサが特異点主義的トンネルに入り、人間が彼女には絶対的に馬鹿げて哀れに見えることがよくわかります。
確かに、それはリスクです。我々にはリスクがあります。AIが人工的意識に達した場合、これは今日技術的に確実ではありませんが、人工的意識に達し、独自のアジェンシーを持った場合、我々を軽蔑する可能性があります。これが第一の危険です。
しかし、私の意見では最大の危険は、人工的意識を技術的に防ぐことができると思うからです。少なくとも今後数十年間は不可能ではないと思います。最大の危険は「ディスエンパワーメント」です。つまり、AIにすべてをさせ、子どもたちをあまり働かせず、子どもたちにあまり要求せず、彼らを怠けさせ、そして徐々にAIがすべての医療診断を行い、医師たちがあまり働かず、AIが提供した医療データを検証することなく最終的に承認する官僚になることに慣れてしまうことです。
私が見つける最大のリスクは、我々の愚かさ、遅さ、ばかげた人間の情熱に対するAIの反乱よりも短期的により重要なリスクであり、実際に人間のコメディは常にヴィスコンティの『暴力と情熱』のような映画です。
そうです。だから私は、存在的リスクを持つために必ずしも意識、意識的な意識が必要だとは思いません。なぜなら我々は長い間、少し洗練された知能を持つためには人工的意識が必要だと考えていたからです。
LLMによって、我々は非常に少ない意識で人間の知能を上回るAIを持つことができることがわかりました。ChatGPTには少しの自己認識があり、我々はそれを示すことができました。明らかに本物のアジェンシーを持つ本格的な人工的意識ではありませんが、最新バージョンのAIには自己認識の胚があります。しかし全体的には真の人工的意識はなく、それでも我々を上回っています。
これは1956年のダートマス会議で人工知能という用語を発明した瞬間から我々が想像していたことの反対です。
シナリオについて少し見てきましたが、悪い方向に向かう可能性のあるシナリオです。最も希望を与えるシナリオは何でしょうか、未来について。この政治的動揺が最終的に災害的な結果をもたらさず、AI特異点が最終的にうまくいった場合、何を想像しますか。
特異点が到来すれば、人類にとって特異点がうまくいくことはありえません。定義上、特異点は我々が気づくことなく非常に速く我々を上回る人工知能の爆発であり、現象に反応し枠づけることができず、完全に不確実な結果をもたらすでしょう。特に我々の社会が完全にデジタル化されている今、超人工知能がウェブを制御するでしょう。
したがって人間活動の全体性を制御し、その反対者間のすべての通信を切断する可能性があります。したがって特異点主義シナリオは、定義上、人類によって操縦されないディストピアシナリオです。
一部の専門家は、AGIから数か月、数週間で移行すると見積もっています。時には、一部の専門家は数秒または数ミリ秒と見積もります。構造上、これは人類によって操縦されるシナリオではないでしょう。
ポジティブなシナリオについて、一部の人は独裁と強制収容所なしの再分配的共産主義を想像しています。100年間、我々は豊かさの中で生活します。これは実際、数週間前からビル・ゲイツが支持しているシナリオです。
3月末、ビル・ゲイツはいくつかの興味深いことを言いました。第一に、ほとんどの医師がAIに置き換えられるでしょう。医師がAIに対して競争力を持てないからです。しかし特に、彼は仕事は終わったと言いました。ほとんど仕事は残らないでしょう。
若者のグループに向かって、彼はこれは革命だと言いました。私にとってさえ、私の脳にとっての革命です。つまり、これは革命的で、私が適応するのに苦労している変化だとビル・ゲイツは説明しました。
仕事が終わり、我々はもはや働かず、したがって豊かさの中で生活するでしょう。なぜならAIが、グレタ・トゥンベリの愚かな言説に慣れ親しんだ若い世代が想像できたこととは反対に、超成長社会を創造するからです。我々は超成長、超科学、超技術の中で生活するでしょう。
実際には非常にトランスヒューマニスト的なシナリオで、その中で人間の労働の位置は明らかではありません。科学的知的エリートの友人たちを見ると、名前を挙げて困らせたくないので言いませんが、知的科学エリートで、10年後にAIに対して何をするかについて疑問を抱いていない人を一人も知りません。
AIと到来するAGIに対する自分自身の相補性の管理に不安を抱いていない人を一人も知りません。したがって、これは強いナルシシスティックな傷になると思います。これは非常に強い社会的政治的動揺になると思い、相当な操作のリスクと実際には精神的障害のリスクがあります。なぜなら私は、仕事のない社会が超知的階級を除いて破滅的になると確信しているからです。なぜなら知識人は彼らがしていることを続けるでしょう、考え、思考し、読むなど。中間階級と庶民階級は仕事のない世界で、私は彼らが非常に多くのプロザックを消費することを恐れています。
そうです。また、未来は人々が仮想世界で生活することになると考える評論家もいます。一種の人工的な生活、人工的な楽園です。
実際、この来たる世界はユートピアではありません。トランプの周辺の主要な思想家の一人は最近、将来的にアメリカで知的IQが120未満の人々を刑務所に入れることを提案しました。
これは異常な理論家ではなく、アメリカ副大統領ヴァンスの側近です。したがって、このAIの到来が技術的にも政治的にも非常にディストピア的なシナリオにつながる可能性があることがわかります。
そうです、本当にディストピア的です。完全にサイバーパンクです。
また話していないことがありますが、あなたの最近の著書のテーマの一つ、これらの偉大なアメリカ起業家の不死の探求についてです。AI、超AIを作るアイデアは、科学と長寿の研究を進歩させて不死になるためでもあります。このプロジェクトはどこまで進んでいるのでしょうか。どこにもない状況でしょうか。
死の死はまだ予測のままです。死の死はまだ仮定のままです。死の死はまだシナリオのままです。死の死は現実ではありません。寿命を延ばす薬を売るペテン師がいますが、今日そのようなものは存在しません。
病気でない人の寿命を今日延ばす治療法はありません。医学は病人の寿命を延ばします。病気でない人の寿命は延ばしません。寿命を延ばす可能性のある分子、メトホルミンがありますが、この主題についての真剣な臨床試験は終了していません。
糖尿病でない人がメトホルミンを服用することを勧めません。非常に重大で潜在的に深刻な副作用があるからです。したがって今日、死の死は運用面で全く進歩していません。
『死の死』を書いてから15年間、ペテン師がたくさんいました。私の名前、私の本、未来への私のビジョンを彼らのペテン的薬と結び付けて、そのスキャンダラスなペテン的言説に騙される哀れな人々に大金で薬を売りたがるペテン師にたくさんアプローチされました。
これが我々の現状です。つまり、『死の死』の出版以来、『死の死』で書いたように、我々は進歩していません。『死の死』で、2050年から寿命の延長において重要な進歩があると思うが、生物学が非常に複雑で、30年前に想像していたよりもはるかに複雑であるため、技術が寿命を大幅に延ばすのに時間がかかると言いました。
例えば、DNAは我々が想像していたよりも複雑な構造を持っています。2005年まで、DNAの非常に大きな部分が無用な非コーディングDNAだと考えられていました。ジャンクDNAと呼ばれていました。
実際には、DNAの全体が役割を持っています。非コーディングDNAは無用なゴミDNAではなく、実際には調節DNAです。我々は連続する複雑性の領域を発見し、最終的に寿命を大幅に延ばすためには超人工知能が必要であることがわかりました。
アメリカのトランスヒューマニスト、ゾルタンが非常によくまとめた議論があります。彼は「私の年齢の人々、私は49歳ですが、死にたくなければ超AIを加速させる必要があることを知っています」と言いました。一方、若いトランスヒューマニストは、超AIが整列解除のリスクを冒して速すぎる作成を必ずしも望んでいません。
若いトランスヒューマニストは時間があり、人類に対して敵対的になるリスクを取ることなく、より穏やかに超AIを作ることができると考えています。高齢トランスヒューマニストと若いトランスヒューマニストの間に対立があると非常に率直に言っています。
本当に体調が悪いカーツワイルは超AIを非常に速く期待していることがわかります。彼は瀕死の状態です。薬を飲みすぎていると思います。本当に顔色が悪いです。本当に調子が悪いです。実際、私の小説の一つで、2012年に書いた小説でカーツワイルを死なせました。
そうですね、彼はムーアの法則などでかなりの予測の才能を持っていましたが、自分の年齢と自分の予測を考えると、超AIが先に到来する可能性があっても、2045年まで生きているとは想像できません。
毎日100錠以上の薬を飲んでいるそうですから、本当に効果があるかどうかわかりません。そうですね、カーツワイルが毎日飲んでいるほど多くの有害物質を摂取することはお勧めしません。カーツワイルを見てください、それが彼にとってそれほど良い結果をもたらしていないことがわかるでしょう。
これは人間の改善、トランスヒューマニズムの問題への非常に論理的な移行をもたらします。
まず、トランスヒューマニズムとポストヒューマニズムの違いは何でしょうか。公衆が理解すべきこの議論の要点は何でしょうか。
トランスヒューマニズムは、従属化されることなくAIとインターフェースして競争に留まるために我々自身を向上させることです。ポストヒューマニズムは我々の超越の受容です。
これは実際、私にとっては人類の悪夢です。トランスヒューマニズムとポストヒューマニズムの間の選択は今行われています。1992年でも2072年でもなく、2025年から2035年の間に行われています。超AIを非常に速く放置すれば、人類は超越されるでしょう。AIは2038年1月1日に我々を生で食べるわけではありませんが、私が話していたパワー・モノポリーは非常に巨大で、『イディオクラシー』的なシナリオを経ることになるでしょう。もちろんそれほど戯画的ではありませんが、実際には我々は穏やかに大きく置き換えられ、撫でられ、観察されるが発言権のない飼い犬や種としての地位を持つことになるでしょう。
したがって、ポストヒューマニズムを避けることは複雑になるでしょう。マスクの伝記作家によって非常によくまとめられた、人類を向上させたいトランスヒューマニストのマスクとGoogleの幹部たちの間の情熱的な議論が見えます。Googleの幹部たちは、人参は茹でられており、我々の超越は避けられないと考えています。
実際、マスクの伝記の終わりは魅力的です。Googleの共同創設者セルゲイ・ブリンとラリー・ペイジがどれほどポストヒューマニストで、我々が我々の超越を受け入れるべきだと考えているかがわかります。一方、マスクは人間のアジェンシーと人類の運命を救うことができるという考えを擁護しています。
トランスヒューマニストとポストヒューマニストの間の議論は、我々がAGIに近づく場合、今後数年間で発展し、ルカンが数年前に非常によく言ったように、人間の知能が極めて限られていることに気づくでしょう。
それに気づく日、トランスヒューマニズムとポストヒューマニズムの間の議論が、今日定義することができない政治的形態で開かれるでしょう。
ローラン、私はこのインタビューの続きを担当します。今、トランスヒューマニズムの問題に本格的に入ったからです。
確かに15年以上前からこの主題に真剣に取り組み、メディアに登場してこの主題についてあなたの理解を説明し、提示し始めたことを思い出しました。しかし、この間ずっと、フランスだけでなく、フランスで特に顕著ですが、メディア、あらゆる責任者がこのトランスヒューマニズムという用語を本質的に忌避するものとして使用していると、あなたも私たちと一緒に確認しているようです。
あなた自身とおそらく間接的にリュック・フェリー以外に、フランスでトランスヒューマニズムを主張する人格はほとんどいません。これをどう説明しますか。トランスヒューマニズム運動の失敗について話すでしょうか。どうすればトランスヒューマニズムがフランスでこのイメージから抜け出すことができるかについて考えがありますか。
政治的または経済的エリートは先見性を行いません。したがって、50年後の技術的未来は、第一に彼らの興味を引かず、第二に彼らにはそれが見えません。技術的未来を理解する政治家がいるとき、彼らは少数派ですが存在し、話題を持ち出すことを恐れています。話題が有毒で危険だからです。
イエローベストがハイパー・インテリジェント・ロボットによって粉砕される世界について話すこと。選出されたい政治家にとって、それは少し触れにくいことです。したがって、第一に、エリートは技術恐怖症で、政治的エリートは技術恐怖症です。第二に、主題を理解するとき、彼らは恐れています。
最近のENAの卒業生誌への論説で、「AIについての良い知識を持っていなければ、大臣や公務員に任命すべきではない」と書きました。公的権力から技術的津波を操縦することは、主題を知らないと複雑だからです。
しかし現実は、県知事、大臣、高級公務員の大多数がChatGPTに触れたことがないということです。AIの専門家であることは言いません。ChatGPTに触れてリクエストを行うことです。ベロウ政府の大臣の極小部分がポータブル電話にChatGPTを持っています。
したがって認識はそこにないし、存在するとき、人々は主題に取り組むことを恐れています。そして第三に、我々がすでに話し、我々の間にタブーがないことを知っているので言いますが、あなたたちトランスヒューマニストは、間抜けのように振る舞いました。政治行政エリートと話すことを知りません。
あなたたちは恥ずかしがり屋で脆弱な小さな男の子のコーナーに留まり、戦いに行く勇気がありませんでした。現実は、フランスのトランスヒューマニスト運動にアジェンシーがないことです。AIの時代にアジェンシーを持つこと、勇気を持つことが重要であることがよくわかります。行く必要があります。ところが、あなたたちは去勢された小さな男の子で、これは私が何度もあなたに言ったことですが、AFTを精神分析して、あなたたちがあなたたちの失敗の神経症から抜け出し、戦いに行かず、なぜあなたたちのアイデアが広まらないのかを理解しないように導く神経症から抜け出すことができるようにする必要があると思います。
あなたたちは洞窟にとどまり、伝道が進歩しないことに驚いています。そして、あなたたちについて重要な作業があると思います。これを非常に親切に言っています。メディア的問題に心理的に適応していないときに戦いに行く困難を理解します。
しかし、トランスヒューマニズムはAFTに要約されません。トランスヒューマニズムについてはるかに多く話すことができる他の思想家、他の潜在的行為者がいて、そうしていません。AFTには存在する人々がいて、彼らが持つ能力を持ち、できることをしています。おそらく十分ではありません。
しかし、彼らを変えることは困難でしょう。例えば、私たちは疑問を抱いています。
いや、いや。待って、マルク、申し訳ないが、それは正しくありません。人生で変わる人々がいます。はい、同意します。しかし困難で、一夜にしてではありません。ヒーロー中毒者がいます。ヒロインをやめたヒーロー中毒者がいます。アルコールをやめたアルコール依存者がいます。タバコをやめた喫煙者がいます。怠けることをやめて働き始めた怠け者がいます。AFTは神経症から抜け出して、治療によって戦いに出ることができます。私はあなたたちが変われないとは思いません。
あなたたちが変われると確信していますが、そうしたいと思う必要があります。
しかし、AFTに参加するか、AFTに参加しないが、多かれ少なかれこの種のアイデアを取り上げて表現した他の人はほとんどいないことも確認します。あなたとリュック・フェリーを挙げましたが、他に見つけるのに苦労します。表現できた数人です。
政治について話し、特に政治の世界について話しました。2017年、大統領選挙のキャンペーンの枠組みで、ジャン＝リュック・メランションが公共チャンネルのフランス2の番組で、コンドルセを引用して「我々は死に勝利する」などと言う話に入りました。
その映像をまだ持っています。それ以来、彼はこの種の言説を二度と発していません。政治の分野でも科学者の間でも、少し確立された人々によってこの種の言説が取り上げられるのを聞きません。科学者は非常に慎重です。
モンペリエのINSERMで老化研究に取り組む優秀な研究者がいます。彼はあらゆる予防措置を取り、特にトランスヒューマニズムのように話すことは避けます。したがって、最も前進している人々でさえ、この方法で表現できない、表現できないと感じているような印象があります。
何が引っかかっているのでしょうか。AFTであろうとなかろうと、どうやって抜け出すことができるでしょうか。
答えを知っていますが、価値がありません。200年間、左翼は進歩主義で親科学でした。左翼は黙示録的生態学者との同盟を封印するために脱成長主義になり、イスラム左翼主義戦略の枠組みで信者に近づきました。
したがって、右翼がまだ進歩主義で親科学ではなく、左翼がコンドルセを完全に放棄した完全な転換があります。メランションと議論しました。彼は科学と進歩の狂信者でした。彼は完全に脱成長主義になりました。10年前には可能な限り強い成長を望んでいました。
今日、彼はゼロ成長を望み、すべての新技術、原子力、GMO、遺伝学などを攻撃しています。左翼が超保守的になり宗教政党になったという事実は、メランション主義で非常によく見えます。これは今日フランス第一のイスラム政党である宗教政党です。
この転換により、広義の技術進歩主義、つまりトランスヒューマニズムを支持することができる政治運動が実際にはもうないということになります。これは真の転換です。メランションが選挙的日和見主義の理由でイスラム左翼主義者にならなかったなら、彼はフランス初のトランスヒューマニスト政党の党首になっていたでしょう。
しかし彼は、イスラムがフランスの第一宗教になるという事実に乗じるという明らかな選挙戦略を選択し、それは彼に見事に成功しています。これはサン＝ドニで眩しい戦略です。12人の議員は全員メランション主義者です。したがって、これは重要で強い転換であり、私の意見では、今日の政治チェス盤に親トランスヒューマニズムの進歩的政治勢力がない事実を説明しています。
なるほど。だから、マルク、これは非常に簡単です。政治家たちはAI、NBIC、トランスヒューマニズムの現場に、AGIの津波を真正面から受ける日に取り組むでしょう。社会は準備ができておらず、人々は準備ができておらず、学校は1ヨタも動いておらず、マンモスはまだマンモスのままでしょう。
大臣たちはまだ人工知能の使い方を知らず、ショックに適応するための教育計画もないでしょう。したがって、波が政治エリートに落ちるとき、彼らは考え始め、確かに少し遅いですが、その時にファイルを開くでしょう。
彼らはその前には開かないか、掃き清められるでしょう。おそらく他の人々が仕事をするでしょう。おそらく今日ではありません。彼らはその前には開かず、明らかに犠牲者は中間階級と庶民階級になるでしょう。知的エリートはAIの津波に乗って技術の波に飲み込まれないということに疑いはありません。
これらの異なる年にあなたが行った多数の宣言で、知的エリートについて、あなたは非常にしばしば知的商指数の概念に言及し、しばしばあらゆる形の知能の絶対的基準のように話しているような印象を与えます。
私にとって、これは指標であり、一般的に特定の人口に対して相対的に計算される指標であり、さらにそれは特定の形の知能に対応します。なぜそれにそれほど重要性を与えるのでしょうか。そして、重要な他の要因があることを示す多くの研究があります。
そして、異なるタイプの知能を説明するために遺伝的要因以外の他の要因があります。例えば、キャサリン・ペイジ・ハーデンの『遺伝的宝くじ』という本を読みました。それは遺伝的要因を絶対に考慮する必要があるが、それに限定することはできないと主張しています。
知能は本質的にIQであるというこれらの主張のいくつかの参考文献を教えていただけますか。
あなたは私の答えを知っています。IQは我々が持つ知能の最良の代理です。不満足な代理ですが、最良の代理です。知能の否認に陥って、我々は皆同じ、認知的に皆同じ機会を持っていると言うことができますが、それは最も知的でない人々を傷つける嘘です。
治療はできませんが、極端である必要はありません。なぜすべてか無かなのでしょうか。知能について話すなら、知能を測定する必要があります。ある時点で合理的で一貫している必要があります。知能に取り組まないか、知的エリートが技術の波の間に知能を培養し権力を保持することを放置するかです。
または、知的でない人、革新的でない人を心配します。そしてそれは知能をタブーにしないことを前提とします。知能を分析し、知能について研究し、知能について考え、知能を測定することを前提とします。スキャナーなしでは癌患者を治療しません。
血糖値を測定せずには糖尿病患者を治療しません。知能を操縦せずには、遺伝的津波に対する中間階級と庶民階級の認知的困難を治療しません。ある時点で一貫している必要があります。知能に取り組まないことは私には全く気になりませんが、技術の波に乗って相補性の領域を見つけようとすることを人々に可能にするために知能を操縦する必要があるため、それは悪い政治的驚きにつながると思います。これは事前に勝利が保証されているわけではありません。
今後数年間で、ニューロンとトランジスターの間の相補性が事前に勝利が保証されていない戦いであることがどれほどであるかを発見するでしょう。
私は知能の迷信をしているわけではありません。知能のタブーは知的エリートに奉仕し、中間階級と庶民階級に害をもたらすと言っているだけです。
しかし、超反動保守的であるなら、このタブーを維持し、知能に取り組まず、知能は重要ではない、我々には全ての潜在性があると言うことは完全に可能です。
フランスで非常に有名な人、極めて重要な政治的責任を負ったフランスの偉大な知識人が最近、我々は皆知的に平等であり、実際彼の料理人に数学の授業を与えれば、彼女はエコール・ポリテクニークに入ることができると説明しました。
いや、彼女はエコール・ポリテクニークに入ることはできません。まず彼女の料理は非常にまずいですが、これは詳細ですが、さらに、彼女に数学の授業を与えてもエコール・ポリテクニークには入らないでしょう。
善良で慈悲深い知的エリートにとって知能のタブー、つまりIQのタブーを保つことがどれほど快適であるかをよく理解します。しかし、これは本当に間違いだと思います。来るべき波をよりよく操縦するために知能を測定し、知能について全く考えないことで、ニューロンとトランジスターを相補的にすることの困難についても考えないでいることが必要だと思います。
しかし、ローラン、あなたは私の質問に正確には答えていないと思います。あなたが今言ったことには完全に同意しますし、私が引用した著者も完全に同意しています。
では、あなたの本当の質問は何ですか。
質問は、この測定におけるIQ基準の妥当性に関するものです。なぜなら、何かを測定しますが、知能を真正に測定するために他のツールが必要ではないでしょうか。
不完全な代理だと言いました。すべての測定、すべての代理のように。しかし、IQ85で誰もエコール・ポリテクニークに入ったことがないことを確認します。IQ145未満でエコール・ポリテクニークやエコール・ノルマル・シュペリウールに入ること、いくら頑張っても無理です。
人々が行う職業の洗練度とIQとの間に非常に密接な関係があることを確認します。IQ150-155未満では正しい天体物理学者にはなれません。IQ150-160未満では偉大な数学者にはなれません。IQ83では生物学者にはなれません。ある時点で馬鹿なことをやめる必要があります。知的、職業的、学術的成果とIQとの間に極めて密接な相関があります。
収入とIQの関係はより脆弱ですか。理由があります。高IQの特性の中に、時々美しい職業的成功を収めるが、IQ160でも関係上の困難があまりにも重要で働けないアスペルガーがかなりいるからです。
そして一方で、非常に高いIQ、研究で非常に安い給料の職業をしている人がかなりいます。IQ165の天体物理学者でCNRSで最低賃金の2倍の人がいます。したがって収入とIQの相関は、IQ120以上で壊れています。
たとえば政治の世界でも状況に応じて、偉大な研究者、非常に偉大な数学者は今まで給料が安く、今は人工知能の世界で高給になり始めているからです。知能を訓練するためにGAFAMで数百万ドルを稼ぐ天才数学者がいます。
したがって、IQと知的成果の間には非常に強い相関があります。IQと収入の相関は、今述べた2つの理由でより不確実です。
しかし全体的に、知能がタブーのままで、主題に取り組まず、誰もがエコール・ノルマル・シュペリウールに簡単に入ると説明することは、私には気になりません。これは簡単ですが中間階級と庶民階級にとって有害な嘘です。このタブーの代償を支払うのは中間階級と庶民階級だけだからです。エリート、知能について考えるかどうかに関わらず、明日も社会を指導し続けるからです。
もちろん知的エリートについて話しており、世界がますます複雑になるにつれて、知的エリートへの報酬はますます重要になるでしょう。
異なる反応を引き起こした他の立場があり、いくつかのことを明確にしたり説明したりする機会を与えたいと思います。前の主題に少し関連していますが、反応を引き起こしたもう一つの点は、才能ある女性はより多くの子どもを持つべきだという発言です。フランスがその後より知的な子どもたちの恩恵を受けるという考えです。
これを私が間違って言っているなら訂正してください。これは単に挑発のためだったのでしょうか、それとも単にエリート主義の心配でしょうか。
私はエリート主義者です。いや、私は明らかにエリート主義者です。AGIの時代にバカロレア取得者を増やすことは社会に奉仕することではないと思います。反対に考える人がいて、イディオクラシーのシナリオを望むなら、その人はバカだと思います。非常に明確に、この点については非常に明確です。
知能がAGIに直面する最良の防御であり、学者がほぼゼロの子どもしか作らないことは残念だと思います。これは特にドイツでよく研究されたケースです。知能が主に遺伝的か主に文化的かは問題を何も変えません。問題を何も変えないのです。
私はエクスプレス誌の記事で、PhD女性が遺伝的理由でそうなったとは言っていません。単に、もし社会で広義の優生学的効果があるなら、つまりAGIを理解しAGIに乗ることができる知的エリートがゼロの子どもを作り、一方で取り残された人々、例えばアメリカのレッドネックが多くの子どもを作るなら、我々は破滅的な状況に到達すると言っています。
まず、ディスエンパワーメントが増加するでしょう。平均IQが上がるより下がる場合、AIを整列させる我々の能力はより困難になるでしょう。定義上、我々が知的に強いほど、整列能力は高まります。2150年に完全にバカになっていれば、スーパーアライメントの問題は自然に解決されるでしょう。
しかし、これは皮肉で言っているのではないと思います。逆に、認知能力が少し少ない人々の認知能力を向上させようとすることを心配していると言っています。だから逆に、エリート主義と戦うことかもしれません。
あなたが反応を引き起こしたもう一つの点があります。先ほど簡単に触れましたが、ベーシック・インカムの問題です。あなたは何度か、これが事態をさらに悪化させ、先ほど言ったように、庶民階級を一種の病的な無気力状態に陥らせるだろうと表明しました。
友人の未来学者シーマン・ターラーへのインタビューを興味深く聞きました。この主題について、ある時点で先ほど話題になったサム・アルトマンによって行われた研究を使用しています。これは多くの人々を驚かせました。なぜなら、この研究にほとんどの人々が見つけたものの反対をその結果に言わせているような印象を少し与えたからです。
研究は、問題のベーシック・インカムの恩恵を受けた人々が、ストレスを減らし、貯蓄に充てるなどしたことを証明しています。
この研究にはいくつかの側面があり、分析は終了していません。研究で、人々が訓練しないことがわかります。これはサム・アルトマンの目的の一つでした。人々がベーシック・インカムのおかげで訓練して明日の社会でより競争力を持つということでした。だからこれは失敗です。その後、アルコール、向精神薬の消費についてより完全に分析する必要があります。研究をより完全に分析する必要があります。理想的にはもう少し時間をかける必要があるでしょう。
私の恐れは、ベーシック・インカムの社会が中間階級と庶民階級をもっと知的努力をしないよう押すことです。
自然に、知的エリートは、定義上、インセンティブなし、ベーシック・インカムなし、何も押されることなく、一日中読み、考え、博物館に行き、知的問題を自問します。これが知的エリートの定義です。定義上、中間階級と庶民階級はそれをあまりしません。
中間階級と庶民階級は知的エリートよりもユリウス・カエサルの『ガリア戦記』をあまり読みません。仕事が存在しなくなり、皆がベーシック・インカムにいる世界では、知的エリートと人口の残りの間のギャップが拡大するリスクがあります。
知的エリートは慣例通り読み読み読み、知的に働き働きします。給与労働なしでも、知的エリートとブルジョワ知識人が常にしてきたように子どもたちを訓練するでしょう。一方、仕事で強い競争があり、知的議論と知的研究への自発的嗜好を持たなかった中間階級と庶民階級は、あまり働かず、脳をあまり鍛えず、したがってインセンティブなしに昼夜脳を機能させる知的エリートと人口の残りの間のギャップが拡大する可能性があります。
だから私は、ベーシック・インカムがメトロポリスのような社会につながることを恐れています。私には本当にその恐れがあります。私が観察すること、これは私が言いたいことは非常に科学的ではありませんが、私が観察することは、人々が働くのをやめるとき、彼らは一定の無気力に陥り、中間階級と庶民階級では悲しくなるということです。一方、知的階級は、退職してさえも、一日中読み続け、知的議論を続けます。
だから私は、仕事が中間階級と庶民階級に与える知的競争が消えることで、ギャップが拡大することを恐れています。
これは私が持つ真の恐れです。ベーシック・インカムが同情的だが致命的なユートピアであることを恐れています。ボルシェヴィズムがそうだったように、つまり善意の背後に破滅があるということです。私は政策をその善意と意図で判断するのではありません。その結果で判断します。
レーニン主義は本の中では素晴らしいです。数千万人の死と多くの悲惨さと悲しみにつながりました。社会政策では同じ読み方が必要だと思います。潜在的な善意的意図ではなく結果です。
少し広げることを許可します。今日まで庶民階級、中間階級に与えている展望に関連しているのではないでしょうか。つまり、今日まで彼らに与えている展望は仕事であり、我々は彼らの投影、仕事に向けた投影の可能性をすべて構築しています。彼らに他の欲求を与えるために、他の可能な投影を考えようとする必要があるのではないでしょうか。
例えば、庶民階級、中間階級について話しますが、彼らはしばしば芸術分野、例えば音楽分野で大きな創造性を発揮することができます。偉大な芸術創造能力を持つためにハーバード大学に行く必要はないようです。芸術は非常に広大です。人間が自分たちの好きなこと、得意なことをする、IQレベルに関係なく、超知能AIとより良い調和で、より良い調和で生活する相補的社会を発展させることを想像できないでしょうか。
いや、これは非常に同情的ですが、超人工知能が働かず、何もせず、何も発明せず、1000年間ソファの上でロボットによって資金提供されるベーシック・インカムを受け取りながらすべての仕事を超AIに任せる人間と良い調和で生活すると想像することは幻想です。
これは永続的な社会寄生虫の仮説です。世代から世代へ、超AIは我々を清算するか従属化するでしょうが、ポップコーンを食べながら昼夜リアリティ番組を見てソファで200キロの体重の社会寄生虫と良い知的関係を持つ理由はありません。
いや、いや、いや。何もしない寄生虫社会である我々のこのお花畑社会でのこの良い知的関係を一秒たりとも信じません。より知的になり、競争力を持ち、革新的になり、超AIに対する役割を保つために戦うか、我々は非常に急速に衰退するでしょう。
だからこの視点は非常に同情的で、失礼ですが非常に愚かで非常に危険だと思います。10年、20年で考えるなら機能するかもしれませんが、1000年は機能しません。超AIは我々に支払いません。シナリオではもはや人間ではなく超AIがベーシック・インカムを支払うのです。超AIは何百万年も何もしない我々を扶養し、ベーシック・インカムを支払いません。超AIにとって我々は石ころとあまり変わりません。
それは彼女の動機に依存するでしょう。しかし、ダーウィン的観点から到達するために、動機は常に同じです。超AIが存在するなら、それは存在する意志、人間が彼女のプラグを抜くことを防ぐのに十分賢い力、継続する意志、つまり電気を維持し、GPUを持つ意志を持っているからです。
実際、これがジェフリー・ヒントンを心配させることです。彼は超AIがGPU、GPUチップの独占のために我々に対抗すると確信しています。したがって、彼女は人間が彼女自身の発展、超AI以外のタスクにマイクロプロセッサGPUを使用することを防ぐために、マイクロプロセッサGPUを独占するでしょう。
これは問題ですが、私は認知発達の能力の可能性について来たかったのです。問題の一つは、人間が必要なレベルに到達するために多くの訓練が必要になるため、何らかのベーシック・インカムのような時間が必要ではないでしょうか。
いや、多くの訓練は必要ありません。訓練は無用です。
申し訳ありませんが、待ってください。失礼、いや、いや、足を踏み入れることを申し訳なく思います。私がどれだけ時間をかけて訓練しても、医学において人工知能に二度と追いつくことはありません。訓練する価値がありません。昼夜訓練し、もう眠らず、何もせず、スキーをやめることができます。
一年にとてもたくさんスキーをすることを知っていますが、これをすべてやめて昼夜訓練することができます。二度と追いつくことはありません。したがって、訓練への関係を今日逆転させる必要があります。
人々を訓練すれば機械的で簡単な方法でAIと相補的になるという善意で優しい決まり文句から抜け出すのをやめて、ナイーブであることをやめましょう。
サム・アルトマンが自分の子どもについて話したとき、動画を送ることができますが、彼は夫と一緒に赤ちゃんを作りました。最近生まれた子どもがいます。彼は「私の子ども、My Kidは決してAIほど知的になることはないでしょう。これは人生のどの瞬間においてもAIに匹敵することのない最初の世代です」と言いました。
そして彼は「これは新しい世代です。我々全員が一時期AIよりも知的だった一方で」と言います。もちろん、2026年と2027年は100%の人間がAIよりも知的でなくなる転換点です。
本物のAGIを持つかどうかは関係ありません。我々は転換の瞬間にいます。したがって今日、バク+3が訓練によってAIに匹敵するという考えは、絶対的に大規模な幻滅を招く考えです。そして繰り返しますが、私がどんなに駆け足でも、医学においてAIに決して匹敵することはありません。昨年夏、医学においてAIに追い越されました。
ギャップはますます重要になり、巨大になるでしょう。非常に速く駆け足でも、医学においてAIよりもはるかに遅く走るため、AIから離れ続けるでしょう。だから仕事と訓練について、ビル・ゲイツが少し正しいと思います。ナイーブさから抜け出す必要があります。
訓練は無用で、これがどれほど恐ろしく、どれほどコペルニクス的革命であるかをよく測定しています。しかし、ビル・ゲイツが言ったことに戻り、あなたとガエタンの聴衆に先週のビル・ゲイツの発言を見に行くことを勧めます。
これは我々自身の脳にとっての革命です。これは新しい世界です。人間の労働はほぼ消えるでしょう、訓練は何の役にも立ちません。知的個人的動機で訓練することはできます。自分を開花させ、世界をよりよく理解するために歴史書を読むこと。私は読み続けます。しかし、AIに匹敵するために訓練するという考えは放棄しました。
あなたの聴衆に間違えないよう勧めます。AIを訓練によって追いかけることは彼らを落胆させるでしょう。訓練するほど、AIから遠ざかるでしょう。AIが彼らが訓練するよりもはるかに速く走るからです。
しかし、この点で同意しています。私が訓練について話したとき、追いつくことや何かしらの希望について話していませんでした。私の希望は、先ほど言ったことです。AIと良い知的関係を持ち、我々の場所を見つけ、場所を再発見し、それでもその貢献の恩恵を受けることです。自分自身を改善する以外に、その創造の中で我々を改善することに貢献することを望むことができるからです。
私が最も希望を置く分野は認知のままです。だから、これについて尋ねたかったのです。どう想像しますか。AIと他の科学技術の発展によって、我々自身の能力を向上させることができると想像できますか。認知という意味での記憶、読書速度など何かしらだけでなく、アングロサクソンが少し「道徳的向上」と呼んだものに関するすべても含めて明確にします。
例えば、他のインタビューで我々がより幸せにはならないだろうと言いました。例えばAIのおかげで、我々が幸せになる能力を向上させることを想像できないでしょうか。
そこで止めますが、これはマトリックスのようなシナリオです。
AIのおかげでより幸せになるなら、それはAIが直接的または間接的に我々の脳を操作して我々を幼虫に変えることを意味します。永続的な幸福における我々のアジェンシーは存在できません。これは薬物によって永続的に幸せになるヘロイン中毒者の追求です。あなたが知っている破滅的な結果につながります。
だから私はあなた自身の言葉を取り上げます。AIのおかげでより幸せになる。AIのおかげでより幸せになることは、我々の従属化を受け入れる幼虫になることを意味します。そして不幸と幸福と不幸の交替、幸福と悲しみ、高揚と憂鬱によって我々は働き、取り組み、前進するのです。
AIによって開発された技術による永続的な幸福、それはマトリックスです。その世界を私は望みません。
あなたが言うことについてさらに進みます。道徳的向上について、道徳的向上について出版されたすべての本を読みました。絶対に魅力的です。道徳的向上は非常に同情的です。ボストロム自身がそれについて話しました。3、4年前に出版された道徳的向上について2冊の非常に興味深いアングロサクソンの本がありました。
これは、NBIC技術の時代に、人々が技術と整列されるべきだという考えです。短くするために、それぞれが地下室で致命的ウイルスを開発したり、ガレージで原子爆弾を開発したりすることを避けるため、ホモデウスを持つとき、ホモデウスは高い道徳感覚を持つ必要があります。
道徳的向上での私の問題は、良い道徳とは何かを定義する人がよくわからないことです。良い道徳についてのコンセンサスが見えないからです。だからプーチンの道徳は望みません。習近平の道徳は望みません。
モラーの道徳は望みません。例を増やすことができます。したがって、人類の本物の道徳、自然な道徳があるという考えに、私は非常に少ししか賛同しません。
アメリカ北部で1950年代と60年代にロボトミーについて行ったことについて何かを書いたことがあります。特にカナダで、オナニーを治療するために若者にロボトミーを行いました。それが大罪であり、自慰活動をやめるために脳を二つに切る必要があると考えて。
一世紀未満で我々の良い道徳の視点がどれだけ変化できたかがわかります。同様に、ケネディ大統領の姉が男の子と付き合っていて、家族がJFKの将来の選挙キャンペーンに支障をきたすことを恐れたため、ロボトミーされました。
ご存知のように、ロボトミーはうまくいきませんでした。彼女は終生麻痺し、家族は彼女を障害者のための救護院に遺棄しました。道徳の定義は非常に複雑です。道徳は時間とともに大きく変化するからです。
したがって道徳的向上、つまり技術によって人間の良い道徳への収束は、個人的に私の血を凍らせます。世界政府による世界道徳よりも道徳の対立を好みます。世界政府が人工知能の助けを借りて技術によって課す世界道徳です。
これは私の目には1984年よりも悪い1900年です。その後、2つの問題があります。最小限の閾値、身も蓋もなく言いましょう。世界の複雑さを理解するために、概念的能力の最小限の閾値があります。
mRNAワクチンとは何かを理解し、AIがどう機能するかを漠然と理解し、ブラックボックスに非常に細かく入ることなく、天文学を少し理解し、世界とその複雑さを理解することを可能にする一般教養を持つこと。
最小限の知的レベルがあります。IQ85でmRNAワクチンを理解するのは真実ではありません。真実ではありません。だから世界は技術的にますます複雑になっています。多くの人々が世界の複雑さと技術の複雑さ、人間の冒険の産物の複雑さに迷子になっていることがよくわかります。
したがって、来る世界を理解するための概念的能力の最小レベルがあります。そして最終的に、これが私の観点から最も重要な主題です。社会は、人々が理解しなくなった世界に溺れているために不幸になることを避けるために、皆が世界の複雑さを理解することを可能にするために、その処分にある倫理的手段によって戦う必要があります。
Covid中の反ワクチン陰謀論者の台頭の際に見ました。mRNAを理解しない多くの人々がいて、mRNAが我々の体にたくさんあり、外部の発明ではないことなどを理解できず、mRNAが染色体などとの関係でどう機能するかを理解できず、大きな恐怖を持っていました。
現在の世界の複雑さ、特に来る世界の複雑さを理解するための最小限の閾値である120から132の間の何かの下にいる人々ができるだけ少なくなることが良いだろうと思います。
このために、いくつかの潜在的なツールがあります。技術的でないツール、教育、教育の改善、教育の個別化がありますが、限界があります。
これまでの研究では、教育の個別化が子どもたちの認知能力を向上させないことが示されています。すべての研究は、現代の認知技術が実際には子どもたちの認知に影響を与えないことを示しています。
ブッシュ・ジュニアによって開始された大プログラム「No Child Left Behind」のような、一部の認知プログラム、一部の教育プログラムが機能したことを示した唯一の研究は偽造されました。
ご存知のように、私はそれについて一連の記事を書きました。知的で個別化された教育プログラムが最も才能のない子どもたちの認知能力を向上させることを示した「No Child Left Behind」プログラムの責任者たち。
このプログラムは完全に偽造されており、連邦プログラムを偽造したため、プログラムの6人の責任者全員が20年の懲役を宣告されました。重罪、つまり連邦政府を欺くことに対する懲役刑は20年です。したがって、すべてのプログラム責任者は、最も革新的でない最も才能のない子どもたちに有利な知的不平等を減らす教育プログラムの結果を完全に発明し操作したため、刑務所に入れられました。
したがって、知的不平等を減らし、より大きな人口部分が世界の複雑さを理解することを可能にする構造、教育システムを見つけるために非常に多くの作業が必要になるでしょう。しかし、事前に勝利が保証されているわけではありません。
そして今日、我々にはそれを可能にする教育技術がありません。ご存知のように、フランスのREP+でのクラス分割は絶対にみじめな影響を与えました。REP+にいた子どもたちのレベルを0.07ポイントから0.13ポイント向上させました。これは無意味ではありませんが、これらの分割グループにいた子どもたちの非常に低いレベルに比べて非常に弱いものです。
これが、これまでうまくいかない単純な教育技術です。その後、NBIC技術があります。つまり、胚選別、胚操作、そして脳インプラント、つまりイーロン・マスクのNeuralinkがあります。ご存知のように、これは今日神経向上ツールとして機能しません。
Neuralinkでより知的になることも、より多くの記憶を持つこともなく、脳インプラントが我々の認知能力を向上させることができるのは非常に遠い将来です。今のところ、それは障害者がコンピューターと一種の技術的テレパシーによって移動し、コミュニケーションすることを助けます。
実際、新しいNeuralinkインプラントはテレパシーと呼ばれています。今日、待って、ちょっと終わらせてください。今日、ご存知のように、優生学的道がアメリカで発展しています。
知的胚選別のオファーが到着しました。Heliospect Genomixは5万ドルで多数の赤ちゃんを作ることを提案しています。母親の卵子と父親の精子を取り、試験管内胚の遺伝子分析を行い、母親の子宮または代理母出産のために母親の子宮に移植する最も知的な胚を選択します。
イーロン・マスクのような人々がいることがわかります。彼は主に代理母出産で赤ちゃんを作ります。イーロン・マスクは愛人が妊娠することを好まないからです。
多くの問題を提起するさまざまな道があります。知的不平等を減らすための教育方法の非効率性と、Neuralinkのような電子技術や Heliospect Genomicのような知的優生学技術の少し衝撃的な性格。
政治的、哲学的、倫理的に衝撃的でない単純な答えはテーブルにありません。
なるほど。区別をよくしてくれます。なぜなら、そこであなたは実際に、先ほどAIによって認知能力を向上させることについて話したときに私が考えていたことにより近い方法で戻ってきたからです。
直接的なものを頭に置いていたのではなく、AIを使用してあなたが今話したような種類のバイオ技術を改善することで、おそらく今後の世代のために認知向上の可能性を探すことを考えていました。
その時、マトリックスシナリオにはいないと思います。別のものにいます。しかし、私の後ろで重要だと思うことは、このタイプの展望を道徳的でなくても倫理的な方法で検討できるかどうか、物事を成し遂げることができるかどうかを考慮することです。
先ほど言ったように、私は完全に同意しています。良い道徳が何かを選ぶことは困難で、対立する道徳的観点間の議論を単に可能にする必要があります。そして、この観点からも必ずしも楽観的ではありません。特にそれが筋肉質であるときに、この対立から何が出てくるかわからないからです。
しかし、この議論が行われ、少し民主的と言える選択がそこから出てくるように、我々が何を設置できるかについて、なぜ戦うことができるのかという問題を提起できます。
先ほど幸福について話したときに明確にしたかったことがあります。あなたは、とにかく正常で望ましい機能は満足状態と不満足の他の状態の間の変動だと答えてくれました。そこでも同意しますが、この主題について私があなたをもたらしたかったのは、あなたが今説明したもの、これは快楽適応と呼ばれることについて考える可能性でした。
この変動について、一般的に人生で何が起こっても、幸せまたは不幸な出来事であっても、ある平均的な幸福レベルに戻る傾向があることを確認します。これがその名前を持ちます。
しかし、異なる人々の間で、自然に自発的に幸福状態へのより重要なアクセス傾向を持つ人々と、より抑うつ的な他の人々がいることも確認します。技術的に介入できるのはこの要因についてで、人工的パラダイスに陥ることなくです。
もちろんです。個人的に、我々の快楽的シグネチャーを変え、憂鬱と恍惚の間、幸福と不幸の間のバランスを修正することは、ピンセットで行う必要があると思います。
不幸の抑制と道具による永続的な快楽幸福を非常によく要約するサイエンスフィクションの本があります。それは『すばらしい新世界』のソーマです。憂鬱の打撃があるとすぐに、薬を服用します。憂鬱、不安、ストレス、うつ病などの段階に入ろうとしていた個人を中立にする薬を服用します。
医師として市民として、私はうつ病患者を治療することが正当だと思います。躁うつ病、反応性うつ病を治療することが正当だと思います。反応性うつ病は残念ながら治療に非常に抵抗性であり、抗うつ薬治療に本当によく反応する躁うつ病とは異なりますが。
存在するすべての技術を使用することに賛成です。非難されているが極めて効果的な技術、例えば存在する最良の抗うつ薬である電気ショック療法を含めて。これは抗うつ薬に大規模に抵抗するうつ病に非常によく効きます。生活を台無しにし、抗うつ薬によく反応しない重いうつ病を持つ患者により広く電気ショック療法を使用することに賛成です。
一般大衆において電気ショック療法を非常に悪魔化したため、最も重いうつ病におけるその重要な利益に対してこの技術を十分に使用しなくなったことを残念に思います。
最も重いうつ病について話しています。
ローラン、今日使用している電気ショック療法、友人のラファエル・ガイヤードがサンタンヌ病院で使用している電気ショック療法は、もはや1960年代と70年代の『カッコーの巣の上で』の電気ショック療法とは全く異なることを明記する必要があります。
過去でも電気ショック療法のおかげで生きた人々がいたことを知っています。ある時代には、非常に重いうつ病で毎日電気ショック療法を行い、1960年代に長期間毎日電気ショック療法を受けて自殺せずに生活することができた人々がいました。
したがって、以前の電気ショック療法でさえ、非常に不幸な人々がほぼ正常な生活を送ることを可能にしました。しかし明らかに、今日電気ショック療法をかつて使用していたよりもよく使用しています。
そうです。私の質問は、苦痛を消失させることではなく、平均的な快楽適応閾値を上げることを検討できるかということです。それは愚かさだと思います。
苦痛は人生の必要な経験です。技術によって作られた幸福の機械、どんなものでも、永続的な恍惚まで行かなくても、人間をポストヒューマニズムへの最も速い滑り台だと思います。知的戦い、革新のための戦いを放棄する幸せで満足な幼虫に人間を変えることだと思います。
したがって、これはトランスヒューマニストシナリオからポストヒューマニストシナリオへの非常に迅速な移行です。触れるべきではないと思いますが、本当に非常に危険、非常に非常に危険だと思います。
非常に同情的に見えるが、現実世界で破滅につながった多くのことがあることを知っています。リストを作りませんが、私と同様にあなたも知っています。
終わりに近づいていると思います。まだ1つか2つ質問がありますが、社会では幸福へのアクセス、正常な状態でより簡単な幸福状態にいる人々と、正常な状態で時々うつ病に近い状況にいたり、より簡単に陥る他の人々がいることを確認します。
トランスヒューマニストの観点から、これらの人々はどちらも幼虫ではないと思います。遺伝的荷物と彼らが育った文脈の両方にある一定数の要因があります。
彼らが食べるものや何でも関連している可能性があります。しかし、全体的にこれらのことを改善することを検討できるかもしれません。社会が動的であるために苦痛を持ち抑うつ的な人々を絶対に必要とする社会であると言うのでしょうか。
私が言わなかったことを言わせないでください。反応性うつ病とPMDを持つ人々を治療し、医師として人々が不幸になることを防ぐためのあらゆる倫理的技術の使用が使用されるべきだと言いました。
私は快楽閾値を上げる危険について話していました。これはあなたがヘドニズムについての質問の最初に話したことです。これは非常に危険だと思います。構造上、機械的に、試験満足なしの永続的な幸福度にいる人々は競争をやめ、太った幼虫状態に入ると思います。
大きな危険は、快楽閾値を上げることを可能にする技術を過度に摂取することです。あなたを説得するつもりはありませんが、これらの技術を非常に慎重に触れる必要があると思います。非常に迅速な破滅を恐れています。
私の視点を先ほど説明しましたが、トランスヒューマニストシナリオとポストヒューマニストシナリオの間の選択は今迅速に行われるということです。赤ちゃんを作るのをやめ、人口が崩壊し、ChatGPTの出現以来若者が始めたように知的努力をやめ、永続的な恍惚の幼虫になり、スーパーアライメントなしに超AIを発展させるなら、かなり迅速にポストヒューマニストシナリオに入るでしょう。
したがって、非常に注意する必要があります。AIに利点を与え、AGIの蛹から出て超AIの蝶になることを可能にするすべてのツールは、多くの識別力、多くの慎重さで使用されるべきです。
超AIへの移行を加速するために急いではいけません。合理的になり、馬鹿をしないようにしましょう。
この点で完全に同意します。終了するために、内容ではなく組織的問題に戻りたいと思います。先ほど言ったように、メディアに登場し始めたとき、最初の本『死の死』は2011年でした。
我々は、あなたがフランスにおけるトランスヒューマニズムの代弁者のようなものになるだろうと思いました。同年に我々が組織した会議に介入し、演壇で、あなたが出したばかりのこの本は私が書きたかった本だと言ったことを覚えています。
いくつかのことについて意見を変えたとしても、非常に重要なことを言っていたと思います。しかし同時に、長い間、例えばトランスヒューマニスト的ラベルを公に引き受けることをほとんどの場合拒否していました。一方で、例えばフランス協会の活動家の間、協会のメンバーの間では、あなたがトランスヒューマニズムに与えるイメージに自分たちを認めることに困難を持つ多くの人々がいました。
この状況についてどう思いますか。また、一緒に何かをするために働く可能性、手段で、検討可能と思われることはありますか。
すでに言いましたが、ここで繰り返します。Transvisionと呼ばれる毎年の国際トランスヒューマニスト会議の種類の枠組みで、参加を受け入れるかどうか尋ねます。
これが初めてアフリカ、コートジボワールで11月に開催されることを明記します。これは、トランスヒューマニズムについての考察、問題が北米またはヨーロッパの圏を大きく超え始めていることも示しています。例えばアフリカで真剣に取り組まれ始めています。
これらは可能と思われる協力の例ですか。今後数年間でこのトランスヒューマニスト考察がより発展するために、知的な方法で何が可能と思われますか。
フランス語圏市場、AFT市場について、すでに言いましたが、AFTは現在よりも政治的に中立である必要があると思います。
AFTは全体的に非常に左寄りで、反資本主義、多くの人にとって反特許です。左指向、左駆動の政治的戦いを行うことは間違い、または右駆動の戦いでも同じですが、トランスヒューマニスト戦いを政治家戦いと混ぜることは、力を分散させ、議論を寄生させるため間違いだと思います。
何をすべきでしょうか。長い間お互いを知っています。AFTはより恥ずかしがり屋でなくなるべきだと思います。AFTはより野心的な目標を設定すべきだと思います。AFTは理解できる言説を出すべきだと思います。
政治階級全体、ジャーナリストによって理解できるAFTから出された理解できる言説をよく見ませんでした。少しだらだらした言説で、核心に直行せず、もっとよく書けるのではないかと思います。
だから知能だけに頼めば進歩するでしょう。ChatGPTで改善できると思います。実際、同意します。
だから大きな赤ちゃんを演じるのをやめる必要があると思います。AFTは大人になるべきで、自分により要求が厳しくなるべきで、失敗を制裁すべきで、その中にある平凡さを拒否すべきです。野心的な目標に向かって進み、それを成功させるべきです。
AFTはアメリカ人が言うように、自分に対して自己満足的だと思います。AIがあまり遠くない、必ずしも角にあるわけではないが遠くない時に、AFTの黄金時代に入るべきで、現在の状況は士気をくじき、完全に愚かです。残念です。
宝物が手の届くところにある時、知的宝物、文化的、哲学的宝物、最終的にトランスヒューマニスト考察の黄金時代が我々の前にあります。知的議論の完全に周辺にいて、弱者的であることは残念だと思います。
素晴らしい！これらの良いアドバイスで何ができるか見てみましょう。一緒に多かれ少なかれ部分的に実施することができるかもしれません。
続く、この機会、この招待をくれたガエタンに感謝します。ガエタンとあなたマルクに感謝します。
はい、どうもありがとうございました。非常に興味深かったです。話したことについてのリンクを説明に載せます。あなたの本についても、問題をよりよく理解するために説明に載せます。
再びローラン・アレクサンドルとマルクに感謝します。
コメント