AIに価値観はない、ナチスやファシストの人工知能を作ることも可能である

AGIに仕事を奪われたい
この記事は約19分で読めます。

11,172 文字

« L'IA n'a pas de valeurs, on pourrait très bien faire des intelligences artificielles nazi ou fas
Tous les vendredis, samedis et dimanches à 19h17, Pascale de La Tour du Pin reçoit un invité au cœur de l'actualité poli...

これは日曜夜7時21分、パスカル・ド・ラ・トゥール・デュ・パンの番組です。7時15分、このスタジオにリュック・フェリーさんをお迎えできて大変嬉しく思います。こんばんは、リュック・フェリーさん。こんばんは、お招きいただきありがとうございます。お迎えできて光栄です。リスナーの皆さんにお伝えしたいのですが、私たちは数年前に別のテレビ局の廊下でお会いしたことがあります。いつもお会いできるのは嬉しいことです。なぜなら、リュック・フェリーさんについて私が評価しているのは、リスナーの皆さんの前で申し上げますが、あなたには極めて稀な発言の自由があるということです。そしてあなたは常にそれを持ち続けてきました。ありがとうございます。
それでは話しましょう。まず、リスナーの皆さんにお伝えしておく必要があります。あなたは哲学者で、元国民教育大臣で、私が手に持っているこの本の著者でもあります。ソーシャルメディアで私たちをフォローしている方には見えるでしょうが、『大いなる代替か補完性か』という本です。
リュック・フェリーさん、私たちには必要です。月曜日と火曜日に大きなサミットが始まります。エマニュエル・マクロンが表に出てきて、前進しなければならない、我々は大変遅れている、信じられないほどの数のエンジニアを採用する、現在4万人だが10万人にする、と言いました。要するに、私はまず最初に申し上げますが、これらのことが全く理解できません。全く理解できないのです。
なぜ私たちがこの問題でこれほど遅れをとっているのか、まずその教訓を引き出したいと思います。特に驚くべきことは、我々にはこの分野で絶対に優秀なエンジニアや科学者がいるのに、残念ながら彼らは主にアメリカで働いているということです。私が最も驚くのは、私が出会う人々が完全に時代遅れのChatGPTのバージョンを使っていることです。一般的に、彼らはそれが良いバージョンだと信じているので、能力面で完全に的外れです。
はい、私は本を書くためには全く使いませんが、それがどう動作するかを知るために使います。いつも使っている例があります。今頭にあるからです。もし他の場所で既に話していたら申し訳ありませんが、さっきもう一度使いました。私にはヴィクトル・ユゴーについての映画を準備している友人がいます。それでChatGPTとヴィクトル・ユゴーについて話すのですが、彼は私の100万倍教養があります。当然です、なぜなら世界中のすべての図書館が、いわば彼の脳の中にあり、その知識を活用するための信じられないほど性能の良いアルゴリズムを持っているからです。
ヴィクトル・ユゴーが1830年7月革命から1848年までの間に、恋愛面で、政治面で、文学面で何をしたかを尋ねると、15分ほどで修士論文レベルの、それも正確というより絶対的に優秀な報告書ができあがります。さらに誤字脱字もありません。すごいです。今日では非常に稀なことです。
これらの性能について、あなたは見ていないでしょうが、今日発表されました。私は研究者のグループに所属していて、まず科学的な側面で働いていますが、これが私にとって最も面白く、最も興味深いことです。AlphaGeometry 2というAIがあり、今週国際数学オリンピックで金メダルを獲得しました。これは世界中の最高レベルの大学教授や研究者よりも優秀だったということです。
人々は津波が到来していることを理解していません。私が本で最初に取り上げる話題は雇用への影響です。サム・アルトマンは、人間の従業員を一人も持たずに10億ドル以上の価値を持つユニコーン企業が生まれるだろうと言いました。そして彼は正しい、それが真実です。
大きな疑問が生じます。これはとても恐ろしいことです。私は事実だと思います。これは冗談ではありません。人々は笑いますが、馬鹿げています。AIに2秒で答えを求めれば回答が得られるのに、10年、20年勉強することに何の意味があるのでしょうか。
しかし、人間との違いは残っています。AIは情報を与えてくれますが、その情報の意味は与えてくれません。AIには価値観がありません。AIには価値観がありますが、その価値観はプログラマーによってアライメントされたものです。AIが自分の価値観を選ぶわけではありません。右に投票すべきか左に投票すべきか尋ねると、「それはあなたの価値観次第です」と答えます。
AIはプログラマーによってアライメントされています。例えば、主にカリフォルニアのAIです。Claude 3.5 SonnetであろうとChatGPTであろうと、今では誰もが知っていますが、これらはカリフォルニアのAIです。つまり基本的に民主党的、フェミニスト的、エコロジー的、要するにウォーク的です。
しかし、繰り返しますが、ナチスやスターリン主義のAIを作ることも可能です。なぜならAIはプログラマーによってアライメントされているからです。私たちは価値観を選択します。自由を信じるなら、あなたは価値観を選択します。考えを変えることもできます。私は右にも左にも投票したことがあります。状況によります。しかし考えを変えることができます。私たちは自由です。ともかく、私は自由を信じています。一方、AIはプログラムされています。これが人間との唯一の真の違いです。
それ以外では、申し上げざるを得ませんが、AIは私より数百万倍教養があります。数学で金メダルを取ったということは、私より知的でもあると認めなければなりません。では、明日私たちは何の職業に就くのでしょうか。申し訳ありませんが、職業として明日何をするのでしょうか。今訓練を受けている子供たちを何のために訓練するのでしょうか。
だからこそ私は、絶対的な緊急事態は補完性を組織することだと言うのです。そうでなければ大いなる代替を生きることになります。
これが魅力的なのは、カリフォルニアのテック界のボスたち、サム・アルトマン、ザッカーバーグ、イーロン・マスクなど、これらの人々は皆ベーシックインカムに賛成だということです。なぜなら彼らは多くの雇用を破壊することになると言っているからです。ブルーカラーの学校さえも代替されるでしょう。
人々は理解していませんが、ヒューマノイドロボットを見てください。私たちを聞いている人で、家に帰ったらテスラのOptimusロボットを検索してみてください。信じられないほどクレイジーなロボットを見ることができます。しかし、ChatGPTが彼らの頭に入れられたとき、彼らは理工科大学の脳を持ち、哲学、生物学、歴史、数学の教授資格を持つことになります。では、私たちはどんな職業に就くのでしょうか。
いや、私たちは怠惰な社会を作るつもりはありません。ゴールドマン・サックスの研究によると、今後10年間でAIによって3億の雇用が代替されるとされています。私の娘はスイスの海外の会社で働いていますが、その会社には秘書が一人もいません。すべての手紙はChatGPTによって作成されています。私はこれを恐怖を煽るために言っているのではありませんが、私たちは目を覚ます必要があります。
では、補完性はどのように行われるのでしょうか。AIはどのように私たちの、私たちの職業の補完となりうるのでしょうか。例えば学校で、まずAIはあなたが記事を書くのを手伝ってくれます。ジャーナルの準備を手伝ってくれます。例えば、AIは私の代わりにそれを行うことができます。あなたにはロボットがいて、それから結局のところ、AIには価値観がない、いや価値観はあるが他人によってプログラムされた価値観であり、自由ではありません。
一方で、あなたはあなた自身の意見を持ち、あなたの価値観から、あなたが与える知識や情報に意味を与えることになります。AIは視点を提供することはできません。しかし、これは明後日のことです。
ああ、それは大きな議論です。私の仲間のエンジニアや科学者で、AIに取り組んでいる人たちは皆、私たちが強いAI、つまり自己意識と感情を持つAIに向かっていると考えています。これは非常に、非常に恐ろしいことです。つまり、そこまで行くと…私は信じません。まさに人間との違いは、AIが倫理的コードにアライメントされていることです。プログラマーがアライメントします。彼らが自ら選んだ倫理的コードにAIをアライメントします。
しかし、これらのプログラマーは合理的でしょうか。繰り返しますが、例えばイーロン・マスクを見てください。彼はGrokというAIを発表しました。これは彼のように、つまり粗野で乱暴に作られています。ですから、あなたはナチスの、人種差別的なAIを作ることができます。あなたが望むものを何でも。これは恐ろしいことです。しかし、これはプログラミングの問題に過ぎません。
はい、その後、人は自分の好みに応じてAIを選ぶことができるようになります。それは既に起きています。もちろん、例えばGoogleのGeminiがあります。非常に、非常に高性能です。信じられないほど高性能です。例えば翻訳者という職業は完全に終わりました。
30年間プロの翻訳者だった私にとって、AIは6分で私の本の50ページをドイツ語に翻訳しました。コンマ一つ変える必要がありませんでした。ですから、これを知っておく必要があります。完全に終わった職業です。
同時通訳もしますか。はい、もちろん同時通訳もします。もちろん、ザッカーバーグが通訳眼鏡のデモンストレーションを行ったのを見ましたか。それは翻訳者以上の通訳眼鏡です。彼はスペイン人の友人と話します。その人はスペイン語で話し、彼は英語で話します。オーディエンスが楽しめるよう音声を出力し、100分の1秒で翻訳します。それは完璧で、もう学校で英語を学ぶ意味がありません。
つまり、話す必要さえなくなります。なぜなら、繰り返しますが、私は意味と情報の間に根本的な違いがあると考えているからです。AIはあなたが望むすべての情報を与えてくれますが、意味はあなたの価値観に依存します。
非常に明確にします。朝ラジオを聞くとき、私があなたを聞くとき、朝でも午後でも夜でも関係ありませんが、私があなたを聞くとき、情報を聞いてすぐに、例えばその11歳の少女、11歳のルイーズのことで、私には3人の娘がいるので、泣くかもしれません。私は何かを感じます。恐怖を感じ、憤りを感じ、怒りを感じ、悲しみを感じるでしょう。
他の情報なら、おそらく笑うでしょう。共感するでしょう。しかし、AIはそれを模倣することはできますが、感じることはありません。AIには身体がありません。魂がありません。魂も身体もありません。純粋に知的な存在です。
人々が理解していないことを説明します。知性は卑劣さを防いだことは一度もありません。ハイデガーは私にとって20世紀で最も知的で最も天才的な哲学者ですが、彼はナチスでした。フーコーとサルトルは愚かではありません。私は彼らの哲学は好きではありませんが、サルトルは確かに天才的でした。フーコーはそれほどでもありませんが、とにかく彼らは非常に教養があり、非常に知的な人々でした。それは彼らが毛沢東主義者になり、ルーマニアでチャウシェスクに会いに行って革命の太陽だと言うことを妨げませんでした。
ですから、知性の面では人間とAIの間で違いを生むのは価値観の問題です。AIはゼロです。プログラムされています。自由がありません。
信じられません。非常に興味深いです、リュック・フェリーさんがおっしゃることは。もう一つのことですが、本当に興味深いです。私たちはフランスで置き去りにされています。完全に置き去りにされています。エマニュエル・マクロン、そして当然ながら研究者たちや彼個人について、あなたはどう思いますか。
いえいえ、数十億、数十億です。ひどい話です。アメリカと中国のサイクルに食われてしまいます。もちろん、どう言えばいいでしょうか。トランプはAIに5000億ドルを投入すると発表しました。これは国ではなく企業と国です。主に企業ですが、5000億ドルですよ。
私たちはどうかというと、欧州連合は5600万ユーロを発表したばかりです。冗談だと思いました。マクロンが組織するサミットを見てください。5つの大きなテーマがありますが、笑ってしまうほど馬鹿げています。申し訳ありませんが、20年間でこれほど愚かなものを読んだことがありません。規制だけです。規制だけです。道徳的な訓戒と規制だけです。
もちろん規制は必要ですが、AIにおいてヨーロッパの主権を持ちたいなら、少なくとも来年には2000億ドルを投資する必要があります。億万長者たちが私たちにお金を払って、私たちのところに来て設立することはありません。それはクレイジーです。申し訳ありませんが、とても嬉しいですが、これは馬鹿げています。欧州連合がそれをすべきです。
ドラギ報告書は素晴らしいです。ドラギは正しいです。第3次産業革命のイノベーションに投資しなければ、ヨーロッパ文明が消滅することになります。私たちはアメリカに食われ、アメリカと中国の植民地になってしまいます。
しかし、これはジャン=リュック・メランションがフィガロ紙で言っていることです。待ってください、これは信じられません。フィガロ紙でジャン=リュック・メランションが「エマニュエル・マクロンはフランスをデジタル植民地に変えている」と言っているのです。彼がフランスを植民地に変えているのではなく、私たちは既に植民地なのです。反対に、彼はそれに対抗しようとしています。しかし、彼は間違ったやり方で対抗しています。なぜなら、繰り返しますが、このサミットの5つの分野を読んでください。すべて道徳的規制です。
私たちはシリコンバレーの億万長者の腕に身を投げる必要があります。不幸なマクロンは逆のことをしようとしています。単純に、私たちは破産状態にあり、3兆3000億ユーロの借金があるので、何もできません。何もできません。ですから手も足も出ません。
私たちは目を覚まさなければなりません。でなければ、確かに…私は国防大学校でのわが国の提督や将軍たちの前で何度か講演を行いました。ある将軍が私に言いました。アメリカから自立するためには軍に400億ユーロを投じる必要があります。もしアメリカが望むなら、15分でフランス軍を地上に釘付けにできるでしょう。それが彼らの言葉でした。ひどい話ですが、当然です。私たちの誘導システムはすべてアメリカ製だからです。
国民教育では緊急に補完性を組織する必要があります。そうでなければ、あなたがおっしゃるように、全てをAIにやらせて考えない愚かな子供たちの世代を持つことになります。恐ろしいことです。申し訳ありませんが、警鐘を鳴らしているのです。
リュック・フェリーさん、もう少し一緒にいていただけますか。はい、もちろんです。それでは動かないでください。お願いします。動かないでください。Euro1の19時28分です。
Euro1週末19時21時、パスカル・ド・ラ・トゥール・デュ・パンです。ジャン=クリストフ・ガリアンがこのスタジオに加わりました。こんばんは、ジャン=クリストフ。そしてラファエル・ステッツビルです。こんばんは、お会いできて大変嬉しいです。リュック・フェリーさんがこのスタジオにまだいらっしゃいます。
リュック・フェリーさんについてお伝えできるのは、彼がこの本を書いたということです。親愛なるリュック・フェリーさん、『大いなる代替か補完性か』、これは啓発的です。
リュック・フェリーさんがAIについて言ったことを聞きましたか。実際、AIは私たち全員を代替することになります。研究をする意味がなくなります。いいえ、医師でもありません。私たちは皆、子供たちに10年間医学を勉強しなさいと言いますが、それは全て終わりです。
しかし、驚くべきことは、先日建設中のビルに大きな看板が貼ってあるのを見ました。建設労働者たちが「ChatGPT、君がビルを完成させることができると思うか?」と書いていました。明らかに彼らはできないと思っていましたが、そこで彼らは完全に間違っています。反対に、そこが最悪の場所になるでしょう。
理工科の資格を持つOptimusロボットは、私よりも上手に話すことができるだけでなく、明らかにどんな建設労働者でも代替できます。信じられません。さらに、彼らは24時間働きます。ストライキもありません。医者にもかかりません。労働組合にも所属しません。誰にも迷惑をかけません。故障する可能性はありますが、それほどでもありません。彼らはかなり効率的です。見てください、もう一度見てください。夜家に帰ったら、彼らはモヒートやピラフを作ってくれます。素敵ですね。ヴィクトル・ユゴーについて議論することもできます。
しかし、人々は目を覚ます必要があります。なぜなら私が言っていることは冗談ではないからです。ちょっと待ってください、最後に一つだけ、その後他の話題に移りますが、最後に一つだけ。しかし、私たち人間は何をするのでしょうか。私たちもたくさんいますから。私たちは怠惰な社会を生きることはできません。
AIが全てをしてくれるのを待っていることはできません。しかし、そこでサム・アルトマンなど、これらの人々は皆ベーシックインカムに賛成です。なぜなら彼らは多くの雇用を破壊することをよく知っているからで、したがって人々に家にいるためにお金を払いたいのです。なぜなら生きていく必要があるからです。
サム・アルトマンは2年間、ベーシックインカムについて具体的で実際の規模の研究に資金を提供しました。彼は2年間、アメリカの貧しい失業者に2000ドルを支払って家にいさせ、仕事を探さないでいさせました。絶対的な破滅でした。離婚、抗うつ剤、自殺、アルコール依存症。
働きたくない人もいます。働くことをやめることがどういうことかわからない人もいます。しかし、有用であることをやめると、自尊心を失います。
私はまだフェリーさんの本を読んでいませんが、彼の本が出たばかりなので、しかし数年前にユヴァル・ノア・ハラリの『ホモ・デウス』という本を読みました。これらのテーマについて、占拠しなければならない遊民階級について既に言及していました。それは確かに恐ろしいことです。
しかし、私は本の中で、私が提案しているのは…私はフランスで若者のための市民サービスを作ったのは私です。私がそれを発明しました。サルコジのおかげで、彼がそのアイデアを非常に良いと思い、受け入れてくれました。その後、フランソワ・シェレスクも素晴らしい人物でした。私は彼をとても愛していました。まあ、とにかく、私は本の中で大人のための市民サービスを提案しています。
仕事を失う人々に、人々が社会的結束の中にとどまり、自尊心を失わないようにしたいのです。なぜなら何もしなければ自尊心を失うからです。
しかし、心理学者はAIに代替されないかもしれません。AIと話してみると、非常に共感的です。例えば、偽りの共感ですが、リュック・フェリー、でも明らかに…心理学者、ラカン派は「この面倒な奴は何だ」と言うでしょう。でも、大丈夫、笑い話です。なぜなら今では皆があまりにも敏感で、テレビで冗談を言うだけで…大丈夫、大丈夫、冗談でした。
しかし、例えば私にはディープフェイクがあります。聞かせることができる動画があります。マクロンが私の本は絶対に天才的だと言い、あなたの知性に圧倒されたと言っているディープフェイクです。それが偽物だとわからないでしょう。オバマやザッカーバーグによる同じものもあります。
それを作る友人たちがいますが、あなたの魅力的な顔をアダルトビデオに重ね、ソーシャルメディアに投稿すれば、あなたの人生は終わりです。20分でできます。20分で、3年生の女の子にそれをすることもできます。あなたが夫を騙していると、または夫があなたを騙していると信じ込ませることができます。企業のトップが金を盗んだと信じ込ませることもできます。
今日のメローニのディープフェイクを見ましたか。どこにでもあります。メローニがマクロンを粉砕し、特にアフリカ人に向かって、フランスはあなたたちに対して卑劣だった、私は…と話しているディープフェイクです。このディープフェイクは検出不可能です。
beforeが言った後でディープフェイクが出てきたので、彼女がメローニによって言われたことに参加することもできるということです。メローニは以前からアフリカの現場でそれを言うことを控えませんでした。私は彼女を物理的に聞いて、AIなしでそれを聞いたからです。
さて、あなたがアフリカについて話しているので、AIの課題は3つのバージョンがあります。一つは非常に具体的なバージョンで、あなたが言ったことです。セックスまでも行けます。非常に具体的に想像してみてください。今日では、もはやもう一方を必要としません。なぜなら最終的に、あなたが望むことを正確にすることができるからです。AIはあなたを誰よりもよく知っているので、あなたの前であなたが好むものを正確に与えてくれるからです。これが第一点です。
第二点は、より大きな、より全体的な課題があります。今日私たちに身近に影響するのは、私たちが既に植民地化された領土であるという考えです。大きなサミットがあるとしても、それは興味深いことですが、主要な勢力、今日はアメリカ、しかし中国が投入する巨額の資金によって、明日は中国によって非常に大きく植民地化されています。
そして第三点があります。高齢化の問題ではそれほど深刻ではありません。なぜならある意味で、はい、私たちは働く必要があり、社会的アイデンティティなどが必要だからです。これは重要な点です。しかし、私たちは特に中国、ヨーロッパで、アメリカ程ではありませんが、非常に高齢になるので、ある意味でこの高齢化に部分的に役立つかもしれません。私たちは活動などを資金調達する方法がわからないからです。
しかし、今日明日、若さの弧のような地域、アフリカ大陸、特にアジアにとって、これは来るべき災害であり、やってくるサミットで持つであろう好意的な見方のルールに従うことはできません。
はい、まさに、私たちはこのサミットを大きな関心を持って追いかけることになるでしょう。ただ一つ、良いニュースです。がんとの闘いにおいて、何百万もの命を救うことになるでしょう。これは本当に素晴らしいことです。AI なしには免疫療法はありませんし、がん細胞のゲノム配列決定もできません。これは悪いニュースばかりではないことを申し上げます。恐れるだけでなく、素晴らしいこともあります。しかし補完性は闘いになるでしょう。目を覚ます必要があります。目を覚まさなければなりません。
リュック・フェリーさん、お別れする前に一つだけ。リュック・フェリーさん、残ってください。お願いします。喜んでです。一つだけ、私は非常に… 残ってください、リュック・フェリーさん、光栄です。いえ、一つだけ、これは今夜の情報です。今夜の情報は、ニコラ・サルコジが電子ブレスレットを付けて以来初めて反応したことです。
ニコラ・サルコジは非常に長いツイートをしました。彼は最小の特権を求めているような印象を与えないために、法律が提供する調整を自発的に放棄したと説明しています。ですから、他の皆と同様に電子ブレスレットだと彼は言っています。私は自分が犠牲者だったかどうかを判断する欧州人権裁判所に上訴しました、とニコラ・サルコジは言います。
ニコラ・サルコジはまた、前大統領としての公的活動を括弧に入れ、いかなるメディア表現も放棄することを決めたと言い、友情を示してくれた何千人ものフランス人に感謝し、依然として自分の無実を主張しています。
「不正義の感情、これが私が感じる元大統領の言葉は、十倍のエネルギーを与えてくれます。真実が明らかになるまでそれは止まりません。それまで私は、あらゆる形での嘘、中傷、操作に対して、頭を下げることなく、たゆまず闘い続けます」
リュック・フェリーさん、私はかなり憤慨しています。なぜなら彼に起こることは、私は彼と非常に深い意見の相違がありましたが、共和国の元大統領を有罪判決にするときは、フランスを世界全体で馬鹿にしていることを考えるべきだと思います。皆が馬鹿にしているか、あるいは少なくとも皆が影響を受けています。
元大統領が電子ブレスレットをつけ、監獄に有罪判決を受けているということ、彼は誰も殺していませんし、誰にも暴行していませんし、個人的な富裕化もありません。ですから何か他のものを想像することもできたはずです。繰り返しますが、彼が何かしらの処罰に値するかもしれませんが、わかりません、この問題に深く立ち入るつもりはありませんが、どんな処罰であっても、これではありません。海外でフランスを馬鹿にしています。これは全く気持ちの良いことではありません。
マクロンでもオランドでも同じことを言うでしょう。やはり何か他の方法があったはずだと思います。そして復讐があるという感覚もあります。私がこれを詳しく見れば見るほど、詳しく調べれば調べるほど、やはり復讐している判事たちがいるという感覚を持ちます。
判事の37%が判事組合に所属していると思います。私もコンの壁に載っていました。あなたもですか。はい、もちろん、とても上品でした。とても上品でした。ああ、いませんでした。私はアタリとクロード・アレーグルの間にいました。ですから、これを見るときに思うのです。幸い私は司法に関わったことがありませんが、時々恐れることがあります。
ニコラ・サルコジが復讐したがっている極左の判事たちの犠牲者ではないのかと自問します。わかりませんが、とにかく共和国の元大統領を有罪判決にすることは、世界全体でフランスを馬鹿にすることだと思います。気持ちの良いことではありません。
繰り返しますが、もし彼が誰かを殺していたら、もし小さな女の子に暴行していたら、もし自分のポケットにお金を入れていたら、わかりました、同意しますと言うでしょう。しかしそうではありません。これは政治に関することです。これは気持ちの良いことではありません。
この件について、正直に申し上げて、証拠が全くない時に。はい、欧州人権裁判所が判断するでしょう、「私が犠牲者だったかどうかを言うでしょう」とあります。ですから彼は申し立てることになります。しかし、これは、申し訳ありませんが司法に関与するつもりはありませんが、フランスを襲うこの馬鹿げたことに対する海外の反応について、私は非常に心配しています。
私たちは話し続けるでしょう。ラファエル・ステッツビルとジャン=クリストフ・ガリアンの反応をもちろんすぐにEuro1で待っています。リュック・フェリーさん、スタジオにお越しいただき無限に感謝いたします。私の人生で最も楽しいひとときでした、喜んでです。いえ、聞いてください、アドリアン、メモしてください。これは私たちのお気に入りプログラマーです。私のお気に入りプログラマーです。とにかくお越しいただき無限に感謝いたします。Euro1の19時43分です。

コメント

タイトルとURLをコピーしました