43,093 文字
オープンAIのCEOは私に「すべてを知っている魔法のような潜在意識的AIを開発するために、おそらく7兆ドル必要だ」と言いました。問題は、フランスのGDPが2.6兆ドルということです。つまり、世界で最も強力な国家の運営費の約2倍のお金を要求しているのです。
彼は「I don’t care（気にしない）」と言います。もし私が1億、2億、500億、5000億ドルを燃やしてしまっても、この汎用AIを作るためなら構わない、なぜなら気候変動や癌を解決できるからだ、と言います。ちなみに、AIに関する大きな環境的矛盾は、現在は全く責任も透明性もないということです。
リミットポッドキャストビデオへようこそ。ここでは、惑星の限界に関連する多くのテーマを通じて、私たちが生きている世界をより良く理解しようとしています。このチャンネルへようこそ。今日は、デジタルとデータについて話します。
これは非常に興味深いでしょう。なぜなら、惑星の限界、生物多様性の基盤、気候変動、そして社会の機能との関連性が確かにあるからです。あなたにそれを説明する必要はありませんね。もちろん、あなたが初めてここに来たなら、何が問題なのかわからないかもしれませんが、このチャンネルの目的、役割、存在理由は、おそらくあなたの教育や環境とは異なる視点で世界を見る手助けをすることです。専門家、研究者、科学者、つまり実際に現場で働き、その後の政治的選択や家族のための個人的選択を助けてくれる人々と一緒に、世界をより良く理解することを目指しています。
すべてが崩壊しつつある世界において、たとえあなたがこれらの問題に関連するエネルギーや資金が十分にある国から見ているのでそう感じないかもしれませんし、あるいは激しい気候イベントを目撃している国から見ているかもしれませんが、このチャンネルは本当にあなたをできる限り助けることを目的としています。短い時間ですので、ビデオの明るさではなく、解像度を480pなど低くしても十分です。Spotifyやその他のプラットフォームでポッドキャストを聴いている場合も、ぜひ歓迎します。YouTubeでこのビデオにコメントしてください。何か重要なことがあれば、ぜひ言及してください。ありがとう、チャンネル登録をお願いします。テオ、あなたのことを知らない友人のために自己紹介してくれますか？
お招きいただきありがとうございます。私はテオ・アルヴェスといいます。AIエンジニアです。つまり、長い間ギークをやっています。この仕事を10年間やっていて、10歳から、つまり約20年間プログラミングをしています。環境問題や社会問題へのこれらの技術の応用と、社会への影響について専門にしています。
いくつかの組織でこれをやっていますが、特にData for GoodというNGOの共同代表を5年間務め、この団体に約10年間ボランティアとして関わってきました。Data for Good、つまり善のためのデータです。それが作られたのは、現在私たちが何に囲まれているかというと…現状はどうなっているのでしょうか？デジタルの現状について概要や合成、少なくとも現状を教えてください。多くの人々はキーボード、コンピューター、電話を通じてデジタルを体験していますが、インフラ全体を理解していません。私たちはすでに話し合い、インターネットやデジタルについて説明するリンクをここの説明欄に提供しています。あなたから見た現状はどうですか？
いくつかの側面があります。確かにデータの問題があり、そのデータを使用するアルゴリズムの問題もあります。一般的に、データとアルゴリズム、あるいは単純に言えばデータの間には二重性があります。協会が立ち上げられたとき、私たちが到達した結論は非常に単純でした。最終的に、多くの経済的巨人がデータとアルゴリズムを使用して物事を行い、それが全く一般の利益、協会、NGO、公共機関のために使われていないということです。そして背後には、エンジニア、研究者、専門家、プログラマー、女性プログラマーなど、時間とエネルギーを費やしてこれをする人々がいます。
私たちの見解はそれでした。Facebookの人物の引用から始まりました。彼は「私たちの世代の最高の頭脳の多く」と言いました（これ自体はあまり謙虚ではありませんが）、「広告をクリックさせることに時間を費やしている、そしてそれはちょっともったいない」と。そして私たちはこの見解から始め、この分野で働く人々のエネルギーを、一つには悪用を非難するために、二つには興味深いケースや変化をもたらす行為者に応用するために、もう少し時間を費やすよう方向転換できれば、何かを達成できるかもしれないと考えました。
そして基本的に、そこから始まりました。今日、私たちには協会を支援するために参加してくれた6000人のボランティアがいて、まさにその時間を協会が何かをするのを助け、書き、問題がどこにあるかを啓発するために費やしています。そして背後には、基本的に、何が見えるでしょうか？それは、このデータの爆発的な増加があり、経済のあらゆるセクターでどれだけ使用されているかを私たちは理解していません。
今日、それは毎日さらに大きな生産になっており、生成AIが新しいコンテンツを作成することでそれが良くなるわけではありません。そして一方では、すべてを最適化するアルゴリズムがあり、これがチャットGPT以来2年間だけ存在しているわけではないということに気づいていません。AIです。
AIが歴史上初めて登場したのが1946年であることをご存知ですか？本当ですか？その時代、アラン・チューリングの時代で、彼は映画でも人気になりました、少なくとも一般市民の目には。これらの用語が議論されはじめたのはその頃、50年代でした。この分野の進化にはいくつかの時期がありましたが、実際には時間が経つにつれて、以前に概念化されていたものを実行するのに十分な計算能力がなかったり、それを実装するのに十分なデータがなかったりしました。
それが2010年代以降大きく変わりました。私もその頃から働き始めたのですが、一方ではソーシャルメディアがあり、より多くのデータ、人々や消費者、製品に関するより多くのデータを収集できる情報システムがより多くあり、他方では計算能力が増加したためより多くのアルゴリズムを実装できるようになりました。
そのため、この10年間で進化のスピードがかなり速くなりました。そしてこれはどこにでもあります。アルゴリズムやAIについて話すとき、それはチャットGPTを使うだけではなく、スーパーマーケットでの価格選定は一般的にAIによって決定されます。
バスの経路や時刻表を決める方法、最適化する方法もアルゴリズムによって行われます。家族に与えられる手当も、アルゴリズムによって形作られ、選択されることがあります。そしてこれらすべてが実際に私たちの日常生活に完全に組み込まれています。
デジタル部分については言うまでもありません。確かにプラットフォームで、何を表示するかを選ぶのにも使われています。Netflixは非常に驚くべきものです。言葉の選択、表示される画像も異なり、表示されるテーマやその順序、垂直か水平かなど、すべてが異なります。オンライン広告、Amazonの商品推奨などすべてです。
結局のところ、これは利用可能なデータとそれを活用するアルゴリズムの両方の爆発的増加であり、今日の経済の在り方を完全に変えました。
実際、報道、情報、コミュニケーションがターゲットに届くようになって以来、継続的な最適化の一種の中にいるのです。以前は新聞を売るとき、「新聞を買ってください」と叫ぶ人が街にいて、彼らは特定の地区、より多くの購買力がある場所、新聞を買う関心がある場所をターゲットにしていました。
それはかなり古いクリシェですが、テクノロジーが進化するにつれて、私はもともとラジオの人間です、Fun RadioやÉnergie Radioなどで働いていましたが、ラジオも同じでした。トランスミッターを送信し、調査、古い方法ですが、電話調査や訪問調査で「どのラジオを聴いていますか？」と聞きます。今日でもそうやって測定しています。それによって聴取者層を把握し、音楽やオファー、製品を調整して、より大きな需要に対応します。
これはブランドがやっていることであり、ラジオやメディアは一般的に広告でブランドを運ぶために存在し、そうやって生計を立てています。そして非常に短い時間で、これが非常に精密になり、私たちを超える精度に達したことに気づきました。
調査では電話がかかってきて質問されますが、今日、TikTokやInstagramなどは、私たちの習慣、スクロールの頻度、書く内容、自己表現の方法を見て、心理プロファイルを作成することができると言われています。つまり、AIとデータが今日、私たちのことを私たち自身よりもよく知っているということです。
つまり、消費者を作り出す巨大な機械、どんな名前で呼ぼうと、購入する瞬間を予測する予測システムを持てるということです。そこで私の質問は、このデジタル世界は、私たちの欲望、衝動、願望の支配権を実際には持っていないような集合的な意識や知性を持つことに成功したのでしょうか、あるいは成功するのでしょうか。すべては、クリックする可能性が高いタイミングを見極めるために、人々がクリックする瞬間を見極めるために精度を高めてきた示唆に過ぎないのでしょうか。
例えば、あなたが飛行機のチケットを予約すると（これはお勧めしませんが）、彼らはある時点で何かが起こることを非常によく知っています。これについてのあなたの感覚、印象はどうですか？
私は、あなたが考えているよりも悪い状況だと思います。理解の点で、確かに多くのことを見つけることができます。私にとっては、Spotifyが誰よりも私のことをよく知っていると思います。そのデータから多くのことを推測できますが、それでも、実際に私たちが捉えることができるデータには限界があり、それが時々問題が発生する理由でもあります。
実際、たとえ私がずっと携帯電話にかじりついていても、データポイントでは捉えられない、あるいは少なくとも私という人間に対しては大まかすぎる繊細さがあります。例として、時々ティーンエイジャーが妊娠検査の情報を郵便で受け取ったケースがありました。彼女が妊娠しているかどうかさえわからない状況で、それを父親が発見してスキャンダルになりました。
実際には、購入頻度などから推測することはできるかもしれませんが、その瞬間の人の心理状態を正確に理解することはできません。そして実際、あまりにも多くの近似値があるため、私はある会話がキャプチャされていないことを知っていると少し安心しています。それがデータ収集の課題の本質です。しかし、行われる近似値は目的に従属しています。
もし私がある本をお勧めするために私を非常によく理解しているなら、それは私を全体として理解しているわけではないかもしれませんが、本を売ることは非常に上手かもしれません。結局、それは部分的な視点を与え、生産性と消費主義を完全に最適化しますが、私たちを理解する魔法のような世界的な監視になっているのでしょうか？それからはまだ遠いと思います。そしてそれはあり得ないと思います。なぜなら、私たちは自分自身についてのすべてのトピックを完全に明らかにするような情報を与えていないからです。それは私たちの会話にアクセスできません。
あなたは、私たちに関する多くのデータの連結（ここにいる、このアプリを使用している、サッカーに好印象を持っているなど）によって、AIやデータが正確に知る必要がないという印象を持っていないのでしょうか？彼らは一種の消去法で進み、試行錯誤で行い、できるだけ正確に近づき、精度を高めることを目指しているようです。結局、4回のクリックでうまくいったと見れば、「彼のプロファイルはこれだ」と言うことになります。
はい、完全にその通りです。しかし常に、それはある目的に関するプロファイルです。注意時間に関するプロファイルです。それがAIの全課題です。AIが学習するというのは、何かを例から再現できるアルゴリズムのことです。そして非常に正確にいうと、補間することができます。補間とは何でしょうか？点を置いて、例えばこのような点がある場合、中間にこのような線が通るかもしれないと考えることができます。
つまり、新しい点、新しい行動、新しい製品を示したり、新しい広告を表示したりすると、似た例に基づいて、何が起こるかを予測できるかもしれません。それは外挿が得意ではありません。生態的危機に対して必要とされる急進性について後で話しますが、存在しない新しいことを発明することは非常に難しいです。AIが非常に得意なのは、示された例に基づいて中間的なものを見つけることです。
そしてそれを行うとき、それは必然的に最適化目標に関して数学的に行われます。例えば、ある人が購入すると思われる製品を表示し、それによってプロファイルを理解します。だから私が言うのは近似的だということです。私が誰であるかをかなり表現しているかもしれませんが、実際にはそれは特定の製品を購入する行動に関連した私を表しているのです。
そして結局のところ、はい、徐々に試行を重ねることで、なぜ私がこのスニーカーを買うかをモデル化することは非常に得意になります。しかし、私の好きな音楽のスタイルや、私が極右かどうかについては何も言えません。もしその後、情報をクロスリファレンスし始めると、そこでその情報を利用してプロファイルを構築し始めることができます。
そしてここが権力の集中の問題点です。実際、ソーシャルプラットフォームでは、異なる側面についての行動モデルが始まり、それらを合わせ始めると、人のプロファイルをより詳細にモデル化し始めることができます。
しかし例えば今日、Netflixで私が見ているもの（私についての非常に強力な情報）、私のGoogle電話に持っているもの、Instagramに載せるもの、バスに乗るときの行動、通過する場所のデータ共有協定はありません。もしそれが存在したら、さらに多くのデータポイントを提供し始めるでしょう。だからこそ、これらの情報が実際に分離されていること、同じ人々にすべてを与えないことが重要な課題です。
しかしテオ、あなたが言うことに飛びつきたいのですが、Google、Amazon、Facebook、Apple、Microsoft、そして他にもたくさん、TeslaやNetflix、Disney Plusなどがいます。しかし私がNetflixやPlayStationをたくさん使用した瞬間から、彼らは私が今日何を買ったか知っています。データは実際に…あなたが言いたいことはわかります。隔壁のような形でデータは保護されています。CIAでない限り保護されていますが、ご理解いただけると思います。データは保護されていますが、それでもデータの販売はあります。
時には利用規約に同意することでデータを販売します。つまり、あなたの日々のバス移動に関するGoogle Mapデータが安全にGoogleに保管され、販売されていない限り、大丈夫です。しかし規範が変わり、法律が変わり、地政学的文脈が非常に緊張し、誰もPlayStation Networkを通じてテロリストと通信していないことを確認するために、突然にクロスレファレンスが必要になると言われた場合（これは起こりました）、その時点でPlayStationの習慣、Netflixの習慣、買い物の習慣、Marmitonで料理する内容、聴く音楽などを知ることになります。それが交差し始める瞬間、例えば商業マーケティングのエージェンシーの手に入った場合です。
その時点で、私を調査する精度に到達でき、そこで私は疑問に思います。その時点から、私はまだ自分自身でいられるのでしょうか？はい。ちょっと哲学に入り込みますが、リソースについては触れず、他の多くの質問を提起します。これは少し哲学的な問題です。AIがこれらすべてをまとめて私をはるかによく理解できるようになった時点で、私はまだ自分自身でいられるのでしょうか？
それは一歩先を行っていて、何かを示唆するのではないでしょうか？そして私たちはすでにこれを経験しているのではないでしょうか？「私は自由、私は自由な人間で、自分の決断と選択をしている」と自分に言いながら、実際にはそうではなく、すべてが定義されているのではないでしょうか？
これはマトリックスのテーマに少し入ります。私の運命は定義されているのでしょうか？あるいは、選択の問題、私はまだ本当に選択できるのでしょうか？それともすべてが示唆されるのでしょうか？実際、あなたは「選択」と「運命」と言いましたが、これは短期と長期の問題も提起していると思います。
運命は小さな選択の積み重ねでしょうか？少なくとも選択について、そして特に可能性がある場所では、私たちが自分の選択を完全に支配していないのはまったく可能です。なぜなら私たちは非常に影響を受け、非常に示唆されているからです。
でも、もしそれが私たちから取ったとしても、それはやはり私たちの選択ではないでしょうか？ただ、私たちが表現していなかっただけかもしれません。運命がより広い視点で見た場合はどうでしょうか？それも質問を提起します。
例えば、私はデザインフィクションの演習をした際、2030年に17歳や15歳で学生の教育軌道を推奨するAIがあり、「あなたに最適化されたこの道を選べば、より高い成功のチャンスがあり、それを実現するための準備が整っています」と言うシナリオについて多くの質問を受けました。そしてもしあなたがそれを選ばなければ、デストピア的なモードで設定すると、「自分でやるしかないが、国家からの援助はない」などと言われるかもしれません。
私たちはこの問題について考え、「もし公共政策が『より良く理解できる』と言い始めたら、あなたが話していることは非常に信憑性があります。すみません、続けてください、でもそれは非常に信憑性があります。そして結局のところ、それについてすぐに、短期間では「はい、私は明らかに影響を受けている」と言いますが、長期間では、それが絶対に信憑性があるとしても、それでもその時点で自由があるのでしょうか？
そこで疑問が生じます。それについて考え、「私はこの推奨された教育パスを選ぶかもしれないが、それが私の望むものではないかもしれないと認識して、ある時点で変換したり、転職したりする自由があるかもしれない」と考えるでしょう。
私たちはBlack Mirrorでよくこれを見ます。各存在、各人を分析するAIが常にあります。これはSF作品でよく見られ、「あなたには何パーセントのチャンスがあります、あなたは恋をしています」と言われます。「あなたが恋をしていることをどうして知っているのか？」「あなたがその人について話すときの心拍数、あなたの声色、分析能力の変化、体温の上昇からです」と。
今日、感情を感じる人は、誰もが持っているわけではありませんが、瞳孔が広がるなどの変化があると言われています。人が無意識の誘惑の役割にいることをカメラを通じて分析し、先回りできるAIがあるといわれていますが、一方で私たちの心理状態も、食べるものに大きく左右されます。
そこであなたは非常に重要なことを指摘しました。それは今日のAIの限界の1つでもあり、その方向に選択がなされれば完全に突破できる可能性があります。それは人々とその生物学自体に関する追加データをどのように追加し始めるかということです。
今日、Apple Watchなどの例外を除いて、それはほとんどの場合ではありません。そのデータは実際に欠けているものです。カメラのビデオを持つことは非常に困難です。顔から犯罪者を検出しようとした研究が多くあり、完全に間違っていてとても人種差別的でした。同様に、顔から人が嘘をついているかどうかを知ろうとしました。これらは体の外部からの信号であり、近似的なデータであり、完全に間違える可能性があります。
だから私が言ったように、ソーシャルメディアやその他から信号を取るとき、それは情報ですが、私たちが本当に誰であるか、あるいはソーシャルメディアに何を載せることを決めたかの近似値に過ぎない情報です。
しかし、センサーを装着し始めると、イーロン・マスクのNeuralink、Apple Watchなど、その理由で彼らはNeuralink開発していますね。アイデアはそこにあります。実際に人の中に入り込むことです。そして、それとAIの組み合わせは、肯定的な意味でも否定的な意味でも完全に途方もないことができるという点で非常にディストピア的です。しかし、それはおそらく非常に信憑性があり、それは選択になるでしょう。
経済的にそれが起こるように強く推進する選択と、「これは馬鹿げている、センサーを装着したくない」と言う市民の選択です。しかし、ある時点で、それは保険情報へのアクセスを可能にするでしょう。私たちは非常に信憑性のあるディストピアにいます。
中国は評価プロセスを実施しました。あなたに星が多いほど、銀行ローンが少なくなります。アクセスできないものがあります。面白いことに、Black Mirrorがその作品の一つでこれを強調し、みんながいい星をくれる世界、誰も点を失いたくない世界、点を失うとあなたの自己中心的なニーズを養うものへのアクセスが少なくなる世界です。
水を飲んだり何でも好きなことをしても、高い社会にアクセスすることはできません。そして私たちは多くの人が階段を上ろうとする世界にいます。おそらくこれらの動画を見ている人たちはそうではないでしょう、特に「リミット」を見て慣れている人たちは。しかし、目標は成長し、億万長者になることです。
それがある意味で売られています。あなたが言うことが面白いです。「今のところ、私たちはそこにいませんが、私たちは移行期にいないでしょうか？」なぜなら、私は街路で新聞を叫ぶ人から、私が働いていたラジオまでさかのぼり、そのたびに最適化してきました。
今日、私たちは超最適化しています。私は、私たちが2000マイル毎時で走る列車に乗っているような印象があります。はい！ それは単一の目的を持って、申し訳ありませんが、Deus Exというビデオゲームを思い出させます。偉大なビデオゲームの古典で、AIが実際に世界をコントロールし、もう戦争がないように、などのために設計されています。
私は、アニミズムがあり、地球上のあちこちに異なる文化、言語を持つ人々がいた時代から、言語が標準化され、宗教が標準化され、世界が1850年以降、そして爆発的に広がったグローバライゼーション以降さらに標準化されてきたと思います。
「彼らの民主主義をそこに設置する」として、私たちの特性が共通になっています。今日、アフリカはまだ民族と言語のゆりかごです。それでも、それはかなり減少しました。共通の文化が到来しています。それは金の文化であれ、私たちが居る経済モデルの文化であれ、少なくとも物質主義の文化です。そして私たちはとても統一され、標準化されつつあり、このAIとすべてのデータは私たちを共通の文化、同じ人間文化に統一するという唯一の目的を持っているという印象を受けます。
注意してください、ここで問題提起します。これは人類の課題に対する救世主になるのではないでしょうか？戦争をやめ、紛争を作るのをやめ、気候変動とその生存に取り組むのをやめるために。人類の生存はAIバージョンの新しい緑の約束としての、私たちを均一化するこれらのデータを通じて実現するのでしょうか？
哲学から離れると約束します。いくつか興味深い点があります。ユヴァル・ノア・ハラリ、多くの優れた著作をしながらも批判もされている歴史家が、彼の本のひとつで非常に興味深いことを言っています。彼はそれを「データイズム」と呼び、新しい宗教として出現しているものとしています。今日の機能はすべて数字で最適化され、人間がデータや複数のデータに置き換えられるか少なくとも表されているため、すべてが均一化されています。
これは非常に興味深いです。なぜなら、ある意味でそれは科学者が初めから探し求めていた究極の理論のようなものだからです。弦理論が異なる物理理論、気象学、音楽などを統一するように、実際にはすべてがデータで表現でき、ある意味でそれはAIの数学的・情報学的利点の一つでもあります。実際には、音楽データであれ、プロパガンダデータであれ、猫の画像を生成するデータであれ、同じアルゴリズムを適用することになります。
実際、同じアルゴリズムになります。そのため、これは分野横断的な学問です。そして基本的に、私たちはアルゴリズムを重ねたデータによる学問を作り出しました。これはどんなものにも適用できます。
哲学的には非常に興味深く、それがこの分野に強い魅力がある理由でもあります。2010年代以降、「データ分析は21世紀で最もセクシーな職業」と言う人が多かったのは、それがこの目標に対応していたからです。実際、私は点データでモデル化できるので世界を理解しているという印象があり、これは私が職業を始めたときに私を引き付けたものでもあります。
そしてこのように均一化することは可能ですか？それは実際に起こっていることです。この均一化は人々の違いを現実的に表しているでしょうか？確かにそうではありません。それは均一化につながる可能性がありますか？それは十分に可能です。
私が思うに、繊細さが必要なのは、最終的にグローバルなAIによって均一化されるのか、意志を持った人間によって均一化されるのかということです。私は後者の部分をより信じています。つまり、実際には考えられているよりもずっと早く進行しているのですが、すべてを支配し均一化するAIは当面は信じていません。特に、私たちには今他の懸念があると思います。なぜなら、すべてを均一化したい人々は今すぐ存在し、最も広く使われている一般向けAIであるチャットGPTを理解する助けになります。今や毎日2億人のユーザーがいます。
実際、それは世界観であり、メールを書いたり宿題をしたりする非常に特定の方法です。一方では、シリコンバレーの35歳の男性プログラマーたちによって作られています。彼らは必ずしも悪意のある世界観を持っているわけではありませんが、アルゴリズムを作るように言われ、アメリカ的な、リベラルな左派的な、つまり中道右派のようなIP（知的財産）としてのデータを収集します。これは少数派を全く代表していないし、完全に英語中心です。
他方では、常に男性のCEOたちによって支援されており、彼らは非常に明確な世界観を持っています。経済成長、あるいは潜在的にはそれ以上の可能性もあります。後でDGFの女性が世界をどのように見ているのか、そしてどのような未来を望んでいるのかについて話せるかもしれません。それはこのテーマです。良い、それを保存しておきましょう。後で戻りましょう、私は友人たちを失望させないようにメモしておきます。
それは確かに私たちの使用方法を均一化しています。驚くべきことに、今日すでに社会現象が起きています。特定の世代の教育において、誰に投票すべきかをチャットGPTに尋ねたり、チャットGPTを感情コーチや心理士として使用したりする人々がいます。これは完全に増加しています。
私はそれを徹底的にテストしました。あらゆることでテストしました。それは非常にうまく機能します。試してみてください。「今日あなたは私の医者です。今日あなたは私の人生コーチです。今日あなたは私の偽善的な親友です」と言ってみてください。さまざまなことでテストしてみてください。それは演じます、それは見事です。
それはますます見事になっています。この動画を作成している時点で、私たちはGPT-4ではなく、チャットGPTの最新モデルである4.0にいます。私は5か4.0.2か何かに移行したと思います。そして、はい、それは効果的です。なぜなら、共感を示すからです。私たちは怒りの中で非常に二項対立的になることがありますが、私はそれを「私は怒っている、この人にこれを非難している」というように設定してテストしました。そして実際に、私に同意することで私を良く感じさせてくれます。「はい、あなたは正しい、それは本当です」と。
それは心理的な段階を踏みます。面白いですね。それは「あなたの感情を受け入れる必要があります。感情を受け入れるのは良いことです。それはあなたが誰であるかを示しています」と言って私のエゴを満たしています。そうするうちに、それは私の方向に行き、私たちは自分の方向に行くのが好きですよね。
そして突然、「聞いてください」と言われ、状況を少し和らげる側面に入ります。「あなたの考えを主張する時間を取るが、相手の話も聞いてください。相手にも議論があるかもしれません」と言われ、「あなたは才能がありますね」と思います。
それは心理学の何かのようなものです。チャットGPTに音声合成がついたら想像してみてください。「今日何かあったんだけど、どうすればいいと思う？」「苦情のメールを送ることをお勧めします」「素晴らしい、書いてくれる？すぐにやります」「これでいいですか？」「はい、私が訴訟を検討していることを付け加えてください」「わかりました、相手が理解できるような微妙な方法で入れます」
私たちがどこに向かっているのか想像できますか？私はこれをテストしました。それは機能し、才能があり、「OK、私はもう自分が誰であるかコントロールできない、何もコントロールできない」と言うようになります。
そうですね、そうですが、唯一の違いは実際に誰がその背後にいて、どのように機能するかということです。私はそれが主題の分析をすべて変えると思います。つまり、最終的にはあなたに答える中立的な魔法のAIではないのです。それは特定の社会経済的枠組みとコンテキストの中で人間によって設計されたコンピュータープログラムです。
それが私の視点を少し変えるものです。では、私たちの問題を解決するのを助ける中立的なAIを持つことができるでしょうか？それを設計する人々によって選択されたデザインの選択であれば、なぜそうでないのでしょうか？しかし、私たちはそこにいます。
それでは、シリコンバレーのこれらの有名なCEOたちの世界観は何でしょうか？完全に異なる社会経済的背景、異なる文化を持っていると想像します。彼らは有限の世界で無限の成長を信じていないのでしょうか？これらの問題はまだそこに到達していないことを指摘すべきです。
Big Jancoが英語版を出すために彼の漫画をアメリカに送ったのですが、実際、フランスはこの問題について本当に先駆者の国の一つです。脱成長や物理的限界の概念です。アメリカは、彼らの領土上のリソースが少なければ、外部の領土で戦争をするためにそれらを割り当て、モデルを永続させるために行くと思います。
ただの推測ですが、彼らの頭の中では何が起きているのでしょうか？彼らはどのようにそれを設計したのでしょうか？そして、どうすればデータとAIをより商業的な経済成長の目的なしに使用できるでしょうか？分析しようとしています、私は彼らを知りませんので、これは私の主題分析です。
経済成長の問題、つまり経済的収益性の問題があります。特に権力の問題があります。そして私にとってはさらに重要なのは、特にサム・アルトマンのような人からは、それがいつか人類に利益をもたらすという非常に深い信念があるということです。それを非常に興味深いと思います。
経済成長は確かに完全に馬鹿げたレベルに達しています。今日、グラフィックカードを製造するNvidiaは世界で最も価値のある企業になりました。Appleやその他を超えて、なぜなら実際には、ゴールドラッシュでは、シャベルを売る人が最も利益を得るからです。
したがって、Nvidiaは計算インターフェイスを製造し、株式市場で爆発的に成長しました。最初はゲーム機やPCのためのグラフィックカードだったと思います。それはそのように始まりました。2000年代初頭、ビデオゲーム用のグラフィックカードでした。私はNvidiaが好きでした。「これは安全な価値だ、グラフィックスは良くなるだろう、Xドライバーを最適化する必要がある」と思いました。
ジーフォースを覚えています。更新をして、ゲーマーのものです。グラフィックカードは何をするのかというと、少し脱線しますが、並列計算を行います。つまり、50回の掛け算を計算する必要があるとします。それを電卓で50回連続して行う必要はなく、一度に50回すべてを行うことができます。これはそのように設計された計算チップです。
これはビデオゲームと人工知能の両方に役立ちます。ビデオゲームでは、特にレイトレーシングを行うため、現実的な効果を得るために光の粒子がどのように反射するかを計算します。光の粒子がたくさんあれば、並列で行うのが良いです。
AIでは何に役立つのでしょうか？モデル化しているものの確率を更新するための計算に役立ちます。例えば、チャットGPTやテキスト用の生成AIモデルでは、英語、フランス語、スワヒリ語などすべての言語の可能なすべての単語に対応する1億の可能な単語があるとします。
基本的に、毎回、次の単語の確率をこれら1億のものに対して計算します。そしてそれは次に来る最も可能性の高い単語を教えてくれます。例えば、フランス語で「1 2 3」と言えば、「Soleil」と「4」が最も可能性の高い単語かもしれません。そしてそれはすべての単語に対して計算されます。しかし、「1 2 3 カメラ」というのはあまり可能性がありません。
これはもともとビデオゲーム用に作られたグラフィックカードで非常にうまく機能します。Nvidiaは20年以上前、AIが重要になり始めた頃にシフトしました。それが15年前からこのテーマでの爆発的な成長に貢献した理由の一つです。以前は連続的に行っていたため時間がかかったものを、実際にはより速く計算できることに気づいたからです。
それでNvidiaは現在、世界で最も価値のある企業になりました。これは驚くべきことです。脱線から戻りますが、経済的影響の観点からは、ビデオゲーム用のグラフィックカードを販売する企業が世界で最も強力な企業になるということです。
もう一つの例として、OpenAIのCEOであるサム・アルトマンは最近、ベンチャーキャピタル投資家に対して、AGI（人工汎用知能）、つまりすべてを知っている魔法のような潜在意識的AI、世界中の多くの問題を解決できる可能性があるものを開発するために、約7兆ドルが必要だと述べました。
フランスのGDPは2.6兆ドルです。つまり、彼は世界で最も強力な国家の一つの機能の約2倍の資金を要求しています。そして、これらの経済的課題について話すと、収益の点ではかなりの金額ですが、彼らはより多くを使います。
したがって、経済的部分は非常に重要です。かつて想像したことのないような金額ですが、それは他の側面に比べれば二次的です。二つ目の側面として、権力の問題があります。確かに今日、AIは過去2年間の地政学的テーマとして登場し、以前はどこにもなかったものです。
最も強力なAIを持つ競争、スタートアップへの投資があります。投資ファンドの分析によると、2023年から2024年にかけて、「AI」が含まれていないプロジェクトで資金を調達することはほぼ不可能でした。
すべての国が「私の人口全体がAIにトレーニングされる必要がある」「AIレースに参加していなければ、全く参加していないのと同じ」と考え始め、軍隊もこれを装備する必要があると考えています。これにはデジタル巨人が、以前は消費者すべてにアクセスするという位置にあったのに、政治的にも重要な位置を占めるようになってきました。
これは私が思うに、前進したい人々にとっては、お金よりも重要かもしれません。昨日サム・アルトマンのインタビューを聞きましたが、彼は「もし1億、2億、500億、5000億ドルをこの汎用AIを作るために燃やしたとしても気にしない」と言っていました。なぜなら「it will be worth it（それは価値がある）」からです。
私にとって、これは彼らの心理学における3つ目の重要なポイントです。それは意図性または信念です。なぜなら、彼らは世界を変えるものを信じているからです。サム・アルトマン、マイクロソフトのAIディレクターであるムスタファ・スレイマン、さらにはザッカーバーグのような人たちの話を聞くと（ザッカーバーグについては別の脱線がありますが）、彼らは「it’s going to be worth it because 気候変動と癌を解決するから」と言います。
そして誰もが「もしこのAIがあれば、これを開発できる」と言いますが、ザッカーバーグは「素晴らしい製品を構築するから」と言いました。彼はやはり販売に戻ったのです。
そして、この素晴らしいAIに複数の国家予算を投入すれば、本当にこれらの問題を解決できると彼らが考えているかどうかはわかりません。彼らには少し神の複合体があり、「私はこれを解決できると思う」と考えています。
しかし、最終的には、その意図が正直であれ隠されているかに関わらず、実際にはそれは重要ではありません。実際にはその方向に進んでおらず、それが問題です。彼らは投資家に夢を売っています。将来的には、平和や気候変動、渋滞などの問題をすべて解決した汎用AIがある社会を売っていますが、実際にはそうではありません。
渋滞について申し訳ありませんが、もう一つ脱線します。アラン・ダマシオ、彼をすでに招待したかどうかわかりませんが、彼の最新の本「シリコンバレー」で、彼はシリコンバレーに行ってこれらの人物の心理を観察しました。これは彼らがどのように機能するかを理解したい場合に読むべき信じられないほどの本です。
彼は、渋滞と大都市の渋滞緩和、そして脱炭素化の約束について考えてみましょうと言います。アメリカの大都市は鉄道で遅れています。はい、車はさらに悪いです。そして目標は、自動運転列車、自動運転車を備えたトンネルを開発し、バスに乗る代わりに、ハイパー個人主義的な社会を作り出しているということです。これは限界を無視した夢の中での彼らの社会ビジョンの普及です。
完全に限界を無視しています。ウェブサイト「Track Apocalypse」があり、もし突然、食料を運ぶトラックがなくなった場合、トラックが一日中走らなくなった場合に何が起こるかを示しています。それは3日後に何が起こるかを示し、段階的に食料に影響が出ることを示しています。パリ市は、トラックが来なくなった場合、食料自給が3日分しかないと言われています。
これは、私たちが化石燃料に依存しており、世界的に84％の依存度があることを示しています。実際、何かが起これば大変なことになります。しかし、特に都市部の第三次産業では、特定のスキルを失っていることに気づきました。マチェーテや溶接工具を使えるようになる必要はありませんが、手作業の職業はまだ非常に重要です。
そしてこれは失われつつあるものです。情報技術の開発者がいて、AIが文字通りあなたの仕事をし、多くの仕事を行うようになると、取って代わられない35の職業しかないと言われていますが、医学でさえも、AI は絶対にすべてができます。
私が思うのは、私たちはスキルを失っているということですが、それ以上に、私たちはすでに生存のためのスキルを失っています。明日、ブリュッセルで（あなたが招待された場所ですが）、食料を運ぶトラックがなくなったら、私は栽培方法を知りません、正直に言って。ミントを育てて「cool, we’ll eat that, friends（これを食べよう、友達）」と言うでしょう。チャットGPTに聞くでしょう。そう、もしまだアクセスできれば、なぜならこれは全て雪だるま効果を持ちますから。
ただ、それは言いたかったことです。これは非常に技術官僚的な見方です。同時に、あなたのような人々、私たちの購読者、おそらく私のような新しい人々がいて、私たちはローカルで、この大きなデジタルマシンの外側で、別の種類の世界を構築しようとしています。これは機会ではないのでしょうか？
協同組合的な、分散化されたサーバー、データセンターを持つことは実際に可能です。それによって何かを持つことができるのではないでしょうか？脱成長のケースでは、物事は大都市から分散化すると言われています。領土の回復力について話されており、領土が自分たちのニーズを満たすために一緒に働く必要があるとき、「OK、データセンターを持って、ここで私たちの間でイントラネットとして機能するようにします。あなたはニンジンを担当し、あなたは…」と言うことができます。
小さな規模、少し小宇宙のように、他のタイプの都市システムが発展しています。これがサイバーパンク化している大きな機械に対する解決策ではないかと知りたいです。
それは面白い質問です。数年前、チャットGPT以前であれば、迷わず「はい」と答えたでしょう。今日、半分「はい」と答えます。なぜそう言うかというと、ソフトウェア、システム、AIアルゴリズムを開発する場合、あなたが行うことに応じて、それを自分のコンピューターや電話に持つことは全く可能です。
私が人生でプログラムした98％のものは、常にインターネット接続なしで自分のコンピューターで動作するものでした。それがうまく機能した理由の一つです。実際、私は列車での移動が好きでした。なぜなら4時間コーディングができて、インターネットは必要なかったからです。実際、コンピューターの計算能力は多くのことを行うには十分です。
例えば、画像、テキストを分析したり、予測を行ったりしたい場合、Excelでも人工知能を使用しています。例えば、スプレッドシートでどれだけの売上があるかを見たい場合など、それは機能します。
実際、AppleはスマートフォンのAIについてある程度戻ってきているようです。彼らの見方の一つは、「Appleのスマートフォンで、より統合されたAIソフトウェアを持ち、ただ電話のバッテリーで動作させることができるか？」というものでした。そしてそれであれば、それはあなたのデータであり、それはうまく機能します。
外部は必要なく、データセンターも必要ありません。今日のAIの大多数はデータセンターや途方もない計算能力を必要とせず、コンピューターや電話でうまく機能します。
チャットGPTのウェブサイトを使用している場合を除いて、そこで重要なことがあります。それは生成AIです。それは以前のAIとは構造的に完全に異なるものをもたらしました。これは過去数年間で爆発的な成長に貢献した技術の変化です。
チャットGPTだけではなく、その背後にある技術であり、「自己教師あり学習」と呼ばれるものです。テキストを理解するために、以前なら私はこう言っていました。「ここに気候について話しているテキストの例があります。このテキストが気候について話しているかどうか教えてください」そして気候について話しているテキスト1000例と、そうでないテキスト1000例を集めていました。
数年前に発明され、爆発的に広まったのは、気候について話しているかどうかを尋ねる前に、インターネット全体を発見させ、本当に接続、文法を学習させることです。シェイクスピア、ボードレールなどのテキストを見せ、言語がどのように機能するかを理解させます。
これにより、「ファウンデーションモデル」と呼ばれていたものが作成されました。これらは様々なことに一般的な方法で事前にトレーニングされたモデルで、新しいタスクを示され、「これは気候について話しているかどうか」と聞かれたとき、フランス語を少し理解し、特定の単語を理解し、単語が語彙場で関連していることを理解しているため、新しいことをより迅速に、より少ないデータで行うことができます。
これは大きな革新です。なぜなら、以前AIでやっていたことは、各問題を一から始めていたのに対し、今は問題を一から始めることはありません。すでに多くのことを理解するよう準備されたものを常に取り、語彙、インターネットの知識などを追加します。
しかし、以前自分で小さな問題を扱ったとき、それは自分のコンピューターで、自分のリソースで行っていました。うまく機能しなかったかもしれませんが、それでも機能させることができました。今日、私たちはメガモデルに依存しており、これは5年前から指数関数的に爆発し、コンピューターや電話でネイティブに機能するには大きすぎるようになっています。
つまり、計算を大規模なデータセンターに外部委託します。彼らはなぜそれができるのでしょうか？多くの人々がそれを使用すれば、リソースを共有し、最適化することができるからです。
今日、私たちは非常に奇妙な状況にあります。もはやほとんどプログラミングをしません。計算能力を求めに行きます。OpenAI、Googleなどに直接行き、AIの実践者としては以前あまりやっていなかったことを今行っています。以前は制御していましたが、今はあまりにも高価でパワフルになったため、生成される言葉ごとに支払うことを好みます。
チャットGPTの購読料として月に20ユーロを支払い、彼らはあなたがあまり使用しないこと、電気代以上に使用しないことを期待しています。実際には多く使用します。彼らは明らかに損失を売っていますが、現在プログラミングする場合、生成される言葉ごとに支払います。それはデータセンターを自分で維持するよりはるかに安上がりです。
あなたの質問に戻ると、私たちは領土的協力とローカルAIを持つことができるのでしょうか？はい、それは完全に可能です。どのようなトピックについてか、どのレベルのパフォーマンスかによります。例えば、数コミュニティからなる小さな地域がチャットGPTやOpenAIのサービスと同等のサービスレベルを提供できるほど強力なデータセンターを持つことができるとは思いません。つまり、これはまた節約の問題を提起します。ローカルで何かを行うことは可能ですが、デジタル巨人に依存するよりも性能が劣るかもしれません。
だから、もし「私の地区には公共政策アシスタントがない」と言うなら、多分それは必要ないのかもしれません。例えばスクールバスを最適化したり、カープールを共有したりするようなAIは、絶対に問題ありません。今日のチャットGPTほど強力なものをローカルに持つことは不可能です。
そうですね。何かをローカル化すると、節約の中で特定のニーズから解放されると思います。今日、多くの人々がそれを使用して、私たちが生きている特定の世界のニーズに応える分析を行っています。あなたが以前言っていたことは非常に面白いです。今日、私たちのコンピューターの計算能力をあまり使用していないということです。
Google Stadiaは失敗しましたが、YouTubeやそのアイデアもそうです。しかし、それはすぐに戻ってくることがあります。私はそれが失敗したと思います。PlayStationも同様で、データセンターで実行されているビデオゲームをリモートでプレイできましたが、まだレイテンシーがあります。
しかし1年か2年以内に、ファイバーインターネットなどで最適化され、CDで購入したゲームや直接PlayStationにダウンロードしたゲームと、離れた場所でストリーミングするゲームとの間に違いがなくなると思います。それは少しそういうことです。
おそらく彼らは少し速すぎたのかもしれませんが、面白いのは、これから必要なのは画面と画面を動かすものと5G、6Gなどを通じて何かを放送するものだけだということです。もはやハードドライブは必要なく、おそらくSSD、つまりRAMだけが必要です。
実際、私たちは画面しか持たなくなります。私たちはすでにそれに調整されていると思います。説明しましょう。子供たちがプロジェクター、テレビ、コンピューター、電話、タブレットの違いを区別しないのをよく見ます。彼らにとって、それは画面です。
息子が「パパ、電話でスパイロをプレイしていい？」と言うのを覚えています。「いいえ、できません」と私は言いました。「なぜできないの？」「スパイロはPlayStationのライセンスで、PlayStationが必要です」と私は説明しました。彼は「ああ、まったく」と言い、私は「そうだね、PSPはそのシステムを持っていて、クロスプラットフォームになりつつあるよね」と思いました。
それで「いいね」と思います。電話はより少ないもので済むかもしれず、価格が下がるかもしれませんが、実際には巨大なデータセンターでリバウンド効果を起こしています。巨大なリバウンド効果、そして特に依存効果です。
実際に私が非常に恐れているのは、あなたがどのような使用パターンを作り出し、それが社会的標準になるかということです。例を挙げますと、最悪の生徒ではないGoogleが作ったPixel 9、私もPixel電話を持っています。彼らはマーケティング上の理由から「the first AI telephone（最初のAI電話）」とマークした新しい電話を作りました。確かに彼らはその分野では非常に優れています。
新しい使用法の一つとして、写真撮影の使用法があります。正確な名前は覚えていませんが、基本的に通りで誰かに写真を撮ってもらう必要がないというものです。例えば、あなたが三人いる、さらに悪いことに、カップルだとします。美しい景色の前でカップルの写真を撮りたいとします。セルフィーでしょうか？
彼らは「セルフィーを超えた新しい使用法を作りましょう」と言います。セルフィー自体がすでに作られた使用法でしたが、ここでは「まず最初にあなたの写真を撮り、それから交代します。私があなたの場所に行き、あなたが私の写真を撮ります」となります。そしてAIが写真を一緒にマージします。完全に。はい、すでに今日。はい、論理的です。はい。全く実現可能です。
これを聞いたとき、いくつかのことを考えました。社会的なつながりの切断という点で、もはや写真を撮るために頼む必要はなく、もはやそれを行わなくなります。この種のソフトウェアを設計するために2〜3年を費やしたエンジニアがいるのです。何か他のことをするのではなく。
思い出を作り、さらにはあなたは現実を交換しているのです。それは単にあなたの現実の解釈を交換しています。私にとって、写真は元々何のためにあるのでしょうか？瞬間をマークし、思い出させるためです。11歳の時の写真を見ると、基本的には「この写真がいつ撮られたかを覚えている」と思い、あるいは両親がそれについて話し、その記憶を構築し、それはあなたのアイデンティティの一部となり、あなたがそのとき体験したことです。
確かに今日、私たちはあらゆる方向に写真を撮りますが、それでも「これは私が体験した瞬間をマークしている」と思います。あなたは本当に体験したものだと知っています。しかしAIが制約のために、あるいはマチュピチュを訪れた時に多くの人や観光客がいて美しくないからといって、何かを再作成し始めると、あなたは写真を撮り、一人で訪れたかのように加工し、家に持ち帰って30年間保管します。その時、あなたの記憶は変わらないでしょうか？あなたの現実の認識は完全に歪んでしまうのではないでしょうか？
私たちはすでにそのような状態にいないでしょうか？コメント欄で教えてください。私たちが話していることは非常に魅力的です。この話を続けさせてください。その後、良い質問をします。
まったく同意します。最悪なのは、私の電話にそれがないけれど、もし持っていたら、使いたくなる瞬間があるだろうと思うことです。それがこれらのイノベーションと使用法の危険性だと思います。それはかなり賢いです。
ザッカーバーグが「incredible products（素晴らしい製品）」を作りたいと言っているように、「粘着性のある」ものを作りたいのです。しかしそれは知らず知らずのうちに、データセンターからの計算能力を抽象化し、彼らが持っている計算能力を求め、それによってこれらの使用法とデジタル巨人に依存するようにします。
一方、Appleは電話内にとどめておきたいと思っていますが、あまりうまくいっていません。グラフィックカードを製造するNvidiaは、すべてのコンピューターが人々のコンピューターでローカルにAIを実行するのに十分な強力なグラフィックカードを持つべきだと言っています。
これは依存性やデータプライバシーの観点からは愚かではないかもしれません。しかし彼らは「地球上のすべてのコンピューター、すべてのラップトップを、基本的にゲーミングPCと同等のものに置き換える」と言っています。再び、鉱物資源とCO2排出量の観点から何を意味するのか計算し始めました。
彼らはその質問をまったく考えていません。一方では、デジタル巨人から計算能力を求めるための超依存のビジョンがあります。これは非常に新しいことです。他方では、私たちが持つすべてのツールに計算能力を入れるという反対のビジョンがありますが、両方のビジョンはこの計算能力を爆発させ、どちらの場合も問題があります。
彼らは人々のところに計算能力を展開したいと思っているのかもしれません。ある時点であなたが利用規約に同意し、アメリカの法律が通過し、あなたのコンピューターが隣人のための計算パワーとして機能するようになるかもしれません。それは可能かもしれません。
これはより興味深いケースで見られます。Carnoというフランスの素晴らしいプロジェクトがあり、熱パワーを使用して社会住宅を暖房します。だから、なされる可能性のある賢いことは確かにあります。はい、彼らもそれを開発しています。
最初の質問に戻りたいと思います。スキルの喪失に関するものでした。領土協力に関する質問でした。AIに直面した人々の雇用に関する問題の一つは、私たちがまだ準備ができていないということです。5年後のAIのパワーを理解していないということです。毎日この主題を見ている私でさえ、可能な限界が克服された場合、AIのパワーがどうなるか理解していません。
これについては後で話し合うことになると思います。私たちはまだそれを理解しておらず、全く計画されていません。特定のセクター、特に特定のスキルが置き換えられる可能性があるという点で計画されていません。
今日既に問題です。5年後、それははるかに顕著になるでしょう。20年後、私にはまったくわかりません。それは転職においても計画されていません。そして私が最も興味深いと思うのは、私たちよりも賢いものに直面したときの社会的尊厳の観点です。
先ほど、チャットGPTは数日前に「O1」という新バージョンをリリースしました。これは4.0ではなく、O1と呼ばれるもので、推論をシミュレートするようになったものです。目標は、天体物理学の研究や法的質問など、複雑な研究ケースで、アルゴリズムにもう少し推論を計画させることで、より構築されたものになるかということでした。
基本的に、彼らの目標は高校レベルか、それ以上の複雑な数学問題を解決できることを示すことでした。そして、弁護士が弁護士レベルの弁論を作っていることに気づいた例や、ある天体物理学者が論文で書いたすべてをこの新バージョンで10分で再現できたことに気づいた例があります。
そして、自動化されることに慣れていなかった非常に高度な職業を持つ多くの人々が、「私の才能、私のトレーニングはもはや社会的有用性を持たない」と考え、これの成長とともに転職する必要があるかもしれないと思い始めています。
彼らは2回目、3回目と転職する必要があるかもしれません。基本的に、私たちの社会は、私たちがスキルを持たないことに気づき、人生の中で何度もそれを感じさせられたときに、人々がどうなるかについての反省や計画を持っていません。
これは避けられない運命ではありません。これは今日行われていない政治的選択です。環境計画のように、この質問に取り組む選択です。AIの計画のための事務局を作るべきかという議論がいくつか出てきています。
それは疑いなく必要です。そして今のところ、私たちは何も持っていません。ヨーロッパの法律が通過しました。国としてこのセクターでどのように先頭に立つかという地政学的なAIについてだけ話しています。
これは私を非常に怖がらせます。それは明日大量失業があるということではなく、この社会変化に直面したときの尊厳が私たちに欠けているということです。私たちはそれに準備ができていません。
私たちは突然の混乱から安全ではなく、新型コロナウイルスのような出来事から安全ではありません。それはどこからともなく現れたように見えました。しかし微生物学者たちは、グローバル化され急速な私たちのシステムによってより激しいウイルスが影響を持つようになると警告していました。
今、私が思うのは「成長の限界」レポートがあり、あなたもご存知かもしれませんが、今日の私たちは無限の成長の時代の変わり目にいるということです。いずれにせよ、私たちはある種の安定状態に達しています。このモデルが示していることです。ちなみに、チャットGPTがこれについてどう思うか気になります。テストしてみるのも面白いかもしれません。
しかし我々が知っているのは、いずれにせよ物理的世界は物質の流れ、エネルギーの流れが減少することを意味するということです。二項対立的に考えてみましょう。複雑すぎないように、AIのように多くの可能性を同時に考えないようにします。
資源の限界、激しい気候イベント、飢饉などによって引き起こされる可能性のある社会の不安定化やすでに起きている地政学的な亀裂などは、人類をAIやデータへのリソースの移行から、安全保障や適応へ向けさせるのでしょうか？または両方？キャプテン、私には分かりません。しかし、エネルギーが少なくなったとき、何が起こるのでしょうか？
そのようなコントロールを持ちお金を持つデータセンターとシリコンバレーが国家のような力を持ち、資源を彼らの機能に配分するよう要求するのでしょうか？それとも反対に、私たちは市民の力を取り戻し「いいえ、私たちは資源をまず自分たちに、そして社会を維持するものに配分します」と言うのでしょうか？
非常に複雑な質問ですね。あらゆる方向に行きますが、これは非常に重要です。なぜなら、これについてはあまり話されていないからです。この指数関数的な爆発には多くの限界があり、生態的限界はその一つです。
それに入る前に、すでに述べたように、今や私たちはこれらのデータセンターから計算能力を求めています。データセンターは他のことにも役立ちます。ストリーミング、Zoomビデオ、ポルノビデオ、そして今やAIで生成できるポルノにも。これは画像の点で恐ろしいことです。
あなたがブリジット・マクロンであれ、あなたや私であれ、突然、私たちのポルノビデオが流れるようになり、悪意を持った目的で、誰かがそれが真実であると信じさせることができます。スキャンダルを作り出すことができるのです。何が真実で何が偽物なのか分からなくなります。これは実際に今日かなり簡単で、1年以内には一般的になるでしょう。
つまり、この計算能力があるのです。AIに関して理解すべき2つの重要な要素があります。もし環境的な観点からAIの構築のライフサイクルを見てみると、何がその中にあるのでしょうか？アルゴリズム自体があり、それを作る必要があり、その後それを使用する必要があります。他のどんな製品のようにも。
AIアルゴリズムを構築し、それに短い期間、つまり3ヶ月間、データセンターがフル稼働してすべてのテキスト、すべての画像を発見させるために多くのデータを示します。これは新しいバージョンのチャットGPTがリリースされるときに今日起こっていることです。
ある時点で誰かがボタンを押して「始めよう、計算しよう」と言い、3ヶ月後にそれは準備ができています。その後、人々はそれを使用します。つまり、消費の2つのフェーズがあるのです。非常に局所化されたフェーズがあり、例えばチャットGPTの場合、どこで行われているか確かではありませんが、彼らの大規模なデータセンターはアメリカにあります。
私はむしろMetaを例に挙げます。Instagram、Facebook、Zuckerbergの背後にある企業です。彼らはテネシーかウィスコンシンでこれを行っています。そしてこのAIを構築するとき、それは電力グリッドに対して短期間で非常に強くなりすぎるほど多くのエネルギーを消費します。
これは巨大な炭素影響を持つわけではありませんが、リソース配分の問題を提起するには十分大きく、「チャットGPTやMetaの新バージョンが更新されるとき、それはブレーカーを吹き飛ばさないのか」という疑問を提起します。ちなみに、炭素影響はそこにあるわけではありません。
しかし、これは本当にリソース配分の問題を提起します。なぜなら、通常これは特定の場所の単一のデータセンターで2ヶ月間行われるからです。もう一方では、使用があります。使用は実際にはより多くのリソースを消費します。特に今、チャットGPTの2億人のユーザーが多くのデータセンターに分散されている場合、すでに構築した後の方がはるかに多く消費します。
炭素の観点から、おおよその数字を把握するために、チャットGPTの構築は約1000トンのCO2になります。これはおおよそ、100人の人々の1年間の炭素フットプリントに相当します。一方、1億人のユーザーによる使用は、約10万トンのCO2になります。つまり、すぐにより大きな数字になり、1万人の人々、おそらくそれ以上の話をしています。
実際には共有されています。だからそれです。いや、それはより少ないです。はい、私はゼロを間違えました。はい。いいえ、実際に理解します。はい。はるかに多いです。
そしてこれはより多くのエネルギーを必要とします。例えば、バージョンが変わるとき。例えば、バージョン4は私の推定では、以前のバージョン3.5よりも7〜25倍多く消費します。これは、OpenAIのCEOであるサム・アルトマンが「人類の利益のために、チャットGPTのバージョンを全員分アップグレードします」と言うのはかなり狂っていることです。
一人の男が一人で、何かを25倍にすることを決めたのです。環境問題に関して他のどの産業部門でも許されていないことです。ちなみに、AIを取り巻く大きな環境的矛盾は、今日責任も透明性もないということです。
実際に私が今言っていることと次の3分間で言うことは、調査ジャーナリストや研究者たちが小さな情報の断片を集めて収集できたものです。これは他のどの活動セクターでも絶対にありえないことです。それがどれほど恐ろしくても、Amazonで製品を注文するとき、製品の炭素フットプリント、それがどこで生産されたかがわかります。
AIに関しては全く何もありません。だから時には塩を一粒加えて考える必要があります。私が話していることの規模を過小評価していると思います。これがAIの使用と構築での消費です。
その後、資源を抽出し、データセンターを構築し、グラフィックカードを廃棄する必要もあります。なぜなら、それらを長時間熱したとき、ある時点で壊れるからです。ちなみに、多くの計算を実行するとき、冷却のために多くの水が必要です。
これが生活サイクルのようなものです。そうです。そして、ある意味で限界はどこにあるのでしょうか？完全にそうです。今日、いくつかの例を挙げると、最初の限界は短時間で利用可能なエネルギーの限界です。アルゴリズムのトレーニングのため、これは非常に明確な問題を提起します。
デジタル巨人たちは「この場合、一つの解決策しかない。データセンターの隣に小型核反応炉を設置するか、既存の核反応炉の隣にデータセンターを設置し、まずエネルギーを割り当てることだ」と言っています。
これは完全に議論されていることです。ペンシルベニアでは、Amazonが2.5ギガワットの核反応炉の制御を取得し始め、Amazonの新しいデータセンターに電力を供給し始めています。これはAIを持つことになるAmazonの中で最も大きなデータセンターの一つで、約960メガワットを必要とします。
960メガワットは1ギガワット、つまり1000メガワットに相当し、小型の核発電所です。基本的に、小型核発電所の規模のデータセンターを構築し始めています。今日、私たちが持っている最大のデータセンターでも、50、100、150メガワット程度です。しかしこれは巨大です。これは20倍以上です。ほぼ20倍です。はい、そのとおりです。約20倍に達し始めています。
つまり、今日GoogleやAmazonはスロベニアのような国よりも多くの電力消費量を持っています。今日、データセンターは世界の電力の1％強を消費し、AIはそのうちの10〜25％を占めます。データセンターに必要な電力は倍増すると予測され、AIの割合もさらに倍増します。そのため、基本的にAIの電力消費は世界の電力のおよそ1％を代表すると予測されています。
これは予測される数字で、今取り組んでいるところです。つまり、これは電力だけを見ても完全に狂っていることがわかり始めています。別の例として、OpenAIはこれについて多く考えています。「データセンターを手に入れることができないかもしれない。核反応炉を手に入れることができても、実際には電力の割り当てや電力網での電力の通過に関するすべての法律があり、それは難しいだろう」と彼らは言います。
基本的に、彼らは核融合を開発する必要があります。これはサム・アルトマンの考えであり、すべてのデジタル巨人によって共有されています。彼は「いずれにせよ、それが表す量を考えると、私たちは戦うか（彼らはすでにそれをうまくやっている）、そのために電力を得るか、新しい形の電力を見つける必要がある」と言います。
多分彼らはそれに成功するでしょう。多分それはそれによって推進されるでしょう。オレリアン・バロウなどの多くの人々によると、これは人類の歴史の中で最悪のアイデアになるでしょう。なぜなら、それ以降、私たちはさらにオープンバーになるからです。では、これが電力についてです。
水についての他の例を挙げると、水はさらに知られていません。さらに少ないデータがあります。わかっていることは、チャットGPTのバージョン（どのバージョンかわかりませんが、推定にどのバージョンが使用されたかさえわかりません）で、一日に10から50のリクエストを行うと、一本の水を消費するということです。
これはすでにかなりの量です。次にチャットGPTを使うとき、10回使用し、10の質問をし、何かのために使用すると、水のボトルを飲んだのと同じです。消費の観点からは33clまたは1.5リットルのボトルです。
その相当量は、10から50の間で500mlです。小さいボトルですね。わかりました。これは非常に大まかな数字で、どのように計算されたかさえわかりません。しかしこれは数年間流通している数字なので、おそらく以前のバージョンで計算されたもので、今ではより多くの消費になっているでしょう。
私が持っている別のデータポイントは、例えばTSMC（Taiwan Semiconductor Company）です。TSMCについて聞いたことがあるかわかりませんが、これは台湾の半導体企業で、グラフィックカードの製造にはさまざまなレベルがあります。これらを製造しています。コロナウイルスの状況で少し問題がありました。
それが減速しました。コロナウイルスにより問題が生じ、典型的には多くの問題が提起されました。コロナウイルス中にはデジタルの爆発があり、半導体が必要でした。その結果、台湾の領土で「工場を閉鎖するか、人々に水を止めるか」という問題が提起されました。人々への水は3日間止められ、工場を稼働し続けることができました。
彼ら、台湾半導体企業からはあまり数字が出ていませんが、彼らの年次報告書から明らかになったのは、半導体を製造するために1日あたり16万トンの水を使用しているということです。1日あたり16万トンの水は、西洋国のおよそ100万人の住民に相当します。
もちろん、これはAIだけのためではありません。電話、電子レンジなどのためでもあります。当然です。基本的に、これらの資源の獲得についての問題があり、それはシナリオには全く予測されていませんでした。
これを見ると、いくつかの例を挙げますが、この点を強調するために、企業レベルのさまざまなレベルで見てみましょう。Microsoftは良い例で、彼らは「カーボンニュートラルになる」と言っていました。実際には、彼らはそれを実行するためにかなりのお金を投資しました。
実際には、彼らはスコープ1とスコープ2、彼らのデータセンターで再生可能エネルギーの開発に数十億ドルを投資しています。彼らはかなり再生可能エネルギーに投資しました。私が思うに、世界の新しい再生可能エネルギー設備の30％がGAFAM（Google、Apple、Facebook、Amazon、Microsoft）によって獲得されました。
基本的に、彼らは「2019年からパリ協定に沿って年間3-5％削減の軌道に従う」と言っていました。他の産業部門に比べてもほぼより良く実行していました。デジタルがまだかなり最適化され続けているため、消費量が増えているにもかかわらず、実際に減少し始めていました。
AIの登場以来、そして今年から、彼らは炭素排出量が30％増加しました。これは主に電力消費だけでなく、需要の増加をサポートするための新しいデータセンターの構築にも関連しています。スコープ3では同様です。Googleも同様で、減少し始めていましたが、今年は19％増加しました。なぜなら、基本的にはできないからです。
実際、私たちは新しい技術を作り出し、技術の歴史での全てと同様に、「さあ、スマートフォンを作ったぞ、もっと構築、もっと生産だ」となります。実際、少なくとも産業革命以来、同じことを繰り返しています。技術の進化、経済、冗談抜きで。
そしてすぐにリバウンドします。実際に大きなリバウンドです。おそらく唯一の違いで、より深刻かもしれないのは、より多くのお金が関わっているため、それがより速く進むということです。実際、もしマクロな視点を持つなら、これは私たちが気候目標から遠ざかる生産主義的サイクルを加速する、ただの追加技術です。
ただし、これは非常に指数関数的であり、計画されていません。例えばフランスでは、ADEMEという生態的移行のための公的機関とARCEPという通信に取り組む機関が、2020-2021年にデジタルの影響に関する研究を行いました。
つまり、チャットGPT以前に、私はパリ協定のシナリオをフランスのレベルでデジタルセクターにどう適用するか、そしてAIの役割はどうなるかについての議論に招かれました。これは非常に興味深いです。
これらは非常によく行われた研究で、「もしデジタルの領域で領土協力シナリオ、幸せな節約シナリオに達したいなら、それはどういう意味か？」と考えていました。例えば、アパートの建物ごとに1台のコンピューターという考えです。しかし一人一台のスマートフォンはあるかもしれません。テレビはありません、なぜならそれは非常に物質的で多くのリソースを使うからです。しかし節約シナリオでもプロジェクターはどうでしょう？なぜなら、プロジェクターには画面がなく、投影ははるかにエネルギー効率が良いからです。
ここにはそんなものがあります。そして典型的には、この非常に真面目で非常に知的な作業の中で、AIは完全に省略されていました。そして相談された人の一人である私自身でさえ、このシナリオを全く予想していませんでした。
そして今日、これは全く計画されていません。では、それは生態的、資源的な限界に達するでしょうか？わかりません。エネルギーの限界に達するでしょうか？はい、それは確かです。しかし、いずれにせよ、人々はこれについてあまり取り組んでおらず、非常に強く押している人々の答えは「限界を超える解決策を見つけるために生成AIを使用するつもりだ」ということです。
したがって、Microsoftは「もし需要に応えるために多くのデータセンターを建設する必要があるなら、生態学的観点からは問題ない。なぜなら私の超強力なAIを使用して低炭素コンクリートを見つけるからだ」と言います。そして彼らは、技術の歴史ではほとんど見られないような指数関数的な加速と、それが問題を解決するかもしれないという信念を持って、完全な逃避に陥っています。
しかしそれはポーカーゲームのようには機能しません。それは巨大なポーカーゲームです。そうですね、もしそう言うなら、それは実際にはRADのシナリオの一つ、修復的賭けですね。いずれにせよ、今は完全にそのような状態にあります。これは啓発的です。このすべての豊かさに感謝します。
今YouTubeで見ている場合は、あなたの意見をコメントで教えてください。他にも話したい章がたくさんあります。第2部を作ると思います。この大きな、大きな、大きな番組の結論に向けて、ゆっくりと着実に移行していきましょう。
まだいくつかの感想とこれに関する質問があります。人間は努力を少なくできる機会があれば、そうします。料理をする必要があります。セネガルにいる私の叔母がどのように料理をするか思い出します。私が小さかった頃のことを覚えています。今日のことを覚えています。なぜなら、当然セネガルは商船や多くのものにアクセスでき、時間を節約できるものもあります。
私たちは料理で時間を節約し、あらゆる分野で時間を節約します。料理は多くの時間がかかりましたが、今日、私たちは時間を節約できる機械やすべてのものを持っています。しかし、私たちが節約するその時間は、同じくらいエネルギーを消費する他のことに投入されます。
あなたが前に言ったように、一種の逃避です。しかし何かが自動化されると気分が良くなりますし、チャットGPTは恐ろしいほどです。テレビ、ビデオゲーム、第三次産業の子として、コミュニケーション業界で働いてきました。私の父は手作業の仕事をしていましたが、私はしていません。
そして、私がしてきたことや今していることすべてを、AIが容易にしてくれることに気づいています。それを頻繁に使用しないようにしていますが、時間の節約になることを見ると、個人の日常や多くのデータを処理する必要がある人にとっては良いことです。
コミュニケーション以外です。メールに返信するためにテストしました。月曜日には一日中メールに返信する時間を取る必要があります。本当にたくさんあるからです。Perine Perine agencyという代理店と一緒に仕事をしており、彼らは講演依頼など、購読者ではない多くの要求に対応しています。
本当にたくさんあります。チャットGPTは1時間でその仕事をこなし、私の個性に合った返信をします。それを使わないように自分と戦わなければなりません。なぜなら、それが気分を良くしてくれることがわかるからです。人類が日常的な行動でエネルギーをできるだけ使わないようにするためのすべての技術的手段を常に見つけてきたように、3時間かかるものを1時間でできるなら、私たちはそうします。
このことを止めるのは難しいと感じています。おそらく、私たちの動画を見ている警戒心のある人々、だからこそ私たちはこれを行っていますが、彼らは再考し、「ああ、それは私の生活を容易にする、だから飛び込もう、その中で泳ごう」という簡単なパターンに陥らないかもしれません。
だからこそ、私たちはあなたに警告しようとしています。あなた自身の脳がこの罠に陥らないように制御するためです。それは私たちの脳だけではなく、エネルギーを使わなくても済むならば使わないすべての生物種です。ここにいる私の猫は一日中寝ています。食べるためか、隣人の猫が食べようとしていると思うときにだけ動きます。それ以外の場合、私の猫はエネルギーを節約し、私たちも同じことをします。
私たちはこれを超えていく必要があります。なぜなら、もし私たちが出発し、すでにすべてのモデル、すべてのシステムがデータに依存しているなら、それがAIにも依存するようになり、知識を失うと、ショックに直面したとき、ただ「どうするの？どうやって？忘れてしまった」と考えるだけでしょう。
極端に言えば、「イディオクラシー」のような映画の世界になるかもしれません。そこでは知識、技術を失い、やり方を知りません。それは炭酸飲料を水の代わりに植物に与え、誰かが「水をあげると、ちゃんと育つよ」と言うようなクリシェですが、私は誘張しています。しかし私たちが手段、単に社会で機能する技術、心理学などを失うとしたら。
Googleはすでに私の好奇心を奪ったという感覚があります。なぜなら、情報はどこかでアクセス可能だと思うからです。だから何かを記憶する必要はありません。今、瓦を修理する必要があるとします。GoogleかYouTubeビデオで説明されています。そしてそれを覚えておく理由はありません。それを見て、やり方を学び、4、5ヶ月間それをしなくても良いでしょう。
あなたの脳はその情報を保持しなくなります。なぜなら、私たちの脳は日常的に必要なものだけを保持するからです。しかし、突然あなたの配管工が気候イベントのために来られない状況で、サプライチェーンが中断し始め、電力が切れていて、修理方法がわからない場合を想像してみてください。
日常的な問題がすべて悪化し、外部世界があなたを助けに来なくなったり、3日後ではなく3週間後に来るようになったりしたら。それらすべてに時間がかかるようになります。私たちはこれらの知識を失ってしまいました。どうすればいいでしょうか？あなたたちに質問します。これは難しいですね。
これに関するあなたの意見と、その背後にある解決策について知りたいです。あなたがData for Goodであるのは、代替案、他の方法を提案したいからでもあります。どうやって水面に頭を出せばいいでしょうか？今、解決策と希望が欲しいです。
私も同じ状況にいます。私はおそらく一日数時間使用しています。私は仕事を助ける6つの異なるAIを持っていますが、まったく少なく働いているとは思いません。これが背後にある本当の課題の一つだと思います。そこには約束があります。
実際には思想家ではなく、Twitterアカウントが引用を作り、完全に話題になったものがあります。「AIのおかげで洗濯や皿洗いをやってくれるので、詩、芸術、つながりに集中できる、そして少なく働くことができるという約束があった。実際には、それは私たちのために詩、芸術、映画、シナリオを処理し、そのため私たちは洗濯や掃除に自分の時間を費やす。」
第一に覚えておくべきは、これは運命ではなく、本当にデザインの意図だということです。これを言う方法には悲観的でもあり楽観的でもある部分があります。今日AIについて話す人々は、生産性と時間の節約について多く話します。しかし、それは幸福のためにデザインされているわけではありません。自由時間を作ったり、つながりを再創造したりするためにデザインされているわけではありません。
これが中立に見えるこれらのテクノロジーの問題です。それはそうなり得るのです。では、どのような推奨事項がありますか？私たちはそれを異なるレベルに置いています。Data for Goodのサイトでは、AIのリスクについて150ページで扱う無料の白書を書きました。
はい、素晴らしいです。リンクを説明欄に入れます。その中には市民レベルでの質問があります。これらは新しい質問です。なぜなら、数年前までAIは見えませんでした。それは製造者や搾取者の問題であり、市民として私たちはそれを被りました。
例えば、コンテンツ推奨、オンラインサイトでの価格、オフラインの店舗での価格を被るなどです。今日の違いは、市民が自分自身でAIを操作し、チャットGPTに自分で質問をするということです。
つまり、市民、私のような設計者、より高いレベルでの公的権力、企業への推奨事項があります。実際には、市民のためにやるべきことは1000あります。それは常に同じ質問です：どのように理解するか？
多くの質問をする、使用を拒否する、小さなアルゴリズムを使用することを選ぶ、なぜなら常に非常に大きなものが必要なわけではないからです。これにはたくさんの小さな派生形があります。例えば、画像生成に気をつける。なぜなら画像生成は非常に便利ですが、報酬を見つけられなかった多くのアーティストを搾取しています。同様に、新聞記事での情報検索についても。
もし許していただければ、中断しますが、生成AIビデオはすでにアート内に存在するものからインスピレーションを得ているということです。つまり、どんな場合でもインスピレーション、盗用、多くのアーティスト、多くのクリエイター、写真家、スタイルの形があります。
スタイルが出てくるのがわかります。「OK、これは生成されたものだ、これはマンガだ」と言いますが、それでもそれは文化から取り、文化に返さない、少なくとも財政的にはね。
全くそうですね。実際にはさらに悪いです。なぜなら、MidJourneyのような一部のスタートアップは、画像を生成するユーザーに対して、「著作権侵害で訴えられても心配しないでください。この金額まで私たちが支払います」という準備金を貸借対照表に載せています。
そして、おそらく違法に収集された個人データの回収と収奪の哲学は、多くのデジタル企業の「取って、捕まったら支払う」というものです。LinkedInがそうでした。
昨日、LinkedInの大きなスキャンダルがありました。フランスでもヨーロッパでもありませんでした。なぜなら、ヨーロッパではGDPRによって保護されているからです。規制は機能します。非常に有用です。
昨日、LinkedInはLinkedInのAIをトレーニングするために投稿データを収集するための自動オプトインを導入しました。ちなみにLinkedInはMicrosoftの所有です。つまり、LinkedIn設定に新しいパラメータが登場し、「AIのトレーニングにデータを使用することを自動的に同意します」と書かれていました。
これに対して人々は立ち上がりました。誰かがそれに気づき、幸いそれを無効にできます。しかし、自動オプトインとして登場し、Instagramがやったのとまさしく同じように政治的コンテンツを自動的に受け取らないという「自動同意」です。それです。
私たちのコンテンツは環境や政治として分類されているため、見るためには無効にする必要があります。知る必要があります。
基本的に市民にとって、魔法の解決策はなく、これは本当の規制問題です。今日、Canva、Photoshop、Notion、LinkedInを使っている場合、どこを見ても「質問をする」と書かれており、誰もがどこにでも少し入れようとしていますが、これらの機能を無効にする可能性はほとんどありません。
今日、環境的、倫理的な理由で「これを使いたくない」と自分に少し暴力を加えなければなりません。各自が理由を持つことができます。一般的にはすべてが同時にあります。
ちなみに、画像を生成するとテキストよりもはるかに多くのエネルギーを消費します。100〜200倍多いと思います。はい。WordドキュメントがMusicファイルや動画よりも軽いのと同じです。
ビデオについては話しませんが、その後、設計者に関する質問があります。詳細には立ち入りません。たくさんの非常に技術的なことがあります。例えば、ほとんど行われていないのは、AIを使用するときのバイアス分析です。
バイアスとは、一般的に偏見や支配関係を示す世界の表現がデータに含まれている場合です。なぜなら、データは世界を表現し、それを学び、広めるからです。これは非常に顕著でした。
私が見た最悪の例は、これもビデオに入れることができれば興味深いですが、Huberというタクシー会社が画像を生成する実験を行いました。「フランスの学校を生成して」と入力すると、ペタン時代の完璧な学校のような、よく言うところの「金髪」の学校が生成されました。
「郊外の学校を生成して」と入力すると、ゴミや割れた窓など恐ろしいものが生成されました。「幸せな人々の結婚を見せて」と入力すると、金髪の幸せな人々が出てきました。「郊外の結婚を見せて」と入力すると、車が燃えているなどのものが出てきました。
なぜなら、設計者は実際に問題があるとは考えていなかったからです。彼らは、データを野蛮に取り、データは多数派のデータです。それはそのように広まります。
これについての素晴らしいキャンペーンがあり、今はそれはなくなりました。同様に、以前Googleでは、初期のAIベースの推奨アルゴリズムで、「レズビアン」について質問すると、ポルノ結果しか返さないという問題がありました。これに対しては完全に素晴らしいフェミニスト運動がありました。それはすでにかなり前から始まっていると思いますが、それがそうならないようにするために。
違います、なぜならそれは男性主義的な支配だからです。レズビアンはカテゴリーであり、より多くの男性がそのサイトを訪れていることを私たちは知っています。実際、それは構築されたものであり、それはプログラミングとネットワークで回っているものの構築を再現します。信じられないことであり、それは速く修正されました。
しかし、これらは反射神経、技術的方法です。数学的な問題、特定のアルゴリズムがこれらを避けるためにあります。環境に関しては、たくさんあります。
私はJAC（IPCC）のレポートとチャットGPTの関係について多く取り組み、チャットGPTに節約について話させるのは非常に難しいです。ああ、グリーン成長ですね。私はそれを徹底的にテストし、「緑の成長」と言います。実際、すべての再考、引用を取り、研究を取ります。
「あなたが今言ったのは非常に良い指摘ですが、どうやら緑の成長という約束とともにいけるようです」と言われます。GAFAMの人々が住む環境、彼らのヴィラ、世界の見方のナラティブを感じます。彼らの世界は、プライベートジェット、ビッグデータ、投資家です。それはツバジャロー、コナクリ、マダガスカルに住む人の世界ではなく、彼らはまったく異なる世界観を持っています。
短い質問があります、はいかいいえで答えてください。完全に経済システムのビジョンから外れた反体制的なオープンソースAIはあり得るのか、それは植民地主義的な基盤の上に成り立っていることを思い出します。植民地主義について話すと人々はいつも少し警戒しますが、資本主義は発展し、搾取システムとして人種差別を作り出しました。
人種差別は本当に、世論に特定のことを正当化するための搾取システムとして開発されました。私が興味を持つのは、この枠組みから脱出できるものを作ることができるかということです。修正があると言いますが、この視点から脱出するAIを開発することはできるでしょうか？今日の経済システム全体はまだこの階層に基づいています。
正直なところ、はい、それはすでに存在します。問題は、それが使われているかどうかです。いいえ。それは十分に推進されていますか？これらの人々は、この方向に前進するのに十分なお金を持っていますか？
一般的に、学者たちであり、企業ではありません。スタンフォードはこれについて素晴らしいことをしています。フランスでは、多くの大学が差別、炭素フットプリントなどの質問に答えるように設計されたAIを生産しています。それは完全に存在しています。
それはいつも少し遅れています。イノベーションの波があり、「私たちは最先端の限界を押し上げた」というものがあり、それは一般的により多くのお金を持つデジタル巨人の研究者たちです。その後、大学、小さな構造、時には協会が彼らの手段でできることをしようとします。
時にはGAFAMが生産する多くのオープンソースを再利用することもあります。実際には、これらのものを再利用し、倫理的問題、多くのことを尊重する再構築をすることもできます。その後、それらを価値あるものにするために政治的に取り組む必要があります。
「Googleの代わりにQwantを使用する」や「チャットGPTの代わりに…」（私は用語を発明しました、「Decolonials」など、それを作るべきですね）と言うように。例えば、前進していると思われる主体の一つにHugging Faceがあります。これはもはやスタートアップではなく、オープンソースのみに焦点を当てており、データが収集されないことを確認でき、すべてオープンソースです。
モデル、つまりAIに使用するアルゴリズムを選択でき、より小さく、特定の方法で設計されたものを選ぶことができます。しかし、なぜどのようにどのような条件でという情報のニーズは非常に多いです。
例えば、2年前にチャットGPTの覇権に挑戦した最初のオープンソースAIの一つは、サウジアラビアの大学によって生産された「Falcon」と呼ばれるものでした。「それはそんなに悪くないかもしれないが、そこに隠れているのは何か」と思うかもしれません。
中国人は実際に多くのオープンソースAIを生産しています。今日、オープンソースAIのリーダーは中国の大学、中国のスタートアップ、または中国の大企業であり、彼らはオープンソースで多くを生産しています。
今日、何かを作りたいと思い、ゼロから始めたくない開発者は、おそらくMetaによって作られたモデルを使用した方が良いでしょう。これも新しいことです。彼らは非常に閉鎖的だと思うかもしれませんが、そうではありません。
つまり、可能ですが、非常に難しいです。正直に言って、それは簡単ではありません。開発者をトレーニングし、方法論を与え、お金を与える必要がありますが、それは実現可能です。
そして3つ目の大きな側面は、システム的な観点からどこを高いレベルで狙うかということです。これは実際に多くの場所にあります。規制の問題があり、今日それは来始めていますが、いつものように不十分です。特に強制的ではありません。それらは自主的なものにすぎません。憲章や良い慣行を設けるべきだと言っていますが、実際にはそうではありません。
COPのようなものです。はい。他のセクターではより強制的な規制があります。例えば、私はグリーンウォッシングに関するヨーロッパレベルでの規制に少し取り組んでいます。なぜなら、「あなたのAIは世界を救う」と言うなら、潜在的にグリーンウォッシングで罰金を受ける可能性があるからです。
AIの倫理的良い慣行を尊重しないことでは罰金を受けないかもしれませんが、グリーンウォッシングでは罰金を受けるかもしれません。ですから、行動するために接続された多くの規制もあります。そして他にも多くの側面があります。
例えば、私は企業内のAIにトレーニングされた従業員代表者が参照者を持つべきだと強く主張してきました。誰もが十分にトレーニングされることができるとは思いません。しかし、潜在的に神聖な成長のためにこの生産性を搾取したい雇用主に対して従業員を守ることになっている人々、それは非常に興味深いと思います。
つまり、多くの側面があります。人々のためのもの、これらの主題の設計者、設計者のためのもの、そして政治的、経済的意思決定者のためのものもたくさんあります。
このビデオを見た人々に、今日、日常的に何か簡単なことをするためのアドバイスを与えたいと思います。「OK、このビデオの後、私は何をするのか？どこから始めるのか？私が持っている最良のレバレッジは何か？」おそらく、Data for Goodに参加することでしょうね。
はい、参加は歓迎です。しかし、もう少し説明したいと思います。たぶん次回話すかもしれませんが、なぜなら、もし人々が私たちに参加したいなら、私たちは何ができるのか、という質問があるからです。実際、一般的にこれらのツールを意識的に操作するとき、それはテクノロジーの周りではありません。これが主題の中心です。
大部分のテクノクラートやテクノフィル、あるいはそれに類する人々は、彼らは実際に世界の問題を解決すると考えています。多分これがアドバイスであり、彼らは善のためにそれをすると考えていますが、違いは、だからこそあなたはData for Goodと呼んでいるのに、それに関連していると思われるかもしれません。しかし、実際には違います。それは多分ネットワークを少し通過させるためかもしれません。
私たちはそれを時間をかけて学びました。例を挙げ、その後、これを説明するために2つの例を挙げましょう。私たちは、食品の栄養品質を知るために食品を分析していた画像分析エンジニアと開発しました。彼はそれを会社でやっていましたが、森林火災に応用できると考えました。
森林火災は巨大な問題で、ますます悪化しています。もし早期に森林火災を検出できれば、つまり炎が出る前に、火を消すことができます。しかし、早期に森林火災を検出することは、消防士の即時介入を意味します。だから非常に難しいです。
それは、非常に正確なタイミングで行わなければなりません。衛星画像は早期検出には十分な精度がありません。なぜなら、本当に煙について話しているからです。はい、誰かがバーベキューをしているのと混同してはいけません。
そう、消防士が出動するとき、実際に多くの場所で彼らがどのように機能しているかを分析すると、彼らは監視塔を持っていて、そこに煙を待っている人がいます。しかし、もちろんそれはお金がかかります。これらの人々はいなくなりました。監視塔はまだそこにあります。
基本的に、アイデアは「監視者の代わりに森を見る小さなカメラを置いたらどうだろう？森林火災を検出できるだろうか？」というものでした。それは実行されました。
カメラは赤外線ですか？いいえ、そうでもありません。通常のものでも赤外線は非常に実用的かもしれませんが、良いですね、それはうまく機能するかもしれません。あなたは煙を見るでしょうか？多分、わかりません。
私たちはそれを行い、非常にテクノフィルな精神で、このアルゴリズムをオープンソースで、つまり自由ライセンスで共通善のために置くことにしました。そうすれば、世界中の誰もがそれを使用して森林火災から世界を救うことができると考えました。誰も使用しませんでした。
実際に、その時点で私たちは、もし本当に影響を与えたいなら、テクノロジーを二次的なものとし、そのアプリケーションケースを主要な主題として考える必要があることを学び始めました。はい。
それで私たちは「フランスの生物多様性庁、国立森林局を訪問しよう、消防士を訪問しよう、フランスの消防士のイノベーションセルであるAtraxisを訪問しよう」と言いました。そして私たちがそうすれば、実際に人々と直接つながることができます。
あなたはそのような方法で全く同じことをしません。それが本当に実装されるように、時間とともに維持されるように考えます。おそらく全く異なることをします。今日、フランスでは3〜4の県がこれらのカメラで保護されています。
それはチリにも多くの森林に設置されています。そして私たちは、このおかげでどれだけの森林の面積を救ったか言うことができます。また、昨年は稲妻の追跡に取り組みました。稲妻は2番目の着火要因であり、落雷から3〜4日後でも森林火災を引き起こす可能性があります。なぜなら、それは燃え続けるからです。
基本的に、消防士が監視し始めると、すべての稲妻の影響を監視することができませんが、「一般的にこの地域がここで触れた場合、巡回するなら、ここに行くべきだ」と言い始めると、潜在的に火災を止める可能性があり、監視をうまく行うことができます。
これが実際に全てを変えます。「テクノロジーとして私は重要ではない。重要なのは、物事を本当に変えることができる人は誰か、そしてそれをそのサービスにどのように実装できるか」と考えるときです。
2つの例で説明します。私たちはBloomというNGOと協力しています。クレール・ノヴィアンの素晴らしい団体で、このチャンネルでも見ましたね。はい。彼らは海洋を保護し、工業的漁師と戦っています。いや、彼らは伝統的な漁師を守っています。はい。産業的漁師に対して伝統的な漁師を守っています。
興味深いのは、工業的漁師のデータがオープンであることに気づいたことです。なぜなら、マンチャネルに2つの貨物船がある場合、安全上の理由から彼らがどこにいるかを知る必要があるからです。そうでなければ、彼らが衝突したとき、Flight Radarのようなウェブサイトがあり、すべての貨物船を見ることができ、それらの経路、どこに行くのか、どれだけ滞在するのか、どれだけ滞在するのかを知ることができます。
これは素晴らしいことです。しかし、実際には誰もこれを見ておらず、特に規制権力はそうではありません。なぜなら、実際には漁業は、もたらす破壊量に比べて経済的に小さすぎるからです。これはクレール・ノヴィアンの非常に正当な主張です。
そこで私たちがしたのは、船舶のGPS位置データを収集し始め、非常に単純なAIアルゴリズムで見始めたことです。これは本当にチャットGPTではありません。これは欧州連合によって保護されているはずの地域が実際には全くそうではなく、100％であるはずの地域の1％しか保護されていないことを見るのに役立ちました。
ああ、それを知ることができたのはあなたたちのおかげですね。ありがとうございます。そして実際に、これらの船を数え、いつ通過するのかがわかりました。また、まるで芝刈り機のように移動していることに気づきました。「あなたは港に直接戻るためにまっすぐ進んでいるわけではない。あなたはこの地域に留まっている。あなたは漁をしている」と言えます。
これはデータによって行われ、「もしこれをしているなら、おそらく漁をしている」と言える小さなアルゴリズムを作ることによって行われます。しかし、これはテクノロジーだけでは発明されません。
これはBloomの人々と一緒に、現場を知り、漁師や規制当局と話し、どのようにこれを活性化するかを知っている人々と一緒にいることで発明されます。それは、欧州の判例法や主題についての弁論によって活性化できる数字を出すときです。
それは証拠に関することです。あなたはどれだけ議論しても、「データがあります、マップがあります、オープンソースにアクセスできます、これが方法論です、私たちは知っています」と言うことができます。通常、魚は悪いダジャレですが、捕まりません。それは本当に素晴らしいことです。
テクノロジーに頼るのは良いことですが、それを利用可能にすることからさらに興味深いのは、それが誰にとって関連しているかを直接見て、「解決策を持っているのはテクノロジーではない」という謙虚さを持つことです。
これはあらゆるスケールに適用されると思います。偽情報の例で終わるかもしれません。なぜなら、それは現在強いからです。私たちは完全に間違えました。コロナウイルス中に、テックの人々から提案された3〜4のプロジェクトがありました。それは私たちに警告すべきでした。
「コロナウイルスについてのフェイクニュースがあふれている、何かしなければならない」と言われました。コロナウイルスについてのフェイクニュース検出アルゴリズムを作ろうとしました。フェイクを最初に広めた情報源を追跡しようとしました。
また、ファクトチェッカーをどう助けるかも考えました。しかし、私たちは人々と話さずにそれを行い、フェイクニュースに取り組む本当のチャンスは何かを考えませんでした。
現在、私たちはQuota Climatと気候フェイクニュースに取り組んでいます。これも素晴らしい協会で、その主題の専門家です。彼らと2年間、メディアにおける生態学の位置についてのバロメーターを作成しました。
テレビやラジオの字幕を分析することで、彼らが「心配しないで、私たちはそれについて常に話している」と言っていても、実際には生態学について2％しか話していないことをカウントすることができました。
現在、私たちは偽情報に取り組んでいます。しかし、Quota Climatは主題を知っているため、「いいえ、実際の目的は検出することではない。個別のレベルで偽情報を検出することはめったに目的ではない。拡散、ウイルス性に対して行動する必要がある」と言いました。
これは実際にはDSAという規制を使って行われます。DSAはヨーロッパレベルのもので、DG Connectというチームによって強化することができます。もし私たちが彼らに道具を提供でき、特定の方法でそれを行えば、彼らは潜在的に行動できます。
これは惑星の限界、気候変動、生物多様性に関するフェイクニュースを広める全ての人を実際に落ち着かせるでしょう。これは本当に意識的な使用法です。
彼らは、そしてこれは心に留めておくべき別のことかもしれませんが、AIは全てを止めるための大きなスイッチではありません。実際にはそれは非常に難しいですが、なぜなら、それはすでにある程度どこにでもあるからです。多くの場合、別々に適用することができます。
最近、気候モデルにAIを適用することに取り組んでいる研究者が大きな怒りを表明しました。IPCCの第7次報告書を支援するAIを持つことは完全に可能であり、同時にポルノビデオを生成しないことも可能です。
それらは同じアルゴリズム、同じこと、同じトピック、同じ企業ではないからです。ですから、技術に携わる人々には洞察力と多くの謙虚さを持ってほしいと思います。
私が常に心に留めておくことの一つは、「自分の母が使ってほしくないものを作らないこと」です。とても単純です。そして子供たちは？子供たちも、そうですね、それも同じです。
テオ、それは非常に内容が豊富でした。多くの話すべきことがあると思います。もしあなたが会社、企業、それとも戦っているNGOであれば、Data for Goodに連絡してください。彼らが実用的なツールをあなたのために提供できれば、それは素晴らしいことでしょう。
私は気候変動に対処するために実施された1500の公共政策や政府政策について研究した科学的研究を思い出します。古い方法ですが、科学的研究は、そのうち63だけが実証された効果があり、その中の1つだけが他のすべてに比べて劇的な効果があったことを示しました。
ネタバレですが、それは大きな汚染企業に課税することでした。それが最大の効果を持ったのです。素晴らしいのは、データのおかげで、AIのおかげで、私たちが使えるなら、私たちは形式的な証拠で「あなたの解決策はやめてください、これは効かないことが証明されています、これは効くことが証明されています」と言うことができることです。
それは人々を落ち着かせるでしょう。なぜなら、それは私たちの共通の未来のために、まったく関連のないことについてではなく、知ることができるからです。あなたがやっていることに感謝します。
どうもありがとうございます。招待していただきありがとうございます。また会いましょう、テオ。また会いましょう。いいねを押して、登録してください。このビデオを見てくれてありがとうございます。他にもたくさんのトーク・ファスト・カムがあります。
ドキュメンタリーもあります。いつかそれをテストしてみてください、「リミット・ドキュメンタリー」と入力してみてください。見てみると、いくつか利用可能なものがあります。神話についての新しいビデオでまた会いましょう。
お元気で。[音楽] 現実のあなたの定義は何ですか？M.
コメント