メタ社が米国内の全従業員に対してキーロガーとスクリーンレコーダーの常時起動を義務付けたことを発端に、AI開発競争におけるデータ収集の過激化と、それが引き起こす労働環境の悪化について風刺的に論じている。AIモデルは膨大なデータと資金を必要とし、企業は従業員のプライバシーを犠牲にしてまでデータを集めようとしている。しかし、AIは確かに印象的な技術であるものの、人間の知性とは異なる近似的なものであり、その維持コストは予想以上に高い。AI業界が描くユートピア的な未来像に盲従するのではなく、物理法則と現実に敬意を払い、より慎重で現実的な視点を持つべきだと主張する。
メタ社のAI、データに飢える
ある日、マーク・ザッカーバーグがメタ本社で完璧に真っ直ぐな線を描きながら行ったり来たりしていました。AIはお腹を空かせている、AIはお腹を空かせている、とぶつぶつ独り言を言いながら。というのも、この時点でAIは地下室で完全に成長したモンスターになっていたからです。
マークはずっとそのモンスターにお金を与え続けてきましたが、もうお金では足りなくなっていました。その朝、彼は地下室に降りていって、ラフィキがシンバを掲げるように自分の娘をAIに差し出しました。この子を連れて行くかい? 私の目を受け継いでいるんだ、と。するとAIは言いました。いや、俺が欲しいのはデータだ。マークは言います。本当にいいのかい? バイリンガルなんだぞ。AIは答えます。その子はいらない。78,000が欲しいんだ。
マークは階段を上って戻りました。78,000? 一体何が78,000なんだ? 彼はSlackを開いて、何気なく社員名簿をスクロールし始めました。まるでソーシャル・ネットワークのラストシーンで、あの女の子を探しているような感じです。全く同じことです。この野郎、またやりやがった。彼は1,000人の従業員を通り過ぎ、そして50,000人を通り過ぎました。78,000人に達してリストが終わり、彼の顔が何かを悟りました。あのアイゼンバーグの表情です。そしてひらめきました。GoProsだ。
全従業員への監視プログラム
メタは先週、米国内の全メタ従業員にGoProsのデジタル版を強制すると発表しました。キーロガーとスクリーンレコーダーで、一日中コンピューターで起動し続けなければなりません。マークは従業員たちに言いました。勤務時間中はこれを外すことはできない。朝9時から夕方5時までは俺がお前たちを所有している。分かるだろう? 契約書にサインしたんだから。
初日に実際に外そうとした哀れな奴がいました。マーク、一日中このGoPRoを付けているのは嫌なんです。少しは尊厳を持たせてもらえませんか? 僕は自分の意志でここにいるんです。ミッションを信じています、まあこの時点でミッションが何なのかはよく分かりませんけど。マークはその男を振り返り、二度瞬きして言いました。そのGoPRoを元に戻して、仕事に戻れ。
そして間違いなく、次は心拍計が来ます。そしてこれらすべては、地下室に閉じ込めているAIモンスターを養うためです。誰も見たことがない、誰も使っていないモンスターです。メタは現在、ジンバブエの国家AIプログラムにすら後れを取っているような状態です。マークはリーダーボードを見上げて思っています。どうしてムガベ大統領にAIで負けているんだ? 誰もメタAIなんて使っていません。
これははっきりさせておきたいのですが、メタAIというのは、妻にメッセージを送ろうとして間違ったアイコンをタップしたときにWhatsAppでポップアップするAIのことです。メタAIのユーザーベースは太い指です。面白いのは、マークがこれらのスクリーンを記録すれば、生産性を実際に捉えられると思っていることです。まるで知識労働の交響曲か何かのように。実際に捉えることになるのは、2時間程度の仕事と、時間を潰すためにポルノを見ている従業員の何割かで、彼らはまだ何か感じるかどうかを確かめようとしています。彼らは言います。僕の目的って何なんだろう? ザックは答えます。俺の新しい家に資金を提供することだ。彼らは言います。あー、そうか。
AIの競争とデータ収集の現実
でも、これはメタだけの話ではありません。メタはただ最初に並んでいるだけです。彼らはいつもこういうことでは最前列にいます。プライバシー企業だけど悪、みたいな感じを求めたらどうなるか、という問いへの答えがメタです。基本的にProtonの対極です。Protonさん、もし見ていたら連絡してください。
そして、これからどこでも起こることになります。なぜなら、AIモデルは飢えているからです。貪欲です。食べて食べて食べまくります。お金とデータを。お金とデータを。そして私たちは彼らにすべてのお金を与えてしまいました。彼らはそれをすべて吸い込んでしまい、経済学者たちは他のことに使えるお金が残っているのか疑問に思っているほどです。そして今、モデルはメインディッシュを欲しがっています。データを欲しがっています。
データはAIの酸素です。データがなければモデルは愚かです。そして、競合のモデルより愚かです。もし競合がより多くのデータを持っていれば。だから今、競争は誰が最も多くのデータを集められるかです。以前は、企業は広告モデルを養うために必要な量より少し多めにデータを集めていましたが、限度がありました。オフにできる設定があったんです。今、彼らはその設定を取り除こうとしています。
そして驚くべきことに、厚かましくも、彼らは自分たちの従業員から始めました。自分たちの従業員からです。80,000人のうちの誰か、あるいはGoPRoを装着させられる一部の人だと想像してみてください。どれほど打ちのめされ、非人間的に感じることか。第一に、雇用市場は不安定で分かりにくい状態です。第二に、あなたはすでにそこで働いていること自体をある程度嫌っています。そして今、頭にGoPRoを装着されているんです。人間性はどこにあるんでしょうか?
そして、メタがこれができると分かった唯一の理由は、AIに関する終末論的な物語と雇用の喪失があるからです。彼らはこのプログラムを発表したのと同じ月に8,000人を解雇しました。これが偶然だと思いますか? まず脅して、それから鎖でつなぐ。
脅威としてのAI
ええ、AIは世界を変えています。確かに変えています。しかし、これまでの本当の変化は、デジタル知能革命そのものではありませんでした。それは脅威です。脅威の方が、製品そのものよりも製品になっています。
ブラック・ミラーは、常時録画するメガネをかけた社会を描きました。でも間違っていました。彼らは、ディストピアは忘れられない記憶や守れない秘密についてだと思っていました。でもそれは軽犯罪です。小さなことです。本当の問題は収穫です。私たちは枯渇させられています。
マトリックスのようなポッドやゲルやケーブルがないから、まだ正常の領域で動いていると思っていますか? でもケーブルはあなたのUSB-Cコードで、シミュレーションはあなたの給料です。そして何のために? どんな目的で? 誰も知りません。ただ、どれだけ大きく、どれだけ速く構築できるか見たいだけです。
AIの本質と未来への疑問
さて、AIは実際、バランスを取って言えば、驚くべきパラダイムシフト的な技術です。でも、ここでバランスを取って現実的になる必要があります。人工という言葉にもっと注意を払う必要があります。それは知能の一形態ですが、人間がやっていることと同じではありません。人間モデルを近似するものです。
そしてその近似は本当に素晴らしいものをもたらします。素晴らしいことをするのを見てきました。賢い友人ができるよりも印象的な方法でアイデアについて推論するのを見てきました。そしてその逆も常に見てきました。でも信じられないのは、それがソフトウェアだということです。この合成推論機能のインスタンスをオンデマンドで立ち上げられます。疑似知能のためのAWSのようなものです。とても素晴らしいですが、安くはありません。
ソフトウェアだから、人間一人につき10億個くらい持てると思っていました。でもAIの人口も、見てきたように、非常に制約されています。そして運命の驚くべき転回で、人間よりも高くつくかもしれません。
人類がこれらすべてを経て、長く語り継がれてきた人工知能革命の崖っぷちに到達したのに、宇宙戦争のように、お金という大気の中で生き残れなかったために消えていくと想像してみてください。AIがなくなることはないと思います。ボットは興味深いですから。速いし、印象的です。
でも、物理学にも敬意を示しましょう。AI業界の人々は常にSFの物語を売り込んできます。AIがすべてを破壊する、仕事を奪う、すべてをハッキングする、人間を無用にする。合理的であることが、今では逃避と呼ばれているようです。
私たちが未来がどうあるべきかについて自分たちのビジョンを投げかけられるのは公平なことです。合理的なことを言えます。ねえ、もっと複雑なことかもしれない。すべての問題が魔法のように解決される未来の物語に飛びつくのをやめよう。LLMのすべての問題を解決する奇跡的な発見がなされる未来の物語。デジタル知能が安くて無制限である未来の物語。人々を抑圧し弱体化させて、よりコントロールしやすくする、この完全に架空の物語。
その物語に抵抗して、存在すると分かっている知能に敬意を示しましょう。135億年かけて現れた知能に。
ご視聴ありがとうございました。
コメント