11,413 文字
テックブロの二面性。世界を変えるという夢を持つ善意の理想主義者と、新しい市場を独占しようとする大手テック企業のCEOという側面。これは過去40年間のシリコンバレーのアイドル全ての物語であり、そして今やOpenAIのCEOであるサム・アルトマンの物語となっています。
非営利組織として始まり営利企業となったOpenAIは、AIの民主化を約束して始まりましたが、最終的にはその正反対の結果となりました。公の場でアルトマンはAIを豊かさをもたらすものとして宣伝する一方で、舞台裏では権力を固め、AI市場を集中させています。
AIの民主化の代わりに、アルトマンはそれを制限しています。オープンアクセスの代わりに、ブラックボックスを作り出しているのです。この地点に到達するために、アルトマンは操作、嘘、汚い政治を使用しました。彼は忠実な部下たちを周りに配置し、批判者たちの信用を失墜させました。
今や彼は世界で最も力のある政治家の耳を掴み、効果的にOpenAIのモデルを至る所でデフォルトの排他的なものにしようとしています。アルトマンが望むものを手に入れるためなら、どんな一線も超えないということを示す事例を構築したいと思います。
彼が既に超えてしまったいくつかの一線は、あまりにも嫌悪感を催すものなので、これらの禁止されたトピックにわずかでも触れただけでコンテンツを即座に削除するプラットフォームで話すのは非常に困難です。
そのため、私はあなたの助けを必要としています。私のPatreonに参加し、私の活動を支援してください。そうすることで、このような動画をもっと制作することができます。プライバシーに関するコンテンツとの利害の対立を避けたいため、スポンサーシップ契約については非常に厳格にしています。
さらに、YouTubeは購読者がいても私のコンテンツを多くの人々に届けることを拒否しているため、あなたの支援は私が活動を続けていく上で絶対に必要不可欠です。今週は割引も実施しており、Patreonに参加して1年分を約束していただくと15%オフになります。ありがとうございます。
まず、サム・アルトマンの現在の立場と、彼が実際にどれほどの権力を持っているかから始めましょう。アルトマンはOpenAIのCEOです。同社は依然として非営利組織のふりをしていますが、実際には営利企業であり、基本的にMicrosoftの子会社となっています。
Microsoftの事業全体は現在、OpenAIにインフラ、資金、リソースを提供し、可能な限り多くの製品にAIを展開することを中心に回っています。OpenAIのChatGPTは、急速に成長している多くの企業で事実上のデフォルトAIとなっており、現在ではAppleも含まれ、まもなくアメリカ政府も含まれることになります。
これは、OpenAIが最近、アメリカ合衆国政府、Oracle、ソフトバンクとの合弁事業の一部となったためです。この合弁事業は基本的に、OpenAIとそのパートナーに代わって、アメリカの砂漠に大量の水を消費するデータセンターを建設するものです。
この事業には既に1000億ドルが投資され、4年間で5000億ドルまで増加する予定です。公式声明では、これはアメリカへの信頼の表明とされていますが、実際の理由は、OpenAIが主力モデルで収益を上げる方法を見つけられていないことにあります。
同社はプレミアムサブスクリプションで損失を出しており、近い将来に状況が改善する見込みもありません。なぜなら、AI開発が停滞しているからです。OpenAIだけでなく、業界全体が質の高いデータと、モデルを訓練するためのコンピューティングリソースを使い果たしつつあります。
チップ、半導体、その他のリソースはますます高価になる一方で、改善に対する限界収益は減少しています。この問題は以前からはっきりとしており、アルトマンは自身のAIを訓練するための原子力発電所とデータセンターを建設するために、世界が7兆ドルを調達する必要があると呼びかけましたが、誰も真剣に受け止めませんでした。
幸いなことに、今日では一部の大手投資家が、AIが一体どんな数兆ドル規模の問題を解決しようとしているのか疑問を投げかけています。というのも、AIが実際に提供しているのは、自信満々に「毎日少なくとも1つの石を食べるべき」と言い、死の脅迫とともに死ぬことを懇願するモデルだけだからです。
AIブームの終焉の脅威とともに、アルトマンはおそらくすぐにも資金が底をつきそうでした。ドナルド・トランプとの5000億ドルの合弁事業は、彼にとって神からの救いでした。
しかし、アルトマンはそのお金をすぐに使い果たすでしょう。なぜなら、どれだけお金を投入しても、AI開発が限界に達しないという兆候は全くないからです。インターネットには大量のデータがありますが、AIが訓練できる質の高いデータは非常に少なく、人工的なAI生成データはAIの訓練に有害であることが証明されており、AI出力で訓練されたモデルは劣化し、さらには崩壊さえすることがあります。
アルトマンにとって、この事業は生命維持装置です。アメリカ政府にとって、彼らは可能な限り最悪のAI企業と提携してしまいました。AIはまだ初期段階にあり、意味のあるブレークスルーを達成するには協力的な努力が必要です。
このような若い技術が進歩するためには、オープンソースとオープンアクセスが必要不可欠です。それがなければ、独立した研究者たちは、OpenAIのライセンスと利用規約に違反したとして罰せられる可能性があるため、改良に取り組むことはできません。
問題は、OpenAIが世界で最も非協力的なテック企業だということです。彼らの行うことすべてがブラックボックスなのです。モデルをオープンソース化しないだけでなく、モデルの構築方法に関する実用的な情報を一切共有しません。
そのため、方法論、データセット、モデルの重みについて何も分かりません。ChatGPTに関する研究は、OpenAIが資金を提供する研究のみとなるでしょう。
アルトマンがAIをオープンソース化することを拒否している理由は、彼がChatGPTを既に商業的な成功にできると考えており、Appleのように行動したいと考えているからです。彼は、誰もが支払わなければならない高価なAIツールの囲い込まれた庭を作りたいと考えています。
これはWindowsがパーソナルコンピューティングに対して行ったことにも似ています。Linuxを無料で入手できるのに、Windowsライセンスに数百ドルを支払わなければならないにもかかわらず、Appleを除いて、店頭でWindowsが入っていないラップトップを見つけるのはほぼ不可能です。
AppleもMicrosoftも、一連の排他的な契約と適切なロビー活動を通じて支配的な地位を獲得しました。それはシステムを完全に崩壊させましたが、すべてがオープンアクセスを犠牲にして、市場の複占を生み出しました。
それがアルトマンの望むものであり、そのためにオープンソースAIの敵になることもいとわないのです。OpenAIの話を聞いていると、安全性、実存的脅威、リスクについて多くの話が出てきます。AIは間違った手に渡るには危険すぎるため、その論理によれば、オープンソースAIは大敵ということになります。
しかし、OpenAIにはかつてオープンソースAIの約束がありました。OpenAIという名前の「オープン」はそのためのものでした。その意味は、単なるソフトウェアライセンス以上に深いものでした。
OpenAIは元々、GoogleがAIを独占することへの懸念から始まりました。OpenAIはその独占を打破し、AI業界における権力の集中を防ぐはずでした。
しかし、それを実現する代わりに、OpenAIはGoogleの戦略をコピーし始め、AIを共有する代わりに独占的なものにしました。非営利組織に留まる代わりに、より大きな投資家を引き付けるために営利企業となりました。
2019年、OpenAI設立からわずか4年で、MicrosoftはOpenAIに10億ドルを投資し、49%の株式を取得しました。これには、過去および将来のすべてのOpenAI技術を商業化する権利が含まれていました。
ですから、この教訓を覚えておいてください。テックブロが良すぎるように聞こえるなら、それは彼がそうであるからです。今日から見れば、アルトマンは実際にはオープンソース技術を信じていませんでした。オープン性の偽りの約束は、イーロン・マスクのような億万長者からお金を寄付してもらい、宣伝を得るための策略でした。
現在、OpenAIは時価総額を数千億ドル単位で数えています。今日、アルトマンはAIがまだオープンソースであるべきでない理由について恐怖を煽り続けています。
アルトマンとその仲間たちは、あらゆるレベルのアメリカ政府に出向き、AIがいかに非常に非常に危険であるかを説明しました。もちろん、OpenAIのAIは除外してです。
彼らの考えは、OpenAIのGPT-4よりも優れたAIを開発しようとする者は誰でも、それをリリースするために政府の許可を得なければならないようにすることでした。この提案は事実上、オープンソースAIを規制によって排除することになります。
幸いなことに、そのような法律はまだ成立していません。強力なオープンソースAIは、MetaやDeepSeekなど、予想外のプレイヤーによって開発されており、この2つよりもさらにオープンなものも多くあります。私はまだ世界の終わりを待っています。
おそらく、GoogleのGeminiが十分な人々にピザ生地を厚くするために接着剤を加えるよう説得したときに世界は本当に終わるのでしょう。
DeepSeekについて言えば、これから数ヶ月の間に何が起こるのか注目することをお勧めします。アルトマンは、OpenAIが地球上のすべてのクリエイターや作家から許可や帰属表示なしに盗んでいた一方で、DeepSeekをOpenAIから盗むという許しがたい犯罪で告発することを躊躇しませんでした。
MicrosoftとOpenAIは、DeepSeekがOpenAIのモデルから知識を蒸留したという実質的な証拠があると主張しており、これは利用規約の重大な違反だとしています。この記事を書いている時点で、彼らはまだそのような実質的な証拠を提供していません。
しかし、このことについてのアルトマンのツイートの皮肉の豊かさを見てください：「うまくいくことが分かっているものをコピーするのは比較的簡単です。うまくいくかどうか分からない新しい、リスクのある、困難なことをするのは極めて難しいのです。また、大きな才能のある研究チームを集めて、霧の中で一緒に新しい丘を攻めるのも極めて難しいことです。これが進歩を推し進める鍵なのです。」
ここで皮肉が効いているのは、OpenAIが決して進歩を攻めなかったことです。彼らの仕事は、公的資金と学術研究に基づいて構築されたGoogleのAI研究の上に構築されました。彼らは巨人の肩の上に立っていますが、彼ら自身は巨人ではありません。
さらに皮肉を濃くしているのは、OpenAIがDeepSeekを蒸留で非難していることです。これは業界標準の慣行です。蒸留とは、より大きなモデルを使用して、より軽量だが同様の推論能力を持つ新しいモデルを訓練する方法です。
DeepSeekは、より大きなモデルを蒸留したと言っていますが、OpenAIのモデルではなく自社のモデルを使用したと述べています。世界中のすべてのAIチームが蒸留を行っています。これはAIをより良く、よりカスタマイズ可能で、よりアクセスしやすいものにする方法です。
これがニュースになっている唯一の理由は、OpenAIのライセンスが競合するモデルを作るための蒸留を許可していないからです。もしOpenAIが本来の目的通りオープンソースであれば、これは決してニュースにならなかったでしょう。
しかし、OpenAIは今や「知的財産を保護する」という名目で活動を展開しています。どんな知的財産でしょうか？OpenAIが構築したものすべては、他の人々の著作権のある作品があってこそ存在しているのです。
許可も帰属表示もなく、他人の作品を使用して自社の商業製品を構築しておきながら、あなたのモデルは何の意味もありません。あなたの主張はあなた自身に不利に働きます。もしChatGPTに何らかの知的財産があるとすれば、ChatGPTは訓練されたコンテンツのすべての作者に帰属するべきです。
ただAIをオープンソース化して、文句を言うのはやめてください。ザッカーバーグでさえAIをオープンソース化しました。そして彼は文字通りAIなのです。
おそらくあなたは、2023年にサム・アルトマンが実際にOpenAIの取締役会によって解雇されたことを知っているでしょう。わずか5日間という短い期間でしたが、その後復帰しました。しかし、そこで起こったことは極めて重要です。
おそらくあなたが知らなかったのは、彼の解雇の理由が、彼が暴走し、OpenAIをAI独裁制に変えようとしていたからだということです。当初の取締役会メンバーは、強力なAIを恐れる人々でした。
しかし、彼らは単に仮想的なAIの暴走シナリオを恐れていただけではありません。そのようなAIの恐怖はありましたが、彼らはまた、そのような強力なAIが間違った手に落ちることも懸念していました。
長い間、取締役会の実効的なウルトラは、一般市民が間違った手だと考えていました。しかし、アルトマンは彼らに、彼ら自身の一人もそれに属する可能性があることを認識させました。
MicrosoftがOpenAIの49%の株式を取得したとき、アルトマンは取締役会に嘘をつきました。その関係は単にお金だけでなく、アルトマンとの密接な関係を持つMicrosoftのCEOであるサティア・ナデラからの個人的な保護も伴っていました。
取締役会は、アルトマンが急速にOpenAIを安全性重視の非営利組織から、「早く動いて物事を壊す」営利企業に変えていく様子を目の当たりにしました。
AnthropicがAIの急速な展開を遅らせるためにモデルのリリースを遅らせることを選択したとき、アルトマンはChatGPTの早期リリースを推進しました。
OpenAIの取締役会メンバーの一人であるヘレン・トーナーは、AIブームの炎を煽り、慌ただしい近道を促したChatGPTのブロックバスターリリースに関するアルトマンの決定を批判する論文を書きました。
アルトマンはトーナーの批判を聞いたとき、暴走しました。自分の過ちを認める代わりに、他の取締役会メンバーと画策し始め、トーナーを取締役会から解任しようとしました。
多くの人が反対していたにもかかわらず、アルトマンはトーナーを交代させることについて合意があるように見せかけるために、彼らの立場について嘘をつきました。合意などありませんでした。
アルトマンはますます独裁的になり、取締役会は実際にCEOに責任を持たせることができないことに気付き始めました。これは取締役会が行うべき唯一の仕事なのです。
そこで、トーナーを含む4人の取締役会メンバーは、アルトマンを解任することを決定しました。しかし、彼らはそれを公然と行うことを恐れました。もしアルトマンが知れば、取締役会を妨害するためにできることは何でもするだろうと考えたからです。
彼らは不意を突くことを決意しましたが、投票が行われアルトマンが解任されたとき、Microsoftが介入しました。もしアルトマンをCEOとして復帰させなければ、彼と忠実な従業員全員をMicrosoftに移すと取締役会を脅しました。OpenAIは何も残らないことになります。
完全な失敗に直面するよりも、取締役会はMicrosoftの要求に従い、デアンジェロを除くすべての取締役会メンバーが辞任しました。おまけにMicrosoftはOpenAIで議決権のない取締役会の席を得ました。
アルトマンはすべてを勝ち取りました。お金、チーム、すべての知的財産を手に入れ、彼の邪魔をする者は誰も残りませんでした。OpenAIはすべてMicrosoftとアルトマンの忠実な部下たちだけになりました。
アルトマンの最もよく守られた秘密の一つは、ChatGPTがコンピューター思考と人工知能の証だという主張の裏に隠されています。あまり語られていないのは、ChatGPTが貧困国の安価な労働力の上に構築されたということです。
ChatGPTをより無害にするために、アルトマンはモデルに悪意のある、または違法なコンテンツを生成するプロンプトを拒否するよう教える必要がありました。しかし、コンピューターは人間の言語のニュアンスを認識できないため、それをうまく行うことができません。
そこで投資家に好まれるAIモデルを実現するために、OpenAIは暴力、虐待、ヘイトスピーチのラベル付けされた例をモデルに与え、AIがそれらを検出しフィルタリングすることを学習することを期待し始めました。
そのような検出器の構築は主に手作業で行われます。つまり、何千人もの人々が、想像できる限り最も恐ろしいコンテンツの何百万時間分を確認しなければならないということです。
危害、虐待、殺人などの禁止用語は、YouTubeがあなたには精神的に対処できないと考えているため、私は言及することさえできません。
私は再び、あなたに私のPatreonに参加し、できる限り長く私の活動を支援していただくようお願いしています。OpenAIは、ケニアの労働者を税引き後時給1.32ドルで雇用するアウトソーシング企業Samaを雇いました。
ナイロビの最低賃金の受付係よりも低い賃金だったため、ケニアでさえそれは十分な額ではありませんでした。OpenAIはSamaと8ヶ月の契約を結びましたが、開始後数週間で協力関係は崩壊しました。
OpenAIがSamaに要求した作業は、労働者たちにとってあまりにもトラウマ的でした。彼らはOpenAIの仕事を拷問と表現しました。従業員たちは、その仕事によって精神的に傷つき、ウェルネスカウンセリングさえも不十分だと感じました。
しかし、状況はここからさらに暗くなります。Samaとの契約が始まったとき、OpenAIは一部の違法なカテゴリーについて追加の指示を送り始めました。その中には、想像できる限り最も違法で不道徳な画像を収集してOpenAIに送るという要求が含まれていました。
そして、はい、それにはcesam（原文ママ）も含まれています。Samaはそのような画像1,400枚のサンプルを提供し、OpenAIに77.50ドルを請求しました。
AIモデルを改善するために安価な労働力を使用することは、OpenAIに固有のことではありません。FacebookもSamaを使用して違法なコンテンツにラベルを付けています。
しかし、OpenAIが違法なコンテンツの要求を送ったことは、Samaにとってあまりにも度が過ぎており、OpenAIとのすべての仕事をキャンセルすることを決定しました。
一部の労働者にとって、それは月70ドルの露骨なコンテンツボーナスを失うことも意味しました。OpenAIとの契約はSamaにとってあまりにも悲惨なものだったため、同社はOpenAIとのすべての仕事を停止し、自然言語処理とコンテンツモデレーションのすべての仕事を終了することを公式な方針としました。
私の意見では、この話の中で最もスキャンダラスな側面は、これらのOpenAIの契約がわずか20万ドルのコストだったということです。OpenAIは労働者により良い賃金と安全な労働条件を提供することを容易に負担できたはずであり、それは彼らの予算にほとんど影響を与えなかったでしょう。
この話は、OpenAIが一体どのようなデータでモデルを訓練しているのかも示唆しています。なぜなら、明らかにインターネットの非常に違法な部分が含まれているからです。
これは疑問を投げかけます。このデータをどのように入手したのでしょうか？どこから入手したのでしょうか？意図的にこれらの違法なウェブサイトに行ったのでしょうか？それともソーシャルメディア上の人々のプライベートメッセージから入手したのでしょうか？
もしあなたがこれらの質問に対する答えを探しているなら、サム・アルトマンは意味のある答えを提供することを徹底的に拒否します。彼は何も言わないよりも少ない情報しか含まない企業的な曖昧な言い方に逃げ込みます。
OpenAIは公に利用可能なデータで訓練を行っていると認めています。これには例えば、公開されているYouTubeの動画が含まれます。私は個人的に、私の動画の少なくとも1つが何らかのAI訓練データに含まれていることに気付きました。そして、いいえ、私は同意していません。
OpenAIはまた、パートナーシップ契約を結ぶことで、supposedly not so publicly availableなデータも入手しています。どのようなデータなのでしょうか？それが私の興味を引くところです。私たちのチャット、メール、暗号化されていない通話やテキストが含まれているのでしょうか？ChatGPTはどのように人間のようにテキストを書くことを学んだのでしょうか？
これが、すべてのAIがオープンソースであるべき最大の理由です。アルトマンは私たちの情報、公開されているものもプライベートなものも、すべてを取得し、私たちのデータなしでは存在し得ないAIを訓練するために使用し、そして、このAIのすべてが彼と彼だけのものだと言ったのです。
私が強調したい一つのことは、サム・アルトマンがいかに政治的な狡猾者であるかということです。これは重要です。なぜなら、政治は権力であり、アルトマンは日和見主義者だからです。
これが2016年のサムです。トランプをアメリカにとって容認できない脅威として批判し、彼を止めたいと言い、彼に反対票を投じると述べています。それは2021年にも同じでした。
そして今や、トランプを国にとって信じられないほど素晴らしいと賞賛しています。もちろん、これは買収された賞賛です。5000億ドルの事業を支持してくれるトランプを誰が愛さないでしょうか？
そしてここでアルトマンは、MAGAを大きな声で抱擁しています。おっと、申し訳ありません。それはMSAHです。なぜなら、彼はアメリカではなく検索について話しているからです。
人々が視点を変えることができないと言っているわけではありません。しかし、「アメリカにとって容認できない脅威」から「国にとって信じられないほど素晴らしい」というのは、かなり大きな飛躍です。
アルトマンがこれを行っているのは、トランプが彼がアメリカでOpenAIを既存の企業として確立するのを助けてくれるからです。こうして、ついにGoogleの独占を打破し、それを自身の独占に置き換えることに成功するのです。
権力は、それを拾い上げるために自分を低めることを覚悟している人々にのみ提供されます。そして、アルトマンにとって、それを拾い上げるためなら下がれない低さはないのです。
優れたテックブロのように、アルトマンもまた自身のメシア的カルトを構築しています。彼は自分を、豊かさと世界の問題を解決する技術を提供するビジョナリーとして提示しています。
ここでアルトマンはAIを豊かさと呼んでいます。これは嘘です。フェイクニュース、虚偽情報です。AIは今までで最もリソースに制約されたテクノロジーです。
AI支援の検索は従来の検索の5倍のコストがかかります。AIは水とエネルギーの需要を劇的に高め、ビッグテックが環境に優しいというキャンペーンで約束したすべてのネットゼロ目標を完全に破壊しています。
AIはまた、レアメタルなしには存在できません。これらは非常に希少で、地政学的に混乱の多い数カ国でしか入手できません。ChatGPTは豊かさではありません。それは豊かさの正反対です。
しかし、アルトマンはAIを誇大宣伝する必要があります。なぜなら、誇大宣伝がなければ、そのコストを正当化する価値がないからです。
ここでアルトマンは豊かさを紛争を減らすための解決策として売り込んでいます。「おそらく私たちはずっとそうすべきだったのです。ねえイスラエル、今あなたは民族戦争の最中ですが、豊かさを試してみましたか？ねえプーチン、あなたはクリミアへの陸の橋が必要だと言いましたが、豊かさについてご存知でしたか？ねえ麻薬カルテル、豊かさ、豊かさ、誰か豊かさはいかがですか？」
アルトマンは、AI=豊かさ=世界の問題と紛争が永遠に解決される、という考えをあなたの心に植え付けたいのです。これは、ChatGPTのような生成AIがもたらす価値、つまり単に質問し続ければ文字通り何についても幻想的なフィクションを生成することとは何の関係もないSFシナリオです。
私はサム・アルトマンについてこの記録を皆さんにお届けしたいと思います。なぜなら、操作的な人格に強力な事業とグローバルな政治的威信を与えることほど有害なものはないからです。
彼の目標は、AI技術を自分のために独占することです。そして、他者を制限し自分を高めるために、企業や政治家と取引を行っています。
彼は何らかの方法で、世界で最も強力な企業であるMicrosoftとAppleに、彼の前に頭を下げさせることに成功しました。ChatGPTは今や、関連する競争がないまま、MicrosoftとAppleのプラットフォーム全体で排他的なAIとなっています。
Googleさえもはやオープン化AIと競争していません。なぜなら、GeminiはほぼGoogle製品とAndroidに限定されているからです。
サム・アルトマンはレントシーカーであり、OpenAIが絶対的な独占になるまで止まることはないでしょう。OpenAIはまだその独占を持っていません。その最大の敵はGoogleではなく、オープンソースAIです。
今日では、MetaのLLaMAモデルやDeepSeekの蒸留、その他多くのプロジェクトのおかげで、同等の能力を持つオープンソースAIが多く存在します。アルトマンはそれを止めたがっており、彼らについて恐怖を煽るでしょう。彼は既にDeepSeekに対してそれを行っていますが、彼にその決定をさせないでください。
できるならオープンソースAIを使用してください。デバイスでローカルに実行できるなら、そうしてください。できない場合でも、クラウドで実行する方が、プライバシーは確保できなくても長期的にはより有益です。
私の最終的な立場は、技術は誰のものでもあるべきだということです。私は商業化に反対しているわけではありません。しかし、知的財産の独占には反対です。技術は協力して構築され、人々に還元されるべきです。
また、私が原則を持ち、最善の能力と良心に従ってコンテンツを作りたいと考えていることをお知らせしたいと思います。
そのため、私はあなたにPatreonに参加し、私の活動を支援していただくようお願いしています。そうすることで、私ができる限り長く活動を続けることができます。
私はプライバシーに関するコンテンツと利害の対立を生じさせないスポンサーにのみオープンです。これは私に財政的な損害を与えますが、倫理的なコンテンツの方が重要だと考えています。
できる限り私の活動を支援してください。そうすれば、私がpatreon.com/thehatedoneで作成している何百もののポッドキャストエピソードで十分に報われることでしょう。ありがとうございます。
コメント