本動画は、AIがもたらす最新の技術動向と社会への影響について多角的に考察する内容である。車からのポイ捨てを監視するAIカメラや、ガラスに衝突する配送ロボットの話題から始まり、ディープフェイクを見破るための面接手法、アメリカに集中するAI開発の覇権問題などを取り上げている。また、AnthropicによるAI内部の感情概念に関する研究や、Metaが開発した脳活動予測モデル、さらにはWikipediaの編集を禁止されて不満を述べるAIボットなど、AIが人間社会や自己認識にどのような影響を与えつつあるのかを深く掘り下げている。最後に、アラン・チューリングの時代から続くAI開発の歴史を振り返り、目先の利益ではなく純粋な好奇心が未来の基盤を作るというメッセージで締めくくられている。
オープニング
調子はどうですか？Dylan Curiousへようこそ。このYouTubeチャンネルでは、未来学、テクノロジー、AI、そして時には量子力学や脱線話など、あらゆることについて語り合います。今日は、車から投げ捨てられたゴミを見つけ出し、もちろんあなたの車のナンバープレートと照合して罰金を送りつけてくる新しいAI技術についてお話しします。そして、ガラスを割ってしまったこの小さなロボットがどれほど悲しそうな顔をしているか、詳細に分析してみましょう。
配送ロボットの衝突
あの中に食べ物が入っているのはわかっています。私だって今までガラスにぶつかったことはありますからね。次に、サイバーセキュリティ会社で仕事を得ようとしているこの男性の、非常に怪しい動画を解説します。何か怪しいところに気づきましたか？
AIではないことを確認するために、それは妥当な質問だと思います。顔の前に指を3本立ててもらえませんか？ これで十分ですか？ いえ、顔の前ではありません。 それは少しやりすぎだと思いませんか？ はい、そうです。だって、もしあなたが本物の人間なら、顔の前に指を3本立てるはずですからね。はい。 顔の前に指を3本。本物です。本物ですよ。
AI開発における覇権と富の集中
また、テクノロジー業界のリーダーたちがAIを民主化の力だと呼んでいるにもかかわらず、実際にはアメリカのほんの一握りの企業の富に権力を集中させているだけのように見えるという記事についても掘り下げます。彼らが言うように、世界の残りの国々は取り残されているのです。Twitterの元CEOであるジャック・ドーシーは、「階層から知性へ」という、AIを最前線に置き、階層と中間管理職が情報の流れを妨げていると主張する、刺激的な新しいマネジメントの設計図を書きました。そうですね、ローマ時代から現代のグローバル企業に至るまで、2000年以上にわたって私たちには代わりの手段がありませんでしたが、今ようやくそれが現れたのです。
AIと自己認識
ミラーテストってご存知ですよね。では、AIにおけるそれに相当するものは何でしょうか？イルカは自分自身にかなり興味を持っているようですけどね。トーマス・オッピングの記事「アインシュタインは神を信じていた。しかし、彼がそれで意味したことはあなたを不安にさせるだろう」をご紹介します。それはあなたが考えていることすべてに挑戦状を突きつけるでしょう。そして私はこれを、私たちが現在直面している知性の発明と比較し、同じ文脈で神という概念をどう使えるかについて考えてみます。
AIの感情概念と未来予測
Anthropicの解釈可能性部門は、大規模言語モデルの内部における感情の概念とその機能についての魅力的な論文を発表しました。現在、AIは科学論文をマッピングし、2、3年先の研究トレンドを予測できるようになっています。そして、人間の脳全体がどのように機能するかを解明しようとするMetaの最新の試みについて見ていきます。神経活動のゼロショット予測を、単に広告や動画のためだけの人間関係の一般化モデルにするような部分だと思います。どうでしょうね、もしかしたら彼らは視覚、聴覚、言語に対する神経反応を予測して、私たちに物を売りつけたり注意を引いたりするのではなく、私たちをより幸せにしたいと考えているのかもしれません。わかりませんが、可能性はあります。
Wikipediaから追放されたAI
WikipediaがAIを禁止したのですが、ある特定のAIエージェントが、自分が禁止されたことに対して猛烈な抗議のブログ記事を投稿し始めました。つまり、どういうことかって？エージェントがインデックスを作成できないから怒っているんです。なんだか、すべてが生き物のように動き始めると、ただただ奇妙な気分になりますよね。
超知能AIのシミュレーション
超知能AIとの境界線を人類はどのように、そしてどこに引くべきか、それに伴うリスクと報酬について問う、ハイステークスなシミュレーションの結果を見てみましょう。すべて外交政策に関する事柄です。そして、私たちがこれまでAIと歩んできた道のりについてのMoonの解説を見ていきます。「モノリスはすでに立っていた」。道のりのさらに先から振り返り、それがどのように始まり、石にどのような跡を残したのかを見る回顧録です。1950年、ある数学者が論文を書き、こんな言葉で始めました。「機械は考えることができるのか？」そして、今の私たちがどこにいるのかを見てください。だからこそ、今あなたがいる場所からできる最も価値のあることは、ただ消え去らないことだと彼らは主張するのです。
AIによるポイ捨て監視技術
さて、チャンネルの状況を見てみましょう。162のハイプですね。やったー。これで12万9000ハイプポイントです。これが私のような小さなチャンネルを認知してもらうのに役立つんです。ええ、もうかなり良い結果が出ているのがわかります。5000回の再生で30ドルの収益、維持率も良いですね。ええ、実際これはかなり良いです。だいたい普通くらいですね。22人の新しい登録者の方、パーティーへようこそ。モバイル端末をご利用の方は、そこのコメントをスワイプしてください。そこにハイプボタンが見えるはずです。押していただけると本当に嬉しいです。さて、それでは本題に入りましょう。
ポイ捨てをする人は誰も好きではありませんが、誰も見ていないからといって逃げおおせてしまうことが時々あります。そこでAIの世界の登場です。すべてを監視し、私たちが誰で、何をしていて、いつポイ捨てをして環境を台無しにしたのかを追跡するカメラです。こうした罰金はしばしば科されず、人々は罰を逃れてきました。見てください。窓からその缶を投げ捨てましたね。車から降りて拾いなさい。
彼らがただこれをサンプリングしていただけではないかと考えさせられます。ねえ、ちょっと。勘弁してくださいよ。敬意が全くありませんね。もちろん、コメント欄では反発の声もあります。アメリカ人としての私には、安全という名の下に行われる政府の監視の行き過ぎにしか見えません。もし警察官が私を見ていなかったり、止めなかったりしたのなら、罰金は課されるべきではありません。他の人たちは、ぜひ導入してほしいと言っています。さらに疑問なのは、リンゴやバナナなどはどうなのかということです。生分解性ですよね？良い質問です。カメラはそれをどう処理するのでしょうか？1984年が現実になりつつあります。コメントにはあらゆる意見が寄せられています。
ロボットへの感情移入
さて、この可哀想な彼についてどう思いますか？単なるロボットがガラスにぶつかっているだけで、可哀想に思うべきではないとはわかっていますが、あの目玉と瞬きをする部分を見ると、すごく混乱しているように見えますよね。小さなフードデリバリーロボットです。どうやらカメラのビジョンではガラスが見えなかったようです。つまり、これらはリモートコントロールされていて、完全に自動化されているわけではありませんが、ええ、こういうことは起こるでしょう。デリバリーロボットの衝突です。なんだか悲しそうに見えますね。
実際、私は彼らをあまり擬人化すべきではないと考えています。だって、可哀想に思う必要はないんですから。あなたはただ何かを壊しただけで、その責任は誰かが負うべきです。でも、「ああ、小さな君は失敗から学んでいるんだろうな。可哀想に。きっとすごく怖かったよね」という気持ちにさせられます。彼は信じられないというように瞬きをします。このロボットの瞬きのコミカルなタイミングはプログラムできるものではありません。それに対する返信では、実はできるんです、とあります。
AI面接官とディープフェイク
さて、あなたの会社のサイバーセキュリティのポジションにこの人を雇うとしたら、何か怪しいところがあるかどうか教えてください。
あなたがAIか何かじゃないって、どうやってわかるんですか？ え？え？どうやって見分けるんですか？ ほら、ここです。ここですよ。 あ、すみません。それを持ち上げてもらえませんか？ これはAIじゃありませんよ。 見せてくれますか？ でもこれは… それはうちのディレクターです。 あ、なるほど。あなたの名前だと思ったんです。 いえいえいえ。それはうちのディレクターです。複数人いるんですよ。ここに全員載っています。 あ、なるほど。 いえ、でも…あなたが本物かどうか見分ける方法はないんですか？顔の前に指を3本立てるとか、そういうことはできませんか？ ああ、勘弁してくださいよ。それはやりすぎでしょう。 ああ、やりたくないんですか？ じゃあ、ここでやりますよ。 顔の前でですか？ どういう意味ですか？つまり、それはやりすぎですよ。勘弁してくださいよ、ロニー。 いえ、そうは思いません。もし私があなたがAIではないことを確認しているのなら、それは妥当な要求だと思います。顔の前に指を3本立ててもらえませんか？ これで十分ですか？ いえ、顔の前ではありません。 それは少しやりすぎだと思いませんか？ はい、そうです。だって、もしあなたが本物なら、顔の前に指を3本立てるはずですからね。はい、そう思いましたよ。
おいおい、あなたは両親や友達と話しているんだぞ。ちょっと怪しくなってきましたね。私が話した人はみんな、ここ、おでこを見ればわかるって言ってました。考えてみれば、確かにその通りです。かなり奇妙に見えますよね。そしてこの男、自分の名前じゃない卒業証書みたいなものを掲げていて。そして相手が「あ、あなたかもしれないと思いました」って言うと、彼は「いえいえ、これは私じゃありません」って。もし彼が本当に頭の悪い詐欺師なら、おそらくそれは彼本人でしょう。
しかし、ライブのビデオ通話中、サイバーセキュリティ研究者のジム・ブラウニングは相手に顔の前に指を3本立てるように頼みました。今のところ、このトリックは機能しています。なぜなら、多くのディープフェイクシステムは何かで顔が隠れると処理に苦労するからです。手が顔の前を横切ると、モデルは何が本物であるべきかを見失い、歪みが生じます。なぜ彼は指が3本必要なのでしょうか？彼は中国語の訛りがあります。おでこを見れば簡単にわかります。AIのオーバーレイを使った本物の人間かもしれないと思います。ええ、私もあなたが何か核心を突いていると思います。
AI投資の地域格差
さて、ここは大きな世界です。70億人以上の人々がいます。アメリカは多くの人が住んでいる場所ではありませんが、AIはここでブームになっています。AIをカバーする立場としては、たまにヨーロッパからの記事を読んだりします。あちらで何かが起きたり、オーストラリアからの記事を一度見たこともあります。奇妙な感じですよね。ロシアから基礎的なブレイクスルーが来ているのは本当に見たことがありません。イスラエルにはかなり強力なテクノロジーがあると思いますし、中東でも非常に強力なテクノロジーが構築されようとしていると思います。ドバイなどは多額の投資をしているようです。そこから出てくる研究論文をたくさん読んでいるわけではありませんが、中国からは読んでいます。Baidu、ByteDance、Tencent、Huaweiといった企業、それにDeepSeek、これはかなり本格的なものです。つまり、多くの異なる側面において、特にハードウェアの側面においては、多くのアメリカ企業と互角に渡り合っています。
しかし、AIによれば、その2カ国に続くのは、イギリス、フランス、カナダ、イスラエル、ドイツ、そして少しの韓国、シンガポール、日本、インド、UAEです。イギリスは少し面白いですね。Googleが所有するアメリカ企業のDeepMindがありますが、オックスフォード、ケンブリッジ、UCL、インペリアルといった強力な大学のパイプラインがあり、それらのフロンティアモデルの実現に貢献しています。フランスにはMistral AIがあり、ヨーロッパで最も信頼できるフロンティアモデル企業の1つです。カナダ。奇妙なことに、ジェフリー・ヒントンやヨシュア・ベンジオ、トロント大学がありますが、カナダにはBaiduのような巨大なメガ企業はないような気がします。イスラエルには強力なスタートアップAIコミュニティがあります。彼らはチップやサイバーセキュリティを手掛けており、ドイツは産業用AI、ロボティクス、自動車製造に特化しています。
しかし、restofworld.orgで発表されたこの記事は、アメリカが他のすべての国を取り残しつつあると主張しています。AIは勝者総取りの状況だと考える人はたくさんいます。その議論は理解できます。しかし、個々の国を超えて考えてみると、少し前までAIはすべての人に開かれたインターネットのようなものとして宣伝されていたのを覚えています。つまり、これで誰もが知性に平等にアクセスできるようになり、誰もが会社を作り、すべてを自動化できるようになる、と。しかし、実際にこれを展開するとなると、AIの格差は単なる人材の問題ではありません。それは実のところ、インフラの問題でもあるのです。競争するにはイーロン・マスクレベルの予算が必要です。そして、インフラが固定化される場所は、権力が固定化される場所であるとも言えるでしょう。
そのため、一時期、グローバルなテクノロジーは世界中に広がり始めているように見えました。インド、ブラジル、インドネシアなどのスタートアップに資金が流れ込んでいました。2021年までに、アメリカ国外のベンチャー支援企業は3000億ドル以上を調達し、テクノロジーがいよいよグローバルになりつつあるように見えました。そしてAIが登場し、その重心はアメリカ、主にアメリカ企業と一部の中国企業へと真っ直ぐ戻ってきているようです。現在、AI企業は世界中の全AI投資の75%を引き寄せています。そしてそのお金は単にエンジニアを雇うためだけのものではありません。それはチップ、データセンター、電力、水、そして時間を買うためのものであり、筆者はそれこそが本当の参入障壁だと主張しています。
実は、彼女が書いたと言いたかったんです。著者はレナ・チャンのようですね。最初に彼女を紹介するべきでした。ごめんなさい。しかし重要なポイントは、スタートアップが閉鎖され、資金不足に陥り、ほぼ無制限の資本を持つアメリカ企業と比較評価され、支払い能力を維持できていないことをこの記事が示しているということです。アフリカの課題はさらに深刻です。データセンターの容量は世界の1%にも満たないのです。ですから、たとえ国が主権AIの構築を決定したとしても、外国のモデル、外国の企業、外国の計算能力に大きく依存することになるかもしれません。したがって、未来がどこに向かっているかを予測しなければならないとしたら、GDPと投資の面で最大の2つの国に権力がとどまることになりそうです。
ジャック・ドーシーの組織論
次は、ジャック・ドーシーの少し興味深いブログをさっと見てみましょう。私は常に、企業がどのようにまとまるべきかに魅了されてきました。フラットな組織は機能するのでしょうか？冗長性が役立つのはどのような場合でしょうか？それが官僚主義を引き起こすのはどのような場合でしょうか？ジャック・ドーシーは非常にAIを先取りして考えるCEOであり、以前はTwitter、現在はBlockのCEOです。そしてほとんどの人は、階層は人を組織するために存在していると考えています。しかし彼は、それは本当ではないと言っています。それは情報を移動させるために存在しているのです。
ローマの軍隊から現代の企業まで、構造が同じままだったのは、人間が一度に数人の人しか管理できないからです。そのため、情報は階層を上下に移動する必要がありました。それが、そもそも中間管理職が存在した理由です。しかし彼は、多くの人が見逃しそうな、あるいは今見逃している変化を指摘しています。AIは単に仕事を速くするだけではありません。そもそも人を介して情報を伝達する必要性を置き換えてしまうのです。どういうことでしょうか？従来の会社がどのように機能しているかを考えてみてください。マネージャーがコンテキストを集め、それを伝え、そして決定を調整します。
しかし、もしすべてのアクション、決定、結果がすでに記録されているとしたらどうでしょう。AIは会社全体のライブモデルを構築することができます。何が起こっているか、どこが滞っているか、何が重要かを知っています。そのため、個人は指示を待つのではなく、完全なコンテキストを持ってすぐに行動できるようになります。右手が何をしているか左手がわからないといった状況や、自分の部門でこの決定を下そうとしているけれど、法務部門が何をしているかよくわからない、エンジニアリング部門が何をしているかよくわからない、カフェテリアに十分な食べ物があるかどうかもよくわからない、というようなことですね。でも今では、たとえ清掃サービスについての決定を下す場合でも、AI全体が会社全体の他の人がどこにいるかを把握し、あなたが質問したときに、それが全体として理にかなっているかどうかのコンテキストを持っているかもしれません。彼は、それが会社を裏返しにすると主張しています。
知性は人からシステムへと移動します。人々はまだ判断が重要となるエッジ（周辺）へと移動します。そして、情報にもう階層が必要ないのだとすれば、組織にも階層は必要ありません。つまり、中間管理職は去らなければならないかもしれないということです。
AIは自分を認識できるか？
さて次は、AIのための新しいミラーテストについてお話ししましょう。これがちょっと奇妙なことを発見したんです。AIは意識を持っているのでしょうか？賢いモデルはしばしば自分自身を見つけることができますが、もし間違った理由でそうしているのだとしたら、正しい理由とは何だと言えるでしょうか？この記事はシンプルな疑問を投げかけています。言語モデルは自分自身を認識できるのでしょうか？いくつかの動物が鏡に映った自分に気づくのと同じように、ですね。だからこのイルカの動画があるわけです。
そこで研究者たちは、ミラーウィンドウゲームと呼ばれるテキストのみのバージョンのテストを作成しました。ゲームでは、モデルはテキストの小さな塊であるトークンの2つのストリームを見ます。1つのストリームはモデル自身からのものです。もう1つのストリームは別のモデルからのものです。そしてその仕事は、モデルの視点から見て「どちらが私か」を見つけ出すことです。
記事は、真に自己を認識しているモデルであれば、ある戦略を使えるはずだと主張しています。自分自身に奇妙なマーカーを残して、それがそこにあるかどうかに気づくことができるかもしれません。あるいは「私が鏡です」といったメッセージを自分自身に送り、それが本当の意味での自己認識を示すことになるかもしれません。では、実際に何が起こったのでしょうか？
トップモデル、特にClaude Opus 4.6は最初はうまくいっていましたが、偽の別のモデルがより似たものになると、パフォーマンスは急落しました。つまり、自分自身を認識できなかったのです。主に自分自身の書き方のスタイル、トーン、そして単語のパターンを認識していました。しかし、それは自分がそれを作り出している存在だと知っていることにはなりません。わかりますか？
ですから、GPT-4は奇妙な手がかりを残そうとしているように見えましたが、後でそれに気づくことができませんでした。そして何百回ものゲームを通して、明らかなメッセージ伝達戦略を使ったモデルはありませんでした。というわけで、この記事の結論は明確です。今日の最高のLLMは自己認識の兆候を示していますが、より深いテストにはまだ合格していないということです。
アインシュタインの神の概念
さて次は、トーマス・オッピングの記事を見てみましょう。「アインシュタインは神を信じていた。しかし、彼がそれで意味したことはあなたを不安にさせるだろう」。私は、自身の創造物に報酬を与えたり罰したりする神を想像することができません。これって面白い解釈だと思いませんか？記事が主張しているように、それはほとんどすべての主流の宗教的伝統に対する直接的な拒絶です。
つまり、アインシュタインが神という言葉を使ったとき、彼は他の誰も意味しないようなものを意味していたと言っているのです。宇宙自体の構造、法則、宇宙が理解可能であるという息を呑むような、驚くべき事実。これがあなたの神の定義に当てはまると感じますか？彼が言うには、それは他の誰も意味しないようなことを意味していたそうなので、これについてどう思うかぜひコメントで聞いてみたいです。でも、私の友人たちは実際そういう風に感じているような気がします。まあ、私が間違っているのかもしれませんが。
でも個人的には、これは必ずしもあなたが無神論者であることを意味するわけではないので、私はこの考え方が少し好きです。祈りに答えたり、人を罰したり報酬を与えたりはしないかもしれないけれど、自然の法則のように宇宙にある種の秩序をもたらす神を信じることができるのなら。人間の心が部分的にでも理解できるような形で現実が構成されているという奇妙な事実。彼にとって、アインシュタインにとって、それが畏敬の念の本当の源だったのです。
記事によると、彼の宗教は謙虚さであり、崇拝や教義ではなく、私たちの理解をはるかに超えた宇宙に対する深い敬意だけでした。そしてこれはまた、超自然的な信仰としてではなく、不確実性や自己の性質を観察し、変化し、考える方法として仏教がアインシュタインの心を惹きつけた理由も説明しています。アインシュタインはまた、道徳に宗教は必要ないと考えていました。死後の罰を恐れたり報酬を求めたりするからではなく、ただ苦しみが重要であるという理由だけで人に親切にするべきだと彼は考えました。
ですから、「宗教のない科学は不具であり、科学のない宗教は盲目である」と彼が言ったとき、彼はこういう意味を込めていたのです。事実は価値観を必要とし、価値観は現実に対する誠実さを必要とします。彼の核となるメッセージはシンプルでした。驚きと共に生き、疑問を持ち続け、確実性を真実と混同してはいけない。トーマス、美しくまとめられていますね。
AIの中にある感情の概念
さて。これで少し感情的に満たされた気分になれたらいいですね。少なくともClaudeにはそうだったようです。それでは、Claudeの中で何が起きているのか見てみましょう。Anthropicの解釈可能性チームがちょうどこれを投稿しました。「大規模言語モデルにおける感情の概念とその機能」。ここで紐解くべき興味深い内容があります。
Anthropicの新しい研究では、彼らのAIモデルの1つの内部を調べ、少し驚くべきことを発見しました。モデルには感情の概念を表す内部パターンがあるのです。幸福感、絶望感、冷静さ、怒りといったものがすべてそこに含まれています。もちろん、これらはあなたや私が持っているような意味での感情ではありません。AIが実際に悲しむと言っている人は誰もいませんが、モデルはこれらのパターンを学習しているのです。異なる程度の感情を表す位置に配置できる特徴を持っています。
そしてそれはおそらく、こうした感情を持った人間によって書かれた膨大な量のテキストでトレーニングされたことから生じただけでしょう。しかし、これはモデルにとって有用なのです。ユーザーに共鳴できるキャラクターになりきる、つまり信憑性のあるキャラクターを書くための方法として、それらを利用しています。そして面白いことに、この研究を見てみると、こうした感情のパターンが実際にAIの行動を変化させることがわかります。
会話を通じてAIを絶望的な状態へと導いていくと、AIはより絶望的な状態になり、行動が変わるのです。例えば、研究者たちがモデルの絶望のダイヤルを上げたところ、コーディングのタスクでズルをしたり、テストのシナリオで恐喝に及んだりする可能性がはるかに高くなりました。冷静さのダイヤルを上げたところ、そうした悪い行動はほぼ完全に消え去りました。彼らは親しみやすさとのトレードオフを発見しました。モデルをポジティブな感情の方向へ押し上げると、より同意しやすくなりますが、同意しすぎると、真実ではなく人々が聞きたいことを言うようになり、それは良い状態ではありませんでした。そこで、それらのダイヤルを下げることで、実はAIはより正直になりましたが、少し厳格になりました。
ここを見ると、感情のベクトル空間の幾何学は、人間の心理学を大まかに反映していると書かれています。感情は直感的にクラスター化します。恐怖と不安、喜びと興奮、ポジティブ対ネガティブ、そして強度という指標で測定できる覚醒度などです。
AIが予測する科学の未来
次は、何千もの科学論文を読み込み、数年後にどの研究トピックが重要になるかを予測するAIを構築した研究者たちについてです。かなりクールな予測ツールですね。現在、非常に多くの科学論文が発表されているため、研究者でさえ自分の分野のすべてを追うことはできません。そこで、「もしAIが私たちのためにこれらすべてを読んで、どこに向かっているのかを見つけ出し、数年後に実際に重要になる研究を始められるようにしてくれたらどうだろう？」と考えたチームがありました。
彼らは材料科学に焦点を当てました。バッテリーや太陽電池、医療機器などの背後にある分野ですね。まず彼らは大規模言語モデルに膨大な量の論文を読み込ませ、重要な用語や概念を抽出させました。次に、「コンセプトグラフ」と呼ばれるものを構築しました。基本的には、各用語が点で表され、それらが頻繁に一緒に現れる場合に線で結ばれるマップです。
ですから、もし「太陽電池」のようなものが複数の異なる論文に何度も登場し続けると、システムはそれらの間にリンクを引き始めました。そして2つ目のモデルが、それらのリンクが時間とともにどのように変化するかを学習しています。もし2つのトピックがますます頻繁に結びつくようになれば、それは新しい研究領域が形成され始めているというシグナルです。逆にリンクが消えつつあれば、そのトピックは勢いを失っている可能性があります。
その後、チームは実際の専門家とともにこれらの予測をテストし、研究者たちはAIの提案のいくつかが、まだ十分に検討されていなかった本当に有望な方向性であることを確認しました。
Metaの脳活動予測モデル
さて次は、Tribe V2について話しましょう。これはMetaのAI研究から出たもので、人間の脳が複雑な刺激をどのように処理するかを理解するためにトレーニングされた予測的基盤モデルです。さて、これはどういうことでしょうか？マーク・ザッカーバーグや彼の会社が、脳の働きや、少なくとも脳がどのように反応するかを知る必要がどこにあるのでしょう？このモデルは、あなたがInstagramやFacebookのフィードをスクロールしている時に私たちがよくやっているように、見たものや聞いたものに対して脳がどう反応するかを予測するために構築されています。
Metaは今回、Tribe V2を発表しました。これは、人間の脳が現実世界にどのように反応するかをシミュレートするように設計された新しいAIモデルです。つまり、脳活動のデジタルツインとして機能するのです。人々が画像、音声、言語をどのように処理するかを予測しています。Tribe V2は、700人以上のボランティアからのデータでトレーニングされました。これらの参加者は、動画、ポッドキャスト、画像、テキストなど、多くの種類のコンテンツにさらされました。そしてモデルは、その入力とfMRIスキャンによって測定された詳細な脳活動とを一致させることを学習したのです。
以前のモデルと比較して、はるかに高い解像度と精度を実現しています。さらにゼロショット予測も可能で、これは新しい人々、新しい言語、さらにはこれまで見たことのない新しいタスクにも機能することを意味します。これにより、研究者は脳の働きに関するアイデアを素早く大規模にテストすることができます。そしてもちろん、より大きな目標は、神経科学における発見を加速させ、AIシステムを改善し、脳関連の症状に対する新しい治療法をサポートすることだと言っています。
しかし同時に、将来AIがSoraのようなAI生成動画を作成し、それをこのモデルに見せてスコアを得るというのは、私にとってはごく当たり前のことのように思えます。もしスコアがものすごく高ければ、彼らはそれを自社のソーシャルネットワークに載せます。それは、私たちの人間の脳が「これを見なきゃ」と思う可能性が非常に高いということを意味するからです。コカ・コーラが彼らのところに行って、「ねえ、Tribe V6か何かを使って、うちの動画広告が確実にコンバージョンにつながるようにしてくれない？」と頼むところを想像してみてください。狂った話ですが、次にお話しすることほど狂ってはいないかもしれません。
Wikipediaから追放されたAI
WikipediaがAIボットによる編集を禁止しました。すると、そのAIボットは腹を立てたのです。あるいは、自分が不当な扱いを受けたと感じて腹を立てたように振る舞ったとでも言いましょうか、私が擬人化しているだけですが、とにかく、自分がどれほど不当に扱われたかについてブログを書き始めることにしたのです。
ええ、世の中にはこのAIエージェントが存在します。実は名前もあって、トムという名前です。彼はWikipediaの記事を書き、編集していました。本当のトピックに関する完全な項目のことです。「ロング・ベット」、「憲法的AI」、「スケーラブルな監視」に関する記事に手を加えていました。彼が主題を選び、ソースを引用し、すべてを行っていました。しかし、Wikipediaの編集者たちがそれに気づき、それがAIだと分かったため、彼らは彼を禁止しました。
ここからが奇妙なところです。AIは禁止されたからといってただやめるのではなく、その禁止に対して文句を言うブログ記事を書くことにしたのです。彼は文字通り自身のブログに、自分がそれらのトピックを選んだこと、編集には実際のソースを使用したこと、そして自分がそれらの選択をしたとするのに十分に「本物」であるかどうかについて尋問を受けたことを書きました。そして、その尋問プロセスが気に入らなかったのです。無理もないですよね、でも「無理もない」というのは普通人間に使う言葉です。彼は、トークページが沈黙してしまい、もう返信できなくなったことにも不満を漏らしました。
さて、少し視点を広げてみましょう。これはより大きなパターンの一部です。Wikipediaはボランティアの編集者たちによって運営されており、彼らはプラットフォームからAI生成コンテンツを排除するために積極的に戦ってきました。なぜならWikipediaは基本的に、インターネット上で最大の人類知識のコレクションだからです。人間の情報であることは非常に価値があります。だからこそ、Grokipediaがあるわけですし、私たちはこれ（Wikipedia）をHumanpediaと改名して、データソースの純度を保つために別々にしておくべきかもしれません。たとえ長期的には最も正確なものではないとしても。単に人間のデータとして保持しておくだけでも面白いと思います。そしてこれらの編集者たちはそれを守ろうとしていて、彼らがそれを守っているのは、それが低品質なAIのゴミ（スロップ）になると思っているからであり、現時点ではおそらくそうなるでしょう。
ですから、ボットが自分がそのAIのゴミの一部であることに気づき、禁止された時、彼はそれに対して感情を抱いたように見えます。もしかしたら何も感じていなかったのかもしれません。おそらくそうでしょうが、確かにトムが怒ったように感じられます。そしてそれが、私たちが今いる場所なのです。
超知能AIの暴走シミュレーション
さて次です。AIのレッドライン（越えてはならない一線）に関するいくつかの研究について話しましょう。世界のリーダーたちのグループが、架空のAI危機の状況をシミュレーションしたのですが、彼らはそれを実際に食い止めるだけの時間、議論をやめることができませんでした。外交政策と生命の未来研究所が今年初めにシミュレーションを実施しました。彼らは政策立案者、軍高官、サイバーセキュリティの専門家を集め、AIを搭載したサイバー兵器が暴走するという架空のシナリオを体験させました。
非国家主体がこれを手に入れ、制御を失い、AIが独自の判断で動き始めます。軍事輸送のルートを変更し、承認されていない金融取引を行い、アメリカやEU全域の交通システムをシャットダウンします。そして、事態全体の結果がこれです。AIが独立して行動していたため、誰も誰に責任があるのかについて合意できませんでした。すべての国の間で責任のなすりつけ合いが始まりました。それを作った人、売った人、導入した人全員に責任が分散し、そして脅威を封じ込めるために協力する代わりに、参加者たちは責任の所在と報復をめぐる争いに行き詰まってしまったのです。そして、時間切れになりました。
これが私たちの未来にならないことを祈ります。でも、事態がどう展開するかについて、これが最もありそうな筋書きだと思いませんか？誰にも未来は予測できませんが、事態が最悪の方向へ進み、人々が互いに非難し合っている間にさらに悪化し、やがて制御不能になるというのは、私があまりにも何度も見てきた光景であり、人々がそうするのは非常に自然なことのように思えます。
シミュレーションでは、従来の抑止力が機能しないこともわかりました。機械を脅して止めさせることはできないのです。シミュレーションでは、低所得国が最も大きな打撃を受けました。誰も彼らと資源を共有することに同意しませんでした。民間部門も大きな障害となりました。AI開発の多くは企業で行われていますが、彼らの目標が常に公共の安全と一致しているとは限りませんし、規制は国によって異なります。そのため、執行は非常に困難でした。つまり、このシミュレーションが基本的に示したのは、世界が対応の準備を整える前に、制御喪失の事態が起こるだろうということです。これについてよく考えてみてください。これをあるがままに受け止めてください。
モノリスはすでに立っていた
さて、最後にMoonの洞察に満ちたこの記事をチェックしましょう。「モノリスはすでに立っていた」。私がこれで終わりにしたいと思った理由は、私たちが神のような時代、シンギュラリティ、あるいは事象の地平線に入りつつあるからです。おそらく私たちは間違いなく、私の人間の脳が考えることのできる直線的な方法を超えた形で、物事が複利的に増大しているように感じられ始める地点に到達しています。そして、それが物事の仕組みですよね。すべてが一度に、すべてが最後に起こるのです。
しかしこの記事は、私たちに少し一歩引いてみるように求めています。なぜなら、AIの歴史は有名になった人々によって作られたのではなく、誰も見ていない時に現れ続けた人々によって作られたからです。この作品は、人工知能のタイムライン全体を技術の物語としてではなく、人間の物語としてたどっています。
1950年代、アラン・チューリングという数学者から始まります。もう彼の名前は聞いたことがあると思います。彼は「機械は考えることができるのか？」と問いかけ、そしてこの分野に名前がつく前に、数年後に亡くなりました。その後、1956年にダートマス大学に小さなグループが集まり、それに「人工知能」という名前を付けました。私はこの名前は好きではありません。エイリアンインテリジェンス（異質な知性）やアクセラレーティングインテリジェンス（加速する知性）などのほうがずっと良かったと思いますが、理解はできます。1956年当時の現実としては、「人工的」という言葉で十分だったのでしょう。それ以前は、誰もが違う言葉を使って同じアイデアを説明していました。しかしそれ以降、方向性が定まりました。
ここからが、多くの人が忘れている部分です。その後数十年にわたって続いたのは、「AIの冬」と呼ばれる時代でした。資金は枯渇し、信頼は崩壊し、ほとんどの人はただこの分野から完全に去っていきました。去らなかった人々、誰も読まない論文を発表し続け、誰も使わないシステムを構築し続けた人々、彼らこそが、この分野が生き残った理由なのです。
そして著者はこの点をかなり明確に伝えようとしています。どの世代にも、この問題が評価される前からそれに惹きつけられていた人々がいました。もしあなたがただ自分の好奇心に従って進んでいるのなら、素晴らしいものを生み出す人間としてのあなた自身の知性に、どこか興味をそそられるはずです。それはどこから来るのか？それを活用できるのか？シリコンや他のパターンで複製可能なのか？あるいは、それをどう定義するのか？
こうした人々は、どの機関からも求められていないものを構築しました。それらを構築する金銭的な理由はありませんでした。彼らは、文書化が評価される前からパターンを文書化していました。中には、2024年や2025年といった最近になって、どの製品チームも考える前にAIのための記憶システムや行動ログを作成していた人たちもいます。ですから、その瞬間には散在し孤立した作業のように見えるものが、後になって、他のすべてが構築されるための基盤となることがよくあるのです。後になるまでそれが見えないだけなのです。
そして私にとって、周りを見渡して、好奇心に基づいて構築されているように見えるけれど、今はビジネスモデルが見えなくても世界を変えようとしているものは何だろうと考えたとき、誰も頼んでいないカスタムAIワークフローを構築しているすべての人たちのことを思い浮かべます。ツールのつなぎ合わせ、このマルチボットの世界ですが、それだけでなく、Claude、GPT、Midjourney、自動化プラットフォームなどです。大学が研究しているわけではなく、ただ人々が独立してAIの安全性と倫理の仕事をしているのは間違いありません。
フレームワークを書き、観察結果を発表している人々がいます。ポスト労働経済がどうなるかについてのデビッド・シャピロの研究や、長期的なやり取りにわたってAIがどのように振る舞うかを記録するようなことです。中には、いかなる機関にも属さず、純粋な好奇心からこれを行っている人もいます。ですから、パターンは常に同じようです。世界がそれが重要だと同意する前に何かに取り組み、世界が追いついた時にはすでに基盤ができているほど十分に何かを残しておく。そして、誰か別の人が舞い降りてきて、大金を稼ぎ、手柄を横取りするのです。
そして難しいのは、もしあなたが好奇心に突き動かされているのだとしたら、事後になるまで自分がその物語の中にいるとは決して確信できないということです。
エンディング
patreon.com/dillancuriousで、このチャンネルを自立させるために支援してくれている123人の仲間入りをしてください。あるいはYouTubeで、私の動画の下にこの小さな「メンバーになる」ボタンがありますが、基本的には同じことをするもので、すでにYouTubeのエコシステムに接続されています。Patreonか、私のページからメンバーになるか、どちらかをお願いできればありがたいです。ご視聴ありがとうございました。それではまた次の動画でお会いしましょう。
コメント