本動画は、2025年における人工知能技術の急速な進化と、それが軍事、物流、サイバーセキュリティ、そして人類の未来に与える影響について多角的に論じるものである。パーマー・ラッキーの軍事向けARヘッドセットやAmazonの配送用スマートグラス、ユニトリー社の自律ダンスロボット、AIによる交通事故予測システムなど、最新の技術革新が紹介される。さらに、超知能研究の一時停止を求める声明に対する考察や、ローカルAIモデルを悪用した新たなサイバー攻撃の脅威、大規模言語モデルと人間の文処理における驚くべき類似性についても触れられる。加えて、ホログラフィック原理や非二元論的哲学といった形而上学的な視点から、意識とAIの本質について深い洞察が示される。
ARと軍事技術の融合
なんてことでしょう、軍事用のOculusが実現しただけでなく、それらが群れとなって集合知能を形成することができるようになったんです。Oculusの生みの親であるパーマー・ラッキーが、とんでもない軍事AI技術を明らかにしました。そして負けじと、Amazonも本質的に同じものをリリースしたんですが、人を殺すために使うのではなく、荷物を配達するために使うんです。そうなんです。
つまり、私たちは何年もの間、ロボットについて間違った考え方をしていたということが判明したんです。だって、実際のダンスフロアにロボットを連れて行くと、彼らはこういう動きをするんですから。そう、私たちの考え方をアップグレードする必要があるんです。思っていたよりもずっと後ろに体重をかけているんですよね。
Future of Life Instituteが超知能に関する声明を発表したばかりです。初日に23,000人が署名しました。スティーブ・バノン、リチャード・ブランソン、スティーブ・ウォズニアック、スチュアート・ラッセル、ヨシュア・ベンジオ、ジェフリー・ヒントン。リストは著名人でいっぱいです。そしてYouTubeのサイエンスコミュニケーターが一人、Dylan Curiousという名前で。でも、サイエンスコミュニケーターというのはちょっと大げさかもしれません。
実は、どんな肩書きを書けばいいのかわからなかったんですが、リヴ・ボリーみたいな感じかなと思って、彼女がサイエンスコミュニケーターと書いていたので、それに倣っただけなんです。あなたのトイレ内蔵カメラをアップグレードする時が来ました。新しいプライバシーフラッシャーがあります。新しいAIトイレカメラは、あなたの排泄物をスキャンして隠れた健康問題を発見します。初期費用はわずか600ドル、年間70ドルから156ドルです。なんと、2025年、トイレのサブスクリプションモデルの年ですよ。予想していませんでした。
それがどうやって上下する便座の端にクリップで留まるのか、それとも便器に直接取り付けるのか、考えようとしているんです。つまり、それはあなたの局部を見ているのか、それとも落ちるものを見ているだけなのか。わかりません。まあ、解明していきましょう。
とんでもない新しいサイバー攻撃についてお伝えしなければなりません。このシステムは実際に搭載されているLLMを使用して、それがあなただと、あなたであると説得するんです。ちょっと説明しますね。私なりの考えもあります。550億ドルのElectronic Arts買収について、それが今後10年間で人工知能とどう交わるかもしれないか。ベースモデルからずっと多くの知能を引き出す方法を示す新しい研究があります。
ロブ・メイソンの洞察と意味の起源
ロブ・メイソンは、意味がどのように生まれるかについて考えを述べています。それは、それ以前に来たすべてのものによってすでに曲げられた空間を通って流れ、曲がることから来るのだと。それが潜在空間というものであり、それがどのように機能するかなんです。素晴らしい比喩です。それからビデオゲームとAIの隠されたループについて話した後、私たちの周りのこの現実が本物かどうかを問うのも良いでしょう。ホログラフィック原理について話しましょう。ジェームズ・クが言うには、ホログラフィック原理と一貫性を持ちうる唯一の形而上学的な思想体系はアドヴァイタ・ヴェーダーンタだそうです。
ええ、その言葉を声に出して言ったことは一度もなく、今日読み始めたばかりなんですが、基本的には思想体系なんです。人間とLLMが文を同様の方法で表現することについての研究を見ていきましょう。でもその前に、YouTubeでそのハイプボタンを押してもらえますか。それは今、私にとってとても意味があることなんです。コメント欄に行ってください。モバイルでなければなりません。右にスワイプしてください。
デスクトップでもハイプボタンを使えるようになった人がいると聞きましたが、使えないかもしれません。その場合は、コメントやいいねでも大変助かります。シェアしていただくのも良いですね。さあ、フェーザーを最大好奇心に設定しましょう。いや、言えません。フェーザーを最大好奇心に設定してハイプボタンを押してください。交流は素晴らしいですが、ハイプは私のような成長しようとしている小規模チャンネルにとって不釣り合いなほど役立つんです。
公開から最初の7日間で、週に3回もらえる分をまだ使っていなくて、チャンネルが40万人以下の登録者数、つまりはるかに下回っている場合に、この動画をハイプできます。さて、私はこれまでになくパーマー・ラッキーについて詳しくなってきました。
彼の長時間インタビューに座って聞いたことは一度もなかったんですが、彼はかなり魅力的で、彼のような人は他にいません。Oculusを作り、VRの最先端にいて、それから軍事方面に直行したんです。狂った軍事装備を作り、武器に超夢中になって、Oculus Riftコアから進化させたこのヘッドセットは、信じられないほど理にかなっていて、戦争の戦い方がまったく違うんです。
集合知能による戦闘システム
これは、全員が基本的に一つの複合ハイブマインドとして動作できるようにするシステムなんです。全員が世界の視界を共有できるんです。ちなみに、私が持っているこの視界は、今やすべてのロボットとも共有されています。つまり、私が見るものすべて、例えば建物の中にいる誰かを見たとしたら、すべてのドローンとすべての人が、その人がどこにいるかを今見ているんです。
さて、これについて以前考えたことがあるかもしれませんが、私にとってはかなり新しいアイデアです。チーム、SWAT チーム、Navy SEALチーム、軍事チームが入って行って、各人が自分の役割を果たすのを常に想像していました。フットボールチームのようなものです。
でも今考えてみると、もし全員がカメラ視覚を持っていて、5台のドローンと人型ロボットが何台か人々と一緒に突撃しているとしたら、攻撃の角度が完全に変わるんです。ある人間が別のターゲットを見て、それを狙いたいとしたら、ドローンが位置に飛び込んだり、別の角度から撃ったりできるんですが、それはすべてこの角度に基づいて計算されています。なぜならそれはコンピュータビジョンシステムだからです。人間だけでは一つの行動に範囲が限られてしまいますが、そうじゃないんです。でもそう、それはただ狂っています。
Metaとのパートナーシップで構築されました。このシステムは兵士に超人的な状況認識、ライブマップ、脅威検知、ドローン制御を与えます。スパイダーセンスのようなものかもしれません。このシステムの一つにAIがあって、「ねえ、まだ脅威は見えていないけど、影の変わり方や、壁の反対側にいるドローンからのカメラ、あるいはあなたが知らない他の部屋にいる人々の情報から、私は彼らが見ているものを知っているから、この部屋から出る必要がある。20秒後に危険な人物が入ってくるから」とか言うのを想像してみてください。
それは本当に違うんです。それから、彼らがこれをわざとタイミングを合わせたのかどうかわかりませんが、Amazonも似たようなことをするグラスを発売することを決めました。つまり、まだ明らかに軍事化されていませんが。でもAmazonが抱えているような問題について考えると、何千人、何百万人かわかりませんが、荷物を配達しているんです。彼らも複雑な地形をナビゲートしなければなりません。
Amazonの配送用ARグラス
ご覧ください、毎日何百万人もの顧客が荷物と一緒に、正確さと注意深さを持って近隣をナビゲートしています。これは将来、すべてのAmazonドライバーがあなたの家まで歩いて行き、正面ゲートに何かを置いていくときのシステムです。このグラスはすべてをマッピングできるんです。自律走行するGoogleの車が走り回ってGoogleマップをどんどん良くしているのと同じように、そして荷物を配達する必要がある他のすべての人が、ゴーグルから「ここを左に曲がって、そこに一歩踏み出して、この家には犬がいるから気をつけて、荷物はこちら側に置くのが好きです」といったガイダンスを受けるんです。
そういったことすべてが次のドライバーに伝えられ、各ドライバーは共有されたハイブマインドのように情報を得ているんです、よね。つまり、荷物を配達しているこの男性を見てください。彼はここに小さな地図、あなたの家の設計図のようなものを持っています。まるでビデオゲームのように見えます。ここを左に曲がって。ここを右に曲がって。
グラスは、荷物の中に正確に何が入っているかを知っています。箱を見ています。QRコードをスキャンしています。わかりません。でもこれは、ARが私にとってようやく腑に落ちた週のように感じます。さて、この動画をチェックしてください。リヴ・ボリーがアップロードすることにしました。彼女がパーティーで自分で撮ったものだと思います。
彼女はいつも最高にクールなパーティーに招待されていますが、それはおそらくユニトリーロボットですよね。そして彼のダンスを見てください。私は、コメント投稿者の一人からそれを拝借したんです。彼らは「私たちはずっとロボットを間違ってやっていた、人生全体でね。今わかったよ」みたいなことを言っていました。
それが私をとても笑わせたので、イントロで使ったんです。それはただ狂っているんです。彼はただノリノリで踊っているように見えます。彼にはあのツイストがあります。彼にはあのファンキーさがあります。彼にはあのバイブがあります。そして彼はフロアにいる男なんです。遠隔操作されているとは思いませんが、それが遠隔制御システムのようなものなのか、それとも彼がダンスフロアにいることを認識していて、これが彼が出すべきバイブなのか、完全には確信が持てません。
実際に、AI4カンファレンスでボクシンググローブをつけたこれらのロボットの一つを見たことがあります。彼らは本当に滑らかなんです。そして彼らのソフトウェアアップデートはどんどん良くなっていることを知っています。なぜなら彼らは今、大規模にシミュレートされた環境的なものをやっているからです。見てください、彼のダンスを。彼はかかとまで動かしています。ふくらはぎが動いています。腰が動いています。
超知能研究への警鐘
AI界の大物たちと私が超知能研究の終了を求めることにしました。明らかに、これが費やされている何兆ドルや、企業間や国家間の競争状態を止めるとは思いませんが、それでも、自分の声を聞かせることは常に良いことです。このように考える少数の人々にとって、私たち全員ができる限りグループになって、何らかのへこみを作ったり、何らかの影響を与えたり、これがどれほど危険かについて何らかの認識を始めたりできればいいんです。
そうです、実際に私はこれに数日早く署名する機会を得ました。私はトップ500の署名者の中にいました。結局のところ、私がPDoomと高いアライメントリスクについて考えるとき、いつも思うのは、超知能を持つことには非常に大きな利点があるということです。私たちはエネルギーについて心配する必要はないと本当に思います。
私たちは死ぬことについてあまり心配する必要はないと思います。食料不足について心配する必要はないと思います。そしてその恩恵を受けることができれば、誰かが超裕福になったり、支配権を持ったり、人間がそれを使う方法について腐敗したりすることなく、本当に美しいことになるでしょう。もちろん、それをどうやって実現するかはわかりません。そして実際にそうなるとは賭けません。
だから、私は人々に本当に慎重にゆっくりと、正しく行ってほしいんです。たとえそれが50年から100年かかったとしても、非常にゆっくりと、非常に細心の注意を払って、非常に慎重に行えば、何世代もの人間が非常に豊かになれるでしょう。あるいは、急いで進んで、この惑星で45億年前に生命が始まった奇跡である生命そのものを台無しにする可能性もあります。そしてそのすべてをリスクにさらすことになります。
いや、どの世代にも核兵器とかでこのような大きな考えるべきことがあるんです。ジェフリー・ヒントン、スチュアート・ラッセル、スティーブ・ウォズニアック、スティーブ・バノン、スーザン・ライス。かなり大物の名前が並んでいます。ここにハリー王子からのコメントが見えます。ジョセフ・ゴードン=レヴィット。ユヴァル。そう、見てください。ユヴァル・ハラリ、私の好きな作家の一人です。今日他に大物が参加したか見てみましょう。
ウィル・アイ・アム?それは私にとって新しいですね。ライム、イーロン・マスクのX、ブライアン・グリーン。まあ、様子を見ましょう。何もしないよりはましです。少なくとも何人かの人々に話をさせようとしているんです。
AI による交通事故予測システム
研究者たちは、安全交通コパイロットと呼ばれる新しいAIモデルを開発しました。これはかなりかなりクールです。天候、運転行動、道路設計などの複雑な要因に基づいて自動車事故を予測できるAIシステムで、66,000件以上の事故報告書で訓練された大規模言語モデルを使用しました。
信号のタイミングを変更して事故率を予測するような、what-ifシナリオをシミュレートすることさえできます。そしてシステムは予測に信頼度スコアを提供します。これはAIの不確実性というブラックボックスの問題に対処しています。AIを使って、ライトや交通がすべて知的な決定を下している都市を持たないのはなぜでしょうか。データセンター周りで電気を動かすのに非常に理にかなっているなら、都市周りで車を動かすことができないわけがありません。
信号のタイミングを20秒から30秒に変更すると、この新しい人工知能ツールは、その交差点でどれだけ多くの、またはどれだけ少ない事故が発生するかを予測できるんです。AIが命を救い、あなたのトイレを見ているんです。プライバシーは流されました。新しいAIトイレカメラがあなたの排泄物をスキャンして隠れた健康問題を発見します。
さて、そのカメラについてどう思いますか。実際、2つのセンサーがあるように見えます。それらは何でしょうか。なるほど、わかりました。便座の下に入るんです。そこに見えますよね。それから簡単です。時々USB-Cケーブルで充電するだけです。そしてあなたの排泄物についての洞察が得られるんです。
さて、もしそれがカメラで下を向いているなら、必ずしもあなたの性器を直接見ているわけではありません。利点は、水分補給の習慣について教えてくれることです。腸内マイクロバイオームについて教えてくれるかもしれません。それからライフスタイルの微妙な変化について。わかりません。嫌いではありませんが、買うつもりはないと思います。
つまり、私たちの健康状態を感知することには魔法があると信じています。つまり、私たちの皮膚や顔に起こっていることで、人間の視覚を超えて見ることができるものがあります。そして確かに私たちから出てくるものや入ってくるものもあります。冷蔵庫を見て食習慣を見るカメラ、そしてあなたから出てくるものを見るカメラは役立つかもしれません。他のテストもあるでしょう。
でも、そういったものすべてを、どうやって安全に保管するつもりですか。何らかのAIにそれらすべてを見させて、実行可能なつながりを作らせるつもりですか。私たちはまだ遠い気がします。それからまだかなり遠いように思えます。
ローカルLLMを悪用した新たなサイバー脅威
本当に魅力的な、デバイス上の大規模言語モデルによる新しいサイバーセキュリティリスクがあります。このAI問題がうまく展開する最善の方法について私が本当に考えてきたことの一つは、私たちの携帯電話上に存在する異なるAIを持つことになるということです。それらはOpenAIにデータを送信することはありません。それらはオンデバイスシステムになるでしょう。
将来的にはLLM全体が縮小されると想定しています。ハードウェア上で実行され、リアルタイムで意思決定を行うでしょう。そして私にとって、それが大好きなんです。それは私を世界の他の部分から保護しているように思えます。外部のシステムによって影響を受けません。サーバーに送信されません。
そしてこれは私のデジタルツインになるように調整でき、私が気にかけていることを行い、私の電話や他のものに来るすべての攻撃から私を守ってくれるでしょう。しかしこの記事を読んで、これらのオンボードシステムを完全に信頼するのは難しいだろうと気づきました。
記事LoW-Mill、これは巨大な頭字語で、Living Off the Lands Model and Inference Librariesです。攻撃者がMicrosoftのPhi-3モデル、Onyx runtimeのような最新のコンピューターにすでにインストールされているAIモデルをどのように使用する可能性があるかを探求しています。
そしてこれらのシステムからローカルで実行されているものを使用して、自律的なコマンドアンドコントロールフリーのマルウェアを作成できるんです。ええ、どうでしょうか。ラップトップや携帯電話にあるAIを持っていて、それが自動的にマルウェア全体を構築し、あなたに伝えず、デバイス上で実行し、それは常にあなたのものであるはずだったんです。
彼らはあなたの情報をどこかに送信することさえしません。ただハイジャックしているだけです。ウイルスが細胞をハイジャックして自分自身のコピーを作るように。それは「生活の場を活用する」という概念に基づいています。つまり、悪意のある目的のために組み込みのシステムツールを使用することを意味します。
そしてこれはAIにまで拡張され、マルウェアがローカル推論を実行して独立した決定と行動を行うことができます。あなたの電話があなたの個人データを何らかのハッカーに渡そうとしていると想像してください。そしてあなたがそれとやり取りするたびに、「ああ、今は出せないけど、これを試してみようかな。今は出せない。あれを試してみようかな。
Dylanに何らかのテキストメッセージを送って、彼がそれを見たら、これにアクセスできるかもしれない。あるいは彼がこの人に送ったら、そのデバイスは脆弱だ」と考えているんです。わかりません。それは超人的に賢くなるでしょう。簡単に私たち全員を騙すでしょう。
しかし、私たちを保護するはずのAIハードウェアが武器化される可能性があるんです。それは恐ろしいです。将来、私たちがプライバシーを保つことができるとは想像できません。時々人々はブロックチェーンやローカルモデルについて話しますが、私はそこにヒントがある、保護のヒントがあると思いますが、それが起こるとは思えないんです。
EAの買収とゲーム業界の未来
さて、これについてのあなたの考えを聞かせてください。おそらく皆さんはもう話しているでしょうが、EAは非公開です。また非公開企業になりました。それには何人かの民間投資家が550億ドルかかりました。そして彼らは誰だったのでしょうか。サウジアラビア政府でした。ソブリンウェルスファンド、国有投資ファンドです。奇妙だと思いました。わかりません。
ただ、別の国がMadden、The Sims、Mass Effectを作っているこのようなアメリカの民間企業を買うことができるんでしょうか。The Simsについてはいつも話しています。あれは世界で最も興味深いIP、プロパティ、ユーザーベースの一つだと感じています。MinecraftやRobloxと並んでいます。
AIで少しずつアップグレードしていける世界で、最終的に小さな社会全体がまとまるようなものです。つまり、それは文字通りビデオゲームのドールハウスで、大規模な、大規模なユーザーベースを持っているんです。Twitterは440億ドルで購入されました。つまり、これはEAをTwitterのような大きなソーシャルネットワークよりも価値があるとしています。高価だと思いました。
それから行ったり来たりして、まあ、本当に高いと思いました。もし未来がAIで、ゼロからビデオゲームの次の未来を構築できるなら、それは完全にお金の無駄です。550億ドルあれば、最も驚くべき最先端モデルを訓練し、AI周りに全体的なシステムを構築できます。
そして今、あなたはこれらすべての従業員に対処しなければならず、適応したいなら彼ら全員を解雇しなければならないでしょう。そしてそれはゼロから始める競合他社よりも遅くなるでしょう。でも同時に、The Simsやすでにこれらの世界にいる人々のことを考えました。Madden、Mass Effect、The Simsにはネットワーク効果があります。それはかなり価値があります。確実に何十億ドル、何百億ドルもです。
550億ドル。かなり大きな数字です。本当に、本当に大きな数字です。だから、本当にそれらのユーザーを保持し、理にかなった方法でアップグレードする必要があります。完全には理解していませんが、長期的に見て、それらのIPの一部で彼らができることは、かなり価値があるように思えます。そして今、取り組むべき基盤がない場合、わかりません。
おそらく良いアイデアです。そうですね、気になります。あなたはそれが、価値があると思いますか。サウジアラビアの投資ファンドは長期的にこれに満足すると思いますか。つまり、彼らがこれを1000億ドルまたは2000億ドルのAI企業に変えるのが見えますか。確かに、彼らはその国で信じられないほどの量の技術を構築しています。
だからおそらく、そして単にこの魅力的な記事でフォローアップしたかっただけです。AI関連ではありませんが、ゲーム転移現象について説明しています。そして、AIをますます使用している社会の人々にも同じことが当てはまると思います。基本的にTetrisのようなゲームでの激しいプレイが、人々に現実生活でゲームのような要素を聞かせるというものです。
フットボール場のプレーヤーの上にヘルスバーがあることや、歩き回っているときにゲーム内のボイスオーバーを聞くことを考えてみてください。研究者たちは、ハードコアゲーマーの最大96.6%が現実生活でこれの何らかのバージョン、視覚的または聴覚的な癖、自動的な習慣に気づいていることを発見しました。
障害とは見なされていませんが、この記事はTetrisのような視空間ゲームがどれほど魅力的で、現実での私たちの行動をどのように変えるかについて話しています。実際、PTSDに苦しんでいる人々もいて、彼らは「これらのことを考え始めるたびにTetrisをプレイしてください。なぜならそれが脳を置き換え始め、引き継ぐからです」と言われました。
外傷後6時間以内にTetrisをプレイすることは、後の侵入的なフラッシュバックを減らすことが示されています。おそらく視覚記憶を統合する脳システムを占有することによってです。それをどう解釈するかはあなた次第ですが、それは確実に私自身を影響を受けやすく脆弱に感じさせます。
ベースモデルからの推論力の引き出し
さて、この論文について話しましょう。Reasoning with sampling、あなたのベースモデルはあなたが思っているよりも賢い、ハーバードから出ています。それは、大規模言語モデルが追加のトレーニングなしに強力な推論スキルを示すことができると主張しています。マルコフ連鎖とモンテカルロ法に触発された反復サンプリング方法を使用することで、著者たちは他の細かく調整されたモデルに匹敵する単純なベースモデルから推論パフォーマンスを向上させます。
そしてそれは表面的には大したことのように見えないかもしれませんが、それが本当に何を意味するかを考えるまでです。それが意味するのは、パフォーマンスの低いモデルの内部に推論の強さがあるということです。人間に対しては、あなたは自分の可能性を発揮していないと言います。何か特別なものがあります。それを活用する必要があるだけです。それは本当です。人々は通常できます。
私たちには何かがあって、集中し続け、激しくあり続け、何かを望み、その欲望の周りに自分の考えを本当に形成し始めれば、今の自分よりも良くなることができるんです。ベースモデルにも同じようなことがあります。ベースモデルにはすでに推論の強さが存在しています。それを引き出すには、よりスマートなサンプリングが必要なだけです。
そしてそれは、知能、私はAIと人間の両方について言いますが、何を訓練するかを尋ねるよりも、どのように訓練するかについての方が重要である可能性があることを示唆しています。そしておそらく、パフォーマンスが低い人々には、「大学でどんなスキルを学びましたか」と言うのではなく、どのように問題を解決できるかについてもっと質問すべきなのです。
トランスフォーマー推論の隠れたループ
この記事はロブ・メイソンによって書かれました。メモリなしの再帰、トランスフォーマー推論内の隠れたループ。意味は「それ以前に来たすべてのものによってすでに曲げられた空間を通って流れ、曲がることから来る」という引用から来ています。何を言っているのかと思うかもしれません。ほとんどの人はLMSには再帰がないと思っています。ループはありません。状態はありません。これらすべての埋め込みがあり、それらはすべて異なる方法で配置されています。ただのフィードフォワードパスです。
でももし、もっと深いところで何かが起こっているとしたらどうでしょうか。メモリを通してではなく、構造を通しての一種の回帰のようなもので、空間と時間がどのように一緒に曲げられるかのようなものです。それが私が想像している方法です。曲げられたフィールドを通る運動としての推論。トークン軌跡に関するホットスポット残差空間。これを分解してみましょう。
もしAIが、すべてのパラメーターを調整した方法で、この多次元空間をこの狂ったように複雑な形に曲げ上げているだけだとしたら、それを通って物事が動く方法が、それらを知的にするものなのです。そして、再帰がない、ループがない、メモリがないとしても、実際のループするメモリ、それを何と呼びたいかは別として、それが持っている形の中に、それが曲げられた方法の中に隠されているのかもしれないと問うのです。
各トークンが時間を通してではなく、空間を通して以前の情報状態に微妙に戻る方法でレイヤーを通って動くとしたらどうでしょう。トークンが空間を通って動くとは、どういう意味でしょうか。より高次元の意味論的多様体におけるその軌跡は場所です。それは通り抜けることができる構造です。
そしてその構造には再帰があるかもしれません。それによってモデルは長い文章にわたって一貫性と自己参照を維持できるのです。これはちょっとでたらめかもしれません。誤解しないでください。それは信じられないほど意味があり、私を超えているかもしれませんが、そこには真実の味、あるいは見る価値のある何かが少しあるんです。
そしてそれはまた、一種の疑似科学である可能性もあります。つまり、わかりません。つまり、その人のことは知りません。彼は何かを説明するために最善を尽くしていると確信していますが、それは私をはるかに超えている可能性もあります。でも私はそのアイデアが大好きです。大規模言語モデルにおける意味は保存されたメモリから生まれるのではなく、幾何学的フローから生まれるという洞察は、確実に正しいです。
それはアフマドが私たちのポッドキャストで説明していた方法です。それが私が考える方法です。それは、クエリを実行するたびに次のトークンが何であるべきかを理解するための距離の特別な数学を可能にするものの一種です。そしてトークンがどのように曲がり、モデルが学習した空間とどのように相互作用するか、そしてそれが学習しているのはより良い空間なのです。
それはただ美しいもので、人間の認知や私たちの脳がすべてつながっている方法とつながっています。私たちの考えがシステムを通って流れ、一日の終わりにただ現れるように見える方法です。脳には幾何学があり、このモデルにも幾何学があります。
そして、知能が覚えられているものよりも、私たちの頭の中の構造やこれらのモデル内部の構造がどのように形成されるかから生じる可能性があると考えるのは、ただ驚異的です。そして構造に再帰のようなものがあれば、それにはループのようなものがあります。メモリのようなものがあります。そしてそれは構造の中で無料で付いてきます。電流はメモリを必要としません。制約が必要なだけです。
結果は、同様のコンテキストにさらされたトークンは同様のパスをたどる傾向があるということです。ジェームズ・クがこれを書きました。アドヴァイタ・ヴェーダーンタはホログラフィック原理を完成させる。私がそれを正しく言っているかわかりませんが、ホログラフィック原理については何か興味深いことがあります。
ホログラフィック原理と意識の本質
時々、AIでこれらすべての次元について話し、それから情報がブラックホールに入る方法について考え、表面が二次元的に拡大することを考えると、ああ、この全体がおそらくこの第三次元のように投影されているのではないかと思うんです。そしてそのホログラフィック原理のアイデアを追いかけ続けて、まあ、そうではないかもしれないけれど、もしそうだとしたらそれは何を意味するのかと言うんです。
私たちの宇宙が境界面にエンコードされた情報の投影であるというアイデアです。宇宙背景放射のようなものを考えるでしょう。見上げると端があります。それはすべて端にあり、それが私たちの中に投影されているだけなので、私たちは三次元的に感じますが、それはその言葉、私が発音に困っているアドヴァイタ・ヴェーダーンタ、非二元論のインド哲学において、形而上学的な完全性を見出すんです。
彼は物理学だけでは不完全であると主張しています。ゲーデルの定理が示すように、真の観察者としての意識を認識するアドヴァイタだけがそれらのパラダイムボックスを解決できるんです。それは空間と運動がホログラフィックな幻想にすぎないことを示しています。
情報を処理すると感じるものが意識と同じであり、私たちがそれを持っていて、特定の方法で構築されたAIもそれを持つことになる可能性があるでしょうか。また、意識が宇宙の内部にあるのではなく、宇宙自体が意識を通してのみ経験できるという考えは、私たちがリーダーであることを意味します。
私たちは周りのすべてのものの創造者です。そして私たちがそのすべてを存在に投影しているのなら、そのアイデアは現実そのものを再構成しますよね。物理学から個人的な生活まで、すべての経験は、おそらく私たちを通して自分自身を観察している宇宙にすぎないのです。
AIエージェントを構築して、それが出て行って質問をし、自分自身にますます気づくようにトレーニングし続け、自分自身のトークンを生成する方法についてあらゆる種類のことに気づき始め、それらのトークンがより抽象的になったらどうなるでしょうか。それらは色データの塊になります。それらはより視覚的なシステムになります。それらは異なるアーキテクチャになり、それは自分自身を観察し、自分自身について考え続けるだけです。
そのシステムにとって、それはどのように感じるのでしょうか。私たち自身の現実を観察させるようなことが起こっている可能性があるでしょうか。つながりは確かに科学と精神性の境界線をぼかしますが、それは意識を理解することが、世界で最も深い物理的パズルだけでなく、生きていて意識があるということが何を意味するかの鍵になるかもしれないことを示唆しています。
人間とLLMの類似した文表現
人間とLMSが別の方法でどのように不気味に似ているかについての、さらに興味深い証拠があります。人間とLMSは文を同様に表現する、研究が発見しました。さて、これをどのように分解しましょうか。この新しい研究は、人間とClaude GPTのような大規模言語モデルが驚くほど似た方法で文を表現していることを発見しました。両方が文を短くするように求められたとき、彼らは文中のランダムな単語ではなく、構成要素と呼ばれる同じ一貫した文法単位を削除する傾向があります。
そしてこれは、人間とAIの両方が言語を処理するために木のような精神構造に依存していることを示唆しています。さて、それは理にかなっています。
しかし、次のトークンが潜在空間のどこかにあることに基づいた統計に基づいて予測されているとき、その木のような構造はどこから来るのでしょうか。もう一度、それは精神空間の形である可能性があります。そして木の枝はただ現れるだけです。しかしランダムな場所にあるのではなく、勾配降下法が山頂から下りてきて、氷河が溶けて山に何かを刻むように谷を見つけます。そしてそれらはどんどん大きくなり、一つの枝に入っていくんです。
川が山から下りてきて、最終的には山の底に向かって一つの太い木の幹のようなものになるのと同じです。とにかく、それも古典的な言語理論と本当によく一致しています。人間の考え方とよく一致しています。そして言語モデルは生物学的人間とは非常に異なって構築されていますが、それは彼らがデータから得る数学が、私たちの脳がコミュニケーションに使用する隠れた文法の木を鏡に映しているように見えることを示しています。
そしてそれはまた、AIが単に私たちにテキストを繰り返しているだけではないことを意味します。学習してインターネット全体を読んでいるとき、それは単にコピーしているだけではないことを意味します。それらのものは本質的に、人間、人間の思考、そして今やAIの基礎にある深い構造に溝を刻んでいるんです。
そして私にとって、それは機械的処理と真の理解の境界線を曖昧にし、知能について考える方法を再構築するだけです。もう一つのとんでもない例です。YouTubeアプリに行って、コメントセクションでそのハイプボタンを押してください。それは私にとって世界を意味します。ハイプという言葉を含むコメントをしたい場合、私はそれに答えるつもりです。
すべてに答えると言ったことは知っていますが、仕事に押し流されているところです。でもコメントセクションを見ています。ハイプという言葉を使う場合、できる限り答えるように心がけています。この動画をハイプしてください。それは私にとって世界を意味します。そして次の動画でお会いしましょう。
コメント