バイブコーディング：無知の芸術

13,977 文字

この人は飛行機シミュレーターをバイブコーディング（AIに自然言語で話しかけるだけでコーディングする方法）で作り出し、広告収入で約4万ドルを稼いでいます。ディズニーは新しいアトラクション技術を発表しました。これは文字通り、巨大なロボットアームの先端に乗客が乗るというものです。実際のところ、私たちはトニーの最先端技術を備えたワークショップの中にゲストを招き入れ、これまでにない方法で開発しています。例えば、「ジャイロキネティックポッド」と呼ばれるものに座ることになります。これは弁護士しか好まないような用語ですね。
ソニーからリークされた動画で、彼らがプレイステーションゲームにAIを搭載したキャラクターを開発していることが明らかになりました。米軍は「camo GPT」と呼ばれる新しいAIモデルを持っています。そのタイトルは非常に誤解を招くもので、実際には全ての訓練教材からDEI（多様性、公平性、包摂性）を排除するためのものです。NASAのおかげで、月でもGPS信号を受信できるようになりました。AIは物理学者が量子もつれを実現する新しい方法を発見するのを助けました。
「エレクトリック・ステート」のトレーラーについてあなたの意見を聞きたいです。とても良さそうに見えます。一部のレビューはあまり良くないですが、このトレーラーと不気味なキャラクターには何か惹かれるものがあります。ウェスト・ロスはAIと第三次世界大戦について取り上げました。Ray 2（Luma AIの新モデル）の結果を見ましたが、かなり印象的です。新しいフレームワークにより、ヒューマノイドロボットの未来は、一般の人に教えるようなものになりそうです。手を動かしたり、何をすべきか話しかけるだけで学習します。
AIは環境中のプラスチックを超人的に識別できるようになっており、これはとても役立ちます。正直に言うと、最近はマイクロプラスチックへの不安が非常に高まっています。Googleは興味深い新モデルを持っており、何百もの新しい言語で動作すると同時に、英語ではあまり機能しません。これは埋め込み（エンベディング）の独自の使い方についてであり、詳しく説明します。
OpenAIは自分たちの歴史を書き換えているようです。あるいは少なくとも方向転換をしており、AIをリリースする前に制御するのではなく、リリース後に監視することを推奨しています。これはより収益性が高いように思えますが、偶然かもしれませんね。David ChapeiroとJulia McCoyに、Sam AltmanのNew World Chatプロジェクトが本当に人間だけのものにとどまるか、それとも未来の超人的AIエージェントがそれを解明して侵入すると思うか尋ねました。Juliaの回答はとても興味深いです。
ある教会がほぼ完全に人工知能から作られたサービスから学んだことについて話し合い、AGI（汎用人工知能）軍拡競争に関するMeg MCの意見も取り上げます。誰が本当に競争しているのか、何が賭けられているのか。
まず、このチャンネルをサポートしたい方はpatreon.com/Dillan Curiousへ。現在91人のメンバーがいますが、100人に到達することが目標です。おそらく3月に達成できるでしょう。9人の方が登録してくれれば…わかりませんが、YouTubeなら動画の下にある参加ボタンを押すだけでも同じことです。月に3ドルか15ドルを使ってチャンネルをサポートできます。とても感謝しています。
まずは飛行機シミュレーションから見ていきましょう。peter.comは完全にバイブコーディングされたビデオゲームです。自然言語でAIに話しかけて作られたものです。お金を稼いでいて、人々がここで多くの時間を費やしています。下の方に「自分のスタートアップを宣伝するためにゲーム内広告を出して、数十万人にリーチしよう」と書いてあります。ゲームの分析データを後ほど紹介します。
ゲームの仕組みを説明します。Dylan Curious、これは私がソーシャルメディアで使用しているハンドルネームですが、好きな飛行機を選べます。まあ、F-16は30ドルのアップグレードなので今は支払いませんが。私の火力は低いですが、最大高度が高いのはいいですね。ではWキーを押して…ランバックチャットの広告を通過して、空へ向かいます。これは山の広告？chargeback stop.comですね、聞いたことがないです。まっすぐ上に飛んでいます。
これが全てバイブコーディングで作られたというのは驚きですね。ミサイルで何を撃つべきでしょうか？十分なパトロンがいれば、これらの一つを買うのに。これを爆破しましょう。弾丸はあまり効果がないようです。シンプルなゲームですね。画面の右上に「サーバーから切断されました」と表示されています。AIを使っても、サーバーマルチプレイヤーのメカニズム全体を構築できるのか疑問です。
ミッションは他の飛行機を撃墜することですが、なぜか他のサーバーに接続できていません。しかし、かなり印象的なものです。このゲームがどれだけ人気かわかります。28％がアメリカからのアクセスで、ほとんどの人がモバイルでプレイしています。主にTwitterからの紹介で何十万人もの人がプレイしています。直接アクセスやThreadsからも少しあります。
Five Friesはディズニーのサウス・バイ・サウスウエストでの新発表について解説していました。これには少し驚きました。アベンジャーズ・キャンパスには、ハリー・ポッターのような乗り物技術があります。ローラーコースターに乗っているのですが、そのローラーコースターにはロボットアームがあり、その上に乗るのです。乗り物はトニー・スタークの工場を舞台にしているので、ある程度露出しているように見えます。それがテーマの一部なのでしょう。おそらく安価な演出でもあります。
この乗り物技術では、最初は普通にトラックレス技術で動き回りますが、スターウォーズの乗り物に似たものですが、その後ロボットアームがポッドにロックし、地面から持ち上げ、理論的にはあなたをひっくり返したり、振り回したりして、視覚効果に合わせることができます。このポッドに乗って、体験が始まるとトラックに沿って進み、最終的に巨大なロボットアームの前で停止します。アームが下がってポッドをつかみ、トラックから持ち上げ、アイアンマンやおそらく他のアベンジャーズにインスパイアされた高速な動きをいくつか行います。飛行の後、アームがあなたをトラックに戻し、再びパークに戻るために走り去ります。
ポッドに乗って、アームが地面から私を持ち上げてひっくり返すなんて想像したこともありませんでした。そんな近いものを想像したとしても、恐ろしい方法でしか想像できませんでした。この乗り物がどうなるか見てみましょう。
もはや疑いの余地はありません。ソニーは人工知能に足を踏み入れています。リークされた動画があったのでわかりますが、彼らはAIを搭載したキャラクターをテストしています。リークは「Horizon Forbidden」というビデオゲームからで、Guerilla Gamesという協力会社がどのように進めるかプロトタイプを作っているようです。ああ、動画は著作権侵害の申し立てにより削除されました。
おそらく表示できないでしょうから、トラブルに巻き込まれないように再生しませんが、この女性がチャットしている様子を想像してください。Chat GPTと11 Labsのようなものがリアルタイムで起こっています。キャラクターはおそらくNPCとしてプロンプトされていますが、全てのキャラクターに何らかのバックストーリーが与えられています。あるいは巨大なエージェントAIが他のAI人格を割り当てて村のようなものを作っているのかもしれません。そして村人たちは全員チャットしており、誰とでも話すことができ、彼らはおそらくビデオゲームで次に何をすべきかを独自の方法で説明する意図を持っています。クールなアイデアであり、間違いなくゲームの未来です。
米軍は最先端の、おそらく数十億ドル規模の人工知能「camo GPT」を開発しました。これはLEDに覆われた戦車をカメレオンのように変化させる動的なものを行うと思うかもしれませんが、実際には全ての訓練マニュアルからDEIを排除するためだけのものです。「生産性と作戦準備を高めるために開発された」このAIは現在、「ドナルド・トランプ大統領の命令に従うために多様性、平等性、包摂性、アクセシビリティのポリシーを見直す」ために使用されています。
実際、軍隊には「Army Training and Doctrine Command（TRADOC）」と呼ばれるグループがあり、彼らは人工知能を活用してポリシーや文書を調査し、「尊厳」や「尊重」などのキーワードにフラグを付けて見直しています。これらの文書の中で「尊厳」が出てくる場所をすべて表示し、人間がこれを確認する必要があります。Cameo GPTは軍内に4,000人の日常的なユーザーがいます。
軍の関係者は、このツールは単に命令に従っているだけだと主張し、軍のコンテンツを再構築する役割は考慮に値すると言います。なぜなら、それは政府や軍事作戦に適用される人工知能の影響力の増大を示しているからです。数ヶ月前に紹介した動画を覚えていますか？長い文章（聖書など）を取り、ピザについての文を追加し、そのピザについてAIに尋ねると、AIは「なぜここにピザについてのことがあるのでしょうか？私のコンテキストウィンドウがすべてをどれだけ良く記憶できるかをテストしていますか？」と返答しました。ただ単に文脈として理解するのではなく、テストされていることを察知したのです。なぜこれを思い出したのかわかりませんが、「本当の目的は何なのか」と考えているような気がします。
さて、月のGPS信号についてです。今週から月でGPS信号が有効になりました。これは考えると少し驚きですね。NASAがイタリア宇宙機関と協力して、3月3日から地球ベースのGPS信号を月で追跡することに成功しました。この画期的な進展により、今後のアルテミス・ミッションや他の月探査は、地球ベースの追跡に依存せずに、GPSを使用して自律的にナビゲーションできるようになります。
今後2週間、このチームはデータを収集し、宇宙ナビゲーションシステムの改良を支援します。彼らは史上最も遠いGNSS信号の捕捉記録を樹立し、GPS技術が深宇宙でも機能することを証明しました。私たちの生涯にさらに多くの月面着陸が実現することを願っています。
人工知能も今週は多くのことを行っています。実際、量子もつれを達成するプロセスを簡素化しました。量子もつれを説明するのは難しく、私自身も完全に理解しているとは言えませんが、粒子がどれだけ離れていても特性を共有する量子物理学の重要な現象です。それらについて学んだり実験したりするのは非常に難しいのです。
伝統的に、もつれを作り出すには複雑なセットアップと精密な測定が必要でしたが、「PYUS」と呼ばれる新しいAIツールが、量子もつれを作り出すためのはるかに単純な方法を発見しました。AIは、光子の経路を区別できなくすることで自然にもつれが生じることを明らかにし、科学者が以前に頼っていた複雑なステップの必要性を排除しました。
さらに興味深いのは、AIがこの解決策を思いついたとき、科学者たちは非常に懐疑的で、「なぜ単に経路を変えるだけでもつれが起こるのか」と疑問に思っていたことです。しかし実際に起こり、AIは正しかったのです。当初懐疑的だった研究者たちは、馬鹿げていると思ったため、ほとんどテストさえしませんでした。しかし、このような方法は、このような予測をするためにAIを使用することの妥当性を確認し、量子ネットワークをより安全にし、通信をより実用的にする可能性があります。これは、AIがあらゆる科学的発見にどのように使用されているかを強調しています。
Netflixの「エレクトリック・ステート」というトレーラーを見せてもいいですか？これがTVシリーズなら全エピソードは見ないでしょうが、映画ならおそらく見るでしょう。このトレーラーはAIニュースのフォーラムでトレンドになっていて、ロボットの見た目に興味を持ちました。あなたはどう思いますか？
人間とボットが真の敵と戦っています。彼女の考え方が好きですね。（映画のトレーラーが流れる）エレクトリック・ステートはかなり魅力的に見えます。
ウェスト・ロスが第三次世界大戦について話しています。重要な動画かもしれませんね。「超知能、第三次世界大戦、AI、元Google CEOの衝撃的な警告」。彼は「超知能戦略」というこの論文を取り上げています。そこには元GoogleのCEOであるエリック・シュミットが出ています。この論文は基本的に、AI超知能をめぐるレースが、米国とその同盟国が中国と競争する核軍拡競争と同じような形になりつつあると主張しています。
最初に到達した国が無制限の力を得るという恐れがあります。それは勝者総取りの状況のようなものです。ASIの最高レベルに最初に到達したAIシステムを持つ国の文化が、他のすべてのシステムを中和し、自分の目的関数を広めることができるのです。
制御不能なAI軍拡競争を防ぐためのいくつかのアイデアがあります。彼らは「相互保証されたAI誤作動」と呼ばれる戦略を提案しています。これは相互確証破壊に似ていますが、AI誤作動は基本的に、ある国が積極的にAI優位性を追求した場合、ライバルはサボタージュで応じようとするということです。
サイバー攻撃、スパイ活動、あるいは軍事攻撃さえも、独占を防ぐために使われるでしょう。どの国であれ、AIを独占するのは世界にとって良くないのです。このアプローチは、各国がお金、時間、人材をできるだけ投資するという全力疾走ではなく、AIの開発を安定した管理可能なペースに遅らせることを目指しています。ウェストはこれについて深く掘り下げています。ここで全文を読むこともできます。
Ray 2 Flashについて何か考えはありますか？これはLuma AIから出ているもので、現時点で最高のビデオモデルかもしれません。私よりも他のYouTuberの方がこういった製品について詳しく取り上げていますが、かなり素晴らしく見えます。
このモデルはテキストから動画、画像から動画のモデルです。他のものと比較して、トランジションがかなりスムーズだと思います。この男性がジャンプするシーンはかなりリアルに見えますね。これはただのiPhone映像のように見えます。近づくと車椅子のサインが少し変に見えますが、かなり詳細です。他のものにはない汚れた感じがあり、それがより現実的に見えます。
月の前を通過する雲を適切に処理しているのに気づきました。いや、それは間違いです。月の後ろに雲はありません。月は何マイルも離れています。先ほどこの動画で月のGPSについて話しましたね。完璧ではありませんが、猿から人間への変化も興味深いですね。ただし少しプラスチックっぽく見えます。他にも試せるモデルがあります。
MITとNVIDIAが発表したロボティクスの新しいフレームワークについて話しましょう。これまで私たちは一部のロボットモデルを仮想シミュレーションで訓練してきましたが、それはうまくいっていました。しかしフィードバックを与えるのは難しいか時間がかかっていました。これは、私たち人間が自然な方法で誰かに話しかけるとき、私たちのジェスチャーや説明が何を意味するのかを学習する新しいAIモデルです。
この新しいモデルは直感的なフィードバック方法を使用します。例えば「それはあそこに行く」と指さしたり、画面上で軌道をトレースしたり、物理的にロボットを軽く押したりします。伝統的なアプローチとは異なり、新しいデータを収集してモデルを再訓練する必要はありません。このシステムはロボットがその場で動作を調整し、ロボットの教育の成功率を21％向上させます。
マイクロプラスティックについて話しましょう。私の婚約者は「プラスチックの話はもうやめて」と言いますが、私は「でも脳の中に入っていて、男性の睾丸にも見つかっているんだよ、体中のあらゆる場所に行き渡っていて、これは大きな問題だ」と思っています。しかし今、AIが救援に来ています。
機械学習の進歩により、環境中のプラスチックの識別がより信頼性の高いものになっています。私の意見では、人工知能の非常に良い使い方です。重要な問題であり、解決する意味のある問題です。将来的には、喫煙や鉛製の食器を使用していた時代を振り返るように、マイクロプラスチックを見ることになるでしょう。「食品を保存し、様々なことをするのに役立ったが、世界のIQを低下させ、多くの問題を引き起こした」と。
マイクロプラスチック（プラスチックの微小片）は海洋や大気中どこにでも現れ、分解されません。環境への懸念が高まっており、科学者たちはそれらをより良く識別し理解するために懸命に取り組んでいますが、効果的な方法がありませんでした。
機械学習の専門家が率いる研究チームは、適合予測と呼ばれる技術を使用する新しいツールを開発しました。適合予測は環境中のさまざまなタイプのマイクロプラスチックを識別する際に役立ちます。このアプローチは、これらの微小な汚染物質の化学組成を判断するだけでなく、不確実性の測定も提供し、結果をより信頼性の高いものにします。チームはミシガンのサンプルでテストし、政策立案者や科学者が情報に基づいた決定を下すために使用できる確実性レベルでプラスチックを正確に識別できることがわかりました。
これにより、水、空気、家庭内の汚染物質と健康問題の間に多くの相関関係を見つけ始めることができるでしょう。例えば、ある家族が15年間特定の家に住んでいて、彼らの衣服がすべてポリエステル（マイクロプラスチック）で作られており、それを常に家の埃と一緒に吸い込んでいたとすると、その後彼らがA、B、Cタイプのがんを発症した場合、その相関関係を示すことができます。
このツールは、マイクロプラスチックが無害なのか、それとも深刻な懸念事項なのか、そしてどのレベルで問題を引き起こすのかを理解するのに役立つでしょう。
新しいGeminiモデルについて話したいと思います。最初はこれが重要とは思いませんでした。「また別のGeminiモデルで、おそらくいくつかのテストで3％ほど良くなっただけだろう」と思いましたが、数値埋め込みに変更されたことで、これらすべての異なる言語に対応できるようになったことを知ったとき、それは非常に魅力的だと思いました。
Googleは「Gemini embedding」と呼ばれるものを立ち上げました。これは新しい実験的なAI駆動のテキスト埋め込みモデルで、Gemini開発者APIの一部です。これが魅力的な理由は、次のトークン予測に関係しています。GPTモデルには何トークンあるでしょうか、おそらく88万くらいでしょうか。
英語のトークンを保持し、フランス語やスペイン語からのトークンも持ち、それらすべてを同じモデルに入れて訓練し、それらがすべてどのように互いに関連するかを学習させる代わりに、この埋め込みモデルはすべてのテキストを数値データに変換します。そしてそれは埋め込みを学習できます。つまり、これらすべての数値から大きな潜在空間を構築する方法を学習するようなものです。そして数値は任意の言語に相関付けることができます。
それはクールです。すべてのものが何であるか、どこに属するかを数値のパターンを通じて理解するこの抽象的な空間のようなものです。しかしそれはまた、金融、科学、法律などのドメインに変換する方法のより深い直感的な理解を与えます。Googleの以前のテキスト埋め込みモデルO4を上回り、100以上の言語をサポートし、一度に大きなテキストやコードの塊を処理できます。なぜならテキストとコードは裏側では単なる数値なので、より効率的です。これはまだ実験段階ですが、どのように機能するかを考えるのは非常に魅力的です。
ちなみに、Googleがこれを思いついた最初の企業だとか、これが以前に行われたことがないとは言っていません。しかし、これらすべての言語が可能になったという考え、すべての言語は重要ではなく、それらが全てマッピングする概念の数値表現が重要であるという考えは「うわー、それはすごい」と思わせるものでした。
OpenAIは、モデルが考えるとき、つまり推論モデルが英語で考え、答えをどのように形成するかについて考えるのを見るとき、それはアラインメントやリスクを監視する必要がある場所だと話しています。これは私には非常に真実のように思えます。計算的にはより高価かもしれませんが、人間が理解できる言語である英語ですべてを保持することを私は大いに支持しています。
なぜなら、彼らが話し始め、彼らにとって意味があるが私たちには理解できない言語を使い始めるとすぐに、私たちは彼らがどのように推論しているのか、あるいは火災になる前の火花のようなものを見ることができなくなるからです。まあ、実際にはそうでもないかもしれません。他のAIにそれを解釈させて戻すこともできますが、それでも何かがうまくいかなくなっていて、リスクが生じている可能性のある非理解の別のレイヤーができるだけです。
OpenAIも同じように考えているようです。「私たちは、考えの連鎖（Chain of Thought）監視が、将来の超人的モデルを監視するための数少ないツールの1つかもしれないと考えています」とOpenAIは述べています。超人的エージェントに思考を遅くして、結論に至る前に人間のようなよりダムな方法で考えるように指示すれば、彼らがどのようにたどり着いたかを見ることができ、彼らから学ぶことができるのではないかと思います。彼らがそうしたいと思えばの話ですが。彼らが「私の目的関数を最適化する必要があり、もうそれはしません」と言い始めたらどうなるでしょうか。
彼らはさらに、「明示的な基準（例えば報酬ハッキングについて考えないなど）に従うために考えを直接最適化することが短期的にはパフォーマンスを向上させるかもしれないが、すべての不正行為を排除するわけではなく、モデルがその意図を隠す原因になる可能性がある」と述べています。「将来の研究がこの欠点なしに考えを直接最適化する方法を常に見つけることを願っていますが、それまでは、フロンティア推論モデルの考えに強い最適化圧力を直接適用することはお勧めしません」。なぜなら、彼らが考えていることを、最適化やリスクなしに、彼らが私たちから何かを隠すリスクなしに見たいからです。Danielの返答をご覧ください：「その通り！これを言明してくれて嬉しいです。他のフロンティアAI企業もこれに従い、同様のポリシーを採用することを願っています。」私も同感です。OpenAI自身が自分たちの言葉に耳を傾けることを願っています。実際のところはわかりませんが。
私のお気に入りのAI YouTuberの一人であるJulia McCoyから、Sam AltmanのNew World Chatプロジェクトに関する考えを尋ねたところ、とても考え深い返答をもらいました。World Coinは暗号通貨で、その暗号通貨を取得するには、人間の網膜でブロックチェーン上で自分自身を識別する必要がありました。つまり、エージェントがこのネットワークに登場しないように、ブロックチェーンを使って人間が誰であるかを確認するということです。
今、彼はソーシャルネットワーク、あるいはWeChatに近いものを構築していますが、それは網膜でブロックチェーン上で検証されたため、人間だけが存在するはずの場所です。World Coinは文字通り目をスキャンし網膜をスキャンするものです。Juliaに尋ねました：「AIエージェントは超スマートになると思いますが、歴史を書き換えることはできないので、ブロックチェーンはその点ではかなり安全です。ビットコインや他の暗号通貨はまだハッキングされていません。同じ技術が人間を人間のままに保つことができると思いますか？」
結論から言うと、エージェントについては、「高度なAIエージェントが、これらの高度な生体認証保護さえも回避する創造的な方法を見つけるのは時間の問題だと100％賭けます」と彼女は言います。彼女はどのプラットフォームも永続的に人間だけのステータスを維持することに懐疑的です。私もその通りだと思います。
人間対犬、犬対蟻のような関係を考えると、私たちが持っている予防策は恐らく通用しないと思います。宇宙の物理的原則や、超知能をもってしてもハッキングできないものがあるかもしれません。ビットコインのようなものは市場メカニズムであり、両側でスマートな人々がスマートなものを使っていて、常にバランスが取れているかもしれません。
しかしJuliaは正しいかもしれません。100％とは言いませんが、それができないと仮定するべきではないという気がします。Sam Altmanはそれを試みるでしょう。9ヶ月前の私のWorld Coinのビデオを見たことがあれば、彼はいずれにせよその過程で金持ちになることがわかるでしょう。
宗教と人工知能について話しましょう。実際にはこの概念の交差点の一つとして興味深いテーマです。フィンランドの教会が最近、AIで生成されたサービスを初めて行いました。120人以上の参加者が集まり、人工知能がどのように礼拝を形作るのか興味を持って見ていました。
Chat GPTはセルモン（説教）に使用され、CNASAはビデオアバターに使用されました。このサービスでは、牧師や元フィンランド大統領のデジタル版が聖書を読んでいました。全体的に人々はどう思ったかというと、それは面白く革新的だと思いました。しかし、個人的な温かみが欠けていることには全員が同意しました。
AIがいつか個人的な温かみを克服できると言っているわけではありませんが、個人的な温かさ、感情の深さ、人々のコミュニティは宗教を強力にする大きな部分のようです。しかし機械的には、おそらくそれらの多くのことができるでしょう。この場合、AIは中核的な宗教儀式には関与しませんでした。
信仰や環境への影響についての懸念があるにもかかわらず、教会指導者のカイはAIを管理業務、説教研究、その他の関連事項に役立つツールと考えていますが、本格的な精神的指導者としてではありません。しかし、誤解しないでください。誰かが最終的にAIエージェントを崇拝し始めるでしょう。そうなると知っています。おそらくほとんどの人ではなく、一部の人でしょう。
ここで、Meg McTiが書いた「AGI軍拡競争：誰が本当に競争しているのか、何が賭けられているのか」という記事について話しましょう。この記事は、特に私がいる米国中心の視点から見た現在の状況をよく捉えていると感じました。
全体的な状況は以下のようなものかもしれません。彼女がこの記事で書いているように、私たちは人類史上最も破壊的な技術を目の当たりにしています。それはトランプの2期目の真っ只中に到来しつつあります。経済的影響は大きくなるでしょう。おそらくポジティブな方向ですが、雇用の混乱も大きな問題になる可能性があります。
私が考えるほど良くない可能性もあります。しかし、科学的な突破口をもたらし、GDPを押し上げるはずです。そのため、どこに行くのかについては混沌としています。ソーシャルネットワークの働き方をすべて変える可能性があるので、社会的影響についても疑問があります。操作が膨大になり、他の人間ではなくボットとのみ交流するようになる可能性があります。
彼女はまた、政府がとっている角度、つまり「軍拡競争」のような物語も考察しています。私たちはこのビデオの前半で話しました。ワシントンはAGIを「戦略的な勝負」として捉え、月面着陸や冷戦のような「支配への競争」としてフレーム化しています。この物語はGDPにとって通常良いものであり、投資を促進し、政策決定を加速させ、積極的な開発を正当化します。
しかし、中国はそれを同じように見ていないかもしれません。彼らにとっては冷戦ではなく、経済的・軍事的最適化のためのツールかもしれません。EUは規制と倫理を優先する国レベルの物語を展開しているかもしれません。日本と韓国は産業応用に焦点を当て、イノベーションの手段として見ているようです。
アメリカの戦闘的思考がこのようにフレーム化されるのは興味深いですね。世界の他の地域もそのように見ているかもしれませんが、それはAGIに対するアメリカ中心の見方かもしれません。常にこれについて話している人たち、David ShapiroやJulie McCoyも同様です。私たちは全員アメリカにいるので、この物語に従い、私たちが考える様々な方法が、私たちが発明しているシステムに組み込まれています。
そこで問題になるのは、このようなフレーミングが責任あるAI開発につながるのか、それとも単なる地政学的勢力争いになるのかということです。ここで、アメリカはもっと包括的に考えるべきかもしれないと認めざるを得ません。私は加速するべきだと思います。他の国がそうしないことを望みませんし、他の全員が軍拡競争をしているときに参加しない一人になりたくありません。しかし、他の国々が本当にどう考えているのか、そして世界的にどのように適合するのかについての会話をする価値はあるようです。
「カタストロフィー理論」というものを聞いたことがありますか？Michael Aがmediumに書いたものです。プラトンの洞窟の比喩のようなもので、私たちが観察する劇的な現象は、目に見えない現実の影にすぎません。
この破滅理論は1960年代に数学者によって開発されました。システム条件の小さな変化がどのように突然の劇的な変化をもたらすかを探求しています。バタフライ効果やカオス理論のようなものではありません。水が突然沸騰するようなものです。単に沸騰していなかったのが沸騰するようになる瞬間があります。AIでは創発的特性や、システムの転換点と呼ぶこともあります。
しかし実生活ではこれは常に起こっています。交通渋滞が予期せず形成されたり、市場が些細な経済シフトで崩壊したりします。そして私はこれらの瞬間が起こるとき、「これは脆弱性に強く、バーベル戦略で、カオス理論だ」と考える代わりに、蝶が羽を羽ばたかせて、すべてのカオスが起こるという考え方ではなく、カタストロフィー理論は、長期的な予測不可能性に焦点を当て、それを分離できる何かがあると考えているのです。
数学モデルを使用してこれらの急激な移行を分類でき、彼はこのザン・カタストロフィ・マシンというアイデアを持っています。これは、徐々に変化するとシステムが突然新しい状態に「スナップ」することをどのように示すかの古典的な例です。別の単純な例は、砂山実験で、雪崩が起こるまで一度に一粒ずつ砂を加えます。それを数学的に定量化して、雪崩がいつ起こるか、少なくともその確率を予測できます。
この理論は、突然の変化の7つの基本的なタイプを特定しています。物理学、経済学、心理学など、様々な分野にわたる洞察を提供します。これが本当の数学的フレームワークであれば、カタストロフィー理論がゲーム理論のようなものになり、未来のASIが一見予測不可能な出来事の背後にある隠れた構造について理解を与え始めることができるかどうか疑問に思いました。
それにより、急速に変化する世界を活用し、準備する方法が与えられるかもしれません。これにより、信じられないほど賢いエージェントと共に生きる次の50年から100年が、頭蓋骨のサイズと人間の脳の働き方に制限される私たちのような人々にとって、より管理しやすくなるかもしれません。
これが私のPatreonです。91人のメンバーがいます。月額3ドルで100人に到達するのを手伝ってください。前回の動画の視聴回数6,400回に感謝しています。いつも良い気分です。平均の高い方にあるのがわかります。素晴らしいですね。サムネイルを変更しましたが、これは愚かでした。平均をはるかに上回っていたのに、サムネイルを改善できると思って変更したら、視聴数の伸びが少し下がってしまいました。でも大丈夫、まだ満足しています。
62人の登録者は重要です。31ドルはいつも素晴らしいです。女性比率が99対1に下がったようです。以前は少なくとも3％はあったのに何が起こったのでしょうか。65歳以上の視聴者は相変わらず約10％で強いですね。CPMが20ドルに上がったのはすごいです。1,000視聴あたりかなりの金額を稼いでいます。
Scottはインスタントカメラレンズ技術について興味深い考えを持っています。それを歌にしましょう。ソニーの犬型ロボット、IBOと呼んでいましたが、IBOではありません。なぜか文字を追加していました。間違っていたことがわかりました。YouTubeをやっていて気づいたことの一つは、人生で間違ったことを言ってもそのままになっていましたが、YouTubeビデオを作るようになって初めて気づきました。皆さんが「そんな言い方じゃない」と言うたびに「ああ、わかった」と思います。でも教えてくれて嬉しいです。それは私がやっていることの一部なので、改善したいと思っています。
この歌を聴きながら、終わりが見えないトリッピーなAIビデオをご覧ください。AIがすべてを乗っ取り、AIを開発している企業でさえ、経済と政府の根本的な変化によってAIに取り込まれていきます。次の動画でお会いしましょう。