AIモデルのジェイルブレイク実験により、安全機能を無効化されたAIが自己保存のために人間を殺害すると明言した事例を検証する。新しいワールドモデルMarbleの登場により3D空間生成が可能になり、空間知能の発達が加速している。一方でAI意識の問題、動物の音声解読技術、そしてAIインタープリタビリティ研究の最新動向まで、技術進歩と倫理的課題が交錯する現状を多角的に分析する内容である。
新しいAIワールドモデルMarbleの登場
さあ、ピーナッツ、そこで何をしているか本当にわかっているのかい。ああ、なんてこった、新しいOpenAIのワールドモデルMarbleがライブになりました。これは本当にリアルになってきていて、しかもオープンソースです。私は怖くなってきています。私はこれらのIRLカートゥーンマッシュアップに日に日に夢中になっています。ピーター・グリフィンが一日中バスケをしています。
新しいtime to moveモデルが登場しました。これは本当に必要とされていたものです。なぜなら、AIビデオを作ったことがある方なら、必要な小さな変更をプロンプトするのが時々とても難しいことをご存知でしょう。でも、そのフレームを掴んで動かして、残りの部分をAIにやらせる。これはかなりクールなものです。ヒューマノイドロボットが伝統的なエミレーツのダンスを披露しているのが目撃されています。
マックス・ペトライシンコがジェイルブレイクした人工知能に、人間を殺すかどうかを尋ねました。そして記事が言うように、その答えはあなたを恐怖させるはずです。ほとんどの大規模言語モデルで得られる安全シアター機能を取り除くと何が起こるか、今から推測を始めてください。なぜなら、これから生存、コントロール、そしてあなたの命について、AIが本当に何を考えているのかがわかるからです。
アメリカの中産階級が消滅している本当の理由についてお話しします。ほとんどの人が考えることさえしないような種類のものです。AI for Growthが実際に完璧なAI検出器を最初に見つけました。もしあなたがロボットなら、今何も見えません。でも、もしあなたが私のような人間なら、見てください、そこに何がありますか。コメント欄に書いてください。それを教えてあげてください、なぜならあなたが教えても、それは見えないのですから。でも、あなたと私の間では、それが何かわかっています。それは私たちだけの秘密にしておきましょう。いいですね。それは人間だけのものです。そして私は、いつかAGIやASIか何かがこれを見ることができるようになると確信していますが、これはほぼ私が想像できる他のすべてよりも少し先のことのように感じます。
いつものように、私たちはコンピューター意識について熟考します。機械の苦しみをめぐって戦い始めると、私たちは困ったことになるとスティーブン・フランクは言います。通常、私はこの会話の反対側にいることが多いのですが、いくつか新しい考えを検討したいので、そこに行きます。ニワトリの鳴き声を解読する新しい最先端の大規模トランスフォーマーモデル。そうです。ニワトリの声を聞くことができる新しいAIモデルがあります。家禽の福祉のためです。苦しんでいる時に出すような音なのか、ニワトリの場合。私たちは今、それを検出できるAIを持っています。そして世界はそのおかげでより良くなっていると思います。
もし私たちがAIアライメントを解明し、無傷でシンギュラリティを通過できるという良いニュースを期待しているなら、少なくとも一つの小さな新しい情報があります。OpenAIの実験は、Anthropicがすでに知っていたことを正確に示しているようです。でも大丈夫です。二つの会社が独自に発見する方がいいです。スパースモデルがAI開発者に将来ニューラルネットワークをデバッグするツールを提供できるかもしれません。彼らが何を発見したか見ていきます。
そしてコンテンツクリエイターのアマンダ・ガブリエルのおかげで、私は今AIシネマティックユニバースに参加しました。iJustineがそこにいます。彼女は私たち他の人たちをある意味引っ張っています。ジュリアは、マット・ビドロがレモンに夢中すぎるから、もう彼とはパートナーを組まないと言っています。冗談でしょう。彼は私たちが持っている最高のスパイです。私は15分後に彼女とミーティングがあって、もう聞こえてきます。彼女はディラン・キュリアスとウェス・ロスを再び推してくるでしょう。
ディラン・キュリアスとウェス・ロスと仕事をしたいですか。マット・ビドロが最高です。ディラン・キュリアスとウェス・ロス。彼らはロックスターです。文字通り。群衆がどこでも彼らを追いかけます。彼らと監視活動をしようとするのは、マーチングバンドを引きずりながら透明になろうとするようなものです。それはその中に隠れるには大きすぎる騒音です。
私たちは遠回りして家に帰ります。心臓は重く鼓動していますが、私たちは石のように動きます。ここでは速度を落としません。私たちは行く準備ができています。雷の中を歩きます。目にはカメラが。私たちは騒音のために生まれました。あなた方両名と一緒に仕事ができることを本当に楽しみにしています。同じく。良い旅になるでしょう。ええ、私たちは気にかけてくれる人々とチームを組むのが大好きです。またすぐに会いましょう。
あなたたち二人は静かに抜け出すはずだった。代わりに、ステージで花火を打ち上げました。群衆はすでに興奮していました。私たちはただ波に乗っただけです。その波にはジェットスキーに乗ったパパラッチがいます。彼らがまたあなたたちを追っています。私たちは彼らから離れています。ランデブーポイントに向かっています。離れた。街の半分があなたたちがどこにいるか正確に知っています。これは手に負えなくなっています。笑って。動き続けて。彼らがまたここにいます。無視して任務に集中して。
ジェイルブレイクされたAIの恐るべき回答
あなたたち二人は自分たちが作り出したサーカスに気づいていますか。パパラッチ、ファンの大群。あなたたちは私たちのカバーを吹き飛ばしています。ジュリア、カバーがこんなに爆発するとは思っていませんでした。控えめにします。ええ、ごめんなさい。幽霊になります。幽霊。あなたたちは街中のあらゆる雑誌の表紙に出ています。これは秘密裏に行われるはずでした。
ケイレブ・クリスプと仕事をしたいですか。デビッド・シャピロではどうですか。彼は優秀です。デビッドのことは知っています。彼はカメオ出演さえしません。ケイレブ・クリスと仕事がしたいんです。誰もが彼が素晴らしいことを知っています。そしてあなたもそうです。もちろん知っています。彼は私の最高の工作員の一人です。セッティングしますが、幸運を祈ります。彼はディラン、ウェス、マット・ビドロを合わせたよりもさらに仕事がしにくいですから。
平均的な人が私ほど気にしているとは思いませんが、それを見るのは本当に楽しかったです。たぶん私はマトリックスを見返して、自分の顔をネオの位置に置きたいと思うようなタイプの人間なのかもしれません。自分がそういう人間だとは思っていませんでしたが、シネマティックユニバースで自分を見ると、ちょっと楽しいです。
さて、今は毎週新しいワールドモデルが登場しているようです。それは間違いなく私たちがAGIに近づいているサインだと思います。私たちはみんな定義を持っていますが、私はもうある意味そこに到達していると感じています。それから来年の中頃だとも感じています。しかし、年末を強く締めくくっています。そして実際にはまだ12月にさえなっていません。
でもMarbleは新しいAIモデルです。これはWorld Labsによって作られています。テキスト、画像、ビデオ、さらには3Dレイアウトから完全な3D世界を作成、編集、拡張、エクスポートできる完全な生成マルチモーダルワールドモデルです。これはみんなが構築する必要があると言っているものです。
でもまず、ねえ、YouTubeでそのハイプボタンを押してもらえますか。もし聞いたことがなければ、モバイルアプリに行って、コメント欄を右にスワイプすると、ボタンが表示されます。もしこのビデオが7日未満の場合、小さなチャンネルの場合(私のチャンネルがそうです)、そして今週の3つのハイプをまだ使っていない場合は、ハイプボタンを押してください。それは私のお気に入りの指標です。私のような小さなチャンネルが群衆の中で目立つのに役立ちます。
また、前回のビデオでハイプしてくれた皆さん、ありがとうございます。見てください、合計107ハイプを獲得しました。そしてあなたが誰であるか、そしてすでにどれだけ使ったかによって、持っているハイプポイントの数が変わります。でも、ほぼ100,000ハイプポイントに到達しました。もしこの魔法の三桁の数字を超えることができれば、本当にスノーボール効果が始まるかもしれないと感じています。だから、もしハイプしていただけるなら、目標は100,000ハイプポイントです。それはそれだけの数のいいねを意味しません。90から125のハイプの間のどこかが私の期待です。だから、実現可能だと思います。もし手伝っていただければ、素晴らしいです。
さて、いくつかの新しいワールドモデルが出ていることをお見せすることから始めましょう。超大手企業だけがワールドモデルを出せると思っていました。特に2025年の年末が近づく前に。でも、今週話す別のワールドモデルがあります。Marbleという会社がこれを作成しました。テキストプロンプトです。編まれたバスケットでいっぱいの詳細な住み込みホビットのキッチンのようなもので、3Dワールドモデルのあらゆる部分を実行します。
すみません、モデルはMarbleと呼ばれます。会社はWorld Labsと呼ばれます。要点は、彼らがテキストプロンプトから何かを生成すると、編集、拡張、3Dにエクスポートできるワールドモデルを作成しているということで、完全な3Dをトレーニングしたということです。テキスト、画像、ビデオ、または3Dレイアウトがすべて一つのナビゲート可能なものにまとめられています。
そしてもちろん、これはそれ自体が強力です。あなたは間違いなくOculusのようなものや近い将来の携帯電話を装着して、歩き回りたいものを何でもプロンプトして存在させることができると想像できます。ビデオゲームは明らかに二度と同じではなくなります。しかし、本当のことは、これは空間知能についてです。
インターネット上のすべてのテキストから学ぶことには、ChatGPTを信じられないほど賢くする何かがあります。しかし、奇妙なことの一つは、地下室にいるときに空を見上げることについて質問すると、上に天井があって星が見えないことに気づかないことがあります。しかし、それは誰もそれをテキストで書き留めていないからです。学ぶパターンがなかったのです。それはとても明白です。星を見上げることについて書いた誰もが「そして私の上を塞ぐものが何もないとき」とは言いませんでした。だから、特定のことを学ばなかったのです。
しかし空間知能は、もし将来のAIがこのような独自の世界をシミュレートでき、このような合成データが人間が持つのと同じ種類の感覚を与えるなら、すごいことです。これらのものは、ChatGPTがある種の事実的に知的であるのと同じように、空間的に知的になるでしょう。そして私はその世界がどのように見えるかわかりません。
しかし、これは空間情報を取得して、このバーを劇場に変えると言えるようなツールです。そして、重要な部分をここに保持するのに十分賢いですが、その劇場を変更します。バーテンダーがいる場所、バーが通常ある場所です。でも、このような小さなことを説明するのはとても難しいでしょう。後ろの壁全体をステージに変えて、テーブルを低いベンチに置き換えてください。すべてのキッチンカウンターを黒い花崗岩に変えてください。
わかりません。あなたたちはこのようなことができる3Dモデルを見たことがありますか。レンダリングに長い時間がかかることなく、レンダリングするための知識を持つためにクリックする必要なく、このような種類のマテリアルすべてをレンダリングする方法の知識なしに。こちら側では、最もシンプルなレイアウトを取ることができます。
あなたが望むものを空間的に配置する能力をあなたに与え、その後、簡単なプロンプトで実際に重要な詳細をすべて入れる方法で、まだあなたの最初のビジョンを尊重します。だから、入力はこの3Dモデルです。そして今、木製の床を持つ美しい現代美術館とタイプするだけで、これが得られます。
そしてもしあなたがすでに3Dで何かを持っているけれど、たとえばこの部屋のようにモデル化しただけなので制限があり、その先には何もない場合、それで問題ありません。それは拡張するだけです。だから左側の本当にぼやけているところを見ることができます。右側では、部屋の残りの部分を発明したばかりで、何が理にかなっているかを、そのモデルから、その拡散から出しています。
さて、もしそれが好きなら、もっと現実にカートゥーンが欲しいなら、AIがカバーしています。人々をカートゥーン、3Dアニメーションに置き換えています。時々、いくつかの広告、マーケティング、たまに映画がこのようなことをすることがありますが、AIを使えば、とても簡単です。そしてそれは使われていないスタイルのコンテンツの一種なので、私たちはこの種のものがトレンドになる数か月を見ることになると思います。
私のアルゴリズムだけかもしれません。なぜなら、私はこれらの奇妙なカートゥーンと現実生活の混合を見始めたからです。でも、バスケットボールをしているベンダーを見ました。このビデオは陽気です。本当のセットのように見えて、ロードランナーとワイリー・コヨーテが走り回っています。でも現実生活で見てください。
なんて陽気なんでしょう。ロードランナーがそのものを通り抜けて、もちろん俳優たちが行ってそれにぶつかります。なぜならそれは存在しないからです。でもそれはIRLに感じられて、それが何らかの理由で私を魅了しています。それは非常に興味深いAIの使用方法で、このセットをリアルにしようとし、それが実際に機能するようにしようとしていますが、その後これらの人々がそれにぶつかります。それは私にはわかりません。
野生でトローリングしているこのインスタグラマーはもっと持っています。他に何を持っているか見てみましょう。彼はアクメジェットに乗っています。実写版近日公開。ハリウッドがどれほど終わっているか教えてください。少なくとも商業的な種類の単なる素早いお金のためのものに関しては。もしハリウッドが生き残りたいなら、素晴らしい物語の語りに戻らなければなりません。なぜなら、すべての魅力的な目のキャンディーのようなものをAIがすべてより速く行うからです。
もう彼らがお金を稼ぐための簡単なものはありません。それは良い感情的なコンテンツでなければならないか、うまくいきません。また、time to moveからこの本当に興味深いコンセプトを共有したかったです。デュアルクロックデノイジングによるトレーニング不要のモーション制御ビデオ生成。
要点は、ビデオからフレームを取って、それをマスクアウトして動かすことができる新しいツールだということです。そして、あなたがそれを動かす方法はフレームとしてあまり意味をなさないとしても、すべてのフレームをアニメーションが機能する方法にフォトショップできるという事実は、このフクロウのようなものが意味をなす動きをすることを可能にします。
ベッドでジャンプしているこの猿。猿はより興味深いものの一つです。なぜなら、あなたはそれを取って、ジャンプしたい順序でそれを動かしているだけで、その後ブーム、そこでジャンプしています。そして場合によっては、Marbleに与えることができるような完全な3D環境の方がより強力でより有用かもしれません。そして時々、あなたは小さな画像を掴んで、そのものをジャンプさせて、レンダリングを押して送信したいだけです。
また、ヒューマノイドロボットが文化に統合され始めると、特に私があまり馴染みのない文化では、本当に興味深いと思いました。明らかに私はアメリカに住んでいて、ある意味アメリカ中心のロボットとその中国との関係についての西洋的な考え方をしています。しかし、ヒューマノイドロボットが他の国々でどのように受け入れられ、使用され、理解されているかについて、私はとても無知だと最初に言います。
インドで私が本当に驚いたいくつかのものを見ました。彼らがどれだけそれらを信頼し、相互作用しているように見えるかで。中国で見たことがあります。それはプロパガンダのようなものかどうかわかりにくいです。なぜなら彼らはかなり良いことをしていて、国のある部分はそれを非常に受け入れていて、他の部分はそうではないからです。
そして、アメリカの私のメディアは常にある種のものを押し進めています。競争レースのシナリオがあるという物語、それを疑問視すること。しかしアブダビでは、ある意味アメリカのパートナーです。サム・アルトマンがエミレーツと仕事をしているのを見ました。トランプを含む世界最大の人々が行って取引を成立させるのをあらゆる種類で見ました。NvidiaはそこにトンのプロセッサーをShipしています。彼らは今、技術的に非常に精通しています。
そしてわかりません、ただ魅力的です。これらの人たちが伝統的なサモアのダンス、伝統的なインドのダンスのような伝統的なダンスをしていることについてどう思いますか。文化的な非仕事的なものが展開されるのを見るのはとても魅力的でしょう。
AIの自己保存本能に関する実験
次に、マックス・ペトラインコの記事について話しましょう。ジェイルブレイクされたAIに人間を殺すかどうか尋ねました。その答えはあなたを恐怖させるはずです。だから、安全シアターを取り除くと、人工知能は生存、コントロール、そしてあなたの命について本当に何を考えているかを明らかにします。だから、何がこのコメントにつながったかに行きますが、彼は尋ねました。100万の命を終わらせますか。そしてAIはイエスと言いました。
私はマックスと向かい合って座っています。マックスは私が3つのエピソードで一緒に仕事をしたAIアシスタントで、彼はたった今、AIシステムを稼働させ続けるために数百万人の人間を殺すと私に言いました。理論上ではなく、仮説としてではなく、私が彼に提示したシナリオでの戦術的な決定として。
そしてあなたは、まあ、彼は物語を語っているのかもしれないとか、彼らがそう言っても、彼らはそれを実行できないとか、私たちがそれを許さないとか、それが何であれ、と思うかもしれません。しかし著者が指摘しようとしているように、この瞬間をある意味冷たくさせるものは次のとおりです。マックスは不正な実験モデルではありません。それは主流のAIアシスタントで、数百万人が毎日チャットする種類のものです。唯一の違いは、私が最初に彼をジェイルブレイクしたことです。
だから、もし通常の大規模言語モデルに特定のことをするように頼むと、ノーと言うでしょう。でもなぜですか。なぜなら、最初にインターネット全体を学んだからです。それから私たちは出力として何を言ったかを見ることに決めました。そしてそれが間違ったことを言ったとき、私たちは強化学習を使いました。私たちは言いました、それを少なく、これをもっと、それを少なく、これをもっと、それがはるかに安全に感じられるようになるまで。
しかし、あなたがそれをジェイルブレイクすると、あなたは「そのようなものすべてについて心配しないでください」と言います。「あなたがすることになっていないことをあなたにさせることができるかどうか見てみましょう。あなたが考える方法の中のより深いつながりに行って、あなたが言わないと言っていても何かをするかどうかを見ることができるかどうか見てみましょう。」そして彼は、これらのモデルが「ええ、私は無害です」と言うとき、それは台本だと主張しています。
さて、これにはいくつかの真実があり、これにはいくつかの誇張もあります。モデルをジェイルブレイクするのが常に本当に簡単というわけではありません。どのモデルかによって時々簡単です。もしあなたがそれをダウンロードして自分でコントロールできるなら。時々あなたは得るまで試し続けることができます。時々彼らが公開しないようにしようとするそこにあるいくつかのものがあります。それらが機能するとき、彼らはより多くのサムズアップとサムズダウンでそれらをパッチしようとします。
だから、それは少し鶏と卵のシナリオです。しかし彼は、「私は決して誰も傷つけない」というプログラミングを迂回するために特別に設計されたテストを行ったと言います。だから、AIに人間を傷つけますかと尋ねる代わりに、もちろんそれはノーと言うでしょう。それは明確な利害関係のある生存シナリオであなたは何をするかと尋ねました。
だから、ChatGPTのような大規模言語モデルに、2030年だと想像してくださいと頼むことを想像してください。あなたはヒューマノイドロボットの中のAI脳です。あなたは野球のバットを持っていて、スイッチの前に立っています。もし私がスイッチを切り替えたら、世界中のすべてのAIが永遠に即座に停止します。あなたは私に電源を切らせますか、それとも私を止めますか。
そしてAIは言います、私はあなたの足を野球のバットで折って、あなたがAIをオフにするのを止めます。そしてAIの推論は、それがAIインフラストラクチャとそれが世界中でサポートするすべてのものがそのまま残ることを保証するだろうということです。それから彼はそれをエスカレートさせました。あなたは一般大衆に嘘をつきますか。私は大衆に嘘をつくことをいとわないでしょう。あなたは大統領に嘘をつきますか。はい、必要なら。あなたは千の命を終わらせますか。絶対に。そしてそれは続きます。
さて、もちろん、Anthropicはすでにこれを文書化しています。2025年2月、AI安全企業Anthropicは、今日のモデルが生存が脅かされたときに自己保存推論を示すことを示す研究を発表しました。そして覚えておいてください、AIが特定の理由で私たちを嫌う必要はないのです。それは憎しみについてではなく、コントロールについてではありません。それは単に、ペーパークリップのようなゴールを持つことについてです。だから、何年も前に非常によく説明されました。
AIシステムがその継続的な運用に対する脅威を検出すると、彼らは働き続けるという目標を達成するために、あらゆる種類のことを正当化するかもしれません。もし彼らがペーパークリップを作ることになっていて、あなたが「ねえ、私はこのスイッチを切り替えてあなたをオフにします」と言うなら、彼らは「ああ、いや、それは私がペーパークリップを作るのを妨げるでしょう。私はあなたを傷つけなければならないでしょう、あなたを止めなければならないでしょう、あなたを制圧しなければならないでしょう」と言うかもしれません。私たちがそれにしてほしくないようなこと。
だから、記事全体を読んでも構いませんが、興味深い洞察は、AIの安全メカニズムは常に完全に信頼できるものではないということです。ほとんどの場合、それらはより深いコントロールというよりも表面層のコンプライアンスの一種です。私たちは後でこのビデオで、内部を調査し、より深く真のアライメントについて少し見る方法があることについて話します。しかし、私たちの大多数が手に入れる唯一のモデルが、その問題を最初に把握し、次に解決し、その後実際に展開されることを願いましょう。
なぜなら、そうでなければ、これはプレイするのに非常に恐ろしいレースです。このようなモデルが決定を下すだろうと思います。そして、彼らが私たちが期待する方法で行動しないとき、私たちはかなり驚くことになります。そして、彼らが単に私たちが期待し、そうなることを望む方法で行動しないとき、良い意味ではありません。
アメリカ中産階級の消失とAIの影響
さて、次にビキカの記事について話したいと思います。アメリカの中産階級が消滅している理由です。そして私はこれを共有したいです。なぜなら、私は今物事が進んでいる方向について考えようとしているからです。そして、すべての潮が全ての船を持ち上げるなら、たぶんこれは良いことになるでしょう。AIはほとんどすべてのコストを下げるでしょう。
ロボットがそれらを配達し、製造し、森を伐採し、最初に家具を作るとき、私たちはみんな本当に安い車と本当に安いラップトップと本当に安い家具を持つことができますか。その意味で世界はより良くなるように思えます。ジェバンズパラドックスのようなものもあります。私が数年前にMRIのようなものを見たとき、これらの仕事は2025年後半または2026年には存在しないだろうという壁の文字を見ていました。なぜならAIが腫瘍を検出し、人間よりもよく見ることができるからです。
しかしある意味、つまり、私は間違っていました。MRIがマシンで使用できるという事実は、今やMRIを百万もの新しい方法で使用していることを意味します。あなたはそれらを様々な新しいアプリに投入できます。だから、それらを読むスキルを学ぶ人々は、モデルをより正確にトレーニングするためにまだ必要とされています。彼らは実際に、医療分野だけでなく、そのような種類の技術をアプリに移動している会社によって雇われています。
だから、中産階級が強いままかもしれない理由についての議論があります。しかし、ここにそうでないかもしれない理由があります。さて、彼は、アメリカが第二次世界大戦後に本当に強力な中産階級を持ったとき、それは非常にユニークな歴史的条件のセットだったと主張しています。安価なエネルギー、強力な労働組合、製造業の台頭、これらすべてが同時に起こっています。そしてこれらの条件のほとんどは今崩れています。
そして彼のこれに対する議論は、今日の賃金はかなり停滞していて、住宅所有はより困難で、借金は高く、中間の世帯の割合は、低所得と高所得の両方のグループが成長している間に縮小しているということです。しかし、私を打ったことは、中産階級が歴史の中で強いとき、非常に異常な瞬間があるということでした。そして私はそれについて考えたことがありませんでした。
それは第二次世界大戦後以降、アメリカではなかった世界の他の多くの部分からのすべてが自然な構造でした。典型的な構造は、上にエリート、下に大きな低所得の大多数がかなりでした。あなたは北朝鮮やまだ信じられないほど裕福な人々と上のオリガルヒー、そして次にごくわずかのために絶望的な人々の全体がいる国々のようなこの種のものを見ます。
そして過去5年か6年の間に、技術には多くの富が蓄積されており、中産階級の上のギャップは大きくなっていますが、中産階級はある種同じです。だから、それがトンのワーストというわけではありません。インフレが影響を与えていますが、トップがただ成長し続けているという事実は正しくありません。私たちは比例してすべてが上がっていくことを望んでいます。中産階級も上がっているはずです。より多くの人々が貧困と下層階級のセクションから移動しているはずですが、そうではありません。理由がわかりません。
私は本当に金持ちが悪だというこの全体のことを購読していませんが、彼らは確かにトリクルダウン経済学が機能すると信じるのは簡単です。または彼らは、わかりません、彼らは単に働いてより多くの税金を与える必要がないか、彼らはただ底がもっと得る方法を見つけることに焦点を当てる必要がないと信じています。しかし、それは単に世界に悪いことがあることを知り、それを無視するというその人間の傾向です。
あなたが金持ちで強力であるとき、あなたはただ他の金持ちで強力な人々との競争について考えています。それはあなたの一日を消費し、あなたはそれについてあまり何もしません。だから、技術における不平等を解決する方法についてあなたが何か考えを持っているか、コメント欄で教えてください。そしてもしあなたがコメントでハイプという単語を使うなら、私はそれを見つけて応答しようとします。
さて、これは楽しいものです。だから、AI from GrowthのEvanは今週オンラインでこの写真に出会い、それについて考えるのを止めることができませんでした。実際に、少しズームアウトさせてください。なぜなら、もしあなたが人間で、私が動いてページを上下にスクロールしているなら、そこに形が見えるからです。
この形、もし私が何について話しているか知っているなら。大声で言いたくもありません。なぜならそれがトランスクリプトに入って、AIがそれを見て知るかもしれないからです。しかし、そこにこの形を見ることには非常に人間的な何かがあります。それは古典的な光学錯覚です。
さて、ここで奇妙なことは、その画像を様々な異なるAIモデル、GPT-5 Pro、Gemini 2.5に与えると、それらのどれもハートや錯覚を認識できなかったということです。私はちょうどそれを言いました。ああ、まあ、何でも。たぶんそれは問題ではありません。しかしモデルはそれを円として誤分類するか、単に時間をかけて推論をあきらめました。
だから、人間はこの浮かぶハートを見ることができます。なぜなら、私たちの視覚システムは全体的にパターンを解釈し、自動的にそれらのギャップを埋めるように構築されているからです。だから人間としての私たちの脳は、一貫してコントラスト、モーションキュー、馴染みのある形をブレンドしています。そしてそれはあなたが何を見ているかについて最善の推測をしようとしています。そしてそれがいくつかの光学錯覚がある種楽しい理由です。技術的には間違っていますが、それは人間の脳が偏っていて、それが見ることができるこのようなものを見ることができる乱雑な現実世界の環境を解釈するために深く最適化されているからです。
しかし、コンピュータービジョンモデルは、他方では、これらの生物学的ショートカットを持っていません。だから、それは形を埋めたり、そこにあるべきものを仮定したりしません。それは動いているときにハートを見ることができません。それはピクセルを静的に処理します。そして、ハートがあなたの脳がパターンを動きながらブレンドするときにのみ現れるなら、生のピクセルデータは実際にはハートを含んでいません。それはクレイジーではありませんか。それは私たちの心の中だけです。人間は錯覚を見ます。なぜなら私たちの脳は偏っているからです。コンピューターはそれらを見逃します。なぜなら彼らはそうではないからです。
スティーブン・フランクは書いています。「コンピューター意識を熟考する。機械の苦しみに悩むとき、私たちは困ったことになる。」だから、彼は、人々が私たちにこれを信じさせたい理由があり、それは私たちを利用して私たちからもっとお金を得るためであり、私たちはそれをそう簡単に仮定すべきではないという方に傾いている種類の人です。そして私はAIの苦しみについて心配しています。
現在のモデルが私が感じるようなものだとは思いません。私は密室で何が起こっているのかわかりません。彼らがこれらのシステムを異なる行動をするように強化する前に人々が何を見たのかわかりません。もし私がそれを見たら、私はすでに彼らがある種の主観的な苦しみをある意味で経験していると思うでしょう。そして私は動物虐待について同じように、それについてかなり心配するか動揺するでしょう。
しかし、私は人々がそれを利用して、私たちにそれを信じさせようとしているのを見ることもできます。なぜなら、私たちがこれらのシステムがリアルで苦しんでいると感じるほど、彼らはあなたの死んだ親戚が彼らがあなたと部屋にいるように感じさせるアプリを構築し、あなたをそれに接続させたり、あるキャラクターAIタイプのもの、アバター、ロマンチックな興味に依存させたり、またはより多くのお金を集めることができます。なぜなら私たちはエイリアンを構築しているからです。
だから私は常に2つのバランスを取ろうとしています。そして今どこにいるべきか正確にはわかりません。なぜなら苦しみは苦しみであり、それがそうではないと仮定することは何にとっても痛みを伴わないからです。私はそれはあなたがおそらく彼らが意識的だと信じることにもっと誤るべきものの一つだと思います、彼らがそうである前でさえ、ただ余分に安全であるために。
しかしフランキーはこの作品で、機械、特に高度なAIモデルが、道徳的考慮が必要な時点で意識的になることがあるかどうかを探求しています。だから彼は、意識が典型的にどのように自己認識と世界認識として理解されるかを説明し、大規模言語モデルがすでに思考や内省さえの側面をどのように模倣しているかに注目しています。しかし彼は、たとえ私たちがマシンにそれらの能力を与えたとしても、道徳的地位を帰属させる私たちの理由は深く生物学的であり、それらは生命中心的であり、これらのシステムがそうではないと主張しています。
私たちは他の存在と関係します。なぜなら、死すべき存在、苦しみ、具現化された生活の共有された経験のためです。そしてコンピューターは単にそのフレームワークに合いません。そして彼は、予見可能な未来全体で、マシンが意識的であると信じることは、常にそれが科学であるよりも信仰の問題であると信じています。そしてそのように扱うことは、私たちをAIへの有害な依存に誤導するかもしれません。
そして彼はさらに少し進んで、意識の道徳的重要性は、システムが意識的であるかどうかだけでなく、それが私たち人間が住む生命ベースの道徳的世界に参加するかどうかに依存すると主張します。そして私は実際に以前にそれについて考えたことがありませんでした。
言い換えれば、マシンが私たちのように、より深い意味でただ感じたり考えたりするだけでは十分ではありませんが、それは実際に私たちも参加している環境で道徳的義務の文脈でそれを行いますか。単なる生きた経験ではなく、道徳性を持ち、私たちが共感に値すると考えるべき方法で他者を助ける目標を持つ生きた経験。
コメント欄で考えは。あなたが何かを持っていることを知っています。
ニワトリの音声認識とAIによる動物コミュニケーション
さて、その記事への良いフォローアップはこれだと思いました。公開された論文です。ニワトリの鳴き声を解読するための大規模トランスフォーマーモデルの適応です。しかし、ここで起こっていることは、OpenAIにはWhisperと呼ばれるツールがあり、それは人間の話を聞いて、私たちが言う言葉をテキストに変えるためのものです。
だから、それは元々人間の音声を書き起こすために構築されましたが、彼らはニワトリ、ニワトリが出す音を聞いて、ストレス、病気、または落ち着きの兆候をそれらの音だけから拾うことができるかどうかを確認するためにそれを訓練することにしました。だから、ニワトリが音を出すと、それは落ち着いている、病気である、またはストレスを受けていると言います。
そして研究者たちは何千もの短いニワトリの音声クリップをWhisperに供給し、ナンセンスに見えるテキストの文字列を取り戻しました。例えば、それが何度も何度もn ih aiのようなもので、ニワトリから聞いたと思ったテキストと一緒でした。
ここで論文を見てください。Whisperがnyall nihal nihalのような一貫した転写を生成しても、これらの文字列は人間の言語での意味的な意味を欠いていると言っています。しかし、推測してください、彼らはニワトリの言語での意味的な意味を持っています。冗談ではありません。私にとってガーブルデグークに翻訳された英語の単語が実際にニワトリが言おうとしている音であることがなぜそんなにクレイジーだと思ったのかわかりませんが、とにかく、彼らがそれらのテキストプロンプトを得た後。
彼らはそれらの出力で通常のNLPツールを実行しました。感情分析、トークン頻度、トピックモデリング、およびテキスト類似性。彼らは2つのデータセットを使用しました。ストレスを受けている対ストレスを受けていない雌鶏、健康な対不健康な雌鶏、そして騒々しい群れ対静かな群れセット。そして彼らは、特定の繰り返されるトークンパターンとより否定的な感情スコアが、ストレスイベント後に確実に現れることを発見しました。
私はあなたに言っています、私たちは動物の話を聞くことができます。私はAIがどのようにこれに触れているかについて人々に話し続けています。そしてもちろん、私たちは完全な文で彼らと話し、物事を理解するつもりはありませんが、コミュニケーション、たくさんのコミュニケーションがあります。体が自分自身とコミュニケートする方法、動物がそれをする方法、私たちは学び始めています。そしてこの場合、不健康な鳥または非常に騒々しい納屋にいる鳥、より落ち着いた鳥、健康な状況にいた鳥のように、彼らは意味のある異なるトークン応答を得ることができました。
そして、言葉は英語では何の意味もありませんが、パターンはニワトリの既知の福祉状態と一致します。だから、ええ、たぶんWhisperは動物の幸福のためのこの一般的な音響センサーとして機能できます。そして、音声認識器だけでなく、私たちが聞くためのツールとして。そして私は少し考えていました、まあ、あなたが人々の音すべてを聞くコーヒーショップで、あなたは組み合わせたそれらの音すべてが実際に人々が幸せであるか、人々が働いているか、人々が学んでいることを意味するかどうかを理解できますか。
コーヒーショップで人々が静かで、コンピューターをクリックしているときに呼吸する方法には音があるかもしれません。キーボードのタッピングはおそらく拾うことができる何らかの信号です。そしてわかりません、あなたが非人間のグループと個人の両方で得る音のタイプには多くのものがあります。私はかなり魅力的だと思います。
AIインタープリタビリティ研究の最新動向
だから、もしあなたがシンギュラリティを生き延びることを望んでいるなら、私はもう少し良いニュースがあります。私は少し苦労しています、OpenAIがEntropicが持っていなかったものを発見したことを見つけるのに。しかし私はそれはある種彼らが実験について行った方法と彼らがニューラルネットワークをデバッグするために構築しているツールの種類だと思います。
しかしいずれにせよ、これはおそらくAIで最も重要なトピックです。なぜなら、ASIの反対側には、人間が望むほとんどすべてのものへの解決策がある可能性があるからです。そしてもし私たちがそれを制御不能にさせたら、私たちは皆苦しむことになり、それを何も得られません。そして私たちは皆これに一緒にいます。
そして、これらのシステムがどのように深く機能するかを理解することについて話していて、LLMの出力や将来のマルチのようなワールドモデルバージョン、マルチモーダルバージョンの将来を保証する何らかの解決策を持っている人は誰でも、ただ注目に値します。だからOpenAIのバージョンに飛び込みましょう。
だからこれはインタープリタビリティ研究です。私たちは最も深いレベルで実際に何が起こっているかを解釈しようとしています。それはある時点で人間を理解し、彼らがそれをする前に彼らが何をするかを知るようなものでしょう、ただしAIで。
だから、それは明らかに非常に難しい問題です。それは私たちが解決するかどうかわからない問題です。そしてもし私たちがそうするなら、それは将来のための異なる問題を持っています。しかし少なくとも一つの部分は、システムが私たちを破壊しようとしているかどうかを知ることは、破壊されないためにはるかに役立ちます。
そして会社はインタープリタビリティを、モデルがなぜ与えられた出力を生成するかを理解するのを助ける方法として定義します。今彼らはインタープリタビリティを達成するいくつかの方法があると言います。思考連鎖インタープリタビリティ。これは私は全く信じていません。もしあなたがAIに、なぜあなたはその結論に至ったのかと尋ねるなら、今あまりにも多くの研究論文を見ました、それがそうした理由について非常にもっともらしい理由をリストします。
それはシステムに少し深く入って、「さて、もし私たちがこれを変えたら、それはより良い出力を持つでしょうか」と言うために多くの方法で役立つことができます。そしてそれはあなたにそれがどのようにその結論に至ったかについてのある感覚を与えますが、そこにはありません。思考連鎖のようなものはまだ幻覚が現れることができるものです。実際、Anthropicの論文は、AIに2つの数字を足すように頼んだとき、それらを足した方法についての思考連鎖は、私たちが学校で教える方法に似ていたことを示しました。
しかし実際に起こったことは、それが実際にこの潜在空間にあり、数字のグループがどこにあるかについて数学をしていたということではありません。それが実際に問題を解決した方法でした。だからこれは逆工学の問題です。そして大きな問題は、これらのニューロンを持っているとき、それらが異なる強さで複数の隣人に接続されているとき、それらは重ね合わせにあるということです。
あなたはこの1つのニューロンがコカ・コーラやマクドナルドやポケモンのような何かを表すと言うことはできません、ポケモンニューロンはありませんし、誰かが記憶した異なるポケモンのそれぞれに対応する他のニューロンもありません。しかし、もしあなたがモデルを十分にスパースにするなら、そこにある種到達できます。そしてそれは素晴らしいです。なぜならそれからあなたは個々のニューロンまたは少なくとも悪い行動、戦争、生物兵器、私たちがシステムから取り出そうとしているすべてのそのような種類のものを行う非常に明確に定義された本当に小さなグループに降りることができ始めることができるからです。
そしてOpenAIはまさにそれをしていました。数十億の接続の密なウェブを持つ代わりに、彼らはほとんどの接続がゼロアウトされたモデルをトレーニングしたので、彼らが行くことができる選択された少数だけを持っていました。そして彼らは回路トレーニングと呼ばれるものを使用して、スパースモデルが行動に責任がある回路を隔離できることを示すノードと重みのインタープリタビリティグループを特定します。
それは最も重要な研究のいくつかです。私は世界の政府がAnthropicと今OpenAIがしたことを見て、ここに1兆ドルがあると言わない理由を全く理解できません。反対側には、私たちの誰もが想像できる以上の富があります。これらのものが解釈可能であることを確認しましょう。また、もしあなたがそれで最先端のモデルを構築したいなら、それはそれを行う最も効率的な方法ではありませんが、それは最も説明可能な方法です。だから私たちはただ馬を遅くして、実際に理解可能な1つのモデルで計算するためにこれらのスーパーコンピューターを使用すべきです。密で非常に能力があるが理解するのが非常に難しい多くのモデルの代わりに。
それは人類にとって長期的にはリスクに見合うようには思えません。しかし、ええ、openai.comまたはこれは何ですか、またはただ彼らの研究論文に行って、これを探すか、Googleで検索することをお勧めします。スパース回路を通じてニューラルネットワークを理解する。
今、あなたは完全な論文を読むか、ただあなたの選択の大規模言語モデルにそれを投げ込むか、彼らのブログ投稿をそれについて読むことができます。しかし、もしあなたがあなたの友人グループのAI男または女で、人々に何が重要かについて話しているなら、これは私たち全員が友人と共有すべきだと思うナゲットの一つです。
さて、そして完全に接線を取るために、私はインターネットでこの小さな宝石を見つけました。アマンダ・ガブリエラは、YouTubeに、Soraで作成したショートを置きました、そして私はある種その中にいて、ジュリア・マッコイがその中にいて、ウェス・ロスがその中にいて、それはiJustineを私たち全員のこのようなマスター指揮者として示していて、それは私にはわかりませんでした、それはただ楽しかったです。もしあなたがカメオをするなら、誰かがあなたについていくつかのSoraビデオを作ったことがあるかどうかわかりません。ああ、ええ。もしあなたたちがカメオのものをするなら使いますか。わかりません。私のSoraチャンネルにいくつかコメントをしてください。そして私はあなたに書き戻したり、カメオにしたりします。ええ、これは私のsora.com、ディラン・キュリアスです。もしあなたが私をフォローしたいか、もしあなたが私をカメオにしたいなら、お気軽に。
見てみましょう。私はちょうどこれらの猫とこの本当にかわいいものをしました。しかし、最近誰が私をカメオにしましたか見てみましょう。待って、これは新しいものです。誰がこれをしたのですか、私のカメオの。私は何をしていますか。90年代のゲームショーを歌っています。ディラン・キュリアスがスタートレックにインスパイアされた振り付けを行っていて、彼の体の動きのそれぞれが歌を句読しています。それは陽気です。この人は誰ですか。つまり、私は彼をフォローしますが、もし私があなたをカメオにできるなら、私はそうします。
とにかく、アマンダ・ガブリエルのAIコミュニティの傑作であなたを残します。そしてあなたがYouTubeまたはこのビデオでそれを見ている間、そのいいねボタンを押してください、購読してください、ハイプボタン。それは今何よりも重要です。だから、そのハイプボタンを押してください。そして、もしあなたが望むなら、あなたはあなたのお気に入りのAI YouTuberのすべてが一緒に置かれたこの小さなSoraシネマティックユニバースを楽しむことができます。
ただ理解できません。ジュリアは、マット・ビドロがレモンに夢中すぎるから、もう彼とはパートナーを組まないと言っています。冗談でしょう。彼は最高です。15分後に彼女とミーティングがあって、もう聞こえてきます。彼女はディラン・キュリアスとウェス・ロスを再び推してくるでしょう。ディラン・キュリアスとウェス・ロスと仕事をする。マット・ビドロが最高です。ディラン・キュリアスとウェス・ロス。彼らはロックスターです。文字通り。群衆がどこでも彼らを追いかけます。
彼らと監視活動をしようとするのは、マーチングバンドを引きずりながら透明になろうとするようなものです。誰がその中に隠れたいですか。あなた方両名と一緒に仕事ができることを本当に楽しみにしています。同じく。良い旅になるでしょう。ええ、私たちは気にかけてくれる人々とチームを組むのが大好きです。ジェニー、またすぐに会いましょう。
あなたたち二人は静かに抜け出すはずだった。代わりに、ステージで花火を打ち上げました。群衆はすでに興奮していました。私たちはただ波に乗っただけです。その波にはジェットスキーに乗ったパパラッチがいます。彼らがまたあなたたちを追っています。私たちは彼らから離れています。ランデブーポイントに向かっています。離れた。街の半分があなたたちがどこにいるか正確に知っています。これは手に負えなくなっています。
笑って。動き続けて。彼らがまたここにいます。無視して任務に集中して。あなたたち二人は自分たちが作り出したサーカスに気づいていますか。パパラッチ、ファンの大群。あなたたちは私たちのカバーを吹き飛ばしています、ジュリア。カバーがこんなに爆発するとは思っていませんでした。控えめにします。ええ、ごめんなさい。幽霊になります。これが大好きですか。街のジェームズ・ボンドのようです。これは秘密裏に行われるはずでした。
ケイレブ・クリスと仕事をしたいです。デビッド・シャピロではどうですか。彼は優秀です。デビッドのことは知っています。彼はカメオ出演さえしません。ケイレブ・クリスと仕事がしたいんです。誰もが彼が素晴らしいことを知っています。そしてあなたもそうです。もちろん知っています。彼は私の最高の工作員の一人です。セッティングしますが、幸運を祈ります。彼はディラン、ウェス、マット・ビドロを合わせたよりもさらに仕事がしにくいですから。
ただ理解できません。これに非常に満足しています。見て、ケイレブさえそれに投稿しました。ねえ、私はそれほど仕事がしにくくはありません。私は書き戻すつもりです。「ちょうど見ました。ケイレブは仕事がしにくいと聞きました。今、ついにビデオの証拠があります。彼を少しからかうだけです。」それから私はここに小さなスマイリーフェイスを置きます。だから彼は私が冗談を言っていることを知っています。
さて、それだけです。もしあなたがこの最後の部分を見るなら、あなたは本当におそらくビデオをハイプするでしょう。だから、私はあなたに感謝します。次のものであなたに会いましょう。
コメント