本動画では、Elon Muskが提唱する犯罪者監視用ヒューマノイドロボットの構想から、ヒステリシスを活用した革新的なソフトロボティクス技術、ChatGPTを恋愛に使用することへの批判、陰謀論に巻き込まれた専門家の体験、テック億万長者の成功を支える公共インフラと税制の問題まで、幅広いトピックを扱っている。さらに、大規模言語モデルが記憶と論理を異なる神経領域に保存していることや、幹細胞から脳が構築されるプロセスの解明、AIチャットボットのセキュリティ脆弱性、そしてAIが不妊男性の父親になる夢を叶えた事例など、AIと科学技術の最新動向を包括的に紹介している。
Elon MuskのOptimus監視ロボット構想
さて、Elon Muskと彼のロボット軍団のための新しいビジネスモデルが登場しそうです。現在、アメリカでは連邦刑務所と州刑務所に収容されている230万人を投獄するために、毎年約800億ドルを費やしています。でも人々を刑務所のような場所に入れる必要はないんです。
もし誰かが犯罪を犯したとして、将来の犯罪を抑止するより人道的な形の封じ込め方法を提供できるかもしれません。それは、あなたに無料のOptimusをあげて、それがただあなたの後をついて回って犯罪を止めるというものです。でもそれ以外は何でもできます。今では形状を記憶するソフトロボティクスも登場しています。
この非常に興味深いブレークスルーを理解するには、ヒステリシスを理解する必要があります。また、なぜ一部の男性がデート用のプロフィールにChatGPTを使っているのかについて、それがElena Denopoulosという女性に「気持ち悪い」と思わせている理由についても話します。陰謀論の真っ只中にいるとはどういうことなのかを見ていきます。
陰謀論の専門家によると、テック億万長者の隠れたコストのいくつかを分析します。ほとんどの人があまり考えないようなコストです。これらの人々は孤独な天才なのか、それとも抜け穴の受益者なのか。大規模言語モデルが実際に記憶と論理を異なる神経領域に保存していることを示す新しい研究があります。幹細胞から始まって、科学者たちは脳が生命の初期段階で実際にどのように自らを構築していくのか、完全に発達した脳に至るまで、より良い理解を得ています。Dr. Swarmadu AIは実際にトークン95,000で何が起こるかを測定しました。結果として、いくつかのことが整列して、それが記憶障害のように見えるのです。本当に魅力的な内容です。Microsoftは、会話のトピックを露出させる可能性のあるAIチャットボットのセキュリティ上の欠陥を発見しました。そして人工知能が、20年間不妊だった男性が子供の父親になるのを助けました。そうです。250万枚の画像をスキャンしたのです。
信じられますか。その何百万枚もの中からたった2つだけです。そしてそれらは2つの胚を作るために使用されました。今、AIガイド技術のおかげで妊娠が達成されました。でも私の前回の動画では20,000ハイプポイントを獲得しました。それは22ハイプからでした。だから、それらを私と共有してくれてありがとうございます。それでは、飛び込んでいきましょう。
これはヒューマノイドロボットについて話しているElon Muskです。彼は飽くなき需要があり、数十億台になる可能性があると言っています。そして投資家として見れば、それは8兆ドルに達するでしょう。彼にとっては1兆ドルのロックが解除されることになります。彼はそれをコントロールし続けるつもりです。そして彼はヒューマノイドロボットが破壊できるすべての異なる産業について考え抜かなければなりません。そしてそれらはたくさんあります。
正直なところ、私は彼がこれらの論点のいくつかで間違っていることを証明できません。刑務所に関するものは、ただ少し私を驚かせました。実際に彼は正しいかもしれませんが、これを聞いてあなたの意見を教えてください。そしてそれはただあなたの後をついて回って犯罪を止めるだけです。
でもそれ以外は何でもできます。ただ犯罪を犯すのを止めるだけです。それだけです。人々を刑務所のような場所に入れる必要はありません。もし誰かが犯罪を犯したとして、将来の犯罪を抑止するより人道的な形の封じ込め方法を提供できるかもしれません。
さて、より人道的な封じ込めの形というのは、監視されることです。そしてロボットがあなたの後ろにいて、あなたが何か違法なことをしようとするたびに物理的に拘束できるというものです。誰かが犯罪を犯さなければ、彼らは犯すまで自由に移動する権利があります。でももし犯したら、ヒューマノイドロボットによって厳重に監視される必要があります。だから、あなたが車に乗るたびに、それは助手席に飛び乗ります。
寝るときはいつでも、それはただあなたと一緒に部屋に留まります。そして、ええ、まあ、わかりません。そう、ただ部屋に留まるのだと思います。だから、独房は物理的な場所ではなく、常にあなたを見張っている執行者の目であり、それが人々を刑務所に入れる目的なのです。私は調べました。
アメリカで全員を投獄するのにかかる費用は800億ドルです。それはTeslaの収益になる可能性があります。政府がTeslaにお金を払って、そのOptimusロボット、警察ロボットの代金を払うのは確実だと思います。
たぶん小さなバッジか何かをつけて、警察と書いてあって、それでただ…ああ、想像してみてください。誰かがデートに行こうとしていて、「警察ロボットのことはごめんなさい」って言うんです。「私は犯罪者なんです」って。誰かが食料品店に歩いて入って、それを連れているのを想像してください。でも一方で、そうでなければ彼らは公共の場に出ることさえできないでしょう。社交することもできないでしょう。経済に貢献することもできないでしょう。より良い世界かもしれません。ただ頭の中で整理しているところです。あなたの考えを教えてください。コメントの中には「史上最悪のアイデア」と言っている人もいれば、「ええ、それはうまくいくはずだ」と言っている人もいます。面白いのは、もしお金持ちの人たちが手伝ってもらうために一台連れていたらどうなるか、ものを運んだり、運転してもらったり、ただそこにいて生活を楽にするためだけに。だからビーチにいて、それがただ飲み物を持ってきたりするわけです。たぶん刑務所用のロボットとそんなに違わない感じがするでしょう。
でもできれば、刑務所ロボットがあなたについてきているなら、「ねえ、マティーニを取ってきてくれる?」って言えないといいですね。それはやってくれます。「いいえ、申し訳ありません。私は警察ロボットです。あなたを監視するためにここにいるだけです。それをしてもらうには別のロボットを買う必要があります」と言うでしょう。そうすると2台になります。
そして、持っているロボットにもう一台を抑えてもらうように頼めるかもしれませんが、それは違法でしょう。だからそれは誰かに通知することになります。かなり複雑な問題ですね。
ヒステリシスを活用した革新的ソフトロボティクス
さて、これらの新しいソフトロボットをチェックしてみましょう。ヒステリシスと呼ばれるものについて話します。これは私にとって新しいことでしたが、本当に魅力的だと思いました。
これらの研究者は、ヒステリシスと呼ばれる機械的な「欠陥」を排除するのではなく、むしろ受け入れることで、ソフトロボットが動く新しい方法を見つけました。ヒステリシスとは、力が反転したときにシステムの動きが正確に元に戻らないことを意味します。その効果と戦う代わりに、研究者たちはそれを設計の一部として使うことにしました。そして彼らはその結果をヒステリシス支援形状変形ロボットのコンセプトと呼んでいます。
これにはたった2つのアクチュエーター、2つの腱、2つの可動部品しかありません。通常、ロボットをもっと動かしたい場合は、アクチュエーターを追加します。でもロボットに詰め込めるアクチュエーターの数には限りがあります。関節の数にも限りがあります。それぞれが機械式モーターです。そしてヒステリシス支援形状変形を使用すると、少し遅くて変わっていますが、実際にロボットが何十億もの異なる方法で形状を変えることができ、複数の曲げセクションを独立して制御し、植物のように成長したり短くなったりすることさえできます。植物がどれだけ狂ったような方法で成長できるか考えてみてください。アクチュエーターがたくさんあるわけではありません。彼らはただ必要なものに向かって常にシフトしているだけです。より多くのモーターがあればより多くの器用さがあるはずですが、限界があります。何個のモーターを何かに詰め込めるか、そしてどこに行ったか、将来どう動くべきかの機械的記憶を覚えられる、より大きなAIシステムが必要になります。だからそれはより計算量が多くなります。これはソフトロボットを構築するかなり魅力的な方法です。
そしてヒステリシスのように、かつて欠陥だったものが、新しい斬新な方法で使用されると超能力になる可能性があるというのはクールです。そしてそれは、より柔軟で、よりシンプルで、より能力の高いロボットの未来を指し示しています。これが何に使えるかについての考えもありました。狭い空間に入る、捜索救助、小さな領域の検査などですが、最小侵襲手術が最も良い用途の一つのようです。
人体の内部、臓器の内部を移動して、何かを取り除いたり、何かを修理したり、何かを切り取ったりして、最小限の損傷で済ませることができます。ええ、動きは遅いように見えます。穴を開けて、それをあなたの体に入れて、そこに入って必要なことをさせて、そのようにねじれたり回転したりするのを待つのは奇妙でしょう。
でも、それが最も損傷の少ないことかもしれません。ヒステリシス。すごい、完全に余談ですが、YouTubeでヒステリシスについて検索して何があるか見ていたら、この動画に辿り着いて、すぐに思い出しました。
たぶん5年間くらいこのYouTubeチャンネルに行っていませんでしたが、Eugeneによる物理学の動画を覚えています。その名前は発音できませんが、これは懐かしいです。彼が最後に見てから作った動画の数を見てください。この動画をよく覚えています。外積と内積の視覚的説明、9年前です。あの変な飛行機があったものがありました。ああ、時間の性質の対称性。
あのクレイジーな昔のアニメーションを覚えています。そう、微積分、三角法。これら2つの動画を覚えています。すみません。とにかく、この穴には入り込みません。あなたをこの穴に引きずり込みませんが、これはただ興味深い記憶でした。私がアデロールを飲み始めた頃でもあります。
そして私がこの動画を平均的な人よりも愛おしく思っているのには、時間のグラフについて何かがあるのだと思います。さて、軌道に戻りましょう、Dylan。Alina de Monopoulosの記事について話しましょう。
ChatGPTを使うデートへの批判
ChatGPTを使う人とはデートを拒否する理由を示すこの記事は、そのような怠惰さを示しています。彼女はそれを、独創的な思考を外部委託する人と深く永続的なつながりを形成しようとする究極の「気持ち悪さ」と呼んでいます。
だから彼女がこの記事で触れているのは、私たちが気づくべきことだと思います。この作家は、ChatGPTを定期的に使用する人とのデートを拒否すると説明しています。彼女の心の中にはそれが使える場所があります。完全に二元的ではありません。でも、レストランを選んだり、買い物リストを計画したりするような、一見無害なタスクのためであっても、日常生活でAIに頼ることは、独立性の欠如、創造性の欠如、感情的な投資の欠如を示す可能性があると彼女は主張しています。特にそれらが関係そのもののために使用されている場合は。
だから、つながろうとしている誰かに送ることを意図したテキストメッセージやメールを手伝ってもらうために使っているなら、それはさらに悪いです。そして、女の子が誰かと初デートに行く小さなエピソードのようなものがあります。彼女の視点から考えてみてください。
もし男性が携帯電話を取り出して、決定を下すためにChatGPTに簡単な質問をしたら、それは注意力が少ないように感じるだけです。自分で決定を下せない人のように感じます。彼らが構築しているつながりが同じように外部委託されているように感じて、彼女が説明するように「気持ち悪さ」を与えるだけでしょう。
そして彼女は、すべての「もしも」を聞いたと言っています。全部聞きました。もし仕事で使っているけど、それ以外は嫌いだったら?もし人を助けるために使っているだけなら?もし校正ツールとしてだけ使っているなら?何かを書くために使うことは絶対にない。そして、それら全てに対して、彼女は言います。「あなたのための人々がそこにいますが、私はその一人ではありません。」
陰謀論専門家の体験
さて、次は陰謀論の専門家が実際に陰謀論に巻き込まれたときのことについて話しましょう。そして私がこれについて話したい理由は、ディープフェイクからAIの誤情報、さらには明らかに私たちに売りつけ、欺き、影響を与えることを意図した超知能システムに至るまで、多くのことを心配しているからです。
だから、私たちの思考から一歩引いて、誰がこれらのことから利益を得るのか、なぜそれらに戻り続けるのがとても簡単なのかと自問する瞑想ツールがあればあるほど良いのです。この記事は私たちにいくつかの洞察を与えてくれます。だから、この著者はすでに陰謀論の専門家のようでした。
彼はQAnonを研究し、実際に外に出てこれについて長い間書いていました。そして彼は自分自身でいくつかの誤情報の世界に巻き込まれることになりました。
だから、彼は大火災の間に焼失したカリフォルニアの家を持っていました、覚えていますか。そしてそれらのコミュニティミーティングで、家を失う前はかなり普通に見えた人々が、でも家を失ってホームレスになって怖がって疑問を持ち始めた人々が、これらの緊急対応状況で少し違った行動を取り始めました。
そして彼にとっては怒りと並行して起こっていました。なぜこれが起こったのか、なぜ保険がこれらの家に支払わないのか、私たちの消防署に何か問題があったのか、どうやってこんなにひどい森林火災になったのか、といった本当の怒りのようなものがありました。そして他の陰謀論が出始めました。
彼が遭遇した主張の中には、Joe Bidenが意図的にすべての消防飛行機を地上に留めたというものさえありました。なぜなら民主党がハリウッドの金持ちの人々の家を焼き払うことを望んでいたからだと。そしてもちろん、私はそういうことはかなりばかげていると思います。でもこのように専門的な生活と個人的な生活が衝突することで、彼はトラウマの被害者であることが事実とフィクションを見分けることを信じられないほど難しくしているという認識を得ました。
だから、もし私たちがAIの世界、シンギュラリティを最もうまく乗り越えようとするなら、ただ「ああ、私はとても怖い」というようになってはいけません。なぜなら、私たちが超怖がるとすぐに、私たちは超気が散ってしまうからです。すべてが私たちから奪われるかもしれない、またはプライバシーがなくなったと感じます。
私たちがそのように行動するとすぐに、私たちは誤情報に対してさらに脆弱になり、システムは常に賢くなっています。だからさらに難しくなるでしょう。そしてさらに悪いことに、彼がこのグループにいた場所で、家を失ったばかりでとてもストレスを感じていて、以前は信じなかったようなあらゆる種類のことを信じ始め、合理化し始めていた人々のグループで。
彼らをターゲットにしてお金を得ようとする詐欺やデマもいくつかありました。保険金請求が支払われるようにお金を送るように人々に頼む実際の詐欺やデマがあり、彼らを食い物にして利用していました。
だから心配すべきことはまだありますが、陰謀論への大きな飛躍をすることは、あなたが注意したいことです。そして、その瞬間に陰謀を積極的に冷静に論破し、本当の解決策が何であるかを見つけ出し、起こった問題のいくつかはおそらく避けられなかったか、巨大なコミュニティが注意を払い、将来のための新しいメカニズムを導入する必要がある、より体系的な問題であることを認識する代わりに。
すべてが瞬間的な本能のようなものに帰結しました。そして時間が経ち、人々が生活に戻り、保険がほとんどの場合、新しい家を手に入れるのを助け、人々が落ち着くと、その瞬間にみんながどれだけ違った行動をしていたかを振り返って気づくのは簡単です。
そして彼はこの結論に達します。陰謀論は、そうでなければ無意味で圧倒的な災害に意味と責任を割り当てるという深い心理的ニーズに役立っています。つまり、私が見る限り、人間の脳はパターン認識が得意です。私たちは意味をなさないものから意味を作り出したいのです。
そして、ますます複雑になっている世界では、すべての国とすべてのサプライチェーンとインターネット上でバイラルになるすべてのものの間に相互接続性があります。そしてそれはさらに悪化するでしょう。「簡単な解決策を教えてあげましょう。あれは悪い人です。私は良い人です。
お金や権力やなんでもいいから私に渡してください」と言う人の話を聞くのは簡単になるでしょう。でもそれは被害者を利用している人々です。それは彼らが偽りの希望を与えているのです。それは通常、その人がより良い答えを持っていないことを十分に知っているのに、このように行動すると欲しいものが手に入るので、ただそうするだけです。
テック億万長者と公共インフラの問題
さて、その観点から、私はまた、真実かもしれないしそうでないかもしれない体系的なことのいくつかを見たいと思います。これが正確にどうであるかを伝えることはできません。もしそうしたら、私は言おうとしている人々と同じになってしまうでしょう。でも、ある意味で、これらの億万長者の一部が、AmazonとTeslaを作った、Teslaは作っていませんが初期に引き継いで、それを今の姿に変え、Facebookを創設した孤独な天才であるという物語を持っている世界があります。これらは興味深い製品であり、ニーズに応え、本当に世界を変えました。
でも、その背後には、信じられないほどの富が特定の方法で流れることを可能にしたシステムもあります。そして、それが完全に公平であるとは常に言えるかどうかわかりません。だから何が起こっているかを見てみましょう。
さて、これはDick Doalによって書かれました。これが彼の見解です。テック億万長者はしばしばこれらの孤独な天才として描かれることが多いと主張しています。
彼らの成功の多くは、公共インフラ、納税者が資金を提供した研究、彼らに有利な形で物事を形作るのに役立つ特定の法的および規制システムに負っています。彼らのイノベーションだけでなく、彼らの貢献だけでなく、彼らの努力だけでもありません。すべてがある程度絡み合っていると思います。
それを取り去りたくはありませんが、指摘されるべき増幅効果が時々あると言いたいです。だから彼の記事では、インターネット、GPS、初期のAIツールのようなイノベーションが政府の投資にルーツを持っていたことを概説しています。しかし、それらの基盤の上に築かれた富は、比例した課税を逃れています。彼らはギグエコノミーモデルを通じて労働を搾取し、買収や規制の捕獲を通じて競争を抑制することがあります。
要するに、彼は公衆が最初に費用を支払う一方で、最後に大規模な価値抽出が起こっている可能性があると主張しています。だからBlue OriginとSpaceX、まあ、1958年以来NASAの6900億ドル以上の公共投資なしに今日民間企業になれたでしょうか。たぶん無理です。彼らが素晴らしい企業であり、彼らの前に来たものの上に構築されたことを意味しないわけではありません。ただ、何かが彼らの前に来たことを意味するだけです。
そしてそれは完全な方程式に含めることができます。衛星技術、タッチスクリーン、音声認識。彼は請求書を回避しながら税法をゲーム化することについて話しています。Amazonは2018年に100億ドル以上の利益があったにもかかわらず、連邦所得税を0ドル支払ったことで有名です。つまり、私たち全員が2018年に連邦所得税を払っていたと思います。まあ、払わなかった人もいるかもしれませんが、もし払わなかったら、LLCの利益と経費を完璧にバランスさせる方法について何か知っているのでしょう。でも法律の文字通りに反していなくても、私たちのほとんどが税金を支払う方法とは違った感じがします。それが悪いとか良いとか言っているわけではありません。経済を維持するために良いのかもしれません。ただ、ほとんどの人がしないこと、またはその恩恵を受けないことです。
そしてたぶん彼らはすべきですが、ただしないだけです。労働を破壊するが、その後費用を外部委託する側面。Walmartが人々を一定時間以下に保つことで、まだ政府の福祉などの資格を得られるようにしていた話を覚えています。UberとLyftはドライバーを独立契約者として分類し、福利厚生、医療、雇用保障を奪っています。
Facebookは体験を改善するためではなく、競争を中和するためにInstagramとWhatsAppを買収しました。Amazonはサードパーティの販売者データを使用して人気製品をコピーし、価格を下回りました。App Storeを厳重に管理し、開発者に30%の手数料を支払うことを強制しています。そして彼は、不正操作されたシステムを正す必要があると主張しています。それはどのように見えるでしょうか。もし超金持ちの人、テック億万長者が、公共投資、市民インフラ、寛大な法制度、弱い規制、個人の天才の神話、または彼らが書き直すのを助けた税法から利益を得ているなら。彼らは自分たちに利益をもたらすために抜け穴を設けました。私たちはそれを元に戻すか、彼らの税金がどうあるべきかを考慮に入れることを検討したいかもしれません。国家は未来に投資しました。市民は彼らが成功することを可能にしたシステムを構築しました。そうであれば、彼らが恩返しをする時です。慈善活動やPRキャンペーンではなく、税金で。
コメントで教えてください。あなたはどう思いますか。企業や上位1%の抜け穴を閉じようとすべきでしょうか、それとも良いと思いますか。それとも、彼らが価値を創造し、そのスライスがどれだけ大きくても彼らの取り分に値し、1000億長者や兆長者になる機会こそが、アメリカを私たちのすべてのイノベーションとともに前進させ続けているというトリクルダウン経済をもっと信じていますか。
あなたの考えを聞かせてください。
AIモデルの記憶と論理の神経領域
さて、AIモデルが実際にどのように考えるかについての新しい洞察があります。彼らが脳の異なる部分を分離しておく方法がいくつかあり、私たちはそれを学んでいて、それは自然に現れます。研究者たちは、大規模言語モデルが記憶、つまり事実や算術を思い出すことと、推論、つまり新しい問題に論理を適用することを、異なる内部神経領域に保存していることを発見しました。異なる神経領域が実際に存在するとは本当に思っていませんでした。でも1兆個のパラメータを持ち、逆伝播がすべてを動かしていることを考えると。そしてすべてのトークンがある種の位置にあることを考えることができます。そして特に最後の数本の動画で、マニフォールドとこれらのシステム内で考えることができる幾何学について本当に深く入り込んだところで話しました。
ある幾何学が神経領域と呼べるような方法で集まり、それが人間の脳が異なることをする脳の部分を持つ方法に少し似始めているのだと思います。そしてもちろん、これはすべてトレーニングから出てきます。
それでも、記憶のためのものや推論のためのものなど、特定のことをするモデルのアーキテクチャの領域、AI脳の領域があるように感じます。だから曲率によってコンポーネントをランク付けする方法を使用することで、つまりモデルの重み行列の数学的尺度です。チームは、低曲率方向が記憶されたコンテンツと強く結びついていることを示しました。
一方、より高い曲率方向は推論タスクにより対応しています。これはただ興味深いと思います。本当に興味深いです。実際に、これらのブラックボックスの内部で起こっていることの形を見ることができる可能性があります。入力を入れて出力を得るときにとても知的に見えるこのものの内部で、低曲率領域が記憶していて、高曲率領域が推論しているということです。
ちょっと時間を取って落ち着いてそれについて考えてみてください。それはただ非常に興味深いです。低曲率領域が記憶していて、高曲率領域が推論していると言えるということが。つまり、記憶は苦手だけどかなり論理的な人々を知っています。そして、これらの素晴らしい事実を持っていて、いつも物事を思い出す人々を知っています。そして彼らはかなり愚かです。
彼らはただ奇妙なことをします。彼らはあまりうまく推論しません。そしてそれは、彼らが学んだすべてがどのように整列しているかが実際に説明可能なのではないかと疑問に思わせます。
脳の発達地図の完成
さて、Atlas Network、Brain Initiativeについて話しましょう。これが起こっていることをほぼ1年前に最初にカバーしたと思います。
だから、私がBrain Initiative Cell Atlas Network、BICと彼らが呼ぶものを再訪したのはこれが初めてです。でも彼らは今、胚の幹細胞から思春期初期を通じて人間の脳がどのように発達するかをマッピングしました。個々の細胞の遺伝子発現を追跡し、それを皮質における細胞の物理的位置にリンクさせることによって。
だから彼らは、時間の経過とともに約30の異なる細胞タイプが出現したことを発見しました。それにはニューロン、免疫細胞が含まれ、彼らは3能性中間前駆細胞さえ特定しました。2回は言えませんが、それは抑制性ニューロンを生じさせることができるタイプの細胞ですが、抑制性ニューロンを生じさせることができるタイプの細胞で、絶縁細胞をサポートできます。
とにかく、彼らは今この完全な細胞アトラスを持っています。そしてこれはAIがすぐに分析を始めることができるかなり興味深いデータセットだと感じます。それは様々な遺伝的プログラムがいつどこでアクティブになるかを明らかにし、それがAIのための新しいアーキテクチャや、自閉症、統合失調症、脳腫瘍などの神経型発達障害につながる可能性のある混乱についての光を当てるかもしれません。でもええ、大きなことはその3能性前駆細胞だと思います。
でもええ、大きな独自のことは、複数の異なる脳細胞タイプに分岐できる3能性前駆細胞です。それはこの研究までかなり新しいものでした。だから、毎週人間の脳についてますます学んでいます。
トランスフォーマーの記憶メカニズム
さて、ニューラルネットワーク内の異なる形状のアイデアに戻りましょう。これはかなり魅力的だと思うかもしれません。これはまたDr. Schwarmer do AIです。彼はトークン95,000で何が起こるかを測定しました。そして結果として、トランスフォーマーは私たちが通常考える意味で正確には忘れません。実際には衝突します。説明しましょう。
だから彼の実験は、より小さなモデル、GPT-2を使用しています。これはまだ頭の中で理解できるものです。実際の生活では信じられないほど知的ではありませんが、研究には良い、実験を実行するのに十分小さいモデルです。そして彼はトークン位置500で10桁の数字を覚えるように頼みました。
そしてトークン位置95,000で再びそれを思い出してほしかったのです。だから基本的には、この10桁の数字を覚えて、何かをして、それからまだ覚えているかテストするよ、と言う人間の作業記憶のようなものです。さて、驚くべき発見は、モデルがメモリ不足のために忘れなかったということです。
それは通常人々が言うことです。そのトークンまでに記憶を失っていて、それを保持するのに十分なメモリがないので忘れたと。でも実際に、モデルの内部で何が起こっているかを見ると、次のトークンが何であるかを理解するために使用している内部マップがあります。そして基本的に、シーケンスが長くなるにつれて、形状を歪め始めます。
そしてそれはより小さなモデルなので、実際にはそれほど多くの形状を持つことができません。多くのものがただ整列してしまい、それが何だったのか区別できなくなります。それは混ぜ合わせる地図の歪みのようなものです。10個のものが全く同じ方向を指していて、それから「あそこには何があるの?」と言うと、「このすべてのものが見えます。もうよくわかりません」という感じです。
すべてが今、区別できない点まで整列しています。テキストが文字通り、ある種の幾何学の内部の同じ場所で互いに衝突しているようなものです。それはモデル内部の幾何学が巨大なテキストの伸張にわたって歪められていて、それが「忘れる」ようにしているのです。そしてそれはまた重要なことをいくつか持っています。
たとえば、GPT-2でのより多くのコンテキストは、理解が良くなることを意味しません。それは幾何学の問題です。コンテキストの問題ではありません。
AIチャットボットのセキュリティ脆弱性
さて、Microsoftの新しい研究セキュリティ上の欠陥の脆弱性について話しましょう。彼らが発見しました。それはWhisper Leakと呼ばれています。そして結果として、ChatGPTやCopilotやそれらすべてのもののようなチャットボットシステムに基づいた大規模言語モデルでは、実際に暗号化された会話を引き出すことができます。
だからチャットボットとの会話が完全に暗号化されているかもしれませんが。メタデータ、パケットサイズ、タイミング、物事がどのように行き来しているかを見ることによって、実際に盗聴せずに観察することができますが、それは盗聴にとてもよく似ています。そしてそれは、多くの場合98%のような非常に高い精度で会話のトピックを推測するために使用できます。
だから、私がこれについて考える方法は、2人の人がお互いにテキストメッセージを送っていて、暗号化されているので読めなかったとしたら、でも夜にお互いにテキストを送っているとか、本当に大きなデータの塊であるとか、つまりたくさんの文字があるという情報があったとしたら。
なぜなら、時間帯のために、夜遅くにこんなに多くの情報だから、それは会話している人のように聞こえるからです。そして私はそれが家族のメンバーやロマンチックなパートナーであると推測するかもしれません。一方、もし短い長さで、もっと散発的だったり、ビジネスがお互いに話す方法のようなチャンクで働いていたら、そして昼間だったら、私はこれはもっとビジネスの人だと仮定するかもしれません。
だから、それらを読まずに、まだものを推測できますよね。これはただAIがそれをほとんど人々が何を言っているか正確に知っているレベルまで持っていっているだけです。だから、メッセージが暗号化されていても、完全に匿名ではないというこの全体的な概念。データがどのように変換されるか、パケットがいくつあるか、各パケット間の時間がどれくらいかの構造が、チャットの主題を明らかにすることができます。一般大衆にとって、これは深刻なプライバシーのギャップを浮き彫りにします。
もしAIチャットボットを使うことが安全でプライベートだと信じているなら、あなたはとても間違っている可能性があります。私はあなたがとても間違っていると思います。コンテンツが暗号化されているからといって、通信パターンだけで漏れる情報の量を過小評価しているかもしれません。彼らはデータのリズムだけに基づいて、日常的なクエリから敏感なターゲットトピックを区別するようにAIプログラムを訓練したことがわかります。
AIによる不妊治療の成功
さて、不妊の問題を抱えている人々にとっての良いニュースです。
STARと呼ばれるAIガイドシステムを開発した新しい研究者がいます。STARはsperm tracking and recovery systemの略です。それはStar AIであり、男性の精液サンプルの顕微鏡を通して何百万、何百万、何百万もの写真を見ることができます。そうです。だから、約2時間でそれができ、生存可能な精子細胞を特定できます。
だから、以前は使用できないと考えられていたケースでは、あなたが知っているものそれぞれに何百万もの精子がいて、時々1つか2つしかなく、その何百万もの中からその針を見つけることが実際にAIとSTARシステムのおかげで今できるようになっています。研究者たちは、何百万もの中から生存可能な2つだけを見つけに入り、それらを取り、卵子に入れることさえできました。そして確認された妊娠があります。今、このシステムは、AIがスキャンして希少な精子細胞を検出できる特別なチップを通して精液を流します。ここに2つのデバイスがあります。1つは精子観察デバイスで、もう1つは精子検査デバイスです。AIは今、以前は完全に精子がないと考えられていたサンプルの中で個々の精子細胞を検出し、分離することができます。
YouTubeでハイプボタンを押してください。モバイルデバイスのコメントで右にスワイプしてください。この動画をハイプしていただけると嬉しいです。もしそのボタンがなければ、コメントやPatreonへの参加やシェアが私にとって世界を意味します。そして次の動画でお会いしましょう。
コメント