本動画では、AIが発見した数千ものゼロデイ脆弱性がもたらすサイバーセキュリティへの影響から、イーロン・マスクの野心的なテラファブ計画、そしてAIが人間の心臓の健康状態をわずか5秒の音声で診断できる技術まで、幅広いAI関連トピックを扱っている。特にAnthropicのMythosモデルが引き起こした議論では、AIを使った攻撃と防御の競争が今後の世界をどう形作るかが焦点となる。また、AIが単なるツールを超えて、私たちの思考様式や世界観そのものを変えつつあるという文化的影響についても考察されており、技術の進歩がもたらす可能性とリスクの両面が浮き彫りになっている。
チャック・ノリスとAIミームの復活
インターネットがAIを使ってチャック・ノリスをあらゆる動画に登場させられることを発見しました。彼はあらゆるものに回し蹴りをしています。
彼はそこに属していないはずなのに、でもなんだかそこに属しているような気もしますよね。わかりますか。あなたが幼少期に学んだかもしれない生存パターンを静かに暴露する、シンプルな画像テストがあります。
これが蝶に見えたことを本当に願います。リンゴではなく。もしリンゴに見えたなら、申し訳ないです。AI企業でソフトウェアエンジニアとして働く場合の就職見通しを示す新しい動画があります。そしてそれは、まあ、本当に素晴らしく見えるんですけど、そう、最後まで見るとね。
これからテラファブについて深掘りしていきます。つまり、ここで言えるのは、この男が野心的じゃないとは言えないってことですね。でもテラファブは、現在の業界全体の50倍のAI計算能力を生み出すことを目指しています。そしてNvidiaのCEOは、TSMCがやっていることは再現できないと言っています。まるで挑戦状のようですね。何が現実的に可能で、これを実現するために何を変える必要があるのか、掘り下げていきます。
AIは私たちが議論する方法や真実について考える方法を変えつつあります。人間の脂肪細胞を再プログラムしている可能性がある隠れたウイルスがあります。私は最初「まさか」って思いました。
人間の脳のプロセスを模倣する新しいAIシステムについてお話しします。そしてその結果は、実際に私たちの世界を少し変える可能性があります。波動伝播問題においてニューラルネットワークを3倍高速化する新しい手法があり、これは実際にニューラルネットの訓練に非常に優れています。
数学者に発見のための普遍的な言語を提供できる可能性のあるAIモデルについてお話しします。私たちは今、AIを使って道路上の実際の物理的な陥没穴を見ることができる世界にいます。そう、修理するのが安いと思われるこれらの陥没穴が、実際には年間3億ドルものコストがかかっていることが判明しました。
AnthropicのMythosとゼロデイ脆弱性
さて、AnthropicのMythosのゼロデイバグ問題について、あなたはどう考えますか。私は大きな問題だと考える方に傾いていますが、たとえ私が間違っていて、それを大きな問題として扱ったとしても、それはおそらく私たちにとって健全なことでしょう。
AIがあなたの声を聞くだけで、心臓の働きについていくつかの推測ができることがわかりました。つまり、心不全が近づいているのを聞き取ることができるんです。
そして最後に、AIがあなたの書き方だけでなく、世界観をも形作っているかもしれないという研究を見ていきます。では、どのように変化しているのでしょうか。掘り下げていきましょう。
まず、このチャンネルをサポートすることに興味があるなら、YouTubeのDylan Curiousにアクセスして、動画のどれかをクリックすると、ここに参加ボタンが表示されます。
月額たった3ドルで、Hubsterに参加できます。彼はカメラの外にいますが、そこの隅に私のハブスが見えます。Grimlockはカメラアクセスを持っています。だから彼は月額6.99ドルなんです。そしてもし、実は今思いついたんですが、誰かが月15ドルでGrimlock Transformedにサインアップしたら、ロボットのGrimlockを持ってきます。彼は実際に変形するんです。
だから、15ドルですね。それは私にとって本当に簡単にできることです。やりたいですね。でも、あなたが本当にここにいる理由はわかっています。チャック・ノリスの回し蹴りです。
ロッキー、いや、彼に勝ち目はありません。彼はジョーズでもあるようです、サメの方の。そして、ああ、そう、もうあのティラノサウルスが邪魔になる心配はありません。この映画は知りませんが、あの連中は確実に蹴られそうですね。
ああ、これは何だろう。ライオンと魔女とワードローブか何かですか。わかりません。ああ、グラディエーター。そう、誰も必要としていなかったけど、ノスタルジアは素晴らしかったです。彼はダンスもしたみたいですね、今ではあらゆるものにチャック・ノリスを入れることが、新しいキラーユースケースになっています。
いやあ、インターネットのミームがまだチャック・ノリスだった頃を思い出します。わあ。彼はインターネットの元祖ミームみたいなものですね。チャック・ノリスは部屋にグリズリーベアの敷物を持っています。それは死んでいません、動くのが怖いだけです。緊急時には、911が彼に電話します。銃はチャック・ノリスを保護のために携帯します。
性格診断的な錯視テスト
さて、科学的または確実な証拠に裏付けられているわけではない錯視性格テストをチェックしてみましょう。でも、まあいいでしょう。
記録のために言っておくと、私は最初に象を見ました。これは私が非常に責任感のある子供時代を過ごした可能性があることを意味します。リンゴの前に蝶を見ました。つまり安全な心が築かれたということです。手と若い女性が見えます。ああ、ギター。ああ、そのギターを見るのにとても苦労しました。
だから、私は自分のニーズを犠牲にして他人を助けたり、慰めたり、守ったりするよう押し付けられていたのかもしれません。オーケー、多分無私的なのかな。わかりません。老婆は早く大人になったことを意味します。ああ、老婆は左を向いている鼻ですね。わかりました。あのウサギとアヒルのやつみたいですね。
私は確実にギターを見なかったので、言葉にするのが難しい感情に満ちた子供時代を過ごさなかったのかもしれませんし、常に特定の方法で振る舞い、責任を持ち、早く大人になるように言われていたのかもしれません。
不気味なマスクや鳥は見えませんでした。化石のように感じました。何かの動物の腰の化石のように見えました。そして確実にそこにペンギンがいました。男性の顔、鼻だと思います。オーケー、ただの楽しみとして、脚かタキシードか。さあ、紳士の皆さん。明らかにタキシードです。
AI企業のソフトウェアエンジニアの給与
OpenAIがAI企業で働く人のソフトウェアライフサイクルを示す新しい動画をリリースしました。給与は年間約100万ドルから始まっているのが見えます。とても良いですね。そして、そう、それだけです。そのお金を全部楽しんで、自分が何を作っているかについては心配しないでください。ここには何もありません。
テラファブプロジェクトの野心
さて、テラファブに取り掛かりましょう。さて、これは本当に高額なプロジェクトです。非常に野心的なプロジェクトです。
私の予想では、これらのタイムラインを達成するのはほぼ不可能だと思います。しかし、これほど野心的なことを試みようとする別の会社を世界にもたらすことは、ある程度評価したいと思います。
テラファブは巨大なチップ工場になるはずです。Intelの協力を得て建設され、Tesla、SpaceX、xAI用のチップを製造します。
さて、論点はTSMCがやっていることは非常に多くの異なる部品があり、それらすべてを一緒にすることはできないということです。なぜなら、それには多くの異なる工場のパイプラインが必要だからです。でも彼は、すべてを一つの巨大な屋根の下に集めることができると主張しています。
目標は、自動運転車、ヒューマノイドロボット、AIデータセンター用に年間1テラワットの計算能力を構築することです。これは可能でしょうか。こんなものをテキサス州オースティンに建設できるでしょうか。年間数千億個のチップです。
では、誰も話さない問題について話しましょう。この発表がシリコンバレーを揺るがしている理由を理解するには、まず、ほとんどの人が完全に無視している問題を把握する必要があります。
今日、AIチップを製造することは大陸間物流の、まあ悪夢だと思います。彼はマラソンと言っています。カリフォルニアでの設計、台湾でのエッチング、マレーシアでの組み立て、他の場所でのテスト。そしてすべてのステップが潜在的な失敗ポイントです。
だから、このテラファブプロジェクトのアイデアは、設計、リソグラフィ、製造、メモリ、高度なパッケージング、フォトマスク製造をすべて一つの屋根の下に集めることです。
そして、チップを設計、エッチング、パッケージング、テスト、改善するために必要なすべてのものを一つの建物に集中できる場所は地球上にないようです。さて、彼はプロジェクトに250億ドルを発表しました。それはおそらく全然足りないように思えますが、まあ、少なくともこれほど野心的なものを始める方法としては良いですね。
それは単一の施設になるでしょう。だから、年間1テラワットの計算で、今日の世界全体の約20ギガワットと比較して、ほとんどのチップは地球に留まらず、宇宙のAI衛星ネットワークに行きます。
NvidiaのCEOにとっては非常に想像しがたいことのようです。彼は、このようなものを構築するには何十年もの経験が必要だと言い、Teslaがこのレベルでチップを作ったことがないという事実は、それが非常に速く起こらないか、全く起こらないことを意味すると述べています。
実現しなかったか、予想よりもはるかに時間がかかったTeslaのバッテリーブレークスルーのような過去の約束を指摘する人もいます。
しかしそれでも、マスクはこれがオプションではないと主張しています。もしTeslaがロボット、自動運転車、衛星を大規模に製造するなら、現在のチップ供給は彼の野心には十分ではありません。
そしてより大きなアイデアは、彼が製品を作っているのではなく、これらすべてのシステムが互いに依存する未来のためのインフラストラクチャを構築しているということです。そして成功すれば、それは本当に業界全体を再構築するでしょう。
そう、ただいくつかの数字も付け加えると、専門家の中には完全に稼働するプラントには約350億から450億ドルかかるだろうと推定している人もいますが、そのプラントは実際にはどのようにできるかの一種の例にすぎないでしょう。
しかし彼が望むだけの計算能力を引き出すには、おそらく5兆ドル以上かかるでしょう。そして桁数で考えなければなりません。SpaceXを通じて毎日何百、何千、何万ものロケットを打ち上げている世界、そしてそれぞれが別の衛星で、すべてが太陽によって動力を供給される計算を使用しています。
そして私たちは非常に多くの、知性がそこにあるので、地球がどのようなものになるか想像もつきません。でも指数関数的なものを追うと、かなりワイルドな場所に行き着きます。そして世界はワイルドな方法で変化しているように見えます。
AIドゥーム論に対する反論
だから、より楽観的になり、反ドゥームアプローチを取ろうと思います。ええと、私を知っている人なら、私のP(doom)は驚くほど高いですが、私は常に他の意見にオープンです。このエッセイは人々が私に送ってきたもので、AIドゥームの議論の大きな部分がほぼ悪い論理に基づいていると言っています。
そしてそれは創造論者が進化に対して使うのと同じ種類の論理でさえあります。だから、あなたと一緒に探求していきます。
著者の主な論点は、AI危険についての多くの良い議論が、可能なすべての結果を数えることから始まるということです。私の議論のほとんどもそうです。私はベイズ的に考えます。無限の可能な未来とすべての方向に進む可能性のようなものについて考えます。
そして良いものを見つけることは、悪いものを見つけるよりも稀であるように感じます。しかしこのエッセイは、それが間違っていると言っています。私も、私はそれを多くやるので、間違ったフレームにいると。そしてそれをカウンティング論法と呼んでいます。
まず、著者のC. Gilesは、なぜこれが生物学で失敗するかを説明します。創造論者は、有用なタンパク質が偶然に現れるには確率が低すぎると言いますが、進化は一つの巨大なランダムジャンプではありません。
突然変異はランダムですが、自然は段階的に役立つ変化を選択し続けます。だから著者はAIがそれにより似た働きをすると言います。実際のシステムは、可能なすべての文、目標、心を検索するのではありません。それらは人間が作ったデータ、人間の問題、以前のシステムから学習し、検索には構造があり、それがより安全でより安全な未来へと洗練されています。
正直言って、それはかなり良い議論です。なぜなら私は、ああ、私たちがここにいるところから、すべてこれらの間違った方法に進む可能性があると思うからです。でも反復的に、私たちは私たちを破壊しない可能性のある世界を捨て続けます。なぜなら私たちはまだここにいるからです。
突然、それらの潜在的な未来は、たとえば今いる場所から光速で起こり得るすべてのことの光のファネルのようなものが、狭まっていくんですね。だからエッセイは、AIドゥームが確実であるという同じ主張をそれに適用しています。
彼は、エリエザー・ユドカウスキーのような人々が可能な心の空間を巨大で、異質で、ほとんど敵対的なものとして扱い、そしてそれらすべての可能な未来から心をランダムに引き出すようなAI構築のアイデアに滑り込んでいると主張します。
著者は言います。「核心的な間違いは、私たちはランダムにサンプリングしていないということです。私たちはより小さく、構造化された空間を移動しており、実際に構築するシステムを研究し、私たちをより安全にする方法で反応しています。」
どう思いますか。コメントにあなたのP(doom)を投稿してもいいですよ。私は80%あたりをうろついていて、もっと高く自分を納得させることもかなり簡単にできますが、でも成功の余地も多く残しておきたいですし、少なくとも合理的なチャンスは残しておきたいです。
でも、もし本当にそれらを剪定し続けるものであれば、全体を80対20で逆に切り替えることができるかもしれません。つまり80%の安全性のように。わかりません。カウンティング論法とAI。まさに同じAIニュースレターです。
脂肪細胞を再プログラムするウイルス
さて、健康になりましょう。脂肪細胞を再プログラムするウイルスについてどう思いますか。確実にOzempicの段階にいるわけではありませんが、アデノウイルス36のこのパラドックスを指摘するのは興味深いと思いました。
それは脂肪の蓄積を促進しながら、血糖コントロールを改善します。そして私は、脂肪細胞を書き換え、脂肪を増やしながら血糖値を改善できる一般的な風邪があることにただ衝撃を受けました。
つまり太っていくけど、ある種より健康になっていて、それがウイルスで、私は「ああ、待って、これらすべてのことが時々一緒に来るの?」と思いました。
科学者たちはアデノウイルス36と呼ばれるウイルスを発見しました。それはあなたの体が脂肪を蓄え、糖を処理する方法を直接変えることができます。
通常、あなたは体が食事、運動、遺伝学によってのみコントロールされていると考えますが、実際には、ウイルスが介入して細胞を再プログラムできることがわかりました。
ウイルスは新しい脂肪細胞を作る一連の遺伝子をオンにすることができます。それは未成熟な細胞を脂肪貯蔵細胞になるように押し、既存の脂肪細胞がさらに多くのエネルギーを蓄えるようにさえします。
いくつかの研究では、このウイルスを持っていた人々は脂肪細胞を形成する能力がはるかに高いことが示されました。筋肉細胞でさえ影響を受ける可能性があり、脂肪細胞が脂肪を燃やす代わりに蓄えるようにすることができます。
だからウイルスは実際に細胞が糖を吸収する量を増やし、それをインスリンなしで行います。インスリンは通常、細胞のロックを解除する鍵です。
それは実際に、グルコースを細胞に引き込む代替経路をオンにするので、それだけでも本当に興味深いです。つまり、より多くの糖が脂肪として蓄えられますが、血糖値は実際に改善し、パラドックスを生み出します。より多くの脂肪増加、しかしより良い血糖コントロール。
そして最後に、彼らは実際に脂肪細胞自体を強化することを発見しました。だからそれは新しい血管を構築する炎症を引き起こし、脂肪組織が成長し、自らを維持するのを助けます。
だから全体として、ウイルスは単に脂肪を追加するだけでなく、脂肪組織がどのように機能するかを再構築します。より多くのエネルギーを蓄える体を作り出し、糖をより効果的に管理するのを助けます。
では、それは良いことなのか悪いことなのか。わかりません。ウイルスが私が持っている脂肪の量に影響を与えることができることを知っていたか。いいえ、今日まで知りませんでした。
でも私はウイルスが物事と結びつくことができる方法にいつも魅了されています。私たちがそれらがどれだけ私たちを変えるかについて、本当に頭を回していないといつも感じています。
人間の脳を模倣したAIによる電力網制御
しかし次は、電力網がコントロールするのが難しくなっていることについて話しましょう。明らかにすべてのサーバーが立ち上がっていて、一般的に電気と電力網はそんなに大きなことです。さて、人間の脳をモデルにしたAIがその修正になるかもしれません。
だから、太陽光発電や風力発電が従来の発電所に取って代わるにつれて、電力網を安定に保つことはますます困難になっています。これらの再生可能エネルギー源は予測不可能です。古いシステムが提供していた安定したサポートを常に提供するわけではなく、それが電圧安定性と全体的なグリッド制御の問題を作り出しています。
しかし、新しいソリューションを開発した研究者がいます。AIニューラルネットワークのために、人間の脳のように機能し、パターンから学習し、時間とともに適応するように設計されています。
だから従来のコントローラーのようにゆっくり反応するのではなく、これらのAIシステムは変化を予測してから事前に調整します。それがはるかに効率的にします。
だから従来のシステムはグリッドで何が起こっているかを追跡するために複数のセンサーを必要としましたが、この新しいAIは少ないセンサーで同じ仕事をすることができます。場合によっては、たった一つのセンサーでさえ、コストと故障点を削減します。
さて、唯一のトレードオフは、それが一種コントロール不可能だということです。AIの問題のように、ブラックボックス問題です。なぜその決定を下すのか、または電気がどこに行くかをなぜ予測するのか、必ずしも理解できませんが、それは知っているようです。
だからテストでは、システムは実際の条件下で確実に機能しました。全体として、この研究は、よりスマートで適応性のあるコントローラーが将来のエネルギーグリッドをより安定させ、より多くの再生可能エネルギーに対応できるようにする可能性があることを示しています。
波動伝播におけるニューラルネットワークの高速化
次は、いくつかの波動伝播について話しましょう。だから、波動物理学問題を通じてニューラルネットワークに加えることができる新しい調整があり、それにより約3倍速く実行されます。
研究者たちは、複雑な材料における波動の挙動をモデル化するためにニューラルネットワークを訓練する新しい方法を開発しました。これらの問題は、レーザーシステム、プラズマ物理学、光学のようなもので現れ、シミュレーションが遅く困難です。
だから通常のアプローチ、物理情報に基づくニューラルネットワークと呼ばれるものは、ここで苦労します。なぜなら波は急速に振動し、強度が大きく変化する可能性があるからです。それが数学を不安定にし、訓練を遅くします。
だから完全な波を直接予測する代わりに、研究者たちは問題を変更することにしました。彼らは主要な方程式を二つのより単純な一次方程式に書き直しました。そして、モデルは完全な信号ではなく、前方波と後方波の比率を学習します。
オーケー、これは本当に私を驚かせました。だから、ここで何が起こっているか一瞬考えてみてください。波があると想像できます。そしてあなたはAIの一種のカメラビジョンか何かを訓練して、その波を予測することができますよね。おそらく前の記事の電力網で似たようなことをしたと思います。
でも、彼らは自分自身に「まあ、方程式を二つの単純な方程式、一次方程式に書き直して、それらを組み合わせたらどうだろう。でもそれから二つの方程式間の比率を学習し、それを前方と後方で学習する。一つの信号だけではなく」と考えていました。
彼らがそれを分解し、システムに個別に異なる部分を学習させ、それらの部分がどのように組み合わさってより正確にするかは興味深いことです。
ねえ、これはどれだけの波が反射するかに焦点を当てることに似ています。すべての詳細を追跡する代わりに。波の位相は後で別の計算を使用して追加されます。
彼らはまた厳格な境界ルールを組み込んだので、モデルはエッジで正しく動作し、この新しい構造は学習プロセスを簡素化しながら物理学を無傷に保ちます。
結果として、モデルはより安定し、より正確になり、約3倍速く訓練されます。だからモデルが物理学の構造を尊重すると、より良く、より速く学習します。わかりません、頭の中の脳波、似たようなシステムを使えるものはありますか。わかりません。でも外には賢い人がたくさんいます。それは言えます。
数学的証明のためのAI共通言語
さて、次は数学者が証明が正しいかどうかをチェックするための共有言語としてAIをすぐに使う可能性について話しましょう。
だから数学は証明に依存していますよね。でもそれらをチェックするには専門家でさえ何年もかかる可能性があります。有名な例は球充填問題です。オレンジなどのように、非常に狭いスペースに球をどのように積み重ねるかを尋ねます。
1998年に、密な六方パターンと呼ばれるものを使用してソリューションを主張した数学者がいましたが、彼の証明は非常に複雑だったため、他の数学者たちはそれを完全に検証するのに苦労しました。最終的に受け入れられる前に、何年とコンピューター支援がかかりました。
そしてこれはAIが物事を変える可能性がある場所です。だから一部の研究者はAIモデルが数学のための共通言語のように機能できると考えています。
長くてチェックが難しい証明の代わりに、アイデアは機械が迅速に検証できる形式に翻訳でき、それにより証明がより明確に、チェックが速く、共有が容易になる可能性があります。
そして論理であれば論理ですよね。プログラミング言語を取って他のプログラミング言語に変換できるので、そう、つまり数学の方程式は、わかりませんバイナリかどうかわかりませんが、そのような何かに入ることができます。コンピューターがそれをはるかに速くチェックできるところ。
だからそれは数学者にとってかなり素晴らしいでしょう。そして目標は彼らを完全に置き換えることではなく、証明が正しいかどうかについての混乱と意見の相違を減らすことです。
だからそれが機能すれば、AIは数学を信頼についてではなく、明確で信頼できる検証についてのものにすることができます。賛成です。
陥没穴の予測AI
さて、最後に、皆さんが待っていた記事です。年間3億ドルの陥没穴問題がAIのおかげで恐竜の道を辿るかもしれません。
AIは今、地面が割れる前に陥没穴を見つけるために訓練されています。そこで何かを見ることができることに驚いていますが、マイクロテールや干し草の山の中の針はAIが得意とすることだと確信しています。
だから研究者たちは、実際に形成される前に陥没穴の早期警告サインを検出できるAIモデルを構築しています。そして問題は本当に深刻です。特にフロリダのような場所で。そこの地面は石灰岩でできていて、雨水が染み込むとゆっくり溶けます。
そして時間が経つにつれて、それは地下に空のスペースを作り出し、突然崩壊する可能性があります。だからこれを解決するために、研究者たちは多くの種類のデータを組み合わせています。
彼らは衛星画像、GPSレコード、土壌データ、さらには気象レポートを使用しています。このデータの組み合わせはAIが陥没穴につながる条件を理解し、それらがどこで発生するかについて予測するのを助けます。
そしてシステムは一つのソースだけに依存しません。衛星画像が雲によってブロックされている場合、土壌条件や地下水レベルのような他のデータを使用できます。ギャップを埋めることができ、これにより予測がより信頼できるものになります。
目標は、特定のエリアで陥没穴が形成される確率を推定することです。そしてその情報は都市計画者が建設するのが安全な場所や構造を補強する場所を決定するのを助けることができます。
最終的に、チームはそれを誰でも使用できるオープンソースツールとしてリリースする計画です。そして時間の経過とともにより多くのデータが追加されると、システムは学習と改善を続けます。
だから陥没穴のない未来を迎えるのでしょうか。つまり、それはイーロン・マスクがテランラボについて持っているビジョンとは全く同じではありませんが、多分それが私たちのビジョンになり得ます。Dylan Curious、陥没穴のないAIの未来。最初に彼らはあなたを笑い、それから彼らはあなたを尊敬します。
Mythosとサイバーセキュリティの未来
さて、Mythosについて話しましょう。私は、ええと、オーケー。私はいつものようにこれらすべてのドゥーマーポッドキャストを聞いていて、人々はGPT-4.0が出る前やGPT-4さえ出る前にOpenAI内部での囁きについて話していました。
そしてそれがどのように博士レベルの仕事をしていたか、そしてそれがどのように世界を変えるようなもので、とても恐ろしいもので、そして彼らは一種正しいです。実際に本当に強力で、世界はそれを完璧に扱いませんでしたが、つまり、より良い方法を知っていたとは言いませんが、それは可能なことのステップチェンジでした。そしてそれは本当にそれに火をつけました。
つまり、GPT-4は本当に多くの人々のレーダーに「ああ、これが物事が向かっている場所だ」として載りました。そしてもちろん、Mythosはハッカーが人間が学習して止めることができるよりも速く重要なシステムに侵入するのを助ける可能性があるという多くの恐れを引き起こしています。
あなたが知っている、この戦争省全体のことがあります。それは軍事的な、戦略的なものです。私は、Mythosへのアクセスを持っている人ではないので、それがどれほど強力かわかりませんが、サイバーセキュリティの世界でそれについて多くの議論があります。
一部の専門家は、それがサイバー攻撃がどのように機能するかを変える可能性があると警告していますが、他の人は恐れがマーケティングによって部分的に駆動されている可能性があると考えています。
つまり、それはAnthropicをより価値のある会社に見せることにはなります。個人的には、それがダリオのいる場所やこれらすべてのことが起こっている理由だとは思いませんが、そうかもしれません。
Mythosは非常に高いレベルでコードを書いたり分析したりするように設計されています。つまり、大量のソフトウェアをスキャンして隠れたセキュリティの欠陥を見つけることができます。それらの欠陥を接続してシステムに侵入することさえできます。
支持者は、これが人間が扱えるものをはるかに超えた弱点の発見の巨大な急増につながる可能性があると言います。懸念はスピードと規模です。かつては熟練した専門家が何年もかかったことが、今ではAIエージェントによって非常に速く自動的に行われる可能性があります。
そしてそれは、銀行や病院、またははるかに速く起こる可能性があるインフラストラクチャのような場所への攻撃のリスクを高めます。
一部の専門家は未来がAI対AIの戦いになると信じています。それは私が一種考えていることです。あなたはあなたのものを守るためにそこに座っているすべてのこれらのAIエージェントを展開しなければなりません。そして彼らは物事を事前にパッチし、攻撃者のように見えるパターンを探しています。そして彼らはそれらをパッチするか人々に通知しようとします。
だから私たちはこのレベルのAIを良い側のすべてのシステムに導入する必要があります。なぜならハッカーはAIを使って攻撃し、防御者はAIを使って保護し、そして人間は傍観から監督し、私たちのシステムがハッキングされないことを応援することになると思うからです。
でも明らかに、誰もが納得しているわけではありません。一部の人々は、それが一種のクレイジーな世界だと言い、それは現実的ではありません。彼らはMythosの背後にある会社が誇大宣伝を構築するために危険を誇張している可能性があると主張しています。
そして私たちのデータは、このような記事を読むときに感じるよりも安全かもしれません。しかしいずれにせよ、Mythosのようなものは、特にOpenAIが今、ディズニーとの契約とすべての後にSoraでやったと言っているので、コーディングモデルを書くために計算が必要で、それが彼らが競争したい方法だからです。
なぜならあなたはコードを書き、それからコードで必要なすべてのものを構築し、それからコードをサーバーに入れて訓練時間を10倍にし、それから将来より良いビデオを作ることができ、それからSoraを再開するか何でも長期計画がそこにあるからです。
しかしAnthropicのMythos AIが数千のゼロデイバグを発見した後、米国のトップ当局が銀行のCEOと集まったという証拠は確かにあります。明らかに金融システムが壊れることは望んでいません。実際に世界にはそれをしたい人が多くいるので、私たちのお金を守らなければなりません。
そう、米国当局と主要な銀行貸付機関が最近会合を開き、このようなAIが主要銀行に対して使用された場合に何を意味する可能性があるかを議論しました。
損害は盗まれたお金やそれが何であれ彼らが探しているものだけではないかもしれません。実際にシステム全体を凍結させ、お金を移動させ、人々が反応する前に取引を操作し、人々が銀行システムへの信頼を失わせ、停止させることができます。
重要なシステムが打撃を受けた場合、オンラインバンキング、ATM、決済ネットワークは数時間以内にダウンする可能性があります。人々がお金にアクセスできなければ、彼らはシステムを信頼しません。彼らは銀行の取り付け騒ぎの始まりのようなものを持つ可能性があります。
そして銀行はすべてに接続されています。市場、ビジネス、給与計算。これらの主要システムのいくつかが失敗すると、経済全体に非常に速く広がる可能性があります。
だから結果は、防御者か攻撃者か、誰が最初に動くかにかかっているかもしれません。だから防御者が非常に有能で非常に速く動くことを願っています。
そしてあなたが知っているように、間違いなく、開発を遅らせることはできますが、明らかに、それは現実的ではありません。でも地球の外から、地球を見下ろしているエイリアンの世界観から見れば、あなたは「多分あなたたちはそれを構築してそんなに速く展開したくないかもしれません」と言うでしょう。
でも、競争している異なる国や市場シェアを望んでいる異なる会社から見れば、それが現実的ではないことは理解しています。だからうまくいけば、あなたの心臓は健康です。
音声から心臓の健康を診断するAI
でも今AIは5秒のあなたの声の後にそれがそうかどうかを聞くことができます。だから多くの人々は、あなたの声があなたの心臓の問題への手がかりを与えるとは本当に考えていませんが、今では5秒の発話を聞く新しいツールがあり、肺と声帯の周りに液体が蓄積することによって引き起こされる小さな変化を探します。
そして人間はこれらの変化を聞くことさえできませんが、AIはできます。だからそれについて考えてください。あなたは文を言い、人間はそれが完全に正常だと思いますが、300万の音声サンプルで訓練されたAIにとって、それはウェットネススコアと呼ばれるものを計算できます。
そしてそのスコアが限界を超えると、医師に早期に警告できます。そしてそれは重要です。なぜなら心不全はしばしば遅すぎる時に捕まるからです。
患者は通常、物事がすでに深刻なときにのみ症状に気づき、その時点で病院訪問が頻繁になり、結果は悪化します。だからFDAはそれを画期的なデバイスとしてフラグを立てました。つまりまだ信頼できませんが、データは有望に見えるので、システムを通じてスピードアップするつもりです。
でも私は、私たちの声の中で私たちが聞くことができないものを聞くことができ、それが実際に健康結果と相関し、予測因子になり得るというアイデアが大好きです。ただ、あなたが知っている、AIの時代にのみ、私たちがそのように相関するものを聞くことさえできないほど小さなものを見つけるでしょう。
AIが世界観を形作る
そして私はAIが私の世界観を変えているように感じていることは間違いなく言いますが、研究者たちは実際にそれが私のそしてすべての私たちの世界観をどのように変えているかについて調べました。
だから研究者たちは、ChatGPTのようなAIツールがアイデアを整理する以上のことをしていると言っています。彼らは人々がどのように考え、話し、現実を理解するかを導いています。
私はこれを理解しています。私はあなたが育った言語、あなたが育った環境があなたの注意を変えると完全に信じてきました。そして注意は多くの点であなたが世界を見る方法の一種です。
そして彼らは、このAIが私たち全員を動かしているのは、文化的同質化と呼ばれるものを通じて起こっていると言っています。異なる声が一つに融合し始めるところです。
だからこれらのシステム、Gemini、ChatGPT、Grokは、すべて主に英語、西洋のオンラインコンテンツで訓練されています。だからアドバイスを求めると、西洋の教育と高所得の視点によって形作られた一種の狭い視点を与えられることがよくあります。
そのバイアスは微妙な方法で現れます。AIは個人の自由や公平性のような価値を好む傾向があり、伝統、権威、またはコミュニティにはより少ない注意を払います。
時間が経つにつれて、これはコミュニケーションにも影響します。何百万人もの人々がAIを使ってメッセージを書くと、それらのメッセージは言語を超えても同じように聞こえ始めます。
応答はしばしばアメリカやヨーロッパの例に導かれ、それはAIが人々が言うことを形作り、それから同じコンテンツが将来のAIを訓練するフィードバックループを作り出します。そして実際の人々がそれのように聞こえるものを言うので、それが人間のフィードバックです。
そして懸念は、AIが有害になるとかそういうことではなく、小さな一連の視点がゆっくりと広範囲の人間のアイデアを置き換えるということです。
だからこれを修正するために、研究者たちは、AIがより多様なデータ、声、基準を含まなければならないと言っています。なぜなら文化的な違いが消えると、それらは永遠に失われるからです。
もしあなたが今YouTubeにいるなら、このビデオのすぐ下にあるその参加ボタンを押してください。あなたはこのようなコンテンツをサポートすることができます。なぜなら、そう、私のサブスクライバー数はあまり速く上がりませんが、私はここに本当に私をサポートしてくれるかなり素晴らしいコミュニティを持っています。
だからそれは貢献する素晴らしい方法になるでしょう。でもいずれにせよ、ビデオの最後まで来てくれてありがとうございます。あなたがここにいてくれて嬉しかったです。すぐにもっと多くのAIニュースがあなたに届きます。それでは次のビデオでお会いしましょう。
コメント