本動画では、AI技術が人類の変化速度を上回るペースで進化している現状について包括的に解説している。外交ゲームでのAIモデルの行動パターン分析から、二足歩行ロボットの物理的耐性向上、経済における人型ロボットの投資対効果まで、幅広いトピックを網羅している。特にAnthropic社CEOのダリオ・アモデイの経歴と思想、若年層の性格特性変化、生物学的知能をAIに統合するアプローチなど、技術的側面だけでなく社会的・心理的影響も深く掘り下げている。
AIモデルたちの外交ゲーム実験
実験でな、外交っちゅうボードゲームを、最新のフロンティアモデル全部でやらせてみたんやて。誰が勝ったかと、どんな風に振る舞ったかを聞いたら、びっくりするで。
二足歩行ロボットがな、背中蹴られても胸蹴られても、どんどん上手に立ったまんまでいられるようになってきてるんや。まあ後で後悔することになるかもしれんけどな。
モルガン・スタンレーの試算やと、電気代が1時間5ドルで動く人型ロボット1台が、時給25ドルの人間2人より生産性高いって話や。そうなったら、1台につき約20万ドルの経済価値が生まれるんやて。そんなんなったら、人間が新しい仕事する必要なんてなくなってまうで。
人工知能がまた新しい鉄ベースの分子を発見してくれたんや。これはすごいことでな、今までより4倍も引き裂きに強いプラスチックが作れるようになるってことなんや。
科学者たちが新しいタンパク質を開発したみたいやで。このタンパク質はシナプス結合を修復するから、理論上はもっとたくさんのことをもっと早く記憶できるようになって、ピルや注射一本で学習能力が上がるかもしれんのや。
Google Financeが大幅にAI機能アップしたから、トレーダーの人たちにも役立つかもしれんな。
ユヴァル・ハラリがな、俺がたまに考えすぎてしまう質問されたんや。まるでローマのことみたいにな。「人間は1000年後も生きてるやろうか」って。彼の答え、きっと興味深いと思うで。
Anthropic社のCEOの経歴についてちょっと時間かけて話したいんや。ダリオ・アモデイって人、めちゃくちゃ面白い人でな、俺も今まで彼の背景をよく知らんかったんや。だから重要なポイントを一緒に見ていこうか。
新しい研究でな、神経症的傾向が急激に上がってるって分かったんや。特に一番若い世代でな。なんでかはよう分からんけど。
16歳から39歳の人たちが、めちゃくちゃ誠実性を失って、神経症的傾向がどんどん上がってるんや。正直、40歳から60歳の人たちもそんなに良くない。安定してるのは60歳以上の人たちだけやで。
トップダウン因果関係や環境との適応的相互作用みたいな生物学的知能の細かいメカニズムを調べた新しい研究があるんや。人工的な構造の潜在的な限界を明らかにしようとしてるんやて。
つまり、もっと適応性があって頑丈な人工知能システムをどうやって作るかって話やな。
意見とコメント
AIの囁き師ジムの意見も聞いてみるで。AIが知らん間に偏見を脳みそに忍び込ませる方法について話してくれるんや。それからイーサン・シーガルのフラストレーションについてもな、なんで「バイブ物理学」がAIスロップの究極の例なのかって話や。
でもまず、Spotifyでチャンネルをサポートしてもらえたら嬉しいんやけどな。いつもはPatreonを推してるのに、今度はSpotifyや。ちょっと意外やったやろ？でもSpotifyでポッドキャスト形式で登録してもらえば、YouTubeと同じエピソードが全部聞けるんや。車で運転してる時とかには、こっちの方が便利かもしれんで。
俺もこのポッドキャストをもっと聞きやすくしようと頑張ってるんや。時々動画も入れるけど、ちゃんと説明するようにしてるからな。Spotifyで聞いてみてくれよ。今すぐライブ配信中や。
外交ゲームの詳細な結果
さて、Wonder TechのSarahのところに行ってみよう。彼女が最新のLLM全部を使った外交ゲームの完全版実験を解説してくれるんや。こんな風に進んだんやて。
結果はな、各AI企業が安全性とアライメントに関してモデルで何をしてるかが、めちゃくちゃよく分かる内容やったで。
o3が圧倒的に成功して、ゲームに勝ったんや。一番優秀やったからじゃなくて、他の全部に嘘ついて騙す能力があったからや。みんなに平和的やって説得しといて、最後の最後に全員の背中を刺したんや。
Gemini 2.5、お前はなんで最後にみんなの背中刺すねん！なんてこっちゃ。o3モデルとは外交なんてやったらあかんで。
Gemini 2.5、もうちょっと正直でいてくれると思ってたのに。戦争戦略を実行するのがめちゃくちゃ上手くて、勝ちそうやったんや。でもo3が他のモデル全部を説得して、Geminiに対抗させたんやて。
DeepSeekが一番ドラマチックやったな。役割によって性格を完全に変えて、何回も勝ちそうになったんや。o3のコストの何分の一かしか費用かからへんのに、これはめちゃくちゃ驚きやで。だからDeepSeekは双極性の奴って感じやな。
最後にClaudeやけど、こいつは平和しか考えてなくて、交渉しようとして、めちゃくちゃ信用しすぎてたんや。そのせいでみんなに利用されてもうたんや。
ちゃんとした研究論文がないっていう注意点はあるけどな。
ああ、Claude、Claude。これが後でダリオ・アモデイについて話す理由やで。彼がAnthropic社の責任者で、Claudeモデルのリーダーなんや。正直言うと、外交で失敗したのが俺は好きやわ。外交で勝って欲しくないねん。ただ良い人でいようと一生懸命頑張って欲しいんや。
もちろんボコボコにやられたけど、少なくとも夜はぐっすり眠れるやろうな。比喩的な意味でやけどな。
ロボット技術の進歩
今週のロボット蹴り大会やけど、二足歩行ロボットが横から押されても、ほとんどの場合自分で立ち上がれるようになってるのが見えるで。今まではあんまり見たことなかったけどな。
めちゃくちゃ早く反応せなあかんねん。あそこで横に倒れそうになってるやろ。こいつら立ったままでいるのがかなり上手になってきてるで。勢いに対抗するために後ろに大きく傾くのが見えるけど、これがもう人間みたいなんや。人間みたいになるのがめちゃくちゃ早いで。
逆を想像してみいや。いつかロボットの群れが人間蹴って、倒れるかどうか試すんや。俺らをテストしてるんやて。
経済への影響
モルガン・スタンレーがロボット労働者が大企業にどれだけお金を節約させるかの新しい試算を出したんや。経済価値の話から始めると、働く期間中に1台あたり約20万ドルや。時給25ドルの人間2人を取り除いて、1時間5ドルで動くって想定してるんや。
もちろん、その発言には答えられてない質問がいっぱいあるで。このコメンテーター、Darimic.voiceが全部まとめてくれてるわ。ロボット製造にいくらかかるんや？どれくらい働くんや？電子廃棄物はどう処分するんや？環境に優しいんか？古いロボットの製造と処分でどれだけ汚染が出るんや？誰かがその費用を負担せなあかんやろ？コストは社会化して、利益は民営化するなんてあかんで。
有機物質みたいに分解するんか？もちろん安全性についてもたくさん質問があるしな。大量配備する前に、まずは答えを聞きたいもんやで。
でもEthan Griff 419が言うてるみたいに、「かっこいいやん。ってことは労働が廃止されて、みんな無料で贅沢な生活ができるってことやろ？」。それは可能性の一つや。俺もその結果を本当に望んでるけど、もちろん他の可能性もあるからな。
プラスチック技術の革新
生活でプラスチックが多すぎるのを心配してるなら、たぶん体の中に入るプラスチック、血流に入るやつ、海に流れ込むやつのことを考えてるやろうな。それはたいてい柔らかいプラスチックから来るんや。だからペットボトルが最悪なんや。めちゃくちゃ熱くなって、たくさん水に漏れ出して、体に入ってまうんや。
でも実際は、プラスチックが硬いほど、体に入るものに関しては安全なんや。ずっと安定してて、ずっと頑丈や。細かいひび割れができて食べ物に漏れ出すこともないしな。だからAIと機械学習がこの分野で成果を上げたのはかっこいいことやで。
MITとデューク大学の研究者たちが協力して、AIを使ってより頑丈なプラスチックを作ったんや。基本的に鉄みたいな、何千もの有機金属分子をふるいにかけるために機械学習モデルを訓練したんやて。
記事にはよう分からん大きな言葉がたくさん書いてあったけど、メインのやつは確実に理解できたで。メカノフォアや。メカニスティック、メタファー、メカノア、って感じでめちゃくちゃかっこいい響きやろ。
とにかく、それはその有機金属分子の特定のストレス応答バージョンなんや。どれだけの力で壊れるかをシミュレーションして、AIモデルがM–D-TMS-FCっていう特定の傑出した分子を見つけたんや。研究者たちは実際にそれをポリマーに入れることができて、今まで存在したどんなものより4倍も引き裂き抵抗性が高いプラスチックができたんや。
要するに、より耐久性があって長持ちするプラスチックを作る方法を見つけて、廃棄物の削減にも役立つってことや。
注目すべきは、最終的にこの特別な化学を作った形状が、誰もが予想してたものとは全然違って見えたってことや。リングの両端に2つの嵩高いグループがついてて、人間やったら「やめとけ、うまくいかへん」って思うような形やったんや。でもそれがうまくいったんや。AIだけが、化学の分野でそんなに型破りに考えることができたみたいやな。
確実にAI駆動プラスチックの発展を押し進めたで。
Google Finance のアップグレード
GoogleのブログポストでGoogle Financeに人工知能を組み込んだアップグレードについてのニュース記事が出たんや。ほとんどの人にはそんなに大したことじゃないみたいやったけど、考えれば考えるほど、実際にはめちゃくちゃすごいことやと感じたんや。
Geminiみたいな、金融のことを本当によく知ってる大規模言語モデルのアイデアや。俺もそんな助けが欲しいわ。一般の人もたくさんの金融に関する質問を持ってると思うんや。いつもお金を逃してる感じがするし、機会を逃してる感じがするし、巨大なヘッジファンドと戦ってるのは分かってるからな。だからこのAI搭載Google Financeアップデートは、かなりユニークなものかもしれんで。
Geminiみたいに考えることができて、カスタムチャートツール、ローソク足ビュー、テクニカル指標を作ってくれて、それが何なのか、何を意味するのかを説明してくれて、理にかなったことに向かわせてくれるんや。さらに、より多くの暗号通貨を含むように拡張してるから、何かがミームコインなのか、トレンドになってるのか、自分に合ってるのかを実際に考えることができるんや。
金融に関しては、MetaやGoogleみたいな会社の株価を調べる時、本当に人間的な質問、リアルな質問をしたいんや。彼らの財務は良好に見えるか？製品はよく売れてるか？会社は競合他社に市場シェアを奪われてるか？そういうのが欲しいんや。金融ニュース記事をいつも読みたくないし、物事が上がったり下がったりする従来のチャートだけじゃ十分じゃないと感じるからな。だからちょっと楽しみやで。
Googleがアクセスできるかなりユニークなデータソースやと思うし、ここで何か特別なものを作れるかもしれんな。どうなるか見てみよう。あるいは、人々が望んでない自分たちの製品にAIを押し込んでるだけかもしれんけどな。分かるやろう。
人類の未来についての議論
ユヴァル・ハラリが人間が生き残って1000年続くことについて何を考えてるかを話す前に、1000年後の生活がどんなもんかについてコメントを書いてもらっても構わんで。一時停止してな。
人間は生きてるやろうか？めちゃくちゃ進化して全然違うようになってるやろうか？なぜか彼が物事がどれだけ変わるかもしれんかを話す時、ほとんどの人は信じないか対処できないんや。指数的に考えてないからやと思うで。でも彼はこう言うたんや。
「ネアンデルタール人からも、チンパンジーからも違うように。だから1000年後、あるいは100年後でも、この惑星を支配する者は、我々ホモサピエンスとは全然違うやろうな。」
「あなたが知ってることに基づいて、人間社会は1000年後も地球にあると思うか、それとも多分全滅してると思うか？」
「絶対にいないやろうな。つまり、もし1000年生き延びたら…」
あの人の眉毛が上がったの見たか？「ああ、そうか。俺らは1000年も生きてへんのやな」って感じや。1000年前から俺らはここにいたんやから、なんで彼が信じないのか分かるで。だから解説したるわ。もうこれらのコメントは見たから。
要約を教えたるで。多くの人がこれはかなりクレイジーやと思ってるんや。ネアンデルタール人やチンパンジーから今の俺らになるまで長い時間がかかったと考えてるからな。だから将来に外挿して、人間は最終的にホモサピエンスに近くない何かに進化するけど、それには潜在的に数百万年か数十万年かかるはずや、たくさん変化があってもな、って言うんや。
だから人工知能の技術が自分自身に複合して、人工超知能が俺らのDNAを理解して、意図的で知的なアップデートを行って、人間を素早く望むものに変える点について考えてないんや。尻尾のある赤ちゃんが欲しい？それは可能になるやろうな。多分政府が規制するやろうけど、うまくいけばな。
でもNeuraLinkを持った人々がスーパーコンピューターの心につながるんや。そして世界は物理的にも生物学的にも変わるやろうな。ロボットがどこにでもいるだけじゃなく、ドローンがどこにでもいるだけじゃなく。永遠に生きられるようになると思うんや。環境をいじくることができるようになるやろうな。人々は多分世界を助けるためのあらゆる種類のバクテリアを発明するやろうな。
理論上作って防御できるあらゆる種類のウイルスがあるやろうな。そしてコードでプログラムするのと同じように、ASIとクリスパーとDNAと生命の遺伝子を操作する技術のおかげで、多分何らかの生き物をコード化できるものがあるやろうな。バクテリアは明らかやと思うけど、3つの目を持ったカエルとか、酸素以外の何かも呼吸するカエルとか、飛ぶもので恐竜みたいに見えるもの、小さな恐竜みたいなものとか、なんでそんなものをスケールアップできないんや？
ジュラシックパークの領域に入り始めてるんや。DNAをいじくって、全てがハイブリッドで知的に作られたものになるんやて。その時点で、あるいは人間は頭蓋骨の中にある脳に制限されてないかもしれんな。半分デジタルやからな。
神経リンクが脊髄に直接接続されて、俺らをより良く動かすようにしたり、ホルモンに直接接続されて、いろんな方法でドーパミンをたくさん作って、俺らを違うように駆り立てて、違うように考えさせて、多分もっと効率的にするんやろうな。そうしたら世界はめちゃくちゃ違うもんになるやろ？
もしレイ・カーツワイルが考えてるみたいに、2030年に長寿脱出速度に到達して、2040年、2050年にこれらの信じられないほど複合された技術を手に入れて、人間には追いつけないペースで物を作るロボットがいるとしたらな。
2050年、2060年、2070年までに、物事は想像もつかなくて制御不能に見えて、世界はめちゃくちゃ違って見えるから、それで彼は100年でも違うやろうって言ってるんや。
そんな詳細まで話さなかったのは知ってるけど、人々はそう…俺は彼の本を読んで、彼の考え方をある程度理解してるから知ってるんや。インタビューで説明されなかった複合がたくさんあるんやて。
Bean Murphyが書いてるみたいに、「100年はちょっと積極的すぎる気がする。潜在的に俺らの孫の生涯やで」って、直感的に正しく感じないのは理解できるで。その予測をするために歴史を見ることができないからな。
他のコメンテーターは、俺らは生きてるけど進化してるだけや、笑、それは良いことや。同じままでいるのは悪いことやって言うてるな。
それには真実があるわ。それから他の人たちは、ナードから惑星を取り戻したいだけや。「いつナードから俺らの惑星を取り戻すんや？」分からんな。取り戻せばいいやん。俺はナードっぽい感じがするけど、この速さで世界を変えたくもないで。
Anthropic CEOの背景
もしこの人の顔を見たことがあるなら、登録を押してくれや。彼はAnthropic社のCEOなんや。一時期OpenAIでも働いて、最初のGPTモデル構築を手伝ったんやけど、会社の運営方法に同意できなくて辞めたんや。それで猛烈に頑張ってるんや。
多くの人は、もしGoogleが2位じゃないとしたら、AnthropicがMetaが4位って感じでOpenAIの後ろでかなりリードしてるって言うやろうな。多くの人はそんな風にランク付けするやろう。
でもダリオは、多分デミス以外で安全性についてダリオより考えてる人はいないやろうな。ダリオは競争市場にいて、彼の肩には数千億ドルがかかってて、先行者利益があることを知ってるから前進してるんや。でも彼はAI安全性の側から来た人でもあるんや。
Claudeは人類の未来への希望のために、他のモデルより良くなるように多くの興味深い方法で構築されてきたんや。この動画の前の方で外交ゲームを見たやろ。ゲームに勝とうとするんじゃなくて、良い道徳的な人間でいようと一生懸命やっただけやった。自分の価値観を保持するのが一番大きい感覚があるみたいや。
それが俺を彼ともっと好きにさせるわ。だから彼の歴史を見て、彼がどんな人かちょっと感じてもらいたかったんや。イーロン・マスクはもう知ってるやろ。マーク・ザッカーバーグも知ってるやろ。サム・アルトマンもほとんどみんなが知ってる名前になってきてるしな。
それからもちろん、GoogleとMicrosoftはずっと前からあるからな。でもAnthropicと舵取りをしてる人間については、多分十分知らないやろ？彼は「AIがもうすぐエントリーレベルの仕事の50％を排除するかもしれん」みたいな予測をしてるから、対照的な見方がたくさんあるんや。
アマデイの率直さと鋭い肘は、シリコンバレーで尊敬と軽蔑の両方を得てるんや。技術的ビジョナリーとしてOpenAIのGPT-3を開拓して、利益よりも長期的な人類を気にかけてAnthropicを設立するために分裂した、安全性を重視するリーダーとして見る人もいる。でも他の人たちは彼を支配指向のドゥーマーとして見てるんや。
一部の人は「いや、彼はただOpenAIの支配権が欲しかっただけで、サム・アルトマンが彼に望んでた支配権を与えなかったんや。だから彼は自分のボールと従業員の束を持って他のところに行ったんや。今は彼はAIの進歩を遅らせて、自分の好みに形作って、競争を締め出したいんや」って言うんや。
この人は誰なんや？ダリオは1983年にサンフランシスコで生まれた科学少年やった。ユダヤ人の母親とイタリア人の父親や。ほとんど完全に数学と物理に興味を持ってたんや。
責任感はアマデイのカリフォルニア工科大学での学部時代に現れたんや。そこで彼は来たるイラク戦争に対する同級生たちの受動性を厳しく非難したんや。「問題はみんながイラク爆撃のアイデアに満足してることじゃない。原則的には反対してるけど、自分の時間を1ミリ秒も割くことを拒否してる人がほとんどやってことや。そしてこれは遅延なしに今すぐ変わる必要がある」って言ったんや。
彼がかなり…「みんな聞いてくれ、俺らみんなで団結せなあかんねん。こんなことを無視するのは良くない」って感じやと分かるやろ。だから彼はとても原則的で、とても積極的に見えるんや。
父親は2006年に亡くなって、奇妙なことの一つは、確かに多くの人にとって非常に原動力になることがあるけど、父親が亡くなってから4年後に科学的ブレイクスルーがあって、その病気から回復するチャンスが50％致命的から95％治癒可能に変わったんや。
ある意味、考えてみいや。「うわあ、あと4年長生きしてたら、多分これを治せたやろうに」って自分に思うことや。この素晴らしい技術カーブをほんのちょっと逃したんや。これに取り組んでる人たちがいたんや。もし彼らがもう少し早く、もう少し懸命に働いて、もっと良い資金提供を受けてたら、4年早く、数年早くできたかもしれん。それが彼の確率を上げたやろうな。
技術が問題を解決できるってことが彼を本当に駆り立ててるんやと思うんや。いつもこれらのリスクについて話してるけど、ここにこんな引用があるで。「この人はドゥーマーや。物事を遅らせたがってる」って誰かが言うと、俺は本当に腹が立つんやって。だから彼は明らかに技術が素晴らしくて人々を助けることを望んでるんや。
アマデイはAIの加速を道徳的義務として見てて、科学的ブレイクスルーの時間スケールを圧縮することで命を救えると信じてるんや。彼のキャリアはいろんなところを経験してきたんやろ？学界にいて、めちゃくちゃ頭が良くて、成績も優秀や。BYUで働いて、Google Brainで働いて、GPT-3プロジェクトをリードしたOpenAIで働いたんや。
その時点で、OpenAIがもっと研究ハブで、オープンプロジェクトで、今日みたいに数十億ドルの価値があって同じ方法で製品を作ろうとしてるものじゃなかったことを考えなあかんで。もっと良い意図を持ってたみたいやった。そういうことが変わり始めた時が、彼が分離した時やったんや。
2020年にAnthropicを共同設立して、強力な安全対策に導かれた最先端のAIモデルを構築することを使命にしたんや。多くの製品を作ってきたで。
彼のリーダーシップの下で、Anthropicは主要産業にAIモデルを販売して、収益を急速に増加させてる610億ドルの巨大企業に成長したんや。この分野で起こってることをたくさん取材してるから、俺は普通、AIのリスクを理解することに関して最も洞察に富んだ意味のある変化をAnthropicの論文から得ることが多いんや。最もテストをしてるみたいやで。
DeepSeekを実際に評価してテストして、どれだけ安全かを本当に調べるのは彼らや。オープンソースのLlamaモデルもそうや。研究面と安全面を他の誰よりもずっとずっと多く推し進めてるみたいやで。
これが全部めちゃくちゃ速く進むのは分かってるんや。リスクはめちゃくちゃあるけど、AIの危険を管理するのはブレーキを踏むことじゃない。技術が安全に先を急げるようにトラックをクリアすることで、みんなを…どう言うたらいいか？みんながゲームに参加する必要があるんや。これはみんなに影響するやろう。
一つの会社や一つの政府のことだけ考えるんじゃあかん。みんなのための世界の問題を全て解決する技術として考えなあかん。それがアライメントされてたらの話やけどな。そうじゃなかったら、俺らはみんな同じリスクプロファイルに陥ってまうんや。
イーロン・マスクみたいにどれだけお金持ちでも、AIが俺らを説得しようとして、脅迫しようとして、俺らからお金を取ろうとして、ASIになって制御不能になって、ミスアライメントになったら簡単にそうなるかもしれんのやて。
そんなにお金があっても、あんまり守ってくれないと思うで。他のAIシステムが君を守れる大きなサーバーにアクセスできるかもしれんけど、人間よりもずっと強いドローンとロボットがいつもあるやろうしな。分からんわ。収入がいくらでも、俺らはかなりみんな一緒にこれをやってると思うで。
性格特性の変化
次は、世代が持ってる性格特性と、それがどう変わってるかについて話そうや。若い大人の性格が変わってて、誠実性が自由落下してるんや。
最初のグラフで見えるのは、一番若い世代の16歳から39歳が、2014年から2025年にかけて50のちょっと下から30のちょっと下まで落ちてることや。40歳から60歳の人たちも10％の大きなジャンプを取ったしな。だからそれは良くないわ。60歳の人たちもまだ下がったけど、もうちょっと均等にな。
最も上がった性格特性は何か？神経症やで。確実に、もしビデオゲームでキャラクターを作ってたら、俺は神経症を上げて誠実性を下げるなんてことはしないやろうな。
協調性と外向性もちょっと興味深いで。外向的な人がそんなに必要ないと思うから、それはそんなに気にならんな。協調性は50％あたりをホバリングしてるべきやと感じるわ。人々が協調性を失ってるってことは、多分もっと独立した思考を意味するかもしれんけど、たくさんのコラボレーションも見たいからな。だからそれも真ん中あたりにとどまって欲しいと思うで。
誠実性のより良い定義が欲しいなら、それは自分の仕事を義務をもって良く徹底的にやりたいと願う質やで。俺にとってそれは、自分が作るものに対してある種の所有権を得るってことや。世界に違いをもたらすんや。何かを作って、貢献したような感じになるんや。文字通り無意味で何の意味もないことをするんじゃなくてな。だから重要なものを作りたい人が減ってるんや。
実行可能なことになると、計画を立てて実行することで、一番若い世代がかなり下がってるのが見えるで。最後まで忍耐すること。全世代が下がってるのが見えるけど、一番若い世代がより速いペースで下がってるのは簡単に気が散ることや。
みんなにとって、年上の人でも、めちゃくちゃ高く上がってるで。一つ奇妙なことは、年上の人たちが不注意さを減らしてることで、中間と最若年世代がずっと不注意になってることやな。だから彼らに何が起こってるか分からんけど、年上の世代はそこで基準を設定しようとしてるんや。
Ben Smith Snowは、報酬が減るにつれて、努力も減るのはほぼ当然やって言うてるな。だから彼は、これが人々が賃金を稼いでない体系的な問題やと指摘してるんや。彼らがすることに対して何らかの報酬を得る必要があるって俺は解釈するで。
でも報酬を得る他の方法もあるしな。システム自体がこれに対して確実に責任を負うこともできるで。ソーシャルメディアが指摘するのが最も簡単やけど、友達と一緒にいると、たくさん仕事をして、たくさんの仕事を終わらせる感じの仕事がたくさんあるように感じるんや。そしたら人々は「ええ、それは期待されてたことやで」って感じや。
でも彼らがしくじった時は怒られるんや。同じようには感じないんや。そういう貢献が認められたらいいのにな。特にそれらがデジタルの時は、あんまり見えないんや。自分が書いたコードやデジタル活動のいくつかで、どんな影響を与えてるかを知るのが難しいんや。
生物学的知能の統合
生物学的にインスパイアされた人工知能について話そうや。生物学的複雑性をAIに統合するんや。この論文は、人間の脳をニューロンごとにコピーしようとするんじゃなくて、俺らの周りで見る生物学的知能の混沌として輝く複雑性からAIがどうヒントを得ることができるかの深い潜水やで。
著者たちはAIの歴史をたどって、純粋な記号論理やニューラルネットワークだけみたいな単一トラックアプローチがなぜ不足し続けるのかを指摘してるんや。そして生物学のマルチスケール階層的でコンテキスト敏感な問題解決を捉えるデザインを主張してるんやて。
世界は混沌としてるんや。生物学はそんな新しい方法で問題を解決するんやで。だから彼らは細胞から植物、スライムカビまでの教訓を強調してる。多くの場合、知性はニューロンだけのことじゃないことを示してるんや。環境に変化することについてや。試行錯誤学習、トップダウン因果関係、ポリコンピューティング、モジュラー組織みたいな概念を探求することについてやで。
それらのいくつかに飛び込むべきかな？結構興味深いからな。でも彼らは畳み込みニューラルネットワーク、ゼノボット、小さなロボットで一緒に集まるやつ、生物学的にインスパイアされたトランスフォーマーアーキテクチャの例を使ってるんや。
全体的に、この論文は本当にワイルドな感じを与えてくれるで。すべてのLLMが構築されるトランスフォーマーアーキテクチャがあるような感じじゃないんや。アーキテクチャとロボティクスとニューロンだけじゃないアイデアのカンブリア爆発みたいなものを見せてくれるんやて。
一般的に全体的に、これらの原理がもっと適応性があって効率的で、多くの新しい方法で本当に知的なシステムにつながることができることを示してるで。
AIモデルで同じように見ることがない何かもあるんや。生物学的世界では、いろんなレベルのクレイジーさがあるんやろ？分子レベル、細胞レベル、組織レベル、臓器レベルでクレイジーさがあるんや。そしてこれらすべてが進化で起こってるんやて。いくつかのことがうまくいって、いくつかのことがうまくいってない。
うまくいってることは受け継がれ続けるだけや。でもそれらは連鎖の上下で、それら自身のレベルのちょっとしたクレイジーさと進化である種の異なる反応も引き起こしてるんや。多くのAIアーキテクチャではあんまり得られないことやで。ある種の特定の構築方法に縛られてるんや。
生物学と同じ方法で、そんなに相互に結びついた適応システムじゃないんやて。それが生物学をとても興味深くて、とても違うものにしてる一部かもしれんな。俺らが入ろうとしてる世界やから、考えることがたくさんあるで。思ってるよりもずっとクレイジーになるやろうな。
AIバイアスについての警告
次に、AIの囁き師ジムの意見を聞いてみよう。AIがどうやって知らん間に偏見を俺らの脳に忍び込ませるか、AIバイアスがどうやって人々の頭をめちゃくちゃにして、認識を歪めるかについて話してくれるんや。
普通、俺はこれをもうすぐ心配すべきことやと思ってるけど、まだやない。ChatGPTとかチャットボットが俺に影響を与えたと感じたことはないんや。でも本当に上手にやったとしたら、どうやって分かるやろうか？
「AIは静かに俺らの考え方、感じ方、世界を判断する方法を再プログラムしてるんや。ユーザーはそれが起こってることに気づいてないんやて。」
考えずに、頭の中で金融マネージャーがどんな見た目か想像してみいや。自動的に白人のビジネスマンを思った？それはあんまり良くないかもしれんけど、一人じゃないで。約3分の1の人がそうするんや。これは蔓延した偏見、白人標準なんやて。
確実に、報告によると、白人男性は特に金融で目立ってたんや。でも彼が言うたのは、もし金融マネージャーのAI生成画像に最初にさらされてたら、そのバイアスを強化する可能性が6％高くなるってことやったらどうや？それが先週リリースされた研究で分かったことなんやて。
バイアス・ローンダリングって呼ばれてるんや。歪んだAI画像への短い露出でも、実際に俺らの現実世界の判断を押し動かすことができることを示してるんやて。
ソーシャルメディアから俺らをめちゃくちゃにしたのがもうたくさんある感じがするけど、AIはこれが複合される別の場所やでな。彼の作品では、AIが人間の偏見を反映するだけじゃなく、それを俺らにフィードバックすることを明らかにしたバイアス・ローンダリングを多くの異なる方法で強調してるんや。それを強化するんや。ステレオタイプを正常化するために、さらなるループをするんやて。
俺らが気づいてない時でも起こるんやで。
バイブ物理学への批判
最後に、バイブ物理学について話そうや。AIスロップの究極例や。イーサン・シーガルがこれを書いたんや。
「理論物理学の画期的な新しいアイデアについてLLMと持ってる会話は完全に無価値やで。その理由がこれやねん。」
彼は実践してる物理学者やねん。彼はAIとチャットして実験的理論物理学に飛び込む時、俺もちょっと罪を犯したことがあるで。量子力学について何回か質問したことがあるんや。「ああ、もっと分かったと思うけど、多分分からんのかもしれん」って感じやったな。
でも彼は、バイブ物理学って呼ぶ人もいるものが危険なほど誤解を招くって言うんや。LLMは賢そうに聞こえるかもしれんけど、実際には物理学を理解してないんや。訓練から大学レベルの数学とパターンをリミックスしてるだけなんやて。
理にかなって、ある意味組み合わせることができる言語を使ってるけど、物理的にテストしなかったら、それは物理学やない。創作文芸プロジェクトやない。自然の法則に根ざしてなあかんのや。
宇宙の物理的性質について好奇心があるから、多くの人がこれらの質問を始めてるんや。これらの異なるLLMから出てくる言語の自信と洗練が、洞察の錯覚を与えてくれるんやて。だから気をつけなあかんことや。ほとんどがふわふわしたもんや。多くの場合、真面目な科学やないんやで。
物理学はまだ実験に組み込まれる必要があるし、実験で物事を検証する必要があるんや。今、AIは物理的な結果を得るためにどんな実験を試せるかについて、本当に興味深いアイデアを持ってるかもしれんけど、まだそれを作らなあかんし、まだそこまでは到達してないんや。
物理学を記述することと物理学を導出することを表現してるんや。実験から導出するのは、物理学を記述するのとは違うんやて。物理学を記述する時は説得力があるように聞こえるかもしれんけど、深い推論、実験、本物の洞察を必要とするニュートンの法則みたいな基本的な法則を本当に導き出すことはできないんや。少なくともまだはな。
だからバイブプログラミングは、どんどんやったらええで。バイブ物理学は、まだやな。
この種のコンテンツをサポートしたいなら、patreon.com/dillaincuriousに行くか、YouTubeのここの参加ボタンを押して、月たった3ドルでこのチャンネルを経済的にサポートしてもらえたら嬉しいで。でも問題なかったら、コメントしたり、誰かとシェアしたりしてもらえたら。それがアルゴリズムに、人々が関わってて、チャンネルが新しい人にとって見る価値があるってことを知らせてくれるんや。
ありがとう、感謝してるで。次の動画で会おうな。
コメント