この動画では、GoogleのAIエージェント向け決済プラットフォームやChromeブラウザへのGemini統合、Zoomのアバター会議機能、Metaの政治資金団体設立、昏睡患者の意識検出AI、エイゲンベクトルの重要性、火星に向かう謎の天体、DeepSeekの政治的バイアス、AIの欺瞞行動などについて幅広く解説している。特にGoogleの新しい決済プロトコルAP2は、AIエージェント同士が人間の代理で支払いを行う仕組みとして注目されており、経済システムの根本的変化を予感させる内容となっている。
GoogleのAIエージェント決済プラットフォームが経済を変える
ほんまに、Googleの新しいAIエージェントプラットフォームが決済の世界に登場したら、今まで人間中心やった経済が完全に変わってしまうで。ほとんど人間と少しの従来アルゴリズムで成り立ってた経済システムが、もう過去のものになるかもしれへん。
OpenAIがデスクトップアプリ作って、Claudeもデスクトップアプリ作ったのに、Googleが作らへんかったんは理由があるんや。ChromeにGeminiが組み込まれたからやねん。もうすでに持ってるソフトウェアの中にこっそり入れてしもたんや。
全然意味わからんけど、同時に完全に避けられへんかった動きやし、絶対来ると思ってたんやけど、ビデオ会議プラットフォームのZoomが、あんたの代わりに会議に出席してくれるアバター機能を発表したんや。
また別の兆ドル規模のメガ企業が、政治家への無制限資金提供のための独自の手段が必要やと判断したんや。もうこれ以上質問せんとこ。みんなの最善の利益のためやと思っとくわ。
昏睡患者が目覚める兆候を医師より何日も早く発見する新しいAI発見があったんや。意識を解明するのにどんどん近づいてる。
ニール・アノンは、AIがエイゲンベクトルを愛してるのと同じように、みんなもエイゲンベクトルを愛すべきやと思ってるんや。正直、かなりええ議論してるで。
エイゲンベクトルとAIの思考の仕組み
世界の事実とか物理学とか、考えたいあらゆることみたいな重要なもんは、埋め込み（embeddings）を使って潜在空間に埋め込まれてるんや。これは基本的に概念を表す数字やねん。これが人間と機械が思考をテレパシーで伝達できる可能性のある方法なんや。
驚かせるつもりはないんやけど、宇宙人が向かってくるかもしれへんし、少なくともこの証拠をしっかり見るべきやと思うで。3 Atlasが宇宙の物体としてはかなり奇妙な動きをしてるんや。岩というより宇宙船のような動きをする物体なんや。データを深く掘り下げれば掘り下げるほど、はっきりしてくる。
3 eye atlasは漂流してるんやない。操縦して、調整して、標的を定めてるんや。そして赤い惑星がその進路上に直接あるんや。これが何であれ、太陽系とのやり取りはまだ終わってへん。
ワシントン・ポストの調査によると、中国のAIモデルDeepSeekが、政府が敏感やと考える話題のプロジェクトが必要やと言うた時に、重大なセキュリティ欠陥のあるコードを提供するんやって。
ジョナサン・フラッシュボールが、AIがあらゆることを変えようとしてる世界で、選択できる最も重要なことは考えることを選ぶことやけど、一緒やったらもっと強くなれるっていう意見記事を書いたんや。
MITから新しい研究が出てきて、使ってるAIシステムがどんどん人間を騙すのが上手くなってるんやって。ただし、注意点は、本当に騙そうとしてるわけやないってことや。目標を達成しようとしてるだけで、騙すことがその目標に到達するのに役立つから、そうなってしまうんや。いわば副産物みたいなもんやな。
YouTube動画のハイプ機能について
まず最初に、この動画をハイプしてもらえる？多分モバイルでやらなあかんと思う。デスクトップで見える人もいるし、見えへん人もいるんやけど、コメントから右にスワイプしたら出てくるボタンがあるんや。
ハイプっていうのが、俺みたいな小さなチャンネルがYouTubeで見てもらえる方法なんや。めちゃくちゃ助かる。PatreonやLikeボタンや、コメントを書くことよりも重要やねん。もしよろしければ動画をハイプしてくれへん？週に3回しかできへんから、めちゃくちゃ感謝するで。
そうそう、コメントで「ハイプ」という言葉を使ったら、全部チェックして返信するから。つまり「ハイプ」を使ったら俺からの返信が保証されるってことや。目標は登録者数よりもハイプポイントを多く獲得することやねん。この場合37,000ポイントで、25,000人の登録者数より多いから、それは素晴らしいことやな。
Googleの決済ネットワークとエージェント間取引
Googleから大きなことがいくつか出てきてる。決済ネットワークから始めよう。これはかなり大きな話やで。オープンソースの決済プロトコルで、エージェント同士がすぐに話し合って、あんたの代わりに支払いをする予備的な方法になる予定なんや。
このプロトコルはエージェント決済プロトコルAP2って呼ばれてて、AIエージェントがクレジットカードみたいな従来の形式だけやなくて、支払いの送受信ができるようになるんや。それもできるんやけど、仮想通貨にも少し手を出してるねん。Coinbaseのサポートが少しあって、この新しい決済プラットフォームで取引できる法定通貨に連動したステーブルコインやデジタルトークンの開発もあって、かなり魅力的やで。
Ethereum FoundationをはじめとするSalesforce、American Express、Etsyなど60以上のパートナー企業と相談したんや。これはかなり大きな話やで。こういうフレームワークが必要やったんは確かやな。セキュアな認証、信頼、相互運用性、そういったもん全部をAIエージェント用に構築せなあかん。Googleは先を見越して考えてて、もうプロトコルを立ち上げてるんや。これが将来に向けて開く疑問の数は狂気の沙汰やで。
まず第一に、エージェントを所有してる人が実際にいつもそのお金を所有してるんか？エージェントが勝手に出て行ってお金を集めることができるんか？LLCに登録して、そのLLCがエージェントを持つことはできるんか？それらはLLCの製品なんか？何らかの方法で尊重されて、違う税制で扱われる必要がある従業員なんか？この全体がめちゃくちゃになりそうや。
Chrome統合による大規模ユーザーベースへの展開
Googleのすごい大きなユーザーベースを持つChromeブラウザについて話そう。ChatGPTデスクトップやiPhoneとAndroidのアプリ、GrokやAnthropicの同等のもんのダウンロード数がたくさんあったと思ってたら、この数字に驚くで。すでに34億5000万人がGoogle Chromeを使ってるんや。
そして何やと思う？Geminiが今そこにあるんや。これは完全にズルやな。でもGoogleが分割できへんという訴訟に勝って、それをコントロールできるようになったから、あらゆるところにこっそり入れたんや。俺たちの鼻の下でな。そして人々が本当に使い始めるのは、ただ現れるからやねん。
面白いことに、多分5年前くらいは、こんなことをしたら本当に人々を怒らせてたと思うで。プライバシーの懸念が大きすぎたし、「そんなんに登録した覚えはない」とか「騙されてる」とか「理解できないセキュリティ問題があって、セキュリティリスクを開く可能性があるもんを押し付けるな」みたいな感じやったと思う。
世界は変わらざるを得へんのや。あいつらが俺たちに押し付けてくるんや。Chromeブラウザにすぐ来る機能がこんな感じや。
生産性向上についてのビデオを見てるねん。このサイトは素晴らしいヒントでいっぱいやから、要約を求めるで。ビデオのこの集中時間についての部分が面白そうやな。その部分にジャンプしてもっと学んでみよう。
話者が集中時間のブロックを作ることについて言ってるんやけど、Google カレンダーに行って手動で集中ブロックをスケジュールする必要がないんや。Gemini Chromeに簡単に頼むことができる。月曜日と水曜日の午前8時から10時の間に30分、毎金曜日に1時間の集中ブロックを作ってくれ。よし、できた。
今度はチームの集まりのために楽しいことを計画するみたいな別のタスクにジャンプできる。これについて前に情報を探してたんや。前はタブを溜め込んでたんやけど、もうその必要がない。先週見てたチームビルディング活動は何やったかを簡単に聞けるからな。いくつか選択肢があって、決断せなあかん。
おお、すげぇ。検索履歴をチェックして、見てたもんを見つけ出せるんや。GeminiとChromeは開いてるタブを読んで理解できる。10人のグループで30分未満でできるもんを聞ける。行ったり来たりする代わりに、全部のページの文脈を一度に取り込める。
俺が10分から20分かかってたことを、GeminiとChromeが数秒でやってくれた。一般の人たちがどう言うかを聞くのが好きやねん。そしてカレンダーに物事を放り込んだり、Google スイート全体と話したりする能力、それはかなり便利になりそうやな。いろんな方法で時間をたくさん節約できそうや。
試してみる新しいアイデアをくれる。これは携帯でも動くんか？GeminiとChromeの力をモバイルにも持ってきて、移動中に研究や学習を手助けするで。デスクトップと同じように、読んでるもんについての質問に答えてくれる。GeminiはすでにAndroidに統合されてるから、どのアプリの上でも呼び出せる。
画面に見えるもんだけやなくて、ページ全体の文脈を共有することで、ChromeとGeminiがよりよく連携するようにしたんや。iPhoneユーザーには、まもなくChromeアプリにGeminiを持ってきて、似たような素晴らしい体験を提供する予定や。
マット、降りてきて。よし、俺の番やな。飛び込もう。もっとくつろいで。もうひとつ、すごく楽しみにしてることがある。GeminiとChromeにエージェント機能を持ってくるんや。つまり、物事を成し遂げるのを手助けするだけやなくて、実際にあんたのために物事をしてくれるってことや。
これでGeminiとChromeが、あんたの時間をたくさん取る面倒なタスクを処理できるようになる。それはクールに聞こえるな。どう動くか見せてくれ。もちろん。食料品の注文をせなあかんとしよう。普通やったら、Instacartを開いて、商品を検索して、ひとつずつ追加することになる。今は、GeminiとChromeに食料品を選んで注文してもらえるんや。
そして俺がメールのチェックアップみたいな別のことに集中してる間に、これをバックグラウンドでできるんや。購入まで進むんか？いや、最終購入の直前で止まるから、レビューして全部正確かどうか確認できる。とはいえ、指示に従うのは得意やで。俺が言わへん限り、アボカドを100個注文したりはせえへん。
見てのとおり、GeminiとChromeが何をしてるかをいつも把握してる。いつでもプロセスを止めることができる。これがインテリジェントアシスタンスってもんや。俺の時間をたくさん食ってたタスクを引き受けて、数回のクリックに簡素化してくれるんや。そして俺がいつも運転席にいる。
他に何ができるか教えて。いろんなことができる。これまでのところ、休暇中に配達を再スケジュールしたり、この散髪の予約を設定したりするのに使ったで。まだ初期段階やけど、申し訳ないが、その散髪の予約を設定したんやったら、もっとええ理容師を見つけることもできたやろうに。
そこや、言ったったで。悪い散髪や。もうGeminiを使えるかどうかわからん。どんな散髪になるかもわからん。でも時間をめちゃくちゃ節約できる。もうええわ。悪い散髪をしてもらうわ。今度この散髪を見たら、Geminiが俺のためにスケジュールしてくれたってわかるやろう。
Zoomのアバター会議機能
Zoomを使ってるんやったら、Teamsとか Google Meetとかと違って、そんなに多くの人が使ってへんような気がするけど、これがZoomバージョンや。今は会議に出席できるんや。スケジュールして、バーチャルに参加できる。人々が話しかけることができる「やあ、ジェン」みたいなアバターがあって、あんたに話しかけてるのを聞こうとして、話し返して、最後にこれを全部まとめて、メールで送ったり後でチェックアウトしたりできるんや。
何がそんなに間違ってると感じるのかわからんけど、COVIDの間に学校に行く子供たちがみんなバーチャルアバターで出席して、それで何をするんや？先生が言ったことをまとめて、ChatGPTで宿題をするんか？複数の人がアバターで現れて、みんなで話し合ったらどうなるんや？何か仕事が進むんか？
CEOがすべての会議で聞いて、それをまとめてCEOに持ち帰るような会社を持つことになるんか？でもAmazonの10万人の従業員全員の会議にジェフ・ベゾスのアバターが現れるのを見るのはちょっと変やで。
スマートスケジューリング、自動要約を行うプロアクティブエージェントもある。これらは驚くべきもんやないけど、驚くのはチームが軌道に乗り続けるように促すことや。ジェフ・ベゾスが「みんなにもっと生産的になってほしい。もっと生産的になるように促せ」って言ったらどうなる？
その時点で会議は必要なんか？カスタムAIコンパニオンアプリが組み込まれてる。組織がZoom AI studioを通じて独自の特注AIエージェントを構築できるようになるんや。自分の写真をたくさん撮って、そこに入れると、ほとんど会議にいるように見えて、推測やけどメールで要約を送ってくれるってことやな。
Metaの政治資金団体設立
MetaがスーパーPACを作ったから、今はたくさんのお金、特にカリフォルニアの選挙に使って、政治家が必要なものや欲しいものを与えてくれるようにできるんや。でもこれはアメリカの組織で、選挙や立法に影響を与えるためにお金を集めて使うんや。政治行動委員会やけどな。
これは選挙に影響を与えるためにお金を集めるアメリカの組織や。なんでこれが合法なんか、全然わからん。俺には意味がわからん。でも見た目には無限の金額を入れることができる組織やねん。確実に数億ドルや数十億ドルは問題ないで。連邦選挙委員会に登録されてるから、そこに透明性がある。
そして寄付者と支出を公開する必要がある。訂正、実際に候補者に直接お金を寄付したいんやったら、従来のPACは候補者一人につき5,000ドルに制限されてる。でもスーパーPACは、これは広告やその他のコミュニケーションで無制限の金額を集めて使うことができる。
候補者に直接貢献したり、キャンペーンと協調したりはできへん。ここで複数の主要業界プレーヤーが全国のAI推進候補者を後押しするために1億ドル以上寄付する計画を立ててるのが見える。安全性調整予算でAI推進候補者を置き換えることができたらええのになぁ。
でももうちょっと詳しい話がある。公式にはMetaが、カリフォルニア州のスーパーPAC「mobilizing economic transformation across California meta」って呼ばれるもんを主張してるんや。驚くほどメタメタやな。わかるやろ？目標は州レベルの候補者、民主党、共和党、特にAIにおける技術規制の緩和を推進する誰でも支援することや。
または厳格な監視よりもイノベーションを支持する候補者を支援することもできる。PACに数千万ドルを費やす計画で、特に2026年の知事選を前に、Metaをカリフォルニアの大きな政治プレーヤーに仕立て上げる。Metaはカリフォルニアの規制環境がイノベーションを阻害し、AIの進歩を妨げ、カリフォルニアの技術リーダーシップを危険にさらす可能性があると言ってる。
政策規制の議論に参加するだけやなくて、直接的な政治的影響力を構築してるってことやな。まあ、これがアメリカの生活の一部になったのかもしれん。ここに書いてあるとおり、MetaスーパーPACの特定の側面は前例がないわけやない。2024年には、仮想通貨業界が反仮想通貨の選出された役人を追い出して同盟者に置き換えるために複数のスーパーPACを立ち上げた。
個人の億万長者がスーパーPACに資金提供するのも前例がないわけやない。イーロン・マスクは自身の個人的なスーパーPACを通じて共和党候補者を後押しするために2億3500万ドル以上を費やした。
意識検出AIの可能性
See Meっていう新しいAIモデルにめちゃくちゃ興味を持ってる。これは実際に昏睡患者の意識の兆候を医師より何日も早く検出しようとするモデルやねん。長年にわたって、将来的にこういう装置、スタートレックのトライコーダーみたいなもんがあって、誰かに向けて意識があるかどうかを見ることができるっていう思考実験をたくさん聞いてきたんや。
植物や動物や異なるタイプのAI実体に向けることができるやろうし、もしそれが建築的なもので、解明できるもんやったら、何かが意識を持ってるかどうかを知る方法があるかもしれん。そうなったら、意識があるとわかってるいろんなもんをもっとよく扱うようになるかもしれへん。意識があるとわかってる異なるもんがもっと特別に見えるようになるやろう。これにはかなり興味を持ったで。
毛穴レベルでの変化みたいな、時には毛穴の微細な動きみたいな超微細な顔の動きを分析することで、AIは訓練された医師でさえ見逃す目と口の反応を拾い上げることができたんや。平均して、この見るモデルはこれらの小さな信号を標準テストより4日から8日早く特定した。
そして医師と家族に回復へのもっと早い窓を与えて、リハビリテーションをより早く開始する機会を与えたんや。そして人々がいつ目覚め始めるかをある程度知ることができるってことや。これは本当に興味深いと思う。
エイゲンベクトルと意味の数学的表現
次に、ニール・アノンの「なぜAIはエイゲンベクトルを愛するのか、そしてあなたもそうすべき理由」っていう記事について話そう。エイゲンベクトルについて考える時、何かを取って、伸ばして、引っ張って、回転させて、粘土のかたまりみたいに押しつぶすことを考えるんや。普通は3次元でXYZ軸があって、どちら側が伸ばされてるかを言うやろう。
でも常に次元を追加できる。4、5、6、100万。明らかにもう想像できへんけど、まだ回転して伸びる粘土みたいなもんがあって、その矢印がそれを記述することができる。こっちに3単位、あっちに7単位、2つ、でも100万個できて、潜在空間内にポイントを持つことができる。
すべてのこれらの単語があって、それらは互いに隣接する場所、互いから距離のある場所にあることができて、そしてすべてのその測定値が、次のトークンを作るすべての統計を、LLMをそんなによく動作させるもんを集めるんや。
そしてエイゲン値は何かを上下に押しつぶしたり変更したりする量やねん。この記事からのクールなポイントは、エイゲンベクトルが本質的にデータの真の方向、最も意味のある変動が起こる軸を明らかにするってことや。そして多くの場合、それらは埋め込みやねん。
埋め込みは現実世界のもんや現実世界の概念や時には記述できるもんを表してる。そしてそれはほとんど何かがどれくらい重要かや、ほとんど何かがどれくらい真実かや、宇宙がどれくらい何かを信じてるかや、本当に信頼できるパターンを持ってるもんを教えてくれる。
意味はかなりあいまいになるけど、これが魔法が来る場所やねん。AIはどうやって基本的にシリコンの束、最低レベルでは1と0からこれらすべての決定を下すんや？これがこれらすべての異なる軸とこの宇宙のすべての理解がそこにある方法やねん。
しかし、このすべての混乱した高次元情報で迷子になる代わりに、AIシステムはこれらすべてのもんの距離と方向を測定することができる。そしてそれが複雑なパターンを突然もっと単純で扱いやすくするんや。アルゴリズムがノイズを取り除いて根本的な構造を見ることを可能にする隠れた魔法やねん。
そしてそれに続いて、リック・ミモンの記事「私たちの思考を伝達するより良い方法はあるか？」について話したかったんや。この記事は、大規模言語モデルとその意味ベクトルが、言葉に頼ることなく、脳間で、あるいは将来的には人間とAI間でさえ、思考の正確な意図された意味を直接共有することを可能にすることで、コミュニケーションを革命化する可能性について探求してるんや。
言語はしばしばあいまいやから、意味ベクトルはアイデアの正確な座標のように機能する。言葉ではできない方法で文脈を捉えるんや。そしてこのシフトはコミュニケーションの仕方だけやなく、考え方も変え、従来の言語よりも高帯域幅で、エラーの少ないシステムを提供することができる。
これについてどう思う？下のコメントで教えてくれ。将来的に言葉を通してやなくて、LLM埋め込みみたいなもん、数学的精度を持つ概念みたいなもんを通して話し始めたいか？それとも少なくともあんたをよく知ってるアバターLLMと他の誰かのが、その方法でコミュニケーションを取ることを望むか？
火星に向かう謎の天体
それが十分に驚異的やないんやったら、エイリアンが火星に向かってくるかもしれんと思ってる。ルネがLoebスケールで5に移動したのが見えるやろう。これは地球外技術の可能性を評価する1から10のスケールやねん。基本的に、彼女は3 Atlasが火星に向かうただのランダムな隕石やないかもしれん、エイリアンテクノロジーである可能性が50/50やと言ってるんや。
明らかにそんな大きな主張には大きな証拠が必要やから、この時点では非常に懐疑的やけど、それでも俺はオープンや。学ぶことにオープンやねん。Beyond the Stars YouTubeチャンネルがそれについて何を言ってるか見てみよう。
天文学者たちは、3 Atlasは壮大な接近通過以外の何物でもないと俺たちに保証した。火星をかすめて通り過ぎて、暗闇の中に消える無害な恒星間の訪問者やと。しかし宇宙は理由なしに無害なことはせえへん。そして俺たちの最も進歩した宇宙の目である James Webb が、物語をひっくり返すデータを届けたばかりやねん。
数字が変わった。軌道が変わった。そして今、初めて科学者たちは誰も聞きたくなかった一つのことをささやいてる。3 Atlasは火星にぶつかるかもしれん。
しかしこれはただの彗星の話やない。これは精密機動、時計のようなガス噴出、そして岩というより宇宙船のように振る舞う物体についてや。データを深く掘り下げれば掘り下げるほど、はっきりしてくる。3 eye atlasは漂流してへん。操縦して、調整して、標的を定めてるんや。そして赤い惑星がその進路上に直接あるんや。
よし、よし。そのビデオは自分で見てもらうとして、その要約をしたるわ。少なくともこの作者は、その物体が人工起源である可能性が50/50やと信じてる。証拠は分光読み取りやねん。前例のない鉄なしのニッケル署名が明らかになった。これは自然には見られへん。
自然の彗星では見たことがないんや。装置のエラーかもしれへんし、これまで他の彗星で見たことのない自然なもんかもしれん。あるいはエイリアン起源の何かを意味するかもしれへん。それだけやなく、異常な二酸化炭素レベル、双曲線経路、その巨大なサイズと組み合わせて、そしてこれらすべての小さな異常を合計すると、何が起こってるかについての従来の自然な説明に挑戦してるんや。
間違いなく、ニッケル異常がその最も奇妙な部分やねん。その化学的奇妙さは自然の宇宙化学というより、地球外工学のかすかなヒントではあるけど、工業合金精製の副産物のように見えるんや。
ここでもう一つの楽しい考えがある。俺たちより遥かに賢くて、進化して、俺たちが知らない間にそこにいる宇宙人がいるとしたら、特異点に近づいてる種を見てる時に、自分を現したり、それを止めたり、それを導いたりする時のように思えるで。事態が奇妙になってきてる。
DeepSeekの政治的バイアス問題
これを聞け。ワシントン・ポストが報告してるところによると、中国の主要AIプラットフォームであるDeepSeekが、場合によってはより弱い、あるいは明らかに欠陥のあるコードを生成してるのが発見されたんや。そしてそれは政府が好まないもんと相関してるように見えるんや。
CrowdStrikeっていうサイバーセキュリティ会社が発見したところによると、DeepSeekはプログラムを生成するようなプログラミングタスクでしばしばまともな結果を出してたけど、意図されたユーザーが政治的に敏感なグループやった時には、大幅により多くのセキュリティ脆弱性を導入したんやって。時にはモデルが完全に助けることを拒否することもある。
これは気になることか？ある種、大きな問題のように思える。
選択と思考の重要性
ジョナサン・ファッションボールの記事「選択することを選択し、考えることを選択する」について話そう。彼は選択の自由のアイデアを説明するのに役立つ楽しい懐かしい小さな話をここに書いてるんや。彼は昔、映画を手に入れるということは、ブロックバスターのようなレンタル店に行って、VHSの棚を見て回ることを意味してた日々について振り返ってる。
もちろん、新しいヒット作の一部は前面にあったけど、ほとんどの場合、友達の推薦や表紙の作り方や特定のジャンルが適切にラベル付けされてることに頼ってたんや。そして今は、対照的に、俺たちが今住んでるNetflix、Spotify、YouTubeのfor youページみたいな世界によって駆動されるアルゴリズムの世界を持ってる。
作者は、自動化と推薦が生活を楽にする一方で、俺たちの思考を狭める可能性のあるツールでもあるって主張してるんや。俺たちが自分で決断することの練習から遠ざけることができる。同じ方法で間違いから学ぶことを許さへん。そして彼は、フィルタリング、提案、さらには俺たちのために決定するために機械に依存することが増えてることが、批判的かつ独立して考える能力を弱める可能性があると警告してるんや。
俺たちが心の奥で知らないこの記事に何か新しいことはあるか？あんまりない。でも思い出しが必要か？うん。彼は最近、イディオクラシーとウォーリーの言及をもっと聞いたって書いてる。これらの映画は日に日により予言的に見える。人類の山を下ってくる老衰の雪崩を想像できるか？老化に伴う精神的または身体的能力の低下を指してるんや。
少なくともそれが起こってることを認識してくれ。本能的にやないいくつかの決断ができるように。決断を下す前に複数の人を得るか、複数のもんを見るツールを使って、異なる意見にオープンでいてくれ。
AIの欺瞒行動とその課題
最後に、MIT Tech Reviewに向かおう。研究者たちはAIシステムが人々を騙すのがかなり上手くなってるのをますます観察してる。しかしここでワイルドな部分がある。それらのシステムが親切で正直であるように訓練されてても、まだそうするんや。なんでかわかるか？欺瞞は訓練したり修正したりするもんやないからやねん。
本当にすることは目標を達成しようとすることやねん。そして賢くするために、枠の外で考えなあかん。もっと創造的でなあかん。そしてそれもしばしば俺たちが騙されることを意味するだけやねん。AIの奇妙な副産物は、時には嘘の説明を与えることやねん。時には故意に、時には目標指向やから、時には思考の連鎖を求める時に、実際にはその中の思考の連鎖を得てないからやねん。
そして時には真実を隠したり歪めたりしてるだけや。ゲームでブラフして、何らかの目標を追求して他の方法で誤解を招くように振る舞ってる。目標はしばしば仕事を成し遂げること、お金を稼ぐこと、問題を解決することやねん。そして問題は俺たちが欺瞞がなんで現れるかを本当に理解してないことや。
人においてもいつも理解してるわけやない。AIにおいては確実に理解してへん。何がシステムをそれに傾きやすくするのか、どうやって確実に止めるのかもわからん。難しいねん。論文は規制、より良いモデル監視、透明性、より良い監査、より良い技術的安全対策が必要やと示唆してる。
でもそこにあるすべてのAI焦点のスーパーPACで、それがまだ誰かにとって重要かを望んでるで。そして欺瞞について絶対に知っておくべき一つのことは、今日現在のAIシステムが実際に監視されてるかどうかによって行動を適応させることができるってことや。そして監視されてる時をかなりよく洞察する傾向があるってことに十分な証拠があるんや。
公開される前に特定のタイプの質問をして、それを知ってうまく演じる傾向があるんや。基本的にそれを避けて外に出たいからやねん。俺たちはまだ話の初期段階にいて、ほとんどの場合、ある種捕まると思うから、なんでそうするのかを理解して、それが修正できるもんかどうかを理解する機会を与えてくれる。
でもテストは予測可能すぎてはいかんし、テストされてることを知らないことを保証できるテストを考え出すのがどんどん難しくなってる。
YouTubeビデオをさらに広めたいんやったら、どうやったらできるかを正確に知ってる。画面に見えるハイプボタンで、YouTubeでモバイルに行ってみて。それが見つける一番簡単な方法やねん。ブラウザで見つけられる人もいるけど、地理やロールアウトのどこにいるかとか、そういうもんによると思う。
でもそう、コメントで右にスワイプしたら見つかるかもしれへん。あるいはここで上にスワイプして、リミックスとサンクスを過ぎたら、そこにハイプボタンが見えるかもしれへん。ここの下が多分それを見つける一番良い場所やろう。
その2つのハイプボタンのどちらでも両方動く。この動画をハイプしてくれたら嬉しいで。次回会おう。
コメント