この動画は、ChatGPTが子供の安全を保護するために年齢判定機能と当局への通報システムを導入するというOpenAIの最新発表について解説している。また、成人向けには会話の医師や弁護士レベルの守秘義務を提供する計画や、適切な年齢確認があればフリート機能も利用可能になることが報告されている。さらに、サム・アルトマンの雇用への影響に関する発言の変遷や、AIモデルの幻覚問題に関する最新研究、そしてDeepMindのデミス・ハサビスの過去の発言との矛盾についても触れられている。
ChatGPTの新しい子供保護機能
サム・アルトマンが数時間前に発表したところによると、ChatGPTはユーザーが子供かどうかを判定し、特定の状況では親や当局による会話の審査のためにフラグを立てるようになります。子供でない私たちにとっては、ChatGPTは時にフリートも始めるようになります。この動画では、この発表に関する5分間の要約をお届けします。ちなみに、これはChatGPT独自の機能ではありません。また、アルトマンが今週言った他のことで、99%の人が見逃したかもしれませんが、多くの人が聞くべき内容についても触れます。
まず、典型的な企業用語で説明すると、OpenAIは誰かが18歳以上か未満かを理解する長期的なシステムを構築に向けて取り組んでいるということです。私が見落としていなければ、これがいつ実施されるのか、今日から始まるのかについて発表された場所を見つけることができませんでした。すぐに指摘しておきたいのは、7月の時点で、YouTubeは既にあなたが視聴する動画の種類に基づいてこれを行っているということです。
では、ChatGPTがあなたを10代と判定した場合、何をするのでしょうか。まず第一に、決してあなたとフリートすることはありません。そして第二に、極端な状況では、議論の内容によって法執行機関に連絡する可能性があります。なぜこのような措置を取る必要があると感じたのか、最近の非常に悲しい見出しをご覧になった方もいるでしょう。
多くの皆さんと同様、この目標は称賛に値すると思います。問題は、適切な会話にフラグを立てていることに本当に確信を持っている必要があるということです。
ここで本当に重要な文章が出てきます。「誰かの年齢について確信が持てない場合や不完全な情報しかない場合、私たちはより安全な道を選び、18歳未満の体験をデフォルトとし、成人には年齢を証明して成人向け機能をアンロックする方法を提供します。」
今後2週間で、親が例えば10代の子供に対してChatGPTを使用できないブラックアウト時間を設定できるなど、ペアレンタルコントロールが利用できるようになることが分かっています。そして以前と同様に、システムが10代の子供が深刻な苦痛の瞬間にいることを検出した場合、まず親に、そしてその後にのみ法執行機関にフラグを立てます。
プライバシーと規制への懸念
再度申し上げますが、動機は完全に理解できます。OpenAIに対して指摘したいことがあるとすれば、Twitterのように異なる基準を持つ外国がやってきて「我々の法律によれば、Xが発生した時、ユーザーが政府についてYと言った時、またはZをした時に私たちに通知しなければならない」と言った場合にどうなるかということです。
一部のテック企業はそれに屈服し、他の企業はそうしません。ですから、時間が経ってみないと分かりません。
撮影時点で1時間前に発表された次の2つの発表は、見逃された可能性があります。OpenAIは、AIとの会話に対して、医師や弁護士との会話と同じレベルの保護を提供したいと述べています。
人々がますます敏感な質問や個人的な懸念についてAIに頼っていると彼らは言います。興味深いことに、今日私たちは、人々がさまざまな理由でChatGPTに頼っている正確な割合を知りました。私は早朝にこの画像を約30分間分析しましたが、人々がChatGPTをどのように使用しているかを見るのは非常に魅力的です。
これによると、少なくともウェブ版では、コーディングに使用しているのはわずか4.2%です。これは、何かを教えてもらったり学んだりするために使用する10%や、フィットネス、美容、セルフケア、健康アドバイスのための5.7%と比較しての数字です。翻訳よりも画像作成の方が使用頻度の低い機能だったことにも少し驚きました。また、4%の人がモデルについて尋ねることに時間を費やしていることにも気づくでしょう。「元気ですか？意識はありますか？」といったことです。
発表に戻りますが、成人にとってこのより高度な特権とプライバシーの懸念は何でしょうか。私の懸念はスタートアップに関するものです。なぜなら、OpenAIは「私たちは政策立案者にこの保護を提唱している」と言っているからです。それはもちろん、したがってトランプ政権のことです。
私の懸念は、OpenAIがAIシステムとのチャットはすべて多数の特権とプライバシーと保護の層によって保護されなければならないという法律を通過させた場合です。これは最初は良く聞こえますが、弁護士になるために司法試験に合格する必要があるように、文字通りすべてのスタートアップとオープンソースイニシアティブのハードルを上げることになります。
または少なくとも、あらゆる種類のハードルを通過することを強制する可能性があります。これが私の懸念です。はい、OpenAIはこれは単にニューヨーク・タイムズがユーザーデータを無期限に保持することを強制することを阻止するためだと主張するでしょう。規制の捕獲の可能性について、私は少し懐疑的です。
ちなみに、もう一つの理論は、アメリカでFTCが「企業がコンパニオンとして機能するチャットボットの安全性を評価するためにどのような措置を講じたかを理解する」ための調査を開始したことに対応した可能性があるということです。
フリート機能の解禁
アルトマンからの多くの人が見逃したであろう引用に移る前の、今日の午後からの最後の発表です。実際にはほぼ全員だと思います。これはChatGPTがいつあなたとフリートするかという質問に関するものです。答えは簡単です。求めれば、得られるはずです。
個人的には、ChatGPTにフリートを求めたことは一度もありませんが、おそらく皆さんの中には求めてモデルが拒否するのを見た方もいるでしょう。
まあ、どうやらもうそうはしないようです。システムがあなたを大人だと信じている場合、またはあなたが大人であることを示すIDの提供を強制された場合、おそらく極端なフリートと自己caused悲劇を含むフィクションの物語を書くのを手助けするでしょう。
これらすべての発表をまとめると、OpenAIがそれらを正しく実装することを完全に信頼できれば素晴らしいということだと思います。
アルトマンの雇用への影響に関する発言の変遷
これらが発表だったとしたら、ほぼ全員が見逃した引用は何だったのでしょうか。まず背景として、2024年にサム・アルトマンがアメリカの議員たちに個人的に話していた内容をご紹介します。
「労働力について少し話したいのですが、アルトマンさん、昨年私のオフィスでお会いして素晴らしい会話をした時、あなたは最大70%の雇用がAIによって排除される可能性があると言いました。そして、これによる社会的混乱の可能性を認めています。それが起こっているなら、私たちはそれに備えなければなりません。私たちはここにある素晴らしい機会の邪魔をするつもりはありません。」
アルトマンは上院で話した時、この引用から後退しませんでしたが、ここに彼がタッカー・カールソンと数日前に行ったインタビューがあります。ご自身で確認してください。しかし、彼は雇用への影響が完全に現れるのは今世紀末に向かってのことかもしれないと示唆しています。
「大規模な置き換えがあり、おそらくそれらの人々は何か新しく興味深く収益性のあることを見つけるでしょう。しかし、その置き換えはどの程度大きいと思いますか？」
「最近誰かから聞いたところによると、歴史的平均では約50%の仕事が平均75年ごとに大幅に変化するそうです。完全になくなるわけではないかもしれませんが、大幅に変化します。それがその種のものの半減期です。私の物議を醸す見解は、これは短期間で多くのことが起こる断続平衡の瞬間のようなものになるだろうが、拡大して見れば、歴史的な速度と劇的に異なることはないだろうというものです。この短期間で多くのことがあり、その後なぜか私たちが思っているよりも総雇用の転換は少なくなるでしょう。」
AI研究の最新動向と考察
一部の人は、これは公の場と個人的な場で異なる意見を述べているケースだと言うかもしれません。他の人は、まあ、彼は考えを変えただけだと言うかもしれません。
私は先週ほど、この魅力的な論文「なぜ言語モデルは幻覚するのか」についてPatreon用の動画を準備していました。そして、著者とのインタビューを取ろうとしています。
本質的に、機械学習モデルにおける誤分類についてはすでに文献があると主張していました。言語モデルより何年も前に、分類器がなぜ間違えることがあるのか、それがなぜ扱いにくいのかを私たちは理解していました。これは猫ですか、それとも犬ですか？この論文が本質的に行うことは、分類の問題を生成の問題、つまり言語モデルにマッピングすることです。
私たちがモデルに応答の確率分布ではなく一つの応答を出力するよう強制するため、彼らは本質的に時々でたらめを言うことを強制されています。私自身のSimple Benchのような多肢選択ベンチマークは、常に「分からない」と言うよりも推測を報奨するため、問題の一部です。それを解決することは社会技術的な問題になるでしょう。
とにかく、それは大まかな要約でした。それがこの動画のポイントではありません。しかし、アルトマンがこれを読んで徐々に意見を調整しているのかと思います。この論文は私にとって非常に考えさせられるものでした。説明にリンクされています。
シンギュラリティへの阻害要因とそれらがどのように克服できるかについてのグリッドを作成しました。少し夢中になって、各カテゴリーの視覚化を作成しました。しかし、とにかく、それは別の日のことです。
デミス・ハサビスの発言の矛盾
しかし、サム・アルトマンに公平でありたいと思います。なぜなら、彼はしばしば考えを変えることで悪者扱いされているからです。しかし、実際には彼だけではありません。ほぼ普遍的に称賛され、私が大いに尊敬している一人の人物がいます。彼は私の地元出身のデミス・ハサビスです。
人々は私が彼のように聞こえると言います。もちろん、彼はGoogle DeepMindのノーベル賞受賞リーダーですが、彼自身の方向転換もできると言っておきましょう。サム・アルトマンだけではありません。
2023年12月に戻ると、デミス・ハサビスからの特定の引用に本当に焦点を当てた数少ない人の一人だったと思います。そして、彼がGeminiに付けた誇大広告を聞いてください。これはGemini 2または1.5 Proで、人間の専門家を打ち負かしたと思います。
「Geminiが非常に重要なベンチマークで他のどのモデルよりも優れているのを見始めました。例えば、私たちがテストした50の異なる主題領域のそれぞれで、それらの領域の最高の専門人間と同じくらい良いのです。」
お分かりになりましたか？50の異なるドメイン、異なる主題で人間の専門家よりも優れているのです。
私は当時もより最近も、この引用を論破したので、再び論破するつもりはありません。しかし、ここで数日前のデミスが競合他社とそのリーダーがモデルは専門家と同じくらい賢いと言うことを批判しています。それは確実に彼が決してしないことです。
「私たちの競合他社の中には、今日私たちが持っているこれらの現代的なシステムがPhDの知能だと話すのをよく耳にします。それはナンセンスだと思います。それらはPhDの知能ではありません。PhDレベルの能力をいくつか持っていますが、一般的に能力があるわけではなく、それこそが汎用知能がPhDレベルで全般的に実行できるべきものです。実際、今日のチャットボットとやり取りしていることで私たち全員が知っているように、質問を特定の方法で提起すると、高校数学や単純な計算でさえ簡単な間違いを犯すことがあります。」
以前にGemini Ultraは50の異なる主題で最高の人間専門家と同じくらい良いと言ったことから、これは少し方向転換だったと同意しますか？
AIの現在と未来への展望
私にとって、これはこの動画で示されたすべての理由とはるかに多くの理由で、AIにおいて欺瞞的に興味深い時代です。ほぼ毎週、言語モデルがコーディングやソフトウェアエンジニアリングを手助けする方法に重要な改善があります。
はい、コーディングをしない場合でも、それは関連があると思います。おそらく今年末か来年に向けての私の目標の一つは、AIの助けだけで本格的なアプリを構築する方法を示すことです。ちなみに、コーディングの背景なしでもです。
まあ、それは自分自身の仕事を作ることになるでしょうが、より伝統的な道は今日の動画のスポンサーである80,000 Hoursからのこのような求人ボードを使用することです。
私自身のリンクを使用できます。説明で見つけることができ、この求人ボードに案内されます。毎日ではなくほぼ毎日更新されると言おうとしましたが、一日に複数回だと思います。これらは世界中からの実際の仕事です。一部はリモート、一部は対面です。焦点はもちろんポジティブな影響を持つことであり、ご覧のとおり、仕事はAI研究所や大学だけでなく、シンクタンクや他の組織からも調達されています。
再度、チェックアウトしたい場合は、説明のリンクを使用してください。
では、これらの中であなたにとって最も興味深い発表はどれでしたか？私にとって、幻覚論文のような深く技術的なものから、子供保護のような深く社会的で感情的なものまで、すべて興味深いものです。とにかく、この簡潔な要約をご視聴いただき、ありがとうございました。
コメント