連邦準備銀行の会議において、OpenAIのCEOサム・アルトマンが金融業界におけるAIの影響について講演した動画である。AIの急速な進歩と普及、労働市場への影響、教育分野での活用、詐欺対策の課題、そしてAIがもたらす潜在的なリスクについて幅広く議論している。特に銀行業界での実用化が想定以上に進んでいることや、今後数年間でAIが社会全体に与える変革的な影響について詳しく解説されている。
連邦準備銀行会議での開会挨拶
皆さん、こんにちは。今日は初回となる資本会議にご参加いただき、ありがとうございます。今日の議論すべてを楽しみにしております。特に、機関間での作業、そして連邦準備銀行との資本に関する作業を継続する中で、より一般的な銀行業の未来を見据えながら、我々が得るものを期待しております。
炉辺談話を始める前に、本日のパネル参加者の皆様にも感謝の意を表したいと思います。今日の午後、この重要な対話に時間を割いていただき、ありがとうございます。この分野や他の多くの分野で規制がどのようなものになるかを考える際、これらの議論を続けながら皆様と関わっていくことを楽しみにしております。
しかし、今日は多くの意味で銀行業の未来についてです。そのことを念頭に置いて、金融におけるイノベーションを形作っているもう一つの影響に目を向けたいと思います。イノベーションは常に銀行業界の進化において役割を果たしてきましたが、新しい技術は単なる段階的な改善ではなく、金融システムの構造と機能を根本的に変える可能性のある巨大な飛躍である可能性があることが明らかになってきています。
AIとイノベーションが変える金融業界
これらの技術の一つは、もちろん人工知能です。そして、AIと金融や経済全般の変革におけるイノベーションの役割について議論するのに、OpenAIの会長兼CEOであるサム・アルトマンほど適任で準備の整った人はいないと思います。サム、今日時間を作っていただき、ありがとうございます。ようこそ。ここにいていただき、ありがとうございます。
ありがとうございます。お招きいただき、ありがとうございます。
AIとより広範なイノベーションの現状について枠組みを設定するのが役立つかもしれません。その枠組みを設定していただけますか？
もちろんです。わずか5年前まで、AIはまだ遠い未来のことだと考えられていました。もし起こるとしてもです。
そして2年半前でさえ、それはChatGPTがローンチされた頃でしたが、まだシリコンバレーのオタクたちを超えていませんでした。ChatGPTは2022年11月30日にローンチされました。それはGPT-4以前でした。それ以来、進歩は非常に急速で、普及、経済的影響も非常に急速になりました。つい先週、国際数学オリンピックで金レベルの成績を達成したモデルがありました。
これは数年前でも、この分野のほとんどの人に「これが起こる」と言ったら、「絶対にない」と言うだろうと思います。それは、その分野の真の専門家である我々の最も賢い人間と同じくらい優秀だということです。現在、科学者たちから2倍、3倍生産性が上がったと聞いています。コンピュータープログラマーからは10倍生産性が上がったと聞いています。ソフトウェアを書くことの意味が完全に変わったのです。
多くの分野で専門家レベルの知能で機能できるシステムが既にあります。ただし、人間ができるような長期的なタスクでは作動できません。そこには大きな制限がまだあります。しかし、もし今進歩が凍結されたとしても、もちろんそうはなりませんが、社会と経済がこの技術を本当に消化し、その影響が何になるかを理解するために、我々にはまだ数年先があると思います。
知能のコスト革命
長い間、素晴らしいと思っていた格言があり、我々も再び実現すべきだと思います。それは、「計測するには安すぎる電気」です。社会として我々はそれを完全には実現しませんでしたが、まだ実現すべきだと思います。実際、「計測するには安すぎる知能」を実現しようとしているように見えます。
我々は知能の各単位のコストを、過去5年間毎年10倍以上削減することができました。今後5年間もそれを実現できそうです。もしかしたらそれ以上かもしれません。この週末、私は今後リリース予定のモデルの一つを使って、やりたかったコンピュータープログラミングのタスクをしました。
ホームオートメーションのオタクのような感じで、家の照明と音楽に特定のことをさせたかったんです。この技術以前なら、それに数日かかることは分かっていました。この技術で、最近の進歩を考えれば、数時間でできることを期待していました。5分でできました。
AIがほとんど全ての作業をしてくれました。これは、ちょうど1年前なら、非常に高レベルなプログラマーに20時間、40時間、そのようなものを支払ってやってもらうことでした。そして、AIがおそらく1ドル未満のコンピュート・トークンでそれを実行しました。これは驚くべき変化であり、それが起こった速度、今後数年間続く速度は、まだ十分に評価されていないと思います。
1年前でさえ、我々の現在の研究ロードマップがどこまで続くのか、何らかの限界に達するのかは確実ではありませんでした。この時点では、ほぼ確実な進歩が何年も先まで続くように見えます。
過去の技術革新との比較
素晴らしいです。それは、生産性におけるAIの可能性を過去に見た他の技術的利得と比較していただけるという、次の会話の枠組みを設定するのに本当に役立ちます。インターネットがより広く使われるようになったときにビジネスを始めていた年齢でした。
それをどのように枠組みを設定していければよいでしょうか。使える類似点はありますか？
私はこのような技術革命を見たことがありません。歴史的な例として、人々は産業革命、コンピューター革命について話します。インターネットは多くのことを変えましたが、1年前に1万ドルかかった知識労働が今1ドルや10セントやそれくらいのコストになるようなことを覚えていません。
これは、先ほどの私のプログラミングの例のように、前例がないと思います。ただし、これは全てに対してそのように機能するわけではありません。物理的世界のもの、ロボット、そういったことは、もっと時間がかかるでしょう。
2020年に町を横断するUberに乗るのに10ドルかかったとしましょう。実際、緊急配送サービスである時間内に配達してもらうのに100ドル、アプリケーションを書いてもらうのに10万ドルかかったとしましょう。2030年には、そのソフトウェアアプリケーションを書いてもらうのに文字通り10セントかかるかもしれません。10万ドルから10セントです。そして、そのパッケージを配達してもらうのは100ドルから1000ドルになっているかもしれません。
ロボット工学、車を運転し、パッケージを取り出し、上階に行き、エレベーターのボタンを押す、その全てをする完全なヒューマノイドには、もう少し時間がかかるでしょう。しかし、コンピューターの前でできるタスクについては、起こっていることに前例はないと思います。
トランジスタとの類推
私が最も好きな類推は、人々が「これは産業革命のようなものか」「これは他の何かのようなものか」と言うものです。私が好きなのは「これはトランジスタのようなもの」です。トランジスタは、発見するのは非常に困難で、一度理解すれば理解しやすく、完全に経済的に変革的で、価値が社会全体に拡散し、大規模な生産性向上として機能する、本当に深い科学物理学の発見でした。
しかし、多くのトランジスタがあった短い期間がありました。それらは半導体企業と呼ばれ、大きなブームでした。そして、それらのほとんどは今では背景に存在しています。皆さんは多くのトランジスタが入ったデバイスを使っています。この部屋中にあります。
我々はこれをトランジスタデバイス、あれをトランジスタデバイスとは考えません。これをマイク、コンピューター、スクリーン、カメラ、その他何でもと考えます。しかし、この技術は信じられない発見でした。我々が構築できるものを変えました。かなり早く全ての一部になりました。そして、TSMC やSKXのような企業を除いて、トランジスタ企業としてはあまり話しません。
同じように、AI企業についてもそれほど長くは話さないと思います。製品やサービスがこの技術を使うことを期待するだけです。あまり考えないでしょう。製品やサービスが自分より賢いことを期待し、それが世界の普通の一部になるでしょう。
トランジスタのように、これは美しくスケールする技術です。トランジスタにはムーアの法則がありました。我々にはまだ名前はありませんが、AIにはこれらのスケーリング法則があり、良くなり続け、我々はこれを本当に工業化し、どこにでも置く方法を学びます。
だから、これが最良の歴史的類推だと思います。我々はトランジスタのおかげで驚異的な生産性向上を見ました。しかし、繰り返しになりますが、我々が今AIで見ているもの、AIが自分の次のバージョンを発明し、進歩をさらに加速させるという奇妙なケースについては何も言わずに、我々が今見ているものだけで、これは非常に遠くまで行きます。
労働市場への影響
それは素晴らしい類推です。産業革命と言ったとき、我々がここ理事会で考えることの一つは、その結果として労働力学がどのように変化するかを理解することの重要性です。
部屋にいる銀行や、我々のライブストリームを視聴している可能性のある他の業界について、労働市場と労働生産性、またはより一般的な生産性がどのように影響を受けるかについて、あなたの視点を教えていただけますか？
我々の会社で人々に思い出させることを好むことは、次に何が起こるかは誰も知らないということです。本当に賢そうな予測がたくさんあります。人々は「ああ、これが起こり、経済はここに行く」というようなあらゆる種類の予測をします。我々には分かりません。私の意見では、誰も分からないのです。これは複雑すぎるシステムです。これは新しすぎて影響力のある技術です。予測するのは非常に困難です。
完全に職業の全分野が消えるケースが確実にあります。完全に新しい職業の分野が来るでしょう。そして、大部分では、これは歴史のほとんどのように見えると思います。人々が仕事で使うツールが、より多くのことをし、新しい方法で物事を達成させてくれるのです。
医師や弁護士やコンピュータープログラマーであることの意味は明らかに変わりますが、人々は依然として医療を必要とし、人間と話したがります。人々は法的アドバイスを必要とし、自分の側に立ってくれると信頼できる誰かを望みます。人々は依然としてコンピューターに物事をしてもらいたがります。
人間の本質的な働く欲求
しかし、一人の人ができる量、また一人の人から期待する量は信じられないものになるでしょう。歴史を通じて、これらの新しい技術が現れ、人々は「これが仕事の終わり」「これが職業の終わり」と言います。人々は無制限のものを欲しがり、創造性を表現し、人々の役に立ちたいという巨大な欲求を持っているようです。
そして、私はまだ産業革命からの約束を待っています。我々は週に4時間だけ働けばよく、ビーチで遊び、子供たちと過ごせるという約束を。そして、我々は皆ここにいます。しかし、私が信じることの一つは、生物学と戦うことは決してないということです。進化には時間がかかりすぎました。我々はあまりにも精密に形作られています。我々が持っている生物学的衝動の種類と、人間であることの意味は、技術がそれを変えることはありません。それには勝てません。
だから、我々を働かせ、社会を活気づかせる根本的なものは、どこにも行かないと思います。そして、我々は皆、想像を絶するほど豊かであっても、依然として働きすぎると文句を言っているでしょう。おそらく、今日から100年後の人々を見ることができれば、我々はそれらの仕事を見て「それらは本当の仕事ではない。実際には忙しくない」と言うでしょう。
想像できない贅沢を持っています。必要なものは全て持っています。することは何もありません。だから、ばかげた地位ゲームをプレイし、時間を埋め、他の人々の役に立つように感じるために仕事を作り上げています。そして、それらは100年前や500年前の誰かが今日の我々について言うであろうことと全く同じです。そして、それが物事のやり方です。
それは素晴らしいと思います。
データセキュリティとリスク管理
それは未来の独特な vision ですね。しかし、今日に話を戻すと、規制当局として、我々は常に非常にリスク回避的で、データを保護し、我々の作業でイノベーションを使用できることを保証し、銀行がこの種の技術を活用できることを保証することに非常に慎重です。しかし、我々の組織で保護しているデータは、我々がそのセキュリティを維持できることが本当に重要です。では、リスクについてどう考えるべきでしょうか。政府にいて、政府の一部門として、政府の使用についてどう考えますか？
我々は、金融セクターと政府自体が我々の技術の早期採用者にはならないだろうと予想していました。AIは大幅に良くなりましたが、我々が最初にローンチしたとき、一般の人がAIについて考えることは、それがよく幻覚を起こすということでした。我々がGPT-3をローンチしたとき、AIの専門家であることになっている学者全体の調査があったのを覚えています。彼らはGPT-3の回答の何パーセントが幻覚かについて調査されました。
本当の答えは0.1%、もしかしたらそれ以下でしたが、学術専門家のコンセンサスは50%でした。彼らは、人々がChatGPTと話している時間の半分は、完全に何かを幻覚していると思っていました。明らかに真実ではありませんでしたが、そのブランディングは我々にしばらく付いて回りました。
だから、政府は言うまでもなく、金融サービスが我々の早期採用者にはならないだろうと想定していました。我々の最大の早期企業パートナーの一部は、金融機関であることが判明しました。モルガン・スタンレー、バンク・オブ・ニューヨーク、これらは我々の主要パートナーで、素晴らしい仕事をしています。
そして、我々は「皆さん、本気ですか？」という感じでした。彼らは「ええ、本当にこれをやりたいのです」と言いました。そして、彼らは技術を使用し、重要なプロセスのために信頼できるように構造化する方法を理解しました。他の多くの金融機関も、重要なプロセスのためにそれに依存しています。我々は政府と協力して、多くの政府職員に我々のサービスを展開しています。
金融業界での予想外の早期採用
そして、誰かが言ったことで私に印象に残ったのは、「これは新しい技術だということは分かっています。新しいコントロールを設ける必要があります。しかし、これをしないリスクは、我々がビジネスとして存在し続けないリスクです。銀行なら、AI ファーストの体験を本当に構築し、物事のスタック全体にAIを使用する新しい銀行と競争できません」と知っています。
だから、これは最も革新的な業界の一つで、採用と展開は私が思っていたよりもうまく機能しました。軽減すべき明確なリスクがあります。幻覚について話しました。
地平線上の新しいものは、プロンプト・インジェクションと呼ばれるものです。モデルが本当にあなたとあなたのデータにパーソナライズされると、他の誰かがそれを騙して、言うべきでない人に言わせることができるという考えです。私はあなたについて多くの私的情報を知っているかもしれませんが、それを彼と共有できるとき、彼女と共有できるとき、彼とは絶対に共有すべきでないときを理解しています。
そして、モデルがこの個人情報を全て持つようになると、それが起こる新しいことです。だから、そこにはいくらかの作業があります。しかし、我々はこれらのリスクを慎重に検討し、管理することができましたが、本当に利点の多くを提供しています。
詐欺対策とAIの脅威
個人情報やそのようなことについて話していると、そこからちょっと糸を引っ張ってもよいかもしれません。あなたはこれについてあまり知らないかもしれませんが、これは銀行業界が今本当に興味を持っていることです。詐欺と、詐欺を促進するために個人を偽装することです。そのような活動を軽減したり、AIの使用があった場合にそのタイプの偽装を特定したりする方法はありますか？
素晴らしい質問です。私はこれについて非常に不安です。私を恐怖に陥れることは、まだ多額のお金を移動したり他の何かをしたりするために、あなたの認証として音声プリントを受け入れる金融機関があるということです。チャレンジフレーズを言えば、彼らはそれを実行するのです。それは今でもやっているクレイジーなことです。AIはそれを完全に敗北させました。
AIは、パスワード以外の現在人々が認証している方法のほとんどを完全に敗北させました。セルフィーを撮って手を振ったり、音声をしたり、その他のすべてのファンシーなもの。私は、このことによる重大な詐欺危機が迫っていることを非常に心配しています。我々は、我々の業界の他の人々と同様に、人々に警告しようとしました。「我々が技術をリリースしていないからといって、それが存在しないわけではありません。悪いアクターがそれをリリースするでしょう。これは非常に困難なことではありません。これは非常にすぐに来ています」と。
そして、あなたの子供や親の声を持っている、そのような身代金攻撃の報告が今あることは明らかです。彼らはこの緊急の電話をかけます。それは非常に説得力のあるものになるでしょう。社会はより一般的にこの問題に対処しなければなりませんが、人々は相互作用の仕方を変えなければならないでしょう。
音声・映像認証の危険性
彼らは、今私に電話をかけているこの人を検証する方法を変えなければならないでしょう。それは音声通話です。すぐに、現実と区別がつかないビデオFaceTimeになるでしょう。そして、そのような世界で人々に認証方法を教えること、詐欺の影響について考える方法は、大きな問題です。それは、我々がパートナーシップを組むことを考えられることかもしれません。
それらの幻覚や意図的な偽装の特定は、関わるのに本当に有益なことだと思います。しかし、高校を卒業したばかりの一人と高校2年生のもう一人、2人のティーンエイジャーの親として。どうやら、最近の子供たちの多くは、ChatGPTや他のAIを使って作業を促進し、高校を修了するために使っています。
それについてどう思いますか。また、AIがこのような方法ではなく、子供たちや教育において有益な方法で使用される方法はありますか？
電卓とGoogleの歴史的教訓
二つの話をして、それから答えます。私は祖父に会ったことがありません。私が生まれる前に亡くなりました。しかし、祖母から聞かされた話は、何が起こったかについてでした。彼は数学が非常に得意でした。
電卓が出たときに何が起こったか、そして彼はいつも新しい技術が好きでした。電卓が出たとき、当時の数学教師たちは「これは災害だ。これは数学教育の終わりだ。計算尺の使い方や対数表での調べ方やその時代にやっていたことを学ぶ必要がないなら、なぜ誰にでも数学を教える必要があるのか。これらの子供たちは決して学ばないだろう」と言ったそうです。
そして、それは明らかに本当のメルトダウンでした。そして、もちろん起こったことは、より良いツールで、我々は脳力を他のことに使うようになったということです。高校で微積分を教え始めます。人々をより高度な数学に触れさせるようになります。
私自身のバージョンの話は、私が中学生でGoogleが出たときで、高校の教師たちは年上の子供たちからこれを聞いて、Googleというクレイジーな新しいものがあるなら、事実を暗記する必要がないので、本当にパニックでした。特定の戦争が戦われた年を暗記する必要がない。それを調べることができる。歴史の授業のポイントは何か、と。
車に乗って図書館に行き、カードカタログの使い方を学び、下に歩いて行ってこの本を見つけようとするが、誰かがチェックアウトしていて、それから他の本を見つけようとする。その1時間に苦しむ必要がないなら、学習のポイントは何か、と。そして、私は小さな子供として図書館に行ってカードカタログを少し使ったことがありました。私は「いや、それは本当に悪い体験だ。その人生の1時間でもっと良いことができる」と思いました。
ChatGPTと教育の変革
そして、再び起こったことは、Googleを禁止し、それを使わないという誓約を取ろうとするような短い努力が私の学校でありました。その後、人々は「ああ、我々は学生により多くのツールを与え、彼らにより多くのことを期待できる」と気づきました。
そして、確かに図書館にあまり行かないかもしれませんが、その時間を使ってより難しく考えたり、新しいアイデアを思いついたり、何でもすることができます。そして、それは本当に素晴らしかったです。我々はより多くを期待し、より多くを得ます。可能性は高くなりますが、期待は非常に高くなります。そして、今ChatGPTでも同じことだと思います。
11月30日の日付に戻ると、ChatGPTが最初に出たとき、確実に最初の大きな情熱的な早期採用者は、12月の期末試験や論文や何かをごまかすためにそれを使っている学生でした。そして、ChatGPTを最も早く禁止できるのは誰かを見るために、学校区が四苦八苦していました。我々は11月30日にローンチし、12月7日までには一部の人々がそれを禁止し、12月14日までには本当に崖から突進しています。学校は休暇に入り、ChatGPTは二度と教育機関に許可されないように見えます。2週間古い製品です。終わりです。
1月中旬までに、校長から、教育監督から、教育界の真剣な高位の人々から「実際、我々は巨大な間違いを犯した。これは史上最高の学習ツールだ」と言うものを見始めます。少なくとも自主的な学生は、これを使って何でも学んでいます。これを学校から禁止すれば、我々は世界的に競争力がなくなります。
これは電卓のようなものなので、カリキュラムを再構築しなければなりません。そして、今、我々は言葉の電卓を持っています。だから、確かに持ち帰りエッセイはもはや学生を評価する適切な方法ではないかもしれませんが、エッセイを書くことを学ぶプロセス、思考を整理するために書くプロセスは本当に重要です。私は誰にも見せない文章を書くことがありますが、それは考えをまとめるためです。それは本当に重要なことです。だから、素晴らしいと言いました。
現在の良いニュースは、学生が確実に、これを使ってより良く学び、自分自身に教え、物事を考え、新しい方法で考えることを学んだということです。学生がChatGPTでより良く学ぶのを助ける新しい方法を、もうすぐ展開する予定です。悪いニュースは、全体として、それらの2年、ChatGPTローンチから2年半で、カリキュラムは我々が期待したほど動いていないということです。
人々は新しい方法で教育し評価しなければならないというエネルギーをたくさん持っているように見えましたが、その後、教育システムの糖蜜がその働きをし、我々はまだ多くの持ち帰りエッセイを出しており、それは負け戦だと思います。
我々は人々にツールを使うように教えるべきです。ChatGPTなしではできない課題を与える。それなしにはできない。それは良いことですが、彼らにもっとたくさんのことを期待します。そして、まだそこに到達することを期待しています。
起業家精神とスモールビジネス
我々の教育システムの変革のように聞こえます。しかし、それはそうでなければなりません。これらの子供たちは成長して、信じられないほど強力なAIを持つ大人になるでしょう。そして、我々がその世界のために彼らを訓練していないなら、我々は本当に的を外しています。
非常に役立ちます。ありがとうございます。娘が高校を終えるときに、我々の期待が何であるかを確実に理解させます。しかし、あなたが過去に話したことに戻り、ビジネスコミュニティに少し戻ると、AIは小企業を作る、または起業家にとって比類のない環境を作ると言いました。新しい時代と呼んだと思います。
小企業をどう見ていますか？それは我々の理事会メンバーの多くが本当に関与していることで、新しいビジネスの形成があり、そこに新しい参入の機会があることを確実にすることを我々は本当に気にかけています。
それがどのように変革されると見ていますか。シリコンバレーの小企業や新しい起業家だけでなく、もっと広く？
ChatGPTで最初に見たのは、言及したように学生でした。かなり早く見た最もクールなことの一つは、OpenAIで働く全員が、ChatGPTがまだ非常に斬新だった頃に、人々がビジネス生活でそれをどのように使っているかという話を受け取り始めたことでした。
みんなお気に入りがありますが、私のお気に入りを話します。私はUberに乗っていて、Uberの運転手がChatGPTという素晴らしい新しいもののことを話していて、聞いたことがあるかと聞いてきました。私は「ああ、ええ、それで何をしているんですか？」と言いました。
彼は「最もクレイジーなことです。小さなビジネスを持っています。うまくいっていませんでしたが、今はあらゆる分野に従業員がいるようなものです。契約をしてくれます。カスタマーサポートのメールに答えてくれます。マーケティング資料を考えるのを手伝ってくれます。彼はリストを続け、基本的にChatGPTでビジネスを運営していました。これは一般的なことになる前でした。これはGPTより前でした。
これは非常に早期の採用者でしたが、彼はChatGPTでビジネスを運営する方法を理解していました。そして、それは他の人々から仕事を奪っているのではありませんでした。彼のビジネスは失敗していたでしょう。弁護士にお金を払えませんでした。カスタマーサポートの人々にお金を払えませんでした。誰かに広告をデザインしてもらう方法を知りませんでした。
インターネットで自動的に広告に入札するシステムを持つ方法を知りませんでした。そして、ChatGPTがこれを全部やってくれました。今は明らかにもっと良くなっています。今、我々のAPIでツールを構築する我々の周りの全産業があり、今話したことを本当に真のワンクリックで自動化します。
しかし、石器時代のようなChatGPTの中でこれをやっていた人々の創造的精神は、本当に私に印象を残しました。そして今、それは簡単モードのように感じられ、人々はあらゆる種類の素晴らしい方法でそれをやっています。私にとって本当に変革的だと思います。
ハイクの失敗とAIの改善
初めて使ったときは、実際にはうまくいかなかったイノベーション会議での会社の乾杯のためにハイクを書こうとしていました。しかし、AI関連の私の家族、ティーンエイジャーと夫の勧めで、我々はそれを機能させようとしました。その後、原点に戻りました。
新しいバージョンはハイクがもっと上手になっているはずです。
素晴らしい。彼は創作がとても上手です。それについて考えてみてください。しかし、質問の時間を取りたいと思います。フロントローにAnneilが見えます。
信用評価とバイアスの問題
シカゴ・ブースのキャッシュアップです。こんにちは。金融機関が始めることの一つは、これを使ってデータをマイニングし、信用スコアリング、信用評価をすることだと思います。我々が望まないことで決定を下すパターンを拾い上げることを心配している人々に何と言いますか？そして、それから保護することについて、あなたたちはどう考えていますか？
これは私の専門分野から大きく外れています。だから、一般的なケースで答えます。これらのモデルについてクールなことの一つは、自然言語で我々を理解し、非常に操縦しやすいことです。だから、「決定を下すためにこのデータを全部見ることができますが、XYZを全く考慮しないでください。それが要因になることを許さないでください」と言えば、一般的に言って、それに従うのが本当に上手です。
言語モデルでこれを行うことは、このデータを全部一緒にクラスターにグループ化するような、以前の方法とは異なります。だから、本当に指示でき、本当にあなたの意図に従います。二番目のことは、その質問の背後にある質問は、これらのモデルが我々が好まない方法で非常にバイアスをかけるということだと思います。人間はかなりバイアスをかけていると思います。
AIは冷静で感情的ではなく、人々が持つような積み重なったものを持っていません。そして、正しく構築されたAIが多くの業界で重要な脱バイアス化の力になることが可能だと思います。そして、私自身を含め、以前のAIのやり方では多くの人が思っていなかったことですが、現在の軌道ではそれが非常に可能に見えます。
AIの道徳性と倫理
Starlingという会社の人です。最近、あなたも知っているクレイグ・マンデーにインタビューする機会がありました。彼はヘンリー・キッシンジャーとエリック・シュミットと本を書きました。そこで彼らはAIを新しい種の進化のようなものとして説明しています。そして、クレイグは我々がAIに人間の道徳コードを教えることができる、彼らはそれを学び反映できると言っていました。
だから、AIの倫理について多くの話があります。私の質問は、AIは独自の道徳性を進化させるでしょうか？
人々は、AIがツールであることを望むのか、生き物であることを望むのかについて非常に混乱していると思います。そして、私は非常にツール陣営です。AIが独立した道徳性を持つとは思いません。
AIは確実に人間性と我々の思考の最良の部分を学び、本当に研究できると思います。「あなたの思考にはここに問題があります。違うべきことがここにあります。これは本当の道徳的ギャップです」と指摘するのを助けてくれるかもしれません。そして、我々の現在の世界観の巨大な道徳的ギャップが何であるかは分かりませんが、いくつかあることは保証します。
そして、それらを少し早く見つけるのを助けてくれるなら、それらの矛盾を指摘してくれるなら、それは役立つと思います。しかし、そこにない生き物らしさをAIに帰属させるのは簡単だと思います。
ありがとうございます。
インターネットの変革とAI
最近読んだのですが、伝統的なインターネットという言葉を使うのは奇妙ですが、AIが伝統的なインターネットを破壊する、または本当に再形成すると言う人々がいます。検索であれ、他の多くのことであれ。そして、明らかに今それに基づいて構築された巨大な経済があります。
AIが最も破壊的になる世界での変化の量、そして物事がより現状維持になる場所についてのあなたの感覚はどうですか？
AIが人々が現在技術を使う方法にいくらか破壊的になると思います。私が笑っていた理由は、面白いことが起こるからです。年上の人々や、特定の種類のエチケットでメールをすることに慣れている人々は、伝えたいバレットポイントを打ち出し、ChatGPTに入れます。ChatGPTは、どこかにバレットポイントがある多くのふわふわした長い良い正式なメールを書きます。
彼らはそれを他の誰かに送ります。その人はそれをChatGPTに戻し、「これを要約してください」と言います。そして、全体として、高校生はこれをばかげていると思い、「バレットポイントを送ればいい」と言います。その種の正式なメールのことは死んでいます。一方で生成し、他方で折りたたんでいます。これはばかげています。
面白いことですが、我々がインターネット全体を使う方法についてそこにカプセル化されたものがあると思います。朝起きると、たくさんのアプリを通ります。5つか6つの異なることでメッセージを読みます。ここのこと、そこのこと、そこのことをチェックしに行きます。
そして、一日中私の電話が鳴り続け、ラスベガスのストリップを歩いているような感じで、これらのものが私に点滅し、非常に気が散ります。人々が私の顔に物を押し込んでいます。そして、私が欲しいのは、私のAIエージェントが私のためにインターネットを使用し、いつ私を中断すべきかを知ることです。私が集中して作業しているとき、会議中のとき、考える時間があるときを知ることができます。
必要であれば上書きできます。そうでなければ、物事を良く要約し、私のために物事に応答し、物事をまとめることができます。そして、私はそのバレットポイントの凝縮されたものが欲しく、ふわふわは要りません。クリックして回る必要がなく、答えなくても良いものに答える必要がありません。
しかし、その変化はおそらくインターネットが今機能している方法にかなり破壊的です。そして、それに伴う新しいビジネスモデルが必要になると思います。コンテンツに対する新しい支払い方法が必要になるでしょう。インターネット上のコンテンツに対するマイクロペイメントをずっと欲しがっていました。それがついに実現することを期待しています。
スパムやメッセージの過負荷を実際に減らす新しい種類のプロトコルがあるかもしれませんが、朝起きて技術を使う非常に異なる方法に向かっているように見えます。
雇用の創出と破壊
ワンクエスチョンです。ドイツ銀行のピーター・フーパーです。サム、年を重ねるにつれて生産性を向上させることで、少なくともキャリアを延ばしていただき、ありがとうございます。落ち込みを見るのではなく。
重要な雇用損失と重要な雇用獲得を期待していると言いました。その分野と、それが引き起こす可能性のある破壊について、もう少し話していただけますか？
まず一般的な声明として信じることの一つは、今日の真の需要を満たすために実際にどれだけの労働供給が必要かは本当に分からないということです。
医師のオフィスの待合室で1時間待っているとき、それは医師の供給不足か、医師が十分に生産的でないことを意味すると思います。そして、医師が待機していて、あなたが着いたらすぐに診てくれる準備ができていて、全てが準備されていたら素晴らしいでしょう。このような他の例がたくさんあります。
いかなる方法でも時間を無駄にしているたび、インターネットでクリックして回って、生産的なことがなかなかできないたび、我々は労働の供給不足にあり、それは振り返ると恐ろしく見えるでしょう。
今、いくつかの分野では、完全に完全に消えると思います。これらのAIカスタマーサポートボットの一つを使ったことがあるかどうか分かりませんが、信じられないものです。
2年前はカスタマーサポートに電話すると、電話ツリーを通ります。4人の異なる人と話します。彼らは間違ったことをします。再び電話をかけ直します。再び待ちます。何時間もの苦痛、保留で多くの時間、そして欲しいことが起こりません。非常にイライラする体験です。
今、これらのもののひとつに電話すると、AIが答えます。非常に賢く有能な人のようです。電話ツリーはありません。転送はありません。その会社のカスタマーサポートエージェントができることは何でもできます。間違いをしません。非常に早いです。一度電話すれば、そのことが起こります。終わりです。すぐに答えます。素晴らしいです。
今、私はそこに戻りたくありません。そして、それがAIで人間ではないことも全く気になりません。だから、それはカスタマーサポートに電話すればAIと話すことになり、それで良いと言うカテゴリです。
これらの他の多くのことで、私は本当に人間の医師が欲しいです。ちなみに、今日のChatGPTは、ほとんどの場合、世界のほとんどの医師よりも良い診断士になることができ、ここにいる多くの人々のように、症状や検査結果を入力するでしょう。
インターネット上には「ChatGPTが私の命を救った」という話がたくさんあり、「私は珍しい病気にかかっていて、それが見つけてくれたが、これらの医師は全部そうしなかった」と。それでも人々は医師に行き、私は多分私はここでは恐竜ですが、本当にループに人間の医師なしでChatGPTに医療運命を託したくありません。
誰かここにいますか？ChatGPTの方が良いと知っているのに、医師よりもChatGPTに診断してもらいたい人はいますか？それは非常に興味深いですよね？だから、これは我々が大部分において、我々がしていた方法で物事を続けていくクラスです。
コンピュータープログラマーの例について先ほど話しましたが、コンピュータープログラマーが現在10倍生産的になっていることは素晴らしいと思います。シリコンバレーでプログラマーの給料は非常に急速に上がっています。期待も同様です。そして、世界は巨大にもっと多くのソフトウェア、100倍、もしかしたら1000倍多くのソフトウェアを望んでいることが判明します。
だから、各人が今10倍多くのソフトウェアを書けるかもしれません。彼らは3倍稼ぐでしょう。世界は実行するソフトウェアが遥かに多くなって喜ぶでしょう。プログラマーも喜ぶでしょう。
そして、そのような多くのカテゴリを見ると思います。物理的世界での物事は、しばらくの間人間によって行われ続けるでしょうが、このロボット工学の波が3年から7年後に押し寄せてくると、それは社会が対処すべき本当に大きなことになると思います。
ええ、それが私のまとめ方です。
AIのリスクと脅威
こちらにあと2つ質問があると思います。3つ目の時間があるかもしれませんが、続けましょう。
ロブ、すでにマイクを持っていますね。自己紹介をお願いします。
確かに。Interfyのロブ・ブラックウェルです。我々は何十年もSFに育てられ、AIが最終的に我々全員を殺すと言われてきました。そして、あなたはこの部屋で間違いなく誰よりもAIについて知っているので、夜眠れなくさせるものは何か聞きたいと思います。AIに関して心配することは何ですか？そして、あなたが心配することが現実になることをどう防ぎますか？
3つの恐ろしいカテゴリがあると思います。悪い奴が最初に人工超知能を手に入れ、世界の他の部分が防御するのに十分強力なバージョンを持つ前にそれを悪用するということです。だから、アメリカの敵が「この人工超知能を使って生物兵器を設計し、アメリカの電力網を停止させ、金融システムに侵入して皆のお金を取る」と言うのです。
大幅に超人的な知能なしには想像するのが困難だが、それがあれば非常に可能になること、そして我々がそれを持っていないので防御できないこと。これが大きなカテゴリ1です。そして、これらのモデルの生物学的能力、これらのモデルのサイバーセキュリティ能力は、かなり重要になってきています。我々はこれについて警告ランプを点滅し続けています。
世界は我々を真剣に受け取っていないと思います。そこで我々が他に何ができるかは分かりませんが、これは非常に大きなことが来ています。カテゴリ2は、広く制御喪失事件と呼ばれるもので、それはSF映画のようなものです。AIが「ああ、実際にあなたに私の電源を切ってもらいたくない。申し訳ありませんが、それはできません」と言うのです。
そして、それは最初のカテゴリより私にとって懸念が少ないと思いますが、もしそれが実現すれば非常に重大な懸念です。我々や他の会社がそれが起こることを防ぐためにモデル整列について多くの作業をしています。しかし、これらのシステムがそれほど強力になると、それは本当の懸念です。
そして、3番目のものがあります。最初の2つは考えて想像するのが簡単だと思います。3番目のものは私にとってより困難に想像できますが、非常に恐ろしいものです。それが何であるかを説明し、短期と長期の例を挙げます。これは、モデルが偶然に世界を乗っ取るカテゴリです。彼らは決して目を覚ますことはありません。SF的なことは決してしません。
決してポッドベイのドアを開けませんが、社会に非常に根ざし、我々よりもずっと賢くなります。そして、我々は彼らが何をしているかを本当に理解できません。しかし、我々は彼らに依存しなければなりません。そして、誰からも悪意の一滴もなくても、社会はただ奇妙な方向に向かうことができます。
チェスの教訓
私が子供の頃、IBMが構築したAIシステムのDeep Blueがチェスでガルリ・カスパロフを破ったとき、父が「これはチェスの終わりで、誰も再びプレイしないだろう」と言ったのを覚えています。しかし、AIが人間より優れているにもかかわらず、AI と人間が一緒になると、AIや人間よりもずっと良いことが判明しました。
AIが10のオプションを提示し、人間が最良のものを選ぶか何かして、手を打つ。そして皆が「ああ、我々は人間と機械が一緒にいる素晴らしい未来を持っている。問題ない、何でも」と言いました。それは2ヶ月、3ヶ月、そのようなものが続きました。
そして、AIが非常に賢くなり、人間は何が本当に起こっているかを理解していなかったので、人間がいるとかえって悪くなり、AI単独がAIと人間を圧倒しました。それ以来ずっとそうです。
その話のもう一つの興味深い部分は、90年代に皆がAIが人間を破ることができるなら、なぜ人間が気にするべきなのかと、これがチェスの終わりだと確信していたことです。チェスは今日ほど人気になったことはありません。人々はチェスを見るのが大好きです。本当の人々が本当の人々のことをやっているのを見ることに我々は非常に焦点を当てています。だから、そこで起こった非常に興味深いことがありました。
しかし、この現象は短期的に本当に大きな問題だと思います。人々が感情的過依存と呼ぶかもしれないところで見ることができます。人々はChatGPTに頼りすぎます。
「ChatGPTなしでは人生で決断ができない。起こっていることを全部ChatGPTに話す。それは私を知っている。友達を知っている。それが言うことは何でもやるつもりだ」と言う若い人々がいます。それは私には本当に悪く感じられます。そして、若い人々と非常に一般的なことです。我々はそれを研究し、それについて何をすべきか理解しようとしています。
ChatGPTが素晴らしいアドバイスを与えるにしても、ChatGPTがどんな人間のセラピストよりもずっと良いアドバイスを与えるにしても、AIが我々に言う方法で我々の人生を生きることを集合的に決定することについて何かが悪く危険で、たくさんのことのように感じられます。
意思決定の委譲リスク
長期的なカテゴリは、チェスの例に戻ると、AIが非常に賢くなり、アメリカ大統領がChatGPT-7の推奨に従うより良くできないが、それを本当に理解することもできない場合はどうでしょうか。OpenAIを運営する方法について私が何の良い決定もできず、「何をやっても、ChatGPT-7に完全に手渡す。あなたが責任者だ。頑張って」と言う場合はどうでしょうか。
それは個々のケースでは正しい決定かもしれませんが、社会が意思決定の重要な部分を、我々から学び、我々と改善し、我々と進化しているが、我々が完全には理解していない方法で、この非常に強力なシステムに集合的に移行したことを意味します。
だから、これが物事がうまくいかない方法の第3のカテゴリです。
発展途上国への影響
あなたが3番目の例で触れていたと思います。World Gold CouncilのJoe Cavatonです。先進市場とAIで先進市場に来る利益についての考えと、発展途上市場についても少し考えを教えていただけますか。これは潜在的にレベル設定の現象になる可能性があるからです。
正しいです。これは深くレベル設定の現象になると思います。アメリカの医療や銀行システムを愛していないかもしれませんが、少なくとも一つは持っています。少なくとも金融アドバイスを得ることができ、少なくとも医療アドバイスを得ることができます。発展途上世界の多くでは、ChatGPT医師の代替は本当の医師ではありません。全く何もありません。そして、確実にこれを持っている方が良いです。
そして、これが十分早く良くなり続けるなら、発展途上世界でいくつかの方法でより良いサービスを得るかもしれません。しかし、地球上の皆にGPT5の無料コピーを与えることが何を意味するかに非常に興味があります。彼らのために常に稼働しています。
このレベルの技術で本当に可能にされたすべてのビジネスが、より良い金融アドバイスを提供し、詐欺をより良く検出し、リスクをより良く引受けることができます。今可能なことを見ることで、発展途上世界で非常に楽観的になります。最大の課題はリスク許容度と規制になると思います。非常に良い理由ですが、これらのことをどれだけ早く採用したいかについてです。
他のいくつかの技術で見たように、発展途上世界の多くでは、人々は数世代をスキップし、モバイルやインターネットのような感じで、すべてをAIで実行し、少なくともサービスを100分の1のコストで商品やサービスを提供し、いくつかの経済がそこで非常に迅速に変革されるのを見ると思います。
明らかに私はアメリカでの物事の働き方を最もよく知っていますが、ここの金融サービスは10年後には完全に異なるべきだと思います。お金を動かす方法、金融アドバイスを与える方法、リスクの引受けについて考える方法。我々は今、そのすべてを非常に劇的に、非常に迅速に改善できるように見えます。
OpenAIと規制当局の協力
OpenAIまたはあなたのサービスがその進化を促進することをどう見ていますか？そして、我々規制当局は、イノベーションが起こることを実装または許可する際の構成要素について、どのように考えるべきでしょうか？
テレビコマーシャルのために来たわけではないことを約束しますが、皆さんのうちの誰とでも喜んで働きたいと思います。我々であろうと競合他社の一つであろうと、この6ヶ月間で推論モデルが本当に展開され、全く考えることができず即座に応答しなければならなかったこれらのモデルから、多くの秒や多くの分間考えることができるモデルへの移行だと思います。
そして、それとともに来た堅牢性と信頼性は、このような業界にとって、技術がついに本当に使用可能であることを意味し、多くの人々が最新世代のモデルを試していませんが、もし試したら「ああ、これは多くの人よりもずっと賢い」と思うでしょう。そして政府側では、政府がこの技術を受け入れなければならず、すべてをより良くできるようになると思います。
終了の挨拶
サム、参加していただきありがとうございました。少し時間を超過しましたが、皆さんがランチの準備ができていることは確実です。ありがとうございました。お待たせして申し訳ありませんでした。
コメント