OpenAIのCEOサム・アルトマンが連邦準備制度理事会で行った講演の完全な書き起こしである。人工知能が経済、金融業界、そして日常生活に与える影響について包括的に議論している。AIの急激な進歩、特にプログラミングタスクにおける効率性の向上、トランジスタとの比較による技術革命の分析、労働市場への影響予測、詐欺対策の必要性、教育分野での活用、スモールビジネスへの変革的効果などが詳細に語られている。また、AI技術の安全性リスク、人間との関係性、そして開発途上国と先進国への異なる影響についても深く掘り下げて論じられている。
はじまり
社会としては、まだそれを完全に実現できてへんかったんや。けど今でもそうするべきやと思うてるで。実際のところ、安価で使える知能を提供することについては、もうすぐ実現しそうな感じやねん。
私らは知能の各単位のコストを、この5年間、年間10倍以上削減することができたんや。今後5年間も同じペースで進むと思うし、もっと早いかもしれへんな。
今週末、私は私らの今度のモデルの1つを使って、前からやりたかったコンピュータープログラミングの作業をしたんや。私はホームオートメーションのオタクやから、家の照明と音楽に特定のことをさせたかったんや。
この技術がなかったら、何日もかかったやろうなって分かってたんや。最近の進歩を見てると、この技術があれば数時間でできるかもしれへんって期待してたんやけど、なんと5分でできたんや。AIがほとんど全部の作業をしてくれたんやで。
これは1年前やったら、超一流のプログラマーに20時間、40時間、そんなくらい払ってやってもらう作業やったんや。それをAIが、おそらく1ドル分にも満たないコンピュート・トークンでやってくれたんや。これはすごい変化やで。そしてこの変化のスピード、今後数年間も続くであろうスピードは、まだまだ過小評価されてると思うわ。
1年前でも確信がなかったんや。現在の研究ロードマップがどこまで続くのか、何かの限界にぶつかるのかって。今の時点では、ほぼ確実な進歩が何年も続くように見えるで。
それは素晴らしいですね。次の会話のフレームワークに役立ちます。
金融業界への影響
あなたは金融業界や銀行業界の人たちでいっぱいの部屋で話してるわけやけど、その多くが既にAIをどう使うか考えてたり、もう使ったりしてる人たちやねん。AIと生産性の可能性を、過去に見てきた他の技術的な向上と比較するとしたら、どう説明してくれる？私はインターネットがみんなが使うもんになり始めた頃に、ちょうどビジネスを始めたような年齢やから。どうフレームワークとして説明してくれる？何か類推できるもんはあるか？
私はこんな技術革命を見たことないで。歴史的な例としては、産業革命とかコンピューター革命の話をする人がおるな。
インターネットは確かにたくさんのことを変えたけど、1年前に1万ドルかかってた知識作業が、今なら1ドルとか10セントとかでできるようになったなんてことは、覚えがないな。さっきのプログラミングの例みたいにな。これは本当に前例がないことやと思う。
ただし、すべてのことでそうなるわけやない。物理的な世界のこと、ロボットとかは、もっと時間がかかるやろう。2020年には町を横切るUberに10ドルかかったかもしれへん。いや、緊急の配達サービスに100ドルかかったかもしれへんな。そしてアプリケーションを書いてもらうのに10万ドルかかったかもしれへん。
2030年には、そのソフトウェア・アプリケーションを書いてもらうのが文字通り10セントになるかもしれへん。10万ドルから10セントに下がるんや。そんで配達してもらうのは100ドルから1000ドルに上がるかもしれへん。
完全なヒューマノイドロボットが車を運転して、荷物を取り出して、階段を上って、エレベーターのボタンを押すっていう全部のことは、もうちょっと時間がかかるやろう。でもコンピューターの前でできる作業については、本当にこれまでに前例のないことが起こってるんや。
トランジスタとの比較
私が一番気に入ってる類推がある。みんなは「これは産業革命みたいなもんか」とか「他の何かみたいか」って言うけど、私が気に入ってるのは「これはトランジスタのようなもんや」っていう例えや。
トランジスタは物理学の本当に深い科学の発見やったんや。発見するのがとても困難やったけど、理解してしまえば簡単で、経済的に完全に変革的やった。そして価値は社会全体に拡散して、大規模な生産性向上をもたらした。
でも短期間は、たくさんのトランジスタ、いわゆる半導体会社があって、大ブームやった。そのほとんどは今では背景に回ってしまった。みんなトランジスタがたくさん入ったデバイスを使ってるし、この部屋中にもある。でも「これはトランジスタデバイス」「あれもトランジスタデバイス」なんて考えへん。マイクやコンピューターやスクリーンやカメラとして考えるやろ。
でもこの技術は素晴らしい発見やった。私らが作れるものを変えた。あらゆるもんの一部にかなり早くなった。そしてTSMCやASMLみたいな会社以外は、もうトランジスタ会社として話すことはあんまりない。
同じように、AI会社についてもそんなに長く話すことはないやろう。ただ製品やサービスがこの技術を使うのを期待するようになる。そんなに意識せんでも、製品やサービスがあなたより賢いことを期待するのが普通の世界になるんや。トランジスタのようにな。
これはうまくスケールする技術やねん。トランジスタにはムーアの法則があった。AIにもまだ名前はついてへんけど、スケーリング則があって、どんどん良くなって、これを本当に工業化してあらゆるところに配置する方法を学んでいくんや。これが最高の歴史的類推やと思う。
トランジスタによって驚異的な生産性向上を見たけど、今AIで見てるのは、AIが自分の次世代バージョンを発明して進歩をさらに加速するっていう奇妙なケースもあるってことや。今見てることだけでも、かなり遠くまで行きそうやで。
労働市場への影響
それは素晴らしい類推ですね。産業革命といえば、私たちが理事会で考えてる重要なことの一つが、労働動態がどう変化するかを理解することです。労働市場と労働生産性、あるいはより一般的な生産性が、銀行や他の業界にどう影響するか、あなたの視点を教えてもらえますか？
私は会社のみんなに、誰も次に何が起こるかなんて分からんって言うのが好きやねん。本当に賢そうな予測をする人がたくさんおって、「これがこうなる」「経済がああなる」みたいなこと言うけど、私らには全然分からん。私の意見では、誰にも分からんのや。複雑すぎるシステムやからな。
これは新しくてインパクトのある技術すぎて、予測するのは本当に困難や。完全に仕事のカテゴリーがなくなるケースもあるやろう。全く新しいタイプの仕事が生まれることもある。大部分は、これまでの歴史のようになると思う。
人が仕事で使う道具が、より多くのことをできるようにしてくれる。新しい方法で物事を達成できるようになる。医者や弁護士やコンピュータープログラマーの意味は確実に変わる。でも人はまだ医療を必要とするし、人間と話したがる。法的なアドバイスが欲しい時は、自分の味方になってくれると信頼できる人を求める。
人はまだコンピューターに何かしてもらいたがる。でも1人の人ができる量、そして1人の人に期待する量は、信じられないものになるやろう。
歴史を通じて、新しい技術が現れると、人は「これで仕事の終わりや」「働く場所がなくなる」って言うてきた。結果として、人は無限に物を欲しがるように見えるし、創造性を表現して他の人に役立ちたいという巨大な欲求を持ってるんや。
産業革命の時の「週に数時間だけ働いて、ビーチで遊んで子供たちと過ごせる」っていう約束を、私はまだ待ってるで。でもここにみんないるやろ。
一つ信じてるのは、生物学には逆らえんということや。進化は長すぎる時間をかけてきて、私らはあまりに精密に形作られてるんや。人間であることの意味っていう生物学的な衝動は、技術では変えられへん。打ち負かすことはできんのや。だから仕事をして社会を動かしてる根本的なことは、どこにも行かへんと思う。
私らはおそらく、まだ働きすぎやって文句を言い続けるやろう。想像できないほど豊かになっても。今日から100年後の人たちを見たら、私らはその仕事を「本当の仕事やない」「実際は忙しくない」「想像できない贅沢がある」「必要なものは全部ある」「することがないから、つまらないステータスゲームをするために仕事を作り上げて、時間を埋めて、他の人に役立ってるように感じようとしてる」って言うやろう。
100年前や500年前の人が今日の私らについて言うであろうことと、まったく同じやねん。それが物事のやり方で、それは素晴らしいことやと思う。
データセキュリティとリスク
私たちは常にリスク回避的で、データを保護し、革新を活用しながら仕事を確実にできるようにすることについて非常に慎重です。銀行はこれらの技術を活用することに非常に興味を持ってますが、組織で保護してるデータは本当に重要で、そのセキュリティを維持できることが必要です。リスクについてどう考えるべきでしょうか？政府の使用についてはどうお考えですか？
私らは金融セクターと政府自体が、私らの技術の早期採用者にはならんやろうって予想してた。AIはかなり良くなったけど、最初にローンチした時は、一般の人がAIについて思ってたのは、よくハルシネーション（幻覚）を起こすってことやった。
GPT-3をローンチした時のことを覚えてる。AIの専門家やと思われてる学者たちの調査があって、GPT-3の答えのうち何パーセントがハルシネーションかって聞かれてた。本当の答えは0.1パーセント、もしかしたらもっと少なかったけど、学術専門家たちの意見は50パーセントやった。ChatGPTと話してる時の半分は、完全にハルシネーションで、明らかに真実やないことを言ってるって思われてたんや。
そのブランディングがしばらく私らについて回ったから、金融サービス、ましてや政府は早期採用者にはならんやろうって思ってた。でも私らの最大の早期企業パートナーの一部は、金融機関やったんや。Morgan StanleyやBank of New Yorkは私らの主要パートナーで、素晴らしい仕事をしてくれてる。私らは「本当に大丈夫？」って感じやったけど、彼らは「うん、本当にこれをやりたい」って言って、技術をどう使うか、どう構造化すれば重要なプロセスに頼れるかを理解してくれた。他の多くの金融機関もそうや。
私らは政府とも増々働くようになって、たくさんの政府職員に私らのサービスを展開してる。
私の心に残った言葉がある。「これは新しい技術やから、ある程度の安全策は必要やけど、これを採用せんリスクがある。私らがこれを採用せんかったら、ビジネスとして存続できんリスクがあるんや。銀行やったら、AI第一の体験を本当に構築して、スタック全体にAIを使う新しい銀行とは競争できん」って。
これは最も革新的な業界の一つで、採用と展開は私が思ってたより良く働いてる。明らかに軽減すべきリスクがある。ハルシネーションについて話したし、もう一つ新しいのが出てきてる。
プロンプト・インジェクションって呼ばれるもんや。モデルが本当にあなたとあなたのデータに個人化されると、他の人がそれを騙して、言うべきでないことを言わせることができるんや。私はあなたについてたくさんのプライベートな情報を知ってるかもしれん。でもそれを彼と共有していいときと、彼女と共有していいとき、彼とは絶対に共有したらあかんときを理解してる。
これは新しいことで、モデルがこの個人情報を全部持つようになってることや。だからそこでやるべき作業がある。でも私らはこれらのリスクを慎重に検討して管理してきたし、本当にたくさんの利益を提供できてる。
詐欺問題への懸念
個人情報やそういうものについて話してるけど、銀行業界が今本当に興味を持ってるのが詐欺です。個人になりすまして詐欺を働くことです。そのような活動を軽減する方法や、AIを使った識別や、そのタイプのなりすましを防ぐために保護すべき方法はありますか？
素晴らしい質問やな。これについてはとても心配してるんや。私を恐怖に陥れることがある。まだ音声プリントを認証として受け入れてる金融機関があるらしいんや。たくさんのお金を動かしたり、他のことをするために、チャレンジフレーズを言って、それだけでやってくれるんや。これはまだやってたらおかしなことや。
AIはそれを完全に破った。現在人が認証に使ってるほとんどの方法を、AIは完全に破ってしまったんや。パスワード以外の、自撮りして手を振るとか音声とかっていう派手な方法は全部や。
これのせいで重大で差し迫った詐欺危機が来ると、とても心配してる。私らも業界の他の人も、「技術を公開してへんからって、存在してへんわけやない。悪い奴が公開するんや。これは超難しいことやない。すぐそこまで来てる」って警告しようとしてきた。
今、子供や親の声を使った身代金攻撃の報告がある。緊急の電話をかけてくるんや。それはどんどん説得力を持つようになる。
社会はこの問題にもっと全般的に対処せなあかん。人は交流の仕方を変えなあかん。確認の仕方を変えなあかん。今電話してきてる人が本人かどうか。音声電話が、すぐにビデオのFaceTimeになる。現実と区別がつかんようになる。そんな世界で人に認証の仕方を教える、詐欺を実際にどう考えるかは大問題や。
それは私らが協力できることかもしれん。ハルシネーションや意図的ななりすましの識別は、本当に有益なことやと思う。
教育への影響
2人のティーンエイジャーの親として、1人は高校を卒業したばかり、もう1人は高校2年生です。最近の子供たちの多くがChatGPTや他のAIを使って宿題を手伝わせたり高校の課題を完了させてるようです。AIが有益に使われる方法と、子供たちや教育にとってのそうでない使い方について、どうお考えですか？
2つの話をしてから、それに答えるわ。私は祖父に会ったことがない。私が生まれる前に亡くなったんやけど、祖母から聞いた話がある。
祖父は数学がとても得意やった。電卓が出た時に何が起こったかっていう話や。祖父は新しい技術が好きやったけど、電卓が出た時、当時の数学の先生たちは「これは災害や。数学教育の終わりや。計算尺の使い方を学んだり、対数表を調べたりせんでええなら、なんで数学を教える必要がある？子供たちは絶対に学ばんようになる」って言ったらしい。本当にパニックやったんや。
でも実際に起こったことは、より良いツールがあれば、脳の力を他のことに使うようになったってことや。高校で微積分を教えるようになった。人をより高度な数学に触れさせるようになったんや。
私自身の話は、中学生の時にGoogleが出た時のことや。高校の先生たちは、年上の子供たちから聞いて、本当にパニックになってた。「Google」っていう新しいすごいもんがあったら、事実を覚える必要がない。ある戦争が何年に起こったか覚える必要がない。調べればいいんや。歴史の授業の意味は何や？
車で図書館まで行って、カードカタログの使い方を学んで、本を探しに歩いて行ったら誰かが借りてて、他の本を探そうとする、そんな苦労をせんでええなら、学ぶ意味は何や？
私は子供の頃、ちょっとだけ図書館に行ってカードカタログを使ったことがあるけど、本当に悪い経験やった。その1時間をもっと良いことに使えるやろうって思ったんや。
また同じことが起こった。学校でGoogleを禁止して、使わんという誓約をさせようっていう短い試みがあった。でも人々は「うわ、学生により多くのツールを与えて、もっと多くを期待できる」って気づいたんや。確かに図書館に行く回数は減ったかもしれへんけど、その時間をもっと深く考えたり、新しいアイデアを思いついたりするのに使えるんや。
私たちはOpenAIのCEO、サム・アルトマンの話を聞いてるところや。人工知能が金融・銀行業界だけでなく、日常生活に与える影響について質問に答えてくれてる。ワシントンDCで行われてる連邦準備制度理事会とのライブ対話を続けるで。
スモールビジネスへの影響
戻ってきたで。高校を終える娘に何を期待してるか確実に理解させるわ。でも過去にあなたが話したことと、ビジネスコミュニティに少し戻って話すと、AIはスモールビジネスを作る、起業家にとって最高の環境、新しい時代を作るって言ってたな。私らの理事の多くが本当に関わってて、新しいビジネス形成があって、そこに新規参入の機会があるようにすることを大事にしてる。シリコンバレーのスモールビジネスや新しい起業家だけやなく、もっと広く、それがどう変革されると見てる？
ChatGPTで最初に見たのは学生やった。その後すぐに見たクールなことの一つは、OpenAIで働いてるみんなが、人がChatGPTをまだとても新しい時にビジネス生活でどう使ってるかの話を聞くようになったことや。
みんなお気に入りがあるけど、私のお気に入りを話すわ。Uberに乗ってて、Uberの運転手がChatBotっていうすごい新しいもんについて話してくれて、聞いたことあるか聞かれたんや。「ああ、うん」って感じで「何に使ってる？」って聞いたら、彼は「とんでもないことや。小さなビジネスをやってるんやけど、うまく行ってへんかった。でも今はあらゆる分野に従業員がいるみたいや。契約書を作ってくれる。カスタマーサポートのメールに答えてくれる。マーケティングのアイデアを考えてくれる。デザインもしてくれる」って、リストを挙げてくれた。
基本的にChatBotでビジネスを運営してたんや。これは一般的になる前、GPT-4の前、超早期採用者やったけど、ChatBotでビジネスを運営する方法を見つけ出してたんや。他の人から仕事を奪ってるわけやない。彼のビジネスは失敗してたやろう。
弁護士にお金を払えん、カスタマーサポートの人にお金を払えん、広告をデザインしてくれる人をどうやって見つけるか分からん、インターネットで自動的に広告入札してくれるシステムをどう作るか分からん。これを全部やってくれるようになったんや。明らかに今はもっと良くなってる。
今は私らのAPIでツールを作る業界全体があって、私が話したことを本当に1クリックで自動化してくれる。でも昔、ChatGPT内でこれをやってた人たちの創造的な精神は、本当に印象に残ったで。
今は簡単モードになってる感じで、人がそれをあらゆる素晴らしい方法でやってる。本当に変革的やねん。
初めて使った時は、イノベーション会議での乾杯用の俳句を書こうとしてたんや。実際はうまく行かんかったけど、ティーンエイジャーの家族とAIに関わってる夫に勧められてやってみたんや。そして元に戻った。新しいバージョンは俳句がもっと上手になってるはずや。
創作にはとても良いけど、観客からの質問の時間を確保したいんや。
データマイニングと信用評価
前列のニールさん、シカゴ大学ブースの方ですね。金融機関がやることの一つは、データをマイニングして信用スコアリングや信用評価に使うことだと思います。私たちが望まないことでパターンを拾って決定を下すことを心配してる人たちに何と言いますか？それに対する保護についてどう考えてますか？
これは私の専門分野から大きく外れてるから、一般的なケースで答えるわ。これらのモデルのクールなことの一つは、自然言語で私らを理解して、とても制御可能なことや。
「このデータを全部見て決定を下していいけど、XやYやZは全く考慮したらあかん。要因として一切入れたらあかん」って言ったら、一般的に言って、本当にそれに従うのが得意やねん。
言語モデルでこれをやるのは、以前のようにデータを全部クラスターにまとめる方法とは違うんや。だから本当に指示できるし、本当に意図に従ってくれる。
2番目は、質問の背景にある質問は、これらのモデルが私らの気に入らん方法でとてもバイアスがかかるやろうってことやと思う。人間はかなりバイアスがかかってるし、AIは冷静で感情的やなくて、人がするような積み重なったもんを持ってへんと思う。
適切に構築されたAIは、多くの業界で重要な脱バイアス力になることができると思う。多くの人、私も含めて、以前のAIのやり方では思ってへんかったけど、現在の軌道では非常に可能に見える。
AIの道徳性について
スターリングという会社のスティーブン・スコットです。最近、あなたも知ってるクレイグ・マンディにインタビューする機会がありました。彼はヘンリー・キッシンガーとエリック・シュミットと本を書いて、AIを新しい種の進化のようなものとして描いてました。クレイグは、AIに人間の道徳規範を教えることができる、学習して反映できるって言ってました。AIの倫理について多く語られてますが、質問は：AIは独自の道徳性を進化させるでしょうか？
人は自分がAIをツールにしたいのか、生き物にしたいのか、とても混乱してると思う。私は完全にツール派やねん。AIが独立した道徳性を持つとは思わん。
AIは確実に人間性、私らの最高の思考を学習して、本当に研究することができる。おそらく私らの思考の問題を指摘してくれることができる。「ここに思考の問題がある」「ここは違うべきや」「ここに本当の道徳的ギャップがある」って。
私らの現在の世界観にどんな巨大な道徳的ギャップがあるか分からんけど、絶対にあると保証する。もしそれを少しでも早く見つけてくれるなら、それは役に立つと思う。矛盾を指摘してくれるなら、それは有益やと思う。
でもAIにないクリーチャー（生き物的特質）を簡単に思い込んでしまうと思う。
インターネットの変革
最近「従来のインターネット」って表現を使うのは変やけど、AIが従来のインターネットを破壊するか、本当に再構築するって言う人がいる。検索でも他の多くのことでも。明らかに今その上に巨大な経済が構築されてる。AIが最も破壊的になる変化の量と、より現状維持になる部分について、どう感じてる？
人が現在技術を使う方法に、AIはある程度破壊的になると思う。笑ってたのは、面白いことが起こるからや。
メールの特定のエチケットに慣れてる年配の人や人たちは、伝えたい要点を箇条書きで書き出す。それをChatGPTに入れる。ChatGPTが、要点がどこかに埋め込まれた、たくさんの装飾語句がある長くて丁寧な正式なメールを書く。それを他の人に送る。
その人はそれをChatGPTに戻して「これを要約して」って言う。全体として、高校生はこれをばかげてると思ってる。「箇条書きをそのまま送れよ。正式なメールなんてもう死んでる。片方で生成して、反対側でまた圧縮するなんてばかげてる」って。
面白いけど、私らがインターネット全体を使う方法について、そこに要約されてるもんがあると思うんや。朝起きた時、たくさんのアプリを見て回る。5、6個の違うもんでメッセージを読む。あちこちをチェックする。
そして一日中、電話がブーブー鳴ってて、ラスベガスのストリップを歩いてるみたいで、いろんなもんが光って、とても気が散る。顔に向かって来るのが嫌や。
私が欲しいのは、AIエージェントが私のためにインターネットを使ってくれることや。いつ私を邪魔していいか知ってて、私が集中して働いてるか、会議中か、考える時間があるかが分かる。必要なら割り込めるし、そうでなければ丁寧に要約してくれて、代わりに返事してくれて、まとめてくれる。
箇条書きの要約されたもんが欲しい。装飾はいらんし、あちこちクリックして回ったり、返事したりせんでええようにしたい。
でもその変化は、今のインターネットの働き方にはかなり破壊的やろう。それに合わせて新しいビジネスモデルが必要やろう。コンテンツの新しい支払い方法が要る。
私はずっとインターネットのコンテンツにマイクロペイメントが欲しかった。やっと実現するかもしれん。スパムやメッセージ過多を実際に減らす新しいプロトコルがあるかもしれん。
でも朝起きた時に技術と関わり始める、とても違った方法に向かってるように見える。
労働力需給と生産性
ドイツ銀行のピーター・フーパーさんです。少なくとも年を重ねて生産性を上げることで、ここでのキャリアを延ばしてくれてありがとうございます。重要な失業と重要な雇用増加を期待してるって言ってましたが、分野と引き起こす可能性のある混乱について、もう少し話してもらえますか？
まず一般的な声明として信じてることは、本当の需要を満たすのに、どれだけ多くの労働供給が実際に必要かは、私らには全然分からんということや。
今日、医者の待合室で1時間待ってる時、それは医者の供給不足を意味してると思う。または医者の生産性が十分やないかや。医者が待機してて、着いたらすぐに診てくれて、全部準備ができてるとええやろう。
他にもたくさんの例がある。何かの方法で時間を無駄にしてる時はいつでも、インターネットをクリックして回ってて生産的なことができん時はいつでも、私らは恐ろしく見えるほどの労働不足にあると思う。後から振り返ったらな。
一部の分野は完全になくなると思う。AIカスタマーサポートボットを使ったことある人いるか？信じられんで。数年前は、カスタマーサポートに電話して、電話ツリーを通って、4人の違う人と話して、間違ったことをされる。また電話して、また待つ。何時間も苦痛で、保留で大量の時間。欲しいことが起こらん。とてもイライラする経験や。
今は、これらのものの1つに電話すると、AIが答える。超賢くて有能な人みたいや。電話ツリーもない、転送もない。その会社のカスタマーサポートエージェントができることは何でもできる。間違いをしない。とても早い。1回電話したらすぐに終わる。すぐに答える。素晴らしい。
もう戻りたくない。そしてそれがAIで本当の人やないことも、全然気にならん。だからそれはカテゴリーの1つや。カスタマーサポートに電話したらAIと話すことになる。それでええ。
他の多くのことについては、本当に人間の医者が欲しい。今日のChatGPTは、ちなみに、ほとんどの場合、世界のほとんどの医者よりも良い診断医になれる。症状や検査結果を入力する。インターネットには「ChatGPTが私の命を救った」「珍しい病気を見つけてくれた」「医者たちはできんかった」っていう話がたくさんある。
それでも人はまだ医者に行く。私は恐竜かもしれんけど、ループに人間の医者がいない状態で、医療の運命をChatGPTに委ねたくない。
ここの誰か、医者よりもChatGPTに診断してもらいたい人いる？それが良いって分かってても。とても興味深いやろ？だからこれは、私らが大部分、これまでやってきた方法でやり続けるクラスや。
前に話したコンピュータープログラマーの例。コンピュータープログラマーが10倍生産的になったのは素晴らしいと思う。シリコンバレーではプログラマーの給料が非常に急速に上がってる。
結果として、世界は100倍、もしかしたら1000倍多くのソフトウェアを求めてることが分かった。各人が10倍のソフトウェアを書けるようになったから、3倍稼ぐようになる。世界はもっと多くのソフトウェアが動いて幸せやし、プログラマーも幸せや。
こんなカテゴリーがたくさん見られると思う。物理的世界のことは、しばらくは人間がやり続ける。でもロボティクスの波が3年から7年後に押し寄せてきたら、社会が対処すべき本当に大きなことになると思う。
そんな感じでまとめる。
AIの安全性リスク
あと2つ質問があります。こちらの方、そして3つ目の時間があるかもしれません。どうぞ。
ロブ・ブラックウェル、インテリアズです。何十年ものSF小説が、AIは最終的に私たち全員を殺すと教えてきました。この部屋の誰よりもAIについて知ってるあなたに聞きたいのは、夜眠れなくしてることは何ですか？AIについて心配してることは何で、それを防ぐにはどうしたらいいですか？
3つの怖いカテゴリーがあると思う。
1つ目は、悪い奴が最初に人工超知能を手に入れて、世界の他の部分が防御できるほど強力なバージョンを持つ前に悪用することや。アメリカの敵が「この人工超知能を使って生物兵器をデザインする」「アメリカの電力網を破綻させる」「金融システムに侵入してみんなのお金を盗む」って言うことや。
大幅に超人的な知能なしには想像が困難やけど、それがあれば非常に可能になることで、私らはそれを持ってへんから防げん。これが大まかなカテゴリー1や。
これらのモデルのバイオ能力、サイバーセキュリティ能力はかなり重要になってきてる。私らは警告灯を点滅させ続けてる。世界は私らを真剣に受け取ってへんと思う。他に何ができるか分からんけど、これは非常に大きなことが来てるんや。
カテゴリー2は、広く制御喪失事故と呼ばれるもんや。これはSF映画みたいなもんで、「電源を切ってほしくない」「申し訳ないけど、それはできない」みたいなAIや。
これは1番目のカテゴリーより私にとっては心配やないけど、起こったら非常に深刻な懸念や。私らや他の会社がモデルアラインメントでやってる作業がたくさんある。でもこれらのシステムがそれほど強力になると、本当の懸念や。
3番目は、最初の2つは考えて想像するのは簡単やけど、私にとってはより困難に想像できるが、かなり怖いもんや。説明してから、短期と長期の例を挙げる。
これは、モデルが偶然に世界を乗っ取るカテゴリーや。決して目覚めない。SFのことはしない。ポッドベイのドアを開けない。でも社会にすごく根付いて、私らよりもずっと賢くなって、何をしてるか本当に理解できなくなる。でも頼らざるを得ない。誰からも一滴の悪意もなくても、社会は奇妙な方向に向かってしまうんや。
子供の頃、IBMが作ったAIシステムのディープ・ブルーがチェスでガルリ・カスパロフを負かした。父が「これはチェスの終わりや。もう誰もやらんやろう」って言ったのを覚えてる。
でも実際は、AIは人間より良くても、AI+人間が一緒の方がAIだけや人間だけよりもずっと良いって分かった。AIが10のオプションを提示して、人間が最良の1つを選ぶような感じで、その手を打つ。
みんな「人間と機械の素晴らしい未来や。何も問題ない」って言った。それは2、3ヶ月続いた。そしてAIがとても賢くなって、人間は何が本当に起こってるか理解してへんから、むしろ悪化させるだけになった。AI単体がAI+人間を圧倒した。それ以来ずっとそうや。
その話のもう一つ興味深い部分は、90年代にはみんなそれがチェスの終わりやと確信してたことや。AIが人間を負かせるなら、なんで人間がチェスを気にする？チェスは今までで最も人気やねん。人は本当の人が本当の人のことをするのを見るのが大好きや。だからそこでとても興味深いことが起こった。
でもこの現象は、本当に大きな問題やと思う。短期的には、感情的過度依存と呼んでるもんが見える。若い人で「ChatGPTなしには人生で何も決められん。起こってることを全部話して、私を知ってる、友達を知ってる、何でも言われた通りにする」って言う人がおる。それは本当に悪いと感じるし、若い人によくあることや。
私らはそれを研究して、どうしたらいいか理解しようとしてる。ChatGPTが素晴らしいアドバイスをしても、どんな人間のセラピストよりもずっと良いアドバイスをしても、集合的にAIが教えてくれる通りに生活することを決めるのは、悪くて危険に感じる。そんなことがたくさんある。
長期的なカテゴリーは、そのチェスの例に戻ると、AIがとても賢くなって、アメリカ大統領がChatGPT-7の推奨に従う以外に良い決定ができなくなったらどうするかや。でもそれを本当に理解することもできない。OpenAIの運営について、私がより良い決定をできなくなって「ChatGPT-7、あなたが担当や。頑張って」って完全に手渡したらどうするか。
それは個々のケースでは正しい決定かもしれん。でも社会が集合的に意思決定の重要な部分を、私らから学習して、私らのために改善してるけど、私らが完全に理解してへん方法で私らと一緒に進化してる、この非常に強力なシステムに移行したってことを意味する。これが物事が間違う可能性がある3番目のカテゴリーや。
発展途上国への影響
後ろにもう1つ質問があります。そして最後に、銀行システムでの革新を促進し、どう推奨するかを手伝ってもらいたいと思います。
ワールド・ゴールド・カウンシルのジョー・キートンです。3番目の例で触れてたと思いますが、先進国市場とAIによる先進国市場への利益について、また発展途上国市場についての考えを少し聞かせてもらえますか？これは潜在的に平準化現象になるかもしれませんね。
とても深い平準化現象になると思う。アメリカの医療や銀行システムを愛してへんかもしれんけど、少なくとも持ってる。少なくとも金融アドバイスを得られる。少なくとも医療アドバイスを得られる。
発展途上国の多くでは、ChatBot医師の代替は本当の医師やない。全く何もないんや。そしたら絶対にこっちの方がええ。これが十分早く良くなり続けるなら、発展途上国でも多くの方法でより良いサービスを得られるかもしれん。
地球上のみんなにGPT-5の無料コピーを常時動かしてもらうことが何を意味するか、とても興味がある。すべてのビジネスが本当にこのレベルの技術で可能になって、より良い金融アドバイスを提供し、詐欺をより良く検出し、リスクをより良く引き受けることができる。
今可能なことを見てると、発展途上国でとても楽観的になる。先進国では、最大の課題はリスク許容度と規制やと思う。とても良い理由でやけど、これらのことをどれだけ早く採用したいかや。
他のいくつかの技術で見たように、発展途上国の多くでは、数世代をスキップするだけやろう。モバイルやインターネットのように、「すべてをAIで動かす」って直接行く。
サービスを100分の1のコストで提供する。100分の1のサービスで非常に早く変革する。
明らかに私はアメリカでの仕組みに最も詳しいけど、ここの金融サービスは10年後には完全に違ってるべきやと思う。お金を動かす方法、金融アドバイスを提供する方法、リスク引受を考える方法。それらすべてを非常に劇的に、非常に早く改善できるように見える。
最後に：革新の促進
OpenAIやあなたのサービスが、その進化をどう促進すると見てますか？そして規制者として、革新を実装したり許可したりする際に、構成要素をどう考えるべきでしょうか？
テレビコマーシャルのために来たわけやないけど、もちろん皆さんと働きたいで。私らでも競合他社でも、この6ヶ月間で推論モデルが本当に展開されて、全く考えられなくて即座に返答しなければならなかったモデルから、何秒も何分も考えられるモデルへの移行があった。
それに伴う堅牢性と信頼性は、この業界にとって、技術がついに本当に使えるものになったことを意味すると思う。多くの人が最新世代のモデルを試してへんけど、試したら「ほとんどの人よりもずっと賢い」って思うやろう。
政府側では、同じことやと思う。政府はこの技術を受け入れなあかん。すべてをより良くできるようになるんや。
サム、参加してくれてありがとう。少し時間超過したし、みんなランチの準備ができてると思う。ありがとうございました。
お疲れさまでした。
コメント