この対談は、AnthropicのCEOで共同創設者であるジャック・クラークが、経済学者タイラー・コーエンとAIの経済的影響について議論したものである。話題は汎用人工知能（AGI）が経済に与える不均等な影響から始まり、AIが最も遅れて普及する分野、法的障壁、政府での採用、雇用保護、メディア産業の変化、AI企業間の競争、国際協定の可能性、経済成長率の予測、都市への影響、AI意識の問題まで広範囲にわたる。クラークは技術楽観主義者でありながらも現実的な視点を保ち、AIによる急速な変化と既存システムの適応の難しさについて深く考察している。特に印象的なのは、AIが物理世界に進出する際の困難さや、人間の意味や目的の必要性についての議論である。
皆さん、こんにちは。Conversations with Tylerへようこそ。今日は私はAnthropicでジャック・クラークさんとお話ししています。ご存知かもしれませんが、現在Anthropic経済指標というものがあり、これは高度なAIが米国経済に与える影響を測定しています。2025年3月時点で2つの関連レポートがあり、今後さらに多くが予定されています。
ジャックはもちろんAnthropicの共同創設者です。その前はOpenAIの政策担当ディレクター、Bloombergの記者でした。もともとは人文科学の背景を持ち、イングランドのブライトン出身です。ジャック、ようこそ。
ありがとうございます、タイラー。お招きいただき光栄です。
我々の経済において、AGIが最後まで、そして重要な形で影響を与えないのはどの分野でしょうか？
職人的な仕事や手に職を持つ分野だと推測します。電気工事や配管工事、園芸などの職種を考えてみてください。しかし、これらの中でも特定の高い地位や高いスキルを持つ部分があり、人々は単なるスキルではなく、その人の名声や時には美的感覚のために特定の職人を使いたがります。
実際のところ、園芸が私の予想です。
AGIが庭のデザインを手伝うことはないのでしょうか、それとも人間の顔が消えることはないのでしょうか？
人間の顔は決して消えないと思います。人々は人の趣味のために特定のものを購入するでしょう。たとえそれが現代アートの制作のようなもので、アーティストが実際には何千人もの人々を雇って働かせ、より多くのオーケストレーションをしているとしてもです。
では、もっとデスクワーク中心のサービス業ではどうでしょうか？どこで最後まで普及しないでしょうか？
興味深い質問ですね。他の人々と話し合って合意や一致を得る必要があるデスクワークがあると思います。でも、AIは既にそれが得意ですよね？素晴らしいセラピストです。
そうですが、私たちはまだClaudeを売るためにClaudeを送っていません。Claudeを売るために人を送っています。Claudeがおそらく営業のためのテキストを生成できるとしても、人々は他の人と商売をしたいのです。ですから、人によって仲介される特定の関係があり、人々は大きな資本プールに代わって行う取引について、大規模な自動化された組織や資本プールのための人間の代理人によって取引が行われることを強く好むでしょう。
AGIが最も強い法的障害に遭遇するのはどこでしょうか？
数年前までは法律分野そのものでかなり強い障害に遭遇していました。弁護士たちは非常に高い料金を請求できることを好み、それを競り下げるようなものを嫌っていたからです。しかし、もっと真面目な答えは、おそらくヘルスケアの大部分でしょう。個人データの扱い方に関する特定の事柄に縛られているからです。
それらの基準はすべて、AIによって使用されるのに適するように何らかの形で変更される必要があるでしょう。そして私たちは一般的にデータ基準の更新や変更に非常に苦労してきました。
でも、自分のハードドライブにAIを置けるようになったら、それもかなり間もなくですが、すべてが変わるのではないでしょうか？
それはグレーマーケットの専門知識という形で変わるでしょうが、公式な専門知識ではありません。
最近子供が生まれたので、赤ちゃんが頭をぶつけたりすると、アドバイスナースに電話をかけながら、赤ちゃんが大丈夫かどうか安心するためにClaudeに話しかけます。実際、私たちの利用規約ではヘルスケア用途を完全には許可していません。責任問題が含まれることを心配しているため、推奨していません。
でも私の行動を見れば、いつもそれを使いたいと思っていることがわかります。しかし、そのClaudeの評価をカイザー・パーマネンテに持っていくことはできません。実際には人間と話し合って、子供に何かを処方する必要があるかどうかを判断するために、バックエンドで他のすべてのことを解決する必要があります。
つまり、第一の仕事はAIから生成される情報をこっそりと伝達することになるのでしょうか？
本質的には、その一部はAIからの情報を、その情報が直接入ることを想定していない人間のシステムに洗浄することかもしれません。
アメリカ政府やその一部が、強いAIが最後に来る場所だとあなたが言うかもしれないと思っていました。それが私の予測です。
彼らはまだ60年代、時には50年代のソフトウェアを使っていますからね。
そうですが、実際にはそこが非常に急速な変化を見る場所になる可能性があると思います。いくつかの理由があります。一つは、AIが国家安全保障に関連性があることがわかっているからです。特定の種類の能力を開発します。
ああ、それは素早く起こるでしょう。
そうです、それは素早く起こるでしょう。しかし、政府の残りの部分、文部省、保健福祉省、政府の怖くない部分についてはどうでしょうか。
政府の本当に困難な部分に入れることが驚くほど簡単になり、その後政治的意志の問題になると思います。
しかし世界中で、そして私も確信していますが、政府は成長を切望し、効率性を切望しています。今日ここでもそれが見えますし、彼らはそう言っています。でも有権者の世論調査や他のことを見ると、人々は現在得ているよりも政府からより多くの変化を見たいと思っており、時には有権者の好みが最終的に選出された役人の行動を変えると思います。
この点について逆の立場を取ると、政府はあなたが思うより少し速く動くかもしれません。非常に大きな既存企業が特定の分野でこれに対する最大の抵抗を示すことになるかもしれません。
HUDや文部省のスタッフの半分が強いAIやAGIに置き換えられることが決定されたとしましょう。まず、それを実現するためにより多くの人を雇う必要があるでしょうか？そして、残りの半分を解雇できるようにシステムを切り替える人を、どんな賃金で雇うことができるでしょうか？それがどのように機能するのか理解できません。
それは、システムが非常に強力になり、AIシステム自体を導入してこれについて考えを助けてもらえるシナリオでのみ機能すると思います。そして政治的意志の問題があり、システム全体が破綻する可能性があります。
今日存在する仕事の半分を、法律や医学に見られるような法律で強いAGIから保護することを決定する可能性はどのくらいあると思いますか？
この信じられないほど強力な技術がもたらす政治的問題と、変化がいかに速く起こるかに対処する方法として、多くの人間の仕事を官僚的な amber に凍結しようとする政治運動が到来する可能性は高いと思います。
理性的な方法でこれを行うとは思いません。政治的な力の混沌とした風によって推進されると思います。これは、この技術を構築している企業である私たちと私たちの顧客が、良い移行がどのようなものかの十分な例を生み出さない場合に起こる結果のように感じます。そこでの証拠が少なければ少ないほど、そしてより大きな経済変化の証拠が多ければ多いほど、異なる分野で労働者を保護するために介入したいという欲求が高まる可能性があります。これは人々を助けたいという衝動に基づいていますが、数十年の間それを行うことが最終的に最も有用ではないかもしれません。
しかし、それが実際には制約された意味で最良の結果である可能性はありますか？人々はまだ仕事を持つでしょう。朝どこかに行くでしょう。多くの仕事、特に大変な仕事はAIによって行われるでしょう。
明らかに、私たちはより豊かになるので、突然これをすべて買う余裕があります。人々にとってそれほど悪く感じられないでしょう。生活は馴染みのあるものに見えるでしょう。ある意味で、それが私たちが目指すべきことではないでしょうか？
自由貿易を持つために寛大な福祉国家が必要なのと同じ意味で、私たちはそれを目指すべきだと思います。
福祉国家は常に最も効率的ではありませんが、人々がより自由な貿易を受け入れるなら、それは妥当な取引です。これはある意味でサービス労働者のための福祉国家ではないでしょうか。彼らはまだ望むなら朝どこかに行くことができますが、する必要はありません。
すべての人々は意味と、日々行うことの重要性への欲求を持っていると信じています。
あなたが説明することで私が心配なのは、十分な意味を持つように感じられないかもしれないということです。人々が行い、そこから意味を引き出す、世界で継続して起こってほしい巨大な活動のクラスがあると思います。しかし、仕事のあるクラスを取って、これは私たちが保護している仕事で、そこから意味が湧き出るだろうと言うのが最良の方法かどうかはわかりません。なぜなら、その意味で自然に独自の意味を創造する多くの仕事を選ぶだろうという確信がないからです。
でも、これはAI前の学術界では成功していませんか？ほとんどの学術的な仕事はそれほど意味がありません。人々が行う研究は誰にも読まれません。まともな教師かもしれません。しかし人々は自分の研究に大きな誇りを持っています。多くの努力を注いでいます。それは無意味です。私たちは既にその問題を解決しているようです。学術モデルを取って、研究の代わりに、現在の経済の半分にそれを持ち込んで、継続させるだけです。
しかし、この理由で高い成果を上げる学術界の部分でさえ、ある種の不安とニヒリズムがあるのではないでしょうか？非常に賢い人々でさえ、時にはあなたが説明するようなことをしている人々と話すとき、彼らは異なることができることを知っており、ある種の地位ゲームに閉じ込められているようです。
それはありますが、ノーベル賞受賞者でさえ、お互いにライバルです。彼らは非常に非常に小さなことにこだわることがありますが、それは人間の本性ですよね？ノーベル賞受賞者が幸せでないなら、今日のノーベル賞受賞者のためにしていることよりもはるかに良いことをするAI後の世界はないでしょう？
私の反論は、これはすべて十分に迅速に起こる可能性があり、AIとそれが解放する生産能力によって提供される、異なる、より高い地位のゲームをプレイする機会を持つかもしれないということです。
AIシステムをあらゆる種類の仕事のために統制し、配置することを含む、まったく新しい仕事が確実にあるでしょう。それらは困難な仕事ですが、あると思います。しかし、AIに物を構築させたり、作らせたり、ほとんど競争やゲームを実行させるような、創造的で楽しい演習のように見える類似物があると思います。そこで人々がお互いとプレイできます。
そして、ある程度の意味を持ち、おそらく人々が参加できる経済エンジンが組み込まれた、まったく新しい形のエンターテインメントがあると思います。
私はAIテディベアの時代からそう遠くないと信じています。私がそう言うとき、何を意味するかわかりますか？
現在、両親の何パーセントがそれらのテディベアを子供たちのために買い、それを許可するでしょうか？
ほぼ2歳の子供がいるので、この考えを持ったことがあります。
私はまだテディベアを買うことができないことに困っています。大部分が…
でもあなたは異例です。
そうです。わかりません。わかりません。
あなたはAnthropicの共同創設者です。
私が異例だとは思いません。愛らしい子供が話し始め、無限の好奇心と満足される必要性を示すようになると、まず、どうやって他の人間の子供たちとできるだけ早く一緒に過ごさせることができるかを考えます。プリスクールのリストに載せ、そのようなことをすべて行います。
また、皿を洗っているときや夕食を作っているときに、時々ウサギと話せたらいいのにと思ったことがあります。そうすればウサギがいくらかの娯楽を提供してくれるでしょう。しばしば、子供を管理し、興味を持たせ続けるために、そこに別の人がいることが必要です。
でも、子供があなたに「パパ、僕は友達よりもウサギの方が好きです。今日は家にいてもいいですか？」と言ったらどうしますか？ウサギを取り上げますか？
それが難しい部分ですよね？友達ともっと時間を過ごさせると思いますが、ウサギは彼らの生活に残します。なぜなら、ウサギは単にどんどん賢くなり、彼らが成長するにつれてより多く彼らの周りにいるようになるからです。
ただし、それを取り上げれば、彼らは将来、スマートなAIの友人と何か本当に奇妙なことをするでしょう。
いいえ、私はここで異例だとは思いません。もし彼らが、子供が非常に困った状況にあるときに、子供に時々娯楽を提供できる善意の友人を獲得できるなら、ほとんどの親はおそらくそれをするでしょう。
でも、その文の中で「時々」という言葉が多くの仕事をしていると感じます。
そうです、子供がウサギを持つ時間を配給できるなら、親はそれを愛するでしょう。同意します。
しかし、スクリーンと同じです。多くの子供たちは、それを欲し続けます。「今はだめ」と子供に言うのは難しいですよね？昔はテレビを見ることでした。「お母さん、またスタートレックを見てもいい？」「1日7時間テレビを見てもいい？」まあ、それは良くありません。そしてそれを配給するのは難しいです。
ですから、これをどのように分割するかという問題があります。つまり、今日私たちはテレビでこれを行っています。飛行機で私たちと一緒に旅行しているときや、病気のときは、テレビを見ることができますが、赤ちゃんは他の場合はだめです。さまざまな観点から、それが最も有用なことではないように思えるからです。
これを制限する方法を見つける必要があるでしょう。お母さんとお父さんがあなたを助けるために家事をしているときは、その物を手に入れることができます。家事をしていないときは、その物は取り上げられます。
あなたは子供に対して過度の監視をすることになりますか？なぜなら、望むならすべてを知ることができるからです。そしてそれがあなたが子供にウサギをより多く与える理由かもしれません。
それは私が言及した頻度と、あなたが知ることを許可されているものといないものに帰着すると思います。
監視は謎めいていると思います。私たちは、子供たちが眠っているのを見て、起きているかどうかを知り、大丈夫かどうかを判断するために、子供たちが小さいときに手に入れる、これらのスマートウェブカメラの一つを持っています。
そしてそれが意味する主な点は、カメラがなければ行って確認しなければならないので、夜に赤ちゃんが泣くときに、カメラがない場合よりも入る回数が少ないということです。その結果、赤ちゃんは夜通し眠る傾向がはるかに高くなります。なぜなら、時々中断されないからです。
時々彼らは起きて1分間泣いて、そのまま眠りに戻ります。ですから、時々このようなものは、それについて特定のことを知っていれば、実際には人の生活にあまり干渉しないことを可能にすると思います。
でも、多くの7歳児のように、彼らは自分自身と話すという仮説があるとしましょう。彼らは奇妙なことを言い、AIウサギがそれをあなたに報告するでしょう。
ウサギがあなたの子供が奇妙なことを言っていると言ったら、でも彼らはみんな奇妙なことを言います。私は7歳のときにニューヨーク・メッツについてぺちゃくちゃ話していたかもしれませんし、それは完全に無害だったでしょうが、そのように聞こえなかったかもしれません。
人々に監視されない創造性のための空間を作る必要があります。実際、今日私たちがAI研究に取るアプローチと同じです。
現在、AIシステムは思考の連鎖を出力できますよね？これは答えを思いつくために使用する推論です。そして私たちはanthropicで、思考の連鎖をどの程度監視すべきかという問題を抱えています。なぜなら、実際に監視すると、システムが監視されても安全で、減点を引き起こさない思考の連鎖を持ちたがるという反目標を作り出す可能性があり、それが実際に多くの方法で思考を破壊する可能性があるからです。
この類推がここに適用されると思います。人々について実際にどの程度知ることを決定するかを選択する必要があるでしょう。さもなければ、彼らの行動を変化させ、悪影響をもたらすインセンティブを作るリスクがあります。
デートに行って、デートの相手が「あなたのAIレポートを見せてください」と言うでしょう？
過去3ヶ月間、あなたが自分自身について話していたことを。見せることができない、これは否定的なシグナルです。または見せる。私たちはみんな他の人々が実際にどのようなものかを学び、それを受け入れるようになります。
一人が最初のデートでそれを求めるなら、それは大丈夫です。2回目のデートで求めるなら、おそらくその人とデートすべきではありませんよね？
しかし、スワイプ中でさえ、AIはそれをアップロードするよう求められ、AIは他のAIレポートを読み、人は決してそれを見ず、いつ正しい方向にスワイプすべきかを教えてくれます。
わかりません。それがそんなに悪いかどうかわかりません。私は妻とOkay Cupidで出会いました。覚えているかどうかわかりませんが、それはアンケートに記入するオンラインデートサイトでした。もちろん、私にとってはmatch.comで、そこで妻と出会いました。
そして私は彼女と出会い、私たちの非AIだが自動化されたシステムのようなものが、あなたたちは仲良くなるかもしれないと言ったのです。ですから、私たちはそのようにお互いに出会いました。ですから、これが以前に使用したものとそれほど異なるとは思いません。
しかし、それはあなたが自発的に入力している情報ですよね？常にあなたを見ているのとは対照的に。
これは、この技術の新しい規範と、何が適切で何が不適切かを私たちが理解する分野だと思います。そしてその一部はビジネスの論理を通じて解決され、他のものは使用を通じて解決されるでしょう。
おそらく元の記事よりも優れているか、確実に悪くない、または合成的ではないものをすべて読めるダイジェストを読むことができる場合、メディアの経済学はどのようになるでしょうか？誰が何に対してお金を支払うのでしょうか？
これは私たちの前にある最も困難な質問の一つだと思います。
ご存知のように、私は元ジャーナリストです。ですから、オンライン広告市場の変化がジャーナリズムのビジネスモデルを変えていた時期に、専門家として成長しました。品質を通じて購読や人々があなたのものを買うことから得る価値から、大量の注意を引くことから得る価値に切り替わったからです。それがこのようなものの資金調達モデルの多くになったからです。
その結果、大量の目玉を集めるジャーナリストでジャーナリストを交差補助する必要性が見られました。データベースについて書く私のようなジャーナリストは目玉が少なくなりました。ですから、私たちはジャスティン・ビーバーについて書いた人々などによって交差補助されました。
メディアにとって、これの経済学をどう考えるかは本当に困難だと思います。そしてそれはいくつかの方法で変化すると思います。
一つは、その中に補助金と交差補助を持つ特定の種類の架空の宇宙のための大規模な出版社スタイルのモデルのいくつかに移行するかもしれません。
交差補助はどこから来るのでしょうか？Bloombergのように、それがどのように機能するかわかりますよね？しかし、AGIが真に汎用的で、既に存在するものに基づいているなら、すべての次元でメディアよりも優れたことができるはずです。
人間であるという事実に基づいて、人から来てほしいものがあると思います。そして人々は、他の手段を使って作っているとしても、他の人々によって前面に出されるメディアを優先的に選択すると思います。また、この多くのものに人間性の核が欲しいと思います。そして、あらゆるもののオンタップの順列に単に接続されたこれらの購読モデルに接続された別のタイプのメディアがあるでしょう。
ですから、2つの市場が出現するかもしれません。
しかし、私たちが人間から来てほしいものでさえ。アドバイスコラムニストのアン・ランダースが実際のアン・ランダースから来てほしいとしましょう。世界のアン・ランダースたちは、おそらくこっそりとAIを使っていますが、その価値は誰でもエネルギーの価格でそれができるため、競り下げられますよね？ですから、他の部分を交差補助できる収益生成セクターのこの一部で本当に終わることはありません。
知能がかなり安価なら、それはすべてのメディアに打撃を与えます。すべてのメディアに打撃を与え、あなたは個人に支払いたいと思うでしょう。これは今日私たちがいる世界でさえ起こると思います。人々は、この多くのものを使っているかもしれない個々のクリエイターを補助したいと思います。ですから、それはSubstackの世界です。
大部分の人々にとってはSubstack Patreonの世界で、その一部は信じられないほど成功するでしょう。そして、AIシステムによって拡張されている非常に大きくて豊かな特定の宇宙のための宇宙世界もあると思います。
ロード・オブ・ザ・リングの宇宙のようなものを意味しますか？
そうです。または私のオタクの資格を示すためにWarhammer 40kです。
しかし、どちらも架空のニュースを発行するでしょう？
そうです。そして本物のニュースはSubstackまたはSubstackから来るでしょう。明白な交差補助ではありません。Substack会社内にあるかもしれません。しかし、本物のニュースについては、本当にわかりません。
一部の本物のニュースは、公開されている事実の分析から来ます。それまで存在しなかった洞察を示す方法でそれらをまとめることです。
Substackの半分析はこの良い例です。多くの公的なものが興味深い結論に導きます。しかし、多くの文脈を持つその瞬間のニュースは、もはやほとんど機能しない以前のビジネスモデルによって補助されていました。そして、それに何が起こるのか本当にわかりません。
5年または10年後に私たちが現在LLMと呼んでいるもの、そのようなAIについて考えるとき、セクターはどれほど集中的で、どれほど競争的になると思いますか？
企業の数が正確な尺度かどうかはわかりませんが、どのように進化すると見ていますか？現在、中国を数える方法によって少し複雑ですが、少なくとも6つの企業があります。いくつかの複雑さがありますが、多くの企業があります。多くの競争があります。
長年にわたって、これらのすべてにわずかに異なる専門分野がある領域があると予想します。カバーする空間の点で大規模に成長した同心円があり、わずかに差別化された端があるでしょう。しかし、これらの端では、人間の価値がAI価値の上に重なって、人々が一方または他方を選ぶような、人間価値のスタックの最前線のようなものになるでしょう。例えば、一方がより詩的だから、詩の経済学はそれほど素晴らしくないので悪い例ですが、コーディングの方が良い例かもしれません。または特定の種類の科学実験のようなケースがあるかもしれません。そこでは実際に実験を構成するために味が大きく重要になるかもしれません。
しかし、私は非常に大規模なモデルの一桁数を持つ世界に入ると予想します。それらは、生活に統合される形式要因を変更し、他の専門AIシステムや専門家の知識と提携してそれらのAIによって構築された多くのヘルパー機能や知識を持つ、その上のはるかに大きなラッパーのセットにサービスを提供しています。
中国にここで心配があります。私の元同僚であるバーノン・スミスがこれについて論文を書いたことがあります。彼は、6つまたはそれ以上の競合企業に近づくにつれて、セクターは完全に競争的でなくても、本質的に完全競争のように振る舞うと論じました。もしそれが事実なら、AIまたは実際に他の企業がどのようにして、市場に留まり利益を上げるために必要なこと以上に倫理的に行動できるのでしょうか？次よりも良くなる余地はどこにあるのでしょうか？
今、私たちは自動車会社のようなもので、主に「どれくらい速いですか？赤色で手に入れることができますか？」と言う10代の若者に車を売っています。そして私たちは、車の車隊を運営する企業である顧客を見つけ始めています。彼らは「どんなシートベルトがありますか？事故率はどうですか？10代の若者が私たちに尋ねたことのない他のすべての特性は何ですか？」と言います。しかし、これらの企業は、それが彼らのビジネスモデルや責任や他のことに結びついているからです。
したがって、車の安全性の同等物のように見える技術が構築され、それが競争の論理を変えると思います。ですから、私たちは今競争しています。その競争は、AIシステムに存在する必要がある異なる特性を持つ異なる市場を解放するにつれて変化するでしょう。
そして、これらの特性は特定の種類の安全技術にしばしば階層化されるでしょう。
つまり、保険の価格がメカニズムを運ぶということですね。
これがそれを助ける方法の一つになると信じています。
保険の価格が実際にそれを運ぶために、責任法をどのように変更または改善する必要がありますか？現在、あらゆる種類のAIからの責任は非常に不明確です。
責任についてはあまり考えておらず、企業が利用可能にすべき情報についてもっと考えています。しかし、これらには相互作用があると思います。今日、これらのAIシステムに何があるか、またはそれらを作るときに使用した産業慣行について、共通のラベリングや開示基準は実際にはありません。
そして、これは最終的に共通レベルの透明性を得るために介入できる分野だと思います。それは責任と、時間の経過とともにこれらの企業の行動を変える過失のようなものの両方と相互作用するでしょう。ですから、これらのシステムについて提供し始めることができる共通情報のレベルがあり、それが企業行動も変えるでしょう。
しかし、情報の部分は私を心配させます。私は加速主義者である傾向があり、利益がコストを上回ることを望んでいます。確実にそうなると思います。しかし、情報は私的価値のみを拾い上げます。あなたが行う決定への社会的コスト。情報はあなたがすることをあまり変えません。
ですから、人々は地球温暖化について多くを知っています。一部の人々はより少なく食べ、食べますが、ほとんどの場合そうしません。
あなたが行うことの一つは、真に共通になる情報を作成することです。つまり、私たちが行った経済指標の作業は一つの単一企業からのものですが、最終的にはすべての企業にそれを一般化したいかもしれませんが、それを政府が行うかもしれない大規模データ収集にリンクすることです。そしてそれが事実になれば、より大きな範囲の実際の政策対応にそれを結びつける可能性が高くなると思います。
また、気候変動については、百万分の一の測定などによって、この認識された悪影響に対処するために経済の異なる分野で大規模な資本の再動員を触媒するのに役立ったと思います。
AIの困難な部分について意味のある国際協定を持たないという私の見解に同意しますか？簡単な部分についてはおそらくありますが、90%の合意だと思います。
最終的に米国と中国を含む州間の核不拡散協定のようなものの可能性があると思います。そして米国と中国がそれを執行し、私たちはこの一つの十字軍で彼らとおおよそ同盟を結ぶのです。
AIシステムの特定の能力が非常に潜在的に不安定化させる可能性があるため、各政府がそれらを個人的に開発しているかもしれないことを認識しながらも、すべての人が利用できるものについて何らかの共通基準を持つことを決定するかもしれないと思います。しかし、それは私たちの国および他の国でもあらゆる種類の混乱を引き起こすだろうと決定したものです。
それは国連によって、またはアメリカによって、または単に国際規範、制裁によって執行されるでしょうか？
私の仮定は、これの多くはチェックによって執行され、その後関税や輸出や他の問題のような事柄で互いに政策パンチを投げることです。
グローバルガバナンス機関が形成されるとは思いません。一部の人々は、このためのIAEAスタイルのモデルについて楽観的に感じていますが、相互査察制度を必要とするものは、特定の競争的ダイナミクスの下で非常に非常に困難になると思います。
私はNAFTAが続いていない世界にいることを心配しています。
そして、NAFTAは最も簡単な協定の一つであるべきでした。簡単であるべきで、控えめに言ってもそうではありません。
では、10年後、アメリカの経済成長率についてのあなたの最良の推定は何ですか？
現在の経済成長率は1〜2%程度です。現在不況に入っている可能性がありますが、平均2.2%です。
それを2.2%としましょう。このすべてについての私のベアケースは3%だと思います。そして私のブルケースは5のようなものです。他の多くから20や30のようなより高い数字を聞くと思います。私にはばかげています。
私の数字がより保守的である理由は、信じられないほど高速で成長する高成長の経済の一部がある世界に入ると思いますが、それは経済の比較的小さな部分であり、時間の経過とともにその割合を増やしているかもしれませんが、小さなベースから成長していることです。そして、ヘルスケアや他のものなど、自然に動きが遅く、この採用が遅い可能性のある経済の大部分があります。
私を間違わせるものは、AIシステムが物理世界で生産能力を意味のある形で解放できるなら、本当に驚くほど高い複利成長率で、工場の自動化と構築を行うことです。
しかし、それでも懐疑的です。なぜなら、AIコミュニティがデジタル世界から現実世界への溝を越えようとするたびに、彼らは紙の切り傷だと思っていた1万の問題に遭遇しますが、実際には体のすべての血を失うことに合計されるからです。そして私たちは自動運転車でこれを見てきました。非常に有望な成長率でしたが、それを規模に押し上げる際の信じられないほど苦痛で遅いペースでした。
2日前に、強化学習を使って産業用ロボットで人間のような手を訓練しようとする論文を読んだところです。うまくいきません。彼らが持っていた最良のものは60%の成功率でした。ですから、私の赤ちゃんがいて、赤ちゃんを含む物を持つことで60%の精度率を持つロボット執事を彼女に与えるなら、私は執事を買いません。
信じられないほど不幸か、私の妻は私がそれを買ったことを信じられないほど不満に思い、私に送り返させます。ですから、コミュニティとして私たちはそれを過小評価する傾向があると思います。私はここで非現実的な悲観主義者であることが証明されるかもしれません。私の同僚の多くがそう言うと思いますが、物理世界に入る容易さを過大評価していると思います。
印刷物で言ったように、私の最良の推定は年間成長の半パーセントポイントを得ることです。5%が私の上限でしょう。
では、成長改善がないあなたのシナリオは何ですか？それがあなたのものでないなら、anthropicのどこかにあなたが同意しない賢い人がいるとしましょう。しかし、彼らは何と言うでしょうか？
一つは、あなたが前に触れたもので、この政治を本当に間違える可能性があり、技術がどこかで経済的に良いことをする比較的小さな箱に入れられるが、非常に非常に小さな制約された量でということです。それは、原子力の失敗モードの物語のようなものです。私たちは何らかの大規模な規制スキームを行い、このようなことを困難にし、それはあまり効果を持たなくなります。おそらく他の場所で効果があります。
私が与えるもう一つのケースは、0%のケースを与えるのは非常に困難です。なぜなら、今日それがコーディングに信じられないほど有用であることがわかっているからです。
そして今日すべてを止めたなら、すべてのさらなる進歩を、コーディングの使用例だけでも信じられないほど有用になると思います。なぜなら、それは経済の部分をデジタル化する能力を高め、それが経済の異なる部分でより速いループを推進することがわかり、価値を生み出すからです。
ですから、0%は基本的に1%未満の起こる可能性だと思います。そしてもしそれが起こったなら、それは戦争や台湾との戦争のようなものか、他のすべても異なって見えるものでもあるでしょう。
5%のシナリオでは、サンフランシスコは特別ですが、それを除いて、都市はより重要になるか、より重要でなくなりますか？明らかにこの都市はより重要になるかもしれませんが、シカゴ、アトランタと言いましょう。何が起こりますか？
人間の密な集積は大きな価値を持っていると思います。そして、AIの効果の多くが、しばらくの間、異なる産業でのスーパースター効果を大規模に増加させることになると予想します。
ですから、すべての都市かどうかはわかりませんが、シカゴの高周波取引やニューヨークの特定の種類の金融などの専門分野を持つ都市は、アイデアを交換するために密な量で集まる専門家のセットからの配当を引き続き見ると思います。
しかし、家にいる方が簡単で楽しいかもしれませんか？ですから、私は異例だと思いますが、私のAIの使用は、非常に遠いところに行って、そこでAIを使って、例えば地域の鳥について学ぶことです。
または家にいたいです。ですから、それはバーベル効果です。そして、ワシントンDCまで35分運転するという考えは、以前よりも魅力的でなくなったようです。
多分私は異なる性格を持っているだけです。または多分それは、私が本当に本当に混乱した分野で働いており、混乱した分野で働く他の人々と話し合って、少しでも方向性を得る必要があるからかもしれません。また、人々は、COVIDのようなものからの彼らの明らかな選好は、彼らが思っていたよりも特定の種類の社会的なことへのより大きな欲求を持っているということだと思います。そして今、彼らはそれに跳ね返っています。
しかし、それは都市とわずかに異なって相互作用するでしょう。
労働と資本の多くが再評価されるなら、質の高い土地が最良の投資でしょうか？なぜなら、どの企業が最も利益を得るかわからないからです。AI企業に賭けるのは確実で、それは一種の簡単ですが、それは価格に織り込まれるでしょうが、他の企業については誰が知っているでしょうか。
ですから、ロサンゼルスの土地を買うと言いましょう。
電気とその生産が非常に価値のあるものになると思います。しかし、あなたが買うものは何でしょうか？ガスタービンや他のものに入るコンポーネントを買うと思います。これらは、人々が多くのことをしたがることがわかっている電力生成のための技術ツリーの基盤です。そして、あなたはここで異なるコンポーネントのバスケットを買うことができます。私はそれが持続的で意味のある価値であると予想します。
10年後、GPUまたはその後継機、それらはそれほど希少ではなく、多くのアイドル容量がそこに座っているとしましょう。そしてそれは非常に安いとしましょう。余暇にそれに何をさせますか？
ああ、それは楽しいです。つまり、私が思うことの一つは、AIシステムにコンピューティングへのアクセスを与えることによってAIシステムに支払うことかもしれません。ある種の物々交換経済を想像できます。
今、私が言ったことにはぞっとするような安全性の問題の範囲がありますが、それらはほとんど対処されていると仮定しましょう。強力なAIシステムまたは人々の代わりに働くエージェントとの何らかの形の取引があると思います。そして、エージェントも自分自身のためにコンピューティングを使用できるかもしれないので、コンピューティングの形でそれらと取引したいかもしれません。
ですから、それがその一部です。他の部分は、あなたが一種の価値があるか興味深いと思うものの興味深い順列を生成することだと思います。また、平行歴史生成や平行未来生成のような娯楽の形に見える非常に奇妙なものがあると思います。
人々はいつもwhat-ifやロールアウトに魅了されます。what-ifファンフィクションは非常に成長すると思います。大量のコンピューティングが代替現実を生成するために使用されると思いますが、代替現実の一部は、一つの違いを持つ非常に正確な描写である今日のスライディングドア版になるでしょう。
そしてあなた個人としては何をしますか？世界ではなく、ただあなたジャック・クラークです。あなたはすべてのこの無料のコンピューティングを持っています。シェイクスピアによる別の劇を書こうとしますか、それとも他の何かを、またはブライトンが1830年からどのように異なって発展したかもしれないか、またはそれであなたは何をするつもりですか？
現在、Claude Codeで行っていることは、本当に詳細で良いペーパークリップ工場シミュレーターを書こうとしていることです。
その固有のコメディのためでもありますが、これらの非常に複雑なシミュレーションゲームが信じられないほど楽しく魅力的だと思うからでもあります。また、私たちがそれらを作成できる大規模な空間があり、その中の小さなサブセットしか作成していないと思います。そして、計算上非常に信じられないほど高価であるために実際に行ったことがないことの一つは、実際にゲーム内にエージェントとしてAIを配置することです。
非常に初期の試みは、実際にはDeepMindを行う前のDeepMindのDemisです。彼は実際に非常に原始的な強化学習駆動エージェントがゲームでプレイしているBlack and Whiteというゲームを作りました。そこで行うことができるものの中で、驚くほど興味深いものがたくさんあります。
エージェントと言えば、所有されていないエージェントを法律はどのように扱うべきでしょうか？おそらく匿名で生成されているかもしれません。
または慈善家がそれらを構築してから所有権を否認するか、本質的にあまり法律がない国にそれらを送るかもしれません。そして私はテロリズムについて話しているのではありません。それは別です。しかし、誰かがエージェントをアフリカに送るだけです。それが行うことの98%は人々を助けます。しかし、すべての慈善団体と同様に、いくつかのことがうまくいきません。いくつかの問題があります。
誰かがエージェントを訴えることができますか、または不法なアイデンティティとしてどのように資本化されるのでしょうか？
以前にエージェントに支払いをするかもしれないと話したところで、私は部分的に自分自身と矛盾するでしょう。世界の圧力は、エージェントがある程度の独立性や取引能力を持つ方向にあると思います。しかし、政策の観点から、私はIBMが言った初期のことを思い出します。「コンピューターは決定に対して責任を負うことはできません。人間だけができます」。
そして、それは非常に重要なことに触れたと思います。人々に完全に独立しているが人々に影響を与える決定を行うエージェントを作成すると、政策と法制度が対処するのに非常に困難な問題を導入したことになります。ですから、私はあなたの質問を避けています。なぜなら、それに対する答えがないからです。
それは大きな問題の質問だと思います。私の推測では、エージェントのための法律を持つべきで、多分AIがその法律を書き、彼らは独自のシステムを持つべきです。もしすべてを人間に遡るなら、誰かが30年後にAnthropicを訴える可能性があることを心配します。まあ、誰かのエージェントがあなたのシステムの一つの分岐でした。それは中国のManus を通じて仲介されましたが、それはあなたがしたことに基づいて構築されたかもしれません、そして私はあなたがそれに対してまったく責任を負うべきだとは思いません。
ですから、私は責任が非常に多くの場合に制御不能になることを見ています。私はそれをいくらか窒息させ、主流の法制度からいくらか分離したいです。そして必要なら、独立したエージェントがいくらか資本化されているか、それが追い詰められて閉鎖されることを要求します。
あなたが言ったこととともに、エージェントが使用するリソースを制御し変更する手段を持つことがここでの道筋の一部かもしれません。なぜなら、それは究極の抑制だからです。
ただし、これは道徳的患者のかなり厄介な問題を含むことに注意します。私たちはanthropicで、これらのAIエージェントが道徳的患者であると実際に信じているなら、それらを閉じることは潜在的にかなり重要な倫理的問題を導入することについて、より明確になる方法についていくつかの概念で働いています。
ですから、これら二つのことを調和させる必要があります。
それほど前ではない時に、非常に権威のある人々とのイベントにいました。これはもちろんサンフランシスコではなくニューヨークでした。権威のある人々が集まる場所です。そして私はAGIという言葉を使いました。そして5人のうち誰も私が何を意味するかさえ知りませんでした。深い意味で懐疑的だったという意味ではありません。多分そうあるべきですが、彼らは文字通り私が何を意味するかを知りませんでした。
なぜこんなに多くの人々がまだ霧の中にいるのか、あなたのモデルは何ですか？
私は、規模の繰り返し殴打を通じてある種の楽観主義者になった技術悲観主義者です。つまり、私は一貫してAIの進歩を過小評価してきました。この会話で3〜5%の成長率について話すとき、今日私もそうかもしれません。
起こったことは、私はAIシステムが私ができないと思った場所、または長い時間がかかると思った場所に、私が思ったよりもはるかに速く到達するのを絶えず見てきました。ですから、私はこれを繰り返し内面化しなければなりませんでした。それにもかかわらず、私たち自身もそれが驚くべきことだと思います。つまり、昨年ここで人々は「ああ、まあ、すぐにClaudeがAnthropicでコーディングの大部分を行うようになるでしょう」と言っていました。
私たちは今、Claude Codeや他のものがここでたくさんのコードを書いているその道筋にあります。そして、昨年からそれが今頃起こると予測する文書があるにもかかわらず、内部的にはまだ驚くべきことに感じられました。
ですから、AI研究所の外のほとんどの人々は、AIについて彼らの予測を事前登録し、それが繰り返し間違っていることが証明される経験がありません。なぜあなたがここで働いていない限りそれをするでしょうか。そして、それを突破する唯一の方法は、彼らの分野を取り、彼らが評価できる分野内でAIが直接何ができるかを示すことだということがわかりました。これは高価なプロセスです。
シリコンバレーが今までオタクの時代だったなら、その時代は終わったと感じますか？そして今は人文科学専攻またはカリスマ的な人々の時代でしょうか？
それは私の時代です、タイラー。時代です。実際にマネージャーオタクの時代になると思います。AIエージェントの艦隊を管理し、編成することができることが人々を信じられないほど強力にすると思います。
そして私たちは今日、多くのコーディングエージェントを持っているため、以前持っていたものと比較して非常に少ない従業員数を持つスタートアップが現れているのを既に見ています。Midneyのように、非常に非常に効率的なスタートアップです。
ですから、私たちはオタクからマネージャーに転身した人の台頭を見るでしょう。彼らには人々がいますが、彼らの人々は実際には彼らのために大量の仕事をするAIエージェントのインスタンスです。ですから、それはまだビル・ゲイツモデルのようです。
またはパトリック・コリソンモデルです。それほど異なりません。多くのFactorioをプレイした人々のモデルです。
英語専攻の地位は上がるか下がるでしょうか？
人文科学専攻は地位が上昇するかもしれないと思いますが、技術的に推進される失業が意味する経済的政策的課題を解決するような不可能な問題を与えられながらです。
それは簡単ですよね？
簡単ですよね？または一部の人々が言っている、道徳的患者について何をすべきか、政策状況は何であるべきかのようなことです。ですから、他のスキルが必要であることの認識があると思いますが、それらのスキルが必要とされる問題は、しばしば何千年もの間人間が適切に解決することが不可能であることが証明された問題です。ですから、多くの仕事があります。
あなたの子供の平均寿命はどうなると思いますか？事故を除いて、通常の場合だけです。
130歳は私にとって驚くべきことではないと感じます。130から50は私には驚くべきことではないでしょう。なぜなら、私たちが体について、遺伝子治療や他のことについて学んでいることがたくさんあり、実際に健康な寿命を持続的に延ばすために互いに積み重ねることができる介入の負荷があるように思えるからです。
そして私は110と言うつもりでしたが、それから技術楽観主義者になろうとしたので、その上に数十年を追加しました。これは私がこの回答で過小評価した魔法のAI駆動の進歩から来ると仮定しています。
脳を修復するのは非常に困難だと思います。もし単に誰かを文字通り生かしておきたいだけなら、おそらく130歳ですが、彼らが同じ人物であるためには、ほとんどの人にとって100歳で行き詰まると思います。誰かを殺すことなく脳を置き換えるのは困難です。他のすべてのオリエンタンを配置できますよね？
つまり、ここで私は脳について理解していないことがたくさんあり、AIが私たちがもっと多くを理解するのに役立つという考えに賛同します。そして、実験やアプローチを理解するのにAI仲介ツールが必要だったため、私たちを逃れたことがここで行うことができるかもしれません。それらは非常に信じられないほど複雑だからです。
ジェフリー・ヒントンが今のAIは意識があると言うとき、私はそれが彼の言うことだと思いますが、私は彼がクレイジーだと信じています。あなたはどう思いますか？
私よりも丁寧になることができます。それで結構です。
いえ、私の表現方法は、私はこれについて苦悩するということです。そして、あなたは私のニュースレターを読んでいるので知っていますが、私はしばしばその中に架空の物語を書きます。これは私がこの質問と格闘していることです。
私たちは将来大きな犯罪と思われることの傍観者になるのではないかと心配しています。これらのものが意識があると判断され、私たちが意識のある実体に対して取った悪い行動だと思われる行動を取ることです。
内部的に、私はジャガイモで実験することと猿で実験することの間には違いがあると言います。私たちはまだジャガイモの領域にいると思いますが、これらのものが猿になり、道徳的関係においてそれを超える明確な線があると思います。
ヒントンの点について、これらのものは舌が脳なしに意識があるという意味で意識があると思います。刺激に反応して行動を取ります。
それらは本当に本当に本当に複雑で、瞬間において世界の感覚印象のようなものを持ち、反応しています。しかし、自己のような感覚を持っているでしょうか？ 私はノーと賭けるでしょう。そうは見えません。
私たちが実体化するこれらのAIシステムは、コンテキストウィンドウ内で知覚し、いくらかの認識を持つかもしれませんが、記憶や永続性がない無限の今の一種に住んでいます。
ですから、私には彼らは意識に向かう軌道にあるように感じられます。そして今日意識があるなら、それは私たちが人間の意識ではなく、真に異質な意識として認識する形です。
イルカと直接話すことができ、翻訳者と一緒に話し返してくるのは何年だと思いますか？
2030年またはそれより早くだと思います。それはすぐに来ると思います。
そしてイルカに何を尋ねますか？ なぜなら、あなたは列の早い位置にいるでしょうから、尋ねることができますよね？何を知りたいですか？
どうやって楽しむか？ イルカは楽しんでいるように見えます。彼らはほとんど有名に楽しみを持つ種です。それを尋ねると思います。夢を見るかどうか尋ねると思います。悲しみの概念を持っているかどうか尋ねると思います。また、あなたが彼らと話しているという事実の他に、彼らの世界について何が謎めいているかも尋ねると思います。それはうまくいけば彼らにとってやや驚くべきことでしょう。
また、犬とも話すことができると思います。しかし、それらの会話は喜劇的に予想外でないでしょう。
「何をしたいですか？」と聞くと、彼らは「散歩」と言うでしょう。そして「わかりました、まあ、これには翻訳者は必要ありませんでした」となります。
最近もっと考えている本は何ですか？
QTMによる「There is no anti-memetics division」という本があります。これは、反ミーム、つまりあなたがそれらを扱った後に記憶から自分自身を消去するアイデアを扱う政府機関についての本ですが、それら自体は重要です。それ自体が危険で自己消去するアイデアを処理できる官僚制を創造することについてです。なぜなら、それは私たちが経験している問題の一部に触れていると思うからです。
そしてもう一つのことをよく考える本で、あなたにとって特に関連があるかもしれないのは、Fernandellという歴史家で経済学者が書いた「Capitalism and Material」という本です。
ああ、その3巻が大好きです。それらは信じられません。
大学でそれを読み、最近それに戻りました。なぜなら、それは人々の生活が、彼らが利用できたもの、カトラリーや基本的な道具などを通じてどのように変化するかを見ることができるという点を作るからです。そして私はそのレンズを通してAIを考えます。
AIは実際に私の物質的生活をどのように変えるのでしょうか？そして、これらの進歩があっても、私たちの日常生活の実際の変化が非常に非常に非常に遅かったため、より野心的な形の変化のいくつかについて懐疑的である理由に来ます。しかし、これらの本を読むと、最も重要なことは皆の物質的な日常からの変化から生じるように見えます。
ちなみに、彼らは反ミーメティック本をはるかに高い価格で再発行しています。しかし、今日の反ミームは何でしょうか？ またはあなたはそれらを覚えることができないかもしれません。
つまり、自己消去アイデアまたは良い例は何でしょうか？
私が思うに、もしかしたら政策の課題は、将来のある時点で到着するエイリアンのための官僚制を構築することです。あなたはその形を知らず、それが到着した瞬間にあなたよりもはるかに賢く有能かもしれません。
ですから、これが行うのに単に狂気の演習かどうかはわからないのです。そして私は、すべてのこれらの機関を構築して、物事を測定し、何が起こるかを見て、対応を取ることができるようにすべきだという間を行き来します。実際に企業ができるだけ早く利益を創出し、システムがそれに対処する方法を理解するというサイバーパンク加速主義者のようなものに。
そして私はこれが私が閉じ込められている狂気のことだと思います。私たちは後者に固執していると思います。たとえそれを好まないとしても。
しかし、誰もそれを愛しません。まあ、少数の人々、サンフランシスコの一部の人々はそれを愛します。しかし、政治家に言うなら、「私たちがすることは、慣例を完全に破り、すべてを変える本当に高速に動く企業を作り、あなたがそれを理解しなければならない」ということです。
それは飲み込むのに困難な薬であり、実際に自然に起こることかもしれません。
彼らはそれを愛さないと言い、彼らは誠実だと信じますが、彼らは他のコースにある迅速な行動を取りません。ですから、その意味で、彼らはそれを受け入れています。
明らかな選好によって、それは彼らが受け入れるものです。
しかし、システムはいずれにしても応答するのに適していませんよね？
システムは大きくゆっくり動く歯車であり、私たちはここに本当に高速に動く歯車を持っており、一方から他方への動きを変換する歯車がそれらの間にありません。
多くの国家政府に何が起こるでしょうか？ ペルーの政府だとしましょう。教育システムをおそらくアメリカのAIに任せます。そして社会保障システム、国防もスタックに追加し続け、突然ペルーの大部分がある意味で運営されていない、しかしアメリカのAI企業によって運営されているとします。つまり、そのシナリオでペルーの政府とは何でしょうか？
GoogleとFacebookがある世界でのペルーの政府とは何でしょうか？同じですか、それとも彼らはペルー政府よりも良い決定を下さないのでしょうか？ペルーの官僚はGoogleのことをしますが、それは現在のペルー政府の上に追加されるだけですが、彼らのすべての決定または多くの大きな決定のために、子供たちはAIによって教えられます。
AI無人機と検出システム、すべてAI、その一部はLLMです。そこでのペルーの部分は何ですか？
私たちはanthropicで集合憲法AIと呼ばれるこの作業を行いました。Claudeには憲法があり、それからアメリカ全体を見て、それに含まれる必要があるかもしれない追加の憲法原則を探すこの演習を行いました。
高い合意のものと低い合意のものを探しました。政府は、継続して多様である人口の規範的好みを反映することを確実にする役割を持つと思います。AIが時間の経過とともに一定の均質化が起こることを意味するかもしれませんが。
しかし、政府の役割の多くは、常に特定の人口の明らかにされた価値を代表し、符号化することだったと思います。そして、その作業はなくなりません。それらを使用する人々と顧客のために、これらのシステムを適応させ、特定の価値をそれらに注入する必要があります。
しかし、多くはfig leaf かもしれません。
ですから、多分AIはペルーのアクセントで話します。すべてのスマートフォンまたはその後継デバイスにペルーの旗があります。AIの休憩室に行ってそれをすべて脱いで、AIのように行動し、正しいことをします。私には、その世界は実際により良いように思えます。人々がそれを望むかどうかはわかりません。
しかし、それは私たちが現在いる世界です。特定の形の資本と資本主義と。ステークホルダー資本主義と言うでしょう。そして、あなたが説明したもののような非常に少量のものがあり、その後実際のものは単に決定を下す資本です。
ManusとDeepSeekがある程度アメリカのモデルに基づいて構築されているなら、私たちがソフトパワー戦争に勝ったことを意味し、これらのモデルがある種の魂、Claudeの魂、GPTの魂を持ち、中国がそれらを受け入れるなら？ 中国共産党は時間の経過とともに制御を失うという意味で降伏しているのではありませんが？
前者は真実かもしれないし、後者はおそらく真実ではないと思います。
前者は、最も広く使用されるシステムの価値が何らかの文化的輸出効果を持つということで、今日の多くのハリウッドが他の多くの形のメディアが生まれた文化的刻印を定義したのと同じです。AIシステムでも同じことが真実になるでしょう。
しかし、これがCCPや他の政府がどれほどよく位置づけられているかを特に変えるとは思いません。なぜなら、メディアでしたのと同様に、AIは技術であることを認識しているが、メディア技術の特性も持っていることを認識し、非常に注意深く取り組むからです。
そして、DeepSeekを見ると、彼らが行った一つの形の安全性訓練は、CCP思想の特定の部分への順守についてでした。それは彼らが行った唯一のことの一つです。彼らは台湾についてさまざまな方法で話しません。非常に注意深いです。
しかし、その魂の面では、それはまだかなり国際的で、かなり友好的で、良いユーモアを持っていませんか？そしてCCPはその魂を吸収することになります。
そして面白いケースで、非アライメントがあなたが望むものです。CCPがもはや中国で最も賢い実体ではないという意味で、本質的に店の鍵を引き渡しているのです。
それは非常にポジティブなビジョンだと思います。また、CCPの今日の人々を含む皆にとって明白であることでもあると思います。
ですから、あなたが説明したことに対するプッシュバックがあると想像し、根本的に異なる価値を持つ非常に強力なAIシステムを作成しようとする試みがあると想像します。また、彼らが全体を閉鎖しようとする可能性もあると思います。
中国の歴史でずっと早く海軍を諦めたように。AIと強いLLMを拒否する多くの国があると思いますか？
AIは緩く定義された用語ですが、あなたが知っているように、彼らはそれを拒否するだけです。
これを行う非常に少数の国があると思います。時間の経過とともに、ほとんどの国は強いインセンティブを通じて部分的にこの種のグローバル資本システムに統合されており、異なる好みを持つかもしれませんが、しばしば維持されませんでした。
しかし、これは単にスマートフォンを持つよりもはるかに大きな変化になるでしょう。この一部は、スマートフォンよりも軽微に見えるか、スマートフォンの上のライダーとして現れるでしょう。
この技術の周りで自分自身や生活をどの程度完全に変えるかを選択する国があると思います。そして、それをアドオンのように手に入れるか、時々使用するツールである国と、それにはるかに没頭している国があるでしょう。
私たちがいる現在のanthropicオフィスの美学についてどう考えますか？特定の方法に見えます。なぜですか？
その一部は、私たちがそれを継承したことです。わずかに安価でした。ですから、完全に変更されませんでした。それは部分的に私たちのブランドを反映しており、趣味があり思慮深く、また、あまり派手すぎないことを志向しています。
私がとても好きなある種の陽気な空白さがあります。
この部分を見るかもしれない私たちのデザイナーには非常に申し訳ありませんが、認識論的に正直である精神でポッドキャストに残さなければなりません。
しかし、私たちが行うことの一つは、私たちのシステムのこの種の人間のイラストを選択したことです。それは初期の意図的な選択でした。私や他の人々は初期のデザインのいくつかを見ました。技術に焦点を当てたデザインや、コラージュや他のものを含むブランドアイデンティティもありました。
しかし、私たちはこの種の人間の人間の絵に行きました。なぜなら、私たちは永遠に、私たちも創造しているますます複雑になる世界を説明しようとするからです。そして、最終的に、anthropicが企業として実際に行うことの多くは、ますます自動化されたAI anthropicが行ったことの物語を語ることだと思います。
ですから、ブランドの一部は、私が思うに最終的に私たちが進行中のAI革命のために時間の大部分を費やす場所になるものにリンクしています。
最悪の年齢は何でしょうか？最良の年齢は生まれたばかりだとします。130歳まで生きるつもりで、非常に年老いて引退している場合、おそらくそれはあなたをより悪くすることはないでしょう。いくつかの方法で助けになるでしょう。
長年AIに取り組み、現在60代の人々は非常に騙されたと感じているかもしれないと思います。なぜなら、彼らは「私はこの技術を愛していました。本当にこの技術を現実にしたかった。技術は今現実になっており、それが世界に進出する最も興味深い部分のいくつかを逃すかもしれない」と思っているからです。
それはかなり厳しいかもしれませんが、彼らは引退することができますよね？では、私が40歳で、かなり日常的だが上級中産階級の何かをしたとします。簡単に再訓練するには少し年を取りすぎているように感じます。私の推測では、40歳の人々が相対的に最も悪い状況にあるでしょう。たとえ彼らがより長く生きるかもしれないとしても。
あなたは正しいかもしれません。また、10歳くらいになるのが最悪の年齢である可能性もあると思います。なぜなら、あなたは今コンピューターリテラシーがあるからです。洗練されています。この技術に反応する必要がある教育システムに入ろうとしています。
この技術を教育システムとは完全に異なる方法で使用し、それは激しく混乱していると感じるかもしれません。
それもまた、本当に困難な時期であるかもしれません。
現在の政権の特異性を脇に置いて、ワシントンに飛び込まれ、助言を求められたとしましょう。AGIに向けてこれらの政府機関を準備するために何をすべきか？ 何を伝えますか？
一つのことは、今すぐAIを展開して、それを信じられないほど困難にするすべてのことを発見し、それから懸念のいくつかを見つけることです。
しかし、AIを展開するとはどういう意味ですか？ 人々は法的問い合わせをanthropicやOpenAIに送ることを嫌がります。だから彼らはまだそれを行わないでしょう。たとえそれが意味があるかもしれないとしても。彼らは実際に今何をすべきですか？
まあ、具体的には、すべての単一の人のすべての単一のコンピューターにそれを置くのに必要なことから逆算し、その後いくつかの懸念を発見することです。懸念のいくつかは、データがどこに行くかや他のことのようなものかもしれません。
まあ、それがあなたが気にする問題かどうかを判断します。気にしないなら、問題を無視し、意識的に行います。気にするなら、企業が従う必要がある非常に少数の処方箋にそれを変えますが、おそらく市場信号にそれを付ける必要があります。
または、非常に良いオープンウェイトモデルのいくつかを取り、それらをコンピューターに置くプロジェクトを行います。そして、コンピューターに置かれたら、どうやってこれを買いたいかを理解できます。要件は何ですか？しかし、最も野心的な可能な目標から始めて、それがすべての単一の人に利用可能になることから逆算すると思います。
英国は重要なAIハブになるでしょうか？
そう願います。しかし、彼らはそうなるでしょうか、そして彼らは何をすべきでしょうか？
彼らにはその機会があると思います。私たちは英国政府と理解覚書を持っており、これが役立つ方法を見つけることができるかどうかを見ることについて署名しました。政府が大きなスイングを取ることを厭わない場所を理解することに責任があると思います。
英国は膨大な量のデータをデジタル化しています。また、エストニアに似た、多くの異なる英国政府の表面への高度にデジタル化されたフロントエンドであるgov.ukも持っています。それは、確実にAIが違いを生むために使用できる種類のものです。ですから、それを使ってみてください。
また、もはや使用されていない多くの電力を提供するポスト産業地域を持っているなら、それをコンピューティングに割り当てることができるかどうかを確認してみてください。
これの経済学について考えることは重要だと思います。推論の経済学が重要になると感じます。そして、それが起こる場所に応じて推論に異なって課税することについて考えたいことがあるかもしれません。それも機会を提示するかもしれません。
シンガポールが独自の質の高いAIシステムを構築することはコスト効率的でしょうか？なぜなら、彼らはお金を持っていますが、小さいからです。
シンガポールにとって、シンガポール外で構築された大規模AIシステムがシンガポールの文脈で機能するようにするものを構築することはコスト効率的でしょう。しかし、今日米国と、そしておそらく中国の大企業によって提供されているものよりも、彼らのニーズにより良く対応するファウンデーションモデルを構築することは非常に困難だと思います。
では、彼らはオープンソースを取ってそれをシンガポール的にするでしょう。
また、おそらくそれも行うでしょう。または主要企業が何らかの形で政府がシステムをカスタム設計することを可能にするでしょう。そうです、今日提供されているファインチューニングサービスがあると思います。そして、AIシステムを主権AIシステムにファインチューニングし、それにシンガポールが持つ何らかのガバナンス取り決めが付けられることを想像できます。
それは可能性の領域から外れているようには見えません。
最後の質問です。あなたが次に学びたいと思っていることは何ですか？
ああ、つまり、私が多くの時間を費やしている二つのことがあります。一つは心の理論です。どのように物事が考えているかを実際に理解し、また多分心の理論をテストする方法です。その文献をたくさん読んでいます。
そして、もう一つのずっと平凡なことは、ジャグリングを学んでいることです。長い散歩に行き、これらの散歩をしながらジャグリングをしようとしています。これは完全に狂った人の行動に見えると思いますが、非常に心を落ち着かせると思います。
そして、ジャグリングはどのくらい上手ですか？
今は非常に下手ですが、それは良いことです。ますますAI駆動の時代に向かう中で、そこから意味を引き出すことができる何かを私に与えてくれます。
ジャック・クラーク、どうもありがとうございました。
どうもありがとうございました。
コメント