17,500 文字
サム・アルトマンが自分でテックチェックをしていますね。どうしてそうなったんでしょう。まあ、ハンドラーがいないので、時には自分でやらなければならないこともあります。まず、この1年間に多くの会話が始まったであろうところから質問させてください。自分の会社からクビになった時、どんな気持ちでしたか？
あの現実離れした霧のような感覚でした。混乱が最初の支配的な感情でした。それから全ての感情を経験しましたが、混乱が最初でした。その後、フラストレーション、怒り、悲しみ、感謝…全ての感情を味わいました。人間の感情の全範囲を経験しました。その幅広さは印象的でした。
その感情をあの48時間の間、どう処理しましたか？
正直言って、戦術的にやるべきことがあまりにも多くて、感情を処理する時間はほとんどありませんでした。だからあの48時間の間はほとんど感情に対処する余裕がなく、その後、事態が落ち着いて仕事に戻らなければならない時に大変でした。
スティーブ・ジョブズがアップルを追われた後、何年も経ってから「それは苦い薬だったが、患者にはそれが必要だったのだろう」と言ったことを覚えています。あなたの場合もそのように感じますか、それともこの状況はあまりにも違いますか？
まだ最近、深く振り返っていません。スティーブ・ジョブズのケースとはあらゆる面で非常に異なっていたと思います。また、とても短い期間でした。全てが5日間で完全に終わりました。非常に奇妙な悪夢のようで、その後は仕事に戻って立て直すという感じでした。
5日間と10年間では少し学習曲線が違いますよね。教訓として何を学びましたか？
実際には、たぶん間違っていて、4日だったかもしれません。次回はプロセス中とその後の伝達方法について、直接的で明確であることの必要性など、いくつかのことを違うやり方でするでしょう。オープンAI上に長い間浮かんでいた疑惑の雲があり、それをもっとうまく処理できたと思います。
優秀な人たちと働いていることは知っていましたが、危機的状況や不確実性のあるストレスの多い状況下で、チームがいかに優れているかを見ることは、私にとって最も誇らしい瞬間の一つでした。エグゼクティブチームが私なしでしばらく運営しているのを見て、彼らの誰もが完璧に会社を運営できると知り、大きな誇りを感じました。そういった人材を選んだこと、彼らに何かを教えたこと、そして会社が非常に強い状態にあったことについて誇りを感じました。
そう聞いて驚きました。組織心理学者として、社内から寄せられた忠誠心とサポートの大きさは驚異的でした。あなたの最も誇らしい瞬間は、単に多くの従業員があなたの後ろに立っていたということだと思っていました。
それは嬉しかったですが、それが心に残っているわけではありません。チームを誇りに思ったことは覚えていますが、その理由ではありません。
それもまたジョブズに似ていますね。彼の最も誇らしい業績は何かと聞かれた時、Macでも、iPodでも、iPadでもなく、それらの製品を作ったチームだと答えました。
私は研究をしているわけでもなく、製品を作っているわけでもありません。いくつかの決断はしますが、ほとんどはしていません。私が作れるのは会社です。だから確かに、それが私が創作者としての誇りを持っているものです。
実際に何をしているのですか？どのように時間を使っていますか？
良い質問です。なぜか早朝はそれほど混乱していないのですが、午後になると全てが崩れていきます。様々なことが起こり、対応モードや問題解決モードになります。だから本当に重要なことは早朝にやるようにしています。
時間の大部分は研究やコンピュート、私たちが作る製品について考えることに費やし、他のことには少なくしています。ただ、それがどのように見えるかは、その時々で非常に異なります。
この数年間であなたが世界をひっくり返すのを見てきて、非常に興味深いのは、人間に何が起こるのかということです。私が追跡している最も興味深い研究によれば、人間は私が望んでいたよりもはるかに速く負けています。すでに創造性、共感、判断力、説得力において遅れをとっています。それぞれの分野でのデータポイントにあなたの反応を聞かせていただきたいのですが、まず全体的なコメントを。AIが多くの人間の能力を超えるスピードに驚いていますか？
私たちの最新モデルは、ほぼあらゆる面で私よりも賢く感じます。それでも実際には私の生活にそれほど影響はありません。依然として以前と同じようなことを気にしています。少し、あるいは多分かなり効率的に働けるようになりました。社会がこの新しい技術を消化するにつれて、社会はより速く動くでしょう。科学の進歩も速くなると思います。
私たちはこの素晴らしい新しい人工物、ツール、何と呼びたいにせよ、それと共存していますが、あなたの日常生活は数年前とどれほど違いますか？
実はそれほど違わないんです。長期的にはAIが全てを変えると信じていますが、10年前の私の素朴な考えでは、現在の最も強力なモデルのような強力なモデルが登場した日に、全てが変わると思っていました。今思えば、それは素朴な見方だったと思います。
これは標準的な「短期的な変化を過大評価し、長期的な変化を過小評価する」という考え方ですね。あなたはその状況を生きているわけです。最終的には経済全体が変わり、私たちは新しいことをするでしょう。それについて心配はありません。新しい技術に直面するたびに、仕事がなくなると思いますが、いつも新しいことを見つけます。希望としては、より良いことを見つけるでしょう。
私が思うに、これはテクノロジーの進歩という長い指数関数的な曲線の次のステップに過ぎません。ある意味で、AIの革命はインターネットとは逆のように見えます。当時、インターネットが世界を変えると信じていない会社を経営していた人々は、必要な変化をしなかったため、彼らの会社は死にました。
しかし、信じた人々にとっては、行動の意味は明確でした。「機能するウェブサイトが必要だ」「製品をそのウェブサイトで販売する方法を知る必要がある」という具合に。デジタル革命に適応することはロケット科学ではありませんでした。
今、多くの創業者やCEOから聞いているのは逆のことで、全員がAIがゲームチェンジャーだと信じていますが、それがリーダーシップや仕事、組織、製品やサービスにとって何を意味するのか、誰も手がかりがありません。その意味で、これはインターネット革命よりも産業革命に近いです。この変化がどのように展開するかについては大きな「既知の未知」がありますが、どのように展開するかについても多くのことが言えると思います。
それらの事を聞かせてください。私がいくつかの仮説を持っています。一つは、私たちは人間における能力を評価するのをやめて、俊敏性を評価し始めるだろうということです。まだ価値ある種類の能力はあるでしょうが、それは同じ程度の純粋な知的能力ではないでしょう。
新しく重要になる能力は何だと思いますか？
この問いに対する少し単純な答えは、答えを見つけることよりも、どんな質問をするかを考えることがより重要になるということでしょう。これは私が最近数年間で見てきたことと一致しています。以前は脳内にどれだけの知識を蓄積していたかが重視され、事実のコレクターであることが賢くて尊敬されることでした。今では、事実のコレクターよりもドットをつなげる人の方が価値があると思います。パターンを認識して統合できれば、優位性があります。
バトルスター・ギャラクティカというテレビ番組を見たことがありますか？番組では「これは以前にも起こった、これは再び起こるだろう」と繰り返し言っています。AIの革命について話すとき、いくつかの超重要な質的な面で違うように感じますが、同時に以前の技術的なパニックを思い出させます。
子供の頃、インターネット上で新しいものが登場しました。私はそれをクールだと思い、他の人もクールだと思いました。それは明らかに以前のものよりもはるかに優れていました。私はそれが直接起こるには若すぎましたが、上級生たちが教えてくれました。先生たちはGoogleを禁止し始めました。「The Google」と呼びましたか？
もし全ての事実を検索できるなら、歴史の授業に行って事実を暗記する目的は何なのか、と考えられました。子供たちの教え方や、責任ある社会の一員になるということの意味について、非常に重要なものを失うと思われました。
もし、図書館に行って本を探す代わりに、すぐに事実を調べられるなら、それは不公平で、間違っていると感じました。私たちは何かを失うと思われました。しかし、そうはなりませんでした。
これらすべてのことで起こるのは、より良いツールを手に入れ、期待が高まり、同時に人々の能力も向上し、より難しく、より影響力のある、より興味深いことをするようになります。AIもそのようになると予想しています。
数年前に誰かに「2024年に01のような強力なシステムがあるだろうか」と尋ねたら、多くの人は「絶対にない」と答えたでしょう。しかし、もし神託があなたは間違っていて、それは実現するだろうと言ったら、あなたの日常生活はどれほど変わるだろうか、私たちは存在的リスクに直面するだろうかと尋ねたら、ほとんどの人は「もし間違っていて実現するなら、私たちはかなり大変なことになる」と答えたでしょう。しかし、この素晴らしいことが起こり、私たちはここにいます。
イノベーションの分野では、Aiden Toner-Rogersの新しい論文があり、研究開発の科学者にとって良いニュースを示しています。AIの支援を受けると、特許出願が39%増加し、製品イノベーションが17%増加します。その多くは、革新的なブレークスルーや新規な化学構造の発見など、ラディカルなブレークスルーです。主な利益は、トップの科学者にとってのものであり、下位の科学者にはほとんど利益がありません。トップ科学者の生産性はほぼ倍増し、それはAIがアイデア生成タスクの多くを自動化し、科学者がアイデア評価に集中できるようにするためです。優れた科学者は有望なアイデアを認識するのが本当に上手で、劣った科学者は偽陽性に弱いです。
これは全て良いニュースですね。科学的創造性の驚異的な解放です。しかし、コストもあります。研究では、科学者の82%が仕事に対する満足度が下がっています。創造的な仕事が少なくなり、スキルが十分に活用されていないと感じています。人間はこの場合、創造者や発明者ではなく、単なる判断者に縮小されているようです。
このエビデンスについてどう考えますか？それについてどうすべきでしょうか？
ここに矛盾する2つの考えがあります。オープンAIで個人的に最も満足したことの一つは、新しい推論モデルをリリースし、伝説的な科学者、数学者、コーダーなどに渡して、彼らの考えを聞くことです。彼らの仕事がどのように変わったかについての話を聞くことは素晴らしいことです。
私自身、問題について創造的に推論し、誰も以前に解決したことのない答えを見つけることが最大の職業的喜びをもたらしてきました。AIがそれを引き継ぐということを考えると、もしそのようになるなら、確かに悲しみを感じます。
現実に起こると予想されるのは、難しい問題に取り組む新しい方法ができるということです。最も難しい問題を解決する積極的な参加者であることが喜びをもたらします。そして、私たちを異なる方法で強化する新しいツールでそれを行うなら、私たちは適応すると思いますが、不確かです。
あなたの仕事において、例えばChatGPTを使って直面する問題を解決するとき、それはどのように見えるのですか？
正直なところ、私は退屈な方法でそれを使っています。新しい科学的アイデアを思いつくのに使っているわけではなく、メールの処理やドキュメントの要約など、非常に退屈なことに使っています。
それでは、私たちがまだ創造的なプロセスに参加できるように適応することを期待しているということですね。
そうです、期待しています。それは人間の精神に深く根ざしていて、何が起こっても続くと思いますが、進化していかなければならず、多少異なるものになるでしょう。
私が人間が長く優位を維持すると期待していた別の領域は共感です。私が読んだ最も好きな実験は、基本的にテキスト会話をしていて、それが人間かChatGPTかわからない場合、その後「どれだけ見てもらえたと感じたか」「どれだけ聞いてもらえたと感じたか」「どれだけの共感とサポートを得たか」と尋ねられると、それがAIだと知らされない限り、人間よりもAIからより多くの共感とサポートを感じるというものです。
心理学者としてこの証拠を見ると、いくつかの反応があります。一つは、AIが共感にそれほど優れているわけではなく、人間のデフォルトがかなり悪いということです。誰かが問題を話すと、すぐに自分自身の問題に関連付けてしまい、相手に寄り添うことができません。だから、それは単に人間の共感がベースラインとして貧弱であることの告発かもしれません。
また、この「AIからだとわかるとそれを望まない」という状態がどれだけ続くのか疑問です。私たちがこのテクノロジーをより人間化し擬人化し始めると。
まず、AIの出力が実際に好まれるが、AIだと知らされるとそれを好まなくなるという一般的な概念について話しましょう。これは何度も何度も目にします。AIアートを本当に嫌っていると主張する人々の間でさえ、AIかどうかを知らされるまでは、彼らが最も好きなアート作品として人間よりもAIの作品を選んでいるという最近の研究を見ました。
他にも多くの例を挙げることができますが、AIは多くの面で私たちに追いついていて、それでも私たちは人間を気にするようにプログラムされていて、AIを気にしないというこの傾向があります。私はこれが非常に良い兆候だと思います。
私たちはここで全て推測していますので、私はこれら全てについて非常に不確かであると言いますが、今日よりもAIともっと話すようになるでしょうが、それでも人間と話しているときのことを本当に気にするでしょう。これは私たちの生物学や進化の歴史、社会的機能に非常に深く根ざしているものです。
なぜ私たちがまだ人間とのつながりを望むと思いますか？それは、マトリックスにつながったロバート・ノジックの議論のようなもので、人々が模擬された快楽よりも実際の経験を好むというものでしょうか？私たちは欠陥があり、混乱していても、本物の人間とのつながりを求めているのでしょうか？もちろん、AIもそれをシミュレートすることを学ぶでしょう。
完璧に共感的なものと常に話すことで、あなたはドラマや緊張、何かを逃すでしょう。私たちは他の人が何を考え、感じ、どのように私たちを見ているかを気にするようにプログラムされています。そしてそれはAIには移行しないと思います。
AIとの会話は助けになり、あなたが検証され、ビデオゲームをプレイするような一種の良いエンターテイメントですが、グループや社会の一部であるという社会的なニーズを満たすとは思いません。もちろん、これについて間違っているかもしれません。AIが私たちの心理学を完璧にハックし、それが実現するなら、悲しいことになります。
そうですね、私もそう思います。あなたの言う通り、AIは帰属感の代わりになるのは難しいです。また、AIから地位を得るのも難しいです。重要だと感じたり、クールだと感じたり、尊敬されていると感じたりするためには、他の人間の目や耳に頼っています。
それが私が言おうとしていたことです。近い将来、AIが私たちよりも信じられないほど有能になり、素晴らしいことをするような世界を想像できます。その世界と、その中の人々を想像するとき、それらの人々はまだ他の人々のことをかなり気にしていると想像します。相対的な地位や、他の人々に対するこれらの愚かなゲームについてまだかなり考えていますが、多くの人々はAIが何をしているか、何ができるかと自分を比較することはないと思います。
私が非常に興味を持っていることの一つは、情報がますます争われ、事実を人々に納得させることがますます難しくなる世界においてです。例えば、陰謀論信仰に関するデータでこれを見ています。人々は自分を特別で重要だと感じさせるから、また他の人々が持っていない知識にアクセスできるという理由で陰謀論を信じています。もちろん、それが唯一の理由ではありませんが、主要な理由の一つです。
そのため、他の人間がそれらの信念を説得することは非常に難しくなります。なぜなら、彼らは自分が間違っていることを認めることになるからです。最近の論文に魅了されました。これはCastello、PennycookとRandによるもので、AIチャットボットとの単一の会話でさえ、数ヶ月後でも人々の陰謀論の多くを信じないようにさせることができることを示しています。
それは基本的に、あなたが信じている誤った主張をターゲットにし、それを反証することから始めます。それが機能するのは、部分的にはあなたの信念に結びついている特定の理由に対応しているからだと思います。また、部分的には、機械の前で馬鹿に見えることを人々は気にしないからです。
人々の約20%が単一の交換の後に不条理な陰謀論を手放すだけでなく、数ヶ月後にはAIがターゲットにさえしなかった他の信念も手放すのです。その扉が開くことは非常に興奮させるものだと思います。明らかに、これは悪にも良にも使用できますが、これらのツールで人々の誤解を正すこの新たな機会についてのあなたの考えを聞きたいです。
世界には、このようにして何らかの方法で私たちの心を広げることができる人々がいます。それは非常に強力ですが、そのような人々はそれほど多くありません。彼らと話す機会を得ることは稀な特権です。
しかし、世界最高のディナーパーティーの客のようなAIを作ることができれば、それは非常に興味深く、全てを知っていて、あなたに信じられないほど興味を持ち、あなたの考えをどのように新しい方向に押し進めることができるかを理解するために時間をかけるような、それは良いことのように思えます。
また、AIとの経験で、重要な分野の本物の専門家と話し、それが世界についての私の考え方を変えるという経験をしました。確かに、それができる人間が世界にはいますが、ちょうどその時にその人と一緒にいなかっただけです。
また明らかに、これは幻覚問題と正確性についての多くの疑問を提起します。部外者として、なぜこれがそんなに難しい問題なのか理解するのは難しいです。コンピュータサイエンティストではない私に理解できるように説明していただけますか？
多くの人々はまだ2021年の古代の歴史であるGPT-3の時代に立ち往生しています。当時はこれらのことの何も本当に機能せず、多くの幻覚がありました。現在のChatGPTを使用すると、確かにまだ幻覚することもありますが、一般的にかなり堅牢であることは驚くべきことです。
私たちはこれらのモデルを、以前に見た全ての単語に基づいて予測を行うようにトレーニングします。トレーニングセットには間違った情報もあります。また、モデルが適切に一般化できないケースもあります。モデルが何かを知らないということを自信を持って表現すべき時と、推測を行うべき時を教えることはまだ研究の領域ですが、それは大幅に改善されています。そして、私たちの新しい推論モデルでは、そこにも大きな前進があります。
私はChatGPTに様々なイテレーションでプロンプトを与えてきました。「これは本当ですか？」「これが正確な答えであることを確認してください」など、これはイテレーションの必須ステップとして組み込まれるべきです。
それはプロセスの一部になると思います。他にもそれを良くする多くのことがあると思いますが、それはプロセスの一部になるでしょう。
いくつかの真新しい研究があります。過去1年か2年でこのような研究がたくさんありましたが、先週私の心を吹き飛ばしたのは、AIだけと医師だけを比較すると、もちろんAIが勝ちますが、AIは医師とAIのチームも打ち負かすというものでした。
その証拠の私の解釈では、医師は意見が合わない時にAIをオーバーライドするため、AIアシスタントの恩恵を受けていません。歴史を通してこのようなバージョンが見られます。AIがチェスをプレイし始めた時、人間の方が優れていた時期があり、次にAIの方が優れるようになり、その後しばらくの間（どれくらい続いたか忘れましたが）、AIと人間が一緒に働く方が、AIだけよりも優れていました。異なる視点をもたらすことができたからです。
そして、AIが再び人間とAIの組み合わせよりも優れるようになった時期が来ました。なぜなら、人間が何かを見過ごしてしまった場合に、オーバーライドして間違いを犯していたからです。
あなたの役割をAIを全てのケースでオーバーライドしようとすると見なすなら、うまくいかないことがわかります。一方で、人間とAIがどのように一緒に働くべきかを理解するのはまだ初期段階だと思います。
AIは人間の医師よりも診断が上手になるでしょう。それはあなたが戦いたいことではないでしょう。しかし、人間が他の多くのことをはるかに上手く行うこと、あるいは少なくとも患者が人々にしてもらいたいことがあるでしょう。それは本当に重要になると思います。
これについて多く考えてきました。私はもうすぐ子供が生まれます。私の子供はAIよりも賢く成長することはないでしょう。今から生まれる子供たちが知る唯一の世界は、AIがある世界であり、それは自然なことです。もちろんそれは私たちより賢く、私たちができないことができるのですが、誰がそれを本当に気にするでしょうか？
だから、私はこの一つの過渡期にいる私たちにとってだけ、それは奇妙なことだと思います。ある意味ではそれは謙虚さへの力であり、それは良いことだと思います。一方で、私たちはまだこれらのツールとどのように働くかを知りません。一部の人々はあまりにも速くそれらに依存し過ぎているかもしれません。
複雑な単語のスペルを覚えていません。なぜなら、オートコレクトが私を救ってくれると信じているからです。それについては大丈夫だと思います。これらのことについて道徳的なパニックを起こすのは簡単です。人々がAIの助けにもっと依存していても、それは単に未来の道なのかもしれません。
学生たちがChatGPTを手元に置かずに論文を書きたがらないのを見てきました。空白のページや点滅するカーソルの前では、ChatGPTがそばにないと不安なのです。少しずつその依存性が構築されているように思います。それを防ぐ方法について考えがありますか？それとも、それは単に未来であり、私たちはそれに慣れるべきでしょうか？
防ぐべきかどうかはわかりません。私にとって、書くことは思考を外部化するものであり、非常に重要です。しかし、人々が考えをまとめるより良い方法を、新しい種類の書き方で置き換えるなら、それは方向的には問題ないと思います。
私にとって本当に馬鹿げているのは、ある程度一般的なワークフローです。誰かが伝えたいことの要点を書き、ChatGPTに複数の段落の丁寧なメールに書かせ、それを誰かに送ります。その相手はそのメールをChatGPTに入れて「主要な3つの要点を教えて」と言います。だから、書き方やコミュニケーションの形式には、まだ価値のない残骸があると思います。誰もがお互いに要点だけを送れるような社会的規範に進化することは問題ないと思います。
本当に透かしか、少なくとも内部メモリーがほしいです。ChatGPTが「これは既に私が生成したものです。この人に戻って、あなたが要点が欲しいと伝えれば、将来的にもっと明確なコミュニケーションができるでしょう」と言えるようにです。
有名になって悲しいことの一つは、全てを完璧に表現できないと、オープンAIや私自身にほとんど利益がないのに、多くの攻撃の余地を作ってしまうことです。それは残念です。それは特権を失うことだと思います。公の場でただアイデアを遊ばせたり、部分的に間違ったり、不完全だったりすることができなくなります。
でも、それが私の目指したものでした。とはいえ、私たちの中には、自己反省や自制心を行使しない同業者たちよりも、あなたがもう少し慎重であることに感謝している人もいます。
それは別のことです。思慮深く、ある程度慎重な人であることは、はい、もっと多くの人がそうであるべきだと思います。
部分的に進行しているのは、多くの人々がツールに適応するのが遅いということです。いくつかの本当に興味深い人間の創意工夫も見ています。思い浮かぶ証拠は、シャロン・パーカーと彼女の同僚による研究です。これはロボット技術の領域で、彼らは基本的に人間をロボットに置き換え始めている製造会社に入ります。
仕事がなくなると人々がパニックになる代わりに、多くの従業員が「私たちは独自の貢献を見つける必要がある、仕事に意味を持たせる必要がある」と言います。彼らはロボットを出し抜くことでそれを得ます。ロボットを研究し、何が苦手かを見つけ出し、「よし、それを私たちの核心的な能力にしよう」と言うのです。
01と推論の進歩で怖いことは、昨年私たちが自分たちを差別化すると思っていたスキルの多くが、既に時代遅れになっていることです。2023年に多くの人々が使っていたプロンプティングのテクニックは、もはや関連性がなく、一部は二度と必要なくなるでしょう。
50年後、100年後、1000年後、人間は何のためにいるのでしょうか？誰にもわかりません。でも、もっと興味深い答えは、今日、人間は何の役に立つのか？ということです。他の人々に役立つことだと言いたいですし、それは続くと思います。
何年も前に、ポール・ブフトが私に言ったことで、本当に心に残っていることがあります。オープンAIが始まる前で、彼は考えに考えて、いつか人間のお金と機械のお金があり、それらは完全に別々の通貨になり、一方はもう一方を気にしないだろうと考えていました。それが文字通り起こるとは思いませんが、非常に深い洞察だと思います。
機械が独自の通貨を持つという考えは思いついたことがありませんでしたが、AIがあなたのために全ての病気を治し、核融合を機能させ、私たちが想像できない信じられない勝利を成し遂げることに、あなたは喜ぶでしょう。しかし、あなたは機械が何をするかと、あなたの友人や会社を経営する人間が何をするかを比較して気にするでしょうか？そうではないと思います。たぶん一部の人々はそうするかもしれません。特定のAIを中心にいくつかの本当に奇妙なカルトがあるかもしれませんが、私たちがまだ非常に人間中心であることに驚かされるだろうと思います。
ライトニングラウンドの時間かもしれませんね。これは私とGPT-4モードというよりも01モードのように、できるだけ速く次のトークンを出さなければならないというものです。最初の質問は、最近AIについて考え直したこと、または意見を変えたことは何ですか？
数年前より、急速な展開がより可能だと思います。どれくらい速いかを推論するのは難しいですが、10年というよりも少数の年という感じです。
AIへの適応について人々に与えられる最悪のアドバイスは何だと思いますか？
AIは壁にぶつかっているというアドバイスです。これは考えないようにする最も怠惰な方法で、ただ視界から外しておくという感じです。
適応する方法についてのあなたのお気に入りのアドバイスは何ですか？あるいは、AIの世界で適応し成功するためのアドバイスは何ですか？
これはとても単純ですが、明らかなことはツールを使うことです。オープンAIがやっていることで本当にクールだと思うことの一つは、私たちは世界に存在することを知っている最も強力なモデル、01をリリースし、誰でも月に20ドル払えば使うことができます。20ドル払いたくなければ、とても良いものを無料で使うこともできます。
だから、最先端のもの、世界で最も有能な人が使えるものと全く同じフロンティアにアクセスできるのです。それは素晴らしいことだと思います。だから、使ってみて、何が好きか、何が嫌いか、どうなると思うかを考えてみてください。
AIに関する最もホットな意見や不人気な意見は何ですか？
少なくとも短期的には、人々が思うほど大したことにはならないということです。長期的には全てが変わります。本当に信じているのは、最初のAGIを発表しても、誰も大して気にしないということです。テック業界の人々と哲学者は気にします。それが一貫して反応する2つのグループです。でも、彼らでさえも気にしますが、20分後にはその夜の夕食に何を食べるかを考えています。
組織心理学者としての私への質問は何ですか？
この超知性的な離陸を経験していく中で、集団心理をどのように管理すべきかについて、オープンAIへのアドバイスは何ですか？よりよい言葉がないので、ここの人々を正気に保つ方法は？
私たちはまだ超知性的な離陸の部分にはいませんが、それを経験するとき、信じられないほど高いリスクを伴い、非常にストレスの多いことのように感じるでしょう。今でもAGIへの道のりの中で、少しそのように感じています。しかし、これから来るものに対してはもっと組織的な回復力が必要だと思います。
組織的な回復力について考えるとき、それはどのように見えますか？それは人々がなりそうなほどストレスを感じないということですか？それとも自然に変化にもっと速く対応できるということですか？
信じられないほど高いリスクの不確実性に直面しての良い決断、そして地上の事実が変わり、私たちが考慮したり取ったりする必要のあるアクションが非常に速いペースで変化するときの適応性です。
私にとって、それを始める場所は2×2の表を描き、オープンAIの全員に各選択がどれほど重要か、そのリスクがどれほど高いか、そして各選択がどれほど可逆的かを考えてもらうことです。彼らは回転ドアを通っているのか、それとも後ろに鍵がかかるのでしょうか？
私が思うに、本当に立ち止まって全ての考えと再考を前もってする必要があるのは、高い結果をもたらす不可逆的な決断です。なぜなら、それらは本当に重要で、翌日には元に戻せないからです。他の3つの象限では、素早く行動し、実験し、パイロット版を試し、自分が知っていると思うことを疑うことに開かれていることが大丈夫だと思います。しかし、その象限は正しく行うことが本当に重要で、そこに人々の最高の思考と、おそらく最高のプロンプティングを入れてほしいです。
理解できます。あなたが書いたものについて聞きたいことがあります。成功する方法についてのブログを書きましたね。それはかなり昔のことでした。
もうそれはメモリにロードされていません。
大丈夫です、ここにあります。特に興味深いと思ったのは自己信念についてのセクションです。あなたの言葉を引用します：「自己信念は非常に強力です。私が知る最も成功した人々は、ほぼ妄想的なレベルまで自分自身を信じています。早くからこれを培い、あなたの判断が良く、一貫して結果を出せるというデータポイントが増えるにつれて、自分自身をより信頼してください。」まだこれに同意しますか？
そう思います。オープンAIを始めたとき、外部からオープンAIに対する最大の懐疑主義の時期に、内部で私たちが信じていたこととは対照的なことを信じていました。その段階での会社への私の最も重要な貢献は、ただ人々に「外部の世界は新しいものを嫌い、確立された信念とは異なる方向に進む可能性のあるものを嫌う」と思い出させ続けたことだと思います。
そのため、人々は私たちについて多くのクレイジーで否定的なことを言っていましたが、私たちには信じられない進歩がありました。それがまだ初期段階で、それが拡大し続けると信じるには不信感を抱く必要があると知っていましたが、拡大し続けていたので、それを途方もなく遠くまで押し進めました。
今ではそれは非常に明らかなことですが、当時、私は本当に、私たちがそれをしなければ、長い間それは起こらなかったかもしれないと信じています。なぜなら、私たちはGPTモデルをスケールアップするために10億ドルを費やすという、馬鹿げたように思えることをするのに十分な自己信念を持った唯一の人々だったからです。
それは重要だったと思います。それは全て真実だと思います。また、それは恐ろしいことでもあります。なぜなら、同じ人々が、自分自身をほぼ妄想的な点まで信じるとき、専門外の領域で恐ろしい決断をすることがあるからです。
もし私があなたの書いたものを修正するとしたら、「あなたの判断が特定の領域で良いというデータポイントが増えるにつれて、その領域で自分自身をより信頼すべきだ」と言うでしょう。人生全体ではなく。
それはもっと良い表現だったでしょう。経験と能力が全く一般化しないというわけではないと思いますが、多くの人がそれをあまりにも一般化し過ぎようとします。専門分野について何か言うべきでしたが、微妙なところがあります。なぜなら、新しいことをする意欲も重要だと思うからです。
6、7年前、私は投資家であり、AIラボの経営者ではありませんでした。
また、あなたが安定した環境にいるのか、動的な環境にいるのかも本当に重要です。なぜなら、安定した環境では直感に基づいた判断を信頼できます。無意識のうちに過去のパターンを内面化し、それが将来も通用するからです。より不安定な環境では、あなたの直感は基本的に適用されないデータに基づいてトレーニングされていることがよくあります。
そのような世界では、あなたが信じ、あなたにとって機能する本当に核となる根本的な原則にさらに近づきたいと思います。それはさらに価値があります。
最後に話したかったのは、倫理についてです。これもあなたが多く考え、話していることだと知っています。これは多くの人がAIに判断をアウトソーシングすることに最も不快感を覚える領域です。
そうですね、そしてこれは最終的に人間に頼らなければならない領域だと思います。核抑止のような多くのメタファーを聞いています。「悪い行為者より先に進み、相互確証破壊があるようにする必要がある」というようなものです。ちょっと待ってください、軍拡競争のメタファーはここでは機能しません。多くの悪い行為者は国家主体ではなく、同じリスクや結果に直面していません。また、選出された役人ではなく、民間企業を信頼するというのは、非常に複雑で、マッピングできないように感じます。
倫理と安全の問題についてどのように考えているか話してください。
まず第一に、ルールを設定するのは人間でなければならないと思います。AIはそれに従うことができ、私たちが集合的に決めたルールに従うようAIに求めるべきですが、ルールを設定するのは人間でなければなりません。
第二に、人々は歴史的なアナロジーで考えることができないように思えます。それを理解し、全て悪いとは思いませんが、少し悪いと思います。なぜなら、歴史的な例は将来の例とは似ていないからです。
私が奨励したいのは、人々ができるだけ、現在私たちが知っていることに基づいて、AIが以前のものと何が違うのかに議論の基盤を置くことです。野生の推測ではなく、その状況に合ったシステムを設計しようとすることです。
私が本当に信じているのは、個人の能力、個人の意志、何と呼びたいにせよ、それを大幅に増加させるツールとしてAIを展開することは、現在の状況に対する非常に良い戦略であり、一つの企業や敵対者、個人などが世界の全てのAIパワーを使うよりも良いということです。
しかし、AIがより大きな意味でエージェント的になるにつれて何が起こるかはわからないと率直に認めます。3時間プログラミングするタスクを与えるような小さな意味ではなく、非常に複雑なこと、通常は多年にわたる組織全体を必要とするようなことをさせることができるようになるということです。新しいモデルを考え出す必要があると思いますが、再び歴史が私たちにうまく役立つとは思いません。
そうですね、ソフトウェアの世界ではそれはうまく機能していません。アメリカでは強力な他のテクノロジーは規制されています。EUはAI規制に関してもう少し有能かもしれませんが、議会については別の理由で役に立ちません。
例えば、新しいモデルを完成させたとき、それがそれほど強力でなくても、EUでローンチするよりもはるかに早くアメリカでローンチできます。なぜなら、EUには多くの規制プロセスがあるからです。それがEUがフロンティアより常に数ヶ月遅れることを意味するとしたら？私はただ彼らが流暢さ、経済エンジン、理解、その方向に入れたいと思うものを構築する能力が少なくなると思います。
だから規制のバランスを正しく取るのは非常に難しいですが、私の意見では明らかに私たちは何らかの規制を必要とするでしょう。
責任ある規制がどこから始まるべきか計画するとしたら、何をしますか？
テスト、単にテストと理解です。それは始めるのに素晴らしい場所だと思います。人々が生物兵器を設計し、安価にできるようになるかもしれない時、どのような規制が役立つでしょうか？今日のグーグルでも多くのことができると思います。それがより有能で、より簡単になれば重要ですが、いくつかの規制はすでに整っています。それらがより良くなる必要があるかもしれませんし、より厳しくなる必要があるかもしれません。
今後10年ほど先を見据えて、最も心配なことは何ですか？
変化の速度だと思います。私は人間の精神が全ての問題を解決することを信じていますが、ここでは急速に解決すべきことが多くあります。
倫理と将来の影響について考えるとき、私が取り組んできた他のことの一つは、多くのデジタル技術が民主化し、不平等を少なくとも削減すると思われてきましたが、非常に多くの場合、それとは逆のことが起こったことです。豊かな人々はこれらのツールへのより良いアクセスを持っていたため、より豊かになりました。
あなたは01がアメリカの基準では比較的安価だと指摘しましたが、まだアクセスの不一致があると思います。それを変えるには何が必要ですか？AIが発展途上世界で善の力となるためには、どのようなものが必要ですか？
私たちは知性の単位あたりの価格を毎年約10倍のファクターで下げることができました。それをそんなに長く続けることはできませんが、しばらくの間それを行ってきました。知性がどれほど安価になったかは素晴らしいと思います。
しかし、ある意味では、それは問題に反して働きます。少なくとも現時点では、本当に強力なモデルを作ることができるのは政府と巨大企業だけです。トレーニングするにはそうかもしれませんが、使用するのは非常に異なります。
過去3年間を振り返ってみると、生涯分の変化を経験したに違いありません。
奇妙でした。なぜこれをやっているのかと聞かれることもあります。
私はテクノ・オプティミストであり、科学オタクです。これは想像できる最もクールなことであり、私たちの生涯で最も興味深く、クールで重要な科学革命の一部になれると思うのは、仕事の時間を過ごす最高の方法だと考えています。なんという特権でしょう、信じられないほどです。
そして、利己的でない理由としては、科学の進歩が社会の進歩の方法であるという義務感を感じています。私が個人的に貢献できる全てのことの中で、または全てのことの中で、これは科学の進歩を最も推進し、したがって生活水準、人間の経験の質、何と呼びたいにせよ、それを最も前進させると信じていることです。
そして、私はそれに貢献できることに対して、否定的な意味ではなく、感謝の気持ちを持って義務感を感じています。
子供が生まれる予定の、間もなく父親になるあなたとして、次世代のためにどのような世界を見たいと思っていますか？
「豊かさ」が最初に思い浮かんだ言葉で、「繁栄」が二番目でした。一般的に、人々がより多くのことをできる世界、より充実し、より良い生活を送ることができる世界、私たち一人一人がどのようにそれを定義するにせよ、そういったものです。おそらく、他の間もなく父親になる人が子供のために望んだのと同じことでしょう。
デザイナーベビーについては長い間議論されてきましたが、あなたの行った仕事の一部が、それを予想よりも早く、より可能にするように思えます。カップルが100万の胚を作り、それぞれを完全に遺伝的にシーケンスし、望む特徴に基づいて最良のものを選ぶことができるような時代がそれほど遠くないように思えます。私たちが多様性のための生物学的命令をショートサーキットすることを心配していますか？
それについては何か深く不安を感じます。人間はただ十分に異なる好みを持っているので、まだたくさんの多様性を得ることができると期待できますが、人々が望まない特性を排除し始め、それが実際には予期しない利益をもたらすこともあると想像できます。私は多様性よりもモードの崩壊をより危惧しています。
それを修正してくれますか？
考えたことがないです。なぜあなたがそれを修正しないのですか？私はこれに取り組み続けます。資格がないです。
はい、それについて考える誰かを見つける必要があります。技術だけでなく人間も信じているということを、今日ほど強く表現されるのを聞いたことがないと思います。それはある意味でリスクのある立場だと思います。ソーシャルメディアでそれを見てきましたが、技術を構築する上で必要不可欠なことは、人間を気にし、信じることだと思います。
私は楽観的な方に傾いていますが、正確であろうとしています。しかし、技術について楽観的すぎるのは、何であれ、人間について楽観的すぎるのは私たちにとって危険かもしれません。これらのツールを提供し、「人々はそれを悪よりも良いことのためにはるかに多く使うだろう」と考え、何らかの形で人間の本性について本当に間違っているとしたら、それは私たちの戦略の欠陥になるでしょう。しかし、そうは思いません。
サム、時間を取ってこれをしてくれてありがとう。多くのことを学び、徹底的に楽しみました。
ありがとう。これは楽しかったです。
コメント