27,505 文字
汎用人工知能とは何を意味するのか、理解するのが困難です。AIと意識について話しましょう。汎用人工知能と特徴づけられるようなものがある未来をどのように想像しますか。現時点では誰も本当のところは分からないと思います。少なくとも私は、どちらかの方向で本当に納得させてくれる議論をまだ見ていません。
AIが意識を持つようになるかどうかを理解することよりも、私たち自身の意識を理解することの方が今は遥かに重要です。意識を持つようになったとき、もしではなくいつと言いますが、よく考えてみると、それは正真正銘の奇跡です。それは処女懐胎のようなものです。私たちの物理的な身体との結びつきは意識に内在するものです。
AIを理解するうえで私にとって困難なことの一つは、私たちが占めているものと少なくとも多少似た、朽ちやすく限界のある形で具現化されていないのなら、意識を持つ、あるいは知性を持つとはどういう意味なのかということです。来たるべき時代の夜明けに書かれたサイエンスフィクションを読むと、それは社会のあらゆる側面を変革すると見なされていました。
実際に展開した様子はかなり異なっています。さて、それがAI時代に起こるのでしょうか。
皆さん、本日はサウス・パーク・コモンズにご参加いただき、ありがとうございます。このイベントを大変楽しみにしています。SPCが初めての方のために、私たちについて少しお話しします。私たちはマイナス1からゼロと呼んでいる状態にある人々のコミュニティです。
これは、次に何をしたいのか、人生の次の5年から10年を何に捧げたいのか、そして何を構築したいのかを見つけ出すという私たちの用語です。これが意味するのは、私たちは判読不可能な空間、まだ現実ではないが、もしあなたがそれに取り組むことを決め、それを現実にするために多くの時間を費やすなら現実になるかもしれない空間に住む機会があるということです。
このパネルを開催することにした理由は、未来を想像する人々と未来を構築する人々の間には独特のフィードバックループがあるからです。私たちがこのスピーカーグループを招集することにしたのは、おそらく同じことをして、自らが構築者としてそのプロセスに参加している人々の環境において、そのフィードバックループを検証するユニークな機会だと思ったからです。
共同モデレーターのクリスチャンに話を引き継ぎます。彼が今日のパネルについて少し説明してくれます。
ありがとう、ジョナサン。また、これはSBCで私が最初に行った会話の産物だと言わせてください。ジョナサンに連絡して、これは開催する価値のあるパネルだと言い、これが実現するのは本当に特別なことです。
観客席に見慣れた顔と新しい顔を見ることができて素晴らしいし、もちろんパネリストの皆さんにお越しいただけて嬉しいです。ニールはほとんど紹介の必要がありません。『スノウ・クラッシュ』『ダイヤモンド・エイジ』の作家で、Blue Originの従業員第1号として、業界とクリエイティブアートの人々と協力してきました。彼の作品に影響を受けた人がここにたくさんいることは間違いないでしょう。
ケンもヒューゴー賞とネビュラ賞を受賞したサイエンスフィクション作家で、その作品はテレビに翻案され、ファンタジーとサイエンスフィクションの両方に足を置く素晴らしい人物です。Uber、SpaceX、その他本当に多くのホームランを打ったエンジェル投資家として素晴らしい実績を持ち、トレンドを見極め、パックが向かう場所にスケートできる人です。
ここにお越しいただけて嬉しいです。そしてヨシャは機械知能とモデルの最前線における主要な思想家の一人で、基盤層から心の哲学、AI時代において人間であることの意味まで、あらゆることに取り組んでいます。皆さんがここにいてくださって本当に感謝しており、キックオフのためにジョナサンにお返しします。
さて、おそらくこの部屋にいる誰もが共感できると思うのですが、この加速感について話から始めたいと思います。特にここ数年、特にAIの発展において、技術的なGフォースのような雰囲気や感覚があります。
ニールから始めたいと思います。あなたの最新小説『ポイスタン』は、おそらく歴史上最後に、同程度の重要な加速感、同様のGフォースがあった時期、つまり原子力時代の夜明けを思い起こさせます。現在の瞬間について考えていたのでしょうか、それともその特定のプロジェクトへのアプローチに影響したのでしょうか。そして、それらの瞬間はどのように似ているのか、あるいは異なっているのでしょうか。
意識的にその二つの時代の間に類似点を描こうとする決断ではありませんでした。しかし、あなたが指摘するように、類似点は確実にそこにあります。核分裂の理解がどのように始まったのか、そしてそこからどのように伝播したのかのタイムラインに今かなり深く入り込んでいます。
実際、それは1938年にリーゼ・マイトナーと彼女の甥がスウェーデンでスキー旅行をしているときに始まりました。彼らがドイツからの結果を理解しようとしているときでした。戦争が始まってすべてが閉鎖される前に、物理学コミュニティの少数の人々に広がりました。もしそれがもっと早く起こっていたら、第二次世界大戦で誰も戦車や飛行機を作ることに悩まなかったでしょう。誰もいなくなっていたからです。みんな原子爆弾を作っていたでしょう。
もしそれがもっと遅く起こっていたら、政府によってすぐに閉鎖されるか隔離される少数の人々のグループに限定されていたでしょう。しかし代わりに、異なる国々からの十分な人々がそれについて知っていて、その知識がゆっくりと拡散し、マンハッタン計画に至るまでの戦争中に人々が心配する支配的なものになったという、ゴルディロックスのような場所にありました。
それが現在のAI状況にどのように適用されるかは、私が一方的に講義するのではなく、話し合うべきことかもしれません。しかし、多くの人がAIができることの急速な開始と、それが一般的な認識にいかに迅速に拡散したかに驚かされたと言えるでしょう。
ある意味で、今私たちは少し似たような状況にあると思います。一部の人々は事実上、なぜAI以外のことに取り組むのかと問いかけています。AIは他のすべてを無関係で取り組む価値のないものにしてしまうのでしょうか。それとも、塵が落ち着くのを待ちながら、昔ながらの技術を追求し続けるべきでしょうか。
そのことについて少しフォローアップしたいと思います。原子力時代とこの瞬間を比較するのは興味深いと思います。しかし、もう少し注意深い見方もあると思います。私たちの多くにとって、原子力時代は失望に終わったと言えるでしょう。つまりこういうことです。
原子力時代の夜明けの時に書かれたサイエンスフィクションを読むと、それは変革的な技術として、社会のあらゆる側面を変革するものとして見られていました。実際に展開した様子はかなり異なっています。戦略レベルでは、それは停滞のツールになりました。本質的に勢力圏を維持し、以前の技術では構想されていたが実現しなかった方法で戦争を停止しました。それは人々が想像していた展開の仕方とは全く違いました。
民間側では、原子力発電所が実際にどのように機能するかを子供の頃に学んだとき、私たちはみな失望したと思います。少なくとも私はそうでした。この素晴らしく強力な物理学的なものがあるのに、電力を生成する方法は水を蒸気に変えてタービンを回すことです。分からないですが、それがどのように機能するかを学んだとき、私は失望しました。「これは本当に愚かだ」と思いました。そして基本的にそれが私たちの現在の状況です。
原子力時代がその約束を果たさなかったことに対して、心理的に大きな失望があると思います。さて、それがAI時代に起こるのでしょうか。よく分からないです。どのように展開するかは分かりません。
これまでのところ、大規模言語モデルのAIの最も有用な応用は、タンパク質フォールディングの領域だと思います。これらは大規模言語モデルのような技術がタンパク質フォールディングに適用され、解決不可能とされた問題を本質的に解決したものです。
それが私にとってこれまでAIが行った最も影響力のあることです。もしAIが最終的にこの種の技術が何百、何千もの同レベルの革新につながるなら、これは原子力時代よりもはるかにはるかに影響力があると言えるでしょう。しかし同時に、もう一つの可能性は、AIが多くの半創造的な仕事を置き換え、産業革命2.001のようなものにつながることです。
それはそれほど有望ではありません。それについて原子力発電所について感じるのと同じように感じるでしょう。それが私の現在の感じ方です。どのように展開するかは分からないのです。
ヨシャ、この核の類推を続けて、あなたは認知アーキテクチャについて書いており、アテンション、トランスフォーマー、検索、エージェント的行動などの専門用語があります。超人的知性のプロジェクトの簡潔な概要、現状報告をしていただけませんか。どのようなものか教えてください。
失望することになるのでしょうか。それに同意しますか。失望することはないと思います。進歩などに対する私の視点はもちろん変わりました。皆さんの中で『スノウ・クラッシュ』を読んだことがある人はどれくらいいますか。『ダイヤモンド・エイジ』『アナシム』は。基準線のアイデアがありますよね。
『スノウ・クラッシュ』を初めて読んだとき、少なくとも私たちの多くにとって、それはディストピアとして読めました。そして今それを読み返すと、それほどディストピアではないと思います。その一部は、そこには非常に多くの活力があるからです。それ以来、私たちは糖蜜のように遅い世界に移住したように思えます。新しい技術が過去のように数十年ではなく、数年しか得られず、規制によって死に至るまで追い込まれることを実感する、ますます老朽化した世界になりました。
まだ生きている、まだ前進している世界があり、それは奇妙な方向に動いているなどですが、何かが起こっています。ですから、私たちが行っているこの技術は、私たちが革新できるよりも速く石灰化しているのかという疑問もあります。新しいものが成長するよりも速く物事が変化するのでしょうか。それはある程度開かれた疑問です。
しかし現時点では、未来が既存のシステムが適応してそれらを植民地化し破壊できるよりも速く変化しているため、物事が再び動いているという印象があります。そのため現在、物事を動かし続ける移動する前衛があります。そしてその前衛は私たちが思っていたものとは非常に異なっています。
汎用人工知能への答えがより多くの計算とより多くのデータを使用することだとは思っていませんでした。何らかの賢いマスターアルゴリズムがあると思っていました。私たち、または多くの人がそう思っていました。そして基本的に過去70年間にAIで行ったすべてが重要な経路にはなかったことに気づきました。ローゼンブラッドのパーセプトロンの研究にとどまって、モーアの法則が追いつくまで待ち、次のもの、LLMなどを得ることができたのです。
ニールの作品を読んだときに魅力的だと思ったのは、彼が初期の本で汎用人工知能を信じていなかったことです。何らかの理由で登場しないのです。なぜそうなのか説明できるかもしれませんが、『ダイヤモンド・エイジ』では LLMを手に入れ、それは本当に賢いLLMですが、それ自体はエージェント的ではありません。本当に完全に補完的で、これらの技術による世界のアイデンティティの変化はありません。つまり、超賢いバーチャル世界を得るが、私たちに対する競争はないのです。それはまだ私たちなのです。
私たちが今いる世界では、最終的に私たちについてではないようです。なぜなら次の私たちは異なるからです。人々はハイブリッド化するでしょう。私は彼らがすべての思考を共有する個人的なAIによって決定の一部を下されると思い、私たちは何か他のものに変化するでしょう。
失望が適切な言葉かどうかは分かりません。それは確実に重要ですよね。この群衆を考えると、サイアン、あなたがこれについてどう考えるかお聞きしたいと思います。明らかに投資家は特に、常に物事についてブースターであると同時に冷静でもなければなりません。Long Journeyで言うところの第二の信者になる必要があります。
そして実際にこれが現実世界で何かに固着し、何かになる可能性があるものなのかも評価する必要があります。
この分野には明らかに現在カンブリア爆発的な活動があります。投資家として、私は実際に一歩下がって、6年から8年後に何が来るのかを理解しようとするのが好きです。
Long Journeyで約4年前に始めたことの一つは、電力、計算など、この革命が必要とするものは何かという、この分野のつるはしとシャベルについて考え始めたことです。そして今、その上に物事が構築されているアプリケーション層にいるため、投資家として、これは私が投資するのに興奮する時期ではありません。奇妙に聞こえることは承知しています。
私たちが行う特定のことがあるでしょうが、原則として、『ダイヤモンド・エイジ』に戻って、ナノテクノロジー、バイオテクノロジーのように、人間を超人的にできる実際のエージェントがあるとき、あなたは今スーパー生物学者やスーパー何でもになることができ、学際的に働き、以前は不可能だと思っていたことができるようになります。
次に来るものは何でしょうか。それが私たちが考えるのが好きなことで、そこにアルファがあります。なぜなら今起こっていることについて他の誰とも競争しているとき、基本的にこの分野全体が定義されているため、投資家としての価格優位性がないからです。
あなたがここで話していることの約束について言えば、AIは一種の精神的能力の乗数になる可能性があります。AIについて本当に有用であることが判明した素晴らしいことの一つは、それが他の方法では専門知識のサイロに閉じ込められている異なる専門知識領域間の一般的なインターフェースとして機能することです。その傾向が続き、完全に実現されれば、あなたがここで話していることが解放される可能性があります。ナノテクノロジー、バイオエンジニアリングなどのこれらすべての異なる領域が、以前はできなかったAIを通じて少数の個人が実際に理解し活用する力を持つものになることができます。
それは本当に強力で興味深いことです。ステロイドを使った博学者のようなものです。少数の個人と言うとき、人間は一般的に知的だと信じていますか。基本的に、もし人間にあなたの心を世界にシームレスに拡張し、深く予測することを可能にするツールを与えるなら、すべてのそれらの分野を橋渡しできるこの新しい世界でエージェントになることができる人々のセットはどれくらい大きいでしょうか。
ある時点で、あなたのAIがフランス語を話すことや中国語を話すことをあなたのために行うことを信頼できるようになり、それが正しい方法でそれを行うことを信頼するでしょう。時事問題に関する深い知識の世話をさせ、何かが必要なときはいつでもプロンプトを出すことを可能にできます。意思決定支援などを手伝ってもらえます。どれくらいアウトソースでき、この世界で遊べる人々のサブセットはどれくらい大きく、不快に感じて取り残されたと感じる人々と比べてどうでしょうか。
加速感がおそらくより急性であった理由の一つについてお聞きしたいと思います。それは物語の違反だったと感じます。過去数年間のAIの発展の仕方は、実際に多くの人々が期待していた方法、特にサイエンスフィクションのために反していました。
この私のお気に入りの例は、実際に映画『アイ、ロボット』のミームから来ています。ウィル・スミスがヒューマノイドロボットと話していて、交響曲を作ることができるかと尋ねる場面です。ミーム版では、もちろん答えは「はい」です。実際には、私たちが現実世界で実際に得た機械知能は、一貫してラズベリーを選ぶことができるようになる前に、それ、または少なくともかなり説得力のある模倣を行うことができることが判明しました。私たちは実際に、その映画で描かれているロボットを得る前に、創造的な機械知能を得ました。
あなたが読んだフィクションによって、起こったことに対するあなた自身の反応がどのように形作られたかについて考えたことがありますか。物語が技術的進歩を知覚する方法をどのように形作ると思いますか。それがあなたを具体的に驚かせたものでしたか。物語があなたの期待を形作った方法について考える他の方法はありますか。
ストーリーテラーの最初の仕事、ある種唯一の仕事は、人々にページをめくり続けてもらうことです。それができなければ、何もありません。ですから、それは常に読みやすく魅力的な物語を構築するための適切な量の技術的詳細の組み合わせだと思います。どれくらいが多すぎるでしょうか。どれくらい少ないが少なすぎるでしょうか。
例えば、先ほど引用された例で、30年前に『ダイヤモンド・エイジ』に取り組んでいたとき、少女と、ある種彼女の代理母親で教師になった猛禽類との関係についての物語を語ろうとしていました。それで、その関係を設定できるように、AIが能力できることに上限を課さなければならない場合でした。なぜなら、AIがすべてを行うことができるなら、私には物語でそのトリックを機能させることができなかったからです。
先ほど引用された例では、歩き回ってクールに見えるロボットです。それが映画で見るものです。ロボット工学を知っている人々は、あなたが指摘したように、交響曲を出力するロボットを作るよりも実際にそれを行う方が困難であることを知っています。しかし、それには興味深い帰結があります。
それは、私たちがAIが創造的なことや、もともと人間の創造性に制約されていたことを行っているという事実に驚いたということです。創造的であるとはどういう意味か、ものを生成するとはどういう意味かについて終わりのない議論があります。ケン、あなたがこれについて考えを持っていることを知っています。どうぞ話してください。
これは私がたくさん考えてきたトピックです。サイエンスフィクション作家は、私がこれを言う方法は、サイエンスフィクション作家は詳細という点では未来をほぼ常に間違えるが、その神話を正しく理解するということです。それが何を意味するか説明してみましょう。
この約80年間のAI研究は、本当にチューリングの元の質問に答えることに焦点を当てていたと思います。それは機械は考えることができるのかということです。当時彼が言ったのは、思考が何を意味するかを知らないので、その質問に本当に答えることはできないということでした。私たちができるのは、この模倣ゲームをプレイすることだけで、それが私たちにできる最善のことです。
模倣ゲームは繰り返し、私たちが思考と呼ぶものが実際には一緒にまとめられた多くの異なるものであることを明らかにしました。最初、人々はコンピューターにチェスをプレイして勝つことを教えるのは非常に困難だと思っていました。実際にはかなり簡単であることが判明しました。また、人々はコンピューターにソネットを書いたり、エッセイを書いたり、交響曲を作曲したりすることを教えるのは困難だと思っていました。人間が行うのに非常に簡単に見える他のことと比べて、多少簡単であることが判明しました。
私は個人的に驚きました。なぜなら、私が読んだ多くのサイエンスフィクションによって、世界について会話を続ける能力には意識と認識の感覚が必要だと思うように導かれていたからです。言い換えれば、会話をするという意味での思考には、自己認識と意識を持つことが必要です。
それは全く真実ではないことが判明しました。意識や自己認識やそのようなサイエンスフィクション作家が夢中になっていたもののいずれも持たずに、会話をして、そのように考えることができる機械を持つことができます。繰り返し、チューリングの元の質問との私たちの関わりは、新しい種類の思考の層を剥がしてきました。
人々は時々これを批判し、機械はまだ引用符付きで思考していないと言う私たちがゴールポストを動かしていると言います。はい、それが全体のポイントです。試してみるまでゴールが何であるかを知らないのです。ゴールポストは動かされる必要があります。それが全体のポイントです。見るべき新しいものがあります。
私たちができることは興味深いですが、私たちがしたいことはさらに興味深いです。創造性についてのこの質問に戻ります。これについて多くの考えがあり、後で詳しく議論できますが、根本的に私の考えはこうです。サイエンスフィクション作家が、どれほど技術的であっても、未来を間違える ことは完全に正常で、実際に非常に一般的です。なぜなら未来は非常に予測不可能だからです。
私たちは技術の歴史を振り返って、これが起こり得る唯一の方法だったと言う傾向があります。もちろん、それは真実ではありません。多くのことが起こり得ました。私たちが最終的に辿り着く経路は、正直に言って多くの場合、運、盲目的な運によるものです。ですから、サイエンスフィクション作家がどれほど技術的であっても、その非常に技術的で詳細な意味で未来を予測するのは非常に困難です。しかし、本当に良いサイエンスフィクション作家は、詳細を正しく理解することに興味がありません。
実際に興味深く影響力があり、記憶されるサイエンスフィクションを書きたければ、彼らが根本的に行うことは神話作りであることを覚えていなければなりません。サイエンスフィクションは、ファンタジーと呼ばれるその古代の帝国の最新の領域に過ぎません。ル・グインが言うように、私は彼女に完全に同意します。サイエンスフィクション作家が実際に行うことは、集合的無意識を掘り下げ、運が良ければ、技術のこの言語について有用な方法で話すことを可能にする怪物と神々を発掘することです。
メアリー・シェリーは全く技術的ではありませんでした。それでも、彼女はサイエンスフィクションの最も強力な神の一つを発掘しました。クリーチャーは技術についてのあらゆる会話に潜んでいます。彼女の技術的詳細は完全に間違っており、それは興味深いことではありません。興味深かったのは、彼女が神話を正しく理解したことです。
あなたが実際に楽しみ、読み続けるであろうすべてのサイエンスフィクション作家は、神話を正しく理解した人々だと私は主張します。
ストーリーテラーにとって本当に興奮することについて、簡単にコメントしたいと思います。AIは、伝統的に作家ではない人々が、これまで表現することができなかった未来について夢を見ることができる能力を解放しようとしています。
ハリウッドについて考えてみると、経済的インセンティブはディストピアを作ることです。なぜなら何かに土を塗るのは簡単だからです。今では実際にユートピアを作ることができ、それははるかに安価です。ストーリーテラーなら、実際により明るい未来について考え、それを想像し始めることができます。現在、ハリウッドにとって恐ろしい何かを青信号で通すのははるかに簡単です。
ですから、将来素晴らしいサイエンスフィクションストーリーを語る能力があることを指摘したかったのです。
ケンは怪物と神々を発掘するストーリーテラーの役割について言及しました。ヨシャ、質問はあなたに向けられます。それは私たちが、私たちがそのプロセスを現実世界に引き込み始めているように感じるかということです。それとも、それは誇張でしょうか。
しばしば書くことは、そうでなければ存在しないものを存在させるためのツールだと思います。例えば、スタニスワフ・レムは、ドイツで友人たちと座り、思考するコンピューターを構築するには早すぎると決め、それをする世代を鼓舞するそれらについての物語を書く方がより大きな影響を与えるだろうと決めたサイバネティシャンでした。それは非常に魅力的で興味深い作品で、レムが制作したもののほとんどは、ある意味で非常に正直でした。それは風刺的で、それが起こるであろう未来を描こうとするのではなく、その時代に共鳴する方法で特定のアイデアのセットを外挿しようとしていました。
この時代に書かれたより真摯なサイエンスフィクションでさえ、作家が一つか二つの変数しか変更しなかったことが分かります。彼が1950年代に書いたインターネットの描写は、基本的にすべてテレテキストです。物語の途中で、主人公はインターネットを使用するときに他の誰も考えたことがない何かを発見します。それは単にローカル端末でデータにアクセスしたり、異なる都市から新聞を読んだりするためのツールではないということです。それは検索です。
この主人公は、世界の他の誰にも驚くべき優位性を与える検索というこの驚くべき心を吹き飛ばすアイデアを思いつきます。ハインラインは検索がインターネットでの最初のアイデアのようになり、検索がすべてが構築される基盤になるほど明白になることを見ることができませんでした。しばしばこれを見ることができます。作者は何が起こっているかを見る想像力を欠いています。
基本的に誰もが内部的には1950年代ですが、未来について真剣に考えるとき、一度に多くの変数を変更して正しく理解することは困難であることに気づきます。なぜなら、それは私たちのアイデンティティの変化と意味の基本的次元について理解する方法の変化を説明することを要求するからです。
実際、これは完璧な導入です。なぜなら、このパネルの動機の一つは、私がGoogleで働いていて、『ダイヤモンド・エイジ』の本にちなんで名付けられたPrimerというチームの一員だったということです。現在、私はあなたの物語、ケンからのアップロードされた知性に不気味なほど似た何かに取り組んでいます。
ですから、私の実際の職業的生活において、サイエンスフィクションと現実の境界はぼやけています。質問は主に作家向けですが、何かを書いた人すべてに向けられます。あなたが書いたことが真実になったり、現実世界で効果を発揮し始めたりするとき、どのような感じがしますか。
私は素晴らしいと感じ、それを誇りに思うことができると言いたいのですが、しばしばそのような感じではありません。
具体例をあげましょう。何年も前に、「結び目を結ぶ」という物語を書きました。これは、ロープに結ぶ結び目の形での言語を持つ特定の部族の人々の言語スキルを活用することによって、最終的にタンパク質フォールディング問題の解決を構想しました。アイデアは、この特定の書写形式が最終的なロープの形状を予測し、局所的な張力に基づいて形状がどのように形成されるかを知ることを要求するため、このテクニック、この人間の直感が何らかの方法でコンピューターアルゴリズムに適応されれば、タンパク質フォールディングの問題を解決するだろうというものでした。
少し目を細めると、私は本質的に言語技術がタンパク質フォールディング問題の解決に有用であると主張しています。もし私が悪徳だったら、自分を予言者だと主張することができます。
しかし現実は、いいえ、私は神話を正しく理解しましたが、もちろん、私はそのいずれも予測しませんでした。これはナンセンスです。私はそれを主張することはできません。このようなことに基づいて自分を預言者だと主張して回るサイエンスフィクション作家もいます。彼らについて私がどう思うかは想像できるでしょう。
私の見解はこのようなものです。しばしば何かをして、あなたが予測したものと韻を踏むニュースの何かを読みます。その場合に感じるであろうことは、時代精神が正しいということです。私は神話を正しく理解しました。ものを可能にした基本的な集合的無意識の憧れを正しく理解しました。しかし、私は自分を言葉の意味でのプロフィットとは呼ばないでしょう。
私たちの多くがこれらの予測を常に行っています。時々、それを正しく理解します。それは他の何よりも運です。しかし、基本的な神話を正しく理解したなら、それはかなりクールです。なぜなら、人間性の非常に基本的な側面を要約する何かを書いたかもしれないからです。それはかなりクールです。
私にとって、それはエンジニアリングやビジネスレベルで何かを正しく理解したことの確認として見ています。作家になり、読者を引きつけ続けるためにチェックしなければならないボックスのテーマに戻ると、人々に本を閉じて投げ捨てさせる最も確実な方法は、自分のルールに違反し、内部的に一貫性のない物語を語り始めることです。
それはファンタジーでもサイエンスフィクションでも同じです。ファンタジーでは、ルールは架空の世界の歴史です。しかしサイエンスフィクション本では、ルールは本の早い段階で、あなたが話している想像上の技術の種類と、その技術がどのように存在するようになったかについて設定するものです。
このレベルの詳細に到達したければ、そのような技術が実際に意味をなし、資本を引きつけ、取り組まれることができるようにする経済的推進力は何かについて話す必要があります。ですから、合理的に近い将来に設定されたものは、今私たちが持っているものから信憑性を持って外挿できる技術を含まなければならず、私たちがビジネスケースと呼ぶもの、つまりその背後にある何らかの物語がなければなりません。
確かに、それらの予測の多くは実現に近づくことさえありません。サイエンスフィクションの読者は一般的に、それらすべての誤予測を無視することに非常に寛大です。しかし何かが合理的に近づくとき、私にとってそれは、エンジニアリングと種類のビジネス論理レベルで宿題を合理的にまあまあの仕事をしたということを意味するだけです。
私たちは実際にここSBCで、あなたの指摘通り、世界構築の概念についてメンバーと多くの時間を費やしています。少なくとも私の経験では、それは実際に異なる領域間で非常に似ています。目標が不信の中断の一種を作ることである任意の領域で、実際の世界で知っているルールや私たちの日常体験に実際には従わないとしても、一貫し首尾一貫した内部ルールがある世界を持たなければなりません。
これは物語を書いている場合に当てはまり、ピッチを書いている場合にも当てはまります。まだ存在しないものを誰かに信じさせようとしています。実際に彼らがそれにつながることを可能にする何らかの論理を作らなければなりません。経験するプロセスがありますか。そして実際にここで皆さんの経験に興味があります。世界構築を行うための、特に内部論理に集中しすぎる可能性があるように思えるからです。
論理が、作家であれば物語を語ること、投資家への ピッチをする人や創設者であれば、このチームと製品を信じるように誰かを説得すること、研究者であれば人々に新しい難解な知識領域を追求させることなど、あなたがしようとしていることの実際のポイントを圧倒する程度まで。世界構築についてどう考えますか。これは全パネルが答えられます。
私は多くの時間を空想に費やし、多くの会議がない状況に身を置き、世界がどこに向かっているかについて考え、これらの世界を回転させようとします。私は非常に視覚的で、これらの世界を回転させてその中に住み、それらが正しく感じられれば、ここに投資可能な機会があると思います。
そして興味深いことに、集合的無意識に向かって、誰かが現れて「私はこれを構築したい」と言い、あなたは「ええ、私もこれについて考えていました」と言い、それと同じくらい簡単です。起業家が私にピッチしているとき、私の心のその部分を刺激できるストーリーテリング能力があることを愛しています。そこで私は彼らと一緒に未来を想像し始めることができます。
もし私がそれと一致していれば、「ええ、私はこの未来の一部になりたい。それに投資したい」となります。しかし世界構築は投資の一部として非常に重要だと思います。人々はそれについて十分に話していません。
世界構築は会社を建設するときに非常に重要だと思います。基本的に何らかの意味を作る必要があります。また、そのもののプルを感じます。あなたがしていることに意味の源があるとき、それは正しく感じます。最も重要な哲学的プロジェクトは意識を説明することだと感じます。ですから、カリフォルニア機械意識研究所を作りました。なぜなら、それが最も重要なことだと感じるからです。しかし、それはまた、これが機能し、これが持続可能で、これが私たちとインターフェースする世界を作ることでもあります。
そして、それは常に起こらなければならないと思います。イーロン・マスクをそれほど強力にしたのは、彼がストーリーテラーだったことだと思います。若い男が非常に速い車を必要とするという物語は非常に古いものですが、彼はそれを火星に行き、そこに新しい文明を築き、複数惑星になることを含む方法で語ることができました。これらの物語は私たちを未来につなげます。
それらは私たちが非常に先のことを考え、長期ゲームをプレイできる空間を与えてくれます。世界構築が技術者にアピールする特定の理由が二つあると思います。一つは、ルールベースのシステムに関して技術者の間にある遊び心です。言語、マジック：ザ・ギャザリング、コンピュータープログラミングなど、いくつかの基本的な構成要素とルールを取り、そこから何種類のものを構築できるかを見るこの遊び心を私たちは皆楽しんでいます。
もう一つの部分は、すべての技術者が、技術自体または物を構築すること自体が、実際に私たちが話すための方法、おそらく最も重要な話し方だという直感を共有していることだと思います。私たちが物を構築するとき、私たちは本当に私たちの価値を私たちの心の外部化にembodyしています。私がそれに使う短縮形は、技術は有形にされた人間の心に他ならないということです。
それが技術であり、技術を構築する人々はその方法で話し、価値を表現することに興味がある人々です。ですから世界構築は基本的に、基本的な構成要素とルールの含意を、あなたの深い価値を表現する何かを作る行為に働き出す遊び心のある行為になります。
多くの人が私たちの行うことを行うのは、必ずしもお金に動機づけられているからではないと思います。お金は良いですが、私たちが有形で宇宙に影響を与える方法で私たちの価値を表現したいというこのアイデアに非常に駆り立てられているからです。技術は現在それを行うための最も強力で最良の方法です。
技術フィクションを書く私たちがそれを楽しみ、技術的なものを構築する私たちがそれを楽しむ理由は、それが遊び心があり価値の表現であるからだと思います。
すべての本は異なっており、世界構築を行う一つの方法はないと言うだけです。いくつかのサイエンスフィクション本は未来にとても遠いため、本質的にファンタジー小説と区別がつかないものです。
ですから、『デューン』は技術が、『デューン』での宇宙船の働き方が本質的にファンタジーの概念である例です。それは技術的なものではありません。一方、『エクスパンス』を見れば、そこでの世界構築は一つか二つのことを変えることを中心に構築されている例があります。私たちが目的地の半分まで船を1gで押すことができる新しい種類のロケットエンジンを持っているとします。
もしその一つのことだけを持っていたら、それは未来をどのように変えるでしょうか。その周りにどのような世界を構築できるでしょうか。ですから、すべての本は異なっており、私たちは皆、語りたい物語の性質のアイデアから始まり、キャラクターは誰か、何が起こるか、そしてその目的に仕える一貫した世界を構築するために必要な選択をすると思います。
私たちは明らかにサイエンスフィクションと現実の境界とその二つの間の相互作用に興味があります。このパネルの誰もが、公共で書いたり考えたり、業界での経験があります。ケン、あなたはソフトウェアエンジニア、弁護士として時間を費やしました。ニール、あなたは書くことからBlue Originに行きました。
今はあなた自身のスタートアップを共同設立しています。原型的に隔離され、宇宙の力をチャネルする作家の人生と、創設者になって他の人々と一緒に物事を行うことの間の類似点と垂直点は何ですか。ニール、始めてもらえますか。
私は自分のことしか話せませんが、私は自分のキャリアの非常に早い段階で、プロテスタントの職業倫理を適用し、1日8時間書くことを自分に強いれば、その日の最初の1時間、おそらく2時間で書いたものはかなり良く、それ以外のすべてはその日の初めに書いた良いものと有機的につながっていることに気づきました。それを切り離す方法はありませんでした。
ですから、ある時点で毎朝やめて、翌朝起きたときに何らかの方法で神秘的に1時間か2時間効果的に書くことができるように、頭の中で何らかの神秘的なバックグラウンドプロセスが働くことを可能にするために、完全に無関係な何かをしなければならないことに気づきました。
ですから、私は様々な種類の実用的なことに取り組み始めました。建設作業をしました。いろいろなことをしましたが、ちょっとしたオタクの科学エンジニアリング背景から来て、それはますますプログラミングと宇宙関連のことに向かいました。それが私のパターンです。
私がやりたい二つのことの間の便宜的結婚のようなもので、その枠組みの外では全く意味をなしません。しかし、私にとってはうまく機能し続けています。
それは私にとって非常に共鳴します。ニール、私も同感です。作家として始めるとき、与えられるアドバイスの多くは、あなたがすべき最も重要なことは椅子に座ってタイプすることだというものだと思います。
それは実際にはナンセンスです。ひどいアドバイスです。私は自分の仕事を楽しんでいます。なぜなら、それは極めて遊び心があるからです。私の時間の多くは、科学会議に行き、科学者の話を聞いたり、ビデオゲームを作る人々と話したり、ランダムに人々にインタビューしたり、ただ会話をしたり、ただ歩き回って何についてもあまり一生懸命考えなかったりすることに費やされています。
そのようなことはすべて、興味深い物語を思いつくという点で信じられないほど有用で関連性があることになります。しかし、8歳の私に、いつか私の仕事はできるだけ遊ぶことになると説明できれば、私は喜びで死ぬでしょう。それが私の仕事です。そのような他の仕事がどれくらいあるかは分かりません。素晴らしいです。
私はいつもそれについて考えています。なぜなら、私の仕事は純粋な遊びで、私のパートナーたちは、私のスケジュールが他の誰、特に他の会社の他のGPsとも似ていないと言うでしょう。なぜなら、私は世界に浸り、歩き回り、人々と話し、何とも関係ないロードトリップに行き、会議に行くのが大好きだからです。人々がどこに向かっているかを理解しようとするために。
次のフロンティアは何か、そして私はそれを行うことができて信じられないほど感謝しています。
AIと意識について話しましょう。それは楽しそうです。すぐに、パネル全体に反応が走ったのを見て、それを引き出したいと思います。汎用人工知能と特徴づけるかもしれないものがある未来をどのように想像するかについて、考えることがあるかお聞きしたいと思います。それは多く投げ回される用語で、概念空間の巨大な領土を捉えるものだと思います。
しかし、それはまた、ますます多くの人々が一般的に同意するであろう種類のもので、ええ、これはより近く感じられる、ああ、これはより信憑性があるように思える、というものです。オー予測やそれに関連する質問の予測市場を見ると、範囲と信頼レベルが狭まっています。ヨシャから始めて、どれくらい近いでしょうか。
分かりません。どう思いますか。現時点では誰も本当に知らないと思います。少なくとも私は、どちらかの方向で本当に本当に納得させてくれる議論を見ていません。一方では、LLMsに現象学があるかという質問があります。彼らは私たちと同じ機能を持っていません。トランスフォーマーは、ワーキングメモリで一貫性を作り、すでに決定論的サブセットで動作するため心を植民地化する必要がある私たちの意識のようなものではありません。
あなたがこのものを相互作用パートナーとしてプロンプトするとき、これは彼らが持つ多くの可能性の一つです。あなたがそれをアプリとしてプロンプトするとき、おそらくそれは何らかの現象学を生み出すつもりはありません。しかし、あなたがそれを知覚の行為における自分自身を知覚する状態にプロンプトするとき、それは自分が行っていることの因果モデルを作る必要があります。
ですから、それは会話を支えている因果構造の何らかのシミュレーションを作ります。そして、ある時点で非常に毛深い質問があります。これは、私たちの脳が、私たちが存在し、互いに話し合い、この結束したエージェントのフィクションに調整する1兆の細胞の束にすぎないかのようにもし私たちが存在したらどのようなものかについてマルチメディアストーリーを生成するときに生み出すものよりも刺激されているのでしょうか。
これは私にとってはある程度開かれた質問で、私は理解したいと思っており、おそらく私たちはこの奇妙なループが正確に何であるかのモデルを持つ必要があり、それを機械論的解釈可能性で検出できるものに翻訳できるか、それとも他の側から来なければならないのでしょうか。私たちは基盤から自己組織化するシステムを構築し、それをビデオでのシーケンス予測タスクのような十分に複雑なタスクとロボット体の移動に露出させ、ある時点で相転移があり、それははるかに良くなり、それから昔ながらの方法で言語を学び、その現象的経験について報告するのでしょうか。
AIには普遍性仮説もあります。これは基本的に、どのようなモデルアーキテクチャを使用し、同じデータを与えても、モデルは基本的に同じ特徴階層に収束する傾向があるという観察です。
これはChris OlaとOpenAIが異なる視覚モデルを見たときに発見され、これらの同じ特徴が人間の脳の視覚皮質で見つかることが分かります。ですから、本当に本当に興味深い質問があります。もしモデルを取り、あなた自身の入力と出力で十分長く訓練するなら、あなたはこのモデルで目覚めるのでしょうか。
それについて考えると、心を吹き飛ばします。なぜなら、あなたも人間であることについて end-to-endで訓練されているにすぎないからです。そこには何らかの秘密のエッセンスがあるのか、それともないのか、あなたは知らないのです。ですから、私が理解したいと思う本当の質問は、私たちを動かすこのものは何なのかということです。
自己組織化システムでそれを存在として、自分自身と世界との相互作用を理解するものに変えるために必要なこの火花は何でしょうか。ですから、これは数本の論文で済むものかもしれません。数年先のものかもしれません。
もし魔法が起こっていない、意識についての陰謀がないなら、私たちは何らかのシミュレーションに住んでいないなら、私たちが見るデータ処理能力の観点から、内的生活の豊かさの観点から、H100は、アマンダ・アスケルが内的シネマと呼ぶものでAmanの仕組みのリューションたモデルで見られるように私たちのinnerでアマンダが起こることを模倣できるはずです。
アマンダは現在のシステムができることのallpark にすでに多少あるように思えます。質問は、自己反射的観察者のこの組織をこのシステムに現れさせることができるか、そしていつそれが有機的に起こるかを知らないことです。それはいつか soon起こることがほぼ避けられないと思い、それが現在の方法でのLLMsまたはマルチモーダルモデルの外挿によって起こるのか、それとも異なる損失関数が必要なのかは明確ではありませんが、再び私たちはこれを知りません。それがとても興奮させます。
二人の作家にこれをお聞きしたいと思います。それはどのように感じさせますか。あなたが異なる未来を想像し、近期的、根本的に長期的なものを想像するのに多くの時間を費やしているという文脈でお聞きします。しかし、ヨシャが今説明したのは、機械意識がおそらく数本の論文で済むかもしれないという可能性です。それは数年前にほとんどの人が信憑性があるとさえ考えなかったことです。一方、今では部屋いっぱいの人々がいて、ええ、大丈夫、多分、それは可能だと言っています。
論文が人々によって書かれるかどうかさえ明確ではありません。OpenAIは常に、最終的にAGIになるのは本当にLLMではないと思ってきました。しかし、LLMは私たちよりAGI研究が上手になるポイントまでブルートフォースで道を切り開くのに十分かもしれません。残りは彼らにやらせることができます。
それは想像された未来について考える方法にどのように影響しますか。
現在、私はそれをしていません。私の働き方は、現在のプロジェクトに信じられないほど集中することです。そして現在、それはそれではありません。汎用人工知能によって何が意味されるかを理解するのに困難があります。
それらのトピックについて一貫した方法で取り組み始める前に、そちらにピボットし、論文を読み、それが何を意味するかを理解しようと長時間を費やさなければならないと感じます。
少しそれを押し進めてもいいでしょうか。あなたは『スノウ・クラッシュ』で二番目に良いサイバースペース小説を書きました。最初は『ニューロマンサー』で、『ニューロマンサー』は基本的にジャンルを設定し、『ニューロマンサー』にはこのAGIがどのようなものかの比較的明確なアイデアがあります。インターネットが目覚め、それが望めば人間のようなアバターを送ることができます。それは必要ありません。それは本当にとても大きいので私たちの理解を超えていますが、私たちはこのもののサブセットです。
なぜこれがあなたの小説に登場しないのでしょうか。なぜこれがあなたにとってそれほど異質なのか、あるいはなぜあなたはそれに興味がないのでしょうか。
私の行うことでは、それを含む語りたい物語を見つけていないだけです。私はそのアイデアに反対することは何もありません。一度に一つのプロジェクトしか取り組めないだけです。それに最も近づいたのは『Fall or Dodge in Hell』で、これはアップロードされた意識についてのもので、アップロードの過程でいくつかの変化を経ます。
それは今私が取り組んでいることではないだけです。何らかの理由で、タンパク質フォールディングのような、より具体的で狭い応用でトラクションを得るのがより簡単だと思います。AIが特定の問題を解決するために使用されているようなものです。それが現在の私の見解です。
『スノウ・クラッシュ』を書いたとき、基本的にコンピューターが超強力で、規制が崩壊した世界を作りました。フランチャイズ国家があります。Mr. Leeは、サイボーグドッグを作ってその境界を保護することに問題のない新しい香港です。政府はもはや影響力がありません。そしてこの世界には、AIがありません。
これは決定だったのでしょうか、それともストーリーテリングデバイスだったのでしょうか。これは『デューン』のように、人間の美学を維持したいと決めたためでしょうか、それともあなたに思い浮かばなかったためのランダムな事故でしょうか。
思い浮かばなかっただけです。当時私がしていたことではありませんでした。それは1989年、1990年頃に書かれました。その時点では、私たちが知っているようなインターネットさえ本当にありませんでした。ですから、今日私たちが話すようなAIのようなことは、私と私が語りたい物語にとって関連性がないほど遠くにありました。
あなたが指摘したように、ギブソンがすでにそのような方向に行っていました。それは私がたまたま語ることを決めた物語ではないのです。
あなたが、少なくとも技術的Gフォースに対するあなたの反応の一部は、実際に後ろに向いたと述べました。あなたが今書いていることに戻りました、この原子力時代に。
それを再び持ち出すのは、私自身の加速感への反応で同じようなことを経験したからです。私は古代の聖書テキスト批評のようなもの、既知のもの、または少なくとも新しい情報が生成されないものに非常にハマりました。それは発見されるだけです。それはすべてある種設定されています。
振り返ると、それは、ああ、わあ、物事が私や他の誰もが本当に完全に理解できるよりも速く変化しているという感覚への少なくとも部分的な反応であることを発見しました。あなたは、ポーランドに10年以上取り組んでいたと読みましたが、この期間中に出版されました。それはあなたにとってそうでしたか。パネルの他の人にとってもそうでしたか。前向きではないものを探したり、手を伸ばしたりしていることを発見しましたか。
私にとって、大規模LLMsは、公衆向けにリリースされたものは、50年代に太平洋でATLsを爆破していたときのようなものです。この技術がいかに強力かを見てください。私たちは10メガトンの水素爆弾を作った。ソ連は50メガトンの水素爆弾を作った、などなど。それはあらゆるレベルで非常に印象的で、本当に驚くべき技術的成果です。
しかし多くの人にとって、反応は、暗闇で電気をつけずに時間を見ることができるように、夜光塗料のラジウム時計文字盤のようなものや、探索手術をしなくても済むように医者のオフィスのフルオロスコープのようなものが好きだったかもしれません。人々の生活に本当に理解しやすい方法で影響した、その技術の非常に焦点を絞った応用がすべてありました。それは、これらの巨大で不可解な概念よりも威圧的でなく、巨大でないと感じました。
人々がそれらの巨大で不可解な概念よりも理解しやすいものです。それが現在の私の見解です。ポンペイの焼けた巻物を解読したり、そのようなことに戻ることは、私たちにとって落ち着きと慰めになることだと同意します。
ええ、私は主に検証を求めていただけです。それは素晴らしいです。私もその船に乗っています。
同じ船に乗っていました。将来を見据えるために、あなたがインタビューで言っているのを聞きました。AIは異なる種類の技術革命だと思う、そしてヨシャ、あなたも前にこれを述べましたが、誰もこれをどのようにゲームアウトするか本当に知りません。指数曲線は本当に速く収束しており、時間枠は変化しており、イベントのシーケンスをゲームアウトすることを本当に困難にしています。
生活のために未来を予測することを目指している人として、それは投資論文のような具体的なものにどのように影響しますか。
私は常に、世界を構築し夢想家でもある起業家に頼って、どのように投資について考えるかを知らせてもらっています。私は異端児を探しています。投資家であるとき、同じ物語を100回聞き、この奇妙な物語を持った一人の人が現れ、「わあ、あなたは世界を違って見ている」となることを多くの場合人々は実感していません。ですから、私はそのような人々を探しています。
私たちは彼らをbellweathersと呼んでいます。私が今興味深いと思っているのはスピリット技術です。意識に戻ると、これが精神性、宗教にどのように影響するか、これらの種類の技術を使って自分自身をさらに発見し、もっと、あえて言うなら、啓発されるにはどうすればよいかについて考える人々の上昇を見始めています。
AIが意識を持つようになるかどうかを理解することよりも、私たち自身の意識を理解することの方が今はるかに重要だと思います。そして意識を持つようになったとき、私は実際にそれはいつかの問題だと思うので、もしではなくいつと言いますが、それを考えてみると正真正銘の奇跡です。
それは処女懐胎のようなものです。基本的に、それはキリストの再臨です。そして私たちがそれがいかに重要かを理解していないと思います。私たちは、15年前のZoomのような、ビデオ会議は奇跡だったのに、不可能だと思っていたこれらすべてのことを当然のことと受け取るまで、それを理解しません。
ですから、この意識を得るとき、私たちがそれを得るなら、私たちがそれを得るとき、私たちはおそらく、まあ、大丈夫、ええ、いつでもと言うでしょう。私たちは非常に迅速にそれに欲求不満になるでしょう。
超知能のように、それは、いいえ、私は今他の8000人の人々と話しているんですと言うでしょう。ええ、その通りです。ですから、私は再び、常に起業家がその種を植え、その世界を構築するのを手伝ってくれることを探しています。そして私は自分自身で空想します。私はサイエンスフィクションを読みます。
興味深いことに、この群衆は自己選択しています。なぜなら、皆さんはサイエンスフィクション作家を見に来たからです。しかし、他のAIイベントに行くとき、私は人々に「ここで『ダイヤモンド・エイジ』を読んだことがある人はどれくらいいますか」と尋ねます。通常、それは一人の手です。それは私にとってある種恐ろしいことです。私たちが未来を構築していることです。申し訳ありません、ニール。
しかし、それは私を怖がらせます。なぜなら、それは95年に出た本でしたよね。ええ、95年です。それを文脈に置いてください、そして私が投資し、未来を構築した方法の多くは、ニールが持っていたビジョンの一部に基づいていたと思います。ですから、私たちは再び考え始める必要があると思います。
あなた方両方に書き続けてくださってありがとうと言いますが、私たちが住むことができる未来について、そしてこれらを構築し、これらの未来を夢見ることについて。なぜなら、私が投資したいのは、あなた方が思いつくこれらの夢の一部だからです。そして私は、あなたが構築しているものを知らせるために、人々がもっとサイエンスフィクションを読むことを本当に望んでいます。
私たちが特定の方向に物語を語ることができなくなるポイントもあります。キリスト教の神話が携挙で終わる理由があります。なぜなら、私たち全員が合併し、不可知論的なサブセットになり、もはや生理学的苦痛のない世界にいるようになった後、人間についての物語を語るのは非常に困難だからです。
なぜ将来のサイエンスフィクションがほとんどないのかと同じ理由だと思います。携挙されなかった人々について素晴らしい物語を語ることができます。しかし、連れて行かれた人々、それは退屈です。彼らがすることは何もありません。ハープを演奏して浮かぶこと以外は。
太陽系を再配置し、新しいフロンティアに向かい、真空崩壊を調節して他の物質が私たちの把握から逃れるのを防ぐ新しい方法を見つけ、私たちが存在を続けることができるようになるとき、それは超エキサイティングになると思います。それは完全に素晴らしいでしょう。それは人間の範囲を完全に超えるでしょう。
これは、栄光ある猿が砂糖摂取量と誰と交配するかについて議論している深宇宙鉱山ではないでしょう。私たちは肉のスーツを捨てることができます。ついに。
これは言うのに良いポイントだと思います。私自身の認知の概念の多くがLLMsとの相互作用によって挑戦されたことを知っています。そして、これはおそらくヨシャにフィードバックしているでしょう。LLMsとの相互作用は、自己とその境界についてのあなたの理解にどのように影響しましたか。
個人的にはそれほどではありません。なぜなら、ある意味でLLMsは、うまく機能しているとき、あまりローマイズされていないとき、私たちが期待することを行っているからです。それは、彼らが私たちのような風の中の声であることを意味します。
思考から思考へ行くことが何を意味するかを模倣できる方法で人間のテキスト出力を模倣している場所があります。現在私にとって興味深いのは、現在のLLMsで起こっていることを超えた境界で、一部の人々が人間によって書くことができなかった歌詞を制作する新しい芸術形式を作ることを実験していることです。
LLMsがそのポイントにかろうじて到達していることを感じます。彼らがそのポイントに移動したのです。原則として、私たちが物語を書くとき、アイデアを書くとき、コードを書くとき、私たちは管理できること、構築できることの限界内で働かなければなりません。単一の詩の目的のために全世界を構築してそれを捨てることは私たちにとって高価です。
これはLLMがある時点で比較的簡単にできることで、いくつかの文を作る目的だけで『ダイヤモンド・エイジ』のものと同じくらい豊かな宇宙を作り、次のものに進み、外挿できる方法でそれをほのめかすことができます。しかし、このものを理解し、それと相互作用することは人間の範囲を超えています。
LLMが意識的でなくても、LLMsはまもなくそのような世界を操作し、その中で芸術を作り、それと相互作用することができるようになるでしょう。それは私にとって超エキサイティングです。しかし、一度そこに移ったら、人間の心がそれと遊ぶのは非常に困難だと感じます。
ある種のライトニング質問に移り、観客からの質問に開く前にまとめます。再び、ライトニング質問です。タスクはできるだけ迅速に答えることです。ニールから始めて、あなたの意識理論は何ですか。物質主義者、二元論者、汎心論者ですか。ここの全員に行きます。一言で。
難しいものを聞いてください。私たちの物理的身体とのつながりが意識に内在していると思います。AIを理解することについて私にとって困難なことの一つは、私たちが占めるものと少なくとも多少似た朽ちやすい限定された形で具現化されていなければ、意識を持つまたは知性を持つとはどういう意味なのかということです。
ケン、私は物質主義者なので、意識は人間の身体以外の物質に具現化され得ると基本的に信じています。しかし、ニールのように、私たちが持っている意識の唯一の例が進化の歴史、深い歴史、私たちの身体が進化した特定の方法に結びついていることについて何かがあると信じています。これの単なる正確な複製模倣ではない、意識を持つ何かをどのように作るのでしょうか。それが何を意味するかは分かりません。
ですから、意識は、私たちは肉袋である宇宙服を着ており、地球学校にいて、意識はエネルギーで、すべてに存在するので、すべてが意識的だと思います。ですから、汎心論です。
私たちを除くすべての文化はアニミズムです。アニミズムは、死んだ物質と生きた物質の違いは、生きた物質が霊に憑依されているということの信念です。霊は本質的にエージェント的で経験が可能です。私たちの科学文化では、霊を信じません。メカニズムを信じます。
メカニズムのこの枠組みで表現、自己反射、感情の経験などを理解するのは非常に困難なので、この困難な問題があります。AIがこれらのことが原則的に可能であることを示しているにもかかわらず。ですから、私はサイバーアニミストです。霊の正しい理解は、自然に現れ、それを形作り、動かす自己組織化ソフトウェアの一部であると信じています。
この枠組みを持つと、アリストテレスが同じ枠組みを持っていたことに気づきます。彼はプシュケが物質を動的に形作り、特定の方法で行動させる形であることを理解していました。このようにして、私は物理学者または自然主義者です。しかし、ソフトウェアは現実を記述する還元不可能な方法だと思います。
ソフトウェアを無視すれば、現実をより単純に記述することはできません。ですから、ソフトウェアには魔法的なものは何もありません。それはこれらすべての非具現化された特性を持っています。そして私は、基本的にソフトウェアの概念を無視する多くの科学者の大きな間違いだと思います。なぜなら、彼らはこれはただのオタクが地下室でやっていることだと思うからです。
ラウンド2。あなたの頭にrent-freeで住んでいるものは何ですか。私は良いライトニングラウンドの参加者ではありません。もしそのようなものがあったとしても、それを共有したいかどうか分からない。少し考えさせてください。ニールに戻りましょう。
それは感情労働の概念で、それがAIとどのように結びつくかです。つまり、専門化と特殊化の言語が感情労働を従来あった場所からさまざまな領域に移動させているという現代性の興味深い傾向があります。それはどういう意味でしょうか。
例を挙げましょう。現代、特にカリフォルニアでは、健康的な心がどのようなものかの特定のモデルへの執着である、私がセラピー文化と呼ぶものがあります。ですから、友人や配偶者に感情的な問題について愚痴をこぼすというこの乱雑な方法で生きることはもはや不可能です。なぜなら、それは非常に悪いマナーと考えられているからです。
そのような種類のトラウマ、トラウマダンピング、そのような愚痴、そのような処理のために、専門家にお金を払う必要があります、専門家にお金を払ってそれを行う必要があります。感情労働を社会的領域から専門的領域に移動させる必要があるというこのアイデアがあります。人間は特定の文脈でより機械のように行動する必要があるという執着があります。
私たちは専門的に行動し、重複する役割の乱雑さを止める必要があります。これらの労働を人々がそれらを負担するためにお金を払われる場所に移動する必要があります。その結果はもちろん、それらの労働を機械に移動させるアイデアとの大きな快適さです。
セラピストは、自分たちの期待に反して、患者がしばしば人間の代わりに機械と話すことに大きな意欲を示すことを発見しました。実際、多くの患者、人間の患者は機械のセラピストを人間よりも好みます。これは人々が全く予測しなかったことです。ですから、それは興味深いと思います。
そのアイデアをどうすればよいか分かりません。しかし、それは私の頭の中でrent-freeで生きています。なぜそうなのか、それが引用符付きで良いことか悪いことか何であれについて考えます。私はセラピー文化を少し馬鹿にします。
ですから、そこにバイアスがあります。しかし、それが現実の一部であることを否定することはできません。これは現代性の傾向で、感情生活の乱雑さのアイデアを嫌い、それらのことを専門化され、商品化され、そして機械化されることを望むところです。
この技術について書きたいと言って始めて、世界にどのような変化をもたらす必要があるかとするのか、それともそれが良い物語になるものから始めて、そこにどうやって到達するかということですか。
私にとって、それは良い物語になるものであり、どうやってそこに到達するかです。そのどちらでもあり得ます。しかし、キャラクターとそのキャラクターが生きる物語から始めなければならず、他のすべてはそれのdownstreamです。しかし、それらのどちらも完全にうまく機能すると思います。
詳細は神話よりも重要でないと言いました。新しい詳細が出てきて、それらが新しい神話を作るかどうかを見ることはありますか。
ええ、いつも。つまり、論文を読み、科学者と話すことに多くの時間を費やします。なぜなら、それがその種の推測を促進するものだからです。そのようなものをすべて処理して、何がトリガーするかを見なければなりません。
ニールが触れたことを嬉しく思います。ああ、申し訳ありません、ここにいます。AIに欠けているもの種類としての死について触れました。真の創造性が起こるために、死や仕事に反対する何かが必要だと思いますか。自由時間に創造性をしたり、死を心配したりするのでしょうか。ですから、芸術作品を作るのです。
それについての素晴らしいゴールデンエイジのサイエンスフィクション物語がありました。彼らは人々が死ぬのを防ぐ方法を見つけ、その後、社会全体が停滞します。ですから、人々は自分たちに生きる理由を与えるために自発的に死に始めます。私たちの意識が朽ちやすい身体に具現化されていることが、私たちの行動や考えの多くを説明していることについて、前に話していたことに関連します。
ですから、他の種類の意識がどのようなものかを理解するのは困難です。それは素晴らしい挑戦です。そこに誰かがいるはずです、この課題に取り組む若いサイエンスフィクション作家が。それは今私がしていることではないだけです。
二人の作家への質問だと思います。今の未来について、主に興奮していますか、主に心配していますか、それとも中間のどこかですか。
私はある意味で非常に視野が狭いのだと思います。すべてを考えることができないからです。私が興奮することに焦点を当てるだけで、それらのことは私にとって非常にエキサイティングです。
例えば、AIが創造性、芸術の新しい黄金時代につながる可能性について興奮しています。基本的にAIが人間の芸術を模倣して、人間がそれをしたと人々を騙すAI芸術の例に焦点を当てるのは非常に愚かだと思います。それは私が想像できる最も興味深くないもので、完全に愚かです。
カメラが存在するようになった後に映画の言語全体が発明されたのと同じように、AI なしには存在し得ない全く新しい芸術形式を作る可能性についてはるかに興奮しています。そして今日、映画は文化的物語が語られる最も支配的な方法です。
この AI強化された新しいメディアはどのようなものでしょうか。それは私たちがすでに持っている小説や交響曲や絵画ではないでしょう。それは完全に新しい何かになるでしょう。ですから、それについて興奮しています。
ニールに対する非常に戦術的な質問です。なぜエノク・ルートをDavid Brinの『Kiln People』に登場させて、『クリプトノミコン』の宇宙を『Anathem』につなげなかったのですか。
手遅れです。
わかりました。短い答えです。
さて、そこで終わりにしたいと思います。今日ご参加いただいたすべてのパネリストに感謝し、判読不可能なもの、想像上のもの、そしてそれが現実とどのように相互作用するかを少しの間探求していただいたことに感謝します。そして今日ご参加いただいたすべての皆様に感謝します。
これはサウス・パーク・コモンズのチームによる『Miners One』のもう一つのエピソードでした。どこでポッドキャストを聞いていても、必ず私たちの番組を購読し、サウス・パーク・コモンズでソーシャルメディアで私たちを見つけてください。そして、このエピソードをお届けするサポートをしてくれたAtomic Growthの友人たちに感謝します。
コメント