22,340 文字
皆さん、ようこそお越しくださいました。また、本日のライブ配信をご視聴の方々にも感謝申し上げます。本日のイベントには大変な関心が寄せられ、良い理由があってのことだと思います。4,000人以上の方々が参加を希望され、30分で満席となりました。本日はAudimogs講堂が満席となり、皆様をお迎えできることを大変嬉しく思います。特別ゲストやパネリストの方々、そして皆様をお迎えできることを大変光栄に存じます。
私はファトマ・デニズと申します。コンピュータサイエンスの教授を務め、神経科学と人工知能の学際領域を研究しており、またベルリン工科大学のデジタル化・持続可能性担当副学長も務めています。このイベントは私にとってもテーマ的にハイライトであり、来週末に終わる今学期の締めくくりとしても素晴らしい機会だと考えています。
本日は、AIの多くの可能性と課題について議論します。その中でも、AIのリスクを軽減しながら、いかにしてより良い方向に活用できるかについて話し合います。
簡単な前置きはこれくらいにして、パネリストの方々をご紹介させていただきます。サム・アルトマン、フォルカー・マケレ、そしてニコール・ベットナーの皆様です。ステージへお越しください。
私の左隣には、AIとスタートアップの世界における真の重鎮、サム・アルトマンがいます。Y Combinatorでの時代からOpenAIのリーダーとして、彼のキャリアは刺激的で厄介な、そして同時にモチベーション高く挑戦的なものでした。サム・アルトマンさんをお迎えします。
次に、フォルカー・マケレさんです。私は彼をデータの魔術師と呼んでいます。ベルリン工科大学のコンピュータサイエンス教授で、データベースシステムと情報管理の学科長を務め、ドイツ人工知能研究センターのチーフサイエンティスト、そしてドイツの6つの国立AI研究所の1つであるバイフォルドの共同ディレクターでもあります。フォルカーは最先端のデータ処理とAIインフラの推進力となっています。
また、AI、経済、イノベーションの分野におけるパワーハウス、ニコール・ビュットナーさんをお迎えできることを嬉しく思います。彼女はMerantixのCEOであり、エコノミスト、起業家、AIの専門家、そして投資家でもあります。最先端の技術をビジネスや政策立案者にも分かりやすく説明する能力を持ち合わせています。
最初の質問ですが、チャットボットを使う時に私自身も気づくことなのですが、皆さんはチャットボットに対して親切に接していますか？「お願いします」や「ありがとう」などの言葉を付け加えたりしますか？
サム：私はそうしています。
司会：フォルカーさんはどうですか？
フォルカー：以前はそうしていましたが、最近はあまりしなくなりました。
ニコール：私もそうしています。特に理由はないのですが、そうしています。
司会：私も揺れ動いていましたが、行ったり来たりしています。
サムさん、OpenAIにとって、特にあなたにとって非常に忙しい時期だと思います。それだけにベルリン工科大学にお越しいただき、大変嬉しく思います。ChatGPTのようなチャットボットは今日、インスピレーションを得たり、文章を下書きしたり、要約したりするのに使われていますよね？基本的に時間を節約し、近道を作ってくれます。しかし、これは科学的・学術的な仕事にとってどのような意味を持つとお考えですか？最も洞察に富んだアイデアは、時間をかけて近道を避けた時に生まれるのではないでしょうか？
サム：月曜日にDeep Researchというものを立ち上げました。これはChatGPTの時のような反響を呼んでいます。科学者たちが最も熱心に反応している人々の一つです。Deep Researchにクエリを与えると、あなたに代わって多くの研究を行うことができます。何時間も、数日も、時には数週間もかかるような作業を実行できます。少なくとも現在の形では、深い新しい洞察を生み出すわけではありません。しかし、科学者や研究者としてできることのための情報を集めるという点では、非常に優れています。
これこそが、私が考えるAIの役割です。AIは特定の分野で時間を節約することを助け、そして私たちはより高いレベルで作業ができるようになります。これは人類がツールを作ってきた歴史そのものです。機械に以前は人間がやっていたことをさせることで、より多くのことができるようになり、そしてより高い抽象度のレベルで自由に作業ができるようになります。これは素晴らしいことだと思います。
司会：フォルカーさん、Deep Researchや一般的に生成AIが科学や研究をどのように変革すると思われますか？
フォルカー：そうですね、多くの側面があります。もちろん自然科学などの変革があります。重要な部分の一つは、その分野でのファウンデーションモデルの到来です。ファウンデーションモデルは、データの構造やモダリティが大きく異なるため、トレーニングと統合にはまだ専門家が必要です。では、それをどうすれば改善できるのでしょうか？
しかし、病理学や地球観測などの分野では、すでにファウンデーションモデルが作られ、使用され始めているのを目にしています。そういう意味で、科学への転移効果があります。もちろん、コンピュータサイエンスについて話すと、多くの人々が近道を作ったり、物事を迅速に進めるために使用しています。Co-pilotはここでの重要な側面です。プログラミングを改善するためにツールを使用することは、多くの科学者にとって、複雑なPythonのロジックなどについて考える必要がなくなり、co-pilotで処理できることは、科学を大きく変えている大きな価値があります。
システム科学の場合はそれほど当てはまりません。なぜなら、そこでのコードはトレーニングの長いテールにあり、通常はファウンデーションモデルの一部ではないからです。新しいデータベースシステムやストリーム処理エンジンなどを構築したい場合、それは明らかに難しくなります。しかし、APIの統合や標準的な分析タスクには非常に強力なツールとなります。このように、明らかに変革的です。
人文科学などの他の種類の科学を見ると、特定のドメインに特化したテキストやデータに関して、モデルを訓練または適応させることは、多くの分野での質問応答に機会を提供します。そして、この場合の創発的な振る舞いについてはまだ完全には理解していません。そこからも興味深いことが出てくるかもしれません。
ニコール：そうですね、ラボインザループの可能性や実験の加速化により、これらのモデルが知識発見にも貢献できるということは、私にとって非常に楽しみなことです。
サム：AIが自律的に主要な発見をする時期は、今後2年以内だと思います。
司会：その通りですね。しかし、ビジネスの観点から、chat-GPTタイプのチャットボットが企業においてもこれほどのゲームチェンジャーになると考えていましたか？
ニコール：興味深い質問ですね。多くの採用が見られています。ドイツの企業は実際にこれに非常に興味を持ち、多く使用しています。最初の実験的な試みが見られます。ラックシステムでこれをよく目にします。この採用を始めることは素晴らしいことだと思います。
個人的には、コアビジネスアプリケーションを本当に検討し、その価値を引き出し始める今後の展開にもっとワクワクしています。これを実現するには、エコシステム全体が必要になるでしょう。GPTやCopilotを使用する人々もいれば、テクノロジーとの別のレベルでの相互作用も必要になります。今はまだ表面を掻いている段階だと思います。データや機能、技術、おそらくスピードも改善する必要があります。これを実際のビジネスプロセスに組み込み、単なるラックシステムから脱却するために。それは本当にエキサイティングです。
フォルカー：大学の観点から付け加えさせていただくと、私たちの顧客は学生です。大規模な英語モデルを学生のために活用する興味深い機会があります。もちろん、テキスト要約など、学生が現在使用している明らかなユースケースがあります。そして、GPTが質問に答える時、学生の学習効果をどのように確保するかを考える必要があります。
しかし、本当に興味深いのは、チャットボットをチューターとして持つことです。個々の学習能力とコースの焦点に基づいて対話できる、本当に個別化されたチューターです。この分野には大きな可能性があり、最終的には教育をある程度革新することになるでしょう。なぜなら、不足している教師やTAの負担を軽減し、より難しい課題に集中させることができるからです。これは私たちが掴むべき素晴らしい機会だと思います。すでに掴んでいる人もいます。
司会：はい、おそらく最後の方で、社会におけるこれらのリスクや懸念についても話し合うことになるでしょう。しかし、今日のニュースに沿って進めたいと思います。OpenAIとBifoldの影響について話すことは本当に重要だと思います。O3モデルの探索を促進するために、OpenAIが5万ドル相当のAPIクレジットを提供する研究パートナーシップを始めたばかりですね。そして、多くの新しい研究機会を一緒に探っています。OpenAIの将来に対するあなたの期待は何ですか？
サム：AIに関して期待していることは多くあります。先ほど少し触れましたが、個人的に最も期待しているのは、科学的発見に対してAIが何をもたらすかということです。科学的発見を加速させることができれば、1年で10年分の科学を、そしていつの日か1年で100年分の科学を行うことができるようになると信じています。それが生活の質、最も差し迫った問題の解決、気候問題への対処、あらゆる面での生活の向上、病気の治療にどのような影響を与えるか。それは重要で、信じられないほどの贈り物となるでしょう。そして、AIがついにそれを可能にすると思います。
GPT-4より賢いと感じている人はどれくらいいますか？では、GPT-5よりも賢くあり続けると思う人はどれくらいいますか？
司会：もっと手が挙がると思っていました。
サム：私はGPT-5より賢くないと思います。でも、それについて悲しくは思いません。なぜなら、それは私たちが信じられないようなことを成し遂げるために使えるということを意味するからです。私たちはより多くの科学的進歩を望んでいます。研究者たちが以前にはできなかったことができるようになることを望んでいます。これは人類の長い歴史です。今回は少し違って感じるかもしれません。なぜなら、これが可能にすることが違うからです。
しかし、科学者たちが非常に高いIQを持つツールを持ち、正しい質問を考えることにより集中でき、より早く物事に取り組み、より速く検索空間を探索できるなら、それは私たち全員にとって勝利です。そのような可能性を提供できることを嬉しく思います。
そして、GPT-5より賢いと言った2人の方々には、少し時間が経ってから再度お話を伺いたいですね。
フォルカー：私たちの観点からすると、高いレベルでは、もちろん企業との協力は研究をある程度現実的なものにします。これは実用性を高め、実際の現実世界の問題に焦点を当てるのに役立ちます。学術界だけで問題に取り組む場合、実用性の核心を見逃す方向に研究してしまうリスクが常にあります。これが一つの側面です。
もう一つは、もちろんリソースへのアクセス、モデルへのアクセスです。これらは非常に価値があります。
フォルカー：Bifoldと特にこの協力関係を見ると、もちろん私たちは科学へのモデルの応用に関する研究を行っています。先ほどサムと話したように、病理学におけるファウンデーションモデル、量子化学などのファウンデーションモデルについて、それらをどのように活用できるのか、システムをどのように活用して、非常に興味深い科学分野において新しい洞察を得ることができるのか、これがBifoldの核心的な部分の一つです。
個別化医療には大きな可能性があります。ケアの改善にも大きな可能性があります。BifoldはベルリンT大学とCharité大学病院の両方を含むので、ヘルスケア分野には多くの機会があります。私たちはまだその入り口に立ったばかりです。
一方で、もちろんBifoldではシステム研究も行っています。私はデータ管理の専門家なので、データのキュレーション、データの統合、準備のステップに関わっています。モデルがどのように訓練されるかを見ると、異なるステップがあります。それらをどのように再現可能で文書化されたものにできるでしょうか？サムとは、物事を説明する方法や、そこから出てくる機能について話し合ったところです。
一方では必要性があり、もの一方では機会があり、システムを含むプロセス全体を見て、物事をスケーラブルにする必要があります。これはBifoldで行っていることの一つです。より賢明なアルゴリズム、システムアーキテクチャ、そしてAIアプリケーションを効率的に書くのに役立つプログラミングモデルに関する研究を行っています。そして、もちろん知的なアルゴリズム、これが本当の機械学習の側面です。
私たちが知っているように、そしておそらく後で触れることになると思いますが、トレーニングはまだかなり高価です。大規模なデータセットを維持しながら、より効率的になることができるでしょうか？もちろん、小規模なデータでトレーニングしてモデルを組み合わせることはできますが、サムはどう思われますか？私たちが望む創発的な振る舞い（これはもちろん約束と恐れの両方を持っていますが、それでも非常に刺激的だと主張すべきですが）は、大規模なデータセットでのトレーニングでのみ観察できるでしょう。これが私の期待です。小規模なデータセットからそれらを得るのは難しいでしょう。なぜなら、その場合、達成したいことを既に明示的に構築することになり、暗黙的に誘導される振る舞いを得ることができないからです。
司会：はい、すでにさらなるパートナーシップのための多くの研究機会が聞こえてきますね。その通りです。素晴らしいですね。
では、AGI（人工汎用知能）に話を移しましょう。サムさん、あなたの元同僚のダリオ・アマデイが最近、次世代AI、基本的にはAGIについてのビジョンについてのエッセイを書きました。彼はAGIについて、基本的にはデータセンターの中の天才たちの国だと言っています。まず、あなたはこれに同意しますか？そして、これは次世代の科学者たち全般にとって何を意味するのでしょうか？
サム：この時点で、AGIの正確な定義が重要になってきていると思います。すべての分野の世界的な専門家が疲れを知らずに一緒に働いているという時点で、それは多くの人々がAGIと考えるものを超えています。
そのため、そこにいつ到達するかなどについて話すのではなく…申し訳ありません、それは本当に分かりにくい言い方でした。私が言いたいのは、今後数年以内に、多くの人々が「コンピュータがそれをできるとは本当に思っていなかった」と言うようなものに到達すると思います。
そして、科学的進歩の問題、つまり1年で10年分の科学を行うようなことができるものに到達すると思います。それはもっと先のことですが、それが世界が本当に急速に変化し、大きな恩恵を得る瞬間になるでしょう。
私たちは非常に急な軌道にいるように見えます。昨年は、スケーリングは終わった、これはもう機能しない、などと言って悲観論者になることを人々は好みましたが、私たちは新しいパラダイムを見つけ、これらの推論モデルを持っています。そして、それらは本当に賢く、しばらくの間スケールするでしょう。その後、私は再び別のパラダイムを見つけることを期待しています。
技術においてこのような急な指数曲線を見る時、それに賭けないほうがいいというのが、私が一般的に学んだことの一つです。そして、これが限界に達しそうだ、あれが限界に達しそうだ、この限界に当たるだろう、などと人々が言い始める時は、非常に懐疑的になるべきです。
私たちには、本当に学習できるアルゴリズムという基本的な解決策があり、それは続いていくように見えます。私たちは躓きの石に当たり、それを乗り越える方法を見つけなければならないでしょうが、AGIとそれ以上に到達し、ここからはかなり円滑なスケーリングになると思います。
司会：分かりました。それに関連して質問させていただきます。AGIの達成を独立して検証するのに、現在最も適しているのは誰だとお考えですか？
サム：重要なのは、人々にどれだけの効用をもたらすかということだけです。それがあなたにとって有用であれば、ある閾値を超えて有用であれば、それで素晴らしいのです。そして、専門家たちがそれがAGIかAGIでないかを議論したがるとしても、それは全く重要ではないと思います。
繰り返しになりますが、これは連続的な指数関数的な進化であり、連続的な効用の向上になると思います。唯一の問題は、それが人々をどれだけ助けているか、世界をどれだけ助けているかということです。
司会：同意されますか？
フォルカー：実際に同意します。また、おそらくそれは動く目標でもあるでしょう。技術が進歩するにつれて、AGIも前進し続けるでしょうが、確かにサムが言及した有用性の指標が、私にとっては重要なポイントです。
ニコール：そして、それは実際にテック産業として私たちがもっと提供する必要があることだと思います。なぜなら、何が起こっているのか、最新の開発は何かについて多くの議論をしていますし、もちろん私たちは皆それに興味を持っていますが、多くのビジネスにとって、私たちはこの技術を教師、看護師、ビジネスマンの手に渡して、実際に時代の課題、労働力不足、増加する財政的制約や時間的制約の中でより多くのサービスを提供する必要性、病気の治療などを解決する手助けをするために構築しているのです。
そのため、それは私がさらに興味を持っているものでもあり、私たちがそこに到達した時、人々に非常に有用な方法でそれを届ける準備ができている必要があります。この翻訳メカニズムとこの橋渡しは、AGIに到達する時までに確実に修正しておく必要がある本当に重要な部分だと思います。
司会：基本的に、システムを使用し、その恩恵を受けている個人が、その一般的な知能を判断できる立場にいる人たちであると合意できますね。はい。
では、AIへの投資について少し方向を変えましょう。アメリカでも興味深い時期を迎えています。OpenAIは最近、大規模なStargateプロジェクトを発表しました。4年間で約5億ドルを投資する新会社です。はい。アメリカのリーダーシップを確保するためだと言われていますね。MicrosoftやNvidia、Oracleなどの大手企業も参加しています。
しかし、基本的に、大金以外に、Stargateは何を可能にすると思いますか？OpenAIが単独ではできなかったことは何でしょうか？
サム：2つのことがあります。1つは、より大きなコンピュータで、より良いモデルをトレーニングできるということです。世界は私たちがGPT-5やGPT-6で止まることを望んでいないと思います。それが続くことを望んでいるでしょう。そして、Stargateは、私たちが過去数年間保ってきた同じ改善の曲線を、今後数年も維持することを可能にすると思います。それは非常に高性能なモデルに私たちを導くでしょう。
もう1つは、人々が本当にこれらのシステムを多く使いたがっているということです。私たちが進歩を重ねるにつれて、コストを下げ続けています。大まかに言えば、毎年、前年の知能を10倍安く、そしてさらに10倍安くすることができます。ムーアの法則は18ヶ月ごとに2倍になることで世界を変えました。これは12ヶ月ごとに10倍になります。それは非常に強力な違いです。
しかし、それを行うと、それらのサービスを使用する需要は10倍以上に増加するように見えます。また、推論時に大量の計算を使用できる本当に高性能なモデルをトレーニングする時、がんを治すためにかなりの計算を使用することをいとわないかもしれません。そのため、世界がこれらのサービスを実行するために要求する計算量は急激に増加しています。私たち自身の推論消費を見ると、そのように上昇しています。それがプロジェクトのもう一つの部分です。人々がこれを使用できるようにすることです。
現在、何億人もの人々がOpenAIの製品を使用しています。すぐに数十億人になるでしょう。そして、彼らはそれを多く使用し、さらに多く使用したいと望んでいます。
司会：ありがとうございます。そして、ニコール、このStargateプロジェクトを見て、ヨーロッパの企業は比較してどのようなものが必要だと思いますか？
ニコール：はい、私たちはヨーロッパでAIと技術の規制について多く話し合っています。私は起業家であり投資家なので、機会について話し、より多くの投資を見たいと思います。そして、構造的に、ヨーロッパと米国の企業を比較すると、ヨーロッパの企業は米国と比べて構造的にイノベーションとR&Dへの投資が少なく、また異なるタイプのイノベーション、ハイテクよりもミドルテクに投資する傾向があることが分かります。
これは変える必要があり、しかも早急に変える必要があります。そのため、このトランスレーションメカニズムを本当に効果的にし、これらの投資がいかに迅速にビジネス価値に変換できるかについてのアイデア生成を手助けするために、より多くの企業とアライアンスを構築することを楽しみにしています。
これは本当に最後の警鐘として良いと思います。私たちはここにいて、資本があり、素晴らしい人材があり、実際にヨーロッパには非常に興味深いデータプールがあり、非常に興味深い産業があります。そして、この独自の利点をどのように活用できるでしょうか？構築された素晴らしい技術（ちなみに、ヨーロッパの研究が多く貢献している）と組み合わせて、多くの雇用と成長、ビジネス価値を生み出し、多くの問題を解決することができます。
これがその刺激となることを願っています。そして、それが私たちがMiranticsで行っていることです。企業のためのそのような橋渡し役になろうとしています。
フォルカー：私にとって、それは全てデータに関することです。既に言及されたように、重要なのは、特にドイツの中小企業に、現在活用されていない規模のデータの富が存在することです。生産プロセスや顧客データベースなど、多くのものが現在同じ規模で活用されていません。アプリケーションについて話すなら、そこには大きな機会があると思います。もちろん規制があり、もちろんハードウェアのスケールなどがありますが、重要な側面は本当にデータを活用することだと思います。そこに到達する必要があります。
サム：ドイツは私たちにとって信じられないほど素晴らしい市場です。ヨーロッパ最大の市場であり、世界でもトップ5の市場です。人々はそのツールで信じられないような仕事をしています。私は、ほとんどのヨーロッパ人がAIがここで使用され、ここで発展することを望んでいると強く確信しています。彼らは経済成長を活性化させたいと望んでいます。科学を推進したいと望んでいます。ヨーロッパのインフラを望んでいます。私たちもそう望んでいます。
私たちは「Stargate Europe」のようなものを作りたいと思っています。支援は必要ですが、いつの日かヨーロッパが統治・運営できるようなものを構築したいと思っています。それは素晴らしいことだと思います。私たちは世界の他の地域と同じくらい早くヨーロッパで製品を展開できるようになりたいと思います。強いヨーロッパは世界にとって本当に重要だと思いますし、ヨーロッパ人はこの技術で素晴らしいことをするでしょう。
ヨーロッパの人々は、この技術のルールをどのように設定したいかを決める必要があります。もちろん、どのようなルールであっても私たちは従いますが、ここでは明らかに私は偏った立場にいますが、AIを採用し、世界の他の地域に遅れを取らないことがヨーロッパの利益になると思います。
司会：それは直接、EUのAI法全般について考えさせますね。米国企業がヨーロッパを見る時、これをどのように見ていますか？
サム：私たちは法律を遵守し、ヨーロッパの人々の願いを尊重します。皆さんが決めることです。私たちはルールに従います。
司会：ニコール、あなたは？申し訳ありません。同意されますか？
サム：しかし、決定する必要があります。異なる規制体制には利点があり、経済的影響があり、それは社会的影響になるでしょう。
ニコール：私は、大陸として最先端の技術へのアクセスを持つべきだと思います。正直に言って、このアクセスを持たないことにメリットは見出せません。私にとって、技術を形作る唯一の方法は、それにアクセスし、マスターし、それと共に働くことです。
私は過度の規制に反対です。皆さんもご存知の通りです。また、そうするのは時期尚早だとも感じています。私たちはこの革新的な能力を維持し、それを奨励したいと思います。また、これは事実上の規制だけの問題ではありません。ルールを明確にすることについての全く別の問題があります。ルールが何であれ、それらが非常に明確であることが重要です。
しかし、これはマインドセットの問題であり、注目の問題です。私たちは国のエリートたちに何を望むのでしょうか？私たちが持っている全てのテック人材に何を望むのでしょうか？ここに座っている人たちに。彼らにルールに集中してほしいのでしょうか？それとも機会に、そして問題をどのように解決できるかに集中してほしいのでしょうか？それが私たちが自問する必要のある質問です。そして、私は非常に明確に機会派の陣営にいます。
フォルカー：あなたの言葉に同意するばかりです。私たちが技術から切り離されず、実験し、試し、探求する能力を持つことが本当に重要だと思います。もちろん、最終的に害を防ぐための規制は必要です。しかし、時として規制が早すぎることがあり、そうなると経済、市場、そして一般的な機会を断ち切ってしまう大きな危険があります。
司会：素晴らしい。それは私が考えていた次のトピック、オープンソースについて考えさせてくれます。基本的に、Stargateプロジェクトが発表された直後、中国の企業がオープンソースのチャットボット、DeepSeek Rを公開しました。
大学では一般的に、科学においてオープンソースとオープンデータは、先ほど議論した説明可能なAI、そして再現性との関連で非常に重要です。DeepSeek Rのリリース後、あなたは最近Reddit上でOpenAIはオープンソースに関して歴史の間違った側にいたと言及されましたね。このリリースは、実際にまたは一般的にオープンソースは、競争力の面で、また生成AIにおいて一般的にOpenAIにとって何を意味するのでしょうか？
サム：はい、明らかにオープンソースには場所があります。オープンソースモデルは世界に存在し、多くの価値を人々に提供するでしょう。AGIをオープンソース化すべきかどうかについては議論できますが、現在のレベルのこれらのモデルがオープンソース化されることで価値を生み出さないと議論できる人はいないと思います。だから、それは良いことだと思います。
私たちには多くの優先事項があり、それが言うは易く行うは難しい理由ですが、世界に良いオープンソースモデルが存在することを嬉しく思います。
司会：そして、現在OpenAI内でも議論を行っていますか？
サム：はい、行っています。まだ決定は出ていませんが。
司会：分かりました。フォルカー、これについての利点と欠点をどのように考えますか？
フォルカー：はい、いくつかの側面があります。オープンソースモデル、トレーニングデータのオープンソース化、トレーニングプロセスのオープンソース化があります。科学的な観点からは、もちろん、この3つ全てがオープンであることは非常に価値があります。なぜなら、これによってさらなる探求が可能になり、学習が可能になり、また生産性の向上にもつながるからです。
もちろん、大きな投資をする企業にはそうするインセンティブがないかもしれないことは理解できます。しかし、科学的な観点からは、もちろんこれは重要です。そして、科学では再現性などの他の理由でも、このオープンソースの傾向が見られると思います。それは説明可能性にも役立つかもしれません。これは一部の分野での採用に重要かもしれません。
また、事後的に指摘するのも興味深いかもしれません。コンピュータサイエンスの歴史を見ると、最初はクローズドソースのシステムがあり、時間が経つにつれて一部のものがより商品化されると、オープンソースになりました。これは効果的なフォロワーなどのマーケティング戦略でもあります。それについての問題もありますが、将来的には、より多くのオープンソースモデル、願わくばトレーニングプロセスやデータもオープンソースになり、特に科学の特定の領域でそうなるだろうと思います。
司会：しかし、大規模言語モデルの場合、そしてAI一般において、多くのものが早い段階でオープンソース化されたという事実が、この発展を促進し加速させてきたことにも同意されますよね？
フォルカー：その通りです。これは科学の機能する方法の鍵です。科学は公開することについてであり、科学はオープンな公共のプロセスについてです。これは科学的プロセスの中で完全に理解されています。これは良い科学的プロセスです。物事をオープンにすることです。そして、これは私の意見では、公的資金を受けている全ての科学者にとって要件であるべきであり、ほとんどの場合そうなっています。
司会：では、これによって分野が企業の観点からも平等になったと思いますか？なぜなら、今はオープンソースのチャットボットでも可能性があるからです。
ニコール：私にとって、これはイノベーションの景観であり、エコシステムです。これがうまく機能するためには、異なる部分が必要です。境界を押し広げる人々が必要です。そして、これはリソースの問題でもあることを私たちは知っています。これらのコンピュータ、インフラへのアクセスは重要であり、誰もがそれを持つことはできません。
それが正しいか間違っているか、そして社会や経済としてどのようにしたいかについて議論することはできます。現在、それはボトルネックです。そのため、オープンソースがあることは良いことだと感じます。より多くの人々が貢献し、イノベーターたちを押し進めています。
しかし、私にとってはどちらかという問題ではありません。オープンソース技術を企業レベルで使用可能にするには、それは全く別のレイヤーを必要とすることを私たちは知っています。安全性、セキュリティ、これら全てのために、それらのソリューションが必要になります。
私にとって、それはどちらかではなく、エコシステムです。全てが手を取り合って進み、願わくは開発を加速し、多様化し、そこで境界を押し広げるために全ての人を参加させることができます。
司会：分かりました。フォルカーが触れた、そしてサムも先ほど触れたことについて少し話したいと思います。データ効率、そしてエネルギー消費についてです。聴衆の多くの方々が考えていることだと思います。
最近まで、AI企業はより大きなモデルとより大きなデータセットでのトレーニングに焦点を当てていました。科学コミュニティでもデータがボトルネックになるという議論がありました。しかし今は、先ほども話しましたが、より推論能力のあるモデルへとシフトしています。そして、より良い答えに到達するために、これらのモデルは推論時により多くの計算を使用しています。
最初の質問ですが、推論モデルは従来の事前トレーニングでは不可能だったどのような能力を提供しますか？
サム：はい、モデルは信じられないほど効率的になっています。トークンあたりのワット数を考えると、非常に高品質な回答を返すために、おそらく人間に質問して、その人が必要とする食事のエネルギーよりも効率的です。彼らは非常に、非常に効率的になっています。
ずっと昔、Googleが最初に登場した時のことを覚えています。一種の道徳的パニックがありました。なぜなら、人々は「その1つの質問のために、データセンターでこれほどの電力を使用するなんて、ひどい」と言いました。そして、私はこう考えました。それが置き換えているのは、誰かが車のエンジンをかけ、15分かけて図書館に行き、何かを調べて、戻ってくることです。そして、彼らが摩擦が低くなったために100回多くそれを行ったとしても、以前よりもはるかに少ないエネルギー使用です。
今日のAIは世界のエネルギーのごくわずかしか使用していません。クエリあたりでは実際にかなり効率的です。私が最も興味を持っている枠組みは、AIを禁止すると言う世界もあり得ます。エネルギーを使いすぎるから。コンピュータを禁止し、ついでに電球も禁止します。暗闇の中に座ってエネルギーを全く燃やさないようにします。それは私たちが選べる世界です。
しかし、AIを使用し、この問題に数百メガワットやギガワットを使用する必要があったとしても、AIを使って効率的な核融合、安価な核融合を発見する方法を見つけ、そして世界中で炭素を燃やしている数千ギガワットの発電容量を非常に迅速に置き換えることができれば、それは大きな勝利となるでしょう。それがAIの約束だと思います。
私は効率性について議論することもできますが、本当に言いたいのは、気候変動という私たちの目の前にある課題に対する新しい科学的解決策を見つけ出さなければ、私たちは完全に行き詰まってしまうということです。AIなしでは、それを十分に速く行うことに明らかに失敗してきました。AIを使って試してみましょう。
司会：では、国家の電力網などの観点から、再生可能エネルギーは私たちが持つエネルギーニーズのギャップを埋めることができると思いますか？
サム：核融合が、今後数十年で地球上のほとんどのエネルギーを生成する方法になると思います。私たちは完全に大丈夫になると思います。
司会：私たちは完全に大丈夫になると思います。フォルカー、このコンテキストでは、AIの使用のための高品質なデータと効率的なデータパイプラインの重要性を評価することにより興味があります。
フォルカー：もちろん、データを効率的に使用することとモデルについて考える必要がありますが、それは一つの側面です。既存のものを使用するだけでなく、トレーニングプロセスをアルゴリズム的に改善できるかという質問もあります。なぜならそれが消費を下げる可能性があるからです。
ハードウェアの改善もあるかもしれません。それも私たちの助けとなるでしょう。もちろん、現在持っているものを使用することに加えてです。しかし、これはもちろん科学の役割です。ここで私たちを前進させることです。そして、私たちはこれをアルゴリズム的に行うことができます。
トレーニングの二次複雑性を克服することについて、既にいくつかの議論がありました。もしそれをNログNまで下げることができれば、エネルギー効率にとって大きな勝利となるでしょう。そして、将来的には、注意メカニズムやトランスフォーマー以外のモデルがそれを改善するのに役立つかもしれません。これは現在活発な研究であり、私たちのグループや世界中の多くの人々が研究している分野です。
同時に、もちろん私はハードウェアの専門家ではありません。ハードウェアの改善は、最終的にエネルギー消費を下げる可能性のある別の側面です。そのため、これは全体的なものです。この全体的なプロセスを見る必要があります。
しかし、サムに同意する点は、エネルギー消費を全体的に見ることです。AIにはコストがありますが、エネルギー消費のトレードオフにも利点があります。このように全体的に見ると、時として利点を忘れがちかもしれません。しかし、繰り返しになりますが、これは全体的なものだと思います。もちろん注意を払う必要があります。私たちは気候変動の時代にいることを知っています。問題の時代にいます。そして、AIが何をするにしても、それが問題を解決する助けとなり、悪化させないようにする必要があります。
司会：つまり、この場合、非常に責任ある方法でそれに対処し、そのリスクを念頭に置いておく必要があるということですね。
では、Q&Aに移る前に、多くの興味深い質問があったので、聴衆からも多くの質問をいただいています。ここでちょっとSFを参照してみましょう。これは必要だと思います。スペース・オデッセイのHALについて考えてみましょう。AGIを示す最初のファウンデーションモデルが、創発的なニーズに基づいて自己複製、自己改善、自己修正できると期待しますか？そして、たぶんより重要なことは、それを期待するとしても、OpenAIはこの欲求を認識できるでしょうか？企業はこの欲求を認識できるでしょうか？そして、これとその潜在的な社会的影響を報告することについて、OpenAIのような企業にはどのような責任があると考えますか？
サム：はい、自己複製し、自己改善する宇宙探査機のようなものになるまでAGIとは認めない人々もいます。個人的には、その節目よりもずっと前の段階でAGIとしてカウントします。そして、もちろん、私たちがそれに近づいたら人々に伝える責任があります。私たちはそうするでしょう。人々に伝えます。
司会：どのようにして分かりますか？
サム：人々にどのように伝えるかですか？
司会：いいえ、その欲求をどのように認識し、どのように伝えるかということです。
サム：ああ、システムの中でそれをどのように見るかということですね？それは徐々に感じられると思います。人々は自己改善をとても二元的なものとして話しますが、実際には科学者の作業を少し速く、そしてより速く助けることができ、今はより多くのことができ、さらにより多くのことができるようになるといった具合です。そのため、きれいな二元的なものではないと思いますが、傾きの変化率について何かを見ることになるでしょう。
司会：分かりました。この部分をありがとうございました。Q&Aに移りましょう。先ほど申し上げたように、多くの関心がありました。1,000以上の異なる質問をいただきました。そこで私たちは、これらの質問をクラスター化し、トピックごとに代表的なものを選びました。これらの質問のいくつかを読み上げ、聴衆に質問させていただきます。時間を見ながら、できるだけ多くの質問に答えていきたいと思います。
最初の質問はオリバーからです。オリバーはこう言っています：「魔法のように機能する製品で社会と経済を進歩させることについて、パネリストの意見を聞きたいと思います。つまり、それらが実際に何をしているのか理解していない、アナロジーで機能する製品についてです。ブラックボックス工場から出てくる車を作ることに、どのように成功できたでしょうか？」では、説明可能なAIの観点から、現在ブラックボックスである これらのモデルをどのように信頼できるのでしょうか？
サム：私は毎日、どのように機能するのか理解していない製品を使用しています。そして、特定の入力が特定の出力を与えることを理解していれば、信じられないほど複雑なシステムを使用することができます。たぶん私は車がどのように機能するか理解していますが、電子顕微鏡がどのように機能するかは確実には理解していません。ナプキンにざっと書き出すことはできますが、作ることはできません。しかし、使うことはできます。それで良いと思います。
私たちはAIモデルに対して高いレベルの堅牢性と予測可能性、そして一般的に受け入れられる安全性を持つ必要があります。しかし、ユーザーは洗練されており、理解しています。繰り返しになりますが、多くの人々が重要な作業にchat GPTを使用しています。そして、全体として、彼らはいつ信頼できていつ信頼できないかを非常によく理解しています。そして、おそらく彼らのほとんどはトレーニングできないでしょう。でもそれは大丈夫です。
それが世界の経済的価値交換です。ある人々が何かを構築します。彼らはそれがどのように機能するかについて十分理解しています。私たちは完璧には理解していませんが、驚くほどよく理解しています。そして、美しさと私たちの仕事、そして私たちが報酬を得る理由は、あなたが使用するほど簡単にすることを望んでいるということです。それは大きな価値を提供します。そして、トレーニングプロセスの細部について全て考える必要はありません。
フォルカー：はい、もちろんシステムには安全性の考慮事項があります。私たちは伝統的にエンジニアリングシステムを構築し、設計し、物事を証明可能に正しくしようとします。様々な側面を見て、それらを使用できることを確実にします。
そのため、AIについて私が見る方法は、私たちはまだそこには到達していません。明らかにそうです。そのため、どのようなミッションクリティカルな側面に、どのような方法でそれを使用できるかという質問があります。もし原子力発電所でのエラーの余地のために核のメルトダウンのリスクがあるなら、この時点では、AIなしで構築された証明可能に正しいシステムに頼る方が良いと思います。
同時に、もちろん、それほど重要でないシステムもあります。そこで判断を下す必要があります。そして、それは常に社会において、どのようなシステムで、どのような潜在的な損害で、このコンテキストでAIを使用できるかについての判断です。しかし、個人的には、現時点ではAIが制限されるべき領域がまだあると言うでしょう。
ニコール：それは非常にユースケース依存です。そして、説明可能性について話す時、質問はまた、私たちが何を意味し、実際に何を理解したいのかということです。アルゴリズムが画像のどのエッジを見たのかを理解する必要があるのでしょうか？それとも、実際に腫瘍を見ていたのか、それともスライドの背後の何かを見ていたのかを理解したいのでしょうか？
私たちは100%の説明可能性が必要かどうか確信が持てません。同意します。私たちは本当に何が必要なのかを考える必要があります。そして、採用のために一部のアプリケーション、より安全性や健康に関連するものでは重要だと思います。なぜなら、人々はそれがどのように生まれたのかを何らかの形で理解できない場合、出力を使用することを躊躇するからです。
しかし、それは人間のようなものだと思います。現時点では、私が下す決定の中には100%の説明可能性を持つことは幻想だと思います。おそらく誰もがそうでしょう。分かりません。
司会：分かりました。次の質問はヴェロニクからです。ヴェロニクは尋ねています：「AIがFAIRデータ原則（見つけやすく、アクセス可能で、相互運用可能で、再利用可能）に準拠した信頼できるデータのみを トレーニングに使用することをどのように確保できますか？」
フォルカー：それはデータキュレーションの問題です。使用するデータソースがそのような性質であることを確認することです。多くの検証があります。そして、もちろん、それを行う半自動的な方法もあります。情報抽出、情報統合の分野には多くの研究があり、その一部は再び機械学習モデルを使用して行われています。
それらを適用する必要があり、そして検証のためのチェックとバランスを持つ必要があります。もちろん、多くの場合でそれを行っていると想像します。例えば、病理学などの特定のコーパスのためのファウンデーションモデルを構築する時、そのような種類のソースを見ています。このように、それらの原則に従って行う必要があります。
ニコール：この側面で興味深いのは、基本的にデータの品質に光を当てているということです。そして、どのようにデータの品質を確保したいのかということです。そこで、人間と機械の相互作用が興味深くなるでしょう。なぜなら、これらの事柄を検証するために多くの人間が必要になり、そしてこれを行う多様なチームを確保する必要があるからです。
また、基本的に、人間がなぜシステムにフィードバックを与えたいと思うのか、なぜ高給の放射線科医や弁護士がそうしたいと思うのかということを奨励することも重要です。それは、適切なインターフェースを設計し、私たちが一部のこれらのことのために機械の教師になりたいと思うような仕組みを作ることの問題だと思います。
司会：次の質問に移ります。ダニエルが質問しています：「AIをより強力にするための最大の技術的な困難は何ですか？」サム？
サム：より良いアルゴリズム。より大きなコンピュータ。トレーニングするためのより難しいデータセット。何が機能していないかについてユーザーからのフィードバックからより多くを学ぶのに役立つより良い製品の構築です。
しかし、今後2年間で私たちがどれだけの進歩を遂げると思うかについて、言い過ぎることはできません。私たちはこれらのモデルをいかに改善できるかを知っています。そして、私たちの前に明らかな障害はありません。Stargateを構築しなければなりません。多くの優れたエンジニアリングを行わなければなりません。研究者たちは作業を続ける必要があります。しかし、2025年2月から2027年2月までの進歩は、2023年2月から2025年2月までよりも印象的に感じられると思います。
司会：分かりました。何か付け加えたいことはありますか？
フォルカー：はい。言われたことに付け加えると、マルチモーダルデータと一部のより洗練されたモデルをどのように有意義な方法で組み込むことができるかは本当に興味深いと思います。特定のアプリケーションドメインからのスパースデータも。これは、特定のドメインでより強力にするために非常に興味深いと思います。
サム：また、これは皆さんにとって非常にエキサイティングです。皆さんは、おそらく私たちが今まで見た中で最も急な技術の傾斜を体験し、影響力のある仕事をする機会を得ることになります。もし私たちがこの改善率について正しければ。2027年にあなたができることは。今すでにできること、それは数年前には不可能だったことです。始めるプロジェクト。発見する科学。構築する企業。信じられないことです。
司会：それには同意します。ニコール、何かありますか？
ニコール：はい。私たちはとてもワクワクしています。私たちもファンドを運営していて、これを非常に特定のドメインと組み合わせているスタートアップ、テックバイオや医療分野など、あらゆる分野に非常に興奮しています。スタートを切るには素晴らしい時期です。投資をし、これが展開されるのを見るのは。投資家として、私は非常にワクワクしています。
司会：これは、ディルシャドさんの質問（発音が正しければ）につながると思います。もし今日あなたが学生だったら、将来のためにどのように準備しますか？
フォルカー：少なくとも、あなたから始めてもらいましょう。
ニコール：先に話しますか？私は、批判的に考え続けることが非常に重要になると思います。また、私はこのliminality（境界性）という言葉が好きです。最近発見しました。それは、かつてあったものと、これからあるものの間の状態です。それはその交差点です。そして、私たちは皆、それを少し感じているかもしれません。過去は、もはや私たちにより多くの選択肢を与えてくれません。しかし未来は、何が起こっているのかを感じることはできますが、正確には何が起こっているのか分かりません。この境界性と曖昧さの状態に対処できること、それでも建設的で、行動志向で、結果志向の方法を保つこと。だから、これを受け入れてください。物事が変化していることを受け入れてください。それは多くの機会があることを意味します。そしてそれはマインドセットの問題でもあります。
サム：明白な戦術的なことは、ツールの使用に非常に長けることです。私が大学にいた時、するべきことはプログラミングを学ぶことでした。それは素晴らしかったです。しかし、2025年初めのプログラミングと2025年末のプログラミングは全く異なるものになるでしょう。そして、あなたはその傾向の良い側にいたいと思うでしょう。AIツールの使い方を学ぶこと。以前よりもはるかに多くのことができるようになることを学ぶこと。それが明白な戦術的なことです。
あまり明白ではないことは、適応性とレジリエンスです。これらは非常に重要なスキルになるでしょう。これらは非常に学習可能で実践的です。練習でずっと良くなります。他の人々が何を望んでいるかを理解するスキル。これも学習可能なことだと思います。AIが何でも作れる、何でも生み出せる時、何をするか、人々が何に価値を置くかを決めることが本当に重要になります。
人間は他の人々と、他の人々が作るものに関心を持つように非常に強くプログラムされています。そしてそれは続くと思います。質問をする方法を見つけることだと言う人もいます。しかし、本当の答えは、他の人々が何を望んでいるかを見つけることだと思います。何が価値を生み出すのか？AIをどのように指示するのか？
私はかつてY Combinatorというファームでスタートアップ投資家をしていました。そこで得た最大の学びの一つは、人々がこのスキルを学べる程度が、私が思っていたよりもずっと高いということです。そして、私たちが教えるべきことだと思います。
フォルカー：皆さんに先に答えてもらいました。これは非常によくある質問だからです。そして、私の答えは常に同じです。結局のところ、T字型の学生という言葉が作られました。多くの皆さんがそれを聞いたことがあると思います。T字型の学生とは、幅広い知識と深い知識の両方を持つべきだということを本当に意味します。そして、両方を追求することは今でも非常に重要だと思います。
もちろん、あなたの特定の分野や科目領域で、それが何を意味するかを議論することができます。例えば、コンピュータサイエンティストとして、サムが言ったようにプログラミングですが、また特定の専門分野も必要です。それが機械学習アルゴリズムであれ、データシステムであれ、ロボット工学であれ、何であれです。あなたは一つの専門分野を深く知るべきです。
そこで学んだ知識の一部が最終的に時代遅れになったとしても、あなたは適応する方法、それを引き継ぐ方法を学んだはずです。これは先ほど議論された適応性についての興味深い側面でした。だから、深い知識と幅広い知識を持ってください。
エリック・シュミットがここに来て、全く同じ質問をされた時、結局は「マーケティングを勉強するな」ということになりました。これが本質的にエリック・シュミットから出てきたことでした。その理由は、それが幅広い知識だからです。もちろん、それは正しくありません。もちろん、そこにも知識を持つことは望ましいかもしれません。しかし、それと組み合わせて技術的な深さも必要です。だからこそ、私は常にT字型の学生というガイドラインに従うことを勧めます。
司会：これは学生にとって素晴らしい教訓でしたね。では、最後の質問として、皆さんに簡単に教えていただきたいのですが、2025年のAIについて最も期待していることは何ですか？
サム：はい、私は科学的進歩という答えを守ります。
フォルカー：はい、期待することは多くあります。私たちはAIシステムを通じて科学的プロセスのサポートが劇的に変化する時期を本当に目にしています。それがどのように活用できるか。それに本当にワクワクしています。また、新しいシステム開発にもワクワクしています。
そして、一般的にAIにいることは刺激的な時期だと思います。AIとデータの分野の研究者であることは。なぜなら多くの機会があるからです。起業の機会もあります。そこにはいくつかの選択肢があります。そして、あなたもそれについて話すでしょう。また、深い基礎研究の機会も多くあります。進化しているとはいえ、まだ多くの分野で非常にオープンな分野だからです。
そして、多くの皆さんにこの努力に参加することを勧めることしかできません。学術界でも、起業家としてでも、産業界でもいいです。なぜなら、それが未来があるところだからです。それが刺激的なことです。
ニコール：はい、私は例えば、テックバイオや医療のユースケースを多く見ていることにとてもワクワクしています。それは本当に素晴らしいと言えます。体を理解し、より良い治療法を作り出す方法。それは非常に刺激的です。ロジスティクスと製造を組み合わせることには、多くのクールな要素があります。基本的に、それはビジネスの核心により深く入り込むことです。新しいビジネス。新しいビジネスの創造。新しいビジネスモデルの創造。そして、テクノロジーとコアの専門知識の交差点で本当に価値のあるところで物事を加速することです。
知識検索システムからより物事の本質へと移行していくことを、より多く目にすることになると思います。そして、それは常に非常に刺激的です。
司会：素晴らしい。この非常にエキサイティングな未来の展望をありがとうございました。そして、もう終わりに近づいています。もう終わりと言いましたが。一緒に写真を撮りたいと思います。聴衆の皆様には着席したままで、私の指示に従っていただきたいと思います。
パネリストの皆様には今、私と一緒に立っていただきます。そして、振り返ります。皆様と一緒に写真を撮りたいと思います。そして、皆様も手を振ることができます。手を上げてください。もう終わりましたか？分かりました。
これをもちまして、皆様に心から感謝申し上げます。この素晴らしい会話をありがとうございました。聴衆の皆様、ありがとうございました。
フォルカー：ありがとうございました。
司会：ありがとうございました。
フォルカー：ありがとうございます。皆様、ありがとうございました。
コメント