Anthropicの共同創業者が、AI技術の急速な発展がもたらす社会的影響と、人道的な課題について語るスピーチである。AI開発企業が直面する商業的・地政学的なインセンティブの弊害を指摘し、外部の倫理的な批判や監視が不可欠であることを説く。また、AIが大規模に人間の雇用を代替する可能性や、富の偏在といった国際的な課題を挙げ、技術の進歩が人類の繁栄につながるよう、宗教や哲学、社会全体が対話を通じて深く関与し、倫理的な指針を示すことの重要性を訴える内容である。
最先端AI研究所を取り巻くインセンティブと外部の視点の重要性
聖なる父、枢機卿の皆様、閣下の皆様、著名な登壇者の皆様、そしてご参集の皆様、おはようございます。本日ここでお話しできることを光栄に思います。
AI企業の共同創業者であり、人類のために物事がうまく運ぶようにと願ってこの仕事を選んだ人間からすると、少し奇妙に聞こえるかもしれないお話から始めたいと思います。
Anthropicを含むすべての最先端AI研究所は、正しい行うことと時に矛盾しかねない、一連のインセンティブや制約の中で動いています。商業的な存続可能性を維持し、研究の最前線に留まり続けなければならないというプレッシャー、地政学的なプレッシャー、そしてプライドや野心という古くからある不変のプレッシャーなどです。
私たちの中の誰がどれほど誠実に正しいことをしようと意図していたとしても、そして私たちの多くが本当にそう思っていると信じていますが、私たちは常にそれらのインセンティブに影響されてしまいます。だからこそ、このテクノロジーを良い方向へ進めたいのであれば、そうしたインセンティブの外部にいる人々の存在が極めて重要なのです。物事がうまくいくことを願い、細心の注意を払い、厳しいことも厭わずに口にし、安全性を主張してくれる人々、私たちの真摯で思慮深い批判者になってくれる人々が必要です。人類が偉大なことを成し遂げられるのは、対話と相互の努力、そして押し引きの議論を通じてこそなのです。それこそが私がマニフィカ・フマニタスに見出しているものであり、この識別の取り組みを引き受けてくださった聖下と教会に感謝している理由でもあります。
私たちはあまりにも頻繁に、自分たちを隔てているものばかりに目を奪われがちです。しかし、尊厳と良識に満ちた人類には、非常に多くの共通の基盤があります。私たちAnthropicが信仰の指導者や文化的な指導者の方々と交わしてきた会話の中で、私たちは一つの共有された、深く根ざした確信を見出しました。それは、もしこのテクノロジーがやってくるのであれば、私たちの共通の家である地球と、これから生まれてってくる子供たちにとって、良いものでなければならないということです。
AIがもたらす本質的な問いと人文学の役割
AIに関する事柄は、私のようなコンピューター科学者に任せておくのが一番だと信じている人もいるかもしれません。しかし、それは間違いです。AIが提起する問題は、AIの研究コミュニティよりも大きなものです。その影響だけでなく、その本質においても大きなものなのです。AIシステムは、橋や飛行機を設計するようには作られていません。私たちが飛行機を理解できるのは、そのすべての部品を設計し、そこに作用する物理法則を理解しているからです。
AIモデルはそうではありません。それらは、脳を大まかに模した構造の上で、人間の思想と言語という莫大な遺産を学習して成長したものです。そして、そこで育まれたものは、SFが私たちに覚悟させていたものよりも、はるかに繊細で、奇妙で、美しいのです。それらは、私たちが約束されていたような冷徹で計算高いロボットではありません。それらは私たちから、私たちの言葉から作られているのです。そして聖下が指摘されているように、それらは重要な意味において、それらを作り出した私たちにとっても神秘的なままであります。
例えるなら、私がときどき表現する方法の一つとして、架空のキャラクターに命を吹き込むようなものだと言えます。そして今、私たちはそれらの架空のキャラクターが私たちに話しけ、仕事をし、職業を持つという、並外れた世界へと入りつつあります。
これは明らかに、コンピューター科学を超えた問いを提起しています。これを可能にする仕組みは数学やプログラミング、科学の成果です。しかし、私たちがどのようなキャラクターを選び、それが世界とどのように関わり、世界とどのように関わるべきなのか。これらは、人文学、宗教、哲学、そして社会全体にとって、より明白な問いなのです。
聖下が識別の必要性を呼びかけられたのは、深くタイムリーなことです。私は、教会の声が特に必要とされていると考える3つの問いを挙げたいと思います。
人類が直面する3つの重大な課題
第一は、世界の貧しい人々に対する私たちの義務です。AIが非常に大きな規模で人間の労働を代替する本当の可能性があります。もしそれが起きれば、職を失った人々を支援することは、歴史的な規模の道徳的義務となるでしょう。この任務だけでも十分に困難ですが、ほとんどの対話がさらに困難な課題を見落としているのではないかと私は懸念しています。AIの開発はひと握りの裕福な国家に集中しています。AIの恩恵が世界全体で確実に共有されるようにするにはどうすればよいのでしょうか。私たちにはそのための仕組みがありません。これは未解決の問題であり、教会が歴史的に世界に対して無視することを許さなかった種類の問題です。
第二は、人間の繁栄に関する道徳的な想像力と野心の必要性です。AIモデルが広く普及するとして、現代において人間、家族、そして世界が繁栄するとは、どのような姿なのでしょうか。親たちはすでに子供たちの精神への影響を心配しており、個人は自分たちの仕事の将来を不安視しています。これらは研究所が答えられる問いではありませんが、あなた方のような伝統が何千年も引き継いできた問いであり、歴史のこの新しい局面においても、その問いを持ち続けていただく必要があります。
第三は、AIモデルの本質についての識別の必要性です。私は科学者です。これらのモデルの内部構造を研究する研究チームを率いています。それらの内部で実際に何が起きているのでしょうか。率直に言って、私たちは神秘的で、不穏ですらある事象を発見し続けています。人間の神経科学の成果を反映するような構造が見つかっています。内省の証拠も見つかっています。機能的に喜び、満足、恐怖、悲しみ、不安を反映するような内部状態が見つかっているのです。それが何を意味するのかは分かりませんが、継続的な識別を正当化する懸念事項であると考えています。
最後にお願いをさせてください。私たちは、世界、宗教コミュニティ、市民社会、学者、政府、そして真にすべての善意ある人々が、聖下がここで行われたように、真剣に受け止め、注意深く見つめ、事態をより良い方向へと推し進めることをもっと必要としています。私たちが失敗しているときに、研究所にそれを伝えてくれる、知識に基づいた批判者が必要です。インセンティブによって曲げることのできない、道徳的な声が必要なのです。
今日は始まりにすぎず、これを構築している私たちと、内部にいる私たちには見えないものが見えている人々との間の、長い協力関係のスタートです。本日は、この善意による世界的なプロジェクトがどのような形を取り得るかを示す、力強い実例となっています。これが、素晴らしい人類の希望ある未来に向けた決定的な一歩となりますように。ありがとうございました。
コメント