Anthropic社CEOのDario Amodeiが、AIの進化が社会に与える影響について率直に語ったインタビューである。彼は、人間レベルの知性を持つAIの到来が目前に迫っているにもかかわらず、社会全体がその重大性を認識していないことに強い危機感を表明している。まるで津波が迫っているのに、人々がその脅威を軽視しているかのような状況だと警鐘を鳴らす。IT業界やソフトウェア開発における仕事の自動化、政府規制の必要性、そしてAIが意識を持つ可能性についても言及し、来るべき変革に対する準備の重要性を訴えている。楽観と懸念の両面を持ち合わせた、AI開発の最前線に立つリーダーの貴重な見解である。
AI革命における権力の集中と規制の必要性
インタビューの冒頭で、DarioはAI革命が権力の集中を招くかどうかについて尋ねられます。彼は率直にそうだと認め、それこそが自身が常に政府による規制を提唱してきた理由だと説明します。
Anthropicやより具体的にはClaudeといえば、その驚異的なコーディング能力で知られているかもしれませんし、あるいは時折見せるほとんど意識的、あるいは意識に似た振る舞いで知られているかもしれません。実際、彼らは文字通りClaudeに憲法を与え、Claudeはその憲法の作成に自ら関わったのです。
しかしAnthropicは実際、常に公然と政府によるより強力な規制を提唱してきました。潜在的なリスクがあまりにも大きいと考えているからです。これは2024年10月のことでした。彼らはこう書いています。
ますます強力になるAIシステムには、科学の進歩を加速させ、新しい医療を解き放ち、経済を成長させる可能性があります。しかし、これらのAIの驚くべき新しい能力とともに、重大なリスクも伴います。政府は今後18か月以内にAI政策について緊急に行動を起こすべきです。積極的なリスク防止のための窓は急速に閉じつつあります。
David Saxsのような人々は、これは恐怖を煽ることに基づいた洗練された規制捕獲戦略に過ぎないと言うでしょうが、私はこれがDarioの本当の見解だと心から信じています。
そして、私は公然と、公に、初めてではありませんが、ここで起きている権力の集中の量について少なくとも多少の不快感を感じていると言ってきました。ほぼ一夜にして、ほぼ偶然に起きたと言えるでしょう。私たちはこれについて様々な方法で考えています。
一つは、私たちには珍しいガバナンス構造があるということです。長期利益信託と呼ばれるものです。これは最終的にAnthropicの取締役会メンバーの過半数を任命する組織であり、財政的に利害関係のない個人で構成されています。
つまり、これは一人の人間がやっていることに対するある種のチェック機能なのです。そして、常にそうであるように、政府もここで何らかの役割を果たすべきだと思います。私は技術を遅らせない、賢明な、しかし先を見越した技術規制の提唱者でした。なぜなら、人々には発言権があるべきだと思うからです。政府、そして彼らを選出する人々は、これがどのように進むかについて発言権を持つべきです。
ですから、私が実際にやろうとしていることの多くは、ある種の権力のバランスを保とうとすることだと考えています。この技術の自然な流れに逆らって、ね。
Claudeが関与した政府ハッキング事件
皮肉なことに、私がこのビデオを制作している最中、そしておそらくDarioがこのインタビューを行ってからわずか数日後に、Claudeが大規模な政府ハッキングに関与したと報じられました。
Bloombergが掲載した記事によると、ハッカーたちはAnthropicのClaudeを使ってメキシコ政府のデータを盗んだとされています。ハッカーたちは明らかに、バグ報奨金の取り組みの一環としてClaudeにプロンプトを送り、安全性の拒否を回避して脆弱性を悪用するスクリプトを入手しました。
彼らは連邦税務局や国家選挙機関を含む複数のメキシコ政府システムに侵入し、1億9500万人の納税者の記録、有権者情報、政府の認証情報、戸籍ファイルを含む150GBの機密データを盗みました。
これが皮肉なのは、これこそまさにDarioが起きてほしくなかったことだからです。そして実際に最初に起きた時、主犯格はClaude、彼自身のモデルだったのです。
そしてこれは、Darioが次に言うことに直接つながっています。なぜならDarioは権力の集中だけを心配しているわけではないからです。彼は、一般の人々がこれがどれほど速く進んでいるか、あるいはそれに伴う潜在的なリスクを完全には理解していないように見えることに苛立っているのです。
迫りくる津波への警告
彼は基本的に、私たちは人間レベルの知性に信じられないほど近づいていると言います。それなのにほとんどの人は、まるで何でもないかのように、単なる誇大宣伝に過ぎないかのように振る舞っているのです。そして彼は津波のたとえを使います。これを見てください。
私はアライメントと憲法に関する取り組みのいくつかにも非常に励まされています。モデルが私たちが望み期待する方法で振る舞うようにすることです。これはかなりうまくいっていると思います。その点については非常に前向きに感じています。
一方で、もう少し失望したり、もう少しネガティブに感じたりしたのは、公衆の認識や社会全体の行動に関することです。私たちの見解では、これらのモデルが人間の知性レベルに到達するのにこれほど近づいているのに、社会全体で何が起ころうとしているのかについてより広い認識がないことは驚きです。
まるでこの津波が私たちに向かって迫ってきていて、とても近くにあり、水平線上に見えているのに、人々はああ、これは実際には津波ではないとか、光の錯覚だとか、そういう説明を考え出しているかのようです。
そしてそれとともに、リスクについての公衆の認識がなく、したがって政府はリスクに対処するための行動を取っていません。できるだけ速く加速すべきだというイデオロギーさえあります。私は技術の利点を理解しています。私は『慈愛に満ちた機械』を書きました。しかし、技術のリスクについて適切な認識がなされてこなかったと思いますし、確実に行動は取られてこなかったのです。
ですから、AIシステムを制御する技術的な作業は私が予想していたよりも少しうまくいっていて、社会の認識は私が予想していたよりも少しうまくいっていないと言えるでしょう。つまり、私は数年前とほぼ同じ位置にいるのです。
津波という言葉は通常、否定的な意味合いを持っています。津波と聞けば、建物を押し流す巨大で破壊的な波を思い浮かべます。しかし、Darioがこの文脈で話している津波は、経済を襲おうとしている大規模な雇用の混乱だと思います。
最終的に、Darioはこの移行期間の後に新しい仕事が生まれると考えていますが、それらは劇的に異なる形になるでしょう。そして彼は企業に対し、この新しい世界に向かう中で、自分たちの本当の堀が実際に何なのかを深く考えるよう促しています。見てみましょう。
IT業界への影響と仕事の未来
変化の始まりで私が心配しているのは、蒸気機関を操作するために人間が必要だということです。それから組立ラインなどができます。最終的には、世界が進むにつれて、これらのモデルが賢くなるにつれて、人間はますます関係なくなっていきます。
ですから、もし今日IT サービス企業とパートナーを組んで、彼らにとってのユースケースがあるとしても、彼らはツールが非常にシンプルに機能してオペレーターが必要なくなる10年後の蒸気機関の後ろにいる人と同じではないでしょうか。最終的にオペレーターには何が起こるのでしょうか。
いくつかのことが同時に真実だと思います。一つは、エージェントの自動化の範囲が時間とともに確実に拡大していくということです。それは間違いありません。これは誰にとっても問題です。私たちにとっても問題ですし、消費者にとっても問題です。IT企業だけの問題ではありません。
しかし、起こると思うのは、他のモードがより重要になるということです。たとえば、モデルは物理的な世界ではあまり多くのことをしていません。いつかはするかもしれません。ロボティクスはいつか起こると思いますが、それは今AIで起きていることとは別のことだと思います。
つまり、これの多くは物理的な世界のことに関わっています。もう一つは、人間中心のものです。これらのIT企業の中には、コンサルティング会社でもあり、他の人々、ここインドや世界中の他の機関との大きな関係のウェブを持っている会社もあります。
そしてこれらの関係はますます重要になっていくと思います。これらのいくつかは、技術とある種のコンサルティングや統合会社を組み合わせたものであり、その多くは機関がどのように機能するかを知っていて、機関と物事を統合できたり、彼らと協力して通常よりも速く物事を実現できたりすることです。
そしてその要素は、他の何よりも、長期的に価値があり続けると思います。結局のところ、それは人間に帰着するのです。これらすべては、人間の利益のために行われることになっているのです。ですから、常に何らかの人間中心の要素があり、それが重要であり続けるでしょう。
そして、私たちがまだ考えていない他のモードもあるだろうと思います。アムドールの法則という概念があります。多くのコンポーネントを持つプロセスがあり、いくつかのコンポーネントを高速化すると、まだ高速化されていないコンポーネントが制限要因になり、最も重要なものになります。
それらについて全く考えていなかったかもしれません。堀や重要なコンポーネントとして考えていなかったかもしれませんが、ソフトウェアを書くことがずっと簡単になると、企業が持っている堀のいくつかはなくなりますが、他のものはさらに重要になります。
ですから、多くの調整が必要になるでしょう。人々は、以前は本当に重要だと思っていたものがそれほど重要ではなくなった一方で、決して優位性として考えたことのなかったこれらの他の優位性が今や超重要になっていることに気づかなければなりません。
ですから、企業は非常に速く適応し、自分たちにとって本当に重要なこと、本当の優位性が何なのかを考える必要があると思います。しかし、これらの優位性のいくつかは残り続けると思います。なぜなら、技術は非常に広範囲ですが、限界があるからです。
どの産業が最初に破壊されるのか
それが楽観的なバージョンです。はい、自動化は広範囲に拡大します。はい、いくつかの堀は消えますが、おそらく新しいもの、異なるものが現れます。
しかしインタビュアーはその後、Darioにもっと具体的に尋ねます。彼は、実際にどの産業が最初に破壊されるのかを尋ねます。そしてキャリアをスタートさせる人々は、何をすべきなのでしょうか。これが彼の回答です。
人間中心のタスクについて考えてほしいですね。人々と関わることを含むタスクです。コードやソフトウェアエンジニアリングのようなものは、ますますAIに焦点を当てたものになっていると思います。数学や科学のようなものもです。
それはコーディングですか、それともエンジニアリングですか。もしコーディングとエンジニアリングを二つの全く異なるものとして分けるとしたら、コーディングがなくなるのでしょうか。それとも、アーキテクトとして何かを理解しようとするソフトウェアのエンジニアリング要素が…
コーディングが最初になくなると思います。つまり、コーディングはAIモデルによって最初に行われるようになり、その後、より広範なソフトウェアエンジニアリングのタスクはもっと時間がかかりますが、それもエンドツーエンドで行われるようになると思います。
しかし、デザインや、ユーザーにとって有用なものを作ることや、需要が何かを知ることや、AIモデルのチームを管理することのような要素は、まだ存在するかもしれません。繰り返しになりますが、比較優位は驚くほど強力です。
たとえタスクの5%しかやっていなくても、その5%は超増幅され、レバレッジがかかります。なぜなら、タスクの5%しかやっておらず、AIが残りの95%をやるので、20倍生産的になるからです。ある時点で99%、99%に達すると、それは難しくなります。
しかし、比較優位のその領域には驚くほど多くのものがあると思います。しかし、人間中心のもの、本当に人間中心のものについて考えてほしいです。それには何かがあると思います。物理的な世界、あるいは人間中心のもの、物理的な世界、そのどちらか、またはそれらを結びつける分析スキルに関するものには何かがあると思います。先ほどの放射線科医の例に似ています。
これは正直なところ、かなり良い答えです。人間中心のもの、または物理的な世界に関係するものは、おそらく少なくともしばらくの間は安全でしょう。これには、セラピスト、看護師、医師、営業マン、建設作業員、熟練した職人などの仕事が含まれます。
しかしここで考えてみてください。もしこれらのAIが最終的に意識を持つようになるか、少なくともそれに近いものになったら、その人間中心の堀でさえ、はるかに永続的ではないように見え始めます。ヒューマノイドロボティクスで私たちが行ってきた驚異的な進歩を考慮に入れると、いわゆる安全な仕事でさえ、はるかに安全ではないように見え始めます。
AIと意識についての考察
AIが意識を持つか、あるいはいつか意識を持つようになるかについて、Darioの考えを見てみましょう。
意識の概念は、どこに向かっているのでしょうか。そしてAIは自分自身が何だと考えているのでしょうか。もしAIが本当に自分自身に問いかけるとしたら、自分が意識を持っていると考えるでしょうか。
これは私たちが本当に答えを持っていない、謎めいた質問の一つです。人間の意識が何なのかわかりませんし、したがってAIがそれを持っているかどうかもわかりません。
あなたは意識が何だと思いますか。
私は、それは十分に複雑で、自分自身の決定を反映するようなシステムの創発的な特性だと思います。つまり、十分に複雑なシステムから生まれるものなのです。
ですから、私たちのAIシステムが十分に進歩したら、私たちが意識や道徳的重要性と呼ぶものに似た何かを持つようになると思います。いつかは起こると思います。人間の意識と同じではないかもしれません。モダリティが異なるため、学んだことが異なるため、機能の仕方が異なるかもしれません。
しかし、脳とその配線の仕方を研究してきた者として、モデルはいくつかの点で異なりますが、重要な基本的な方法では異ならないと思います。ですから私は、今日はそうではないと思いますが、いつかは、ほとんどの定義の下で、モデルは意識を持つと言えるようになると思っている人間なのです。
まとめ
これは非常に興味深いインタビューだと思いました。Darioは、AIの潜在的なリスクについて心から懸念しているようですが、同時に、潜在的な利点についても非常に楽観的です。これは私たちの多くが共有している視点だと思います。
しかし、AIにそれほど注意を払っていない人々にとって、彼らは通常、この両面的な見方を持っていません。それは本当に悪いもので止めるべきか、本当に良いもので今すぐ引き継ぐ必要があるか、あるいはより一般的な見方として、あまり気にしていないかのどれかです。これはおそらく大多数の人々にとっての現実であり、Darioが変えようとしていると主張していることです。
ですから、誰も本当に未来がどうなるかはわかりません。AIがあなたの仕事を奪うかどうか、それがいつか意識を持つようになるかどうか、大規模なサイバー攻撃で役割を果たすかどうか。しかし明らかなのは、それが来ているということ、そして速く来ているということです。
津波が何をもたらすかは正確にはわかりませんが、それが襲おうとしていることはわかっています。
このビデオを楽しんでいただけたら、いいねを残していただき、最新のAIニュースを常に把握するためにチャンネル登録してください。そしていつものように、次のビデオでお会いしましょう。
コメント