2,963 文字
元Google CEOのエリック・シュミットは、「相互確保型AI機能不全」に向かって私たちが順調に進んでいるという新しい戦略論文の著者の一人です。核戦争における「相互確保破壊」と同様に、彼らによれば、壊滅的な報復の脅威が、誰かが超知能AIを開発することを防止するだろうと言っています。
簡単に言えば、彼らは他者の研究プロジェクトを妨害する準備をしなければならないと述べています。これは冗談ではありません。見てみましょう。
人工知能は非常に危険な技術であり、多くの人々を非常に迅速に殺す可能性を秘めています。これは多くの方法で起こりうることで、最も直接的には悪意ある行為者がAIを軍事目的、テロ攻撃、サイバー攻撃に使用するからです。
しかし問題は人間ではなく、AI自体かもしれません。コンピュータシステムが私たちよりも知的になると、それらをコントロールすることは非常に困難になります。彼らは独自のアジェンダを開発するかもしれません。もしかしたら既に持っているかもしれません。脅威は現実のものです。
残念ながら、アメリカ人が「DeepSeekの瞬間」を経験し、トランプが米国に存在していたわずかな安全要件を撤廃して以来、AI安全性は後回しにされています。では、AI安全法がなければ、何があるのでしょうか？これが新しい戦略論文が登場する場所です。
それは「超知能戦略」というタイトルです。この中でエリック・シュミットと共著者たちは、私たちが「相互確保型AI機能不全」（略してMAIM）という状況に近づいていると述べています。核戦争の「相互確保破壊」のように、報復とエスカレーションの脅威が最初の段階での攻撃を抑止することを意味します。AIの場合、攻撃とは超人的知能の開発です。
彼らはMAIMについて、「いかなる勢力も戦略的独占のための明確な奪取を試みる勇気がない状況であり、そのような努力は衰弱させる反応を招くだろう」と説明しています。「この戦略的条件は…潜在的に安定した抑止体制を表している」と述べ、その後この状況を維持するための彼らの提言は、非常に率直なものです。
彼らは、各国は他の国のAIプロジェクトを攻撃する能力を向上させる必要があると勧告しています。彼ら自身の言葉で言えば、各国は「サイバー攻撃で不安定化させるAIプロジェクトを機能不全にする能力を向上させることができる。彼らはAI開発者のプロジェクトを特定したり、AI開発者の科学者の専門的活動に関する情報を収集したりすることができる。ほとんどの企業のAIプロジェクトをスパイするために必要なのは、SlackまたはiPhoneのゼロデイソフトウェアエクスプロイトだけである。
また、各国はデータを汚染し、モデルの重みと勾配を破壊し、不良GPUを処理するソフトウェアを混乱させ、冷却システムや電力システムを損なうことができる」と述べています。
彼らはまた、各国が攻撃計画を広く知らせるべきだと勧告しています。または、彼らが書いているように「スパイ行為と妨害のエスカレーションラダーを明確にする」べきです。敵が抑止されるべきであることを知らなければ、抑止の意味がないからです。
さらに、彼らは各国が遠隔地にデータセンターを建設すべきだと言っています。これは、敵があなたのAIを爆撃しに来た場合、そこで働く人々だけが煙となって消えることを確実にするためです。
私はこれを、協力を試みることさえ諦めた未来を描くAI安全性のための非常に厳しい戦略だと思います。また、これが実際にどのように機能するのか完全には理解できないとも言わざるを得ません。なぜなら、研究プロジェクトが超人的知能に達するかどうかを事前に誰も判断できないと思うからです。そして、現時点では、アメリカの企業は自分たちがどれだけ近づいているかを誇張しているように思えます。しかし、考えてみれば、それはロシア人を混乱させるための策略かもしれませんね？
代わりに、エスター・ダイソンから来る、やや楽観的で実用的な解決策について説明しましょう。彼女は、AI企業に対して、彼らの製品が引き起こす可能性のある損害に対する保険の取得を義務付けるべきだと言っています。
これは素晴らしくシンプルなアイデアだと思います。なぜなら、(a)保険会社にAIシステムの潜在的な害を評価するインセンティブを生み出し、(b)保険コストが返ってAI企業に彼らの製品をより安全にするインセンティブを生み出すからです。このアイデアの問題点は、すでに高価なAI製品をさらに高価にしてしまうことなので、私以外に多くの人々が熱心になるとは思えません。
根本的な問題は、AIがいかに危険で、私たち全員を殺す可能性があるという話をたくさん聞いてきたため、やや耳が慣れてしまったことです。それは以前に聞いたもう一つの古い話に変わってしまいました。しかし、彼らは正しいと思います。超人的知能は世界を非常に急速に変えるでしょう、そして必ずしも良い方向へとは限りません。
とはいえ、おそらくそれらの恐れは大げさかもしれません。超知能を取り除くためには、「宇宙のすべてのものが小さなうねる弦でできているとしたらどうだろう？」と言うだけで十分です。それは彼らを数十年間忙しくさせるでしょう。
熊から逃げる二人の男の冗談を知っていますか？「本当に熊より速く走れると思うの？」と一人が言います。そしてもう一人は「熊より速く走る必要はない、あなたより速く走るだけでいいんだ」と答えます。それがインターネットセキュリティについての私の考え方です。ハッカーより賢くなる必要はなく、ただ多くの人よりも少し難しいターゲットになればいいのです。だからこそ私はNordVPNを使用しています。
NordVPNは電話やラップトップにインストールするアプリです。インターネット閲覧のための安全でプライベートな接続を提供し、マルウェアトラッカーや悪意のある広告から安全を保つ脅威保護機能が付いています。場所を選べるので非常に便利です。NordVPNは世界中に5,000以上のサーバーを持っており、その中から選ぶことができます。これにより、そこに位置するサーバーを使用して他の国のウェブサイトにアクセスすることができます。私はこれが特に、EUからの訪問者に対する米国ページのすべてのブロックを回避するのに便利だと感じています。
カスタムリンクnordvpn.com/sabineまたはクーポンコードSABINEを使用すると、より良い取引を得ることができ、私は本当にお勧めします。NordVPNは使用が非常に簡単だと感じました。数回のクリックでインストールでき、何の問題も起こしていません。NordPassと呼ばれるパスワードキーパーや、NordLockerと呼ばれるファイルを安全に保存・共有するためのセキュアなプラットフォームと組み合わせることができます。
すべてをまとめて入手すると、より良い価格になり、すべて30日間の返金保証が付いています。特別オファーを利用するには、nordvpn.com/sabineにアクセスするか、クーポンコードSABINEを使用してください。視聴ありがとうございます、また明日お会いしましょう。
コメント