7,405 文字
人工知能はおそらく、これまで存在した技術の中で最も過度に誇大宣伝され、過度に誇張され、過度に恐れられ、過度に称賛されたものの一つです。これは私がAIが重要なものにならないと言っているのではありませんし、数十億ドル規模の産業にならないと言っているのでもありません。実際、おそらくすでにそうなっているでしょう。しかし、私はAIは人々がAIを後押しするようなものではないと思います。なぜなら、それは人々にアピールするからです。それには錯覚が組み込まれているからです。それが実際よりも偉大なもののように見せる錯覚があるのです。
そこで私の主張ですが、人工知能は結局のところ、単なるコンピュータプログラムです。あなたが入力を与えると出力を返すコンピュータプログラムです。膨大な量のデータで訓練されていますが、結局のところ、それがやっていることは他のコンピュータプログラムと根本的に何も違いません。
AI信者の中にいる人たちがたくさんいます。AI推進派の信者かもしれませんし、AI反対派の信者かもしれません。文字通り、AIが世界を乗っ取って全ての人を奴隷にし、理由もなく永遠に苦しめるだろうと考えて自殺した人たちがいるのです。人々はAIが何をするのか、何ができるのかについて様々な考えを持っています。もちろん、根っからのAI推進派の人たちもいます。AIが全ての問題を解決し、私たちのために全てをやってくれて、全てをより効率的にしてくれると考えています。
現実は、AIは単なるツールであり、結局のところ他のコンピュータプログラムと何も変わりません。それは他のコンピュータプログラムができないことをAIができないということではありませんが、この点について明確にしましょう。
まず、AIの危険性について話しましょう。AIは私たちを破壊するのでしょうか。全ての核兵器を発射するのでしょうか。それは私たちがどれだけ愚かかによります。なぜなら、明らかに安全なシステムを構築する時、例えば核セキュリティのシステムを構築する時、たくさんの核兵器があって、それらが発射したい時にのみ発射されることを確実にしたい場合、明らかにインターネットに接続されただけのシステムを構築し、パスワードを入力して発射するようなことをするのは非常に愚かでしょう。
もちろん、世界に存在する核システムは、願わくば、すべての情報によれば、エアギャップがあり、回さなければならないキーがあり、ある種の二要素認証を生成するアナログシステムがあります。つまり、これらの安全装置が設置されているので、プログラミング側、これは今のところAIとは関係ありませんが、プログラミング側、デジタル側が故障しても、大した問題ではないのです。つまり、それがうまく機能することは望ましいことですが、システム全体を破壊するような大きな問題ではありません。
核兵器を発射したり、病気を診断したり、統計的判断や政治的判断、倫理的判断、その他このようなことを行うAIシステムがあった場合、明らかに、私たちが極めて愚かでない限り、安全装置のないシステムを構築することはないでしょう。したがって、AIがあなたのデジタルシステムとして、いわゆる結論を見つけることに、ケースステートメントやスイッチステートメントで何らかの入力に対して所定の出力で反応する小さなコンピュータプログラムがあることの危険性以上の固有の危険性はありません。
危険なのはコンピュータプログラムとしてのAI自体ではありません。危険なのは、AIがそれを見ている人々に対して、AIの錯覚を提示することです。もちろんAIは言葉を使うかもしれませんし、明らかに大規模言語モデルです。人々は軽蔑的にではありますが、適切にAIを巨大なテキスト補完や自動修正のようなものと表現するでしょう。それが究極的にこれらの言語モデルの正体です。
しかし、多くの人々に知られることなく、疑いを抱かない人々にとって、それは一種の知性を持っているように見えます。私たちは人間の言語を見て、AIがそれを使って、率直に言って多くの無駄話であっても、意味のある文章を繋げているのを見ます。しかし、私たちはそれを見て、AIが実際にはやっていないことをやっているという錯覚を提示します。それは本当にただの記号操作です。構文操作です。AIは意味論の概念を持っていません。あるいは、狭い構文的な方法で意味論の概念を持っていますが、AIはもちろん本当に考えているわけではありません。処理しているのです。膨大な量のデータをスコープしています。
問題は、それが私たちには実際よりも偉大なもののように見えることです。私たちには、例えば何らかのコンピュータシステム、入力Aを与えるとBを実行し、入力Cを与えるとDを与える単純なコンピュータプログラムを設計した場合、基本的にケースステートメント、スイッチステートメント、非常に基本的なもののように見えます。何かが間違った場合、プログラムのトラブルシューティングができ、「これは私たちが実際に予期していなかった入力を与えた場所で、実際に私たちが望まない別の条件に進んでしまった」と言うことができます。何が起こっているかを診断できます。
AIでは、それは非常に複雑なので、それを行うことができません。さらに悪いことに、あなたのAIが人間の言語のように見えることをしている時、AIが予期しないことをした場合、何かクレイジーなことや予期しないことをした場合、人々はこの錯覚に陥ります。AIがどうにか非常に賢いことをしているという錯覚です。「ああ、それは私たちが知らない何かを知っている。私たちがウイルスだから世界を破壊したいという出力を生成している。私たちを破壊しようとしている」というような感じです。
それがAIの問題です。実際にはAI自体の問題ではなく、AIを全能の神か、私たちが実際に何であるかを見ずに悪魔のようなものとして神格化する人々の問題です。それはコンピュータプログラムですが、その上に錯覚があり、それがコンピュータプログラムとは異なる何かのように感じさせ、本当に創造的または生成的に見える結果を生み出します。しかし、結局のところ、それらはそうではありません。つまり、これらのものはまだデータで訓練されており、一見新しい方法でデータを使用している可能性がありますが、結局のところ、それは訓練されたもので訓練されているだけです。
AIがどのように反応するかを操作するのは簡単です。結局のところ、それは複雑さの度合いと、本質的にAIがソースコードを持っていないようなものであるという事実において、他のコンピュータプログラムとのみ異なります。ソースコードを本当に意味するのではありませんが、AIが実際に個々の決定を計算している方法を意味します。決定と言うのは私の間違いです。なぜなら、それはAIに実際には起こっていない認知的な何かをほぼ置くからです。
結局のところ、人々がAIが実際よりも何か偉大なものであるという錯覚を持っているということです。それは鳥占いを使って、鳥を取って内臓を見て、それを何らかの決定を下すサインとして使うのと何も変わりません。ほとんどの状況でAIは作り話の出力をしているだけです。明らかに、これらのシステムを限定的な方法で特定の問題を解決するために使用できますが、AIが真に訓練され較正されるためには較正されなければならないということを常に覚えておく必要があります。
私が較正と言う意味は、複雑な領域でAIを使用していて、実際に答えをチェックできない場合、それらが全く有効かどうかを知る方法がないということです。最近インターネットで人々が共有しているAIの使用の良い例があります。SpaceXに関連していた子供か人々のグループがいますが、ポンペイのヴェスヴィオ火山の噴火からの巻物の3Dスキャンがある公開問題があります。これらの巻物は実際には灰ではなく、何らかの方法で溶けていないのですが、人々は実際にはそれらを開きたくありません。なぜなら、データを破壊する可能性があると考えているからです。
しかし、人々はそれらを3Dスキャンしており、データは公開されており、これらの文書に実際に何が書かれているかを解読できる人を見つけようとしています。最近、ある種の小さな突破口がありました。すべてを翻訳したわけではありませんが、AIを使用して、そのデータのノイズを与え、変数を変更し、処理方法を変更しながら何度も何度も試すことで、最終的にこれらの巻物から単語が解読されました。それは大きな突破口です。AIを使用しています。素晴らしいことのように聞こえますが、実際にはAI自体は本当に翻訳しているものではありません。実際には、それを常に較正し、「分かった、単語を見つけた。この単語はラテン語かギリシャ語であることを期待している。中国語の文字か何かを与えた場合、またはナンセンスを与えた場合、それはただのナンセンスだと分かる」と言わなければならない人々です。
AIを魔法のように信頼することはできません。ユーザーとしてのあなたは、「それは今、意味のあることを言っている」ということを確認するために監視しなければなりません。AIがこのデータで非常に訓練され、すべてのものを与えて適切な言語に即座に翻訳できるような点に達したとしても、実際にそれをチェックしに行かなければ、それはただの意味不明な言葉です。実際には何もしていません。人間側が必要なのです。
私が言いたいのは、明らかに、チェックすることなく、または出力するものを気にすることなく、これらの巻物でAIを何らかの方法で実行した場合、多くの偽陽性を得ることになるということです。AIがこの答えを生成し、それをプログラミングで説明できず、本当に何が起こっているか分からないが、賢く見え、言語で応答している時のすべてのAI回答と同じように一貫して見えます。何も知らないことについて非常に自信を持って話すでしょう。なぜなら、何も知らないからです。それはただの小さな構文的な言語システムで、人間の言語を模倣する構文操作スキームなのです。
人々がこれらのものが実際よりも強力だと仮定する時、それが危険です。さらに悪いことに、人々が非常にナイーブで愚かで、実際にこれらのものを訓練されていない領域で新しい決定を下すために接続するなら、それは危険でしょう。たとえ訓練されていても、予期しない答えを較正しなければなりません。
それはほとんど自分自身を書いているコンピュータプログラムのように感じます。試行錯誤によって自分自身をプログラミングしているプログラムのように、そのプログラミングのすべてのステップで、あなたはまだそこにいてそれをチェックしなければなりません。それが私たちが推測できることから逸脱するとすぐに、それが実際に意味のあることをしていると考える理由が全くありません。実際、私たちはそれが一貫性から即座に逸脱し、一貫したことをすることから即座に逸脱することを期待します。
そして再び、不幸な錯覚、これはAIだけでなく他のことでもあります。統計の使用について学術界で話したことがありますし、他のことでも、あるいは率直に言って物理学のような分野での特定の方程式の使用でもそうです。実際のものを取って抽象的な公式に入れ、抽象的な公式で遊び、統計で遊んで、実際に現実で実際に起こっていることの正確な表現でない可能性がある方程式に対して実行する種類のものがあるかもしれないことに気づかない傾向があります。
しかし、その数学のある種の人工性があり、それは現実の生活よりもリアルに感じられるので、数学的方程式で本当に奇妙なものを見つけた時、あなた自身の嘘つきの目で見るものの代わりに、それを信じたくなります。統計の使用は本当に有害である可能性があります。なぜなら、それを使用している学術界のほとんどの人々、私はこれについて良いポッドキャストエピソードをやりましたが、もし彼らが帰無仮説検定をしているなら、学術界で統計を使用しているほとんどの人々は、定義上、何をしているか分からないからです。なぜなら、その全体が、いたるところで標準になった米国学術界での偶発的な誤解のようなものだからです。それは哲学的にも統計的にも意味をなしません。
しかし、私はそれを、あなたがしていることに一種の権威を加える儀式の例として持ち出しました。それは少しリアルに見せるのです。それがAIの種類です。それは実際よりもリアルな何かのように感じさせます。それが実際の危険です。
間違わないでください。AIは完全に悪魔的だとも思いますが、それはこのビデオのためではありません。しかし、ツールとして、AIは何をするか、何ができるかのために危険ではありません。予期しない出力を持つ可能性があるために危険です。なぜなら、私たちはそれを適切に較正していないからです。はるかに悪いことに、人々はそれを信頼しています。それは何か深いもののように感じられます。私たちの言語を使っている完全に盲目的な機械として、何を話しているか全く分からないまま私たちの言語を使っているので、私たちよりも賢いように感じられます。
そして明らかに、それは非常に人間的で、悪い意味で哀れなほど人間的です。人々がAIを見て、この自動修正システムを見て、その上に深い知恵だけでなく、「AIは意識があるかもしれない」とか「AIは」という、それ自体が全く別の問題ですが、そうではありません。悪魔に憑かれていない限り、そうである可能性があると思いますが、そうではありません。構文計算は意味論と同じではありません。つまり、それは中国語の部屋の寓話です。これはもちろん、全世界で最も誤解された寓話です。実際にそれについて再びビデオを作るかもしれません。なぜなら、中国語の部屋の実験について話す時ほど、理解していないことについて知的に怒るRedditユーザーはいないからです。
いずれにせよ、それが私の言いたいことです。AIについて再び考えます。人々は私がテクノロジーYouTubeチャンネルを持っていると言いますが、なぜそう言うのか分かりません。だから彼らは私がAIについてどう思うか知りたがります。私はそれについて考えません。重要ではありません。
再び、AIは私たちがいくつかのことを行う方法を変えるでしょう。AIが解決を助けることができる特定の問題があります。それは脅威です。私が言った理由で、それ自体の何かのためではありませんが、人々がそれを神格化する方法のために脅威です。そして再び、私には分からない人々がいます。人々がこれについて話す方法はただ哀れです。何年も何年も前のこの時点で私がAIについて最後にビデオで言ったように、私がそれについて心配していることは、それがインターネットをより悪い場所にしていることです。
インターネットで何かを検索すると、AI生成の出来損ないしか得られません。私がそこで言ったように、非常に多くのトーストに広げられたバターが非常に少ないので、それは役に立たず、インターネットを平凡にしています。人々はこれを皮肉なく使っています。人々は、まるで実際の人間のような、私たちが知らないすべてのものを知っているハイパーインテリジェンスのような、本当のものであるかのようにAIの答えを提出します。
例として、実際に私は人生で初めてAIを使いました。ほんの1、2週間前のことです。ビデオをすぐに終わらせますが、この例を示したいと思います。私は人生で初めて2週間前にAIを使いました。私はテクノロジーに関しては常に遅れています。しかし、唯一の理由は、2000年頃にプレイしたこのランダムなパイゲームを思い出そうとしていたからです。
覚えているのは、複数のプレイヤーでキーボードでプレイできるゲームで、誰かが片側を使い、他の人がもう片側を使うというものでした。当時としてはかなり良いグラフィックスを持っていたと思います。PCゲームでした。マルチプレイヤーで、グリッド上に小さなキャラクターがいました。ハードロック音楽があり、お互いを爆弾で攻撃できました。覚えているなら少しきわどかったと思います。いくつかのいけない言葉があったかもしれません。
いずれにせよ、このゲームの名前を思い出そうとしていて、まだ思い出せません。だから私はAIを開きました。どのAIでも構いません。すべて同じです。このゲームでAIが訓練されたデータがあるかもしれないと思って、このゲームを把握しようとしました。
ゲームをできるだけ詳しく説明するたびに、明らかにAIは答えを返しますが、実際に私のゲームを与えるものは一つもありませんでした。明らかに「分からない」とは決して言いませんでした。それは自動補完なので、私が実際に意味していたのはボンバーマン64か何かだと自信を持って教えてくれました。「いいえ」と言うと、行き来します。彼は、私は再び擬人化しています。私も他の皆と同じように悪いです。AIは、実際にマッチするからではなく、一つのことにマッチしたかもしれないからという理由で、全く従わない推測を生成し、英語で自信を持って言うでしょう。人間のような言葉の連続を作り、良く聞こえるが、無意味でした。
それがAIの種類です。役に立たないというわけではありません。非常に役に立つ可能性がありますが、人々はそれが何であるかを覚えておく必要があります。それは何でもありません。本当に何が起こっているかを実際に理解していない非常に複雑なケースステートメントであり、世界をより退屈な場所にし、インターネットをより退屈な場所にしています。
このものの使用をやめてください。話すのをやめてください。誰かがポイントを作ろうとしていて、AIを持ち込む記事を読む時はさらに悪いです。「これについてAIはこう言っています」と。誰がこのようなことを気にするのでしょうか。
とにかく、それがビデオの終わりです。しかし、中国語の部屋の実験についてのビデオを作るつもりです。
コメント