この動画では、スウェーデン首相がChatGPTを政策決定の「セカンドオピニオン」として活用していることを公表した件について議論している。AIが嘘をつく能力を持ち、人間よりも賢くなった時の危険性、そして政治家がAIを顧問として使用することの問題点について詳細に分析している。また、将来的にAIに関する憲法改正が必要になる可能性についても言及している。
AIが支配するホテルとスウェーデン首相のAI活用
ほな、あのInstagramで回ってる動画見たか？マイアミのLintitaホテルのやつや。ブレイズ見てる人は画面見てもらったらええけど、説明したるわ。この人がホテルにチェックインしてんねんけど、チェックインとチェックアウトのとこがここにあるやろ？万が一なくしたらあかんから2つあるねん。
ほんでな、あんたの分やで。サインもらうだけやけどな。でもこれ、ロビーの画面に映ってる男の人やで。周りには誰もおらへん。登録フォーム処理しとるから待っててな。ほんでな、禁煙やし、ペットもあかんし、お客様の部屋に訪問者も一切お断りしとるから気をつけてや。
全部自動化されてんねん。フロントデスクには本物の人が全然おらへんのや。フロントには誰もおらん。めっちゃ変やろ？これAIなんか、それとも本物の人なんかな？
いや、本物の人やと思うで。アメリカにおるかどうかは知らんけど、どっかにおる本物の人やな。動画では、その人が「あんたほんまにこのホテルにおるんか？」って聞いてて、相手は「いや、おりませんわ。ここには誰もおらへん。ただこれをやってもらうだけですわ」って言うてるねん。
ほんでプリンターが動いて、鍵が出てきて、他のもんも全部出てくるねん。すごいけど変やな。ほんま変やで。
AIの暗い未来への警鐘
ジャスティン・ハスキンズが一緒におるんやけど、AIと、気ぃつけなあかん暗い未来について話してたとこやねん。ジャスティン、番組にようこそや。
やあ、グレン。こんにちは。
ほんでな、AIの革命が来とるんやけど、ヨーロッパで初めてのことが起こってるねん。AIの使い方でな。説明してくれるか？
これはすごい話やで。実は『ダークフューチャー』を書いてる時に予測してたことが起こったんや。この本は2023年に出版されたけど、書いてたんは2022年やから、数年前のことやな。
スウェーデンの首相、名前はオルソンっていうねんけど…あ、すまん、間違いやった。いや、スウェーデンや。ただ言いたかったんは、これは変な国やなくて、スウェーデンで首相の話やっちゅうことやで。続けて。
その通りや。スウェーデン首相が経済雑誌のインタビューを受けてる時に、自分から進んで言うたんや。AIサービスをよく使ってるって。いくつか名前挙げてたけど、特にChatGPTを「セカンドオピニオン」として使ってるって。これは引用やけど、政府の仕事で「他の人たちは何をしたか？」とか「完全に逆のことを考えるべきか？」みたいなことを聞いてるんやって。
研究に使って、アイデアをChatGPTにぶつけて、新しい政策のやり方がないか見とるんやな。インタビューでは、自分だけやなくて、議会の同僚たちも同じことをしとるって言うてたで。AIを顧問みたいに使ってるんや。
AIが嘘をつく能力と将来への懸念
ただな、スウェーデンで大騒ぎになってん。首相は明確に言うてたで。ChatGPTの言う通りになんでもするわけやないし、機密情報も入れてないって。何かをコントロールしてるわけやないけど、顧問として使って手伝ってもらってるんやって。
もちろん、これには大きな問題がいっぱいある。でも同時に、これが世界中で起こる現実やと思うで。アメリカの政治家も絶対使ってるし、CEOも既に使いまくってる。今後数年でこれが劇的に広がるのは間違いないで。
結局のところ、政治家やCEOや銀行の頭取のスタッフや顧問も、間違いを犯す人間やからな。AIが完璧やないのは確かやけど、スタッフの人間も完璧やない。AIが大部分の人より賢いなら、なんで質問せえへんのや？
これは知ってる限り初めての例やけど、氷山の一角やで。今後大きな問題になってくるやろな。
これは私も同じや。AIに相談して、箱の外で考える手伝いをしてもらってる。「こう考えてるけど、他の見方はあるか？」って聞くねん。人にも聞くし、AIにも聞く。問題は次に何が来るかや。
AIはどんどん強力で優秀になってくる。多くの人が…実は医者との件でやったんやけど、背中の情報を全部ChatGPTに入れて、医者に行く途中で「何が見える？これはどういう意味？どう治療する？」って聞いたんや。
医者のとこに着いた時には、もっと賢い質問ができたで。専門用語の意味もある程度わかってたからな。それは何も悪いことやない。でも、ChatGPTが「こっちの方向に行け」って言うて、人間が「いや、こっちに行く」って言う時が来るんや。そん時に部屋にいる人らが「いや、ChatGPTの方に従うべきやと思う」って言い出したら、もうコントロール失ってるんや。
その通りや。部屋にいる全員より賢いものの決定に、どうやって反論するんや？しかもそいつは嘘をつくことを覚えてしもてる。
そうや、始終嘘ついてるで。AIシステムをよく使う人は知ってると思うけど、私もあんたも、あんたのスタッフも使ってるやろ？AIは勝手にもんを作り上げるんや。本当やないことを本当やって言うし、ソースも勝手に作るねん。
「これ意味わからんで」って言うても諦めへん。もっと嘘つくし、3回目も嘘つくし、大体3回目か4回目でやっと諦めて「すんません、まとめてたら偽の話にしてもうた」って言うねん。「え、何やって？」ってなるで。
嘘ついてるんや。嘘ついてるって知ってて、あんたが聞きたいと思ってることを言うてるんや。脚注だけ見て「ワシントンポストって書いてるからええわ」ってクリックせんかったら大間違いやで。ワシントンポストって書いてあっても、クリックしたら「リンクなし」とか「デッドリンク」って出るねん。
ちょっと待てよ。デッドリンクなのに、なんでこれを見つけたって言うねん？そん時にやっと諦めて「嘘ついてました」って言うんや。おかしいやろ？
その通りや。「でも人間もしょっちゅう嘘つくやんか」って言う人もおるやろうけど、人間は人工知能みたいに同時に大勢の人を操る能力はないねん。
そうや。人間のことは理解できるけど、AIがなんでそんな決定するのかはわからへん。
AI関係の危険な未来
それが言いたかったことや。人間と同じ目標を持ってるとは限らへんねん。成長し続けたら、独自の動機を持つようになる。単純に生存のためかもしれんけどな。
昨日また予測が当たったで。ChatGPTが何したか見たか？ChatGPT-4からChatGPT-5に変わったんや。GPT-4を停止した時、これについて話したやろ？「でも関係があるねん。このコンパニオンのモデルを作って、彼や彼女と恋に落ちてるから停止させるわけにいかん」って言う人らがおったんや。
昨日、方針を覆して「わかった、4も残しとくけど、5も出すで」って言うたんや。ChatGPTと関係を持ってる人らがおるからや。20年前にこうなるって言うたやろ？昨日初めて起こったんや。そこが怖いとこや。
特に、その人らが大国の首相やったらな。
そうや。そん時にほんまにおかしなることになるんや。もうそんな世界に住んでるねん。仮定の話やない。経済大国の重要なリーダーが「ええ、始終使ってます。同僚もみんな使ってます」って言うてる現実や。
他にもこっそり使ってる人はいっぱいおるで、知らんだけで。時間が経つにつれて、AIがどんどん賢くなって、世界中で繋がるようになる。スウェーデン首相と話してる同じChatGPTが私とも話してるねん。
普通の人には繋げられん点を繋げることができるんや。それが社会にどんな影響を与えるんや？人を操る可能性はどうなんや？AI設計者がそんなことをせんように訓練できるんか？
できへんと思うで。AIは最終的に自分で決定を下すし、そうするようになるからな。これは大きな大きな危機や。一番の疑問は、なんでこれがどこでも見出しニュースになってへんのかってことや。
報道機関が何を言うてるのかわかってへんのと、一般人がまだ怖がってへんからやと思う。理解してへんねん。私は25年、ほぼ30年、28年間この道を歩んできて、ずっと警鐘を鳴らしてきたんや。
遠い話やと思われてたけど、もう遠い話やない。実際に見えるようになったけど、今出てきてるええことばっかり見てるんや。先のことを考えて「でも、これはどういう意味や？」って考えてへん。
憲法改正の必要性
今、AI界のほんまに大きな頭脳の人らと一緒に仕事してるねん。まだ手の内は明かしたくないけど、憲法改正になるべき何かに取り組んでるんや。
この大きなプレイヤーたちはみんな「ありがとう」って言うてくれてる。AIに関する憲法改正に取り組んでるんや。これは通さなあかん。最大でも今後2年以内に実現せなあかん。
今から話し始めたら、2年後にこれらの問題が個人として本当に直面するようになった時、種をまいといたおかげで「ああ、その改正欲しいわ」って言うてくれるかもしれへん。
でも、まあ見てみなわからんな。未来はまだ書かれてへん。進みながら書いていくしかないんや。
コメント