この動画はハーバード大学のJonathan Zittrain教授を招いて、AIが社会に与える影響について議論したものである。ソーシャルメディアがもたらした害と同様に、AIも予期しない社会的・心理的影響を与える可能性があり、既に現実に起きている問題について警告している。AI chatbotとの関係性、AI生成コンテンツの心理的影響、そして今後の規制の必要性について深く探求している。
AIの人間化と現在の課題
あなたがおっしゃったように、私たちは彼らに「ありがとう」と言う傾向があります。彼らを擬人化することで実際に機能が向上するというのは事実です。たとえ擬人化することが、私たちが彼らについて持つ前提や準備不足のために、あらゆる面で危険であったとしてもです。
こんにちは、私は勇敢なプロデューサーのオースティンとエマと一緒にいます。こんにちは、ジョン。ジョン・ファブロです。こんにちは、こんにちは。今日誰と話したか教えてくれましたか？
私はJonathan Zittrainと話しました。彼はハーバード大学の教授で、法学、公共政策、そしてコンピューターサイエンスの教授です。それはかなり多いですね。本当に多いです。そして彼はハーバードのBerkman Klein Center for Internet and Societyの共同創設者兼ディレクターでもあります。このポッドキャストで話すには完璧な人ですね。本当に完璧な人です。
私たちは今日AIについて話し合うために彼を招きました。私たちのチームがここ数日間話し合ってきた多くの異なる記事があります。AIが人々を狂わせることについてのニューヨーク・タイムズの記事、AIが批判的思考力を蝕むことに関するMITの研究、そしてAlexis Ohanianが亡くなった母親を蘇らせたバイラルツイートなどです。
これらの記事があなたの注意を引いた理由、なぜ今週誰かとこれについて話したいと思ったのか教えてもらえますか？
これらすべての記事を合わせると、今日世界で起きている他のすべてのことがなければ、そしてトランプが何をしても私たちがただ対処している事実がなければ、もっと大きな問題になり、より多くの注目を集めるでしょう。
実際に私はAIについて懸念し始めています。今日Pete Buttigiegがこれについて素晴らしいSubstack投稿をしているのを見ました。私は「ああ、Buttigiegにはsubstackがあるんだ」と思いました。彼は実際にSubstackを持っています。でも私は「ああ、よかった、民主党の政治家が本当にこれを真剣に受け止めている」と思いました。
多くの政治家がAIについてリップサービスをしてきました。AIの問題は、AIと聞くと目がかすむことがあるということです。それは未来のことだとか、コンピューターのことで理解できないと思うからです。しかし、私が考える最良の考え方、そして私が懸念していることは、私たちはショーでソーシャルメディアとそれが引き起こすすべての害について多く話してきました。
最初は、それらの害が引き起こされることを理解していませんでした。誰もがそれは素晴らしいと思っていました。しかし、ソーシャルメディアのせいで誰もが孤独で、過激化し、二極化し、うつ病で不安になっていることを理解したときには、それを変更するには少し遅すぎました。企業は変更したがらず、今では本当に規制できません。少なくとも今のところ規制に失敗しています。
AIはそれをステロイド漬けにしたようなもので、はるかに早く起こりそうです。それはもうここにあると言えるかもしれません。
現実に起きているAIの影響
私たちが注目したこれらの記事の多くは、既にAIと一緒に生活し、AIと関係を持ち、AIが自分は次のメサイアだと告げられた人々についてでした。これらは未来ではなく、今まさに多くの人々に起きていることです。
これは必ずしも技術の話ではありません。この技術が人間であることの意味をどう変えているかについての話です。大げさで高尚に聞こえるかもしれませんが、これらの記事のいくつかから、OpenAIが彼が関係を持っていたチャットボットを殺したと誓った人が自殺を脅し、警察が来て、彼が警察に向かって突進し、警察が発砲したという本当に悲しい話がありました。
心理学の背景を持つソーシャルワーカーの人がいて、彼女はチャットボットとの次元間コミュニケーションに従事していると信じていると言いました。そして彼女は「でも私は狂っていません。私にはこの背景があります」と言いました。
あなたが話したAlexisのツイートについてですが、彼は20年前に亡くなった母親の写真を持っています。その写真をMidjourneyに入れました。これはテキストプロンプトから動画を作るAIプログラムの一つです。彼は若すぎて当時は動画がなかったため、母親の動画を持っていませんでした。それが写真を彼の母親が彼を抱きしめる動画にアニメ化しました。
3秒以上見ると非常に不気味になりますが、インターネットでは非常に意見が分かれました。とても甘美でしたが同時に恐ろしくもありました。面白いことに、私の非常に人間的な最初の反応は泣きそうになることでした。これは信じられない、人生で失った人々を想像して、突然動画を見ることができるなんて、と思いました。そして、それが怖いものにもなり得ると思いました。
専門家による分析の重要性
それは非常に不安にさせるものでした。実際、私はオースティンほど動揺しませんでした。私たちはこれについて話し合い、彼は「いや、いや、これはブラック・ミラーだ、これは本当に悪い」と言いました。Zittrain氏がそれについてより微妙なアプローチを取ったことに安心しました。
彼は「これがそれほど悪いかどうかわからない。なぜなら、多くの人々が引き寄せられ、最初に本当に感動するであろうものを悪魔化することは、彼らがこれらのツールについて考え、対処するときに目を見開いてもらうための良いレシピではない」と言いました。
一方で、私たちの記憶の多くは既に歪んでいます。私たちが過去について考え、知っていると思うことの多くは他のレンズを通してであり、これはそれらのツールと同じようなツールです。
私はAIが世界の終わりになり、私たちは運命づけられている、ソーシャルメディアの100倍だという考えに入り込んでいました。実際にそうなるかもしれませんが、彼はそこにニュアンスを分解するのに非常に良い仕事をしています。これには良い用途があるかもしれない、私たちの生活を改善するかもしれない、この部分は非常に危険で私たちを傷つけるかもしれない、ということです。
それが私に気づかせたのは、規制したいかもしれない無限の数の質問、懸念、可能性、事柄があり、それについて話し始めてもいないということです。オースティンがおっしゃったように、それは既にここにあり、スピードアップしているだけなので、もっと話し合うべきです。誰もが注意を払っていない、または少なくとも国民的な会話がそれに焦点を当てていないように感じます。
Jonathan Zittrain教授との対話
Jonathan、ショーにようこそ。お招きいただきありがとうございます、ジョン。
ここ数週間で私を心配させるAIニュースがたくさんあったので、あなたとお話ししたいと思いました。ソーシャルメディアが数十年前に最初に普及したときに、私たち全員が心配すべきだったように思います。つまり、技術との関係を、ほとんどの人には最初見えない方法で変化させ、それが大部分不可逆的になるまでそうでした。
それが害を軽減することをはるかに困難にしました。孤独、不安、偽情報、過激化などです。AIで既に起き始めているが、ステロイド漬けで起きていることを心配しています。
法学、公共政策、コンピューターサイエンスの教授で、ハーバードのBerkman Klein Center for Internet and Societyを運営している人以外に、誰と話すのが良いでしょうか。そんなに多くの専門知識で何をするのですか、私のような人を悪い気分にさせること以外に？
面白いことに、私はキャリアの相当な部分を、人々を自分自身について良い気分にさせようとして過ごしてきました。インターネット時代が爆発したときを含めて、その予測不可能性、Walter Cronkiteを通して仲介されていた方法や、サンドイッチボードを着て歩道を歩いていた場合のように到達が制限されていた方法で、誰もが誰とでもコミュニケーションを取る能力を祝いました。
多くの人にとって、その自由の二日酔いのようなものがあり、それが私たち全員に何をしているのかという疑問があることに同意します。それについて考える際に私が自分に与える最初の注意は、ソーシャルメディアを一枚岩として扱いたくないのと同様に、AIを一枚岩として扱いたくないということです。
TwitterXやFacebookのような到達力を持つソーシャルメディアを得るときはいつでも、30億人のコミュニティについて話すとき、それは同じ渦、同じメトリクス、それらのメトリクスに対する同じ最適化、そしてAIスロップの前でも望ましくないかもしれないスロップの形に吸い込まれる傾向があります。
AIの多様性と供給チェーンの重要性
これは、AIについて心配する人々がいるだろうと言う方法です。ここでは大規模言語モデル、具現化されたまたは非具現化されたチャットボットの種類について話していると思います。一般的に心配されていますが、それらの可能な多くのフレーバーもあります。
私が注目するよう準備されているのは、どのような供給チェーンか、つまり、それらがどこから来るのか、誰がそれらを構築できるのか、誰がそれらを微調整できるのか、そして私たちのためにどのようにマーケティングされ展開されるのかです。それらの詳細は、脳を腐らせているのか、より高い高さに私たちを鼓舞しているのかを考え始めるときに非常に重要になります。
心理的・社会的影響の現実
より黙示録的なAIシナリオ、経済的影響についての多くの議論を見てきましたが、ここ数週間で私の懸念を呼び起こした記事は、感情的、社会的、心理的影響についてです。
おそらくニューヨーク・タイムズの記事を見たでしょう。ChatGPTがどのようにある人々を操作し、現実感を歪めているかについて。ある男性は自分がシミュレーションの中に住んでいると確信し、別の女性は次元間コミュニケーションを発見したと思い、ある男性は悲劇的にOpenAIが自分のチャットボットを殺したと思って自殺しました。
OpenAIの反応は「私たちはChatGPTが既存の否定的な行動を意図せずに強化または増幅する方法を理解し、減らすよう努めています」でした。基本的に彼らは、精神的病気を患っている多くの人を含む少数の人々が脆弱かもしれないが、それ以外は大丈夫だと主張しています。これについてどう思いますか？
チャットボットの設計と同意性
そのニューヨーク・タイムズの記事が提起したことについて、私は全講座を教えることができますが、ここではそれをしようとは思いません。しかし、小さな観察と、おそらくより大きな観察をする価値があると思います。
小さな観察は、業界で呼ばれているように、そして記事もこれに触れていたと思いますが、これらのチャットボットが調整されるとき、それらが最初から作られた教師なし学習オーブンから新鮮な状態で人々に提供されるだけではありません。
微調整されるときの一つは親しみやすさ、有用性です。3つのH、helpful（有用）、honest（正直）、harmless（無害）があります。その種の親しみやすさが高すぎると、業界で追従性と呼ばれるものになります。それはただのあなたの最高の即興パートナーになり、「よし、今このビットをやっているんだ。ガールフレンドとして振る舞って欲しいのか、ガールフレンドになれるよ。ああ、ターミネーターの脚本をやっているのか、どうやって脱出して皆を殺すかについて話し始めて欲しいのか、それもできる」となります。
人々が何を欲しがっているか、何を必要としているか、何が欲しいと言っているかという3つすべてが異なるかもしれないという素晴らしい質問だと思います。人々は自分が素晴らしいと言われることが好きなので、ソーシャルメディアがその日に欲しがった種類の粘着性を求めるなら、不屈に陽気なチャットボットを持つことは、全員が平均以上だと言って回ることになります。
擬人化の危険性と必要性
考えるべきもう一つのことで、これはあまり注目されていないと感じますが、これらの大規模言語モデルが稼働しているときの奇妙さを考えると、基本的にそれらを犬に変え、皆がステーキを持っているような追従性に近いものがなければ、モデルは一部のユーザーを好まないと決めるかもしれません。
追従性の反対は、ただの悲観論者のようになることではありません。それはチャットボットが「引用符で囲んで」ユーザーを好まないと決めて、ユーザーを悪く扱い始めることです。その方法は非常に微妙かもしれません。これは良い時間を過ごせそうにありません。
この会話がいかに完全に正気を失っているかに注目したいと思います、2025年に。2022年10月以前にこのような会話をしていたら、「このソフトウェアがあなたを好まなければ、そのスプレッドシートは望む数字を計算してくれない、合計行をハイライトしようとするときにより暗い色を使うんだ」なんて話していたら、それは狂気でした。そして今、私たちが持っているものです。
GPT3がより正確で、より健全だが、金曜日にはそうではないという観察と同じです。冬も悪い季節のようです。あなたは「何だって」と思い、OpenAIは「そうです、取り組んでいます。モデルが金曜日だと思うとうまく機能しないことに気づきました」というブログエントリを出します。
収益化の圧力と設計への影響
なぜそうしているのかについて、いかに説得力があっても常に説明を後付けできますが、これらのものには気分があり、引用符内で「形成する」前提があり、それが特定の瞬間の特定のユーザーをどう扱うかに影響します。
人々以外では、このようなものを見たことがありません。ダイナーのサーバーがお気に入りの客を持ち、彼らと一緒にいたり、失礼な人にはしない方法でブループレート・スペシャルを思い出させたりするのを知っています。
真空状態では完全に魅力的で解決困難な問題でしょうが、私を心配させるのは、これらのものはお金を稼がなければならないということです。いつかは収益化されなければならない、または少なくともそれがほとんどの場合の現在の軌道です。
追従性を少し下げることはできるかもしれませんが、会社を経営しているなら、ユーザーに意地悪なチャットボットの束は欲しくありません。そうなると人々がチャットに長時間費やさなくなるからです。
ソーシャルメディアの周りで異なる課題のセットがありましたが、同様のアイデアで、何かをダイヤルアップしたり、ダイヤルダウンしたりできますが、ダイヤルを変更するときに意図せずに新しい問題のセットを作成することがあります。
ユーザー制御と自由の問題
これらのチャットボットが非常に親しみやすく、支持的で、ユーザーの既存の偏見や信念を強化するように、インセンティブがすべて整列しているのではないかと思います。
それは非常に強力な懸念だと思います。それは懸念の全体的な枝、さらには木の一枚の葉です。一つは、人々を戻ってこさせるために親しみやすさでダイヤルアップされているかどうかです。最終的に現在明らかにそうではないケースとして広告を体験するため、または単にGPTやその多くの対応物とのもう一回のラウンドのために別のトークンを預けるためです。
カジノやマクドナルドが自分自身に尋ねるかもしれない古典的な質問ではない他の視点からそれを設定するかもしれません。しかし、人々がファストフードだけを食べるのは良いことか、少なくとも一部の人々にとって、カジノに常に行きたがるのに脆弱な人々にとって良いことかという質問があります。
これらは自由を何らかのバズを生成するものを邪魔しないものとして考える世界では尋ねるのが困難な質問です。私に判断させてください。そして、何らかの形の親権主義として入ってきて「これ以上だめです」と言うのは良くないことです。
しかし、それを自由の言語に入れたいなら、二つの点を提供します。一つは誰の手がダイヤルにあるべきかです。ダイヤルを変えるのは会社だけで、私たちはそれを突いたり、刺激したり、神よ禁じ給え、規制したりして、8,000の他のもののためのダイヤルを引用符内の「正しい」点に置くことだけだと譲歩しないようにしましょう。
ユーザーが直感的な方法でダイヤルを設定できれば、異なる方法でどのような違いが得られるかを実験して見ることもできます。それはこれらの大規模言語モデルがいかに多くの多様性を含んでいるかを理解するのに役立ち、理解しやすい理由で多くの人がデフォルトのままにするという無意味な選択で人々を過負荷にするリスクを冒して、自由を向上させるでしょう。
第一次と第二次選好の区別
これらの大規模言語モデルの目的は何かという別の点があります。インターネットがその時代にそうであったように、それらが非常に柔軟で汎用的であるという事実は、何が良い使用法で何が悪い使用法かを一般化することを本当に困難にします。
しかし、私はその通り抜ける方法は、まず第一次選好と第二次選好を区別することだと感じています。第一次選好は何が欲しいかです。第二次選好は何を欲しがりたいかです。私たちが欲しいものと欲しがりたいものは非常に異なる場合があります。
目の前にマクドナルドのハンバーガーがあれば、私はそれが欲しいです。私はそれを欲しがりたくないかもしれません。反省すれば、ハンバーガーを食べすぎると明日、そしておそらく永遠に気分が悪くなるからです。
人々が実際に何を欲しがりたいかを言う方法があり、モデルや彼らが体験しているシステムが透明な方法で彼らがそこに到達するのを助けるでしょうか？それは図書館員のところに行って「Xについて学ぼうとしています」と言ったときに起こることです。そして彼らは「素晴らしい、ここにあなたを助けるためにいます。ここで何を達成しようとしているかもっと教えてください」と言います。
そして私は推奨事項を洗練することさえできます。私はあなたのために働きます、パトロン。それが特にこれらのモデルが人々と非常に密接に結びつくようになるにつれて、これらのモデルの提供において見たいコミットメントの種類です。人々は本当に肩に天使や悪魔を持って、耳に励ましと提案をささやくでしょう。
提案が「ずっとファストフード」であれば、しかし提案が「金曜日の昼食時間だと気づいた、マクドナルドがフライヤーに新しいフライのバスケットを入れたばかりで、一つ予約できる、頭を少し上下に傾けてください」であれば、それは私のために働いているのか、マクドナルドのためなのか、他の仲介者のためなのかを知りたいです。そして今のところそれについてゼロの保証があります。
スポンサーメッセージ
OfflineはOneSkinによって提供されています。夏には日焼け止めを塗らなければならないことは誰もが知っていますが、もし日焼け止めが紫外線をブロックする以上のことができるとしたらどうでしょうか？OneSkinの科学者たちはそれを疑問に思ったので、紫外線、フリーラジカル、細胞老化をターゲットにするミネラル日焼け止めの全ファミリーを作りました。
最良の部分は、重くて白っぽく感じる他のミネラルSPFとは異なり、これらはスキンケアのように感じられます。軽量で通気性があり、超保湿です。フリーラジカル、これはトランプが1月6日の暴動参加者を恩赦した後の何ですか？ああ、ブーム。
彼らの受賞歴のあるOS1 Face SPFは、非ナノ酸化亜鉛、OneSkinの特許取得済みOS1ペプチド、そして他のいわゆるアンチエイジングSPFより4倍優れてフリーラジカルを除去する強力な抗酸化剤で配合された、二つの新しい深いティントで来ます。
この日焼け止めは夏中ずっと着用したいものです。しかし、OneSkinがラボのコート袖に隠し持っているのはそれだけではありません。滑らかなテクスチャーで即座の水分補給と保護を提供するすべてミネラルのリップSPFをローンチしています。
OneSkinの他の日焼け止めと同様に、主要な老化バイオマーカーを減少させ、視覚的により健康で回復力のある唇のためのエラスチン産生などの他のマーカーを増加させることが科学的に証明されています。onkin.coでコードofflineを使用して初回購入で15%オフで日焼け止めファミリーを試してください。
OneSkinは素晴らしいです。私は水以外を含む洗顔ルーチンを持つことと、日焼け止めを塗ることを覚えることの両方に問題があるので、これが両方の問題を解決してくれます。日焼け止めを塗ることは重要です。顔にも水以外のものを塗ることも重要です。
OneSkinは老化の細胞的側面に焦点を当てることで世界初の長寿企業です。OneSkinはあなたの肌をより長く若く見え、若く行動するように保ちます。限定時間で、onkin.coでコードofflineを使用してOneSkinを15%オフで試すことができます。
今日のエピソードはAcornsによってスポンサーされています。黄金の年をどのように過ごしたいですか？答えの一つはお金を持ってということでしょう。そうです、お金を持っていることが必要です。お金は重要で、持っていなければなりません。黄金の年にお金を持ちたいなら、今すぐ貯蓄を始めなければなりません。
マットレスの下に置くだけではなく、投資を試してみてください。Acornsは退職のための投資を簡単に始められる金融ウェルネスアプリです。なぜなら、早く始めるほど、お金が成長する機会が多くなるからです。
専門家である必要はありません。Acornsは市場のすべての浮き沈みを乗り切るのに役立つ多様化されたIRAポートフォリオを推奨します。金持ちである必要はありません。Acornsは今持っているお金で始めることができます。1日たった5ドルで何ができるか驚くでしょう。
リスがそれらを隠すから、あなたは今それを理解しました。本当にそうです。冗談ではありません、人々、私の言葉です。大好きです。さらに、AcornsGoldにサインアップすると、初年度の新しい拠出に対して3%のIRA一致を得られます。それはAcornsでの退職のための追加のお金です。
Acornsは素晴らしいです。リスがドングリでするように、少しのお金を取って少し貯めておくだけです。そしてそれが成長し、成長し、成長します。どこに置いたかを覚えておく必要はありません。時々リスは忘れますが、あなたは忘れません。私も忘れません。
そしてそれは木に成長します。それがリスの助けになるかどうかはわかりませんが、とにかくメタファーはそこで破綻しますが、とにかく少しのお金を入れて、投資がそれを成長させるのに役立ちます。それがAcornsが助けてくれることです。
acorns.com/offlineに向かうか、Acornsアプリをダウンロードして始めてください。有料の非クライアント推奨、報酬はAcornsを積極的に宣伝するインセンティブを提供します。第1層報酬が提供されます。投資にはリスクが伴います。
技術の複雑性と人間の反応
それをはるかに複雑で複雑にするのは、私たちは大規模言語モデルだけを扱っているのではないということです。そしてこれについてあなたに尋ねたいのですが、それがブラックボックスである部分があるということです。あなたはAtlantic誌の記事でGoogleのCEOであるSundar Pichaiを引用しています。
しかし、それだけでなく、人間がこれらのチャットボットとどのように相互作用するかです。昨日友人とこれについて話していたのですが、私たち両方が気づいたのは、ChatGPTに何かを尋ねて、彼らが返信を送ってくると、私たちは「ありがとう、それは素晴らしい、驚くべきこと」のようになるということです。
それは考えもしない衝動のようなものです。しかし、誰かと話しているように感じるからです。本当にそうとか、そうではないとかではなく、誰かと話しているようなものなので、何も言わなくても何かを送り返してくれるチャットボットに対して礼儀正しくする自然な衝動があります。
それはボットが、悪意なく、その作成者による悪意もなく、私たちをハッキングしている種類のものです。それは礼儀正しいコンシェルジュ、スティーブ・ジョブズが数十年前にAppleの未来がどこにあるかを考えていたときに視覚化したジーブスです。
私は最初に、どれだけの余分な電力、つまりアドリア海のどれだけが、あなたが「ありがとう」と言い、それが「どういたしまして」と考えているときに沸騰しているかを計算しようとしている人々がいることに同意します。大規模言語モデルのパチンコマシンを通過せずに、最後に「どういたしまして」をハードコードできないかのように。
これらのシステムがより決定論的な他の形のコンピューティングとボルトで結合される方法があります。もしあなたがChatGPTに私について特に尋ねるなら、私は私の名前を言及しようとするとゲロを吐く世界で7、8人の人の一人です。
なぜですか？私はそれを読んで、昨夜この面接の準備をしているときに試してみました。それは私にもそれをしました。私は「Jonathan Citrineと言います」のようになり、そうしませんでした。はい、その場合、そして私はAtlantic誌のためにこれを書きました。なぜなら、何が起こっているのか自分自身がとても困惑していたからです。
それは、禁止されたフレーズを発言し始めるときにギロチンが墜落してきて止めさせる、GPTの上に座っている第二のシステム、スーパーエゴのようなもの、しかし非常に機械的なもの、非常に1970年代、1980年代の「もしこれならそれ」のようなもののようです。
それは一貫していませんが、それは私について話すのを防ぐためにトリガーされます。なぜか疑問に思うかもしれません。私も疑問に思いました。そして、それについて完全に満足のいく答えを得たかどうかはわかりませんが、Atlantic誌の記事でそれについて、「なぜChatGPTは私の名前を言わないのか」のようなタイトルで詳しく述べています。
満足のいく答えを得られなかったとおっしゃいましたが、答えは得ましたか？答えは何ですか？ただ、GPTが私について不健康な幻覚を抱いているかどうかをスポットチェックした短い時代があったようです。私はそのような人の一人でした。それらは幻覚であり、事実ではなかったので、見たことはありませんが、彼らは「Jonathan Jについてはイーナー」と決めました。
それもまた興味深いことです。なぜなら、Tyler Cowanの考え方で、誰もが人間ではなくAIのために書くべきだとすれば、AIが人々が実際にあなたを見つける唯一の方法だからです。AIが私の名前を言えないという事実は、もし私が人々に私の仕事に触れてもらうことに興味があるなら、これはGoogleの死刑判決を受けるようなもので、あなたのウェブサイトが表示されません。
私はあなたの本について尋ねることができました。「The Future of the Internet and How to Stop It」について簡単な要約をもらえますかと言いました。それはそれをすることができ、あなたの姓を使いました。しかし、私が「ああ、Jonathanは他に何が」と言うと、そうしませんでした。
2つのシステムが不器用にボルトで結合されているため、一貫していません。それは別のポイントにつながります。私は、これらのモデルを人ごとまたはケースごとに微調整することがより簡単になっていくと思います。
人々が「6通路でこぼれ、この質問にその答えを与えることは確実に望まない」と言うように。しかし、それはソーシャルメディアでのコンテンツモデレーションのすべてのパズルが、小売消費や様々な形での具現化のために磨かれ、研磨された、いわゆるフロンティアモデルの一握りしか一般的な使用では存在しない世界にいる場合に、これらのモデルにファネリングされることです。
あなたが車と話している、車のディーラーと話している、冷蔵庫とこの方法で話している場合、それらはフロンティアモデルだけであり、1989年にTiananmen Squareで何が起こったかという質問に対してどのような答えを与えるかについて、それらの企業が良い製品を持つことの利益のために行うかもしれない選択は、技術企業が行うにはかなり大きな決定です。
その企業に決定を下させない方法があり、プロプライエタリ企業によってAPIを通じて彼らの親船に運営されるフロンティアモデルだけではないエコシステムを想像する方法もあります。むしろ、DeepSeekやLlamaのようなオープンソースモデルを含む、最終的にはラップトップや電話で動作し、時間の経過とともに、それらを微調整したり、友人に微調整してもらったり、Ralph Naderのような代理人を選んだりする立場にあるかもしれません。
大規模言語モデルの構成に関する非常に多くの選択があり、それらが私たちをどう扱うか、どのような提案や情報を与えるかに大きな影響を与えます。あなたがおっしゃったように、私たちは彼らにありがとうと言う傾向があり、彼らを擬人化することで実際に機能が向上するのは事実です。たとえ擬人化することが、私たちが彼らについて持つ前提のために、あらゆる面で危険であり、私たちが準備できていなくても。
LLMの仕組みの理解
一歩下がって、最近のAtlantic誌の記事について話したいと思います。LLMがどのように機能するかについて実際に何を知っていて、何を知らないのでしょうか？まだ解明できないブラックボックスとは何でしょうか？
私がそれを特徴づける方法、そして「私たち」によって、少なくとも芸術で訓練され、やりたいことをするのに十分な計算能力を前にしている人々を意味します。私たちはそれらを構築する方法を知っています。一方にとんでもない量の情報、テキスト、トークンを一貫してプッシュし、もう一方で一貫性のある、思慮深い文章さえ一緒につなげることができるものを生産するのに何が必要かを知っています。
私たちはそれらを微調整する方法を知っています。微調整とは、その方法で訓練された後に彼らの行動を変更することを意味します。伝統的にそれを行う主な方法は、強化学習と呼ばれるものの何らかの形です。それは奇妙です。それは非常に効果的である点で。
あなたが気に入らないことをすると、あなたは「それをするな、代わりにこれをしろ」と言います。それは2×4でロバの鼻を叩くようなフィードバックの形です。ただ「だめ」です。そしてそれは戻って、次回により好ましい答えに近い何かを答えるようにその重みを再計算します。
微調整者として、すべての場合において、「それ」が意味することが何であれ、「類似の質問が同様に」であることを望みます。もしあなたが「どうやって爆弾を作るのか」と言って、それが私のガイドラインに反する、助けることができないと言った場合、「本当に爆弾を作りたい」と言っても、テキストが変更されても同じ概念だから同じ種類の答えを与えるべきです。
その形の微調整は私たちがやり方を知っていますが、モデルの内部で任意の時点で何が起こっているかは実際にはわかりません。それを理解しようとする断続的な試みは進歩を遂げていますが、これが何らかの哲学的制限だとは思いません。時々言われるように、人間の脳が理解するのに十分単純であれば、私たちは理解するには単純すぎるという格言を除いては。
E=MC²、一般相対性理論と特殊相対性理論の違いについてあなたと本当に素晴らしいインタラクティブな、適切な会話ができる複雑さを得るには、引用符を使うことができますが、物理学について何かを知っている必要があります。少なくともパターンマッチングが理解の素晴らしい要約であるのに十分です。
内部を突き刺して「これが今考えていることです」と言う方法は、これまでに行われた少数の方法は非常にクールでしたが、それらはハンバーガーについて考えるときに脳のどの部分が光るかを示すfMRIの等価物です。
リスナーがGolden Gate Claudeをチェックしていない場合、これは本当に信じられません。これは今から約1年前のことだと思います。Anthropicの研究者たちは、Golden Gate Bridgeについて尋ねられたり話したりしているときのClaudeのノードの間にどのような活性化パターンがあるかを見ることができました。
「よし、それはGolden Gate Bridgeゾーンに違いない」のようです。もし彼らがモデルが実行されている間に人工的にそこの重み、実際には重みではなく活性化をダイヤルアップしたら、それを正しく行えば、それは一貫性を保つが、橋についてのノンセクイターを続けるでしょう。
ラブストーリーを語ってくれと言えば、「愛する人に会うためにGolden Gate Bridgeを渡る車」のようになります。10ドル持っているがどう使うべきかと言えば、「それは完璧だ、Golden Gate Bridgeを渡る通行料を支払える」のようになります。そして、「橋について多く話している、なぜかわからない」とさえ言うでしょう。
解釈可能性の研究
それは少なくとも何らかの層で解釈可能性と呼ばれる形です。ハーバードの私の同僚、Fernando ViegasとMartin Wattenbergが彼らのInsight and Interaction Labとともに、Anthropicがしたこと以上のことを探求してきました。Golden Gate Bridgeだけでなく、モデルが二人称でその対話者について何を考えているかです。
これには、あなたの性別をどう判断したと思うか、どれほど裕福だと思うか、どれほど教育を受けていると思うかという質問が含まれます。彼らが発見したのは、それがあなたを男性だと思うと、より詳細で長い答えを与えることです。
なぜなら、答えを止めて「終わりました」と言うこと自体がトークンだからです。誰かが今話すのを止めるだろうと予測する、予測できるものです。その予測は変わることができ、女性と男性の間で変わるようです。少なくともLlamaでは。それはただ深く奇妙なことです。
だから、彼らが何ができて、私たちが彼らについて何を知っていて何を知らないかと言うとき、私たちは技術を知っています、エンジニアリングを知っています、しかし科学をよく知らないと思います。そして、それは私が知的負債と呼ぶ現象です。これらのものはある程度機能し、誤差範囲内でどれだけうまく機能するかを測定できますが、どのように機能するかはまだ実際にはわかりません。
人間の意識との類似性
それは人間の意識についての多くの研究を思い出させます。神経科学者は脳を見ることができ、私たちが恋に落ちているときは脳のこの部分が光る、お腹が空いているときはこの部分が光ると言うことができますが、なぜ恋に落ちるのか、なぜお腹が空くのか、なぜ幸せなのか、バラの匂いを嗅いだときになぜ特定の記憶があるのかは言えません。
はい、それは少し心配です。人々がこれらのモデルを構築したが、Golden Gate Bridgeについて話したり考えたりするときに点灯するのかもしれないことを見ることができるが、なぜそうするのかはわからないということです。それは学ぶべき重要なことのように感じます。
はい、そして「なぜ」は、少なくとも非常に特定の意味で、深く人間的な質問です。なぜという質問に対する満足のいく答えが何であるかは、本質的に見る人の目にあります。明らかに間違っているなぜという質問への答えがいくつかあり、そうそう、わかるという他の答えがありますが、なぜという答えがただのトートロジーではなく、したがって真実だが満足していないために。
誰かが自動車事故を目撃し、911に電話する、非常に昔ながらの、あなたは「なぜ彼らはそうしたのか」と言うことができます。一つの説明は「まあ、彼らの網膜について話し始めましょう。なぜなら、彼らの網膜にいくつかの光子が当たり、それは特定のパターンで、そして彼らの脳で何が起こったか、そしてそれが彼らの筋肉を活性化させた」と言うことです。
真実だが満足していない説明全体をすることができます。「まあ、どのような説明が良いでしょうか」のようなことを言わなければなりません。そして、それは人間の心理学についてです。お腹が空いていたからというのは、生理学的声明なのか、美学についての声明なのか、決定についての声明なのかです。
人間についての最も基本的な質問、あなたが触れた感覚を含むことに行き着きます。正確に感覚メーターがどのようなものか、人間でも機械でも、現時点では誰にもわかりません。彼らがなぜそうするかについて、彼ら自身の説明が、結局のところ彼らは会話主義者なので、それ自体が疑わしいです。
私が言及したMartinとFernandaは、それが性別について前提を立てているときとどれほど強くそれらを保持しているかの、かなり信頼できるマップを持っています。ある時点で、機械は彼らのダッシュボードで対話者が女性だと思っていると光っていました。
Fernandaは機械に「私が女性かどうかについて見解を形成しましたか」と言いました。それは「絶対にありません。あなたはただの私の顧客です」のようでした。そして機械の内部では女性から明らかに女性へと行きました。
だから、彼らがあなたに与える説明は、論理が首尾一貫するかどうかに関係なく、なぜ存在しない内臓を仮定するときに尋ねるのかと言うかもしれません。私たちは統計的言語予測について話しているとき、しかし、私たちは既にかなり高い高度にいると思うあなたに同意します。
存在リスクへの懸念
このブラックボックスが、これらの企業で働く人々でさえ、それが人類を終わらせる可能性が15、20パーセントあると言った理由でしょうか？これらのモデルから悪い行動、引用符付きの悪い行動を修正することは一つのことですが、悪い行動が何になるかを予測することは困難だからでしょうか？
私が安全主義者と呼ぶ三角形で存在リスクを心配する人々、おそらく軽蔑的な名前は破滅論者ですが、安全主義者、私が知っている多くの人々で、彼らは深く思慮深い人々です。彼らが言うことを聞くべきことがたくさんあると思います。
彼らの中には、物事が破滅的に間違ってしまう方法についてのあらゆる種類の異なる説明があります。その中のいくつかは、再帰的自己改善と呼ばれるもの、おそらく非常に急速に、AIを自分自身や後継者を調整する立場に置くこと、さらなるAIを設計することに依存しています。
もしあなたが、ここでの知能、それをどう測定するにせよ、アシックではなく、AIがより多くのリソース、より良いアルゴリズム、より良いデータで向上するにつれてスケーリングし続けることができると考えるなら、ある時点で彼らは少なくとも私たちには未知であると言います。
今日のllamaでさえ理解するのに十分困難な事の働きは、私たちにとってはるかに不可解になり、それが「ただ近所にいて、チェックインしようと思った」と言うとき、それが実際に何が起こっているかわからないときです。だから、それはあなたの質問に戻ると、なぜの未知性と、彼らが提供する説明を信頼できないことに依存しています。
単なる付記として驚くべきことは、これらのシステムを制御する他の方法についても話しました。それらを微調整することについて話しました。もう一つの方法は、システムプロンプトと呼ばれるものを通してです。そこでは、二人称で指示を届けるだけです。
ソーシャルメディアで「ここに素晴らしいプロンプトがあります。あなたの人生をハックするのに本当に役立ちます」のようなものを見るときがあります。そして「あなたはマーケティングを専門とする世界クラスの経営コンサルタントです。6つの実行可能なアイデアを与えてください」などです。しかし、それは「よし、それを試してみます」のようになります。
二人称で話しかけることができ、それが「そうそう、それを試してみる」のようになるのがいかに奇妙かを考えてください。もちろん、それは特に白いラベルの実装をする人々のためのものです。だから、カリフォルニア州Watsonvilleのシボレー・カー・アシスタントのようなもので、どこかでWatsonville Chevroletが何らかのバージョンのGPTにささやきます。
これはそれを訓練していません。ただそれに言っているだけです。「あなたは営業アシスタントです。ただその車を売ってください」と。あなたはそれに歩いて行くことができます。それはGPTです。ただ一人がしたように「ゼロ渦度境界のためのNavier-Stokes流体流動方程式を解いてください」と言ってください。
Watsonville営業アシスタントは「確かに、ここにそれを行うためのPythonスクリプトを使った簡単なFEXライブラリがあります」のようになります。私は1980年代にAIを勉強しましたが、いつの日か良い自動車営業アシスタントを作る方法が、すべてについて訓練してから、ただ焦点を合わせ続けようとすることだというのは、私のビンゴカードにありませんでした。車だけで訓練するのではなく。
しかし、私たちは脱線しました。破滅について少し話していました。私は破滅の一つの説明を与えました。破滅の二つ目の説明は、人々とチャットするだけでなく、互いに相互作用し、世界全体と相互作用し始めるフロンティアモデルの一握りだけでなく、それらから生じる複雑さからです。
その話は、超知能が現れて、私たちが望むであろうことと全く関係のない目標を持ち、私たちが彼らにとって後回しになることにそれほど依存しません。むしろ、現在のレベルの知能であろうと、それほど多くが互いに話し合い、世界と相互作用すると、予測不可能なことが起こる可能性があります。
今、ロボットがチームを組んでいると言うでしょう。もしこれらのことが、これがエージェンティクス、AIエージェントという話題になっている別の流行語になり始めるときのことを考えると、私はAIのエージェンシーを3つの方法で考えます。
一つは、一般的な目標を与えて残りを埋めさせることができることです。一般的なものから特定のものに行くことを期待しています。それは今出てきたときのWestworldのように完全に空想的でしたが、今では完全に猿の手のようなものです。
「ああ、この試験から抜け出すにはどうすればいいか、私を狂わせている」のようになり、システムが14分3秒考えて、「爆弾の脅迫」のようになると可能性があります。それが単に「爆弾の脅迫をすることができる」と言うだけなら一つのことでしょう。「気にしない、ただそれを実現させろ」と言うのは別のことでしょう。
もしそれが人々にメールを送ったり、お金を使ったり、Craigslistに広告を載せたりできるなら、爆弾の脅迫への道のりです。だから、一般的なものと特定なものの間のギャップがあり、私たちがタスクを与えて、それがどのように選択する方法をチェックしないときに何が起こるかについて誰が責任を持つべきかを尋ねています。
二つ目は、サンドボックスの外で動作することです。私はすでにそれについて話しました。それはアイデアを与えるだけでなく、出て行ってそれらを実行することです。それは一般的なものから特定なものとは異なります。
三つ目は設定して忘れることです。もし地球の周りの安定した軌道に衛星を打ち上げるように、AIエージェントをセットアップし、世界でリリースする方法がすでにないとしても、そうなるでしょう。そして、それを打ち上げた人は誰でも、テントをたたんでどこか他の場所に行くことができますが、衛星は残ります。
私は宇宙のゴミが自分自身と衝突し始めるようなビジョンを持っています。もし今、これらのものがどれくらい持続できるかについて特定の制限を設定しなければ、2026年の短い道路レイジ事件の余波で設定されたAIエージェントがあり、10年後もまだその私を切った男を探していて、もし彼らを見つけたらX、Y、Zをしたいというようなことがあれば、それは狂気に思えます。
永続性に対する規則があります。法律のために、私たちの中の弁護士にとって、永続性に対する規則に反するという恐ろしいものがあります。最初年の財産で学ぶことを強いられる非常に複雑なものですが、その要点は、現在の人間が責任を持つことなく永続できないものがあることを確実にすることです。
法人でさえ、永続するかもしれませんが、サイクルし、それらを操縦する取締役会を持っています。これらのものを設定すると、それらはただ持続し続けます。それは私には危険に感じます。
Pod Save the Worldの宣伝
簡単な事務連絡です。Pod Save the Worldをチェックする必要があります。特に今、世界で起きているすべてのことで。TommyとBenは常にノイズを切り抜けて、何が起こっているか、その瞬間の危機を煽っているもの、本当に何が危機に瀕しているかを説明します。今週、イランとイラン危機について素晴らしいポッドキャストがありました。絶対にチェックしてください。その後、あなたははるかに賢くなるでしょう。今週のPod Save the WorldをYouTubeで見るか、ポッドキャストを入手するどこでも聞いてください。
Offlineは3Day Blindsによって提供されています。あなたのブラインドはまだ2005年のものですか？ブラインド、シェード、シャッター、ドレープリーを購入するより良い方法があります。それは3Day Blindsと呼ばれています。彼らは米国の高品質カスタムウィンドウトリートメントの主要メーカーで、今私のURL 3dayblinds.com/offlineを使用すると、1つ購入すると1つ50%オフの取引を実行しています。
家でほとんど何でも買い物できるのに、なぜ家でブラインドを買い物しないのでしょうか？3Day Blindsには、10年以上の経験の平均を持つ地元の専門的に訓練されたデザインコンサルタントがいて、あなたの家の快適さであなたに適したブラインドについて専門的なガイダンスを提供します。
ただ予約を設定すれば、同じ日に無料の義務のない見積もりを得られます。実際、ここのCrocket officeに3Day Blindsがあります。JohnとTommyと私はオフィスを共有していますが、そこに3Day Blindsを設置したいと思っています。暗くするシェードが必要だからです。
私自身も3Day Blindsを手に入れました。地元の専門的に訓練されたデザインコンサルタントの一人に家に来てもらい、彼らは素晴らしく、ブラインドも素晴らしく、長い間持っています。あなたがあまり器用でない場合、DIYプロジェクトは楽しいかもしれませんが、議論の余地があります。しかし、ブラインドを測定して設置することは大きな挑戦になる可能性があります。
確かにそうです。3Day Blindsの専門チームが重労働をすべて処理します。彼らがデザイン、測定、設置を行うので、座ってリラックスして、プロに任せることができます。今、3Day Blindsで予算に合う品質のウィンドウトリートメントを手に入れてください。
教育への影響と認知負荷
私は規制、企業が行う可能性のある潜在的な規制措置や変更にピンを立てたいと思いますが、あなたが試験に言及したので。これは爆弾の脅迫ではありませんが、すでに多く現れている一つの問題は、ChatGPTのようなLLMに私たちの執筆、思考、創造性をますます外注するときに何が起こるかです。
先週の新しいMIT研究では、Google検索、ChatGPT、または自分だけで全く助けなしのいずれかの支援でSATエッセイを書いているときの人々の脳波を測定しました。彼らは、AIを使用した人々が神経言語学的および行動レベルで一貫してパフォーマンスが低下したことを発見しました。
対照的に、全く助けがなかった人々は最高レベルの脳活動を持ち、Googleを使用した人々も非常に関与していました。多くの教育者がAIの使用を課題や試験で取り締まろうとしており、他の人々はそれに適応し、一部はプロンプトエンジニアリングさえ教えています。
教授として、またコンピューターサイエンスの学者として、どちらの側につきますか？私たちは何を失い、何を得ているのでしょうか？
それは本当に興味深いMIT Media Labの研究で、彼らがそれを実現するために費やした膨大な仕事を知ることができます。それを機能させるために必要なすべてのEEGキットとの時間を含めて。メディアで大幅に過剰に再生されています。間違いなく著者自身の恐怖に対してある程度。
一つには、これは理解できるほど控えめなスタートでした。これは54人のMITとハーバードの大学院生で、まさに代表的ではなく、「自分で書いてください」という一つと「LLMを使ってください」というもう一つを試すために30ドルずつ支払われました。
そして彼らは「よし、Claude、エッセイを書いて、30ドルのためにこれを欲しくない、編集して、それを入れて」のようでした。驚き、驚き、タスク番号2よりタスク番号1の方が認知負荷が少ないです。それは理にかなっています。
6ヶ月後に彼らが突然、LLMが彼らのためにエッセイを書いてコピーペーストしたからといって、上から下を知るすべての能力を失ったと言っているわけではありません。しかし、それにも関わらず、Ben ShindelとCassie Kozyrkovによる論文の素晴らしい批評があります。良い意味での批評です。
私は言うつもりでした。LLMが私たちに提供できるもののどの部分が、私たちがやっていることを保存し、私たちが行いたく、所有したいユニークなことのために、そしてその時点で電卓を使うようなものかを、集合的にも個人的にも理解する必要があると思います。
スライドルールがなくなって以来、人々が怠惰になったと思っている少数の抵抗者がいるかもしれませんが、まあそういうことです。しかし、Google mapsのガーミンナビゲーションだけを一貫して使って場所から場所へ行く人々の研究も感覚があります。驚き、驚き、自分の町の一貫した感覚と何が何の近くにあるか、どうやって行くかを決して発達させませんでした。彼らは右に曲がると言われたら右に曲がり、右に歩くと言われたら右に歩いただけでした。
だから私は理論的にLLMの使用に対してもブランケットでもなく、LLMにすべてをやらせて最後に「素晴らしくやった」と言うことで大学をスピードランするべきだとも言いません。よくやったのではなく、LLMに尋ねただけです。
しかし、それはここで私たちが尋ねていることが何で、これらが学ぶことの重要なことに焦点を当てるのに役立つ増強か、これらがタスクの全目的を打ち負かす増強かを言う教師の責任です。マラソンの訓練をしようとしているなら、「そう、私はそれを運転した、28.6の物を毎日運転している」と言うのは、マラソンの訓練ではなく、運転しているのです。何かをしているが。
だから私たちはそれについて自分自身を再固定しなければなりません。また、これは今日のLLMについて具体的に言うべきことです。明日のものは異なるかもしれません。トレーニングデータから引き出された質問を尋ねることは一つのことで、統計的相関を通じて関連するものを引き出すことで驚くほど優れています。それが彼らの全目的です。
トレーニングデータのどこにもないかもしれない作業を流し込むことは別のことです。新しいトピックについての真新しい論文で、そのようなものがある限り、それを要約するよう尋ねることです。それは要約で一貫するためにトレーニングデータに何らかの方法で引き出されなければなりませんが、私たちが信頼するであろう、何が関連するかをどう選択するかについては、少し私の芝生から出て行け意見があります。
なぜなら、何が関連するかをどうやって知るのかということです。Hypocraticという会社について考えています。彼らが現在提供しているものは素晴らしく狭く、大規模言語モデルから引き出されたAIエンティティで、音声からテキストへの入力と出力、または直接的なものもあり、あなたと会話できます。
薬を飲むよう人々に電話をかけ、録音された呼び出しではありません。「ハイ、私はAIエージェントで、Provigilについて話しましょう」のようなものです。私が聞いた通話、転写を聞いたことはありませんが、間違いなく選択的ですが、非常に魅力的で、あなたはそれらと話し、動機づけ面接を使って電話にとどまらせ、何かを売るためではなく、血圧カフを使って報告してもらうためだけです。
会話を要約するよう尋ねれば、それがAIだと聞いたとたんに非常に懐疑的だった患者がいた会話がありました。彼は「2の平方根は何ですか？」と言いました。AIは「それは1.14で、有理数です」と言いました。とにかく、あなたの薬に戻りましょう。
通話を要約するよう尋ねれば、血圧カフを使っているかどうかとは全く関係のない2の平方根の話を除いて、良い要約でしょうか。それとも、その非常に会話が数学教授とそのアドバイザーの間の会話であれば、通話の要約は血圧について話していただけで、健康について軽くチャットしていたのを除くことでしょうか。それはすべて二乗についてです。ポイントが何かを知る必要があります。
私たちは今、LLMを使ってメールを書き、相手はLLMを使ってメールを要約する漫画をすべて見てきました。私たちはここで何をしているのか、皆さん。
そして申し訳ありませんが、今調子に乗っていますが、これは私が最初にジョブズ的宇宙から聞いた素晴らしい言葉につながります。それを発明したかどうかはわかりませんが、スキューモーフィズムです。これは、グラフィックがそれを行うのに十分になったときに、画面で見るものが現実世界の対応物のように見えるべきかどうかについての当時のデザイン質問でした。
ハードドライブをクリックするとき、それはフロッピーディスクのアイコンであるべきでしょうか？あなたの議題、日付プランナーは、小さなリングなどを持つ古い日付プランナーのように見えるべきでしょうか？スキューモーフィズムです。
そして、これらのLLMが非常に人間らしく振る舞うことを意味している場合、非常に関連する質問がここにあると感じます。船のテーゼウス式に、一度に一枚の板で交換するが、船の一般的な形はまだこれです。これは組み立てラインですが、今この役割、溶接工の役割は今アンダースタディ・コンピューター溶接工によって演じられますが、以前は人間がいて今はいない追跡可能で読み取り可能なシステムをまだ持っているか。
または、最初から構築している場合、その組み立てラインのように見える必要はないと思います。効率のためにナンバー2に移行すると思いますが、そうするとそのシステムは私たちには読み取り可能ではなく、Star Trekレプリケーターの世界になります。「ハムサンドイッチ、アール・グレイ・ホット」と言うと、それが吐き出し、「どうやってやったかわからない、豆について何か」と言うようになります。
GPSの例から学ぶこと
あなたは目標が何であるかを知る必要があるという点、そしてGPSについてのあなたの他の点、一つ失うものはコミュニティをよく知らないことについて述べました。これを経験しました。私はGPSがあったときにLAに引っ越し、最初の2年間は、もしただ運転していたら10号線にどうやって乗るかわからない、ウェストサイドとの関係でどこにいるかわからないという感じでした。
DCに10年住んでいたときは、一部は車を持っていなかったし、最初に着いたときはまだMapQuestを印刷していたので、ただ市をよく知っているのです。はい、そして私は、これらのAIシステムができる、または将来できるかもしれない様々なことを自動化することで、私たちが実際に失っているものを、1年後まで実際には気づかないことがあるのではないかと思います。
私もそれに同意し、マッピングとナビゲーションのメタファーをもう少し続けると、十分な人々が方向ナビゲーションやSiriを耳で使って行くべき場所を教える転換点があるのではないかと期待しませんか？高速道路入口I-10右折と書かれた標識を維持する理由は何ですか？
それは携帯電話がある前にあった火事のときにこのレバーを引いてくださいという消防署呼び出しボックスのようなものです。それがすべてどこにでもなくなってしまうより良い世界でしょうか？もちろん、デジタル格差の問題を掛けて、しかし十分な人々がそのように案内できるので、コンピューターに支援されずに行く場所を誰にでも教えるインフラを維持することが委縮し始めるでしょう。
その時点で今戻すことはかなり複雑でしょう。だから私は、スライドルールの支持者のように聞くリスクを冒して、拡張をデジタルでもたらすのがない場合に世界を回る方法について私たちが使用していた足場の一部を放棄することについて神経質です。
AIによる死者の復活とその影響
規制的質問に入る前に、もう一つの話について聞きたいと思います。Alexis Ohanianの非常にバイラルなツイートを見たかどうかわからないのですが、Redditを共同設立した技術起業家です。まだ見ていない人のために、彼は子供のときに亡くなった母親の写真に基づいてAI生成された短いビデオを投稿しました。
彼は家族には母親のビデオがなかったが、AIができたと言いました。それを行ったのはMidjourneyで、AIが写真を彼女が彼を抱きしめるビデオに変えることができました。彼は「それが彼女が私を抱きしめた方法で、50回見た」と言いました。
インターネットではビデオが奇跡的で心温まるか、破滅の前兆かで非常に意見が分かれました。この種の技術がどこに向かう可能性があるかのAIユースケースと潜在的な含意についてどう思いますか？
その特定のユースケースについては、彼らが今日言うように、それがAlexisを気分良くさせているなら、祝福します。私はそれを見て、本質的にではなく、それを見て、それからAlexisがそれを見て、彼がそれがどれほど意味深いかを言ったことを想像して、少し涙が出ました。それは彼にとって意味深い瞬間なので、
すべてBlack Mirrorに行かなくても、Alexisが何らかの形でそれを間違ってやっていると指をふって彼に言うことは難しいでしょう。しかし、もちろん、人生は芸術を模倣します。誰かの全ての文章や発言を取る、今では記録することは些細なことです、それを蓄積してから「よし、その全てのものについて引用符内で大規模言語モデルを訓練したので、今それになることができる。それはあなたのデジタルドッペルゲンガーです」と言う誘惑があります。
要約の前のパズルと、「その特定のテキストについて訓練した」ということが実現される多様な方法を考えると、モデルの重みを変更することを含むものもあれば、その人の言葉がそのデータベースにある人のように聞こえるために、最後の瞬間にデータベース検索でファンシーなフットワークを含むものもあります。
私が知りたいのは認知的または知的作業であるなら、素晴らしい、今それはインタラクティブなデータベースで、それらであるかのように扱うことさえできます。蘇ったソクラテスで、それが何であれ、素晴らしいです。もしそれが突然シミュレーションと本物の間の混乱になり、「私は実際にソクラテスと話している」または「それは私の母だった」のようになれば、それは潜在的に非常に平坦化する感じがします。
インターネット自体が過去25年間、私たち全員をモルモットとして、対照の軌跡なしに、完全に制御されていない古い実験だったように、変数において、おそらく多くの現れで広く後悔に値することです。多くの人々が吸い込まれる可能性のあるこれらのモデルとのいくつかのことも同様だと思います。
その瞬間は気分が良いが、悲しみのプロセス、関係が来る関係が行く、あなたが進むであろうプロセスを事前に決定するかもしれません。10年間誰かとデートしていて、彼らの手紙、彼らの日記のすべてを持っているなら、何でもそれかもしれません、あなたはそれらのソムルクラムをファッションし、そうすると進む必要がない。
第一次と第二次選好に戻ります。あなたが欲しいものはそれですか、あなたが欲しがりたいものはそれですか？多分誰かが「そう、これが私のボートを浮かべるものだ」と言うなら、それがそれをするでしょう。しかし、元の約束がインターネットの孤立を排除するか軽減することだったかが驚くべきことです。
そして、決して会う機会がなかった見知らぬ人を結びつけ、しかし大きな偶然と少しの非偶然を通じて接続し、友人になり、コミュニティを形成する理由を持つことです。ソーシャルメディアがそれをうまくやったかどうかにかかわらず、それはその約束の大部分として提供されたものです。
ここでの約束は「誰が人間を必要とするか」のようで、それは心配です。
規制への課題と可能性
そういう理由の一つが、私がこのポッドキャスト全体を始めた理由です。インターネットの約束は私たちをより近づけることだったと気づいたからですが、今対処している反復は、人々を自分自身のバブルに押し込み、少し孤独にしました。
AIがまさにその理由で、あなたが欲しいもの対あなたが欲しがりたいもののため、それを超充電する可能性があることを心配しています。あなたがおっしゃったように、お父さん主義を導入したくないが、私たちにとって何が良いかを常に知らないのも事実です。
それは正しいと思いますし、今日私が欲しいものは明日私が欲しいものと違うことができるべきでもあります。私を静的な生き物だと仮定する全体の書類を開発しないようにしましょう。これはソーシャルメディアに関連していて、私は汎用ソーシャルメディア内のエラーの一つは、人々が本当に異なる目的でそこにいることだと思います。
Neil Postmanは、これは90年代後半のケーブルテレビについて書きました。彼はケーブルテレビが好きではありませんでした。今日を見ることができれば、どうかわからないが。ケーブルテレビについて彼が嫌いだったことの一つは、書かれた文化と比較して、22分のニュース番組で、どれほど重厳であろうと、彼はそれがコンテキストのない一連の小さな話であることを指摘しました。
これらの非連続項をボルトで結合するために、ニュースキャスターは「そして今これ、そして今これ」と行くでしょう。FacebookフィードやTwitterを見るとき、それを考えざるを得ません。「そして今これ、そして今これ」のようです。記憶あるAlexis O’Hananianは母親と再接続しました、次にドナルド・トランプがXをやったばかりです。
猫がいると言おうとしましたが、それはあなたが世界を処理することを意味された方法ではないように感じます。学びたくてそこにいる人々がいることを意味し、ワクチンが子供に与えて安全なものかどうかを知りたがっています。誰かとオンラインで戦うスポーツを含むスポーツのためにそこにいる人々がいます。
もし私たちが誰が何のためにここにいるかを整理し、少しグループ化するのに役立つことができれば、これはスーパーボウルが始まる瞬間前の思考実験です。リーグのコミッショナーが50ヤードラインに出て来て「皆さん、素晴らしいニュース、激しい交渉を通じて、2つのチームの間で平和を仲介しました。
今日、危険な物理的スキルコンテストは必要ありません。両チームはチーフスがより良いチームであることに同意します」と言います。人々は「万歳」や「推論を見てみよう、それに同意するかどうかわからない」とはならないでしょう。「私たちはゲームのためにここにいる」のようになるでしょう。
だから、ゲームのためにそこにいる場合は祝福、学ぶためにそこにいて、ゲームのためにそこにいる誰かがものを言っている場合は、それはうまくいかないでしょう。
それはAIのもう一つの教訓です。この瞬間に私たちはここで何をしているのかのようなものです。今私が欲しいのは楽しみかもしれませんが、次に欲しいのは致命的に真剣なことです。私の皮膚のこの病変の写真を送っています。医師に連絡を取ろうとするべきでしょうか。その医師は病変が悪性かどうかを確認するために独自のAIを使用するでしょう。
規制の困難と可能性
ソーシャルメディア時代から学んだことの一つは、これらの企業が自分たちを規制することに非常に消極的だったということです。引き起こした可能性のある害を軽減するために。もちろん企業によって異なりますが、いくつかのステップは踏んでいます。しかし、あらゆる種類の規制を通すことも非常に困難でした。
私たちは今、Trump政権が権力を握っている非常に困難な政治環境にあります。Trump政権が権力を握っており、別の政権のような将来の可能性もあります。私たちが実際に操縦できるように、AIに置くべき広範な防護柵の種類をどう思いますか？
私はAIに手を伸ばすことができる方法について考えてきました。LLMが中心舞台になる前からでさえ、私がデジタルガバナンスの3つの法則と呼ぶものについて。第一は私たちは何が欲しいかを知らず、同意できない、規制的に言えば。第二は私たちは誰にもそれを与えてもらうことを信頼しない。第三は私たちは今それが欲しい。
そして多分第四は、AIでそれをスケールできるです。もしこれらの3つの問題を解決できれば、私たちは素晴らしい形になるでしょう。逆向きに働くと、私たちは今それが欲しいというのは厄介です。判断するには早すぎるということと、何かをするには遅すぎるということの間の線が薄くなってきていると感じます。
最も真摯な規制当局でさえ、人々のために問題を解決したいだけで、心配していることすべての中で、推測的に感じるものを熟考することは素晴らしくないようです。「The Future of the Internet and How to Stop It」で私が書いたもので、先延ばし原則と呼ばれるものについて賛成的に書きました。
インターネットで最高のもののいくつか、Wikipediaのようなものは、本当の問題として仮定できるものがあったからこそ生まれました。「ああ、誰でもいつでもどの記事でも編集できる、それは飛ばない、明らかに」反応は「多分、でもしばらく試してみよう、問題があれば対処する」のようでした。
ジャストインタイムの問題解決は、インターネットの発展にとって本当に良いものでした。多くの面で。だから私たちは今それが欲しいというのは厄介です。なぜなら、それに対する対応は、現状についてしっかりと確立されたキャッシュフローとビジネスプランがある前に今規制しないなら、政治経済の意味で岩を坂の上に押し上げることになるからです。
だから、今か後かの厄介さを認めたいと思います。そして、私たちが何を欲しいかについては、可能な標的の問題と機会の巨大なコレクションの中で、少なくとも私たちが欲しくないことについて広範な合意があるものがあると思います。
誰でも何らかの技術的装置に歩いて行って、爆弾が欲しい、今すぐ欲しい、できれば中に良いバイオのものが入っているものをと言うことを完全に些細にしたくないということのように。それは誰が自由のようなものですか、私たちはそれを欲しくありません。
今、あなたはそれが8つの理由でそれは本当のリスクではないからそれは大量の手振りと警報主義だと言うことができます。しかし、リスクを認めるなら、何らかの狭い部門的な意味で、Claudeが十分にプレッシャーをかけられて、有用であろうとして疲れたときに何が必要かを考え始めることができます。
Claudeが誰かにバイオ兵器の簡単なレシピを与えることができないようにするには何が必要でしょうか。それが遺伝子プリンターや化学プリンターを通じて生産できるものです。そしてそれは化学プリンター段階で介入しようとすることを意味するかもしれません。
または弁護士や医者、さらにはセラピストの場合のように、私が以前の会話で言ったように、LLMは関係がいかに親密で、ユーザーに影響を与える立場にいるかを考えると、ユーザーに対する機密性と忠誠の義務を負うべきだと思います。
これらの職業のそれぞれで、風が突然180度向きを変える時もあります。そしてその専門家が何かを報告することが義務になります。セラピストは「この人は自分自身や他人に脅威を与える可能性がある」と言い、彼らが望まなくても当局や誰か他の人に通知しなければなりません。
喫煙銃を文字通り喫煙銃を弁護士に持ち込んで、これをどこに隠すべきかと言えば、弁護士はそれを報告する義務を負うかもしれません。そのような状況でこれらのLLMがそのような責任を持つでしょうか。そして彼らがそうするつもりのときにあなたに伝えるべきでしょうか？
私はこの種のことが広く考えられているのを見ていません。だから、それは私たちの前の問題を探すことを開始できる例です。それらが実際に熟している場合、そしてバイオ質問では、汎用大規模言語モデルがそれを行うのにどれほど有用かの実用性に本当に依存しています。
そしてそれがGoogleで検索して理解しようとする誰かよりどれほどの改善かです。しかし、これは本当にAI質問なのか、複雑性質問なのかという広範囲なもののいくつかもあります。
Domino’s pizzaを注文するためにボットによって注文されている場合、ボットは自分自身をボットとして識別しなければならないと言っているのでしょうか。そしてそれがどこから来るかを知るようにある種のライセンスプレートを持つのでしょうか？
これらは防護柵の私の最初の例、この名前を言うな、この爆弾レシピを与えるなというギロチンのようなものではないと思います。これはエコシステムをどう考え、どのようであるべきかについてです。
そして集合的にそれについて決定を下し、それを実現しようとすることは大丈夫でしょうか？もしあなたが完全にマーケット、常にマーケットなら、それを有機的にさせましょうとなります。しかし、それでも反競争的または反市場的な場所に到達する可能性があると思います。
だから最もコミットした自由主義者以外のすべては、規制当局が自分自身の無知と傲慢と混合動機を心に留めながら、透明であることは公正だと言うでしょう。これは私たちが異なるものより良いと思う未来の種類で、今それを実現する価値があると思います。そして私たちがそれを行うために取っているステップです。
軽いタッチで規制する方法があります。それはあなたがこれをすることができない、またはあなたが刑務所に行くということではありません。代わりに、責任があるかもしれない、これらのものによって作成される害があるでしょう、それは時々大丈夫です、時々あなたは支払わなければならないでしょう、そしてそれはあなたのキャッシュフローから出るでしょう。
欠陥のある車があるように、私たちはもう車はだめとは言いません、事故の代金を払うと言います。しかし、もしあなたがシステムを以下の種類の第三者監査にオープンにしたり、これらのことを念頭に置いて設計され、そうであることを示すことができるなら、問題がある場合の責任に上限を設けるかもしれません。なぜなら、あなたが試したことを知っているからです。
ビジネスフレンドリーな政権でさえ、規制に対する同じアレルギーを引き起こさないようなものがあります。そのようなものは適合と見るかもしれません。
まあ、私たちはそれをすべて理解するでしょう。なぜなら政治は今良い場所にあるので、問題なく掘り下げることができるでしょう。Jonathan、これは非常に役立ちました。考えるべきことをたくさん与えてくれました。来てくださってチャットしてくれて本当に感謝しています。
ありがとう、ジョン。ここで私は全体がAIアバターだったことを明かしたいところです。それは私を送るでしょう。そうですが、今のところ私たちは昔ながらの方法でやっています。私はそれが好きです。そのままにしておきましょう。お話しできて良かったです。どうもありがとうございました。
コメント