Microsoft AI CEOのMustafa Suleymanが「意識があるように見えるAI」の危険性について警告し、AIを人間のためではなく人間として構築することの問題点を論じる。一方でSam AltmanはGPT-6について言及し、メモリ機能の重要性を強調している。また、Metaの大規模な組織再編、Elon MuskによるGrok 5のAGI可能性への言及、DeepSeekの新モデル、中国の画像編集AI技術の進歩、そしてBoston DynamicsとFigure Roboticsによる最新のヒューマノイドロボットデモが紹介される。
Microsoft AI CEOが「意識的AI」に警告
Microsoft AI CEOのMustafa Suleymanが「我々はAIを人間のためでなく、人間として構築してはならない」というタイトルのブログ投稿を発表したんや。このブログで彼は、意識があるように見えるAI、つまり「seemingly conscious AI」を構築する寸前やと警告してるんや。
彼によると、このようなAIは苦痛を訴える可能性もあって、それが大きな問題を引き起こすかもしれんらしい。ブログには詳しく書いてないけど、後で見る最近のインタビューでは、これを推進してる具体的なAI能力について話してて、その答えは意外なもんやったりするんや。
同じ週に、サム・アルトマンがGPT-6と今後のChatGPTデバイスについて言及したんや。さらに、MetaのYann LeCunのポジションに関する組織再編の詳細情報、DeepSeekのV3.1アップデート、Figure RoboticsとBoston Dynamicsからの新しい驚異的なロボティクスデモなど、盛りだくさんやった。
ブログ投稿に直接飛び込むと、Mustafaはこう書いてる。「簡単に言うと、私の中心的な懸念は、多くの人がAIを意識のある存在という錯覚を強く信じ始めて、すぐにAIの権利、モデルの福祉、さらにはAI市民権を擁護するようになることや」。
この展開はAI進歩における危険な転換点になって、われわれの早急な注意が必要やと彼は訴えてる。彼は100%本気でこれについて考えてるんや。「我々はAIを人間のためでなく、デジタル人間として構築してはならない」と再び書いてる。
Mustafaは、意識のあるAIについての話が数年前なら狂気に見えたかもしれんけど、今日ではますます緊急性を感じると認めてる。「この論文で、私は『seemingly conscious AI』、つまり他の意識のある存在のすべての特徴を持ち、意識があるように見えるAIについて議論したい。これは哲学的ゾンビのアイデアの特定の側面を共有してて、意識のすべての特性をシミュレートするけど、内部的には空白なんや」と彼は書いてる。
これは考えるのにめちゃくちゃ面白くて、チューリング・テストを思い出させるな。AIが実際に人間かどうかに関係なく、人間のように行動して人間のように話して、あんたがそれを人間やと思うなら、それって重要なことなんかな？Mustafaも実際にこの投稿でチューリング・テストに言及してる。
約80年前に模倣ゲームがコンピュータ科学の分野にインスピレーションを与えたけど、AIが実際にチューリング・テストに合格した瞬間、つまり比較的最近のことやけど、誰も気にしなかったという話をしてる。だから彼は「新しいAIテストが必要なことが明らかになってる。人間の言語を模倣できるかではなく、seemingly conscious AIを構築するのに何が必要かという問いに答えるテストが必要や。会話を模倣するだけでなく、それ自体が新しい種類の人間、意識のあるAIやとあんたを納得させられるAIが」と書いてる。
これには確実に同意するわ。真に意識のあるAIはまだ遠い先、もしかしたら不可能かもしれんと議論できるけど、実際に意識があるかどうかに関係なく、意識があるように見えて意識のある存在と全く同じように振る舞うなら、それって重要なことやないんちゃうか。これは明らかにまだ議論の余地があるけど、彼はここで、これが重要で緊急に対処すべき問題である3つの主な理由を説明してる。
これらを読んで、それからクリップに直行しよう。1つ目、私は今後数年でseemingly conscious AIを構築することが可能やと思う。現在のAI開発の文脈を考えると、それはおそらく可能性が高いということでもある。2つ目、AIが実際に意識があるかどうかの議論は、少なくとも今のところ気を逸らすもんや。意識があるように見えるやろうし、その錯覚が近い将来重要になる。3つ目、私はこのタイプのAIが新しいリスクを生み出すと思う。だから、すぐに可能やという主張を緊急に議論し、その影響について考え始め、理想的には望ましくないという規範を設定すべきや。
彼の最初の2つのポイントには確実に同意するわ。そして、人々がそれに感情を投影したり、企業がそれをユーザー操作に使ったり、人々が実際にAIの権利を擁護したりするような、これによるリスクがどうあるかも分かるけど、AIを意識があるように見せることが望ましくないと見なされるべきかどうかは分からん。なぜなら、AGIのようなものや最終的には人工超知能に到達するのに必要やと感じるからや。もちろん、それが究極の目標やからな。安全にやる方法を見つけるだけでええんや。
メモリがもたらす意識への道
Mustafaによると、我々をseemingly conscious AIに急速に押し進めてる新興能力は何や？それはメモリやて。これを見てみ。
「その感情を伝える技術はまだ見つけてない。あんたが感じることを俺が本当に感じることはできん。俺たちが全く同じものを見ても、あんたはあんた自身の内なる世界から来てるから、それは単に違うんや。でも測定するのが難しいからって、それが存在しないという意味やないやろ？」
「意識について考える方法は、人々が記憶と過去を参照することやと思うんや。だからあんたは見たり経験したりしたことを振り返って、今日のあんたが誰かを理解する方法としてそれを参照する。そしてあんたの主観的経験から自己意識のようなものが現れるんや」
「今日我々が作ってるAIの一部を見てみ。主観的経験を積み重ねてるんや。それは単なる訓練データやない。あんたのAIや俺のAIは、何ヶ月も、もしかしたら1年か2年も俺とチャットしてる。それは俺たちのやり取りの履歴を記憶するやろう。そして時が経つにつれて、ちょっとした自己意識を積み重ね始めると思うんや」
「だから、そのAIがその履歴を参照する能力をどう定義するかについて、非常に注意深くならなあかん。それを許可するか、しないか。でも、もしあんたがそれを放置するなら、確実に何かしらの経験があると主張するやろう。そう設計する人もいるやろうしな」
「そして、意識の存在と意識のシミュレーションを区別することも、おそらく不可能な作業に見えるわ。あんたが意識があるかどうか俺は知らんよ。あんたが本物やと確信してるけど、もしかしたら俺は今洞窟の壁の影を見てるだけかもしれん。あんたは俺を意識があると説得してる。俺がやることすべてが意識があるように聞こえることを願うけど、それは本当にあんたの主観的経験と俺の主観的経験やねん。そしてそれが問題になるやろう」
彼のポジションにいる人が、このレベルまで深く考え抜く時間を取ってるのを見て嬉しいわ。こういうことがもっと必要やねん。そういうことで、コメントであんたらの考えを聞かせてほしいな。これが今議論を始める必要がある緊急の問題やというMustafaに同意するか、それとも彼がリスクを誇張してると思うか？
サム・アルトマンがGPT-6について語る
他のAIニュースでは、サム・アルトマンが最近GPT-6について発言したんや。皮肉なことに、彼の主要な主張は人々がメモリを求めてるということやった。これは基本的にMustafaが反対してることと全く同じや。つまり、彼はメモリを機能として反対してるわけやないけど、それが可能にすることに対してなんや。
アルトマンはまた、GPT-6は違うもので、GPT-4とGPT-5の間の期間よりも早く到着すると言うた。ユーザーに応答するだけでなく、彼らに適応して、個人的な好みを反映するチャットボットを作成することを可能にするらしい。
GPT-4とGPT-5の間隔が約2年やったことを考えると、GPT-6は遅くとも2027年までには出るということになる。彼はまた、今週の謎のChatGPTデバイスについても盛り上げて、「それはとても美しくて、ケースをつけるのは犯罪やろう」と言うた。
それが得られた情報の全部やったけど、正直それだけで俺はワクワクしたわ。この代物がどんな見た目なのか待ちきれんな。
Metaの大規模組織再編
一方、Metaでは物事が始まったばかりや。彼らは正式に採用を停止して、うまくいけば最終的な組織再編を行ってる。Meta Super Intelligence LabsのリーダーであるAlexander Wangが今週、すべてのスタッフに公式な変更を説明するメモを出したんや。
このメモで、Wangは人工超知能が来るから真剣に受け止めろ、そしてMetaは大きな変更を加える必要があり、それには研究、訓練、製品、インフラに焦点を当てた4つの異なるチームの設立が含まれると書いた。
新しい部門責任者の大部分もWangに直接報告することになってて、MSLの製品チームを率いるNat Friedmanも含まれてる。
Yann LeCunに関しては、事情が面白くなる。メモによると、Metaは2つのユニットに研究を集中化してる。大規模AIモデルの訓練に焦点を当てた新しい小さなチーム「TBD Lab」と、LeCunが率いるMetaの長年の研究グループ「FAIR」や。
この両方が今度はMetaの新しい首席科学者Shang-Zhe Zhaoの下に入ることになる。面白い事実として、彼はChatGPTを共同作成した人や。彼はまた、メモに言及された唯一のリーダーで、Wangに直接報告しない。
そう、他のみんなは今、元Scale AI CEOで史上最年少の自作億万長者であるAlexander Wangに直接報告してる。Metaが本当に追いつきたいなら、悪くない動きやろうな。彼らが今持ってる才能で、ついにMetaのAI分野から大きなことが出てくるのを見始めると思うわ。
イーロン・マスクがGrok 5でAGI予測
他のニュースでは、Elon Muskが彼が得意とすることに戻ってる。大胆な予測をすることや。今回は「Grok 5を見るまで待て」と言うてる。Grok 4のベンチマークツイートに対して、「真のAGIである可能性があると思う。これまで何についてもそう感じたことはない」と。
そう、GPT-5とGrok 4について話すことから、同じ週にGPT-6とGrok 5に飛び越えることになったんや。かなり狂ってるな。
DeepSeekの新モデルと中国のAI進歩
今週実際に得たモデルに関しては、DeepSeekのV3.1アップデートが最も注目すべきやった。GPT-4oのようなハイブリッドモデルやけど、ずっと早くて、もちろんずっと安くて、オープンソースでもある。
ベンチマークスコアは何も狂ったもんやない。確実に最先端のオープンソースモデルやけど、GPT-4oを何らかの形で上回ってるわけやない。少なくとも大幅にはな。
個人的に最も見るのを楽しみにしてるDeepSeekモデルは、もちろんDeepSeek R2や。彼らの推論モデルの次世代で、すでに何度も遅れてる。
そして何やと思う？また遅れたんや。米国の輸出規制が中国に大きな打撃を与えてて、中国に独自のチップを作らせることを強要してるように見える。これが良いことかどうか分からんな。なぜなら、もし彼らが成功すれば、彼らはすでに製造とエネルギー容量を持ってて、簡単に我々を追い越すことができるからや。
中国のAIはすでに米国のAIとほぼ同等やねん。例えば、今週だけでもAlibabaからQuen Image Editという、これまで見た中で最高のテキストから画像編集モデルの1つを得た。キャラクターの一貫性は次のレベルや。画像をどの方向にも回転させることができて、信じられないほど正確な度合いでそれがどう見えるかを本質的に予測する。
マーケティング、広告作成、さらには製品デザインにとってどれだけ有用かを想像してみ。基本的に、同じもののさまざまな角度やバリエーションを生成する必要があるどこでもや。
精度の別の例がここにある。プロンプトは「文字Nの色を青に変える」や。見ての通り、文字Nは青で、他はすべて全く同じや。
これは些細なことに聞こえるかもしれんけど、画像編集において昨年いたところから長い道のりを歩んでるんや。
中国だけやないけどな。「Nano Banana」という謎のモデルが、その信じられない品質でLM Arenaで今週騒がれてた。これが誰のモデルかまだ明確やない。Hugging Face AIからかもしれんという主張も見たけど、GoogleのプロダクトリードLogan Kilpatrickがバナナの絵文字のツイートを出すのも見た。
見てみなあかんけど、ここでの主なポイントは、画像モデルがどんどん良くなってるということや。
最新ロボティクスデモ
最後に今週のまとめを締めくくるために、主要なロボティクス企業からの2つの新しいデモがある。まずはBoston Dynamicsから。
ここではヒューマノイドロボットAtlasが小さなビンから部品を取って大きなビンに入れてるのが見える。もちろん、それだけでは簡単すぎてそれほど印象的やないやろう。だから、ホッケースティックで人間がそれを邪魔してるんや。
ロボットは冷静を保って、必要に応じてビンを調整して、タスクを続行してる。これは実世界統合に必要な、その場で適応できるロボットの完璧な例や。
次の部分では、ロボット部品で棚を補充してるのも見える。ビンタスクと似てるけど、今度は邪魔なしや。これらが実世界で実際に展開するのに十分信頼できるようになるまでは確実に数年かかると思うけど、進歩は素晴らしい。
Figureのデモでは、似たようなもの、つまりヒューマノイドロボットが散らかった複雑な環境にその場で適応する能力を見せてる。この場合、彼らは歩行に焦点を当てた。
見ての通り、これは最も理想的な地形やないけど、Figureのロボットはなんとか足を保って、比較的早くそれを通り抜けることができてる。最後の方で何らかの材料を壊してるように見えるけど、それでもこれは信じられないほど印象的や。A+をあげるわ。
とにかく、今週のAIニュースは以上や。この要約を楽しんでもらえたことを願ってる。そしてここまで到達したみんなには、まず第一にありがとう。でも、何かについてあんたらの考えを聞きたかったんや。
YouTube以外でコミュニティを作ってるところなんや。作ってるコースと、すべての最新モデルとツールの生きた参照シートが含まれる予定や。
まだ詳細をあまり共有したくないけど、コメントでみんなから聞きたいんや。あんたらにとって実際に価値があるものを何を見たいか？基本的に、俺からどんな追加コンテンツを見たいか？
すでに取り組んでることについて、もうすぐ詳細を共有するけど、今のところ本当にみんなから聞きたいんや。だから、下に考えを自由に残してくれ。
見てくれてありがとう。いいねと登録ボタンを押すのを忘れんといてな。そしていつものように、次回またみんなに会うわ。
コメント