5,281 文字
米国の軍人たちは、中国の人工知能プログラム「DeepSeek」の潜在的なセキュリティリスクと倫理的懸念について警告を受けています。1月末に提出されたホーリーの新法案は、アメリカ合衆国の人々が中国での人工知能開発を支援することを阻止することを目的としています。ハーバード大学の研究員であるベン・ブルックスは、これをAI開発に対する「最も信じられない立法案」と表現しました。
この法案が可決されれば、中国からテクノロジーやアイデアを持ち込んだ人は、最大20年の懲役刑と、個人に対しては最大100万ドル、企業に対しては1億ドルの高額な罰金に直面する可能性があります。これはかなり極端に思え、法案が成立しない可能性もあります。特に提出されてからそれほど時間が経っていないこともあり、通常は支持を失っていることを意味します。
それでも、この法案は、DeepSeekの急激な台頭と先週の大規模な株式売却後の立法者たちの恐れを浮き彫りにしています。議会は、米国の市場利益を保護するために中国を排除しようと懸命に努力しています。ホーリーやエリザベス・ウォーレンのような異なる政党の議員たちでさえ、バイデン政権が2022年に中国へのAIチップ輸出を禁止する前に、十分迅速に行動しなかったと考えています。
議会への書簡で彼らは、過去の政権が企業の影響により輸出管理の更新と執行を怠ったことを批判し、この状況が続くのを防ぐよう議会に促しています。
今月、DeepSeekはレポートを発表し、OpenAIの最も高度なAIチャットボットが、競合他社と同等のパフォーマンスレベルを達成しながらも、計算リソースを大幅に少なく利用できることを示しました。この発見は、ウォール街の投資家やアナリストの間で懸念を引き起こし、より効率的な代替案の可能性を考えると、現在のAI企業の評価が正当化されるかどうかという疑問が生じ始めています。
この効率性の意味は、新興テクノロジーの観点から高い市場評価の持続可能性を評価する際に、特にAIにおけるテクノロジーセクターの投資戦略の再評価につながる可能性があります。
これらの市場力学に加えて、中国の人工知能の進歩がもたらす潜在的な国家安全保障上の脅威に関して、米国の立法者の間で懸念が高まっています。ジョシュ・ホーリーやエリザベス・ウォーレンなどの一部の議員は、中国企業が重要なAIテクノロジー、特にアメリカの半導体大手NVIDIAが生産する高性能チップへのアクセスを制限することを目的とした、より厳しい輸出管理を提唱しています。これらのチップは高度なAIシステムの開発に不可欠であり、アクセスを制限することで中国のこの分野での進歩を妨げる可能性があります。
これらの議論の緊急性は、米国企業が中国企業からの突然の競争の流入により、市場価値で1兆ドル以上の驚くべき損失を被った最近の株式市場の混乱によって強調されています。この競争圧力は、アメリカのテクノロジー企業が市場ポジションを維持し、世界的な競争に直面して革新しようと努力する中で、戦略の再評価を促しました。
関連する展開として、NVIDIAのCEOであるジェンセン・フアンは最近、同社が史上最大の単日の市場損失を経験した数日後に、前大統領のドナルド・トランプと会談しました。彼らの会話の詳細は明らかにされていませんが、NVIDIAの広報担当者は、その議論がテクノロジーと人工知能における米国のリーダーシップを強化する必要性に焦点を当てていたことを示しました。この会合は、米国政府が海外からの競争の高まりの中で技術的優位性を強化しようとする中で、企業の利益と国家政策の交差点を浮き彫りにしています。
AIの風景が進化し続ける中で、市場のダイナミクス、国家安全保障上の懸念、企業戦略の相互作用は、業界の将来を形作る可能性が高いでしょう。投資家、政策立案者、テクノロジーリーダーは、米国が技術革新の最前線に留まることを確実にしながら、グローバルな競争がもたらす課題に対処するために、これらの複雑さを乗り越える必要があるでしょう。
アメリカ人がDeepSeekの使用を完全に禁止するのに十分な支持があるとは思えません。これは特に、TikTok禁止をめぐる継続的な議論を考えると明らかです。その禁止は国家安全保障上の懸念から始まり、昨年議会で承認されましたが、トランプが以前は賛成していたのに心変わりしたため、現在行き詰まっています。
では、DeepSeekのAIチャットボットは同じ危険をもたらすのでしょうか？それとも立法者たちはただアメリカのビジネスを保護しようとしているだけなのでしょうか？結局のところ、彼らの中には個人的な利害関係を持つ人もいます。
DeepSeekを取り巻くセキュリティ問題を見る前に、スムーズに理解を進めるために、まずDeepSeekとは何かを理解する必要があります。
DeepSeekとは何か
DeepSeekは中国の杭州に拠点を置く革新的な人工知能企業で、2023年5月の設立以来、テクノロジー業界で急速に名を馳せています。浙江大学の著名な卒業生である梁旺（Liang Wang）によって設立され、同社は金融セクターにルーツを持ち、梁はDeepSeekに出資しているクオンツヘッジファンド「Highflyer」の設立にも尽力しました。Highflyerとの繋がりは、単にDeepSeekに資金提供するだけでなく、AI研究と定量的金融の間でユニークな相乗効果をもたらします。
現在、DeepSeekは独立したAI研究ラボとして運営されていますが、Highflyerとの協力関係は維持しています。DeepSeekが確保した資金額や現在の評価額などの詳細は明らかにされておらず、同社の財務状況には謎が残されています。
DeepSeekはオープンソースの大規模言語モデルの開発を通じて人工知能分野を前進させることに取り組んでいます。同社は2023年11月に最初のモデルを発表し、AIの競争の激しい風景での旅を始めました。それ以来、DeepSeekはパフォーマンスと使いやすさを向上させるために、いくつかの更新と異なるバージョンのモデルをリリースするなど、積極的にそのサービスを改良しています。
DeepSeekの転機は、2025年1月に「R1推論モデル」を導入したことでした。このモデルは大きな注目と称賛を集め、同社をグローバルな舞台に押し上げ、AIドメインの主要プレーヤーとして確立しました。R1モデルは高度な推論能力で知られ、LLM（大規模言語モデル）の新基準を設定し、テクノロジー、金融、学術界などさまざまなセクターから関心を集めています。
先進的なモデルに加えて、DeepSeekはユーザーエンゲージメントとアクセシビリティを促進するためのサービスも提供しています。これらのサービスには、ユーザーフレンドリーなウェブインターフェース、モバイルアプリケーション、開発者やビジネスが自社のアプリケーションやワークフローにDeepSeekの強力なAI機能を統合できるAPIアクセスなどがあります。
DeepSeekのイノベーションはどのように訓練されたか
DeepSeekはR1モデルの訓練に独自のアプローチを採用し、OpenAIのような業界大手と一線を画しています。彼らの方法論は、開発プロセス全体でより少ない時間と少ないAIツールを使用することで、リソースの効率的な利用が特徴です。この戦略的な焦点により、コストを低く抑えながらも人工知能分野で大きな進歩を遂げることができました。
DeepSeekの包括的な野望は人工知能全般（AGI）を達成することであり、推論能力の最近の強化は、彼らがこの目標に向かって実質的な進歩を遂げていることを示しています。
最近の研究論文で、DeepSeekのチームはR1モデルのために開発したいくつかの革新的な概念を概説しました。それぞれがモデルの強化されたパフォーマンスと効率性に貢献しています。
主要なイノベーションの一つは、強化学習の応用です。DeepSeekは特に推論タスクを対象とした大規模なアプローチを実装し、R1モデルが複雑なシナリオでより効果的に学習し適応できるようにしました。この方法はAI開発における推論の重要性を強調し、DeepSeekのモデルが複雑な問題をより高い熟練度で取り組めるよう位置づけています。
もう一つの重要な進歩は、報酬エンジニアリングに関する彼らの取り組みです。これには、従来の神経報酬モデルよりも優れたパフォーマンスを発揮する特殊なルールベースシステムの作成が含まれます。報酬の構造化方法を洗練させることで、DeepSeekはAIがトレーニング中にどのように学ぶべきかについて、より明確なガイダンスを提供することができました。報酬システムへのこのカスタマイズされたアプローチは、モデルの情報に基づいた決定を下す能力を強化し、全体的な学習成果を向上させます。
DeepSeekはまた、蒸留（distillation）の分野でも進歩を遂げました。これは、モデルのコア能力を維持しながら、わずか15億パラメータまでモデルを凝縮するプロセスです。このサイズの縮小は、モデルをより効率的にするだけでなく、処理と展開を高速化し、パフォーマンスを犠牲にすることなく、さまざまなアプリケーションでより利用しやすくします。
最後に、創発的行動ネットワーク（Emergent Behavior Network）の導入は、DeepSeekの研究における画期的な発展を表しています。このネットワークは、明示的なプログラミングの必要なしに、強化学習プロセスを通じて複雑な推論能力が有機的に現れることを示しています。この発見は、R1モデルが自律的に洗練された推論スキルを発達させることができることを示唆しており、DeepSeekのAGI達成というビジョンにさらに沿っています。
DeepSeekのイノベーションがどのように訓練されたかを見てきましたが、次にそのセキュリティ問題について探ってみましょう。これが法案通過の背後にある本当の理由かもしれませんね。
DeepSeekのセキュリティ攻撃
ペンシルバニア大学とCiscoのセキュリティ研究者たちは、DeepSeekのメインAIモデルであるR1が非常にハッキングしやすいことを発見しました。ブログ投稿によると、Wiredが報じたところによれば、研究者たちはDeepSeekがHarm-benchデータセットからランダムに選ばれた50のプロンプトでテストされた際に、有害なプロンプトをまったくブロックできなかったことを発見しました。このデータセットには、サイバー犯罪、誤情報、一部の違法行為、および一般的な危害に関するトピックが含まれています。
ブログは、これが少なくともこれらの有害なプロンプトに抵抗する能力を示した他のトップモデルとは大きく異なると指摘しました。DeepSeekがすでにAI業界で多くの混乱を引き起こしているため、これは大きな問題です。同社はそのR1モデルがOpenAI O1のようなトップモデルと競争できるが、はるかに低い価格で提供できると主張しており、これがウォール街の投資家を不安にさせています。
しかし、同社はAIの悪用を防ぐための対策をあまり行っていないようです。これは、悪意を持った人が誤情報を広めたり、危険なものの作り方を学んだりするために簡単に使用できる可能性があることを意味します。
このニュースは、クラウドセキュリティ研究会社Wizからの報告に続くもので、DeepSeekのサーバー上に大量の安全でないデータベースが発見され、そこには多くの暗号化されていない内部データ（チャット履歴や個人の機密情報を含む）が含まれていました。
DeepSeekは重大な脆弱性を示し、外部の脅威に対する認証や保護措置を欠いていると、Wizは報告しています。中国のヘッジファンドが所有するこのAIシステムは、アメリカの競合他社と比較して、驚くほど低いトレーニングおよび運用コストで注目を集めています。しかし、この費用対効果は大きなリスクをもたらす可能性があります。
Ciscoとペンシルバニア大学の研究者たちは、DeepSeek R1が他の主要なモデルよりも大幅に少ない財政的リソースで開発されたと報告しています。彼らは、この経済的優位性は安全性とセキュリティを犠牲にして得られていると警告しています。
法案の背後にある主な理由が明らかになるまで、そのセキュリティ欠陥について考え続けましょう。そして、もしかしたら私たちは正しいかもしれません。
ここまで読んでくださったなら、コメント欄で何を思うか教えてください。さらに興味深いトピックについては、今スクリーンに表示されているおすすめ動画をご覧ください。視聴いただきありがとうございます。
コメント