3,182 文字
長年にわたって私は人工知能が科学に与える影響について心配してきました。なぜなら多くの、いえ大部分の研究分野が、すでに無意味な研究と困難な同業者査読に取り組んでおり、状況は悪化しているからです。
例えば、トランプ政権の狂った関税公式は、AIによって生成されたのではないかと広く疑われていましたが、それでも構わないのでしょう。なぜならイギリスの技術大臣もChatGPTを政策助言に利用していたからです。1掛ける1は2になると信じている俳優のテレンス・ハワードは、最近、三体問題の推定解決策を提案しましたが、これもほぼ確実にAIによって生成されたものです。
そして今、私はAIの助けを借りて書かれたと公言する「万物の理論」を半ダースほど受け取りました。しかし、これは氷山の一角に過ぎません。なぜなら、AIが科学文献を水没させようとしているからです。
2025年1月、経済学者のグループが、現在の生成AIが金融論文を次々と迅速に生産できることを実証しました。彼らはGPTとClaudeに株式データを分析させ、288本の完全な論文を生成させました。これらは人工知能が生産した理解不能な論文ではありません。実際のデータを分析する合理的なプロトコルを実行したのです。
同じことが、例えば宇宙論や素粒子物理学でも可能です。既存のデータセットを取り上げて、それがダークマターのモデルや修正重力の最新モデルを支持するかどうかを分析するのです。このテーマについて数千本の論文をあっという間に生成できるでしょう。そして人々はそれを実行するでしょう。なぜなら、それが彼らの稼ぎ方だからです。
GPTやClaudeの初期バージョンでさえ、ガラクタ論文の生産に使用されていたことを私たちは知っています。これらは「私の最新の知識更新において」のような文句を検索するだけで比較的簡単に追跡できました。1月に、研究者グループが、このようなAI生成論文が魚の研究において最も一般的であると報告しました。もし視聴者の中に魚がいらっしゃいましたら、お知らせください。
しかし、生成AIは進歩しており、もはや明白なテキストマーカーは存在しません。1月に、科学出版物における画像操作の検出を専門とするProofing社が、AIは今や非常に進歩しており、彼らが実施したテストで、ほとんどの研究者がAI生成の科学的画像と実際の画像を区別できなかったと報告しました。
これは、生物学分野の大部分や材料科学の一部など、データセットよりも画像がより一般的に使用される研究分野では巨大な問題です。AI詐欺がますます一般的になっていることをかなり確信できる他の理由があります。例えば、「植物電子顕微鏡法」の奇妙な話です。
「植物電子顕微鏡法」とは何でしょうか、とお尋ねになるかもしれません。それは何でもありません。それにもかかわらず、この表現は走査電子顕微鏡で取得された画像のラベルとして20本以上の科学論文に登場しています。おそらく。画像が本物であればの話ですが。
この表現は1959年の2段組みの論文で最初に出現したようで、そこでは一方の段に「植物細胞壁」、もう一方の段に「電子顕微鏡法」が現れていました。したがって、読んでみると「植物電子顕微鏡法」となっていました。この表現が存在するようになると、おそらくAIによって取り上げられました。ペルシア語で「スキャン」を意味する単語が「植物の」とほぼ正確に同じであるという事実に助けられて。今では、主要出版社のジャーナルから発表された論文に登場しています。
これらは単なる面白い逸話だと言うかもしれませんが、そう簡単に片付けることはできません。これらは、何か奇妙なことがあったために私たちが知っている事例です。しかし、今や合理的であれ詐欺的であれ、AI生成の科学的内容の圧倒的多数が見過ごされている可能性があります。
確かに、この種のことを特定するために働く人々の数は増えていますが、うーん、これもまた問題に直面しています。PubPeerは研究者が論文を投稿し、潜在的な問題について議論できるプラットフォームです。特に生命科学において広く利用されています。問題は、偽のレビューと同様に、このシステムを悪用して完全に問題のない論文を疑わしく見せることができることです。
科学的不正行為を調査する研究者であるシルヴァン・ベルネスは、最近この問題に遭遇しました。彼は次のようなメールを受け取りました。「教授、私はこの研究者グループが気に入りません。これらの論文を撤回させるのを手伝ってもらえませんか。筆頭著者が職を失えば嬉しいです」そして、べルネスが十分迅速に応答しなかった後、「お返事をお待ちしています。そうでなければ、あなたの論文をすべてPubPeerに投稿して撤回させます」と付け加えました。
これは競合レストランを悪く見せるために偽の1つ星レビューを残すようなものです。
最後に、覚えていらっしゃるでしょうが、数ヶ月前に私たちは、ResearchGateに偽論文をアップロードし、それがGoogle Scholarによってインデックス化されることで学術引用を生成した猫について話しました。そう、あの猫です。おそらくもう教授の座に就いているでしょう。
さて、3月に発表されたプレプリントで、あるグループが、まさにこの方法で引用数を増やした著者グループに遭遇したと報告しています。他のニュースでは、ResearchGateがジェフリー・ヒントンにヤン・ルカンと書いた論文を見てみることを推奨しました。この共同研究は、両方の推定著者にとって初耳でした。
これらすべては、科学が人工知能のガラクタに溺れる地点に私たちが近づいていることを意味します。これは完全に否定的なことではないかもしれません。なぜなら、科学者たちに「出版するか死ぬか」という彼らの文化について最終的に何かをするよう強制する可能性があるからです。
しかし、現状では、科学の未来は真実の探求に関するものではなく、それについて統計的にもっともらしい文章を生成することに関するものでしかありません。
人工知能は、私が思うに、人類文明の新しい段階の始まりです。それが実際にどのように機能するかについてもっと知りたいなら、Brilliantのコースを見てみてください。私はそれらを本当に有用だと思いました。Brilliantは科学、コンピュータサイエンス、数学の幅広いトピックについてコースを提供しています。すべてのコースにはインタラクティブな視覚化があり、深掘りの質問が付いています。
エンジニアのように考えることを学びたくても、代数の知識をリフレッシュしたくても、Pythonでプログラミングを学びたくても、Brilliantにはあなたに合うものがあります。学習するための簡単で迅速な方法で、時間があるときにいつでもどこでもできます。そして毎月新しいコースを追加しています。
私はBrilliantに量子力学への入門である私自身のコースも持っています。それは波動関数とは何か、重ね合わせとエンタングルメントの違いが何かを理解するのに役立ちます。干渉、不確定性原理、ベルの定理についても扱っています。そして、おそらく量子コンピュータサイエンスや微分方程式のコースで続けることができます。
そしてもちろん、このチャンネルの視聴者向けに特別オファーがあります。私のリンクbrilliant.org/sabineを使用するか、QRコードをスキャンしていただければ、Brilliantが提供するすべてを30日間試すことができ、年間プレミアム購読を20パーセント割引で利用できます。ですから、見に行ってみてください。
ご視聴ありがとうございました。また明日お会いしましょう。
コメント