この動画では、人工知能の普及により科学出版界が直面している深刻な問題について詳しく解説している。論文数の急激な増加により査読システムが破綻寸前である現状、AI生成の査読レビューの蔓延、組織的な学術詐欺を行うペーパーミルの拡大、そして学術界全体に蔓延する様々な不正行為について、具体的なデータと事例を交えながら警鐘を鳴らす内容となっている。
科学界に迫るAIの脅威
わしがずっと言うとったことやけどな、人工知能がこれから科学界にめちゃくちゃ悪い影響を与えるって話、もうすでに始まっとるんや。あんたらがわしのチャンネル見てくれとるっちゅうことは、きっと知性を尚重してくれるニュースが好きなんやろ。今回のスポンサーのエコノミストみたいにな。
そうそう、特別割引もあるで。エコノミストは事実を求めて自分で考えられる人向けのジャーナリズムを提供してくれとるんや。世界情勢、経済、政治はもちろん、技術や科学の発展についても報道してくれる。わしが見る限り、一般的にバランス取れとって、よう調べられとる記事が多いな。
つい先週も、ハッブル・テンションについてのめっちゃええ記事があったんや。宇宙学者らがなんでそんなに混乱しとるんか、何が重要なんかを非常にわかりやすく説明してくれとった。ほんまにええ概要やったし、驚くほど正確やった。これは普通の科学記事とは違うで。わしでも文句つけるとこ見つからんかったもん。
個人的には印刷版読むのが好きやけど、もちろんオンライン版もアプリもあって、記事の音声版や週刊版全体、それにポッドキャストや短い動画も聞けるようになっとる。今日の特別オファーは、購読料が35%オフになるっちゅうことや。わしのリンク economist.com/sabine を使うだけでええんや。
論文数急増の深刻な実態
それじゃあ科学ニュースに戻ろうか。まず最初は、デジタル・サイエンスのマーク・ハーネルによる注目すべき記事やな。彼が指摘しとるのは、過去数年間で科学論文の発表数が以前の年と比べて2倍も伸びとるっちゅうことや。8%程度やったのが17%まで上がっとる。
彼はこれを、論文執筆と投稿を格段に簡単にしてくれる人工知能の使用によるもんやと考えとる。ハーネルの推定では、もし出版数がこの調子で伸び続けたら、論文を査読する科学者の数をあっという間に上回ってしまうっちゅうことや。
彼はこう書いとる。「現在のモデルに基づくと、査読システムは数学的に驚くほど早く不可能になってしまう」そして「AIが科学出版に与える影響を過小評価してると思う」
彼は正確にいつそれが起こるかは言うてへんけど、わしには分かるで。それはいつ起こるかって？今や。なぜなら、ほとんどの科学者はすでに自分らができることの限界で働いとるからな。もうパンク状態や。燃え尽きとる。査読なんて空港のラウンジや駐車場、トイレでやっとるような状況や。
間違いないで。いろんなことの説明がつくわ。査読の必要数がちょっとでも増えたら、それはもう問題なんや。
AI査読の蔓延と隠しコマンド
もちろん、彼らは単純に…AIを使って査読を書くこともできるわけや。これが実にうまいこといっとる。最近の論文で、科学者らが既存のAI検出ツールを使って、人間が生成した査読とAIが生成したもんを比較したところ、検出率は20%未満やったっちゅうことが分かったんや。
そして、誰もが他の誰もがやっとることを知っとるから、一部の科学者は今、自分の論文に隠しコマンドを追加しとる。AIに頼んで良いレビューだけくれって言うようなやつをな。
組織的学術詐欺の拡大
もう一つ盛んになっとるのが、組織的な科学詐欺や。これは個別の孤立したケースやなくて、偽論文の著者権を売ったり、偽論文からの引用を売ったりする科学ブローカーのネットワークのことを言うとるんや。これらのネットワークはペーパーミルとして知られるようになっとる。
つい最近出たかなり怖い論文で、著者らが撤回された論文や詐欺の証拠があるとしてフラグが立てられた論文間の関係を体系的に分析しとる。例えば、画像操作や存在しない専門用語の蔓延などの問題でな。
彼らが発見したのは、これらの論文が、おそらくペーパーミルの取引に関わっとると思われる科学雑誌の少数の編集者の周りに集まっとるっちゅうことや。また、一つの雑誌での取引が破綻すると、ペーパーミルは他の雑誌に移るっちゅうことも分かった。
著者らが言うとるのは、詐欺の可能性がある論文の数は現在約0.5%程度で、まだ小さな割合やっちゅうことや。しかし、この数は過去数年間で急速に増加しとって、この傾向が続けば、すぐに数パーセントの範囲に達するやろう。
AIが科学詐欺を格段に簡単にしとるから、そうなる可能性は十分あるな。
東洋から西洋へ拡散する問題
ペーパーミルの問題は、これまでは主に東洋の現象やった。特に中国とインドで多く見られる。3年前、中国南西部の医療専門家を対象にした調査で、46.7%が論文の売買、他人に論文を書かせること、または他人のために論文を書くことを認めとった。これはそれを認めた人だけの数字やで。
しかし、この問題は西洋に移ってきとる。これは大手の科学出版社がそこにあることを考えれば、そんなに驚くことでもないかもしれへんな。
巧妙化する詐欺手法
ペーパーミルのブローカーらは常に手法を改善しとる。以前の動画で報告したように、彼らはオンラインリポジトリを通じて偽の引用や偽の著者まで生成して、Google Scholarにインデックスさせとる。
わしがForensic Scientometricsから新たに学んだのは、一部の連中が今、偽の研究の可視性を高めるためにWikipediaに引用を追加して、ジャーナリストがそこから情報を拾ってくれることを期待しとるっちゅうことや。
彼らが報告しとる食品科学の例では、植物化合物の健康効果を賛美するようなもんやった。これが良くない話やと思うやろ？その通りや。そしてこれはまだ氷山の一角に過ぎへん。
システムゲーミングの常態化
本当の氷山は、科学におけるシステムゲーミングの大部分が単に普通のこととして扱われとるっちゅうことや。データや画像を捏造したら、それは公式に詐欺や。しかし、それを支持するデータが何もない理論について論文を発表することもできるのに、なんでわざわざそんなことする必要があるんや。
これは基礎物理学者らが思いついた巧妙な戦略なんや。他にもよく知られた戦略があって、例えば「わしが親切にあんたの論文を引用するから、あんたもわしを引用してくれることを期待する」みたいなやつとか。
ほぼ同じトピックについて段階的な結果で大量の論文を発表して出版リストを水増しするやり方もある。よくサラミスライシングって呼ばれるやつや。公式には若い同僚を助成金の主任研究者として挙げて、いわゆる「影のPI」にして、より多くの助成金を取得してより多くの論文を発表できるようにしとる先輩研究者もおる。などなど。
学術界の深刻な腐敗
わしが学術界は根っこまで腐っとるって言うと、大げさやと思う人もおるやろう。わしはそういう人らは自分が何を言うとるか分かってへんと思う。
でも心配すな、ChatGPTに聞いてみたら、全部問題ないって言うてたから。
見てくれてありがとう、また明日会おうな。
コメント