AIは教育を根本的に変えるのか？

しかし我々は、授業での不正行為に関わるような使用方法も目にしている。AIは教育を混乱させ、学習を混乱させている。今日、我々は皆実験台のようなものなのだが、それは言われていない。これらは解放的な学習技術ではなく、実際には調教技術である。

個別化を謳うAIを導入するより、むしろ単純に人員、つまり教師、生徒指導主事、特別支援員、教育補助員などの人間を雇えばよいのではないか。実際、我々は教師が生徒の弱点や逆に他の生徒の得意分野をより良く、より簡単に特定できる手段を与えることができる。

AI技術の現実と課題

教師は今日、これほど多くのデータを処理したり、AIができるほど進歩を追跡したりすることはできない。繰り返すが、我々は教師を置き換えることを目指しているのではなく、彼らの教育実践を支援することを目指している。新学期が近づいており、4年生と高校2年生は今後、人工知能に関する必修研修を受けることになる。

昨日、国民教育大臣は、教師の職業を支援するためのAIが間もなく教師に提供されると発表した。それと並行して、文部科学省によれば、生徒の80％、教師の20％がすでにAIを利用している。後者は指導や研修の不足を訴えている。そこで今夜の問題、複数の問題である。

AIはどのように教育と学習を変えるのだろうか？学校でAIなしでやっていくことは本当に考えられないのだろうか？教師という職業にとって、そして教育の商業化を促進するリスクはないのだろうか？これらについて議論するため、今夜は三人のゲストをお迎えした。

専門家による議論の開始

ジャーダ・ピスティリ、こんばんは。こんばんは。あなたは哲学博士で、対話エージェントに特に焦点を当てた人工知能の倫理的側面を専門としています。また、クリストフ・カイヨさんもお越しいただいています。こんばんは。こんばんは。あなたは高等学校の歴史教師で、SNES FSUのデジタルグループの共同責任者であり、『デジタル学校批判』という著作の共著者でもあります。

これは2019年にレシャペ出版から発行されました。最後に、オリアン・ルドロワさん。こんばんは。こんばんは。あなたはエドテック・フランスの事務局長で、それが何であるかも教えていただき、パリ政治学院で教鞭も取られています。今夜、この番組にお三方にお越しいただき、ありがとうございます。

生徒たちの実際の使用状況

哲学やフランス語の論文を書く際に助けが必要な時に尋ねます。テキストを修正するために使用したことがありますが、それは事前に自分で書いたテキストです。自分ですでに行ったことです。授業を再構成し、理解できなかった概念をよりよく理解するために。

本の中で理解できない言葉があった時、ロボットが直接教えてくれて、少し作業を楽にしてくれる。これは宿題をやらずに不正をする目的というより、助けて情報を得る目的である。時々、間違った情報を与えることがあるので、それが正しいかどうか確認する必要がある。

現場の診断

クリストフ・カイヨさん、まず診断を描こうと試みましょう。人工知能は今日、どの程度教室に入り込んでいるのでしょうか？生徒たちの実践においても、また教師たちにおいても？

まず明確にしなければならないのは、これは主に生成AIの問題であるということです。AIは非常に多くの種類があり、生成AIの使用は結局のところ急激に大規模になったからです。これらの一般向けAIは登場してから2年半しか経っていませんが、先ほど聞いた生徒たちが言うように、彼らは今や比較的気軽に使用しています。しかし同時に、彼らは何が起こっているかを理解しており、我々が職業人として見て疑問に思うのは、増え続ける多くの研究が示していることですが、これらの使用法、生成AIは認知的観点から極めて問題があるということです。つまり、学習における短絡として作用するのです。

学習プロセスへの影響

学習とは道のり、かなり長い道程を歩むことです。障害に満ちた道です。時には間違いを犯し、後戻りしなければならず、そして勇気を持って続けていく。これが実際に学習する方法です。そしてAIについて、ここで聞いたように、ある生徒が「作業を噛み砕いてくれる」と言っていました。まさにそれなのです。しかし、それは作業だけでなく、実際には知識や学習へのアクセスを妨げるのです。

あなたは「気軽な使用」と言いましたが、あなたは歴史地理の教師です。非常に具体的に、歴史地理を教える際、この生成AIの気軽な使用はどのように表れるのでしょうか？

まず、言い忘れましたが、私は自分の名前だけでなく、SNES FSUの立場からも話しており、ここでは集団的な分析を提示しています。我々が見ているのは、私個人のケースを超えて、家庭での宿題に多用する生徒たちです。これについては、家庭での宿題が何を意味するかを常に調整し、再議論することができます。これはすでに長い間我々が自問していた問題でもありますが、授業での不正行為に関わるような使用も見られます。

具体的な不正事例

非常に具体的な例をお話しします。私の学校の数学で、同僚が数学の監視試験中に列を回っていました。ある生徒に近づいた時、金属的な声が聞こえ、実際にその生徒が髪の毛の後ろにイヤホンを隠しており、教師が背を向けている間に問題の問題文を写真に撮り、ChatGPTのようなものに送って、ChatGPTが耳元で解答を教えていることがわかりました。これが具体的に意味することです。

これは不正行為に関わる使用であり、倫理的に疑問を投げかけますが、より根本的には学習との関係、学習の意味の問題であり、それらを完全に短絡し、価値を下げることです。さらに、これには大きな問題があると思います。

人間的な問題としての学習

これはほとんど人類学的な問題です。つまり、人生において学ぶことなしにやっていけると説明することは、人生の醍醐味を少し諦めることです。考えてみれば、我々の人生を楽しいものにするのは何でしょうか？何かを誇りに思う理由は何でしょうか？それは特に何かを学んだからです。

EdTech企業の立場

オリアン・ルドロワさんの発言には、おそらく正当な経験に基づいた懸念が聞こえます。あなた自身、エドテック・フランスの代表として、教育技術に携わる企業を代表していますが、これらの懸念を共有していますか？

この番組で提起される質問は非常に適切だと思います。AIは教育を混乱させ、学習を混乱させているからです。AIについて語る時、我々は二つの異なることについて話しています。一般向けAI、特に一般的な用途のために設計された生成AIについて話しており、これらは学習のために設計されていません。そして先ほど言われたことですが、これらのAIは教育に衝撃を与え、教室に入り込み、生徒の使用に入り込み、結果として副作用があり、考慮すべきことがあります。

学校は確実に進化しなければならず、教師も研修を受ける必要があります。これについてはまた話します。代表的な例はChatGPTです。そして教育目的で設計された他のAIもあり、これらは同じ影響も同じ技術モデルも持たず、より刺激的で個別化された学習に有用だと思います。

科学的コンセンサスの欠如

おそらく先ほどの質問に対する反応として、教育目的で設計されていない生成AIが否定的な結果しかもたらさないという科学的コンセンサスはありません。逆に、最近AOCメディアサイトで政治学院の研究者によって行われたレビューがありました。学習を考える時、学習とは何でしょうか？それは四つのプロセスです。注意、動機、認知（情報を保持すること）、そしてメタ認知（自分が学んでいることを意識すること）です。

これらの四つのプロセスについて、肯定的なことを示す経験や実験もあれば、否定的なことを示す経験や実験もあります。なぜでしょうか？実際、あらゆる技術と技術の使用と同様に、それは文脈に依存し、指導に依存し、求めるものに依存し、ユーザーに依存するからです。

動機への複合的影響

例えば学習の動機について、我々はまだ学びたいと思うでしょうか？一方では努力を阻害する可能性があります。つまり、実際に教師が求めた結果、宿題などを生み出しますが、失敗のリスクや恐れを軽減するため、動機の手段にもなり得ます。これは学習において中心的なことです。

議論の枠組みの問題

ジャーダ・ピスティリさん、これらの議論を少し調べてみると、議論がうまく枠づけられていないように感じます。特に、公的権力や国民教育省からの矛盾した指示について考えています。スクリーンに注意すべき、時にはこれらの新技術から距離を置くべきという考えがある一方で、同時にAIなしではやっていけない、教師を研修する必要がある、生徒を研修する必要があるという考えもあります。

では、これらの議論においてどのように位置づけ、適切な場所を見つけるのでしょうか？

それは常にかなりニュアンスのある議論です。私の観点からすると、過去に留まって過去に生きたくないということです。だから新しい技術だから悪魔化するということです。例えばビデオゲームについて言われていたように、暴力的な子どもたちを作り出すだけだとか、テレビの初期にも新世代への影響について心配していましたが、それは見通しが不足していたからです。今日起こっていることはまったく同じです。

技術への慎重なアプローチ

確かに過去に生き続けることへの恐れから、「まるで何でもないかのように、存在しないかのように振る舞うことはできない」と言うのです。しかし同時に、言ったように見通しが不足しており、科学的・研究的観点からこのタイプの技術の長期的影響を効果的に評価することができません。

これは完璧ではない技術であり、私にとってはかなりデリケートな分野、学校環境です。したがって、むしろ慎重なアプローチを取る必要があると思います。

完璧ではない技術とはどういう意味でしょうか？まず完璧な技術というものが存在するのでしょうか、それともAIができること、生成できること、さらには付き添えることの前段階にまだいるという意味でしょうか？

完璧な技術が存在するでしょうか？わかりません。しかし、例えば数学で電卓を使う場合、通常は間違いを犯しません。一方、AIはその動作原理、つまり統計計算と確率によって、必ず間違いを犯す瞬間があります。したがって、これは生徒がこのタイプの技術に対して持つ信頼の問題でもあります。

実験段階の課題

確かに今日、我々は皆実験台のようなものですが、それは言われていません。しかし、これは新しい技術であり、過去によく言われたように、少し西部開拓時代のようなものです。あなたも言うように、どこにでもそれを置きたがるからです。私は、ある時点で単純に規模を縮小し、何を残す価値があり、何を逆に手放すべきかを見ることになると確信しています。

個別化学習の議論

学校での生成人工知能の擁護者たちは、クリストフ・カイヨさんに「これは学習経路を作り、それぞれが自分のペース、自分の方法、自分のやり方で学ぶことを可能にする素晴らしい機会です。30人のクラスを管理するのが困難な教師にとって、AIは各生徒が適切なタイミングで付き添われることを可能にします」と言います。この議論をどう受け止めますか？

私はそれをマーケティング論として受け止めます。彼らは宣伝をしているのです。売る商品があり、それが奇跡的な商品だと説明しているのです。これは我々の生活の非常に多くの分野で行われています。問題は、それが現実に対応していないことです。商人がよく使う個別化という用語だけでも、実際には機能しないからです。個別化があるためには、人を認識する必要があります。

個別化の概念への疑問

ところが、AIは定義上、それ自体が人ではありません。したがって、個別化することができません。すでにそれ自体で機能しません。そして実際に我々が見るのは、この番組の準備中に、1950年代初頭の動画を見ましたが、間違いがなければスキナー、つまり学習について考えた心理学者で、彼はティーチングマシン、つまり当時すでに教育機械を発明していました。

この動画を見ると驚くべきことで、大きなコンピュータのようなものが見え、生徒たちが質問に応じて単語を入力しているのが見えます。質問が出され、彼らが答えを提供します。答えが正しければより難しい質問に進み、答えが間違っていれば同じタイプの質問を再度行います。

歴史的な類似性と批判

これはまさに今日のAI商人が我々に提案していることです。そしてこれらは解放的な学習技術ではなく、実際には調教技術であり、機能しませんでした。興味深いのは、当時のスキナーがまったく同じ論拠を持っていたことです。彼は革命を起こし、時間を節約することができると説明していました。「見てください、クラスに35人の生徒がいます、素晴らしい」と。

革命は起こりませんでした。そして、ここには巨大な詐欺があります。我々が言っているのは、35人の生徒、これが実際の問題だということです。個別化を謳うAIを導入するより、実際にはテクノファシストに属し、途方もない生態学的問題を提起し、データの略奪に基づいているこれらのものを使用するより、むしろ単純に人員、教師、生徒指導主事、特別支援員、教育補助員などの人間を雇えばよいのではないでしょうか。

EdTech側の反論

オリアン・ルドロワさん、あなたはこのスタジオでの商人の代表ですね。個別化という用語が使われていますが、これは目くらましなのでしょうか？

先ほど言われたことに関して、かなり厳しい用語が使われていたので、いくつかのことを申し上げます。まず、これは目くらましではありません。なぜでしょうか？実際にAIが行うことは、繰り返しますが、教育目的で技術を使用する企業の名で話していますが、私はOpenAIの代表でもMistralの代表でもありません。

我々は何をするのでしょうか？生産されたデータ、大量のデータを使用し、例えば読み方を学んでいる特定の生徒がどこでつまずくか、どの単語を読むのに苦労しているか、どの単語群の意味を理解しているかいないかなどを理解することができます。

データ活用による教師支援

我々は、先ほど言われたことに反して、教師を置き換えるのではなく、教師に手段を与えることができます。教師の大部分がすでに行っていることですが、生徒の弱点や逆に他の生徒の得意分野をより良く、あるいはより簡単に特定する手段を与え、困難を抱える生徒に特定の時点で集中したり、困難のない生徒にはより速く進ませたり、逆にその逆を行ったりすることができます。つまり個別化です。

はい、差別化、個別化、何と呼んでも構いませんが、私の間違いでなければ、教師、そして私は彼らが行うすべての仕事に大いに敬意を払っており、個人的にクラスサイズの問題に関する発言に同意しますが、教師は今日、これほど多くのデータを処理したり、AIができるほど進歩を追跡したりすることはできません。

教育実践の支援

繰り返しますが、我々は教師を置き換えることを目指しているのではなく、彼らの教育実践を支援することを目指しています。読み学習ソフトウェアについて私が与えた例では、これらのソフトウェアの製造者による推奨は週40分です。最大40分です。そして、これは読み学習の有用性を証明し、結果としてより効率的な学校を持つと言える科学的研究に基づいて推奨されています。

教師の能力に関する議論

ジャーダ・ピスティリさんにご反応いただく前に、オリアン・ルドロワさんの、根本的に教師がこれほど多くのデータを処理できないという議論について、クリストフ・カイヨさんに一言いただきましょう。

すでに、交換がより直接的になり興味深いのですが、「我々はできる」と言うのを聞いた時、企業である我々が生徒の学習における位置を理解できる、あるいは教師がAIほどうまくできないと言うのは、あなたが別のところで言っていることと矛盾します。

つまり、我々を置き換えたくないと言いながら、機械が教師より優れていると説明しているのです。我々が組合として、あるいは事実として疑問視するのは、教師という職業の実際の条件です。実際、これが問題を提起しているのです。つまり、見通しがないツールを追加するより、あなたも言ったように。

研究の解釈をめぐる議論

研究を引用していますが、実際、誰もが見通しがないことに同意しており、それは2年半前からです。生成AIに関する研究について話していたのであり、技術に関する研究について話していたのではありません。科学的研究はありますね。ええ。矛盾する科学的研究があります。

教師の置き換えへの懸念

クリストフ・カイヨさん、置き換えのスペクター、それが根本的な話題だからです。部屋の中の象と言えるでしょうが、置き換えのスペクターは教師を心配させているのでしょうか？

はい、そうです。私は組合の枠組みで研修を行っていますが、通常の組合研修には30〜40人の同僚が来ます。リールでの組合研修では200人の同僚が来るのを見ました。これは心配していることであり、実際、我々は常に大臣やエドテックによって、我々を置き換えたくないと安心させられています。

もうこれほど頻繁に言われているので、ある時点で少し疑わしくなります。システム的だからです。いつも言われています。全く危険がないなら、言わないでしょう。そして特に事実があります。つまり、すでにアメリカ、イギリス、韓国で教師なしのクラスや学校の実験があります。そして、これが向かっている方向です。

利益追求の論理

かなり単純な理由ですが、おそらく後で話すでしょうが、これらの技術が存在したい、つまり利益を上げたい場合、それが彼らの目標であり、ある時点で教師の場所を奪う必要があります。他に解決策はありません。

研究者の立場から

ジャーダ・ピスティリさん、あなた自身は、教師のこの仕事、生徒との仕事と、教室や家庭で広く普及したAIを組み合わせることができる世界を想像しますか？

まず、あなたが目を上に向けたのに気づきました。私は考える時によく目を上に向けるので、必ずしも大きな意味があるわけではありません。しかし、あなたの話を聞いていて、時には偽善的な面があると思います。例えば生徒には絶対に使ってはいけないと言いながら、一方で教師にAIを提供し、教師がAIを使って生徒を評価しなければならないのです。

二重基準の問題

数週間から数ヶ月前にアメリカの新聞に出た記事を覚えていますが、生徒たちがある時点で、例えば自分の宿題がChatGPTタイプのシステムで評価されていることに気づき、「これは意味がない。毎日使ってはいけないと言われているのに、同時に教師と学校がこれらのツールをますます採用している」と言ったのです。つまり、これらのツールの正しい使用について、ある種の二重の基準と二重の重みがあるのです。

慎重な導入の必要性

繰り返しますが、私が言ったように、これほど大規模で、見通しに欠ける技術なので、理想的なケースを想像するのは複雑でしょう。その後、本当に限定的なケースは想像できますが、例えば一般的な採用を想像しなければならない場合、生徒側と教師側の両方で、非常にスムーズに機能するものを見ることは困難です。

現場の実態

ルドロワさん、反応したいとおっしゃいましたね。はい、補足かもしれませんが、今日AIに対する意見が表明されていると思います。我々が確認していることは、例えばサイクル2、つまりCP、CE1、CE2で、5万人の教師が読みと数学の学習にAIを使用しているということです。今日の公立学校で、公立学校で5万人の教師がいます。

国民教育省によって利用可能になった資金がありました。今日、我々には5万人の教師がいます。私が確認していることは、スクリーンの問題について公的議論を豊かにすることを目的とした論説の発起人である時、非常にしばしば戯画的に扱われ、学校でデジタル教育とデジタルによる教育が必要であり、学校がその教育を行う中心的な場所であると言う時です。

教師が署名し、歴史地理教師の協会であるクリオテスもあります。すべてこれらは、私は理解しますが、これが一定の反射、一定の教育実践を妨害し、混乱させるのです。

デジタル格差の根深い問題

ボランティアがいるからといって不信がないわけではありません。いえ、私が言っているのは、私が反論を提起しているのは、私が言っていることは、準備のできていない社会にこれほど急速に到着するあらゆる技術システムに固有のことだと思います。私は長い間デジタル包摂の問題に取り組んできました。今日のAI議論がこれらの戯画的な側面と不安や危険感の側面にあるのは、15年間の公共政策の不在とこのデジタル包摂課題への関心の欠如の結果だと思います。

つまり、我々には技術があり、インターネットは長い間ありましたが、これらの技術の理解を促進するために働いてきませんでした。必ずしもそれらの採用ではありませんが、いずれにせよ、知的も含めたこれらの技術の習得です。

教師による積極的な活用

したがって、今日は緊張した議論があり、不安の感情などを否定しません。私はそれを考慮し、実際に知っています。しかし私が言うのは、使用法があり、それを把握する教師がいるということです。それを行い、文書化し、同僚と共有する多くの教師がいます。

では、どのように想像しますか？同じ質問をします。ルドロワさん、これらの問題について考えるあなた自身は、5年、8年、10年後の教師の仕事と人工知能の関係をどう想像しますか？機械と人間の補完的な活動は、この分野で何になるでしょうか？

私は、あなたが正しく言うように、教師を拡張することだと思います。つまり、実際に今日私が確認しているのは、教師によって行われている多くの作業が時間を消費し、教育実践に関わらないということです。今日、我々には、ある意味で彼らが時間を失いすぎることを避けたり、その作業を容易にしたりするために働く企業があります。

それは時間割管理の問題であり、採点の問題であり、そのような多くのことです。そして実際、それは授業準備でもあり、答案の回収でもあり、すでにそうなっています。その後、すべての教師がこれらの技術を自分のものにすべきかどうかはわかりませんが、それらは利用可能であり、今日それらを使用するすべての教師が満足していると信じています。そうでなければ使用しないでしょう。それを行う義務はありません。

差異化の重要性

教育実践について、AIの貢献の核心にあるのは差異化だと思います。そして今日、私は最もOECDで不平等を再生産する公立学校の今日の結果に満足していません。

毎年ではありませんが定期的にPISA報告書によって測定される生徒のレベルの急落、学習障害を持つ生徒の10％を含めることができず、学校環境が良くなく、教師不足がある状況です。しかし、問題は技術が傾向を逆転させるか加速させるかということです。

教師拡張への批判的視点

クリストフ・カイヨさん、教師を拡張する、拡張された教師という反応はいかがですか？

それは実際の意図と、教師についてのビジョンやイメージとして非常に明らかなイメージだと思います。つまり、その背景にあるのは、教師を拡張する必要があるなら、現在の教師は不十分だということです。そして実際、これは拡張された人間というアイデアについてのすべてのトランスヒューマニスト的想像力に関わります。人間を拡張する必要があると言うことは、人間そのものが満足できないということを意味します。

彼らが不十分なのか、失礼ですが、あるいは単純に、私たちは皆この認識を共有していると想像します。労働条件は複雑で、クラスには生徒が多すぎます。その仕事においても彼らを支援するということです。

職業の条件改善

ああ、そうです。もし教師や他の職員を支援したいなら、職業が妨げられないような条件を与える必要があります。職業を妨げるものは何でしょうか？例えば、すでに言いましたが繰り返します。これは基本的なことだからです。あまりにも重要なクラスの人数です。しばしば愚かなプログラムです。例えば継続評価による評価形式の導入で、生徒、家族、すべての職員にとって極めて不安を煽るものです。

実際、我々が組合として戦い、告発している妨げられた職業全体があります。そしてあなたが示唆したように、不平等、学習の減少などについてなされた確認について、実際、AIは我々の感覚では、不平等の観点からこれらすべての問題を増大させることしかできません。

デジタル格差の拡大

AIは不平等を減らしません。OECDでさえ、デジタルに関する2015年のPISA報告書で、デジタル使用が多いほど不平等が重要になることを示しました。設備不足のためではなく、社会的に差別化された、社会的文化的に差別化されたデジタル機器の使用タイプとの関係があるからです。

学校外で、学校外で、なぜなら学校がまさにその役割を果たすべき場所だからです。

教師への圧力の実態

クリストフ・カイヨさん、話を終えてください。もちろんお話しします。中断されるのは簡単ではありません。そして実際、これが問題です。ここには巨大な詐欺があります。教師が奨励されていない、あるいは使った表現は忘れましたが、実際には奨励される以上のことをされています。ますます多くのツールが押し付けられています。これが我々が見ている現象です。

省がAIに2000万を投入する時、それは教師に使用させる意図があることは明らかです。

教師の研修状況

ジャーダ・ピスティリさん、教師について、人工知能への関係について話しています。彼らは今日研修を受けているのでしょうか？この職業団体は、人工知能の使用について十分に、正しく研修を受けているのでしょうか？

わかりません。この質問に対する答えを必ずしも持っていませんが、続ける前に少し触れておきたいのは、私はイデオロギー的に凝り固まった考えを持っていないということです。おそらく言及されていませんが、私は人工知能企業で働いています。実際、私はオープンソースで協力的なAIプラットフォームの産業研究者であり、それはHugging Faceと呼ばれ、フランスの企業でもあります。

技術変化の複雑性

これらすべてを言うのは、最初に言ったように、すべてが少し速すぎるような印象があるからです。これらの議論はシンプルです。このような議論に参加し、両者が参加するのを見るのは正直魅力的です。なぜなら、これは必然的に多くの分野を変革し、危機を引き起こす技術だからです。危機は必ずしも否定的でも肯定的でもありません。単に変化を引き起こすものです。我々は今のところ手探りしており、

例えば教師の側から安心できることは、真のプログラム、その背後にある真の教育学を持つことかもしれません。例えばAI研修の目的は何かを明確にするために。それはこのために役立つのです。なぜなら同意しますが、残念ながら「大丈夫、より速くするため、拡張するため、より多くのデータを処理するため」というのは、教師という人物を少し軽視していると思うからです。私の感覚では、どんな社会においても、これは逆に助けなければならない人物だからです。彼らが社会を形成し、生徒について、まるで投票権もない小さな民のように話しているからです、失礼。

未来世代への責任

しかし実際、我々は未来の世代、次の支配階級などを形成しているのです。だからこそ、我々が皆実験台であり、うまくいけばOK、まあまあうまくいけばたぶんOKという考えに反対なのです。

これを言うのは、例えば科学分野でもよく言及されることですが、今日確認されるのは、科学論文でさえAIによって査読されているということです。つまり、今日のピアレビューです。確認されるのは、例えばあなたの論文を会議や雑誌のために査読しなければならない人々がAIを利用しており、これは単に壊滅的だということです。すでに結果が良くないからです。

労働過多の構造的問題

すでにこれは、研究者があまりにも多くの仕事を抱えている、査読すべき論文が多すぎるという症状的なことを意味しており、実際、学校内にも存在する同じメカニズムと同じダイナミクスです。人工知能に頼ります。

我々は、それらが民間企業によって保持・設計されており、したがって必然的に利益を求める企業だと言いました。これはほぼ当然のことです。

公共性と利益追求の関係

オリアン・ルドロワさん、一般的利益の分野、公共サービスと教育の公共的利益の分野において、この利益追求と人工知能という新技術の普及の仕事をどう関連付けるのでしょうか？それは可能なのでしょうか？

それは良い質問です。まず、教育が民間企業と協力するのは新しいことではありません。教科書は民間の出版社によって製作されています。そして彼らがプログラムを考えると言えるでしょう。はい、しかし、いえ、それらも制約を受けています。

教科書と同様に、プログラムを尊重するために国家によって定義された枠組みに制約されています。しかし、すでにこれは新しいことではなく、民間パートナーと協力する公共政策の唯一の場所でもありません。

技術開発の必要性

なぜ今日それが必要なのでしょうか？教育目的の人工知能ツールを開発する時、我々は賭けをし、投資し、研究開発を行います。しばしばINRIA、CNRSなどの研究所や教師とも連携しますが、ある意味でリスクを取り、国家は私の間違いでなければ、リスクをあまり取りません。おそらくそれは当然です。

したがって、投資し、革新することができる民間企業によって考えられた製品やソフトウェアであるモデルであることは、新しくも問題でもありません。

国家の役割と規制

いえ、しかし国家、失礼ですが、国家の役割は必ずしも革新することではありません。しかし一方で、枠づけ、規制、監視、透明性の強制です、絶対に。

そして、これが私の第二の論点で言いたかったことです。実際にそうなのです。つまり、今日のすべてのソフトウェア、繰り返しますが教育ソフトウェアについて話しており、ChatGPTについて話しているのではありません。今日教室に展開され、それを望む教師や生徒の手に渡されるすべての教育ソフトウェアは、国家によって定義された枠組みに適合しており、特に個人データ、GDPRなどに関するすべてのヨーロッパ規制に適合することを規定しています。

したがって、これはある意味で安全にされています。また、課せられる一定数の技術基準もあり、それは当然であり、従わない企業はありません。

企業連携への批判的見解

クリストフ・カイヨさん、あなた自身はこれらの企業との教育作業の関係についてどう考え、どうアプローチしますか？

確かに、これは完全に新しいことではありませんが、この議論はあまり通用しません。新しくないからといって心配でないわけではないし、特にこれは増加している現象であり、おそらく別のものに移行させる転換点でもあるからです。量の問題だけでなく、ある意味で質の問題でもあります。

教育実践の核心

先ほどルドロワさんがおっしゃったことを引用しますが、エドテックは教育実践に関わらないことに取り組んでいると言い、採点と答案の修正を挙げましたが、私はこれを特に問題だと思います。なぜなら、これらは教育実践の核心にある行為であり、実際にエドテックが目指すものの一部だからです。なぜなら、本質的に教育を他の市場の一つと見なす必要があるからです。

これが最終的にエドテックの核心にあることであり、社会の特定のビジョン、特定のイデオロギーにおいて正当なことです。実際、それが他の市場の一つに過ぎないと考えることもできますし、逆に、我々SNES、そしてより広く、この国の人々の意見の大部分において、これは公共サービスであり、共通の利益に関わることであり、企業の完全に論理的な目標が利益マージンを見つけ、経済モデルを見つけることである一方で、公共サービスは共通の利益を構築し、不平等を減らすことを可能にし、可能な限り公正な社会を構築することです。

利益と公共性の対立

そして、すべての善意にもかかわらず、対立することがあるのが見えます。エドテックの人々が悪意があると言っているのではありませんが、利益の追求が共通の利益の防衛と競合し、対立するということです。

非常に最近の例をお話しします。少し前にラジオ・フランスの調査サービスによる水質に関する調査がありました。例えば、共通の利益であるべき水が民営化されました。その結果を見ました。特にネスレの調査について話していた恐ろしいことが起こりました。これは集団中毒の一形態に関わり、さらに地方自治体や国家の特定レベルでの共犯の形態もありました。

オープンソースという解決策

ジャーダ・ピスティリさん、これら二つの議論の間の解決策の一つ、尾根道は、これらの新技術がオープンソリューション、オープンソースにあるべきだと言うことでしょうか？この分野に透明性と明確な規制を置くことを可能にする道はそこにあるのでしょうか？

はいと言いたいです。その後、これが「フリーアクセスにするから問題を解決した」というタイプの緩和策であってはなりません。特にAI分野では、オープンソースについて話すことは一定の点まで意味があるからです。非常に簡潔に言うと、実際、モデルやAIシステムが持ちうる開放性と透明性の度合いがいくつかあり、例えば訓練データ、その機能、アーキテクチャからです。

技術的詳細は省きます。今日非常に不足しているのは、まさにデータの透明性です。これは多く言及されてきたことです。平等についても話します。例えば、バイアスの問題は、この分野で非常に存在しており、2019年から話していても、全く解決された問題ではありません。

透明性の必要性

確かに解決策は、調査可能で、可能な限り理解可能にするために、このシステムを可能な限り開放するという意味での共有かもしれません。しかし、繰り返しますが、最初に言及されたように、多くは我々がそれをどう使用するかにも依存します。したがって、開放的なものを持つだけでは、必ずしも良いものになるとは限りません。

バイアス修正の課題

これは絶対に重要です。ルドロワさん、このバイアスの問題について。どうやってそれらを修正するのでしょうか？国家との仕事の関係が特定のバイアスを修正することを可能にするのでしょうか？すべてを修正することは不可能だとよく知っているにもかかわらず。

実際、エドテックでは、そのソフトウェアはバイアスを統合する教育学者によって支援されて開発されており、我々はその問題を持っていません。例えば、失礼ですが読み学習ソフトウェアの例を挙げました。実際、それらは地方言語が音声認識AIに統合されるように設計されており、したがってそのようなバイアス、男女のバイアスなどはありません。教育目的で設計されているからであり、繰り返しますが、これが生成モデルとの全く違いです。

具体的なバイアス事例

イデオロギー的です。この質問をするのは、この番組を準備する際に、クリストフ・カイヨさんが例えばChatGPTを使用してフランスの世俗主義とは何かを尋ねた時、質問を重ねるうちに、まさにこの世俗主義のビジョンのせいでフランスがもはや必ずしも民主主義ではないと推論したと説明してくれたからです。

歴史や例えばフランス語でも、このようなバイアスの問題はないとおっしゃいます。教育学者の支援で設計され、彼ら自身がこれらのバイアスを認識し統合するソフトウェアについてはありません。あなたが話すChatGPTのようなLLMの場合ではありません。

公共サービスの運営方式

公共サービスとその運営可能性の問題に戻りたいと思います。職業統合の公共サービス、職業研修の公共サービスは、私の間違いでなければ、同様に利益も目的の一部ですが公共サービスへの貢献をもたらす民間事業者によって運営されています。

私は、国家だけが公共サービスを開発し、一般的利益を目的とする一定数のツールやサービスを開発することができるという二元的なビジョンを本当に拒否します。そして、この例を挙げましたが、健康など、公共政策のすべての分野に他の例があります。個人的には、組合の要求が掲げられることを理解しており、繰り返しますが、個人的には同意に近い一定数の課題がありますが、この二元的な精神的枠組みには非常に注意が必要だと思います。

現実的な対応

学校が直面している一定数の課題があり、我々はそれに答えていません。だから学校に数十億ユーロがあるまで待つか。残念ながら、そうなるとは思いません。あるいは、その有効性が証明され、教師を満足させ、生徒に有用で具体的な答えをもたらすツールを実用的で具体的に活用しようとするかです。

現実への対応

クリストフ・カイヨさん、極めて短い結論を。極めて短く。実用主義について先ほど話していました。実用的なのは、生徒が何をしているかを見ることです。

彼らは生成AIを大量に使用しています。これが政治的、生態学的、認知的にも問題を提起しているのです。つまり、批判精神の能力の低下、理解における能力の低下、地球の破壊、最終的にテクノファシストの支援に関わることです。

自律性の維持

したがって、我々FSUにとって、これは何よりもまず、我々の生徒、未来の世代がAIを使用しない能力を維持することが問題です。これが賭けられていることであり、神経症的にそれらを使用するよう必ずしも研修するのではなく、これらの自称ツールに対する自律性を維持することを学ぶことです。

お三方、どうもありがとうございました。ジャーダ・ピスティリさん、クリストフ・カイヨさん、オリアン・ルドロワさん。私の感覚では極めて実りある激しい議論をありがとうございました。19時近くです。