AI系YouTuberのMatt Wolfeとの対談における自動運転車の安全性と責任問題に関する議論である。Waymoでの実体験を基に、自動運転車が人間の運転よりも安全である可能性を論じつつ、事故発生時の責任の所在という複雑な問題を扱う。航空機の自動化、AIが犯したミスの責任を負う「シンイーター」という新職業の可能性、そして自動運転普及に伴うトロッコ問題的な倫理的ジレンマについて深く考察している。
AI YouTuberとの対談：自動運転の未来
さっきAI系YouTuberのMatt Wolfと話ししたんやけど、その中で自動運転車の将来について語った部分をちょっと見せるで。俺らの意見に賛成するか反対するか教えてな。完全版は下のリンクにあるWes and Dylan podcastのチャンネルで見てくれや。
そやな、俺もサンフランシスコにいた時にWaymoに乗ったことあるんやけど、ホンマによう動くわ。あの小さい画面で全部見えるんや。自転車に乗ってる人も、車も、歩道歩いてる人も全部。俺的にはUberより安全やと感じたで。みんなUberの運転手で無茶苦茶なやついるやろ？スピード出しまくって車の間縫って走るみたいな奴。Waymoやったらそんなんないわ。ちゃんとルール守って走るし、制限速度を1マイルオーバーすることもあるかもしれんけど、心配せんでええわ。でもWaymoはそれすらせんからな。
ほんまにそうやな。それにUberの利益構造も問題やわ。運転手にどんどん安い金しか払わんようになって、運転手は金稼ぐためにもっと長時間道路におらなあかん。そしたら疲れて運転下手になるんや。
俺はUberの視点から見ると、運転手が中間業者で、その中間業者を排除したいんやと思うわ。Uberの大きなビジョンは、最初は人間の運転手使って、最終的には人間の運転手を段階的になくして自動運転の車両群にするっちゅうもんやったと思うで。今でもそれが彼らのミッションやと思うわ。今のところ人間のUber運転手が一番の悩みの種やろうな。それを排除して全部自動運転にできたら、人間の運転手に伴うあらゆる問題を扱わんでええから、Uberにとってはずっと良くなるはずや。
そやな。あんなに長い間あんなに金つぎ込んでるんやから、それが唯一意味のある理由やわ。つまり、それが最終目標で、人間の運転手をずっと使い続けるつもりはなかったっちゅうことや。
航空機の自動化への期待
お二人は飛行機についてはどう思いますか？例えば、今後4、5年でBoingが作った自動運転システム…いやBoingはちょっと評判悪いな。
じゃあDeisが出てきて「飛行は世界を救う良い方法だ」と言って、Googleのインフラが後ろについてるとしよう。飛行機版のWaymoを早く見たいか、それとも話は別やと思うか？
俺はそれを見てみたいと思うわ。正直、そういうのを自動化できるなら、実際もっと安全になると思うで。人的ミスの要素を取り除けるからな。インドで起きた大きな墜落事故も、完全には分からんけど、聞いた話やとパイロットのミスの可能性が高いらしい。エンジンの燃料供給を止めるスイッチを間違って切ったとか。これが全部自動化されてたら、そういう人的ミスははるかに起こりにくいと思うわ。
だから、しばらくはコックピットに人間がいてもええけど、飛行機の自動化がどんどん進むのを楽しみにしてるで。飛行機にはもうある程度自動化が導入されてるしな。フライバイワイヤとか、特定の空港では人間のパイロットが操作せんでも着陸できるシステムとかもうあるわ。
その技術がどんどん良くなっていくのを見たいし、飛行がもっと安全になると思う。それと、飛行に関してはハイブマインド的な群制御の思考が必要やと思うんや。Teslaが他のTeslaがどこにあるか知ってて、それが自動運転の仕組みの一部になってるみたいにな。
飛行機でもそういうのが必要やと思うで。航空管制が大きなボトルネックの一つやからな。今の航空業界の大きな問題の一つは、よく訓練された航空管制官が足りないことや。ストレスの高い仕事やし、航空管制官が疲れてて、その夜よう寝れんで、朝にコーヒーも飲めんかったら、事故が起こる可能性があるわ。
だから飛行機同士がもっと自動的にコミュニケーション取って、みんながどこにいるか分かるようなシステムが必要や。AIがその役割…何て言うんやったかな、調整役？オーケストレーター？群の司令塔みたいな役割をする時点に到達すると思うわ。
正直それの方が安全やと思うで。
人間には向かない仕事の自動化
100%同感やわ。人間の構造上、めちゃくちゃ酷い仕事があると思うんやけど、航空管制がその一つや。第一に、ミスったらたくさんの人が死ぬから非常に危険。単調で、面白くない。すごく細かい作業が必要で、そういうのを効果的にできる人は本当に少ないんや。ちょっと疲れたり、ちょっと退屈したりしたら、恐ろしいことが起こる可能性がある。人間より安全やと仮定して、そういうのは自動化すべきや。
そうやな。俺はまだ人間がそこに座って監視して、全てがスムーズに動いてるか確認するのは想像できるけど、航空管制の多くは自動化できると思うし、AIがその分野で本当に役立つと思うわ。正直、どの航空会社、どの空港が最初にそれを試すかが問題やな。そういうのをテストする最初のモルモットになりたがるところはないやろ。
新たな職業「シンイーター」の可能性
これについてどう思うか聞きたいんやけど、誰かがAIが作り出す仕事の一つとして提案したもんがあるんや。ちょっと冗談半分で、100%本気ではないんやけど、でもある意味本気でもある。それを「シンイーター」と呼んだんや。
基本的に、AIがミスするたびに、それにサインオフして責任を取る人が必要やっちゅうことや。AI建築士が素晴らしい建築を作るけど、100万分の1の確率で家が倒れた時、それに対して責任を取る人間が必要やと。航空管制でも同じや。
それが将来の仕事になると思うか？何かの認証者とか、シンイーターとか、スケープゴートとか。
スケープゴートとしての仕事は確実にあるな。面白い質問やわ。
それとも何かの保険制度にするんかな？AIがミスったら誰かにお金が支払われるみたいな。どうやってアプローチするんやろ？
そうやな。今まで考えたことなかった仕事がそこにあるわ。AIがどう展開されるかのシステム分析とか、何かのリスク許容度みたいなもんや。絶対に何かそこにあるわ。会社がAIを導入して、誰かがそれを監視して、害を与えないか確認して、それが与える害に責任を持たなあかん。人々はその人を法廷に引っ張り出したり、証言させたりしたがるやろうからな。
AIの責任問題と哲学的ジレンマ
そういうのって倫理的で哲学的な側面に入ってくるよな。自動運転車の件でもうすでに格闘してるわ。自動運転車が人を轢いたら、誰の責任なん？例えばTeslaやとして、コンピューターを作ったTeslaの責任か？運転席に座ってるけど実際にはハンドル操作してない車の所有者の責任か？そういう状況で誰が責任を負うんや？
まだその答えは出てないと思うし、俺も答えは知らん。それは非常に倫理的で哲学的な領域に属する問題や。
俺は自動運転モードでTeslaに乗ってる時に軽い事故に遭ったことあるんやけど、彼らは「あなたの車やから、あなたの責任や」って言うんや。だから企業は常に個人が責任を負うって言うし、個人は常に集団訴訟とかで「いや、あなたたちの責任や」って言うんや。そして何かの法的判断が下されるっちゅう流れやな。
でも時間が経つにつれて、それはちょっと変わってこなあかんと思うわ。ある時点で、多くの企業がハンドルやアクセルペダルすら車から取り除きたがってるんやから。ただ座席に座って、必要な場所に連れて行ってもらうだけの状態にしたいんや。
Dylanもきっとラスベガスの家電見本市（CES）行ったことあるやろ？ハンドルすらないプロトタイプを見たことあるはずや。その場合、運転手がどうやって責任を負えるん？
俺やったら保険にそう言うたで。「俺にはハンドルがない」って。「どうやって対処しろっちゅうんや？」って。「ハンドルを掴むべきやった」なんて言われても、「おい、そのハンドルがないんやぞ」って感じやで。
そういうシナリオになってくると、責任はハードウェアの製作者により多くかかって、車に座ってるだけの人には責任が少なくなると思うわ。
自分の車ですらない場合はどうなん？ロボタクシーみたいな車両群の車で、車を所有してなくて、ライドシェアのアプリで呼んだだけで、必要な場所に連れて行ってもらった後に軽い事故に遭った場合。それはほぼ間違いなく車の製作者かライドシェア会社の責任で、アプリを開いて車を呼んだだけの乗客の責任ではないやろ？
そうやな。DeepSeekをローカルで動かしてて、それが間違ってコンテンツを全部削除したら、それは自分の責任や。でもクラウドシステムに接続して、そこに保存してた場合は、「俺はあんたらのインフラを使ってたんや」って言えるから、相手がもっと責任を負う可能性があるな。
トロッコ問題としての自動運転
この問題を難しくしてるのは、ある意味トロッコ問題みたいなもんやからや。例えば、年間200万人の歩行者が車に轢かれて死んでるとしよう。完全自動運転を導入したら、それが半分の100万人に減るとする。それでも感情的には、自動運転車に轢かれた人の方により強く反応するんや。人間同士が轢き合うのはよくあることで、エキゾチックでも何でもない、慣れてるからな。
でも完全自動運転を導入すれば、実際には100万人の命をそういう悲惨な死から救えるんや。それが正しい数字やとして、その水準まで到達できたとしての話やけど。それでも人々はまだ反発すると思うわ。ただ単により…何て言うんやろな、目新しいからやと思うんやけど。
そうやな。人々は責任を押し付ける先が欲しいんやと思うわ。「あの運転手がミスって、横断歩道を渡ってる歩行者を轢いた」みたいに、指を指す相手が欲しいんや。でもこういう自動化はその指を指す相手を少し取り除いてしまうんや。
救われる命っていうのは見えないんやな。シートベルトを発明した人に10億ドル払うべきやと思うわ。
メディア報道の偏向と認知バイアス
そのシナリオはもうTeslaで見てるやろ？Teslaが事故を起こすたびに、文字通り全部聞くことになる。普通の車が起こした事故は全部は聞かんけど、Teslaの事故は全部聞くんや。特に火災や死亡事故があった場合はな。でもそういう問題の割合は、道路にあるTeslaの台数と比べたら、実際に人間がハンドルを握ってる場合よりもはるかに少ないんや。
興味深いし、俺も答えは知らん。年間3回のサメの襲撃があるけど、何十億人もの人がビーチに行ってて、「大丈夫、実際そんなに高い確率やない」って感じやな。
年間3回のサメ襲撃で、国がサメを排除しようとして、その地域で見つけたサメを全部殺そうとするんや。でもそれはウイルス的なメディア問題でもあるんや。
そういうのがすごく増幅されて、みんながサメの話や交通事故の話を聞いて、すぐ目の前にある感じがするけど、人口に対しては不釣り合いなんや。だから混乱するし、AIでその問題はもっと悪化すると思うわ。
どう思ったか教えてくれや。完全なインタビューは下のリンクで見れるで。また次回会おうな。
コメント