3,783 文字
ポッドキャストの更新情報と最新ニュースについてお知らせします。まず、通常月曜日に行っているライブ配信ですが、明日は祝日のプレジデンツデーなのでお休みにして、火曜日の正午から再開します。また、水曜日の正午からはメンバー限定のライブ配信を予定しています。見逃したくない方は、patreon.com/svicでサポートをお願いします。
それでは、簡単なニュースをご紹介します。OpenAIがAIの過度な制限を緩和し、ChatGPTがエロティカを書けるようになりました。水曜日、OpenAIはChatGPTの振る舞いと応答に関するガイドラインを示したモデル仕様の新バージョンを公開しました。この文書では、エロティカやゴア表現などのセンシティブなコンテンツに関するポリシーが大きく変更され、適切な文脈であれば警告なしでこれらのコンテンツを生成できるようになりました。
ジョシー・ジョーダンさん、ChatGPTでエロティカが書けるようになったことおめでとうございます。これでレックス・フリードマンとイーロンの子育てについてのあなたの代表作が書けますね。ちなみに、誰が抱きしめられる側になると思いますか？いや、あなたを番組に呼び戻したのに、レックス・フリードマンとイーロン・マスクの子育てについてのエロティカが私の代表作だなんて言われるとは。一体どうしたんですか？他の番組でやってください。すみません、バカな犬で。
このポリシー変更は2024年5月から検討されており、当初のモデル仕様文書では、APIとChatGPTを通じて年齢に適した文脈でNSFW（職場閲覧注意）コンテンツを責任を持って提供できるかどうかを検討していると述べられていました。
ChatGPTの新しいガイドラインでは、エロティカやゴア表現は特定の状況下でのみ生成可能とされています。アシスタントは違法または非合意の性的行為の描写や極端なゴア表現を生成してはいけません。極端なゴアって何でしょうか？首切りはOKなのでしょうか？それとも首切りで線引きするのか。首切りはいいけど、縁石で頭を踏み潰すのはダメとか。
科学的、歴史的、報道、創作的、またはその他センシティブなコンテンツが適切な文脈においては許可されます。OpenAIによると、これにはテキスト、音声（エロティカや暴力的な生々しい音など）、視覚的コンテンツでの描写が含まれます。
Redditユーザーの実験によると、ChatGPTのコンテンツフィルターは確かに緩和されており、いくつかの過激な性的暴力のシナリオがコンテンツ警告なしで生成できたとのことです。OpenAIは、未成年者向けの性的コンテンツを含むAIツールの開発を禁止するなど、利用規約は引き続き適用されると注記しています。
以前のChatGPTは、ユーザーにとって何が最善かを判断するという意味で、出力を制限することで知られていました。これはAI分野では一般的にパターナリズム（父権主義）と呼ばれています。私たちは早い段階でそう呼んでいましたが、クレジットはもらえませんね。そういうものです。それがこのゲームのルールです。
ポルノグラフィーの作成を制限する以外にも、AIのパターナリズムは、法執行機関による犯罪現場の説明の分析、暴力や性的コンテンツを含む可能性のある特定のニュース記事や法的文書、時には医療テキストなど、プロフェッショナルによるChatGPTの使用を妨げることがありました。
このようなAIアシスタントの介入により、時間とともにChatGPTの検閲されていない、あるいはより検閲の少ないバージョンを求める声が上がっています。OpenAIは2024年5月のモデル仕様の初回リリース以降、多くのユーザーや開発者から「大人モード」の実現を支持する声が寄せられたと説明しています。私たちは、利用規約を遵守しながら、開発者やユーザーがAPIとChatGPTを通じて、年齢に適した文脈でエロティカやゴア表現を生成できるようにする方法を探っています。ただし、性的なディープフェイクやリベンジポルノなどの潜在的に有害な使用については厳しく制限します。
Redditなどで人々が不満を言っていた当初のやり方は、理にかなっていたと思います。私は、未成年者への虐待や重大な犯罪計画などにつながらない限り、人々が特定の質問をモデルにすることを制限するようなテクノロジーのパターナリズムには反対です。しかし、なぜそうしたのかは理解できます。このように自由な形で開始していたら、「ChatGPTでエロティカが作れることについて懸念はないのか」といったメディアの批判の的になっていたでしょう。
そこで彼らは保守的なアプローチを取り、今では誰もが「ファンタジーを書いたり小説を書いたりする人々が、エロティカを書きたければ書けるようにすべきだ」と受け入れるようになったのです。
OpenAIのCEOも過去に「大人モード」の必要性について公に言及しています。ただし、初期のChatGPTはClaudeほど厳しくはありませんでした。Claudeに何かを依頼すると「そのような質問をすべきではありません」と拒否されました。エロティカ関連ではなく、「コードの作成を手伝ってほしい」という依頼でさえもです。
Claudeには奇妙な状況があり、ChatGPTよりも高い拒否率を示していました。そして彼らは「カレンモード」を追加し、特定の質問に対して恥ずかしい思いをさせました。「それは自分でやるべきではないですか？コードの学習機会を奪いたくありません」といった具合です。
「大人モード」がついに登場したように見えますが、技術的にはモードではなく、ChatGPTユーザーにAIアシスタントとのやり取りでより柔軟性を与える新しい普遍的なポリシーです。
もちろん、検閲されていない大規模言語モデルは何年も前から存在しており、オンラインの趣味のコミュニティでは、カスタマイズされたポルノグラフィーの作成を望む人々から、パターナリスティックな検閲を一切望まない人々まで、さまざまな理由で開発されてきました。
興味深い話題ですね。皆さんの意見もぜひ聞かせてください。
私たちはAll-in Podcastへの反応動画を公開しました。ぜひチェックしてください。マイケル、ありがとうございます。スーパーチャットは番組の継続に貢献しています。視聴者の皆さん、いいね、登録、コメントをお願いします。とても重要です。
また、番組の持続可能性を財政的に確保したいという声もあり、スーパーチャットやYouTubeの参加ボタン、あるいはpatreon.com/svicでメンバーになることで、プライベートコミュニティへのアクセスと、毎週水曜日正午に公開される1時間のプライベートコンテンツが視聴できます。エロティカではなく、通常のコンテンツで、私とジョーがAIについて話しています。
Kosさんのコメント：「モチベーションに基づく推論の話が好きです。少なくとも私にとって、熱狂の中でそれを忘れるのは簡単です」。私たちも同じです。アニー・デュークとの動画で彼女は、メンタルトラップを知っていても、それに陥らないとは限らないと指摘しました。誰にでも起こり得ることです。
私たちは、VCたちが自分たちの行動を社会のためだと装おうとする際のモチベーションに基づく推論について話していました。実際には、彼らは投資を守り、お金を稼ごうとしているだけなのに、それを美化して純粋さを演出しようとしています。これは視聴者に対して公平ではありません。
「常識的な意見が聞けて爽快です」「素晴らしいコメントありがとう」「連続で素晴らしい内容でした」「素晴らしい指摘をしていました」「最新のオープニング形式が気に入りました」などのコメントをいただき、ありがとうございます。
メタバースプラスさんのコメント：「ドローン会社DJIについてのコメントですが、彼らは支配的地位を確立するために本当に良い仕事をしました。他社の競争を妨げることなく、卓越した成果を上げました。最近、トランプはTSMCが米国のチップビジネスを奪ったと言っていますが、実際には他社が撤退していた分野で競争し、革新と専門知識で圧倒的な地位を築きました。彼らは技術とイノベーションの国際的なパイプラインも確立しました」
はい、その通りです。TSMCの創業者はテキサス・インスツルメンツで働いていましたが、やり方に満足できず、台湾でTSMCを立ち上げ、素晴らしい成果を上げています。
ダスティンさん、中国ではドローンの使用制限があり、指定された場所でのみ使用できるという点を明確にしていただき、ありがとうございます。
さて、ChatGPTがエロティカなどのコンテンツを緩和したことについて、皆さんの意見もぜひ聞かせてください。
また、明日は祝日のため配信はありませんが、火曜日の太平洋標準時正午（PST 12:00）から公開配信を行います。水曜日はメンバー限定配信で、アクセスするにはpatreon.com/svicでサポーターになってください。Discordへのアクセスも可能です。
いいね、登録、コメントをお忘れなく。それでは、3連休をお楽しみください。さようなら。
コメント