この動画では、AI優先の法律事務所であるCrosbyの創設者RyanとJohnが、従来の時間課金制ではなく取引速度に重点を置いた革新的な法務サービスモデルについて語る。彼らは法務ソフトウェアの開発ではなく実際の法律事務所の構築を選択した理由、そして実際に業務を行うことで得られる独特のテレメトリとフィードバックループについて説明している。また、並列法務レベルのルーティングから上級アソシエイトレベルの契約審査まで、エージェント統制のアプローチについても詳しく論じており、AIによって誰もが高品質な法的サービスにアクセスできるロビンフッド的な未来への展望を共有している。
AIファーストの法律事務所という新しいアプローチ
弁護士は学習能力に優れているが、法律事務所の構造では多くの時間が見習い制度に費やされる。これは教育病院のようなもので、何度も何度も繰り返し実践を通して学ぶため、実際に教えることが本当に上手くなるのにそれほど時間を費やすわけではない。
そのため、物事を実際に説明することは、弁護士だけでなく、あらゆる分野の専門家、特に弁護士にとって非常に貴重なスキルになると思う。そして私たちはそれを目の当たりにしている。これまでやっていたが楽しんでいなかった作業をAIにやらせることができると、それは最も魔法的な体験となる。私たちは毎週のようにそれを見ている。
この番組では、AIファーストの法律事務所であるCrosbyの創設者たちと、法的契約自動化に焦点を当てたサービスとしてのソフトウェアを構築する魅力的なアプローチを探求する。RyanとJohnは、なぜ法務ソフトウェアではなく法律事務所を構築することを選択したのか、そして自分たちで実際に仕事をすることで、従来の評価では捉えられない独特のテレメトリとフィードバックループをどのように創り出すのかを語る。
RyanとJohnはまた、並列法務レベルのルーティングから上級アソシエイトレベルの契約審査まで、エージェント統制へのアプローチについて議論し、AIのおかげで誰もが高品質な法的サービスにアクセスできるロビンフッド的な未来への彼らのビジョンを共有する。
JohnとRyan、番組へようこそ。どうもありがとう。最初の質問から始めよう。Crosbyとは何か。あなたたちが構築した会社について少し教えてくれ。
Crosbyはリーガルテックの法律事務所だ。私たちは完全に契約に焦点を当てている。理論的には、人間の交渉を自動化できるということだ。つまり、人々に条件について合意してもらうことで、それを行う最良の方法が契約なのだ。契約はあらゆる場所に存在している。リース契約、内定通知書、そしてほとんどの商取引の基礎となっている。
そして、これを自動化する最良の方法は、社内に法律事務所を構築し、弁護士がどのように働くかを理解し、その多くをエージェント的に代替することで、契約をより早く締結することだと判明した。
法律事務所を構築するという決定について話してもらえるか。法務ソフトウェアを構築するのではなく。あなたたちの道筋にいる多くの起業家は、必ずしも法律分野ではないにしても、ソフトウェア会社を構築する道を選んだ。なぜサービス会社を構築するのか？
構造的になぜ私たちがこれを選択したかについて私が話し、それからJohnがより実用的なレベルで、どのようにチームを構築し、それがどう機能するかについて話そう。
構造的に少し俯瞰して見ると、法的サービス市場は常に人的資本に巨額のプレミアムを置いてきた。これはある意味でベンチャーキャピタル企業のようなものだ。そこで働く人々に本当に投資し、彼らをどんどん向上させ、その専門家やパートナーをできるだけ長く維持しようとしている。そしてそれは、その仕事の多くが非常に専門的で、実際にテクノロジーに委託することができない場合に大いに意味があった。
過去30年間、特に過去3年間で、それが変わったという認識が高まっている。人間からテクノロジーに委託できるタスクの種類において実際にイノベーションを可能にする新しいモデルを今探している。そして、それは法律事務所では今まで起こったことがない。しかし、すべての原材料はそこにある。物事を構築する方法を知っている専門家がそこにいる。
しかし、例えば法律事務所のパートナーシップは、テクノロジー構築のような投機的なものに投資することを許可していない。なぜなら、株式を売ることができず、法律事務所のパートナーだけがリコース付きのローンを組むことができるからだ。だからそれは機能しない。しかし、私たちには構造的な観点から、もし構造を正しく整えれば、Atriumが5年前にこれを証明したように、本当に迅速な反復サイクルと実際にイノベーションできる方法を見始めるだろうという理論があった。それが少なくとも理論だ。
弁護士とエンジニアの協働によるフィードバックループ
それを実践に移すとき、ドメイン専門家がエンジニアと並んで座ることで、評価以上のとてもユニークなフィードバックループが生まれる。実際に製品を使用し、それを体験し、ユーザー研究を行い、重要なワークフローが何か、最大のギャップが何かを理解し、実際にベンチマーク以上のものを最初から最後まで認識し、言うことができる。実際に、そのような環境を創り出す機会だ。
契約をより早く審査するこれらの特定の方法や、これが正確な赤線なのか、ここで必要なものに対して正しい単語の選択なのかといった個々の要素について、イノベーションするかどうかに関係なく。
歴史的に、人々はこれを試みたことがある。彼らはソフトウェアとサービス側を組み合わせている。これらの以前の試みがうまくいかなかった理由についてもう少し教えてもらえるか。また、今日、運用面でAIエンジニアが弁護士の隣に座っているが、実際にはどのように機能するのか。どのようにしてそれを成功させるのか。
その質問の最初の部分について、なぜこれが以前正確にうまくいかなかったのか、そして明らかなAIの最先端技術以外に、今何が異なる可能性があるのかについて。実際にはそれほど試されていないと思う。これは非常に大胆なことで、実際に会計や経営コンサルティングで素晴らしいイノベーションを見てきた。企業体を見ても、それらの企業のより少数がパートナーシップ構造で、C法人に移行している。それは彼らがどれだけ長期的なテクノロジーとテクノロジーに投資するかの非常に良い指標だ。
法律では、Atriumとそれよりも前のClear Spire、実際にこれを意味のある方法で試した2つまたは3つの会社があった。そして、いくつかのことがうまくいかなかった。一つは、弁護士とエンジニア間のその緊密な協調で、私たちは文字通り事務所で弁護士、エンジニア、弁護士、エンジニアという風に机を交互に配置して、これらのフィードバックサイクルを得て、彼らが本当に協力するよう促している。
もう一つの要素は、これが本当にユニークなことだが、弁護士が毎日行っている質的で思慮深い仕事の大きな部分が、実際に今、機械に委任できるということだ。これがどれほど複雑で新しいことかを過大評価するのは困難だ。
それを実践に移すということは、二つのことを意味する。製品の速度と実際の計測だ。メトリクスについてどう考えるか。私たちがやっていることは運用の重い事業で、実際に計測し、考えることができる。契約が来て、それを非常に迅速に送り出す。私たちはSLAのようなもの、つまり処理時間、最初から最後まで実際にすべての契約に関与した人間のタッチポイントの数によって測定される、これらを確実に満たす必要がある。
実際にすべての個別のタッチポイントを理解し、ここがすべての個別のタッチポイントだ、各タッチポイントにかかった時間はこれだけで、今日自動化できる最高価値のタッチポイントはこれらで、それらを解決していこうと言うことができる。
製品の速度について考える際のもう一つのことは、製品を出荷するための出荷以上のものということだ。これらのリーディング入力が実際に顧客メトリクスにつながるのか？なぜなら、これは運用の重い事業であるものの、ここで解決しようとしている最終顧客の目標は何かについて考える必要があるからだ。
顧客価値と信頼の構築
最終的に、顧客は私たちを信頼し、私たちが高品質な契約審査を行うために私たちのところに来る。それはCursorのような企業だ。なぜなら彼らは非常に急速に成長しているからだ。これらの企業はこれまで以上に速く成長している。
そして、私たちは本当に彼らの基準と、優秀さとスピードがどのようなものかについての彼らの水準を満たすことができる必要がある。実際にこのすべての製品速度、これらの入力メトリクスを取り、これらのラギング指標に実際に変換すること、つまり、私たちがSLAを満たしているか、時間通りに配信しているか、人間のタッチポイントの数を削減しているか、そしてそれが実際にインパクトを推進する方法だ。
一年前にJohnと私がこのアイデアに取り組み始めたとき、私たちには法律事務所のような構造にすることは、何らかのAI対応サービスを購入したい企業にとってアクセスしやすいものになるという強い直感があった。なぜなら、非常に多くの興奮があり、人々はそれを試してみたがっているからだ。
しかし、微妙なことがある。法的サービスは経済学者が信用財と呼ぶものだと思う。つまり、それを体験し消費した後でのみ、それがどれほど良いかを知ることができ、品質を実際に教えてくれる専門家が必要だということだ。
素人や、素人でなくても洗練されたCEOでさえ、定義上、彼らの法的作業がどれほど良いかをしばしば知らない。だから、弁護士がそれを見ているということを知りたいのだ。そして、この法律事務所として構造化することで、AIができることの最も有望な側面を取り入れながら、専門家がこれは良い品質だ、またはこれは安全だと教えてくれる適切な安全パラメータと構造をすべて配置していると思う。
価格設定とパッケージングレイヤーでのイノベーションについてどう考えているか。法律をAI波にとって最も興味深いもののひとつだと思う。なぜなら、それは最もテクノロジー破壊的なもののひとつであり、価格モデルの面でも、時間課金制なら、より効率的にしても実際には何の助けにもならないからだ。価格イノベーションをどのくらい行っているかについて述べてくれ。
これは、あまり深く考えずにほぼ下した初期の決定だった。それはただの制約で、時間課金制なしということだ。それは私たちにとって非常に劇的だが、人々の注目を集める興味深いウェッジになり、社内でインセンティブを整列させるのに明らかすぎて、二度考えなかった。
今日それがどのように見えるかは、文書ごとの請求だ。それについて言うべきことがいくつかある。最初に、時間課金制について。人々は約70年間、時間課金制の死を予測してきた。それは1950年代に人気になったばかりだ。それはかなり新しい。しかし、それは本当に持続可能で、どのくらいの作業が必要かを事前に予測するのが困難な本当に洗練された作業に対して多くの意味を持つ。
だから、実際に私たちがイノベーションしていることの一部、これは一年前には本当に推測できなかったことは、この作業がどのくらいかかるかを時間ゼロから予測できることで、それを価格設定し、まだ適切に作業を行い、顧客に与える価値と整列し、確実にできることだ。
それは物事が本当に興味深くなるところだ。なぜなら、この契約が何回往復するかを予測しなければならないからだ。それを5回、3回、2回見なければならないのか、文書を適切に価格設定するために。
とても興味深い。あなたは以前弁護士だった。あなたたちが法的契約作業を自動化していると言うとき、契約を交渉する際に今日人間の弁護士が何をするかを教えてくれ。そして、どのような契約について話しているのか。NDAなのか、合併契約、雇用契約、その間のすべてなのか。
言いたいことがたくさんある。止めてくれ。今のところ、私たちはNDA、MSA、DPAに焦点を当てている。すべての技術者がこれに非常に馴染みがあると思う。なぜなら、あなたがB2B製品を販売しているなら、これがあなたが扱っているものだからだ。
NDAは複雑さの観点から、MSAやDPAよりもかなり複雑でないと言える。実際、MSA、DPAに到達するのはかなりの段階だ。NDAは2ページ、MSAは15ページだが、おそらく80倍くらい複雑だと言えるだろう。交渉すべき用語がはるかに多く、そして合併契約まで行くことができ、それはおそらく1000倍複雑だ。
今日の弁護士は、契約のすべての条項を見て、あなたのビジネスに基づいて、何が安全で何が安全でないかの心的モデルに基づいて、同意すべきことと同意すべきでないことの正しいものを実際に予測しようとしている。
あなたたちが扱っているクライアントの一部は、一日に数十の契約にサインしている。CursorやClay、Unifiのように非常に急速に成長しているが、ビジネスをリスクから絶縁したい。
そして、それが弁護士がすることだと思う。ここで何が市場的なのかについて多くのガイドラインと一般的なベンチマーク、コンセンサスがあるが、それは本当に捉えどころがない。それは弁護士の心の中に存在し、2人の合理的な弁護士がそれらのことについて意見を異にするだろう。
触れたい最後の微妙な点は、弁護士は本質的に公共財を構築している私的行為者だということだ。つまり、法的インフラで、これまで交渉されたすべての契約がこのパブリックドメインに入り、リスクの合理的な配分とは何かのようなものになる。そして、これを自動化することによって、Johnがベンチマークの一般化に本当に興味を持つところだが、実際にそのインフラがどのように見えるべきかを定量的に言い始めることができる。合理的な契約についての最良の推測ではなく、実際にここにリスクのある、または安全な賭けをするメトリクスや統計的推測を与えることができる。
弁護士の頭の中にあるバイブとヒューリスティックを取り、実際の確率的定量的数値に変換し、特定の交渉にいるときにデラウェア州、カリフォルニア州、ニューヨーク州の準拠法を受け入れる可能性がどのくらいあるべきかを言うこと。その合意について本質的に人間的な何かがあると思うが、同時に多くの市場データがあり、実際にあなたのビジネスでリスクを配分するために持っているレバーが何かを解剖し、理解し始めることができる。
これらのビジネスについて考える創設者が考えるべきこととして、どの州で裁判に行くかについて戻ると、ありがたいことに今のところ50州しかない。あなたができる作業の長いテールに拡張すると、PMFを混同するのは本当に簡単だ。顧客があなたにこのことをやってくれと言い、私たちはこのことにお金を払うという対実際のサービス事業であることのような。自動化可能なもの、反復可能なものを実際に理解する必要がある。その自動化を前進させるために持っている特定のシグナルとレバーは何か。
AIと人間の協働における現在の仕組み
実際にそれを掘り下げてみよう。今日の製品でさえ、どの部分がLLMやAIモデルか。どの部分が弁護士か。どの部分がより多くのワークフローソフトウェアか。そして、それは時間の経過とともにどのように変化するのか？
過去5〜10年間で、NLP研究への投資額について、本当に興味深かったと思う。あなたたちも直接これを見てきたと思うので、これについてのあなたたちの見解も聞きたい。5年前に最先端だった問題が、今ではスタンフォードの新入生のクラスのウォームアップ問題のようになっている。
今利用可能なツールという点でズームバックアウトして、今日自動化できる特定のモデルと何について考えると、それはコンテキストに帰着する。
AlexNetとすべての最初のモデルが画像分類を始めたとき、何かの写真があって、それを分類しようとした。必要だったのは写真だけだった。今、MRIを見てそれを分類しようとしていることを考え始めている。MRIを見ているが、患者の病歴や患者に関するその他のメタデータからの追加のコンテキストも得られるかもしれない。
言語モデルは今、それを極端に進めていると思う。言語モデルは基本的に、この問題を理解し、それについて何らかの決定を下すために必要なだけのコンテキストを私に与えてくださいと言っている。
今日のワークフロー対言語モデルに関するあなたの質問に答えると、それは人間の弁護士のためのコンテキストエンジニアリングをどのようにできるかから始まる。弁護士に利用可能なすべての適切なツールとこれらの構成要素を与え、実際に彼らが行っていた手動ワークフローを自動化するにはどうすればよいか？
これらの構成要素を手に入れたら、次に弁護士が行っていることで、今言語モデルと整列させ、人間が行っているこの行動をどのくらい正確に複製できるかと言える部分は何かという問題になる。
ここでの私のホットテイクは、誰もが利用可能なデータの最大量へのRHFやこれらすべての汎用的なものに焦点を当てていると思う。これらの特定のシナリオで本当にやりたいことは、それを特定の人に整列させることだ。
Ryanが言ったように、同じ企業で働いていても、一つの特定の契約について2人の弁護士が合意することは、多くの往復と緊張を必要とするかもしれない。そして、一人の個人とより正確に整列させることができれば、この人は内部的に一貫しているため、2人が意見を異にするかもしれないにしても、これは正しい、これは間違っていると言い始めることができる。
各異なる弁護士に対してほぼ個別化されたモデルを持つということになるのか。それがシナリオの種類か？
ここでの2つのテーゼは、顧客ごとの評価や顧客ごとのファインチューニングについて、人々は十分に考えていないということだと思う。顧客ごとのファインチューニングと評価は、特に大きなACVを持っている場合、製品を複数の9の精度に到達させるための本当に高いROIの方法だと思う。
今日の言語モデルの危険な罠の一つは、基本的に無料で90%に到達することだ。ファンデーションモデルは素晴らしい仕事をしており、OpenAI、Anthropic、Googleでのパートナーに、このような素晴らしいツールを提供してくれることを感謝している。しかし、危険の一つは、90%に到達し、99%や99.99%に到達するのが実際には非常に困難だということだ。
そして、あなたが持っているすべてのレバーの一部は、顧客ごとにこれらのプロンプトを調整できる方法は何か、顧客ごとにこのモデルをファインチューンできる方法は何かということについて考えることだ。そうすれば、4つ星の体験だけでなく、5つ星の製品体験を実際に提供できる。なぜなら、それが最終的に達成しようとしていることだからだ。
しかし、言語モデルへの投資と、これらの顧客ごとの、より企業に焦点を当てた業界でどのように形作られるかを見てきたという点で、あなたたちの見解に興味がある。
それは彼らにとって実際にどのようなデータが分布内にあるかに部分的に依存すると思う。なぜなら、分布内にあるどんなデータでも、彼らはそこに非常に遠くまで到達し続けるだろうと思うからだ。一方で、あなたのポイントが特定の企業に対して、彼らのデータ、彼らの契約にとって本当に興味深いデータのほとんどが、ファンデーションモデル会社としてアクセスできないもので、私たちが個別にアクセスでき、あなたのコンテキストを理解するあなた向けにRLファインチューンされたモデルを作成できるということなら。それは大きなモデル会社にとって分布内にないデータだから、それは理にかなっていると思う。それに同意する。良い見解だ。
顧客価値提案と取引速度の重視
あなたたちは非常に目の肥えた顧客を持っている。ClayやCursorが言及されたと聞いた。彼らがあなたたちについて最も気に入っていることについて教えてくれ。あなたたちが賢いAI人材だということか、契約を極めて迅速に処理できることか、AIを使用していない誰かよりも安く契約を処理できることか。これらの企業にとって顧客向けの価値提案は何か？
私たちは数ヶ月かけてこれを本当に結晶化させた。それは取引速度だ。そして私たちが本当に考えていることは、今日のスタートアップの加速とすべてがより速く進んでいることだ。セールスモーションがより速く進んでいる。Clayを見てみろ。彼らはセールスチームをそれだけ速く動かすことを可能にしている。雇用方法もすべて、そして契約交渉、これは重要な要素だ。
文字通り、顧客とつながる方法だ。ビジネス用のAPIと私たちが呼ぶものは、基本的にワードプロセッサが出てきて以来40年間変わっていない。そこで、私たちが2つの方法でスピードをアンロックできるというアイデアがある。彼らが契約を私たちに送ってから、それを取り戻すまでの時間から。
これは通常、AEやセールスパーソンだ。私たちは彼らがクライアントに戻るスピードをアンロックしているだけだ。また、より思慮深い方法でレビューを行うことで、5〜6回の往復をするのではなく、この条項に同意し、これらの3つだけに反発すれば、1ターン節約できると予測できる。これで1週間全体が速くなる。
これらが主なことだ。そして、興味深いのは、Johnが言っていたように、品質と味覚は、これらの種類の合意にとっての閾値の問題であるこれらのやや無形のものだということだ。合理的な品質レベルに達しなければならない。しかし、私が本当に賞賛し、多くの時間を過ごす最高の弁護士、GCたちは、彼らの仕事がビジネスドライバーであることを理解していると思う。彼らは自社の成長をアンロックしており、そのように自分たちを位置づけている。そして、それが鍵だ。
弁護士をループに入れる本当に巧妙な方法で私たち自身を構成することで、弁護士の監督と前に述べたような安全性と品質を持つことができるが、どれだけ限界を押し上げることができるかを見ることができる。現在、私たちは中央値時間で1時間弱でコントリビューションを行っている。
それを数分にできるか。適切な条項が適切な時に適切な弁護士の前に確実に来るようにしながら。これらが魅力的な質問だ。
それが可能になるためには何が必要か。もしそれが可能になるために何が起こる必要があると思うか？
Johnと私がこのインタビューを一緒にすることにとても興奮していた理由、そして通常私たちが一緒に話している理由は、技術的専門知識、AIの最先端を本当に理解することと、弁護士が本当に得意なことの非常にユニークな結婚があったからだと思う。
興味深いのは、JohnとI私が一緒に働き始めたとき、これは公平な指摘かどうかわからないが、Johnは常に評価を求めていた。そして私は、それで結構、それに取り組みましょうと言ったが、私は10秒で見ることができ、あなたに教えることができる。私の手に置いてくれと。
弁護士は、それが彼らの訓練、リスクプロファイルに基づいた味覚ベースのもので、各クライアントに少し独特であるため、何が良く見えるかについて非常に直感的な感覚を持っている。そして、プロンプトツールと実際のインプットとアウトプットをCrosbyにいる弁護士たちの手に入れることができればできるほど、それは速度だけで驚くべきことだ。
私たちは実際に最初にエンジニアと弁護士をより多く雇った。そして、私たちはエンジンを少し空ぶかしているような感じで、ギアに入らない感じだった。そして弁護士たちが来て、それはギアに入ったようだった。彼らは、いいや、それは違うような、そちらの方向に行くべきだというようなすべてのインプットを与える人々を持っていた。それが構造的なことだ。
そこに到達するために何が必要かという点で、弁護士が専門家が何かが良く見えると言ったという保険をほぼ提供するため、彼らは多くの種類の法的作業のループに常にいるだろうと思う。完全に自動化される法的作業の種類について、ホットテイクに入ることはできる。
しかし、ここでの鍵は、いつ弁護士まで何かをエスカレートし、彼らの承認を得て、その責任がカバーされることを知ることだ。現在、私たちは過失保険を持っている。私たちが行うすべての作業に対して責任を負う。私たちがそれをしなければ、事業として存在しないと思う。
それがここでの鍵だ。品質について非常に確信し、それを支援できるほどでなければならない。
テクノロジーアーキテクチャと基盤モデル活用
とてもクール。テクノロジー側で内部で何が起こっているかを覗かせてもらえるか？3つの愛するファンデーションモデルパートナーがいると言及した。各異なるモデルを何に使用しているか、そしてその上にどのような足場を構築しているか？
私たちが発見したことは、最先端技術が契約に特別に調整されていないということだ。なぜなら、そこにあるコーパスに十分なデータがないからだ。データの多様性は、法律ドメインだけであっても苦い教訓で、一般的に訓練されたモデルが欲しく、これらの契約は非常に隠されている。最良のデータセットはEDGARだ。
SEC申請を添付するとき、そのデータは非常に過度に利用され、これらの小規模なものには適用されない。それが問題だった。
インフラの面でのもう一つの部分は、Ryanが言ったように、これらのエージェントが何が得意で何が苦手かを理解するために設定したすべての環境でこれを常にベンチマークし、前に述べた品質スコアにそれを戻すことだ。これが、すべてのチームがドメイン専門家とエンジニアの両方を必要とする理由で、これらの垂直AI スタートアップをより多く見る理由だと思う。その人を社内に持つことで、大企業から購入したデータセットとは対照的に、契約弁護士などにラベル付きデータの多くをアウトソーシングするような、そのような競争上の優位性を与える。
そして、今日の設定方法に関して、私たちには大法律事務所の経験を持ち、この種の合意にかなり熟練している弁護士がいて、彼らが運転している。そして、彼らが見ているのは、これはかなり興味深く、Johnのポイントに対して、契約内で言語を変更する方法の微妙さは、私たちが想像していたよりもAIが少し苦労しているようなものだということだ。
JohnとI私は、commercially reasonableという用語とreasonableという用語の違いは、実際に弁護士にとって実質的に異なるものだと冗談を言うのが好きだ。それらは埋め込み空間では非常に似て見える。だから、それらのようなものだが、これらは本当に選り抜かなければならない新しいニュアンスだ。
しかし、弁護士がそこで運転し、実際に契約への実際の編集で品質を測定し、介入している間、AIが素晴らしいのは要約することだ。変更を説明するために正しいコメントを予測できることだ。
5月頃に学んだ興味深いことは、なぜこの言語を受け入れることができないか、なぜその言語を本当に押しているかについて本当に思慮深い説明を与えることができれば、相手方はあなたが何を言おうとしているかを理解し、それを受け入れるだろう。それはターンを減らす。だから、あなたが何をしているかを説明するためにAIに投資する価値がある。
私たちが気づいたもう一つのことは、これは実際に企業に非常に特異的だということだ。これらは法的質問ではない。これは、私たちのクライアントの一部はそれほど洗練されていないが、Cursor IDEの基本やClayがセールスデータをどのように使用するかの基本を理解しなければならないということだ。あなたが何を購入しているかを知るために、調達担当者にとって。
だから、これはすべて契約で起こる。そして、弁護士に適切な時に適切な場所で契約の適切な部分でこのすべてのデータを提供することで、多くの速度をアンロックできる。
これらは巨大なアンロックで、クライアント体験として、私たちがそれを超自然的に感じさせたということだ。つまり、非常に自然ということだ。Slackの中で直接だ。あなたはただCrosbyをタグ付けする。私たちはSlackに大きな賭けをしたと思う。ますます多くのアプリが。使いやすく、Crosbyをタグ付けするのはとても簡単だ。文書を送り上げる。
数時間以内にいくつかの考え、いくつかのコメント、そして説明とともにそれを取り戻す。私たちはその上にかなりのものを構築した。Eメールがもう一つの明らかな選択だと思う。しかし、私たちはインターフェースを望まなかった。あなたのためにこれを見ている誰かと話しているように感じさせたかっただけだ。
インフラに関するポイントに戻ると、エージェントにNDAやMSAやDPAで本当に良くなってもらい、先ほど言ったように、長いテールに戻ると、本当にエージェントに本当に良いツールを与え、それから本当に良いコンテキストを与え、特定のタスクのために彼らが訓練され、設定されていることを確実にしたい。
特定のタスクについて考えるとき、CursorのNDAエージェントであろうと、彼らが成功するように設定され、実際にこれらの契約を本当に本当に迅速にレビューできるようにすること。
今日、私たちは基本的に並列法務エージェントを構築した。それは、顧客から入ってくるすべての作業をルーティングし、並列法務が法律事務所でするのと同じ方法で人間の弁護士にルーティングし、作業が効果的に割り当てられることを確実にする責任がある。
次のステップは、法律事務所での下級アソシエイト、上級アソシエイト、ジュニアパートナーについてどう考え、実際にこれらの役割をそのように置き換え、彼らが焦点を当てている実際の専門職について考えることだ。
理にかなっている。お気に入りのワークホースモデルはあるか？私はo1を本当に気に入っている。これがホットな時にいつかわからない。私も。チームメートは私についてミームを作る。待って、なぜ？もう少し教えて。
いくつかの法的タスクに対する思考とプロモデルという点で、実際にかなり良かったと思う。Gemini 2.0 Proも法的タスクで本当に良かった。
超興味深い。あなたにとっての約束の地への道は、各個別の法律事務所と弁護士への調整の種類になると思うか、それともプロンプトのような何かになると思うか。契約を完全に自動化するために約束の地にあなたを連れて行くものについての直感や宗教があるか？
Ryanが言ったように、テーゼは心理的安全のためにその人間的触れ合いをどのように保つかということだと思う。約束の地は、本当に良いコンテキストエンジニアリングから来て、それを適切なものに提供することだと思う。なぜなら、素晴らしいプロダクトカウンセルと素晴らしいコマーシャルカウンセルが行うことは、この会社がどのように機能するか、この特定のプレイブックの背景、この会社と交渉したとき最後にこのNDAがどうなったかについて、作業記憶にただ大量の情報を保持することだからだ。
それをすべて作業記憶に読み込むことが本当に重要になるだろう。私はこれらの強化学習技術の多くについて本当に楽観的だ。
強化ファインチューニングは、Ryanが述べたようなコメント生成のために早期に実験したもので、他の多くの機会についても実験してきた。だから、そこについてはかなり楽観的だ。
私の見解は、弁護士に料理をさせるということだ。彼らにプロンプトを書いてもらう。彼らは—
あなたの弁護士たちは料理をしているか？もう少し教えて。
ええ。彼らはプロンプトを書いているか？私たちは非常に多くの弁護士と話している。「AIについてすべて聞いている。もっと学びたい。興味がある。それの一部になりたい」と言うような。
「以前に使ったことがあるか？」「いいえ」そして私たちは「オーケー、これはどうなるのか？」と言う。そして彼らは、それは彼らの顔の表情のようで—
私たちのチームに特に一人の弁護士がいる。私たちが行っていたいくつかのツールを初めて見たとき、彼女の顔の表情、それは電気がついたような、本当に素晴らしかった。そして、実際にプロンプトを書く、指示を与える、あなたの頭の中にあるが、誰かに説明する方法さえわからないようなこれらすべてのことを教えるアクセスを彼らに与えること。そして、それは実際にこれらのことを引き出し、説明することを試みるのは非常に複雑だ。
弁護士は学習にかなり優れていると思うが、法律事務所の構造では、見習い制度に多くの時間が費やされる。それは教育病院だ。あなたは実際に何度も何度も繰り返しによってそれを行うため、教えることで本当に上手くなることにそれほど時間を費やさない。
だから、実際に物事を説明することは、弁護士だけでなく、あらゆるドメインエキスパートにとって、特に弁護士にとって非常に貴重なスキルになると思う。そして私たちはそれを見ている。あなたがやっていて楽しんでいなかったことをAIにやらせることができるとき、それは最も魔法的な体験だ。そして私たちは毎週のようにそれを見ている。
弁護士によるAI活用の実例と企業文化
彼らが作った最もクールなことは何か？そして、弁護士が自分でプロンプトしている、実際に自分で遊んでいるような文化をどのように作り出すかについて説明してくれ。
Harveyが構築したこのような重力の中心を構築し、弁護士がこの職種を発明したことを示すことに大きな賞賛を送りたい。applied legal researchと呼ばれていると思うが、これは素晴らしく、それがまさに弁護士がやっていることだ。彼らは正しい。
そして、それを本当に称賛する文化を作り出す。法律事務所の弁護士を見ると、彼らは本当に一つのベクトルで測定されている。それは毎年の構築時間だ。私たちは、あなたがやっている仕事にメタ的に気づき、それを測定しようとすることに多くの公的な称賛を与えようとしている。
私たちには、物事をもっと良くできると思うと言った弁護士がいて、私が「もう少し詳しく教えて」と言った。そして一週間後、彼はこれを構築した。私は彼にMiroを教えたが、それは彼にとって大きなアハ体験だった。そして彼はこの巨大なプロセスマップを作った。それは専門的に印刷してもらわなければならないほど大きかった。
すべてのエンジニアにとって最高の瞬間の一つだった。しかし、私たちはそれについて非常に興奮し、このような文化を作り出した。私たちは本当に、多くの反復的な同じ種類の作業を行っているが、それを抜け出してより大きく考える方法があることを称賛している。
だから、私たちは本当に、なぜならあなたのインセンティブは全体的な審査時間を下げることであり、それを推進する人になることだからだ。そして、それは素晴らしかった。私たちがただ表面をかき始めているような多くの他のことがある。組織設計、同じ結果に向けてすべて弁護士とエンジニアの両方がいるようにあなたのチームを構造化することなど。だから、彼らはすべて一緒に協力しなければならない。
しかし、これらが鍵で、これらが本当に困難なことだ。
ニューヨークでのAI企業構築について
ニューヨークについて話そう。あなたはニューヨークでAI企業を構築している。それは逆張りだ。もっと教えて。
私たちには逆張りではない。ニューヨークの技術シーンは多くの異なる弧を経てきたと思う。2000年代初頭の最初の弧は、.comブーム後に現れた多くのadtech企業で、App Nexusやこれらすべての他の会社が爆発した。そして、これらのadtech企業から出てきたこれらすべての深く技術的なエンジニアが分離して、MongoDBなどのより多くのdev toolを作成した第二の波があった。
同時に、ニューヨークには多くの取引企業もあった。Jane Streets、HRT、Citadelなどを考えることができる。だから、ニューヨークの技術チームは、これをベースフレームワークとして持っていた。
過去5〜10年間に起こったことは、多くの、より多くの上級エンジニアがこれらの場所から出てきて、スタートアップを構築することの多くが、実際に素晴らしい成長軌道がどのようなものかを知り、1から10だけでなく、ゼロから1への方法を理解することだという点まで。
だから、これらは素晴らしい繁殖地であり、今、私たちはこれらのどちらかからdev toolsやdevxで、またはより多くを考えて多くの会社が生まれるのを見てきた。本当に素晴らしい例はrampだと思う。彼らがYC会社について最初のKareemが私に話した話を覚えている。それはparabusと呼ばれ、ニューヨークに拠点を置いていた。彼らは2013年頃にニューヨークで唯一のYC会社だったかもしれないと言った。
それが非常に興味深い理由は、彼らには応募した候補者がいて、非常に才能のある開発者で、信じられないような履歴書だった。彼らは「なぜここで働くために応募したのですか？」と尋ねた。そして彼は「一つの簡単な理由。私はYCでニューヨークシティでフィルターをかけ、あなたたちがそこで唯一の会社でした」と言った。
だから、それ以来、私たちは長い道のりを歩んできた。RAMPが素晴らしい場所だったと思い、そこから出てきている他の多くの会社もニューヨークにある。多くの素晴らしい若い才能を取り、App Nexusやこれらの他の場所で働いていた人々、スケールしたこれらの他のスタートアップから彼らに教え、これらの学習を適用し、RAMPのような本当に世代的な会社を創造できると思う。
興味深い調査があった。Patがこれについても話したかもしれないし、あなたが言及したかもしれない。Neoか他の誰かからの調査で、2021年、2022年にほとんどのニュースがニューヨークにいたがっていたというもので、本当にスマートで貪欲で高い勾配の若いエンジニアがどこにいたがっているかの先行指標をただ追うなら、それがニューヨークだったということで、非常に興味深い。
それはまた、AI エコーチェンバーから少し抜け出し、少し異なることを行うことを可能にし、あなたたちが話す方法を聞くだけで、それは爽やかに第一原理的だ。私たちはおそらく様々な理由でここに数ヶ月ごとに来ていて、ここに夢を見に来て、それからニューヨークに戻って構築すると感じる。そして、そこの主題専門知識は金融、創造分野、ヘルスケア、法律では明らかに法律で非常に密集している。
すべての本当にクレイジーなアイデアを蒸留し、ここに来て、AGIではなくASIだと言うようなことを学び、それからそれを戻って本当に適用し、水が砂を通って行き、ただ機能するものを持って出てくるようなものだ。それがその一部であることは本当に特別だった。
私たちにとって本当に、これらの本当に深い専門知識を持つドメイン専門家を取り、これらの高い勾配の新卒だけでなく、経験豊富な創設者であるか、再び創設者になりたい人々と組み合わせること。私たちの創設エンジニアチーム全体は、すべて以前の創設者か、創設者になりたい人だ。
その精神は本当に必要なものだと思う。なぜなら、ある意味で、Ryanが言ったように、あなたはこれらのポッドを構築していて、一人か二人の弁護士と働いており、あなたの顧客があなたのすぐ隣に座っているのは、得られるdev サイクルと製品ループの量という点で、そのようなユニークな機会だ。そして、それは本当に特別だと思う。
あなたの名前自体が、ニューヨークとのつながりを反映していると思う。名前の由来について少し教えてくれ。
Crosbyという名前には多くの神話と伝説がある。神話の一つは、昨年の夏、JohnとI私がSohoを通って長い探索的実存的な散歩をしていたが、私たちは常にCrosbyにいる自分たちを見つけていた。それは非常にモダンな近隣の美しい古い通りで、私たちにとっては古いものの最高の職人技とニューモダンスチールガラスのすべてを組み合わせ、それをうまく組み合わせている本質的にニューヨークの会社であることについて語りかけた。
しかし、それはただ一つだ。ホッケー選手の名前かもしれない。ホテルの名前かもしれない。何でもあり得る。私たちのオフィスマネージャーの犬もCrosbyという名前だった。
本当に？彼女の犬だ。
ニューヨークで構築することについて、会社文化についてもう少し教えてくれ。典型的なAI会社、おそらくここSFと比べて、どのように異なると思うか？
ニューヨークのことがなぜかわからないが、私たちの友人の会社、ニューヨークの他のSequoia会社でもっともっと見ている。物事を始めること、創設者であることへの巨大なバイアスがある。
私たちが人々を私たちに参加するよう説得できた方法は、これがあなたの4、5年間の踏み台になると言うことだ。ところで、私たちはそれに応えなければならない。それは実際に、それは些細ではない。私たちは、創設者ディナーに招待されたとき、代わりに他の誰かを送ることを確実にしなければならない。それは人々を困らせると思うが、彼らにとってはかなり素晴らしい。
しかし興味深いのは、この種の会社で、Johnが述べたように、アプリケーションレイヤーの多くで、あなたはそのレベルの自律性と主体性、これは私のものであり、私の弁護士のポットでそれをどう構築するかを理解するつもりだという創造性の基本性が必要で、私はそれを解決し、それから戻ってくるつもりだ。
そして、なぜかわからないが、私たちはこれをもっと見続けている。Rampが物語の大きな部分だと思う。Rampは創設者ファクトリーになっており、文化的にそれはニューヨーク全体に浸透し、私たちはそれを感じる。だから、実際に本当に興奮していて、次の4、5年間、これらすべての種類の次の波の人々が出てきて物事を始めるのを見ることに興味がある。
もう一つのユニークなニューヨークのことは、デザインへの重点だと感じられることだ。RAMPは素晴らしいデザインと製品の味で本当に誇りに思われている製品だ。それの多くは、これらのデザイン機関や他の素晴らしい企業での深さと創造性レベルまで辿ることができると思う。
最後に、ニューヨークの人々はピザが好きだ。サンフランシスコで適切なニューヨークスライスやスライスを手に入れるのは本当に難しいと感じる。
それが私たちの祝い方だ。ピザで祝う。だから、私たちはニューヨークに2つの本当のピザチームを持っている。ドミノのようなものではない。非常に本物だ。
法律業務の完全自動化に対する見解
オーケー、ホットテイクが必要だ。どのような法的作業が完全に自動化されるか？
法的作業について。米国の法律事務所の約70〜75%の収益を占める約11,000の法律事務所があり、それは全法律事務所の8%を占める。
まだ多くの法律事務所があるが、これらの他の92%を占める巨大なテールがあり、それが残りを構成している。そして、その92%は個人に焦点を当て、養育費の支払いやリース、すべての種類の人間的なことで彼らを助けている。彼らは弁護士によってひどくサービス不足で、それはほとんど不道徳だ。
私たちは法科大学院でいつもこれについて話し、誰もがこれについて何かをするという本当に高尚な夢を持っているが、実際には触れられていない。私はこの作業が完全に自動化されると思う。なぜなら、代替案は何もないからだ。誰もしなければ誰もしない。そして、今すぐ誰でも、今日ChatGPTで家主のリースを交渉できると思う。多くの人がそうしていると思う。
企業法律事務所は、かなりの間ここに留まり、それらの仕事はかなり安全だと思う。だから、それは完全に自動化される法的サービスの一種の純粋新種のようなものだ。しかし、それは弁護士の仕事を取って自動化するということではない。今日誰もやっていないということだ。
純粋新しい市場創造だ。完全に。
それがただのChatGPTがそれをやらない理由は何か？私はすでにそれに法的助言を求めている。たぶん悪い戦略だが。
この作業の多くにとって、それはそうだと思う。代替案が何もないという、代替案は誰も見ていないということだ。そして、私の希望は、弁護士にこれほど多くのレバレッジを追加できるなら、1時間に2つの契約を見る代わりに500を見ることができるなら、より多くの人々にサービスを提供できるようにするべきではないかということだ。
Crosbyのミッションについて話すとき、それは非常に高尚だ。テクノロジーでより良い法的インフラを構築することだ。これがまさに私たちが話していることだ。これは、私たちが持っている弁護士を活用することだ。これは楽観的なホットテイクだ。これによってアンロックされる、弁護士が今後5〜10年間でできることの黄金時代だと思う。
それが大好きだ。
企業運営指標と顧客インセンティブの整合性
会社を運営するノーススターメトリクスはあるか？
私たちは総処理時間で運営している。つまり、入力時間から出力時間まで。すべての往復にわたって契約がどのくらいかかるか。Ryanが言ったように、契約交渉は5回または2回の往復があるかもしれない。Crosbyが契約を見て費やした時間をすべて合計すると、それが私たちのノーススターメトリクスだ。
そして、それは非常に直感に反する。ほとんどの法律事務所はその数を最大化しようとしていないが、それが彼らの時間課金制の稼ぎ方だ。私たちにとって、それはインセンティブの整合についてだ。個々のターンでより速い仕事をするだけでなく、より良い仕事をどのようにするか、ビジネスにとって適切な交渉レバーをどのように理解するかについて。
あなたたち皆が非常にハイベロシティで往復している多くのタームシートを交渉したと確信している。私たちにとって、それは本当にこれらの往復をどのように最小化し、また毎回より速くなるかについて考えることだ。
そのインセンティブを顧客にとってどう整合させるか？タームシートの例に戻ると、タームシートに署名してもらう最も速い方法は、ポストマネー評価額を上げることだ。
だから、そのノーススターを最大化するために顧客の交渉力を与えていないことをどう確実にするか？
まさに。ガードレールメトリクスにも戻る。だから、私たちは本当に誇りに思っている。これらの垂直AI機会について考えるほとんどのスタートアップが持つべきものの一つは、AIエージェントのための環境またはAIエージェントの品質メトリクスに焦点を当てたチームだ。
それがこれほど重要な理由は、近道を取る、または中途半端な作業をするという不整合なインセンティブを得るのが非常に簡単だからだ。私たちはチーム、弁護士とエンジニアの両方に、品質が一貫して顧客のニーズを満たしていることをどう確実にするかのみに焦点を当てた人々がいる。
そして、それは客観的な意味で良い法的作業をするだけでなく、これは顧客のリスクプロファイルと整合しているか、これは顧客の交渉の最良の利益になっているかということだ。そしてそれをすべてガードレールメトリクスに蒸留し、私たちがTTAと呼ぶ総処理時間と組み合わせる。
そしてrampからも学んだが、実際に楽しく言えるパシーメトリクスがあれば、それは実際に助けになる。なぜなら、人々が始めるからだ。私たちはある会議でそれを思いついただけで、今では事務所全体でTTAと言って回っている。
私たちはまた、HURTと呼ぶこの他のメトリクスがある。それはhuman review timeのHU、RTの略だ。だから、私たちはまた、HURTの量を減らそうとしている。ここでHURTがある。
私はこのピン性が好きで、メトリクスについて製品の観点から話すことができるが、非常に本質的に人間的で、共感的に感じられることを望むと思うので、面白いと思う。HURTを減らすことは、弁護士がどのように感じるべきかとより価値整合しており、同じように品質も顧客が私たちから期待していることと非常に整合している。
交渉でレバレッジを増やすための他の方法は、資金調達における締切の設定、圧力の増加など、多くの方法があるということをもう一つ付け加えるかもしれない。契約は非常に興味深いと思うのは、それらが非常に人間的で、本質的に人間対人間の会話の抽象化であり、何について合意できるかということなので、昨年夏にアイデアを研究していたとき、実際にインドで時間を過ごした。Johnはこの話を無数に聞いている。
Fortune 500のグローバル企業のために非常にルーチンな契約交渉をする多くのオフショア法的サービスがあり、彼らはただ5つのルールを取り、契約に適用し、往復してそれらに対して交渉する。彼らに対して交渉するのは、壁に対して交渉するようなものだ。彼らはただ、創造的にならない。
しかし、私には一人の男がいて、私は「それで、行き詰まったらどうするのか？」と言った。彼は「私がする本当に創造的なことがある。私はただ彼らに電話して、彼らはこの会社にノーと言いたくないだろう、私たちには本当に長い人生があり、インターフェースしたがるだろうと言う」。
私は「それをすることが許されているのか？」と言った。彼は「わからない。ただやり始めた。うまくいく」と言った。それは非常に人間的で、これらの往復の人間的要素を非常に感謝させてくれた。だから、私は、どのくらい時間を削減でき、エンティティ間の取引をどのくらい効率的にできるかについて信じられないほど楽観的だが、相手方がお互いに接触し、私たちが精神の一致と呼ぶもの、本当に合意に到達するために持つ本質的な役割もあると思う。
同時に、何らかの強化学習を持つAIエージェントがあれば、それはただ報酬ハックを実現し、電話ツールコールを与えれば電話をかけることが100%変換することに気づくだろうかと思うが、誰にもわからない。
エージェント同士の契約交渉の未来
しかし、これはどのように展開すると思うか？あなたのエージェントがフィールドで他のあなたのエージェントと交渉したことがないと想像するが、最終的に、人々が両側でNDAについて彼らのエージェントに交渉してもらうことになると推測する。
これが私たちがここで達成できることを希望する最も美しい本質だと思うのは、それぞれの当事者の好みをそれぞれのエージェントセットで捉え、交渉をシミュレートしてもらうことだ。
最初の往復、そして5回目、そして7回目があり、私たちが正味化したものはここで、これが合理的だと思うか、それがあなたの出発点だということの監査可能な記録を見ることができる。これらは本質的に協力的な交渉だ。これらは敵対的ではない。
だから、ここでの目標は、実際により速く人々を合意に導く協力プラットフォームになることだ。
とても興味深い。だから、各エージェントは皆のリスク好み、底値、交渉を待つ耐性をすべて感覚的に持ち、ページで頭を打つエージェントが欲しい。
それはあなたが知っている、そしてそれは唯一あなたがより多くのコンピュートを費やすものだ。高推論エージェント。
そして、私は、本質的に、データを分割し、このエージェントが他のエージェントのデータにアクセスできないことを確実にし、法律事務所がすでに理解していることを本当に取ることは、異なるチーム間に壁を設定し、お互いに交渉すると言うことだと思う。
あなたはそれを特定のガードレールを通してでない限り、エージェントが互いに話す必要がないだけなので、システム設定でさらに簡単な方法でそれを適用できる。
法律業界の10年後の展望
素晴らしい。Crosbyとあなたたちがどのように法律業界が展開すると見ているかについて、未来について少し尋ねることで締めくくりたい。法律業界は10年後どのようになると思うか？
味覚についてのポイントに戻ると、法律事務所の上級パートナーのレバレッジを増やすことで、ジュニアアソシエイトや並列法務の機会について少し心配になる。上級アソシエイトが彼らのレバレッジを増やすことができるエージェントの軍隊を管理しているように見えると想像できる。
個人傷害事務所にとって、それは取り込みを管理し、実際に要求書を起草し、それらをレビューする誰かを管理することかもしれない。その人の主な仕事は法廷に現れることで、他のすべてはエージェントシステムによって処理される。しかし、あなたの見解に興味がある。
2007年から2017年の10年間で、社内法務チームは200%成長し、法律事務所は30%成長した。そして、2014年から2024年にかけて、約32万から44万に再び成長した。社内チームは本当に本当に拡大している。
そして、物語は法的作業がより複雑になっており、企業ははるかに大きな社内チームが必要だというもののようだ。社内チームは法律事務所よりもはるかに少ない制約を持っている。弁護士だけでなく、並列法務、法的オペレーション、異なる種類の作業を専門とする異なるタイプがあり、彼らは本当に創造的になっており、これは非常に静かに進行している巨大な変化だ。
私の希望は、これらは法的サービスを専門とする企業ではないため、これらはただの法的機能だということで、非常に明らかなAIファーストの、より多くの専門企業を見るだろうということだ。法的サービスが提供される方法を真に変えている。私たちはこの中の小さな部分で、私が言ったことに戻る。これは黄金時代だ。
これは法的市場での真のイノベーションを見たことがないようなもので、私たちはまだ始まりにいるだけだと思う。物事は非常に異なって見えるだろうと思う。
法学部学生へのアドバイス
その未来を考えると、今日法学部にいる誰かは何をすべきか？中退すべきか？何をすべきか？
これは私たちの会社の構造に戻る。絶対にすべてを疑問視したいと思う。教授があなたに脚注の書き方を教える方法を疑問視する。それは本当に必要か？非常に多くの教義があることをすべて疑問視し、法的学術の素晴らしさを理解することでそれを微妙にバランスする。これは社会を運営させるものだ。
教授たち、スタンフォードの私の教授たちは本当に、私が今まで見つけた最高のメンターの一部であり、最も賢い人々の一部だ。だから、傲慢になるな、しかしすべてを疑問視し、時間を取ってCrosbyで見習いをする。私たちはあなたにプロンプトの仕方を教えるが、これらは本当に重要になるスキルだと思う。AIのすべての力をどう活用するかで、物事を変える余地が非常にある。
事実として受け入れられている多くのことがすべて透過的であり得るが、その中にいると見るのは困難だ。
ある会議に行った。どの会社かは言わないが、すべてが法務担当者だった。Fortune 500を想像してくれ。戻りたいので会議名は言わない。しかし、この紳士の隣に座った。彼は非常に大きな通信会社の法務担当者で、おそらく私たちの電話の一つがこの通信会社で動いている。
私は「このChatGPTやAI関連を試したことはあるか？」と言った。そして彼は「いいえ、もちろんない。私のCEOは私に言い続けているが、私は拒否する。試したくない」と言った。Ryanのポイントに対して、すべてを疑問視するが、古いやり方に固執することも同様に危険だと思う。
理にかなっている。すべてを疑問視し、すべてを試すことが、私たち皆にとって良いテーマのようだ。再び来てくれてありがとう。感謝する。
こちらこそ、呼んでくれてありがとう。本当に楽しかった。
コメント