AIは勝手に架空話を作る

Pacific Dreams, Inc.
President & CEO
Ken Sakai（酒井 謙吉）

私の会社が所在するオレゴン州で最近地元で話題になった訴訟ケースがありましたので、今回のコラムでご紹介させていただきます。その訴訟というのは、AIの犯した誤用にまつわる訴訟で、訴訟自体はオレゴン州南部にある小さな家族経営のワイナリーで起こされた、ごくありふれた家族間紛争ものでした。Valley View Winery という1972年創業の老舗ワイナリーは、創業者が事故で亡くなった後、創業者の妻と二人の兄弟によって経営が引き継がれていました。ワイナリーの土地や設備の所有者は創業者の妻にありましたが、彼女が高齢になったため、それらの所有も契約書を作って二人の息子に相続するよう手続きをしたところ、直接ワイナリービジネスには何もかかわっていない長女のJoanneが兄弟が母を騙して不当な契約書を結ばせたとして訴訟となりました。

お互いが対立する中で、双方とも当然ながら弁護士を使って、法廷を舞台に争うことになったのですが、Joanneが使った知り合いの弁護士が厄介な事態を引き起こす羽目となりました。厄介な事態とは、裁判所に提出した書類の中に世に実在しない偽りの判例や実在する判例であっても誤引用による不適切かつ不法な訴えなどが複数含まれていることが見つかり、裁判官の怒りを買う羽目となりました。結局裁判所はJoanne側の訴えをすべて棄却し、相手側の弁護士費用等も含む早計11万㌦（約1,700万円）というこの手の裁判では異例ともいえる高額な制裁金をJoanneおよびJoanneの雇った弁護士に科したのです。

そもそも実在もしない判例の使用や不法な訴えは、何とJoanne側の弁護士がAIを使って作り出した提出文書中に紛れ込んでおり、それらAI創作の文書を弁護士は何のチェックも入れず、裁判所に右から左で提出したというところが由々しき問題の発端となっています。弁護士たる専門職の人間が、こともあろうにAI創作の文書をそのまま裁判所に出すこと自体、ちょっと信じられないのですが、どうもその伏線を見てみますと、Joanneの娘と婚約関係にあった相手側の父親である弁護士に本件の弁護依頼を出し、しかも成功報酬でよいとして当初無償での訴訟手続きに入ったという状況だったかららしいのです。無償サービスなのだからでしょうか、最初からすべてAIを使って創作して、そのまま裁判所に出したということで、その結果としてとんでもなく高値のペナルティを科せられたのでは、身もフタもあったものではありません。

このようにAIが架空の訴訟事例（判例）を作り出し、あたかも過去にそのような訴訟が実際にあったかのような架空話をいとも実在するように創作してしまうのは、まさにAIの引き起こす幻覚や幻想、つまりハルシネーションだと申し上げられます。実際アメリカでは、この手のAIを使っての訴訟騒ぎが昨年あたりからうなぎ上りになっており、不適切なAIの誤用から起こる法廷での疑義は後を絶たないということです。ちなみにアメリカで訴訟は弁護士を介してでなければ出来ないということはなく、誰でも弁護士を使わなくても裁判所に訴えを出すことはできます。高額な弁護士費用を払うのを避けるためにAIを使って裁判所に提出する文書を作成するのは、いまやいとも簡単な時代になりました。その意味では訴訟をはじめとする司法にかかる手続き上のハードルは間違いなく下がっていると考えられます。

今後ともAIを使って訴訟文書を作るというのは、ますます一般化することは論を待ちません。ですが、このオレゴンのワイナリーで起こった訴訟を引き合いに出すまでもなく、仮に誰にも悪意がなかったにしても、AIは勝手に架空のストーリーを作り出してしまうことがあることを肝に銘じておかなければなりません。そこで、これら架空話を見抜くプロの専門家の支援がどうしても必要だということになります。時間がかかるから、お金が惜しいからという理由で、それら確認や検証の手間を省くことはあとからとんでもないしっぺ返しを食らうことになりかねません。また、それらAIの架空話を見抜くことも、AIの進化と共にますます難易度は上がっているのも現実です。ひょっとしたら、AIを使わずに最初から弁護士の頼んで訴訟文書を作成した方が時間も費用もかからないで済むかもしれません。

弊社は弁護士事務所ではありませんが、社内外で必要とされる様々な文書やポリシー、レターなどの作成の依頼を日系クライアント企業様から日頃よりお受けしています。またすでに作成済み（恐らくはAIを使って社内で作成された）文書のレビューを頼まれることも最近では増えてまいりました。とにかく、今回強調させていただきたいのは、くれぐれもAIまかせにした文書作成をそのまま社内で野放し状態にせず、どなたか信頼できる専門家、あるいは外部の第三者機関を通じて必ずチェックや検証を入れることを徹底していただきたいということです。さもなければ、巡り巡って痛い高値の代償を後日支払わなければならないのは結局、会社自身だということになりかねない、いまやご時世だということです。

記事の無断転載を禁じます。

———————————————

Pacific Dreams, Inc. は日系企業様のためのHR（人事労務管理）サービスを提供しているコンサルティング会社です。コンサルティングは日本語ならびに英語でご提供しています。全米に100社以上の日系クライアント企業様がおります。コンサルタントとあわせて、従業員採用時のバックグランドチェックやドラッグテスト、また地域、業種、ポジション別での給与調査サービスもご提供しています。ハンドブックやジョブディスクリプション、各種人事レターの作成も行います。各州の法律に準拠したセクハラ防止トレーニング、管理職向けのマネジメントトレーニングをオンラインで毎月実施しています。初回60分までの無料オンライン面談を受け付けておりますので、私のメールアドレス（kenfsakai@pacificdreams.org）までご一報くださいましたら幸甚です。

Ken Sakai（酒井 謙吉）
President & CEO
Pacific Dreams, Inc.
Office: 503-783-1390   Cell: 503-910-3506
kenfsakai@pacificdreams.org
https://pacificdreams.org/
8532 SW Saint Helens Drive, Suite 220, Wilsonville, OR 97070 USA