「法律を生成AIに相談してみた...」の落とし穴　三つの注意点を考える

AIに契約書を作らせる場合の危うさの裏返しとも言える場面、AIに法律を「調べさせる」「相談する」ときの落とし穴を取り上げます。

関連記事：「AIで契約書を作成」は大丈夫？　三つの「落とし穴」に注意を

潜む危うさの3種類とは？

「先生、この件、ChatGPTに聞いたら○○と書いてあったんですが...」。こうしたご相談を受けることが増えてきました。

契約書の作成だけでなく、日々の判断の場面でAIに法律を尋ねる方が急速に増えているのです。

しかし、AIに法律相談することには、独特の危うさがあります。

情報が古い可能性がある

AIが学習した時点で情報が止まっているため、その後の法改正や新しい判例が反映されていないことがあります。ここ数年だけを見ても、中小企業に関わる法律は次々と改まっています。

AIが「かつての常識」を「今の答え」として返してくる、という事態が現に起こっています。

一般論しか返せない

法律の質問には必ず「前提」があります。

当事者は個人か法人か、業種は何か、契約書はあるか、金額はいくらか...。同じ「解約したい」という相談でも、賃貸借契約と業務委託契約では、答えが全く違います。

AIは、質問者が言わなかった前提を、勝手に補って答えます。その補い方がずれると、答えも大きくずれてしまうのです。

誤った答えを見分けにくい

AIの回答は流暢で、いかにも自信ありげに書かれています。しかし、その中身が本当に正しいかどうかを法律の素人が判定するのは、容易ではありません。

「民法○条によれば~」と書かれていても、その条文を引いて一つひとつ確認するのは大変な作業です。

AIは、法律を「調べる出発点」としては便利な道具です。しかし「結論」を出す道具として使うと危ういのです。

AIで下調べをしたうえで、最終的な判断は専門家に確認する。この二段構えを、ぜひ心がけていただきたいと思います。

関連記事：「ChatGPTに顧客名簿を‥」生成AIと情報漏えいリスク