生成AIは危ないから、業務では使わないでおこう。そういう判断を聞く機会が増えました。気持ちは分かります。ただ、私はその一歩手前で立ち止まることが多いです。全部禁止にするのも、逆に野放しにするのも、どちらも落ち着かない。私が現実的だなと思っているのは、その間にある「安全に使える範囲を先に決めておく」というやり方です。生成AIは魔法ではなく、性質のある道具なので、その性質に合わせて置き場所を決めれば、安心して日々の業務に載せられるように感じています。
「危ないから禁止」の前に、道具の性質を見ておく
禁止という判断は、たいてい漠然とした不安から来ています。情報が漏れそう、間違ったことを言いそう、勝手に何か起こしそう。この不安を分解していくと、実は生成AIという道具の性質に行き着くことが多いです。
私が普段意識しているのは、大きく三つです。一つ目は、生成AIは事実を保証しないということ。もっともらしい文章を作るのは得意ですが、その中身が正しいかどうかは別の話です。それらしい嘘、いわゆるハルシネーションが混じることがあります。このあたりの仕組みはAIがもっともらしい嘘をつく理由のほうで少し詳しく書きました。
二つ目は、渡した前提で答えが変わるということ。同じ質問でも、手前でどんな情報や条件を渡したかで出力はけっこう変わります。三つ目は、入れた情報の扱いに気を配る必要があるということ。何を入力するかは、そのまま情報の線引きの話につながります。
この三つは、欠陥というより、そういう性質の道具だ、という話だと私は思っています。刃物が切れるのと同じで、性質が分かっていれば、危ないから触らない、にはならないんですよね。
禁止でも野放しでもなく、範囲を決める
では何を決めておくと安心して使えるのか。私が研修や相談の場で一緒に整理しているのは、だいたい次のあたりです。難しい仕組みの話ではなく、業務の側で決めておく約束事に近いものです。
- 情報の線引き。何を入れていいか、何を入れてはいけないかを先に決めておく。顧客の個人情報や、外に出せない社内情報は入れない、といった線です。ここが決まっていないと、便利さのほうに引っ張られて、なんとなく入れてしまいがちです。入れた情報がどう扱われるかはAIに入れたデータはどう扱われるのかのほうにまとめてあります。
- 権限の範囲。AIに何をどこまでやらせるか。文章の下書きまでなのか、社内システムに触れるところまでなのか。踏み込ませる範囲が広いほど、確認は丁寧にしたいところです。
- 確認の一手間。出てきたものをそのまま使わず、人が一度目を通す。事実を保証しない道具なので、この一手間を業務の手順として組み込んでおくと、間違いがそのまま外に出ることを減らせます。
- 記録を残す。誰が、どういう使い方をしたか。ログのような形で残しておくと、あとで振り返れますし、うまくいった使い方を横に広げるときにも役立ちます。
- 外部データの扱い。AIに外の情報を拾ってこさせる使い方をするなら、その情報が信頼できるものか、という視点を一つ足しておく。
全部を一気に固める必要はないと思います。ただ、この線引きが決まっていないまま各自が判断で使い始めると、いわゆるシャドーAIのように、会社が把握していない使い方が現場に増えていきます。このあたりの困りごとは会社が知らないところでAIが使われる問題でも触れました。範囲を先に決めておくと、禁止しなくても、この状態は避けやすくなります。
もし、自分たちの業務のどこまでなら安心して載せられるのか、その線引きを一緒に描いてみたいという会社さんがいれば、AI・IT研修という形でそのあたりを扱っています。使い方を覚えるより先に、自分たちの安全な範囲を決めるところから始める、という中身です。
性質が分かると、恐れずに置けるようになる
私自身、これらの性質を分かった上で、生成AIを毎日使っています。文章の下書きを作らせたり、調べものの取っかかりにしたり、コードを書かせたり。ただ、事実の裏取りは自分でしますし、外に出せない情報は入れません。線引きが自分の中にあるので、便利さのほうに流されずに使えている感覚があります。
面白いのは、性質が分かってくると、むしろ恐れが減っていくことです。何が起こり得るかが見えていると、じゃあここまでは大丈夫、ここからは気をつける、と置き場所が決まる。逆に、正体がよく分からないまま「なんかすごくて、なんか危ない」という印象だけが先にあると、全部禁止か全部解禁かの両極に振れやすい気がします。
このあたりは道具全般に言えることかもしれません。最初に触るときは怖い。でも、性質と扱い方が分かってくると、怖さは注意深さに変わっていく。生成AIも、私の中ではそういう位置づけです。
ここでつまずきやすいのは、線引きを一度決めたら終わり、と思ってしまうことかなと思います。使い方は現場で変わっていきますし、道具の性質も更新されていきます。決めた範囲を、ときどき見直す。禁止という一回きりの判断より、この見直しを続けられる形のほうが、結局は長く安心して使えるのではないかなと感じています。
生成AIを業務で使うとき、あなたの会社では、危ないから禁止と、どこまでなら安心して使えるかを決める。どちらから考えているでしょうか？
