AIを仕事に入れたい。けれど、勝手にメールを送られたら困る。請求の金額を間違えられても困る。そう考えて手前で止まっている社長さんは多いはずです。私はその感覚を、慎重すぎるとは思いません。むしろ正しい入口だと考えています。
私は自分の会社で、12役割のAI社員に仕事を任せています。定義まで終わっているものを数えると28役割あります。そこで分かったのは、AI自動化のリスクは性能ではなく任せ方で決まる、ということでした。
本当に怖いのは、成果が出ないことではなく事故
AIを導入するとき、多くの方は「使いこなせるだろうか」を心配します。ただ、事業に効いてくる問題はそこではありません。怖いのは事故のほうです。
事故は大きく三つに分かれます。確認していない内容がそのまま外に出る誤送信。指示の範囲を超えて処理が進み続ける暴走。そして請求や支払いの金額違い。どれも社内の失敗では終わりません。取引先との信用に直接ぶつかります。
裏を返せば、この三つが起きない形にしておけば、使える範囲はかなり広げられます。ですから私は導入の初日に、できることを増やす話ではなく、任せないことを決める話から始めています。
人が握る三つの領域を、最初に決める
顧問先でも自社でも、私が必ず引く線は同じです。
| 領域 | AIがやること | 人がやること |
|---|---|---|
| お金 | 請求書や見積の作成、金額の点検 | 発行と送付のボタンを押す |
| 外に出る送信 | メールや投稿の下書き、返信案の用意 | 中身を読んでから送る |
| 削除 | 消してよい候補を挙げて理由を示す | 実際に消す操作をする |
AIは一歩手前まで進めます。最後のひと押しだけ人が持つ。この形なら、間違いが起きても事故にはなりません。
しかも、手前まで任せる効果は小さくないのです。私の会社では未請求アラートが請求漏れ64,000円を見つけました。計算ミスを指摘したところ、AIが総点検して似た穴を4つ見つけたこともあります。経理7ヶ月分・仕訳172本を一緒に記帳し切ったのも、この線を守ったままでした。人が確認する前提だからこそ、任せる量を増やせます。
新入社員に渡すルールと同じだと考える
この線引きは、特別な考え方ではありません。入社したばかりの社員に、いきなり銀行振込の権限を渡す会社はないはずです。メールも、最初は上長が目を通してから送ってもらう。削除の操作は、慣れるまで任せない。それと同じ扱いをAIにも当てはめるだけです。
社内で説明するときも、この言い方が一番早く伝わります。「AIだから危ない」ではなく「新人だから確認する」。この整理にすると、現場の抵抗も小さくなります。詳しい役割の分け方はAI社員のページにまとめました。
見落としが表に出るのは、任せた直後ではない
もう一つ、線を引く理由があります。事故は起きた瞬間ではなく、しばらく経ってから表面化するからです。
自社の受信箱を点検したとき、10日間だれにも気づかれないまま埋もれていた依頼が見つかりました。その日の受信は25通で、人が書いたものは1通だけ。残りは通知や自動配信です。人の手紙は、機械の声にあっさり埋もれます。だからこそ、拾い上げと下書きまでをAIに任せ、返信を出す判断は人が持つ。この形にしてから、見落としの怖さはかなり減りました。
入れない仕組みを決めることも、安全設計のうち
意外と語られないのが、何を導入しないかの判断です。
世の中には便利な自動化の基盤がいくつもあります。ただ、その中には乗っ取りの脆弱性が報告されているものも混じっています。外部から不正な指示を差し込まれ、想定しない動作をさせられる種類のものです。私はそうした報告が出ている基盤を、顧問先の環境には入れない判断をしています。
便利さと引き換えに、会社のデータが通る経路を増やすのは割に合いません。ここは流行を追わず、落ち着いてから採用します。判断が変わったときは、毎月のAI顧問の中で共有し、環境ごと見直します。
入力してはいけない情報の線引きを決めておく
情報漏えいへの対策も、難しく考える必要はありません。入れてよいものと、入れないものを先に決めておくだけです。
- 入れない：顧客の個人情報、取引先から預かった未公開の資料、パスワードやカード番号
- 伏せて入れる：社名や個人名は記号に置き換え、内容だけを相談する
- 環境で守る：業務で使う契約形態は、入力内容の扱いを確認してから選ぶ
迷ったときの基準は一つで足ります。「これが外に出たら困るか」。困るなら入れない。この一言を社内の共通ルールにしておくと、判断が人によってぶれません。この線引きは、現場で使う人がそろって理解していないと守れないので、社内AI研修でも最初に扱います。
まとめ
AI自動化のリスクは、使う前に決めておく三つの線でほとんど防げます。お金は発行の一歩手前まで。外に出る送信は下書きまで。削除は提案までで実行しない。加えて、危ない経路の仕組みは入れない。入力してよい情報の範囲を先に決める。これだけで、事故の芽は相当減ります。
とはいえ、自社の業務のどこまで任せてよいかは、現場を見ないと決められません。ニブンノニでは無料のAI業務診断をオンラインで行っています。今の業務をうかがって、その場でAI化できる仕事と、人が握るべき部分をお伝えします。福岡を中心に全国オンラインで対応していますので、線の引き方だけ持ち帰っていただいても構いません。ご相談はこちらからどうぞ。