生成AIの社内ルールを作る会社が増えています。私たちも、社員に使わせる前にルールを決めました。ところが、決めたルールのうち3つは、運用を始めてまもなくうまくいかなくなりました。
この記事では、最初に決めた内容とその根拠、うまくいかなかった点、作り直した内容を順に書きます。これからルールを作る方、作ったルールが守られずに困っている方の参考になれば幸いです。
最初に決めたルール
全面禁止は、最初から選択肢に入れませんでした。禁止しても使われることは分かっていたからです。安全に使える環境を先に用意し、そちらを使ってもらう。この前提でルールを組み立てました。
ルールは「どのサービスか」「どのデータか」「何に使うか」の3つの軸で分けました。
- *サービス。**業務で使ってよいのは、会社が契約したAIに限りました。入力した内容がAIの学習に使われない契約形態のものです。無償版や個人のアカウントに業務の情報を入れることは禁止しました。
- *データ。**4つの段階に分けました。
- ①公開されている情報：制限なし
- ②自社の内部情報：会社の環境でのみ使える
- ③クライアントから預かった情報：固有名詞を消し、「業種と規模」に置き換えたうえで、会社の環境でのみ使える
- ④共有してよい範囲が指定されている資料と、個人情報：どのAIにも入れない
- *用途。**調査、要約、下書きは自由です。社外に出す成果物は、AIが作ったまま出さず、人が確認してから出します。契約や法務の判断では、AIは補助にとどめます。
ルールの根拠
それぞれの区分には根拠があります。
サービスの区分は、利用規約を実際に読み比べて決めました。無償版では入力した内容が学習に使われることがあり、API経由の利用や法人向けの契約では使われません。この違いが、会社契約に限定した理由です。
データの区分は、クライアントと結んでいる秘密保持契約から考えました。契約には、秘密情報を第三者に提供することを禁じる条項があります。学習に使われる形でAIに入力することは、実質的に外部への提供に当たると整理しました。
④を例外なく禁止にしたのは、共有範囲の指定が匿名化では外れないからです。業界の情報共有の枠組みで受け取る資料には、TLP（Traffic Light Protocol）のように、共有してよい範囲を示す区分が付いていることがあります。社名を消しても、この指定はなくなりません。
もうひとつ意識したのは、説明できるかどうかです。金融機関のクライアントから「うちの情報をどう扱っていますか」と聞かれたときに、外部委託先の管理に使われる基準（FISC安全対策基準など）の言葉で答えられるか。そこから逆算して区分を決めました。
セキュリティを仕事にしている会社が自社のAI利用で事故を起こせば、信用を失います。ルールを厳しくしたのは、営業上の理由でもありました。
守られなかった3つの決まり
運用を始めると、次の3つがうまくいかなくなりました。
- *「匿名化すれば入れてよい」**
最初にうまくいかなくなったのがこれです。匿名化の程度が、人によって違いました。納品前のレビューで、社名は消してあるのに、案件の体制図と金額と時期がそのまま残っている入力が見つかりました。関係者が読めば、どの案件かすぐに分かる内容です。
入力した本人は、ルールを守っていました。固有名詞は消していたからです。問題は、本人の注意不足ではなく、ルールの書き方にありました。
- *「下書きは自由、納品物は確認が必要」**
用途で分けたこの決まりも、実務では機能しませんでした。下書きは、手を入れるうちにそのまま納品物になっていきます。どの時点から確認の対象になるのかを、誰も答えられなくなりました。
- *「個人のアカウントは禁止」**
この決まりは、書いた時点から、守られているかどうかが分かりませんでした。個人のスマートフォンで、検索の代わりにAIを使う。その行動は、会社から見ることも止めることもできません。守られているかを確認できない決まりは、ルールとして機能しませんでした。
作り直したルール
3つの失敗を受けて、ルールを作り直しました。
- *データごとに人が判断する方式をやめ、使う環境で決める方式にしました。**業務に関わる情報を入れてよいのは、会社が契約した環境に限ります。それ以外のAIには、公開されている情報しか入れません。一文で説明できる長さにしました。
- *匿名化の基準を一つにしました。**「残してよいのは業種と規模」という基準です。何を消すかを本人に判断させるのをやめ、残してよいものを決めました。判断の余地がなくなると、人による違いもなくなりました。
- *用途の区分は廃止しました。**代わりに、「社外に出すものは、出す前に人が確認する」という手順の決まりにしました。AIを使ったかどうかは問いません。こうすると、「どこからが納品物か」を決める必要もなくなりました。
作り直して変わったのは、違反の件数よりも、判断にかかる手間でした。「これは入れていいですか」という確認が、最初の月は週に何件も来ていました。作り直した後は、ほとんど来なくなりました。
社員の反応
ルールを出したときの反応は、想定より好意的でした。全面禁止になると思っていた社員が多く、使える範囲を示したこと自体が歓迎されました。
最初の週は、個別の確認が集中しました。「この議事録は②ですか、③ですか」といった質問がほとんどです。判断した例をFAQとしてためていき、区分の基準を具体的にしていきました。
想定よりよく守られたのは、③の匿名化です。基準を機械的にしてからは迷うことがなくなり、運用が回るようになりました。作り直してみて、ルールが守られるかどうかは、本人の意識の高さよりも判断にかかる手間に左右されると分かりました。
もうひとつ効果があったのは、理由の説明です。少人数の会社なので、「なぜこの決まりなのか」を全員に口頭で説明できました。理由を説明できる状態にしておくことは、ルールの文書を配ることよりも効果がありました。
このやり方の限界
ここまでの内容には、限界があります。
- *個人のスマートフォンでの利用は、今もなくなったとは言えません。**会社からは確認できないためです。罰則で抑えるよりも、会社の環境を使いやすくして、そちらを選んでもらうことに力を入れています。それでも、確認できない以上、問題がないと保証することはできません。
- *少人数だからできたことがあります。**全員に口頭で理由を説明するやり方は、人数が増えれば通用しません。規模の大きい会社では、文書と研修に加えて、質問を受ける窓口が必要になります。
- *AIを使えない業務が残ります。**共有範囲が指定された資料は、匿名化しても入れられません。こうした資料を扱う仕事では、AIを使えないままです。
- *費用がかかります。**入力が学習に使われない契約の環境を、使う人全員に用意することが前提です。
- *確かめたのは確認の件数です。**変化として挙げたのは、社員からの確認が減ったことです。情報の持ち出しがなくなったことを確かめたわけではありません。
これからルールを作る方へ
私たちの経験から、ルールを作るときに確認しておくとよい点を3つ挙げます。
- 守られているかを確認できるか。確認する方法がない決まりは、守られているかどうかが分からないまま残ります。確認できないなら、守りやすい環境を用意するほうに力を使う
- 判断を本人に任せていないか。「適切に匿名化する」のような書き方は、人によって結果が変わります。任せるなら、残してよいものを具体的に決める
- 理由を短く説明できるか。なぜその決まりなのかを一文で言えないルールは、現場で応用が利きません
順番としては、まず会社で契約した環境を用意します。次に「業務の情報は会社の環境にだけ入れる」と決めます。そのうえで、社外に出すものは人が確認する手順を加えます。この3つから始めて、質問が来たら判断の例をためていくやり方をお勧めします。
会社が把握していないAI利用の全体像はシャドーAIとはで、AIに社内の文書を読ませるときの権限の考え方はRAGとはで解説しています。AIに操作まで任せる場合に決めておくことはAIエージェントとはをご覧ください。
