生成AIの情報漏洩対策｜中小企業が安全に使う注意点
生成AIを業務に使ううえで、まず効くのは次の3つです。①顧客情報・個人情報・未公開の機密は入力しない、②会社として使うサービスとプランを1つに決める、③個人向け無料版ではなく学習に使わない法人プランか、学習をオフにする設定を使う。この3つを押さえるだけで、情報漏洩リスクの大半は下げられます。
逆に、何も決めずに各自が個人アカウントで使い始めると、会社が把握できないところで情報が外に出ていきます。以下では、なぜ漏洩が起きるのか、入れてよい情報とダメな情報、学習利用の考え方、現実的な対策を順に整理します。
※サービスごとにデータの扱いは異なり、仕様も更新されます。重要な判断は各サービスの最新の利用規約・データの取り扱いをご確認のうえ、必要に応じて専門家にご相談ください。
どんな情報漏洩が起きるのか
生成AIで起きる漏洩は、いくつかの典型パターンに分けられます。
- 入力した機密が学習・出力に使われる懸念：サービスやプランによっては、入力内容がモデルの改善(学習)に利用される場合があります。学習に使われると、入力した情報が将来のモデルに残り、まれに他人への回答に断片的に表れる可能性も理屈のうえでは否定できません。
- アカウントの乗っ取り：パスワードの使い回しや多要素認証なしの運用で、アカウントが第三者に奪われると、会話履歴ごと中身を見られます。
- 誤って共有してしまう：チャットの共有リンクを社外に渡す、画面共有で履歴が映る、共有アカウントを複数人で使うなど、操作ミス由来の漏洩も実際に起きています。
- 従業員のシャドーIT(シャドーAI)：社員が会社に無断で個人アカウントの生成AIに業務情報を入れてしまうケース。悪気がなくても、会社のあずかり知らぬところで情報が外部に渡ります。
つまり、「入れた情報がどこへ行き、どう保存され、どう使われるか」を理解しないまま使うことが、リスクの根本です。下の表で主なリスクを整理します。
| リスク | 内容 |
|---|---|
| 学習への利用 | 入力が学習に使われ、情報が残る・出力に出るおそれ |
| 履歴の保存 | 会話履歴が残り、アカウント管理が甘いと第三者に見られる |
| シャドーAI | 無断利用で会社が把握・管理できない |
| 誤った共有 | 共有リンク・共有アカウント・画面共有からの流出 |
| 出力の誤り | 誤情報(ハルシネーション)をそのまま使いトラブルに |
| 著作権・権利 | 生成物が他者の権利を侵害する可能性 |
なお、個人情報保護委員会も生成AIサービスの利用について注意喚起を出しています。顧客情報や従業員情報を扱う場合は、個人情報保護法の観点でも整理が必要です。
学習利用の考え方(無料版と法人版の違い)
「入力が学習に使われるか」は、サービスとプランによって大きく異なります。一般的な傾向として、次のように整理できます。
- 個人向けの無料・有料プラン：入力内容がモデルの改善に使われる場合があります。多くは設定で学習をオフ(オプトアウト)にできますが、初期設定では学習に使われる扱いのサービスもあります。
- 法人向けプラン・API：入力を学習に使わないとしているサービスが一般的です。あわせて、管理機能やデータ保存先の制御、ログ取得などのセキュリティ機能が強化されていることが多いです。
代表的なサービスの公式情報を見ても、考え方の違いがわかります。
- ChatGPT(OpenAI)：個人向けの利用では入力が学習に使われる場合があり、設定の「データコントロール」から学習をオフにできます。一方、Business・Enterprise・Team・APIでは、初期設定で入力を学習に使わないとされています。
- Claude(Anthropic)：個人向けは、利用者が許可しない限り会話を学習に使わない(オプトイン)とされています。商用・APIの利用は別途の規約で扱われます。
- Gemini(Google)：個人向けでは会話の一部が品質改善のため人によるレビューや学習に使われる場合があり、アクティビティの設定でオフにできます。仕事・学校のアカウント(Workspace)では別のデータ取り扱いが適用されます。
- Microsoft 365 Copilot：プロンプトや応答、参照したデータは基盤モデルの学習には使わないとされ、組織のデータ保護の枠組みのなかで扱われます。
ただし、これらの仕様は変わります。プラン名や設定の場所、学習の扱いは更新されるため、導入前と運用中の双方で、必ず各社の公式ヘルプ・利用規約で最新を確認してください。どのサービスを選ぶか迷う場合は、生成AI比較もあわせて参考にしてください。
入れてはいけない情報
学習設定で守れる範囲には限界があります。設定や規約に頼り切らず、そもそも入れない情報を社内で明確に線引きしておくことが、最も確実な対策です。
入れてよい(一般的に低リスク)
- 公開情報、一般的な質問、文章のたたき台づくり
- 個人や企業が特定されない形に加工・抽象化した情報
- すでに公表済みの自社情報
入れてはいけない(原則NG)
- 顧客の個人情報・取引先情報(氏名・連絡先・取引内容など)
- 未公開の経営情報・技術情報・契約内容・見積もり
- 従業員の個人情報・人事評価・健康情報
- パスワード・認証情報・APIキー
- 秘密保持契約(NDA)で守秘義務を負っている情報
特に、NDAで受け取った情報や顧客の個人情報を入力すると、秘密保持義務や個人情報保護法に抵触するおそれがあります。迷ったら入れない。これが基本原則です。判断に迷う情報が多い業務では、入力前に上長へ確認する手順を決めておくと安全です。
安全に使うための対策
リスクを下げる対策は、「ツール・設定」と「ルール・運用」の両面で組み合わせます。
法人向けプラン・設定を使う
- 法人向け・ビジネスプラン：データを学習に使わず、管理機能やセキュリティが強化されたプランを選ぶ
- 学習オプトアウト：個人向けを使う場合は、入力を学習に使わない設定にする
- 会社管理のアカウント：会社が管理するアカウントで利用し、個人アカウントの業務利用を避ける
社内ルールと運用で固める
- ルールを作る：入力してよい情報、使ってよいツール、確認の手順を明文化する(社内のAI活用ルールの作り方)
- 教育する：なぜ危険か、何がNGかを社員に周知する。一度で終わらせず、定期的に繰り返す
- ツールを指定する：会社として使うサービス・プランを決め、それ以外の業務利用は控える
- 承認された範囲で使う：扱ってよい情報・用途を決め、その範囲内で運用する
- ログ・出力を確認する：利用状況を把握できるようにし、AIの回答は人がチェックしてから使う
- 基本のセキュリティも固める：アカウント管理・多要素認証・パスワードの使い回し防止など(情報セキュリティ対策の基本)
シャドーAIへの対策
最も見落とされがちなのがシャドーAI(会社が把握しないまま、社員が個人的に生成AIを業務利用すること)です。対策は「禁止」だけでは不十分で、隠れて使う人が出るだけです。
- 使ってよいツールを会社が指定する(野放しにしない)
- ルールを明文化し、周知する(禁止だけでなく「これは使ってOK」も示す)
- 使いやすい正規の手段を用意する(便利な選択肢があれば、わざわざ無断利用しなくて済む)
安全な使い方を用意したうえでルール化するのが現実的です。
新しいリスクにも目を向ける
生成AIには、従来とは異なるリスクもあります。代表例がプロンプトインジェクションです。これは、外部のWebページや読み込ませた文書に悪意ある指示を仕込み、AIに本来の制約を破らせたり、機密を引き出させたりしようとする攻撃です。AIに自動でメールやファイルを処理させる、外部サイトを読ませるといった使い方をするほど、こうしたリスクは高まります。自動化を広げる際は、出力を人が確認する工程を残し、重要な操作を無条件にAIへ任せないことが大切です。
導入時のチェックポイント
新しい生成AIサービスを業務に入れる前に、最低限これだけは確認しましょう。
- 利用規約・データの取り扱い：入力が学習に使われるか、オプトアウトできるか
- データの保存先と保存期間：どこに、いつまで保存されるか
- 第三者提供の有無：入力データが外部に渡る可能性はないか
- データの所在国・準拠法：海外のサーバーで処理される場合、どの国の法律が適用されるか
- 管理機能：会社で利用状況を把握・制御できるか、ログは残るか
- 個人情報の扱い：顧客や従業員の個人情報を入れる業務なら、利用目的・第三者提供の整理ができているか
これらは各社の公式ページで確認でき、内容は更新されます。導入時に一度確認して終わりにせず、定期的に見直すことをおすすめします。
まとめ
生成AIの情報漏洩対策は、**「入れた情報がどう扱われるかを理解し、機密は入れない・正規のツールとプランを使う・ルールを周知する」**ことが基本です。学習利用の設定や仕様は各社で異なり、頻繁に更新されるため、断定せず公式で最新を確認する姿勢が欠かせません。
過度に恐れて使わないのも機会損失ですが、無防備に使うのは危険です。正しく恐れて、安全に使いこなすこと。これからの中小企業に求められるのは、まさにこのバランスです。生成AIを業務に取り入れる全体像は、中小企業のAI活用ガイドもあわせてご覧ください。
「自社で生成AIを安全に活用する仕組み・ルールづくり」を相談したい場合は、業務に即して一緒に設計できます。お気軽にご相談ください。
よくある質問
Q. 生成AIに会社の情報を入力すると、漏れてしまいますか? プランや設定によります。一部のサービスでは入力が学習に使われる場合があり、その場合は情報が残るおそれがあります。学習に使わない法人プランやオプトアウト設定でリスクは下げられますが、顧客情報や未公開の機密は原則入力しないのが最も安全です。最新の扱いは公式でご確認ください。
Q. 無料版を業務で使うのは危険ですか? 無料版が即危険ではありませんが、データの扱いは法人プランより制約が緩いことがあります。個人向けでは入力が学習に使われる場合があり、法人向けやAPIでは学習に使わないとするサービスが一般的です。日常的に、機密を扱う可能性があるなら法人プランが安心です。
Q. 入力した情報が、他人への回答に出てくることはありますか? 学習に使われる設定で入力した場合、理屈のうえでは将来のモデルに反映される可能性は否定できません。多くの法人プランやAPIは学習に使わないとしており、その範囲では起こりにくいとされています。最も確実なのは、機密や個人情報を入力しないことです。
Q. 個人情報を生成AIに入れるのは法律違反になりますか? 状況によります。個人情報保護委員会も生成AIの利用について注意喚起を出しており、本人の同意なく要配慮個人情報を扱う、目的外で利用する場面は問題になり得ます。顧客・従業員の情報を入れる場合は利用目的や第三者提供の整理が必要です。
Q. 何から始めればよいですか? ①入力してよい情報・ダメな情報のルールを決める、②使ってよいツールを会社で指定する、③学習に使わない設定や法人プランを使う、の3つが第一歩です。シャドーAIを防ぐため、明確なルールと周知が重要です。
関連記事
よくある質問
生成AIに会社の情報を入力すると、漏れてしまう?
プランや設定によります。一部のサービスでは入力内容がモデルの改善(学習)に使われる場合があり、その場合は情報が思わぬ形で残るおそれがあります。多くのサービスには入力を学習に使わない設定(オプトアウト)や法人向けプランがあり、これらを使うとリスクを大きく下げられます。各社で扱いは異なり仕様も変わるため、最新は公式の利用規約・データの取り扱いで確認してください。顧客情報や未公開の機密情報は原則入力しないのが最も安全です。
無料版を業務で使うのは危険?
無料版が即危険というわけではありませんが、データの扱い(学習に使われるか等)は法人向けプランより制約が緩いことがあります。たとえば個人向けのプランでは入力が学習に使われる場合があり、法人向けやAPIでは学習に使わないとするサービスが一般的です。業務で日常的に使う、機密性のある情報を扱う可能性がある場合は、学習に使わない法人向けプランが安心です。
生成AIのセキュリティ対策、何から始めればいい?
①入力してよい情報・ダメな情報のルールを決める、②使ってよいツール(サービス)を会社で指定する、③学習に使わない設定や法人プランを利用する、の3つが第一歩です。社員が会社に無断で個人アカウントの生成AIに業務情報を入れるシャドーAIを防ぐため、明確なルールと周知が重要です。
入力した情報が、他人への回答に出てくることはある?
学習に使われる設定・プランで入力した場合、理屈のうえでは将来のモデルに反映される可能性は否定できません。ただし多くの法人向けプランやAPIは学習に使わないとしており、その範囲では起こりにくいとされています。最も確実なのは、機密や個人情報をそもそも入力しないことです。
個人情報を生成AIに入れるのは法律違反になる?
状況によります。個人情報保護委員会も生成AIの利用について注意喚起を出しており、本人の同意なく要配慮個人情報を扱う、目的外で利用するといった場面は問題になり得ます。顧客情報や従業員情報を入れる場合は、利用目的や第三者提供の整理が必要です。詳しくは個人情報保護法の解説もあわせてご確認ください。
