著者：野原琉海（業務効率化に特化したエンジニア）
AIを業務に使う会社が増えている。ChatGPTにメールの下書きを作らせたり、会議の議事録を要約させたり、契約書を読ませたりと、使い方は着実に広がっている。
業務効率化に特化したエンジニアとして、複数の中小企業でAI活用を支援している僕のところにも、毎月「うちもAIを使いたい」という相談が届く。相談してきた経営者の方は、ほぼ共通した流れで動く。最初に無料のChatGPTを試して、そのまま社内業務に使い始める。
問題は、この「そのまま使い始める」の中にセキュリティ上のリスクが潜んでいることだ。
AIは便利だ。使わないよりは使った方がいい。でも「何を入れても大丈夫」という認識のまま使っていると、取り返しのつかない情報漏洩につながる可能性がある。この記事では、AIを業務で使う時のセキュリティの注意点を、実際に起きた事例と中小企業が今日からできる具体的な対策とともに整理する。
なぜAIに入力した情報がリスクになるのか
まず仕組みを理解してほしい。
無料版のChatGPTは、デフォルトの設定でユーザーが入力したテキストをAIのモデル改善（学習）に利用する設定になっている。これはOpenAIの利用規約に明記されており、利用規約を読まないまま使っている人がほとんどだ。
「入力した文章がそのまま他のユーザーに見える」わけではない。ただし入力したデータが学習データとして取り込まれることで、似たような文脈の質問に対して類似した回答が生成されやすくなる仕組みだ。どのデータがどのように学習に影響しているかは外部から追跡できない。
さらに2023年3月、OpenAIのシステムバグにより、一部のChatGPT Plusユーザーのチャット履歴タイトルが別のユーザーの画面に表示されてしまう事故が発生した。OpenAIはその後バグを修正したが、この事故は「AIサービスも通常のWebサービスと同様に、ソフトウェアの欠陥による情報漏洩リスクがある」ことを示している。
中小企業で実際によく見かけるのは、こういったケースだ。
- 取引先とのメール本文をそのままChatGPTに貼り付けて「返信を作って」と指示する
- 社内の月次売上データを貼り付けて「傾向を教えて」と頼む
- 顧客名と金額が入った見積書のテキストを貼り付けて添削させる
- 会議で出た人事異動の話を含む議事録を要約させる
本人は「ちょっとした作業」のつもりでやっている。でも実態は、会社の機密情報を外部サービスに送る行為そのものだ。
実際に起きた情報漏洩の事例
Samsungの事例（2023年4月）
韓国のSamsung（サムスン）で、2023年4月に社内で3件の情報漏洩事案が続けて起きた。
1件目は、半導体設備の不具合を調べていた担当者が機密性の高いソースコードをChatGPTに貼り付けてデバッグを依頼した事案。2件目は、社内会議の録音内容を書き起こしたテキストをChatGPTに入力して議事録を作成させた事案。3件目は、社内プレゼンテーション資料をChatGPTに貼り付けて内容を要約させた事案だ。
これらはいずれも機密情報の外部流出にあたるとして、Samsungは同年4月に全社でChatGPTの業務利用を禁止した。
この事例が示す怖さは、「IT部門の人間でも同じミスをした」という点だ。セキュリティ意識が高いはずの技術者が、便利さのあまり機密情報を外部サービスに送ってしまった。専任のIT担当者がいない中小企業では、同じことがもっと無意識に、もっと頻繁に起きている可能性がある。
Amazon・JPモルガンの使用制限
AmazonとJPモルガンも、社員が機密情報をChatGPTに入力するリスクを懸念して業務での利用を制限した。Amazonの場合、内部で「ChatGPTに入力したデータがAmazon自身の情報と類似した内容として学習データに取り込まれる可能性がある」という懸念が共有されたと報道されている。
大企業が利用制限をかけるほどリスクを重視している現実は、中小企業も同様に受け取るべきだ。
イタリアのChatGPT一時禁止（2023年3月〜4月）
イタリアのデータ保護当局（Garante）は2023年3月31日、個人データ保護の観点からChatGPTの国内利用を一時禁止した。理由は「GDPR（EU一般データ保護規則）に基づく適切なデータ保護措置が取られていない可能性がある」というものだった。その後OpenAIが対策を講じたことで、同年4月末に制限は解除されている。
日本でも個人情報保護委員会がOpenAIに対し、個人情報の取り扱いに関する確認を行っている。「日本には厳しい規制がないから大丈夫」という認識は正確ではない。
AIサービス別：入力データの扱いの違い
全てのAIサービスが同じポリシーではない。セキュリティの扱いはサービスとプランによって大きく異なる。
| サービス・プラン | 学習に使われるか | 業務利用への適合性 |
|---|---|---|
| ChatGPT 無料版 | デフォルトで使われる（設定でオフ可） | 機密情報は入力しない条件でのみ可 |
| ChatGPT Plus（月3,000円） | デフォルトで使われる（設定でオフ可） | 同上。有料でも安全とは言えない |
| ChatGPT Team（月3,700円/ユーザー） | 使われない | 業務利用に推奨 |
| ChatGPT Enterprise（要見積もり） | 使われない | 大規模利用に推奨 |
| ChatGPT API経由 | 使われない（デフォルト） | 開発者向け。最も安全 |
| Claude（API版） | 使われない（デフォルト） | 業務利用に推奨 |
| Claude.ai 無料版 | 学習に使われる場合がある | 機密情報は入力しない |
| Google Gemini 無料版 | 使われる場合がある | 機密情報は入力しない |
| Google Workspace版 Gemini | 使われない | Workspace契約が前提 |
この表を見て気づくべき点が2つある。
1つ目は「有料プランなら安全」ではないこと。ChatGPT Plusは月3,000円の有料プランだが、無料版と同様にデフォルトで学習に使われる設定になっている。設定画面から「チャット履歴とトレーニング」をオフにすることはできるが、社員全員が必ず設定変更するとは限らない。
2つ目は「プランを選べばリスクを下げられる」こと。ChatGPT Teamに切り替えるだけで、入力データが学習に使われない保証が得られる。
僕自身は、業務でAIを使う時はChatGPT API経由またはClaudeのAPI版を使っている。顧問先との機密情報は絶対に学習データに使わせたくないので、無料版やPlusには機密に関わる内容を入力しない。この使い分けを個人で徹底するのは技術的に可能だが、社員全員に求めるのは現実的ではない。だから「プランで解決する」方が組織として確実だ。
AIに入れてはいけない情報：リスク別の整理
「何がダメで、何はいいのか」を社員に伝える時、抽象的なルールより具体的なリストの方が機能する。リスクレベルで分けると、以下のようになる。
| リスクレベル | 情報の種類 | 具体例 |
|---|---|---|
| 高（絶対NG） | 顧客の個人情報 | 氏名・住所・電話番号・メールアドレス |
| 高（絶対NG） | 取引先の機密情報 | 契約内容・価格・未公開の取引条件 |
| 高（絶対NG） | 社内の財務情報 | 売上・利益・給与データ・資金繰り |
| 高（絶対NG） | 未公開の事業計画 | 新製品・M&A・採用計画・投資計画 |
| 中（要注意） | 社員の氏名と役職 | 内部のやり取りに含まれる固有名詞 |
| 中（要注意） | 顧客とのメール | 案件名や金額が含まれる場合は特に注意 |
| 低（状況次第） | 一般的な業務フロー | 社外秘でない業務手順や作業マニュアル |
| 低（状況次第） | 公開情報の要約・翻訳 | 既にWebや印刷物で公開されている情報 |
「固有名詞と数字は入れない」というシンプルなルールも有効だが、それだけでは不十分なケースがある。顧客の名前を伏せても、業種・地域・規模・取引条件を組み合わせると特定できてしまう場合があるからだ。
僕が顧問先に提供しているルールは、「顧客情報・財務情報・契約情報・未公開の事業計画は入れない」の4項目だけだ。これをA4用紙1枚に印刷して全員に渡す。長いルールブックより、1枚に収まる端的なリストの方が実際に機能する。
中小企業が今日から始められるセキュリティ対策
大企業のように専任のセキュリティチームを持つ必要はない。中小企業が実行できる現実的な対策を3つに絞る。
対策1：「入れてはいけない情報」のリストを作って全員に渡す
まず、社内で使うAIへの入力禁止リストを作る。A4用紙1枚に収まる内容でいい。上記のリスク別分類を参考に、自社の業種に合わせて具体例を追加するだけで完成する。
リストをSlackやLINE WORKSのような社内ツールの固定メッセージとして貼り付けておくと、忘れた時にすぐ確認できる。紙で渡す場合は、デスクに貼っておくよう頼む。
対策2：業務で使うプランを「学習に使われないもの」に統一する
ChatGPTを社内で使っているなら、Team プランへの切り替えを検討してほしい。月3,700円/ユーザーで、チームでアカウントを共有して使える。
すでに個人のPlusアカウントを持っている社員がいる場合は「個人アカウントは業務には使わない」という社内ルールを作り、Teamアカウントに一本化する方が管理しやすい。従業員5人なら月18,500円、10人なら月37,000円の追加コストで、機密漏洩のリスクを大幅に下げられる。
ChatGPTとClaudeの違いや業務での使い分けについては「ChatGPT・Claude・Geminiの違いと中小企業での使い分け」でも整理しているので、プラン選びの参考にしてほしい。
対策3：年1回、10分間の「AIルール確認」を全員でやる
難しい研修は不要だ。「AIに入れてはいけない情報のリスト」を全員で10分間確認する機会を年1回作るだけでいい。期初のミーティングや、新しい社員が入ったタイミングに合わせると継続しやすい。
「知らなかった」から起きるミスが最も多い。本人に悪意がなくても、結果として情報漏洩になってしまうケースがほとんどだ。ルールを作るだけでなく、定期的に確認する仕組みを持つことが重要だ。
「AIを使うな」ではなく、「どう使うか」の話
この記事を読んで「やっぱりAIは危ないから使わない方がいい」と感じた人に、はっきり言う。それは正しい判断ではない。
AIを使わない会社は、使っている会社に対して業務効率で確実に遅れていく。ChatGPTを中小企業の業務で使う方法｜実務活用ガイドでも書いたが、適切に活用すれば週5時間以上の作業時間を削減できる業務は複数ある。セキュリティを理由に使わないのは、自動車が事故のリスクがあるから運転しないと言うのと同じだ。
問題はAIそのものではなく、「何を入れるか」と「どのプランを使うか」だ。
比喩を使うと、AIへの情報入力は「対話」に近い。初対面の相手に会社の機密情報を話すかどうかは状況次第だが、「売上データを教えてほしい」と言われたら断る。AIに対しても同じ感覚で接すれば、大きなリスクは避けられる。
AI導入を始めて失敗するケースの多くは、ツールの選定や使い方の問題より、社内でのルール設計の失敗だ。その具体的なパターンは「AI導入の失敗事例から見る経営者の判断ミス5パターン」でも詳しく書いている。
僕の会社では現在、月3.5万円程度のAIツール費用で、30本近くのSEO記事制作、メール対応の下書き作成、議事録の要約、社内データ分析など複数の業務を回している。この運用が安全にできているのは、「何を入れるか」「どのプランを使うか」のルールが明確になっているからだ。ルールがなければ同じことはできない。
まとめ
| チェック項目 | 内容 |
|---|---|
| 無料版ChatGPTのリスク | デフォルトで学習データに使われる。機密情報は入力しない |
| 安全なプランの選択 | Team（月3,700円/ユーザー）・Enterprise・APIは学習に使われない |
| 絶対に入れてはいけない情報 | 顧客個人情報・財務情報・未公開計画・取引先の契約内容 |
| 中小企業の対策3つ | 1. 入力禁止リストを作る 2. プランを切り替える 3. 年1回確認する |
| Samsungの教訓 | IT担当者でも同じミスをする。ルールとプランで組織として対処する |
AIを安全に活用するための最初のアクションは、「うちの会社は今どのプランを使っているか」を確認することだ。無料版を業務に使っているなら、今すぐ設定変更と利用ルールの整備を始めてほしい。
ChatGPTを含むAIツールを業務に組み込む全体像は「中小企業のAI導入｜最初の3ヶ月で何をすべきか」でも整理しているので、あわせて参考にしてほしい。
