生成AIからの情報漏えいの事例と防ぎ方

生成AI（質問や指示に応じて文章や画像を作るAI）からの情報漏えいは、社員の入力ミスから、サービスの不具合、アカウントの乗っ取り、AIをだます攻撃まで、さまざまな形で起きています。ChatGPT や Claude を仕事で使う会社が増えるにつれ、悪気のない使い方から情報が外に出る例も報じられるようになりました。

実際に起きた事例を型ごとに把握すると、自社でどこが危ないのかを見極め、限られた手間で優先して手を打つ場所を選べます。禁止するか使わせるかで迷っている会社にとっても、判断の材料になります。

本記事では、生成AIからの情報漏えいの事例5つ、漏えいが起きる原因、会社が負うリスクをまとめています。さらに、自社のチェック表、防ぎ方6つ、社員が情報を入れてしまったときの初動4STEPも紹介します。

生成AIの情報漏えいはどう起きる？ 事例の型の早見表

生成AIの情報漏えいは、「社員の入力」「サービスの不具合」「アカウントの乗っ取り」「共有設定のミス」「AIをだます攻撃」の5つの型に分けられます。型によって、使う側で防げるものと、提供する側に頼るものがあります。

5つの型と事例、防ぎ方を以下の早見表にまとめます。

型	何が起きるか	事例	使う側の防ぎ方
① 社員の入力	社外秘や個人情報をAIに入れ、相手のサーバーに残る・学習に使われる	Samsung（2023年）	入れてはいけない情報を決める。学習に使われないプランを使う
② サービスの不具合	提供する会社の不具合で、他の利用者の情報が見える	ChatGPT（2023年）	入れたものは相手のサーバーに残る前提で使う
③ アカウントの乗っ取り	ログイン情報を盗まれ、過去の会話を読まれる	ChatGPT のアカウント売買（2023年）	二段階認証、パソコンのウイルス対策
④ 共有設定のミス	会話の共有リンクが公開され、検索結果に出る	ChatGPT の共有機能（2025年）	共有リンクを社外に出さない、公開を選ばない
⑤ AIをだます攻撃	AIが読んだ文章に隠れた指示で、社内データを外に出す	Microsoft 365 Copilot（2025年）	AIに任せる範囲を絞り、更新を当てる

②と⑤は提供する会社の修正に頼る部分が大きい一方、①③④は社内のルールと設定で防げる部分が多くあります。以下では、それぞれの型の事例を具体的に紹介します。

生成AIの情報漏えいの事例【5選】

生成AIの情報漏えいの事例は、大企業や海外の話に見えても、起きた仕組みは中小企業にもそのまま当てはまります。どの事例も、特別な攻撃ではなく、ふだんの使い方の延長で起きているからです。

ここでは、公式の発表や報道で確かめられた事例を、型ごとに5つ紹介します。

事例1 社員が社内のソースコードを入力した（Samsung・2023年）

2023年5月、韓国の Samsung が、社員による ChatGPT などの生成AIの利用を禁止したと報じられました。報道によると、同年4月に技術者が社内のソースコードを誤って ChatGPT にアップロードしたことがきっかけです。

Samsung は、入力したデータが外部の会社のサーバーに保存され、取り出したり消したりするのが難しいこと、他の利用者に出てしまう恐れがあることを懸念したとされています。

型①の典型例で、本人に悪気はなく、仕事を早く進めようとしただけでした。中小企業でも、見積書や顧客とのメールを貼り付けて文章を整えさせる使い方で、同じことが起こり得ます。

事例2 サービスの不具合で他の利用者の情報が見えた（ChatGPT・2023年）

2023年3月20日、ChatGPT で、他の利用者の会話履歴のタイトルが見えてしまう不具合が起きました。その後の調査で、有料版（ChatGPT Plus）の利用者の一部について、氏名・メールアドレス・支払い先の住所・カード番号の下4桁・有効期限が、他の利用者に見えた可能性があると分かりました。

OpenAI は、影響を受けた可能性があるのは約9時間の間に使っていた有料版の利用者の1.2%とし、カード番号の全体は漏れていないとしています。原因は、OpenAI が使っていたオープンソースのソフトの不具合でした。

型②の例で、使う側では防げません。ただし、「AIに入れたものは相手のサーバーに残る」前提で、入れる情報を選ぶ理由になります。

事例3 盗まれたログイン情報が闇市場で売られた（2023年）

セキュリティ企業の Group-IB は2023年6月20日、パソコンから情報を盗むウイルスに感染した端末のうち、ChatGPT のログイン情報が保存されていたものを10万1,134台見つけたと発表しました。盗まれたログイン情報は、ネットの闇市場で売られていました。

Group-IB は、ChatGPT は初期設定で会話の履歴を保存するため、アカウントに入られると社外秘の情報を読まれる恐れがあると警告しています。

型③の例で、会社で使うAIのアカウントは、メールやクラウドと同じように守る必要があります。パソコンのウイルス対策と、二段階認証が基本の対策です。

事例4 共有した会話が検索結果に出た（ChatGPT・2025年）

2025年8月、ChatGPT の会話を共有するときに「検索エンジンに表示させる」を選べる機能で、共有された会話が Google の検索結果に出ていることが問題になりました。OpenAI は「意図しないものを共有してしまう機会が多すぎた」として機能をやめ、検索エンジンからの削除を進めました。

利用者は自分でチェックを入れていましたが、何がどこまで公開されるのかを分かっていなかった、という例です。

型④の例で、共有機能の意味を社員が理解していないと、本人の操作で情報が公開されます。会話の共有リンクを社外に送るかどうかも、ルールで決めておく必要があります。

事例5 AIをだます仕掛けで社内データが漏れる恐れ（Microsoft 365 Copilot・2025年）

2025年6月、Microsoft 365 Copilot に、細工したメールを送るだけで、利用者が何も操作しなくても社内の情報を外に出せる恐れがある脆弱性（通称 EchoLeak、CVE-2025-32711）が公表されました。発見したセキュリティ企業は、AIが読んだ文章に紛れた指示に従ってしまう「プロンプトインジェクション」の一種だと説明しています。

Microsoft は公表の時点で修正を済ませており、利用者の対応は不要で、悪用された形跡はないとしています。

型⑤の例で、AIにメールや社内の資料を読ませるほど、だまされたときに漏れる範囲が広がります。AIをだます攻撃の仕組みは プロンプトインジェクションとは。AIをだます攻撃 で解説しています。

生成AIの情報漏えいが起きる4つの原因

生成AIの情報漏えいが起きる原因は、学習への利用・個人アカウントの利用・提供する側の不具合・外からの攻撃の4つに整理できます。原因が分かると、どの対策がどの漏えいに効くのかを判断できます。

ここでは、4つの原因と、関係する事例の型を表にまとめます。

原因	何が起きるか	関係する型
入力が学習に使われる	個人向けのプランでは、設定によって入力がAIの学習に使われることがある	①
個人アカウント・無料版の利用（シャドーAI）	会社が知らないサービスで仕事の情報が扱われ、管理も削除もできない	①③④
提供する側の不具合	サービスの不具合で、他の利用者に情報が見える	②
外からの攻撃	ログイン情報を盗まれる、AIをだます指示を仕込まれる	③⑤

上記の4つのうち、中小企業で特に多いのは、会社が把握していない個人アカウントの利用です。会社が知らないサービスで仕事の情報が扱われていると、設定の確認も、退職者のアカウントの停止もできません。

社員が会社の許可なく使うAIは「シャドーAI」と呼ばれます。まず、誰がどのサービスをどのプランで使っているかを聞き取ることが対策の出発点です。

生成AIの情報漏えいで会社が負うリスク

生成AIから情報が漏れると、会社は法律上の問題、取引先との契約上の問題、信用の低下という3つのリスクを負います。どのリスクも、漏れた情報の種類と量によって大きさが変わります。

ここでは、3つのリスクを順に解説します。法的な判断は事情によって変わるため、ここでは制度の説明までにとどめます。

個人情報保護法上の問題

顧客や従業員の個人情報を生成AIに入れると、個人情報保護法上の問題になる場合があります。個人情報保護委員会は2023年6月2日の注意喚起で、会社に向けて次の2点を挙げています。

• 個人情報を含む指示を入れるときは、決めた利用目的の範囲内かを十分に確かめること
• 本人の同意なく個人データを入れ、それが回答を作る以外の目的で扱われると、個人情報保護法に違反する可能性があること

注意喚起では、入れる場合は、提供する会社がそのデータを機械学習に使わないことなどを十分に確かめるよう求めています。漏えいが起きた場合の報告の考え方は 個人情報が漏れたときの報告義務（個人情報保護委員会） をご覧ください。

取引先との秘密保持の問題

取引先から預かった資料を生成AIに入れると、秘密保持契約に反する可能性があります。秘密保持契約では、預かった情報を第三者に渡すことや、目的外に使うことを禁じているのが一般的だからです。

たとえば、取引先の図面や見積もりをAIに入れて要約させると、契約の内容によっては、外部の会社に情報を渡したと見なされる場合があります。

ただし、契約に反するかどうかは、契約書の書き方とAIのサービスの条件によって変わります。個別の判断は、弁護士などの専門家に確かめてください。

信用の低下と、漏えい以外のリスク

生成AIからの漏えいが明らかになると、顧客や取引先からの信用が下がり、取引の見直しにつながることがあります。漏えいの規模が小さくても、「情報の扱いがずさんな会社」と見られることが影響するためです。

また、生成AIの利用では、漏えい以外にも以下のようなリスクがあります。

• 誤った情報の発信：AIのもっともらしい間違いを、確かめずに社外に出す
• 他人の権利の侵害：AIで作った文章や画像が、他人の著作物に似てしまう
• 不適切な表現：AIが作った文章に、差別的・攻撃的な表現が含まれる

上記のリスクも、社内ルールで「社外に出す前に人が確かめる」と決めておくと小さくできます。

自社に生成AIの情報漏えいの危険がないか確かめるチェック表

自社に情報漏えいの危険があるかは、AIの使われ方・情報の扱い・アカウントの管理の3つを確かめると判断できます。チェック表の項目は、どれも社内の聞き取りと設定画面で確かめられます。

ここでは、確かめる8項目と、当てはまると起きやすい型を表にまとめます。当てはまる項目を数えてください。

#	確認すること	当てはまると起きやすい型
1	社員が個人のアカウント（無料版など）で仕事にAIを使っている	①③④
2	AIに入れてはいけない情報を、社内で決めていない	①
3	使っているAIのプランで、入力が学習に使われるか分からない	①
4	顧客名簿・見積書・契約書・社内の資料を、そのまま貼り付けている人がいる	①
5	AIのアカウントに二段階認証を設定していない	③
6	会社のパソコンにウイルス対策や更新が行き届いていない	③
7	会話の共有リンクを社外の人に送ったことがある	④
8	AIにメールや社内の資料を読ませる機能を、設定を確かめずに使っている	⑤

1つでも当てはまれば、次の「防ぎ方」の該当するところから手をつけます。社員がどのAIを使っているか分からない場合は、責めずに聞き取るところから始めましょう。

生成AIの情報漏えいを防ぐ方法【6つ】

生成AIの情報漏えいを防ぐには、ルール・プラン・アカウント・共有・連携・文書化の6つをそろえます。上から順に進めると、少ない手間で多くの型を防げます。

ここでは、中小企業がすぐに取り組める順に6つの方法を紹介します。

【1】入れてはいけない情報を決めて、全員に伝える

最初に、生成AIに入れてはいけない情報を決めて、全員に伝えます。型①の漏えいは、社員が「入れてよいか」を判断できないことから起きるからです。

最低限、入れてはいけないと決める情報は、以下のとおりです。

• 顧客・従業員の個人情報
• 取引先から預かった資料
• パスワード・暗証番号・鍵
• 公開前の数字や計画

具体的な線引きは ChatGPT・Claude に入れてはいけない情報 にまとめています。

【2】会社として使うAIとプランを決める

仕事で使うAIは、会社で契約した法人向けのプランに絞ります。法人向けのプランは、初期設定で入力を学習に使わないものが多く、管理者が利用者を追加・停止できるからです。

たとえば、個人向けのプランを使う場合でも、学習に使わせない設定を確かめてから使います。プランごとの違いは 入力した内容をAIの学習に使わせない設定（法人プラン別） をご覧ください。

【3】AIのアカウントに二段階認証を設定する

AIのアカウントには、メールやクラウドと同じように二段階認証を設定します。ログイン情報を盗まれても、二段階認証があれば会話の履歴を読まれにくくなるからです。

あわせて、パソコンの自動更新とウイルス対策もそろえます。情報を盗むウイルスは、ブラウザに保存されたログイン情報を狙うためです。

【4】共有機能の使い方を決める

会話の共有リンクを社外に送らないこと、公開や検索エンジンへの表示を選ばないことを決めます。共有機能は、本人の操作で情報を公開してしまう型④の原因になるからです。

たとえば、社内で会話を共有したい場合は、法人向けプランの社内共有の機能を使い、社外の人が見られない設定にします。

【5】AIに読ませる範囲と任せる操作を絞る

AIにメールや社内の資料を読ませる機能は、読ませる範囲と任せる操作を必要な分に絞ります。読ませる範囲が広いほど、AIがだまされたときに漏れる情報も増えるからです。

ただし、AIの提供会社が出す修正は、使う側では止められません。サービスの更新を止めずに当て、送信や削除の前に人が確かめる設定にしましょう。

【6】ルールを文書にし、社員に説明する

【1】〜【5】の内容を、1〜2枚の社内ルールにまとめて社員に説明します。口頭の注意だけでは、新しく入った社員やパート・アルバイトに伝わらないからです。

社員が多い会社では、送信する内容を検査して個人情報の送信を止める仕組み（DLP）や、社員が使うクラウドサービスを見える化する仕組み（CASB）を組み合わせる方法もあります。ただし、中小企業ではまずルールと法人向けプランをそろえるほうが効果的です。ひな形は 生成AIの社内ルール【ひな形つき】 にあります。

生成AIに情報を入れてしまったときの初動【4STEP】

社員が生成AIに顧客情報や社外秘を入れてしまったときは、責める前に事実を集め、止められるものを止めることが大切です。初動が早いほど、被害の広がりと、後で確かめる手間を小さくできます。

ここでは、気づいたときにやることを4STEPで紹介します。

STEP	やること	ポイント
1	本人から事実を聞き取り、記録する	いつ・どのサービス・どのプラン・何を入れたかを書き残す
2	止められるものを止める	共有リンクの停止、会話の削除、乗っ取りが疑われる場合はログイン情報の変更
3	影響の範囲を確かめる	学習に使われる設定だったか、個人情報や預かり情報が含まれるか
4	報告と再発防止	個人情報なら報告が必要な場合に当たるかを確かめ、取引先の情報なら契約を確かめる

STEP2で会話を削除する前に、何を入れたかが分かる画面を記録しておくと、後で影響の範囲を判断しやすくなります。STEP4で報告が必要かどうか迷う場合は、弁護士などの専門家に相談してください。

正直に申し出た社員を責めすぎると、次から隠されるようになります。申し出やすい雰囲気が、気づくまでの時間を短くします。

生成AIの情報漏えい対策でよくある失敗

生成AIの情報漏えい対策では、極端なルールや、作って終わりのルールが失敗の原因になります。実態に合わない対策は守られず、かえって危険が見えにくくなるからです。

ここでは、よくある失敗を5つ紹介します。

• 全面禁止で終わらせる：個人のスマホや無料アカウントで隠れて使われ、かえって見えなくなる
• 「名前を消せば大丈夫」と考える：会社名・日付・金額・地域などの組み合わせで、誰のことか分かってしまう場合がある
• AIと連携するツールを確かめずに入れる：メールやファイルを読ませるAIは、仕込まれた指示にだまされることがある
• 入れてしまった社員を責めすぎる：申し出にくくなり、気づくのが遅れる
• ルールを作って配って終わりにする：新しく入った人に伝わらず、サービスの変更にも追いつかない

上記の失敗を避けるには、使ってよい形を会社として用意し、半年に1回はルールと設定を見直すことが大切です。AIと攻撃の全体像は AIで、サイバー攻撃はどう変わる？ 中小企業がいまやること にまとめています。

生成AIの情報漏えいを専門家に相談すべきとき

生成AIの情報漏えいは、漏れた情報の種類や量によっては、社内だけで判断せず専門家に相談すべきです。個人情報や取引先の情報が絡むと、報告や連絡の判断を誤ったときの影響が大きいからです。

専門家に相談したほうがよいのは、以下のような場合です。

• 顧客や従業員の個人情報を入れてしまった
• 取引先から預かった資料を入れてしまった
• AIのアカウントに、心当たりのないログインがあった
• 社員がどのAIをどう使っているか、社内で把握できない

報告義務に当たるかどうかや契約の解釈は、弁護士などの専門家に確かめてください。HPやアカウントの管理を含めて外から見える状態を確かめたい場合は、HPの移管・保守サービス『サイガード』の無料診断もご利用いただけます。URLを送るだけで、外から見える範囲をセキュリティの専門家が確認します。

まとめ

• 生成AIからの情報漏えいの事例は、社員の入力・不具合・乗っ取り・共有設定・AIをだます攻撃の5つの型に分けられる
• 多くの事例は、悪気のない使い方や、機能の意味を知らない操作から起きている
• 入れてはいけない情報のルール、会社で契約したプラン、二段階認証、共有設定の確認で、使う側の漏えいの多くは防げる
• 入れてしまったときは、責める前に事実を記録し、止められるものを止める

まずチェック表で自社の当てはまる項目を数え、ルールづくりから始めてください。