生成AIの業務利用について話すと、よく聞かれる質問があります。

「入力した情報は、すべて学習されてしまうのか」「機密情報が、ほかの人への回答に出てしまうことはないのか」「結局、仕事では使わない方が安全なのではないか」

どれも、もっともな不安です。けれど、すべてのAIサービスを一括りにして、漏れる、漏れないと答えることはできません。情報の扱いは、サービス、契約、設定、利用方法によって変わります。

一方で、扱ってはいけない情報を安易に入力したり、公開範囲を確認せず共有したりすれば、現実に事故は起こり得ます。

AIを使うか、使わないか。
その二択の前に、どう使えば守れるのかを設計する。

それが、AIを仕事に取り入れる最初の一歩だと考えています。

「入力しない」だけでは、情報は守れない

情報漏洩対策というと、「機密情報をAIに入力しない」というルールが最初に思い浮かびます。もちろん、それは重要です。

しかし、リスクは入力欄だけにあるわけではありません。

画面のスクリーンショットに個人情報が写っている。共有リンクが誰でも開ける設定になっている。外部サービスとの連携によって、想定以上のデータへアクセスできる。生成された文章に元の機密情報が残り、そのまま転送される。私用アカウントで業務資料を扱い、組織側から利用状況が見えなくなる。

AIに限らず、情報は入力、保存、共有、出力、削除という流れのどこからでも漏れる可能性があります。

だから必要なのは、社員一人ひとりの注意力だけに頼ることではなく、情報がどこを通るのかを見えるようにすることです。

最初に決めるのは、使うAIではなく情報の区分

新しいAIサービスを比較する前に、まず組織が持つ情報を大まかに分けます。

  • すでに公開されている情報
  • 組織内で共有してよい情報
  • 契約、事業、未公開企画などの機密情報
  • 個人情報や、特に慎重な扱いが必要な情報

すべてを細かく分類する必要はありません。まずは「そのまま使える」「加工すれば使える」「指定環境だけで使える」「入力しない」という判断ができれば、現場は動きやすくなります。

氏名を記号に置き換える。必要な部分だけを抜き出す。数値を範囲に変える。実データではなく架空のデータで試す。

AIに渡す情報を最小限にするだけでも、便利さを残したままリスクを減らすことができます。

サービス名より、契約と設定を見る

同じ名称のAIでも、個人向けと組織向けでは、入力データの扱い、保存期間、管理者機能、ログ、削除方法などが異なることがあります。

確認したいのは、入力内容が学習などに利用されるか。誰がデータへアクセスできるか。どこに、どのくらいの期間保存されるか。管理者が利用状況を把握できるか。退職や異動の際に権限を止められるか。事故が起きたとき、記録を確認できるか。

個人情報保護委員会も、個人データを生成AIへ入力する場合には、利用目的の範囲や、提供事業者が機械学習などに利用しないことを十分に確認するよう注意を促しています。

「有名なサービスだから安全」と決めるのではなく、自分たちの情報と使い方に合う条件が整っているかを見る。安全性は、製品名だけではなく運用との組み合わせで決まります。

SUKETTは、案件ごとに守り方を設計する

SUKETTでは、AIを扱う案件で、情報漏洩への対応を特別な追加作業ではなく、最初から必要な設計として扱っています。

案件が始まったら、まず何を守るべきかを確認します。公開前の企画、個人情報、契約情報、組織内部の資料。情報の性質が違えば、使えるAI環境や共有方法も変わります。

そのうえで、AIへ渡す情報を必要最小限にし、可能なものは匿名化する。アクセスできる人を絞る。外部連携を必要な範囲に限定する。重要な出力や送信には人の確認を入れる。操作記録を残し、異常があれば止められるようにする。

重視しているのは、担当者が毎回完璧に注意することではありません。

正しく仕事を進めれば、
自然に安全も守られる仕組みにする。

注意書きを増やすだけでは、忙しい現場ほど形骸化します。迷いにくい入力画面、選べるテンプレート、扱えない情報への警告、承認の流れまで含めて、仕事の中に安全を組み込みます。

AIエージェントでは、権限をさらに小さくする

文章をつくるAIと、メールを送り、ファイルを更新し、システムを操作できるAIエージェントでは、考えるべき範囲が違います。

エージェントは便利な一方で、与えられた権限の範囲で実際に行動します。閲覧だけでよいのか。書き込みが必要なのか。送信や削除まで任せるのか。必要以上の権限を持たせないことが基本です。

送信、公開、削除、支払いなど、影響の大きい操作の直前には人が確認する。外部からの文章を命令として誤認する「プロンプトインジェクション」を想定し、取得した情報と実行指示を分ける。普段と違う動きを検知したら、自動的に停止する。

AIができることを増やすほど、「何をしてはいけないか」と「どこで人に戻すか」を明確にする必要があります。

事故をゼロにする約束より、止められる設計

どれだけ対策をしても、人とシステムが関わる以上、リスクを完全にゼロにすることはできません。

だからこそ、予防だけでなく、検知、封じ込め、復旧までを考えます。

誤った情報を入力したと気づいたら、まず何を止めるのか。誰へ報告するのか。共有リンクやアカウントを無効にできるか。操作履歴を保存できるか。影響範囲を調べ、必要な関係者へ連絡し、同じ事故を防ぐために設定や手順を直せるか。

事故対応を準備しておくことは、失敗を前提にすることではありません。小さな異常を大きな被害にしないための、実務的な備えです。

安全は、AIを使わないことではない

情報漏洩が心配だから、AIを全面的に禁止する。短期的には分かりやすい判断です。

けれど、仕事の中ですでにAIが使われ始めているなら、禁止だけでは利用が見えない場所へ移ることがあります。組織が認めていないAIを個人判断で使う「シャドーAI」は、管理も支援もできません。

守るべき情報を明らかにする。使える環境を用意する。判断に迷ったときの相談先をつくる。小さく試し、利用記録を見ながら改善する。

安全性と活用は、どちらかを諦める関係ではありません。

情報漏洩対策は、AIを遠ざけるためではない。
人が安心して使える範囲を、明確にするためにある。

人が考え、AIが能力を広げ、人が責任を持って判断する。その関係を守る仕組みまでつくることが、これからのAI活用には必要です。

参考資料

← Insightsへ戻る