HigLabo
Latest posts
生成AIを全社利用する企業ほど危ない？ SAFE『AI-SPM』公開で見えた“未把握AI利用”のリスク
SAFE「AI-SPM」公開で何が変わるのか
結論から言うと、今回のAIニュースで重要なのは、新しいAIセキュリティ管理製品が出たことそのものより、自社のAI利用把握とリスク管理の前提が変わりつつある点です。企業内で把握できていない生成AI利用が、承認済みのAI活用より先に危険になりやすい現実が、あらためて可視化されました。
SAFEによる「AI-SPM」の公開は、生成AIを使うか使わないかの議論を超え、どこで、誰が、何を使っているのかを見える化する段階に入ったことを示しています。特に、社員の生成AI利用が拡大し、シャドーAIや未承認ツールの把握に悩むCISO、SecOps担当者、IT資産管理責任者にとっては、自社のAI利用把握をどう進めるかを考えるきっかけになります。
今回の公式発表では、SAFE AI-SPMは主要な生成AIサービスを含むAI利用に対して、可視性と統制を提供する新機能として紹介されています。
https://safe.security/resources/press-release/safe-launches-ai-security-posture-management/
AIガバナンス全体の背景を押さえるうえでは、NISTのAI RMFも参考になります。AIの活用そのものではなく、リスクをどう管理するかという視点を持つと、今回の話の位置づけが見えやすくなります。
承認済みAIより先に、未把握AI利用が問題化しやすい理由
一見すると、生成AIを多く使う企業ほど知見があり、安全に見えるかもしれません。ですが実際には、利用量が増えるほど、管理対象も一気に増えていきます。
問題は、承認済みのAIよりも、管理の網から漏れたAI利用が先に増えることです。正式に導入したツールは比較的追いやすくても、現場が独自に使い始めたAIは見えにくいからです。
生成AIは導入のハードルが低く、現場がすぐ試せることも大きいです。業務効率化の圧力が強い職場ほど、正式申請を待たずに使い始める動きが出やすくなります。
その結果、企業側は「活用は進んでいるが、全体像が見えていない」という状態に陥ります。つまり危ないのは、生成AIを全社利用する企業そのものではなく、利用拡大に対して可視化が追いつかない企業です。
AI-SPMという考え方自体も、こうした可視性の不足を埋める文脈で語られています。AI利用が拡大するほど、発見・棚卸し・監視の重要性が先に高まるという見方は自然です。
wiz.io
未把握AI利用とは、どんな状態を指すのか
未把握AI利用とは、会社として存在を十分に認識できていないAI利用のことです。社員が個人契約した生成AIに会議メモを入れている、営業部門が独自にAIライティングSaaSを使っている、開発チームが外部のコード生成AIを試験導入している、といったケースが典型です。
ここで重要なのは、悪意がなくてもリスクになる点です。多くの社員は、便利だから使っているだけで、問題を起こそうとしているわけではありません。
ただし、どのデータが外部送信されるのか、入力内容が学習に使われるのか、誰に権限があるのかを十分理解しないまま使えば、情報管理の穴になります。発見が遅れるほど、後からの整理や是正にかかるコストも大きくなります。
利用者教育は一般に重要とされます。何が使われているかを把握する視点も欠かせません。
AI-SPMは、AIを強くする仕組みではなくAI利用を可視化する仕組み
AI-SPMは、わかりやすく言えば、企業内のAI利用を資産として見える化し、設定や運用の危険を管理するための発想です。SaaS管理やクラウド設定管理に近い部分はありますが、対象がAI特有の利用形態を含む点が違います。
SAFEの発表でも、AI-SPMはアクティビティ、設定、外部露出、コンプライアンス証跡といった複数の観点からAIリスクを継続的に把握する機能として説明されています。単なるポリシー文書ではなく、運用上の可視性を重視した考え方です。
https://safe.security/ai-security-posture-management/
たとえば確認したいのは、どのAIサービスが使われているか、誰が使っているか、どんなデータを入れているか、社内ルールと合っているか、といった点です。加えて、外部API、権限設定、ログの取り方なども重要になります。
AIガバナンスを考える際には、リスク管理の枠組みや運用ルールの整備も参考になります。
初級者向けに言えば、AI-SPMは「AIを賢くする仕組み」ではありません。むしろ、AI利用を事故なく続けるための管理台帳と見張り役に近い存在です。
情報漏えいだけではない、見えていないAI利用のリスク
生成AIのリスクというと、情報漏えいだけが注目されがちです。もちろんそれは大きな問題ですが、実際にはそれだけではありません。
設定ミス、権限の広すぎる共有、誤った社内利用ルール、出力内容の未検証など、危険は複数あります。見えていないAI利用が増えるほど、それぞれの問題も見落とされやすくなります。
OWASPのLLM向けリスク整理も、プロンプトや学習データの扱い、過剰な権限、モデル出力に関わるリスクなどの論点をまとめています。AIリスクを「漏えい」だけに縮めて理解しないことが重要です。
たとえば、顧客情報を含む文書をAIに入れてしまうケースはわかりやすいです。一方で、AIが作った文章やコードを人が十分確認せず、そのまま業務に載せてしまうケースも現実的です。
ここでは漏えいだけでなく、誤情報、品質低下、法務リスク、説明責任の問題が発生します。未把握AI利用の怖さは、何かが起きた後に初めて存在がわかることにあります。
営業・開発・バックオフィスで起きやすい生成AI利用
営業現場では、商談メモを生成AIで整理し、提案文を自動作成したくなります。これは自然な流れですが、そのメモに顧客名、価格条件、未公開情報が含まれていれば、入力先の確認は必須です。
生成AIの業務利用イメージをつかむ一例としては、Google Workspaceの紹介動画もあります。便利さが高い領域ほど、入力データの線引きが先に必要になります。
開発現場では、コード生成AIで生産性を上げたくなります。ですが、社外に出してはいけない設計情報を貼り付けたり、生成コードのライセンスや脆弱性確認を省いたりすると、別の問題が起きます。
GitHub Copilotの責任ある利用に関する説明は、実務上の論点整理に役立ちます。
GitHub Docs
バックオフィスでは、議事録作成、社内文書の要約、問い合わせ対応の下書きなどでAIが使われやすいです。ここでも大切なのは、便利さの前に、どのデータを入力してよいのかを決めておくことです。
企業が最初に着手したい4つの整理
企業が最初にやるべきことは、全面禁止でも全面解放でもありません。まずは小さく、利用実態の棚卸しから始めることです。
- 利用中AIの棚卸し：どの部門が、どのAIを、どんな目的で使っているかを確認する
- 3区分での整理：利用中のAIツールを、承認済み・未承認・把握不能の3区分で分け、可視化の優先順位を決める
- 入力ルールの明確化：入力してよいデータと、禁止すべきデータの境界を決める
- ログ確認と教育：後から追える状態をつくり、事故時の調査を可能にしつつ、現場が判断に迷わない最低限の基準を共有する
この4点は地味ですが、全社利用を広げるほど重要になります。AI-SPMは、そのうち特に「棚卸し」と「継続的な可視化」を支える発想として受け止めるとわかりやすいです。
新しいモデルを選ぶことより先に、社内にある見えないAI利用を早く発見し、管理可能な状態に戻すことが重要です。今回のニュースは、その順番を改めて示したと言えます。
全社利用の成否を分けるのは、導入量ではなく見える化
今回のAIニュースは、生成AIを安全に広げるには、高性能なモデル選びだけでは足りないと教えてくれます。本当に重要なのは、社内にある見えないAI利用を早く発見し、管理可能な状態に戻すことです。
生成AIを全社利用する企業ほど危ない、というより、利用拡大に対して可視化が追いつかない企業ほど危ない。SAFEのAI-SPM公開は、その現実を企業に突きつけた出来事として見るべきでしょう。
まずは、自社で使われているAIを承認済み・未承認・把握不能の3区分で棚卸しし、どこから可視化すべきか優先順位を決めることが次の一歩になります。
地味ではありますが、ここが全社利用の成否を分けます。AI利用の見える化は、競争力を左右しうる重要な要素になりつつある。その見方は、これからさらに重みを増していきそうです。