エンタープライズに潜むデータプライバシー侵害のリスク「シャドー AI」への対応

生成AI の活用に伴い、エンタープライズはある大きな課題に直面します。現在の大規模言語モデル（LLM）は、犬や猫、世界の都市についてはあらゆる知識を持っています。しかし、企業内部で何が起きているかについては何も知りません。

こうした課題は、ChatGPT のようなパブリック LLM サービスを利用する際に、潜在的なリスクとして顕在化します。企業と関連性の高い結果を得るために秘密データを外部にさらすのは、危険につながりかねません。

OpenAI のようなプロバイダは、公開データの保護を目的とし、VPN、仮想プライベートクラウド、プライベート API などさまざまなオプションを提供しています。しかし、データは依然としてクラウド上にあり、自社の管理下にはありません。プロバイタによるオプションは、十分な信頼性を確保できるでしょうか。

一部のエンタープライズの法務部門は、パブリック LLM プロバイダによるアプローチの信頼性は低いとみなし、データリスクを避けるためにクラウドベースの LLM 推論サービスの使用を制限しています。しかし、従業員が常に法務部門に指示を仰ぎ、リスクを考慮するとは限りません。

多くの従業員が意図せずに、自社のデータをさまざまなクラウド AI サービスにコピーし、「シャドーAI」に関与している可能性があります。これは、15 年前のクラウド時代の幕開けに横行したシャドー IT を彷彿とさせる状況です。

シャドーAI に対抗するには、データプライバシー侵害のリスクを最小限に抑えると同時に、重要な生成 AI 機能を従業員に提供する別の方法が必要です。両方のアプローチの長所と短所を見ていきます。

エンタープライズによるAI の取り組み

過去 1 年半にわたり、多くのエンタープライズと AI 計画について議論してきました。エンタープライズは、まず AI を活用して「何を実現したいか」を明確にします。そのために必要なのは「ドキュメントの要約ツール」か「チャットツール」か「カスタマーサービスツール」なのかという問いから始めます。

レンガを購入してから家を建てるか小屋を建てるかを決める人はいません。まず「何を建てるか」を決めてから、レンガを購入します。生成 AI でも、目標を定めたうえで、構築はクラウドでするかオンプレミスでするかというインフラ面での判断が必要です。

LLM をオンプレミスでデプロイする

私の経験では、多くのエンタープライズは生成 AI をどこに導入したいか決めており、ほとんどがオンプレミスを望んでいます。オンプレミスにおける AI ソリューションの構築は一見大変そうかもしれません。しかし、最初から全てを自社で構築するわけではありません。

LLM は高性能エンジンのようなもので、非常にパワフルで、すぐに稼働可能です。しかも、高性能エンジンとは異なり、多くのモデルは Apache 2 または Meta ライセンスのもとで自由に使用できます。事前学習済みの LLM を使えば、構築の大部分は済んでおり、その上に自社のアプリケーションを実装するだけです。

ターンキー型クラウドソリューションの導入と比較すると、社内で多少の技術的スキルが求められるかもしれません。しかし、セキュリティを懸念する多くの企業は、AI チャットボットやカスタマーサービスツールをオンプレミスで構築するために、多少の先行投資を惜しみません。

LLM をクラウドでデプロイする

クラウドインフラの経験があり、クラウドセキュリティに自信があれば、クラウドインフラ上に LLM をデプロイするのも有効な選択肢です。ただし、クラウドにかかるコストが常に生じます。時間の経過とともに、オンデマンドのインフラコストは、オンプレミスと比較して予想外に高くなる可能性があります。

パブリッククラウドの利用に抵抗があるかどうかは、エンタープライズの方針次第です。多くの企業は、まずクラウドで概念実証（PoC）のテストを行い、運用フェーズでオンプレミスに移行します。重要なデータを確実に管理するのであれば、オンプレミスが最適かもしれません。

エンタープライズデータの保護

LLM が高性能エンジンだとすれば、自社の企業データはそれを動かす燃料です。データは、セキュリティチーム、セキュリティ境界、ファイアウォールなど、活用可能なあらゆるリソースを駆使して保護する必要があります。

例えば、ニューヨークのタイムズスクエアの真ん中で財布を置いて立ち去るようなことは誰もしません。クレジットカードや他の個人情報が盗まれ、悪用される可能性が高いのは明らかです。企業データについても同様に考えるべきです。

企業は、セキュリティ、侵入検知ソリューション、バックアップ、リカバリなど自社データの保護に何百万ドルもの投資をしています。それにもかかわらず、パブリック LLM に自社データをさらすリスクを冒す企業も存在します。

データプライバシーとコンプライアンス機能が不可欠

生成 AI と関連するソフトウェアスタックは全て比較的新しい技術であるため、固有の機能について考慮する必要があります。エンタープライズ向けの AI ソリューションを導入する際は、以下の機能が備わっていることが重要です。

• ユーザー管理：ユーザー認証を含む、生成 AI アプリケーションへのアクセス権を管理するプロセスとツール。
• 役割ベースのアクセス制御（RBAC）：ユーザーの役割に応じて、生成 AI アプリケーションやシステムへのアクセスを制御する機能。RBAC により、ユーザーは業務に必要なリソースのみにアクセスを許可されます。
• 監査性：誰が生成AIシステムにアクセスし、設定変更、新規ユーザー追加、パスワード変更など、実行されたアクションの重要な詳細を追跡する機能。
• 可観測性：生成 AI システムの内部状態と動作を監視、測定、理解する機能。API エンドポイントとインフラの健全性を把握するのに役立ちます。

上記に挙げた機能が十分に備わっていない場合は、エンタープライズは AI の導入に慎重になるべきです。自社でデータのプライバシーとコンプライアンス機能を実装し、許容できる成熟度まで高めるには多大な時間を要します。しかし、適切なパートナーや導入の優先順位を見極めれば、最小限の労力で目標を達成し、データのプライバシーとセキュリティを最適化できます。

Nutanix のエンタープライズ AI

Nutanix は 15 年にわたりインフラ分野でビジネスを展開してきました。そして過去 1 年半は、生成 AI 向けに新たなソフトウェアインフラツールの構築に注力し、エンタープライズにおけるAI導入の迅速化とリスク軽減を支援しています。

Nutanix Enterprise AI（NAI）ソリューションは、エンタープライズ向けソフトウェアインフラプラットフォームと、共有エージェント型 AI サービスを組み合わせて提供します。生成 AI アプリケーションの導入や活用を安心して進めるために必要なエンタープライズ機能を全て備えており、以下の重要な領域において、選択肢と柔軟性を提供します。

• ロケーション：データセンター、パブリッククラウド、エッジのいずれにもデプロイ可能。
• ハードウェア：Dell、Cisco、HPE などのベンダーが提供する推論タスク向けのGPU対応ソリューションを含む任意のハードウェアを選択可能。
• スケール：小規模から始め、必要に応じて迅速に規模をスケールアウト可能。
• AI モデル：Hugging Face や NVIDIA といったパートナーが提供する検証済みのモデルを導入可能。

エンタープライズAIの導入方法について詳しくは、こちらの無料ガイドでご覧いただけます。

©2025 Nutanix, Inc. All rights reserved. Nutanix, the Nutanix logo and all Nutanix product and service names mentioned are registered trademarks or trademarks of Nutanix, Inc. in the United States and other countries. All other brand names mentioned are for identification purposes only and may be the trademarks of their respective holder(s).