生成AIの取り組みが失敗する6つの理由とその解決策

あなたがAIリーダーであるなら、現在、板挟みになっていると感じていることでしょう。

取締役会を満足させ、ビジネス競争に勝ち残るためには、いち早く生成AIから価値を創出しなければなりません。しかし、新たなソリューションやエコシステムが市場に登場し、混迷を深めている現状を把握する必要もあります。

また、新しい生成AIのプロジェクト、ユースケース、組織全体の熱狂的なユーザーをこなさなければなりません。そして、データセキュリティも忘れてはいけません。あなたの素晴らしいリーダーシップを、ビジネスにとって有用なはずのAIが、良くない方向に働いてしまったという教訓にはしたくありません。

そして、生成AIのROIを証明するよう求められており、まるでモグラたたきをしているような気分になっているとしたら、それはあなただけが感じていることではありません。

Deloitteによると、AIのビジネス価値を証明することは、AIリーダーにとって最も重要な課題です。世界中の企業が、試作から本番への移行に苦戦しています。ここではその方法と注意すべき点について説明します。

生成AIからビジネス価値を実現するための６つの障害（および解決策）

第１の障害：ベンダーロックイン

生成AIは驚くほど速く進化しています。LLM、ベクトルデータベース、埋め込みモデルなど、新しいイノベーションが毎日生み出されています。そのため、現時点で特定のベンダーにロックインされることは、1年後のAI活用におけるROIを危険にさらすだけでなく、文字通り来週のあなたにとって足枷となりうる可能性があります。 例えば、現在LLMの特定プロバイダーに完全に依存しているとしましょう。もし、コストが上昇したため、新しいプロバイダーに切り替えたり、特定のユースケースに応じて異なるLLMを使用したい場合はどうなるでしょうか。 ロックインされている場合、そのベンダーから離脱することがコスト削減の利益を失くし、それ以上の損失を被る可能性があります。

解決策：柔軟性と多機能性を持つプラットフォームを選択する

予防は最良の治療法です。自由度と適応性を最大限に活用するためには、AIライフサイクル全体、パイプライン、データ、ベクトルデータベース、埋め込みモデルなどを、簡単に他のプロバイダーに移行できるソリューションを選択してください。例えば、DataRobotは今後も将来も、AI戦略をコントロールすることができます。

当社のオープンなAIプラットフォームは、完全な柔軟性を維持できるため、どのようなLLM、ベクトルデータベース、エンベディングモデルでも使用することができ、ニーズの変化や市場の進化に応じて、運用を中断することなく、基盤となるコンポーネントを交換することができます。さらに、一般的なLLMの構築も可能です。

第２の障害：オフ・ザ・グリッドの生成 AI が混乱を生み出す

予測AIはコントロールが難しいと考えているなら、生成AIを試してみてください。あなたの組織のデータサイエンスチームは予測AIのゲートキーパーの役割を担っていると思われますが、生成AIには誰でも手を出すことができます。あなたの会社には、15から50の予測モデルがあるかもしれませんが、規模が大きくなれば、いつでも200以上の生成AIモデルが組織内に存在する可能性があります。

さらに悪いことに、あなたはそのうちのいくつかを知らないかもしれない。「オフ・ザ・グリッド」の生成AIプロジェクトは、リーダーシップの権限から逃れがちで、組織を重大なリスクにさらすことになります。

このような熱心なAIの利用は、より大きなビジネス価値のレシピとなり得ますが、実際には逆のことが多いです。統一された戦略がなければ、生成AIは意味のある結果をもたらすことなく、高騰するコストを生み出す可能性があるのです。

解決策：すべてのAI資産を統一されたプラットフォームで管理する

AIの乱立を防止するためには、誰が作ったか、どこで作られたかにかかわらず、すべてのAI資産を単一の管理しやすいプラットフォーム上に統合するべきです。例えば、顧客データと同じように、AI 資産に関する単一の信頼できる情報源と記録システムを作成します。

AI資産を同じ場所に配置したら、以下にようにLLMOpsの考え方を適用する必要があります。

• すべての生成AIモデルに適用される標準化されたガバナンスとセキュリティポリシーを作成する。
• モデルに関する主要なメトリクスをモニタリングし、必要な場合に介入するプロセスを確立する。
• フィードバックループを構築して、ユーザーからのフィードバックを活用し、生成AIアプリケーションを継続的に改善する。

DataRobotであれば、これらすべてを実現できます。私たちのAIレジストリを使用すると、すべてのAI資産を同じ場所で整理、展開、管理することができます。これは、Salesforceが顧客とのコミュニケーションのために行っていたことを、AI向けに行ったものです。

第３の障害：生成AIと予測AIの取り組みが同じ傘の下にない

生成AIと予測AIモデルを統合していない場合、重要なチャンスを逃しています。これら2つのテクノロジーを組み合わせたパワーは膨大な価値を生み出し、これらを成功裏に統合したビジネスは、ROIを効率的に実現し証明することができるでしょう。

ここでは、AIの成果物を単一の統合システムに配置した場合の例をいくつかご紹介します。

• 組織内の誰もが自然な言語で予測分析モデルをクエリできるように、SlackでGenAIベースのチャットボットを作成します（例：「この顧客が離反する可能性はどのくらいですか？」）。このように、2種類のAI技術を組み合わせることで、予測分析を引き出し、日常の業務フローに組み込み、ビジネスにとってはるかに価値が高く、アクセスしやすくなります。

• 予測モデルを使用して、ユーザーが生成AIアプリケーションとやり取りする方法を制御し、リスクを軽減します。たとえば、予測モデルを使用すると、ユーザーが高い確率でエラーを返すプロンプトを生成AIツールに送信した場合に応答を停止させたり、アプリケーションを意図しない方法で使用しているかどうかを検知したりすることができます。

• 予測AIモデルをセットアップして生成AIの対応に情報を提供し、誰でも使える強力な予測アプリを作成しましょう。例えば、技術者でない従業員が、来年の住宅価格の販売予測について自然言語で問い合わせをし、予測分析モデルが正確なデータを入力することができます。

• 予測モデルの結果から生成AIのアクションをトリガーします。たとえば、予測モデルが顧客の離脱の可能性が高いと予測した場合、その顧客に送信されるメールのドラフトを生成AIツールにトリガーしたり、セールス担当者が次回のアウトリーチ時にアカウントを救済するためにフォローする通話スクリプトを設定することができます。

しかし、多くの企業では、予測AIモデルと生成AIモデルが異なるプラットフォームにサイロ化されているため、AIからこのレベルのビジネス価値を得ることは困難になっています。

解決策： 生成AIと予測モデルを組み合わせる

DataRobotのようなソリューションを活用すれば、生成AIと予測AIのすべてのモデルを一元管理することができ、両方のテクノロジーを組み合わせた独自のAIアプリケーションを作成することができます。

それだけでなく、プラットフォームの内部から、ビジネスクリティカルなメトリクスを設定して追跡し、DataRobot AI Platformの外部で実行されているモデルであっても、その価値を保証するために各デプロイのROIを監視することができます。

第４の障害：知らず知らずのうちにガバナンスを妥協してしまう

多くの企業にとって、生成AIの主な目的は時間を節約することにあります。チャットボットで顧客からの問い合わせに費やす時間を短縮したり、チームミーティングの自動要約を作成したりすることもそうです。

しかし、スピードを重視するあまり、ガバナンスやモニタリングが手抜きになることも多くなっています。それは、風評リスクや将来的なコスト（例えば、データ漏えいの結果、ブランドが大きな打撃を受けた場合など）につながることになりかねません。また、AIモデルから今得ている価値のコストを測定したり、最適化したりすることができないということでもあります。

解決策：データを保護し、強固なガバナンス・フレームワークを維持するソリューションの導入

この問題を解決するためには、早急に確立されたAIガバナンスツールを導入して、生成AIと予測AIの資産を監視および制御する必要があります。

堅実なAIガバナンスソリューションとフレームワークには、以下が含まれる必要があります。

• 明確な役割分担：AI構築に関与するすべてのチームメンバーが、誰が何に責任を持つかを把握します。
• アクセス制御：個人または役割レベルでのデータアクセスとモデルの変更権限を制限し、企業データを保護します。
• 変更および監査ログ：法的および規制の遵守を確保し、リスクを回避します。
• モデルの文書化：モデルが機能し、目的に適していることを示すための文書を作成します。
• モデルインベントリ：展開または起源に関係なく、AI資産を管理し、監視するためのインベントリを作成します。

現在のベストプラクティス： LLMを企業データで拡張することで、データや情報の漏えいを防ぐことができるAIガバナンスソリューションを見つけましょう。

DataRobotのAI プラットフォームには、このようなセーフガードが組み込まれており、ベクトルデータベースビルダーを使用すると、従業員のアクセスをより適切に制御し、機密情報を漏らすことなく、各ユースケースに関連性の高い回答を行うために、ユースケースごとに特定のベクトルデータベースを作成することができます。

第５の障害：AIモデルを長期間維持するのは難しい

前述のDelloiteのレポートによると、メンテナンスの欠如は、生成AIからビジネス成果を得るための最大の阻害要因の一つです。優れた保守がなければ、モデルが意図した通りに機能しているかどうか、またユーザーが正確な応答を得て、データに基づいたビジネス上の適切な意思決定を行うのに役立つかどうかを確信する方法はありません。

要するに、素晴らしい生成アプリケーションを構築することは素晴らしいスタート地点ですが、メトリクスを追跡したり、使用データやベクトルデータベースの品質に基づいて継続的に改善するための中央集権的なワークフローがない場合、次のいずれかを行います。

1. インフラ管理に膨大な時間を費やす。
2. 時間の経過とともに生成AIモデルを劣化させる。

どちらも長期的に持続可能な（あるいは安全な）選択肢ではありません。悪意ある行動や生成AIソリューションの誤用に対する防御を怠ることは、ほぼ即座にAIへの投資の将来の価値を制限します。

解決策： AIモデルの監視を容易にする

生成AIの価値を高めるには、ガードレールと安定したモニタリングが必要です。AIツールを活用して、以下を追跡することが必要です。

• 従業員や顧客が生成したプロンプトやクエリを時間の経過とともに追跡し、ベクトルデータベースが完全かつ最新であることを確認します。
• 現在のLLMが（まだ）AIアプリケーションにとって最適なソリューションであるかどうかを確認します。
• GenAIのコストを追跡し、依然としてプラスのROIが得られているかどうかを確認します。
• モデルを再トレーニングする必要があるかどうかを把握します。

DataRobotはそのような制御レベルを提供します。すべての生成AIおよび予測AIアプリケーションやモデルを同じ安全なレジストリに統合し、次のことができます。

• 特定のユースケースに関連するカスタムパフォーマンスメトリクスを設定する
• サービスの健全性、データドリフト、および精度統計などの標準メトリクスを理解する監視ジョブをスケジュールする
• カスタムルール、通知、および再トレーニング設定を設定する。チームがAIのメンテナンスを容易に行えるようにすると、経時的にメンテナンスを怠ることはありません。

第６の障害：コストが高すぎる – あるいは追跡が難しい

生成AIには、深刻なコスト・ショックが伴うことがある。当然ながら、ビジネスリーダーは、意味のある結果を見るのに十分な規模でそれを展開したり、ビジネス価値という点であまり回収できないまま多額の費用をかけたりすることに抵抗を感じます。

特に、誰がAIアプリケーションを使用しているのか、なぜ使用しているのかを実際に監視していない場合、生成AIのコストをコントロールし続けることは大きな課題となります。

解決策： 生成AIのコストを追跡し、ROIを最適化する

各AI導入のコストと使用状況を監視できるテクノロジーが必要です。DataRobotを使用すれば、エラーのコストからLLMの有害度スコア、全体的なLLMのコストまで、すべてを追跡できます。アプリケーションに応じてLLMを選択し、コスト効率を最適化できます。

そのようにすることで、生成AIでお金を無駄にしていないか心配する必要がありません。AIをどのように使用しているかと、各アプリケーションから得られるビジネス価値を正確に証明できます。

DataRobotで測定可能なAI価値を提供する

適切なテクノロジーがあれば、生成AIからのビジネス価値を証明することは不可能ではありません。エンタープライズ・ストラテジー・グループによる最近の経済分析によると、DataRobotを使用することで、既存のリソースを使用する場合に比べて75％から80％のコスト削減が可能であり、投資対効果は3.5倍から4.6倍になり、AIによる初期価値の実現までの時間を最大で83％短縮することができます。

• DataRobotは、生成AI資産からのROIを最大化するお手伝いをします。
• GenAIのデータ漏洩やセキュリティ侵害のリスクを軽減する 
• コストの抑制
• 組織全体のAIプロジェクトを同じ場所に集める
• 柔軟性を維持し、ベンダーの囲い込みを回避します。
• オリジンやデプロイメントに関係なく、AIモデルの管理とメンテナンスを容易にする