すべての AI モデルを 1 カ所で監視
生成 AI と予測 AI のすべての資産を、出所に関係なく 1 カ所に統合することで、完全な可視性を備えた合理的で効果的なエクスペリエンスを実現します。
お客様ごとにカスタマイズ可能な指標を使った詳細な分析
サービスの正常性、データドリフト、精度などの統計情報を確認し、監視ジョブをスケジュールし、独自のルール、通知、再トレーニングを設定できます。
本番環境のモデルの ROI を維持
複雑なユースケースの ROI を計算し、デプロイ環境のパフォーマンスを管理および維持します。
モデルのホスト先にかかわらず、インサイトとアラートをリアルタイムで取得
リアルタイムの正常性監視、アラート、および本番環境の詳細な診断により、デプロイ構築元やデプロイ先に関係なく、問題が発生しているデプロイ環境を正確に特定します。
リアルタイムで行う LLM への介入とモデレーション
強力な多層防御を構築し、モデレーションと介入手段をリアルタイムで実行してビジネスを保護します。すぐに使えてカスタマイズもできる豊富な保護手法と評価手法をガードライブラリと合わせて利用すれば、ハルシネーション、プロンプトインジェクション、PII リーケージなどの問題を検出および阻止できます。
すべての AI アセットをひとつの場所から一元的に追跡
可観測性が強化された DataRobot のコンソールを使用して、すべての AI/ML モデルと生成 AI アプリを、その構築場所に関係なく、統合されたひとつの環境で管理できます。予測 AI と生成 AI の両方を含めた本番環境のすべてのモデルに対して、包括的な指標や自動アラートを設定できます。また、ガバナンスの一貫性を保ちながら、組織で運用する AI すべての正常性とパフォーマンスを複数の環境にまたがって可視化できます。
最高のパフォーマンスと正常性を確保
変更を迅速かつ詳細に分析することで、ビジネスに影響が及ぶ前に対策を講じられます。ドリフトと精度を管理できる一連の機能により、すべてのモデルのパフォーマンスや正常性の監視と維持が、かつてないほど簡単になりました。生成 AI と予測 AI の両方のデプロイ環境で、データドリフトを可視化し、特定のバッチ予測の精度を追跡および比較することが簡単にできます。また、細かいセグメントまで掘り下げることで、指標全体の変化の要因を具体的に確認できます。
AI 戦略を収益に結びつける
企業は、生成 AI や予測 AI の取り組みを、売上高や収益に直接結びつけられるようにする必要があります。DataRobot のカスタム推論指標を使用すれば、生成 AI のコスト、有害性、応答の正確性など、ビジネスクリティカルな指標を作成して追跡できます。各デプロイ環境の ROI を一元的に監視できるため、モデルが DataRobot AI Platform の外部で実行中の場合でも、目に見える価値が企業にもたらされます。
各デプロイ環境のコストを簡単かつ明確に追跡できるため、必要に応じてトレードオフを行うことで、予算を予測可能にし、管理することができます。
あらゆる環境で監視ジョブを自動化
LLMOps 機能と MLOps 機能を利用すれば、運用アクティビティを包括的に把握し、AI アセット全体を追跡してアラートを生成できます。モデルのエラーやレイテンシーに関するポリシーを設定したりリアルタイム通知を自動化したりすることで、問題の検出や解決にかかる時間を短縮できます。これにより、サービスの正常性を維持し、SLA を満たし、堅牢な AI ドリブンアプリケーションを実行することが可能になります。デプロイ環境の精度の低下に対応するには、選択したしきい値に基づいて複数のアラートを作成したり、モデル更新方針を独自に作成したりして、精度の低下時やドリフトの発生時、または指定したスケジュールに従ってアクションが実行されるようにします。
「AI のみ」による意思決定を回避
予測が不確実な場合や、予測リクエストがモデルのトレーニングデータの範囲を超えている場合に、「AI のみ」で意思決定が行われないようにします。データ品質をチェックすることで、データで十分にカバーされていないトピックに対して予測が行われるのを阻止できます。
独自の謙虚さルールセットを構築することで、選択した条件に基づくカスタムアクションを予測に対して適用できます。謙虚さのルールは、AI システムに人間の専門知識をもたらし、リスクを軽減します。独自の介入ルールを定義すれば、それぞれのルールがトリガーされた頻度を時系列で簡単に追跡できます。
