説明可能な AI | DataRobot AI Cloud

信頼できる AI を構築する

DataRobot の説明可能な AI によって、モデルの動作を理解し、予測結果に自信を持つことができます。AI の透明性が不十分だと、システムを信頼しきれず、予測結果をビジネスの成果に結び付けにくくなる可能性があります。説明可能な AI なら、モデルの意思決定プロセスを容易に理解できるので、開発と実用可能な成果との隔たりを埋められます。

DataRobot の説明可能な AI では、AI ライフサイクルの全段階で説明可能性を利用できます。

データを理解する
モデルを理解する
デプロイを理解する
文書化する

AI の動作を理解する

説明可能性は DataRobot プラットフォーム全体に組み込まれており、どのステップでもユーザーの助けになります。グローバルな説明技術を利用すれば、モデルの動作や、特徴量がモデルに及ぼす影響を理解できます。特徴量のインパクトでは、モデルに最も大きな影響を与える特徴量が分かります。特徴量ごとの作用では、特徴量の変化がモデルにどんな作用を及ぼすかが正確に分かります。

モデルが決定を下した理由を理解する

局所的な説明として、モデルが予測を行った理由を行レベルで説明してくれます。予測の説明では、個々の予測結果とそのインパクトに影響を与えた特徴量と値が分かります。これらの情報は、モデルトレーニング中またはスコアリング時に取得することが可能です。

モデルを詳細に調べる

DataRobot は、独自のモデルタイプや複雑なデータセットに特化した説明機能を備えています。アクティベーションマップと画像埋め込みは、視覚的なデータをより正しく理解するのに役立ちます。クラスターインサイトでは、クラスターを特定し、その特徴量の性質を知ることができます。安定性には、さまざまな予測距離に対する時系列モデルの精度が示されます。以上は、説明可能性に特化した機能のほんの一部にすぎません。

運用を完全に可視化する

DataRobot の文書自動生成機能により、モデルのドキュメント作成プロセスをスピードアップできます。コンプライアンスレポートでは、手法やパフォーマンスといったモデルの重要な要素を文書化できます。これはコンプライアンス業務の迅速化に役立ちます。デプロイレポート（英語）では、デプロイ後のモデルの動作を文書化できます。これには、データドリフト、サービスの正常性、精度などのセクションがあります。

モデルの本稼働状況を理解する

説明可能性は、モデルのデプロイ完了後も継続します。DataRobot MLOps を使用すると、本番環境にデプロイ済みのモデルを監視できます。データドリフトでは、モデルの予測結果がトレーニング以降に変化したかどうか、スコアリングに使用されたデータがトレーニングに使用されたデータと異なるかどうかを確認できます。精度では、時間経過に伴うモデル精度の変化を詳しく調べることができます。さらに、サービスの正常性では、IT の観点からモデルのパフォーマンス情報を確認できます。