DataRobot Fall 2023

信頼性の高い生成 AI を DataRobot で実現

DataRobot の最新リリースは、生成 AI で現実世界の価値を作り出せるという確信を強めることになるでしょう。自由な選択ができることで構築は高速化し、完全な透明性によってガバナンスが徹底され、正確で制御が行き届く運用が可能になります。

正確で制御が行き届く運用

包括的なインサイトとガードレール機能によってモデルを継続的に改善すると同時に、全体のデータセキュリティを維持します。

統合コンソール: 本稼働前のすべての生成 AI および予測 AI のモデルを、その出所にかかわらず、ひとつの統一された場所で監視できます。

生成 AI ガードモデルと人間によるフィードバックループ: 生成 AI と予測モデルを組み合わせ、有害性、感情、個人情報の漏洩、プロンプトの取り込み、正確性などの属性について実稼働モデルの評価を行います。生成された応答の品質に関するユーザーからのフィードバックを通じてモデルを継続的に改善します。

すぐに使えるように提供される指標とカスタムの指標: テキストドリフトやサービス正常性など、事前定義された指標を使用して生成 AI モデルと予測 AI モデルを評価できます。また、特定のビジネス目標に照らしてパフォーマンスを測定するためにユースケース別の指標を設定することもできます。迅速な介入を行うために、指定のしきい値を指標が超えたときにリアルタイムで通知を受け取ることも可能です。

モデルの監視

完全な透明性によるガバナンス

すべての AI をひとつの統一された場所から管理します。プラットフォーム上で、またはプラットフォーム外で構築された生成 AI モデルと予測 AI モデルのすべてが対象です。

モデル登録の統合: 生成 AI モデルと予測 AI モデルの両方について、それぞれの出所に関係なく、ひとつの統一された場所で本稼働前にテストと評価を行えます。

生成 AI のコストに関するインサイトの指標: 情報に基づいてコストパフォーマンスの判断を行うために、カスタマイズ可能な指標を用いてデプロイレベルでリアルタイムに生成 AI のコストを監視します。コストが指定のしきい値を超えた場合にはアラートを受信できます。

エンタープライズグレードの LLM デプロイ機能: 1 つのデプロイメントを 1 つのフローとして登録し、生成 AI の「レシピ」全体を監視します。本番環境の変更には承認や許可のワークフローを設定し、手間のかからないバージョン管理を実現します。

カスタムジョブのインサイト: カスタム環境や依存関係とともにテストをグループ化し、モデルの承認やシナリオチェック、パーソナライズされた説明可能性に関するインサイトの取得を可能にします。

バッチベースの監視: データドリフトや精度などのモデル監視統計を、特定のバッチジョブごとに追跡管理します。

レジストリ内のグローバルモデルとパブリックモデル: Hugging Face の有害表現分類などが適用されたパブリックモデルは、DataRobot または組織の管理者が追加することによって利用可能になります。各ユーザーによる登録や明示的な共有は不要です。

通知ポリシー: モデルのパフォーマンスや正常性に関する通知を即座に設定して受け取ることができます。

生成 AI カスタマーモデルの指標

自由な選択が構築を高速化

直感的なインターフェイスを使用して新しい生成 AI ユースケースを迅速に展開します。基盤となるコンポーネントは自由に選択して実験できます。

マルチプロバイダー LLM プレイグラウンド: この種のツールでは初の視覚的比較を可能にするインターフェイスです。Google PaLM、Azure OpenAI、AWS Bedrock などの外部 LLM サービスにすぐにアクセスできるだけでなく、自作サービスの利用もできます。基盤モデル、ベクターデータベース、プロンプト戦略を自由に組み合わせ、さまざまな生成 AI の「レシピ」を簡単に比較して実験できます。

モデルの比較: 単一のユースケース内で、さまざまなモデル実験のインサイトやリネージを簡単に可視化して比較できます。

カスタムタスクのためのネットワークアクセス: モデルブループリントパイプラインをカスタマイズし、独自の LLM や外部埋め込みなど、外部のモデルやサービスを API を介して統合します。

ベクターデータベースビルダー: LLM を自社データで拡張することによって、データプライバシーを守り、自社にとって有用な応答が得られるようにします。DataRobot のノートブックや UI で作成されたベクターデータベースすべてのリネージを簡単に追跡できます。

エンタープライズ向けメッセージングアプリとの統合: Slack や Microsoft Teams など、組織で使用しているメッセージングアプリとシームレスに統合できます。これによりエンドユーザーとの接点を作り、普及を促進できます。

ノートブックのスケジュール設定: ノートブックのスケジュール設定やトリガーによってワークフローを最適化します。こうした実行はすべて詳細な記録が自動的に保持されます。

ノートブックのカスタム環境統合: カスタムの依存関係や環境をノートブックセッションやカスタムモデル内で定義して再利用します。

GPU(パブリックプレビュー版): 非構造化データを扱うときに、コードまたは GUI のどちらからであっても、自動的に GPU を使用する機能を活用できます。すべて、安全対策を講じたうえで実行できます。

生成 AI アクセラレーター: DataRobot が事前に構築した AI アクセラレーターテンプレートを使用して、特定の業界や部門のユースケース向けに生成 AI をすばやく構築できます。また、Google PaLM、Azure OpenAI、AWS Bedrock などで構築された生成 AI ソリューションの LLMOps や可観測性を実現することもできます。

データ統合の機能強化: データをシームレスに接続して Databricks でラングリングを行ったり、データを BigQuery にマテリアライズしたりすることができます。

ワークベンチでの高度なモデリング設定: 新しいワークベンチ環境で高度なモデリング設定を吟味できます。

ワークベンチでの時系列モデリング: 新しいワークベンチ環境で時系列モデリング機能を活用できます。

マルチプロバイダー LLM プレイグラウンド

詳細については、DataRobot ドキュメンテーションのリリースセンターをご覧ください。