AI モデルの利用が推奨されるケース

あなたのビジネスはあなたが一番知っています。そして AI モデルは、何よりもまず、自由に使えるツールの 1 つにすぎません。AI が特定のユースケースに適しているかどうかは、モデルを構築する前に問われるべき質問です。とはいえ、継続的に見直しを行い、現在のモデルとプロセスが引き続き適切かどうかを再評価することにも、当然ながら十分な理由があります。 

たとえば、把握できている進展状況をすべてモデルに伝達しきれていないかもしれません。また、大型連休や新製品の発売など、モデルの予測トレーニングの対象となった通常の行動パターンが当てはまらない、特定のイベントや期間があるかもしれません。進化し続けるデジタルおよびソーシャルメディアの世界でも、モデルの対応力を維持できる、という点も理由になります。オンラインの世界で、言語や言葉の意味は常に変化しています。プラットフォームは、モデルを再トレーニングして再デプロイするプロセスよりも、手動で調整し、特定の条件でモデルをオーバーライドする方が、こうした変化に迅速に対応できます。

モデルの予測結果の利用方法

モデルの予測結果を利用する方法については、主に 3 つのパラダイムがあります。

• Human-in-the-loop（人間参加型）: 人間の運用者が、AI システムの推奨事項や予測結果を考慮に入れつつ、最終決定を下します
• Human-out-of-the-loop（人間除外型）:人間の運用者が関与せずに、AI が最終決定を下します。つまり完全な自動化です
• Human-over(seeing)-the-loop（人間監督型）: 人間の運用者は監督的な役割を果たし、AI が想定外のシナリオに直面したり、予期しない動作をしたりした場合に介入することができます

多くの場合、モデルに最適な戦略が上記のどれかを決定づけるのは、プロセスのニーズです。完全な自動化が必要な場合は、Human-out-of-the-loop が最も適しています。ただし、謙虚さに関するトリガーやアクションを一部実用化できれば、不確かな状況で役に立ちます。

最終的な意思決定を行うために、予測に加えて共有すべき情報

予測結果に加えて、モデルの確信度、およびユーザーに示す根拠となる要素について、情報を出力することもできます。謙虚さのセクションで説明したように、モデルの確信度に関する情報は、人間の意思決定者が予測結果を検討し、解釈する際に役立ちます。

説明可能性に関するツールは、システムに対するユーザーの信頼を獲得するうえで非常に役立ちます。クレジットスコアの標準的な算出過程と同じように、AI モデルは、上位の特徴量およびその入力値が予測結果にどのように影響したかを出力できます。それらの値が確定されるプロセスを知り、モデルがどのような理由でそれらの値を使用したのかを理解できれば、予測そのものへの信頼の確立に非常に役立ちます。