本ブログはグローバルで公開された「Your AI Infrastructure: Getting It Right」の抄訳版です。
AIインフラストラクチャについて、一度立ち止まって全体を見直してみましょう。あなたの組織は、AIプロジェクトを成功に導くための環境が整っていると自信を持って言えますか？また、生成AIの話題を耳にしたとき、ご自身の組織やインフラストラクチャは、その変化の荒波を乗り越える準備が整っていると言えるでしょうか。
AIインフラストラクチャを成功させる要因とは何なのか、インフラ構築時に組織が陥りがちなよくある失敗とはどのようなものなのか。そして、成功を客観的に評価するためにはどのような指標を用いるべきかについて、深く掘り下げて解説しています。
AIインフラストラクチャには「すべての要素」が含まれる
AIインフラストラクチャは、単一のソリューションを指すものではありません。単にネットワークを構築して終わり、という単純なものではないのです。むしろ、AIプロジェクトのエンドツーエンドのライフサイクル全体をカバーする、すべてのシステムとプロセスを含める必要があります。具体的には、新しいユースケースの検証、データセットや特徴量の準備、モデルのトレーニングと本番環境へのデプロイ、そしてモデルのパフォーマンスや精度のモニタリングをシームレスに実行できる能力を備えていることでもあります。これらのさまざまな要素を適切に連携させることで、AIを成功へと導く強固な基盤を築くことが可能になります。
効果的なインフラストラクチャを構築するには
効果的なインフラストラクチャの構築は、3つの主要な要素、すなわち「迅速な実験（Experimentation）」「信頼性の高い本番稼働（Production）」「進化するエコシステムへの適応力（Adaptability）」のバランスを取る作業だと言えるでしょう。
実験（Experimentation）
モデルの迅速な実験や検証において、時間は最も重要な要素です。スピーディに行動し、組織の成長を自然な形で促したいと考えるはずです。また、チーム内の重要なメンバーがデータに簡単にアクセスできる環境を整えることも不可欠です。求めるビジネスへのインパクトを明確に理解することで、はじめて適切なデータアクセスポリシーを策定できるようになります。
本番環境のオペレーションを遅らせたり、大きなコストを伴うミスを防いだりするためには、実験環境と本番環境を明確に分離することが非常に重要となります。これにより、本番環境を妨げることなく、はるかに速いサイクルで検証を繰り返すことが可能になります。さらに、次のような重要な問いを常に立てるべきでしょう。「これは本当に有効なユースケースか？」「すべてのプロセスが文書化されているか？」「本番環境に移行する準備は整っているか？」
ツールの選定においても、時間とコストの削減に直結する優れたテクノロジーが存在することを覚えておいてください。モデル開発プロセスの整合性を担保するためにも、実験段階における「再現性」を重視することが求められます。
本番稼働（Production）
本番環境での機械学習は、推論に使用されるデータがトレーニング時のデータと類似しているという前提のもとに成り立っています。しかし現実には、データの変化や外部環境の変動、あるいは上流のソフトウェアシステムの変更などにより、この前提が崩れる事態を想定しておく必要があります。データドリフト、モデルドリフト、精度低下などを検知する高度なモニタリング機能を活用することで、本番環境のパイプラインを強固に保護できるようになります。
本番稼働のスケールで価値を創出するためには、組織横断的なコラボレーションも不可欠です。そのため、部門間の連携を促進するツールやテクノロジーへ積極的に投資を行うべきでしょう。データサイエンティストが大量のコードを機械学習エンジニアにただ丸投げするような事態は避け、達成すべきビジネス目標を関係者全員が深く理解している状態を作り上げてください。そうすることで、状況が変化した際（変化は避けられないものです）にも、この強固な協力体制に頼りながらAIプロジェクトを推進し、ユースケースをより迅速に本番環境へと移行させることができるのです。
適応力（Adaptability）
物事は常に変化するものです。世界は動き、データはすぐに古くなり、モデルの精度は低下し始めます。このような事態が発生した際、迅速に適応することが求められます。そのための効果的なアプローチの1つが、実験段階で「完璧」を求めすぎないことです。あまりにも多くのチームが、モデルが完璧な状態になるまで本番環境への移行を待とうとしますが、このプロセスにより1年以上も身動きが取れなくなるケースが散見されます。もし、モデルを本番環境へ導入するのに1年もかかっているなら、それは明らかに長すぎると言えるでしょう。3ヶ月以内に「十分に機能する（Good enough）」モデルをリリースすることに注力すれば、はるかに俊敏な運用が可能になります。
何よりもユースケースに集中してください。達成したいROIを徹底的に考えることで、よりターゲットを絞った投資先を決定できるようになります。また、小さなユースケースに焦点を当てて迅速に反復を繰り返すことで、「実験から本番稼働へのプロセス」が再現可能となるようなインフラストラクチャを構築することができます。
新しいテクノロジーを導入するたびに、事後評価（ポストモーテム）を実施し、「何が私たちの足かせとなったのか？」を問い直す習慣をつけるべきでしょう。これが自社のインフラストラクチャを正しく評価し、さらなる効率化の扉を開く鍵となるのです。