DataRobot AI勉強会レポート ： 今後、日本企業が取り組むべきガバナンスの最前線 〜有事に“適切に稼働する”AIガバナンスとその構築方法〜

※本内容は、2023年1月25日イベント開催時の情報となります。

DataRobotはメディア向けAI勉強会「今後、日本企業が取り組むべきガバナンスの最前線有事に”適切に稼働する”AIガバナンスとその構築方法」を開催しました。

企業のAI活用が進む中、AIガバナンスは企業が取り組むべき喫緊の課題の一つになっています。昨今ではAI先進企業、とりわけ大企業においてAIガバナンス強化の取り組みが活発化しており、経済産業省でもAI原則の実践の在り方に関する検討会を発足させるなど、政府・官庁による法整備に向けた動きも加速しています。

こうした背景のもと、DataRobotではAIガバナンスの概要と企業の取り組み方について学べる機会を創出するため、報道関係者に向けた「AI勉強会」を実施いたしました。

当日は、DataRobotでさまざまな業界のAIプロジェクトを担当し、金融チームをリードするデータサイエンスディレクター小川幹雄(2023年1月時点)とEYストラテジー・アンド・コンサルティング株式会社で金融サービス リスクマネジメントを担当する楠戸健一郎氏が登壇し、AIガバナンスの必要性や策定に必要なポイントを実例を交えて解説しました。

⚫️当日のスピーカー　※所属、役職はイベント開催当時の情報

楠戸 健一郎 氏（EYストラテジー・アンド・コンサルティング株式会社 金融サービス　リスクマネジメント シニアマネージャー）

小川 幹雄（DataRobot / 一般社団法人金融データ活用推進協会 企画出版委員会 副委員長）

第一部：スピーカーセッション

AI勉強会は、楠戸氏と小川によるテーマセッションからスタートしました。

1. 今後求められるモデルリスク管理・ ガバナンスの検討(楠戸氏)
2. AI倫理・ガバナンス・ツールの関係性について(小川)

1、今後求められるモデルリスク管理・ ガバナンスの検討

まず、楠戸氏からは「企業におけるモデルリスク管理の重要性」や「ガバナンス構築に向けたポイント」、「AI・機械学習の利活用におけるガバナンスの潮流」について解説。国内外の企業が定めているAI倫理ポリシーや、内閣府/経産省/金融庁などが示すガイドラインを参考に、企業が自社のポリシーに則った業務ガイドラインへ落とし込む上でクリアすべきポイントを紹介しました。(例：態勢構築や、業務プロセスの整備の重要性など)

「今日までは、業務領域ごとでの管理を中心として、モデルの管理が行われていました。しかし、金融機関におけるモデル活用領域の拡大に伴い、金融庁の『モデルリスク管理に関する原則』が要求するように、今後は幅広い種類のモデルに対する全社横断的かつ包括的なガバナンス・コントロールの必要性が高まると予想します。また、AI・機械学習等テクノロジーの進展に対応した、これまでと違った管理のあり方も必要になると考えられます」(楠戸氏)

2、AI倫理・ガバナンス・ツールの関係性について

続く小川のセッションでは、AIの広がりと共に、いくつかの課題が顕在化している現状への対応策を提言した。AI活用を進める先端企業が抱える課題とAI倫理・AIガバナンスの関係性を明らかにしつつ、AI管理ツールとしての「ML プロダクション（MLOps）」の重要性を解説した。AIへの注目が高まる今、ML プロダクションとの結びつきが分離したままAI倫理・AIガバナンスを策定・実践することは、ビジネスをドライブする上で大きな障壁になる可能性があり、それらを回避するためにどのようにAIガバナンスの体制構築・運用を進めるべきか、その勘所について、AI活用支援のプロフェッショナルの視点から実例を交えて紹介した。

「AIの活用領域の拡大に伴い、顕在化した3つの問題が顕在化しています。それは『車輪（モデル）の再開発』『精度の劣化』『倫理の欠如』です。企業はこれらを解決する手立てとしてAIガバナンスを構築することが必要です」(小川)

AI勉強会第二部：パネルディスカッション

各スピーカーによるテーマセッションの後、楠戸氏と小川によるパネルディスカッション「日本におけるAIガバナンスの現在地と 2023年に取り組むべきこと 」を実施。AIガバナンスに取り組む上で考えておくべきポイントについて、AI活用の現在地と近い未来のAIの在り方について議論を行った。

1. 日本のAI活用の現状
2. ソリューションと体制、どちらを優先すべきか
3. 今後、業界や国でAIガバナンスはどのような動きになっていくか

テーマ1： 日本のAI活用の現状

楠戸氏：金融機関へのAI活用とモデルリスク管理の両方を支援してきた経験から、AIガバナンスの重要性がますます高まると感じています。現在、目的や業務に応じたAIの活用範囲が急速に拡大しています。その中でAIを活用する側においても、「この目的にAIを活用してもよいか」という意識を持つ方も増えています。

その一方、「組織内にモデルやAI利用に関する共通ルールが十分に定まっているか」という点では、疑問も生じます。今後、AI活用がさらに促進され、発展していくためには、その土台(=ガバナンスや管理)が大切なカギを握っていると考えています。

小川：AI活用の現状をマラソンに例えると、日本はレースの中盤まで来たように思います。数年前の国内企業は、”AI活用のスタートを切るか否か”程度の差しかありませんでした。しかし今や国内でも「先頭グループ」「遅れを取り始めたグループ」が出始めてきています。そのグループも順位の違いだけでなく、「走り続けているグループ(AI活用を継続的に行っている企業)」「停滞しているグループ」「スタートで出遅れたがゴボウ抜きするグループ」と展開スピードの差も出ており、企業間で大きな差が出てきていると感じます。

その中でも特に、先頭グループに属し、今後も走り続ける企業は、AIを活用し続けるだけではなく、AIガバナンスに対するマインドチェンジも進めなければなりません。今後、AI倫理やAIガバナンスの重要性が顕在化してくるにつれ、取り組みに出遅れた先頭グループの企業は危機感を感じ始めるでしょう。

テーマ2： ソリューションと体制、どちらを優先すべきか

小川：同時が正解だと思っています。まず、体制整備後のソリューション選定はおすすめしません。なぜならガバナンスに対応できる完璧なソリューションが未だ無いため、のちのち体制を考え直す必要性が生じるからです。

一方、「ソリューション在りきの体制整備」は、体制を維持できない可能性があります。どちらから取り組むかという意味では、微差でソリューションが優先されるべきではありますが、ほぼ同時に始めるのが良いと思います。

数年後、「AIガバナンスを整備する」ことが当たり前となり、未整備の企業は有り得ないという時代になると考えています。その時点でAI導入を検討し始める企業は、そもそも競争に参戦できない可能性も出てきます。なぜなら、そこからAIを作り、守れるだけの体制までも構築する気概があるかどうかを踏まえると、これまで以上に導入する障壁を高く感じることになるからです。

楠戸氏：小川さんの意見に1つ付け加えると、私は、「体制整備」「管理の枠組み構築」「ソリューション」の3つを同時に進める必要があると考えています。

まずソリューションが先走ってしまえば、組織全体のガバナンスを見失う可能性があり、枠組みだけが先行すれば、誰が・何を実行すべきか組織内で疑問が生じます。また、体制だけでは、ガバナンスの実効性が失われる可能性があります。よって、すべてを同時並行的に進めていく必要があるでしょう。

AI活用やAIガバナンスに関するプロジェクトを進める際には、自社の特性に沿った対応を行うことが大切です。金融庁のモデルリスク管理の原則にも「相当の時間を要することが見込まれる」と言及されている通り、包括的なモデルリスク管理の構築は一朝一夕でできるものではありません。これを踏まえ、ＡＩガバナンスの構築にあたっても、自社の現状や自社が進むべき方向を明確化した上で、優先順位をつけながら段階的に実行していくのが大切です。

 テーマ3： 今後、業界や国でAIガバナンスはどのような動きになっていくか

楠戸氏：金融庁は2021年11月、大手銀行に向けてモデルリスク管理に関するガイドラインを発表しました。これを受けて原則の対象である大手銀行が対応を進めています。また、対象の銀行以外でもこの原則を認識し、自社におけるモデルリスクやその対応など、検討も始まっています。

金融庁のガイドライン発出は、AIモデルの管理やAIガバナンスについても金融業界全体として検討・推進する契機となったと思います。実際に推進が始まったのが現状であり、これからさらに形作られ、構築されていくでしょう。

小川：日本においてAIガバナンスは、今はまだスタート段階だと感じています。今後AIガバナンスの策定・実行が促進する業界については、まずは規制産業である金融業界が最も早く進むと思います。それに続き、人命に関わるヘルスケア業界、人生・キャリアに関わる人材業界でさらに活発化すると予想します。製造業では、製品のリコールに関わるような管理分野、流通業でも加速化していくでしょう。

また、会社規模という観点でいえば、まずは大手企業から進んでいくと考えています。AIガバナンスをおろそかにした企業が最も恐れるのは、AI倫理が守られていないことによる”風評被害”と”ブランドイメージの毀損”です。そのため企業イメージを大切にする組織ほど、自社存続のためにAIガバナンスの導入に舵を切ると考えます。

一方で、国内外問わず、AIガバナンスに関する細かいルールは未だ制定されていない現状もあります。しかし、AIガバナンス策定や管理を徹底する企業・組織が今後増えていけば、自ずとそれが業界のスタンダードとして定着します。そのため、日本では各企業・組織が自らAIガバナンスに関するグレーゾーンに対して徐々に線引きしていき、ゆくゆくは「AIガバナンス・AI倫理に関しては、各々がきちんとルールを守りましょう」という認識になっていくと予想しています。

⚫️スピーカー紹介

楠戸 健一郎　EYストラテジー・アンド・コンサルティング株式会社　金融サービスリスクマネジメント　シニアマネージャー

コンサルティング会社を経て2021年に入社。主に金融機関向けにデータ分析とリスク管理を軸としたコンサルティングサービスに従事。金融機関におけるAI・機械学習推進においては、CoE組織構築・推進や、幅広いテーマにおいて課題発掘から業務適用・検証までアナリティクスプロセス全体にわたる活用支援を実施してきた。最近では、モデルリスク管理態勢構築やコンプライアンス領域等非伝統的な領域を含むモデル検証等の実務対応、AI倫理対応等のAI・機械学習モデルに対するモデルガバナンス対応に関するサービス開発・提供にも携わっている。

■EY、EYストラテジー・アンド・コンサルティング株式会社について

EYは、「Building a better working world ～より良い社会の構築を目指して」をパーパス（存在意義）としています。クライアント、人々、そして社会のために長期的価値を創出し、資本市場における信頼の構築に貢献します。150カ国以上に展開するEYのチームは、データとテクノロジーの実現により信頼を提供し、クライアントの成長、変革および事業を支援します。

EYストラテジー・アンド・コンサルティング株式会社は、企業の成長のための戦略立案、M&Aトランザクションそしてビジネス変革を推進するコンサルティングサービスから成り立つEYのメンバーファームです。業種別の専門チームが起点となり、ストラテジーからエグゼキューション（M&A）、ストラテジーからトランスフォーメーションをワンストップで支援します。

小川 幹雄　DataRobot Japan, VP, Japan Applied AI Experts / 一般社団法人金融データ活用推進協会 企画出版委員会 副委員長

DataRobot Japanの創立期に参画し、様々な業務を担当してビジネス拡大に貢献。その後、金融業界を担当するディレクター兼リードデータサイエンティストとして、金融機関のAI導入支援やCoE構築支援をリード。2023年からは日本のAIエキスパート部門の統括責任者に就任。AI導入・活用支援のノウハウを活かし、公共機関や大学機関での講演も行っている。また、一般社団法人金融データ活用推進協会（FDUA）の企画出版委員会の委員長代行も務めている。

【関連情報】

【オンデマンドWebinar】バイアスへの対処と信頼できるAI実現への道のり

【ブログ】モデル・リスク管理の原則におけるAIモデルの対応について

【プレスリリース】AI管理・ガバナンスを強化するコンプライアンスドキュメント（日本語版）の提供を開始