多様なメンバーで構成された事業開発チームが、デジタルディスプレイから得られた顧客インサイトを活用してマーケティング戦略を立案し、キャンペーンを開始します。

ブログ
デジタルトラスト

AIマネジメント：イノベーションと監視のバランス

AIは適切に管理されて初めて価値を発揮します。管理策、監視、説明責任が、イノベーションのスピードを落とすことなく組織を守る仕組みをご紹介します。

知っておくべきこと

AIへの投資が成果を生むのは、出力の正確性、信頼性、組織の目標との整合性を確保する管理策が整っている場合に限られます。
効果的なAIマネジメントは、主要なリスク領域を特定し、それらを現行および今後登場する規制と照らし合わせることから始まります。
AIバリューチェーンにおける自社の役割を明確にすることで、最も関連の深い法的要件およびコンプライアンス要件に優先順位を付けられます。
AIには人間による監視が必要であり、設計からパフォーマンスのモニタリングに至るまで、あらゆる段階で明確な説明責任および管理策が求められます。
リスクに見合った管理策を導入すれば、イノベーションのスピードを落とすことなく組織を守れます。

AIの価値を十分に引き出すには、投資だけでは足りません。開発する側であれ、利用する側であれ、効果的なAIマネジメントが必要です。求められるのは、明確な監視、定められた役割、およびAIライフサイクル全体でリスク、コンプライアンス、イノベーションを整合させる管理策を組み合わせたマネジメントです。

AIの進展が管理を追い越したらどうなるか？

多くの組織と同様に、コスト削減、イノベーションの促進、競合他社との差別化を目指して、人工知能（AI）の活用を急いでいることでしょう。わずか数年でAIは周辺的な存在から、長期的な戦略および成長を左右する重要な検討事項へと変わりました。もはやAIに投資するかどうかを問う段階ではなく、どこに投資し、どれだけ投じるかを決める段階に入っています。

とはいえ、AIが誤った結果を出すことはあります。シカゴ・サンタイムズ紙は最近、AIが生成した実在しない書籍の読書リストを掲載しました。iTutorグループは、AIを活用した採用ツールが55歳以上の女性応募者を自動的に不合格としたことで、36万5,000ドルの和解金を支払うことになりました。これらの事例は、AIの誤りがいかに早く現実の影響につながりうるかを示しています。

AIを活用すれば、時間もコストも節約できます。しかし、適切に管理されなければ、その両方を同じように浪費しかねません。誤りは信頼を損ない、法的リスクを招き、評判を傷つけるおそれがあります。

課題は、AI導入を急ぐあまり、新たなリスクが必ずしも特定され、管理されるとは限らない点です。BSIの調査によれば、正式なプロセスでAIの利用を管理している組織はわずか47%にとどまります。また、自社の従業員がAIを効果的に活用できるスキルを備えていると考えている組織は、わずか57%です。導入と管理のこのギャップこそが、AI投資が期待を下回り始める原因です。

AIへの投資を価値あるものにするには、適切な成果が得られることを担保するマネジメントシステムが必要です。

AI活用における役割とは？

効果的なAIマネジメントは、AIライフサイクルにおける自社の役割を理解することから始まります。

効果的なAIマネジメントシステムを設計するには、その前に、組織内でAIがどのように使われているかを明確にする必要があります。

AIについてどのようなビジョンを描いているでしょうか。
何を達成したいのでしょうか。
責任はどこから始まり、どこで終わるのでしょうか。

組織がAIソリューションを開発する場合もあります。それをクライアント環境に組み込む場合もあります。あるいは、第三者が開発したAIシステムを利用するだけの場合もあります。

組織が担う役割は、リスクおよび説明責任のあり方を直接左右します。AIマネジメントの国際規格ISO/IEC 42001が定める利害関係者の役割を参考に、どの役割が最も当てはまるかを検討してください。

プロデューサー：特にサイバーセキュリティに関して、設計上のリスクを負います。
パートナー：導入リスクを負います。
プロバイダー：サービスの信頼性、セキュリティ、継続性に責任を負います。
カスタマー：AIがどのように使われるかについて最終的な説明責任を負います。

役割によって、必要となるケイパビリティも決まります。AIソリューションを開発するなら、高度な技術的専門知識が必要になります。一方、カスタマーとしては、組織全体に対するより幅広い理解が求められます。

AIマネジメントに万能のモデルはありません。ただし、役割を定めれば、具体的な責任範囲を明確にできます。これが、組織に適したガバナンス体制を構築するための基準となります。責任あるAI導入は、イノベーションを可能にしながら組織を守ります。

AIのリスクおよび義務はどこにあるか？

自社の役割を理解したら、次のステップは、どこにリスクがあり、規制がどのように適用されるかを特定することです。例えば、EU AI法は、欧州においてより安全で責任あるAI導入を進めるための枠組みを提供します。

ただし、AIに特化した法律が適用されるかどうかにかかわらず、すでに法的義務を負っている場合があります。プライバシー、サイバーセキュリティ、製品安全に関する法令がいずれも関係する可能性があります。一般データ保護規則（GDPR）に基づく透明性および自動意思決定に関する要件は、すでに何年も前から適用されています。コンプライアンスはAI固有の法律から始まるわけではありません。現在のコンプライアンス義務にも目を向ける必要があります。

まず自社の役割を理解することで、最も重要なリスクおよび義務に集中できるようになります。BSIのAI Foundation Frameworkは、組織固有の状況におけるリスクを特定することでこれを支援し、適切な水準の管理策を導入できるようにします。しかも、イノベーションを阻害することはありません。

まだ人の目が届いているか？

信頼を築くには、AIに人間による監視が欠かせません。その形は使い方によって異なりますが、説明責任は常に個人まで遡れる必要があります。これは組織のトップから下へと順に波及します。各階層に役割および責任を組み込むことで、先送りを防ぎます。

次の点を自問してみてください。AIライフサイクル全体にわたって明確な監視ができているでしょうか。

設計および構想の段階から、出力の正確性、バイアス、リスクのモニタリングに至るまでが対象です。現状では、新しいAIツールを導入するための明確なプロセスを定めているのは企業の33%にすぎません。これがなければ、AIの利用が広がるにつれて、正確性および説明責任を確保することが難しくなります。AIが意図どおりに動作しているかを評価する標準化された方法を持つのは35%にとどまります。効果的な監視には、AIが動作する範囲を定める意思決定のガードレールを人間が設定することが必要です。さらに、そのガードレールを信頼できる状態に保つ人間の存在も必要です。

これを実現するには、国際的なベストプラクティスに照らしたスキルおよびトレーニングへの投資が必要です。ソフトウェア開発の現場では、リスクおよび管理策を確認するまで次の段階に進めない必須のチェックポイントを設ける方法もあります。設計手法として人間中心のAI（HCAI）を取り入れ、人のニーズおよび価値観をAIソリューションの中心に据える方法もあります。いずれも、責任あるAI導入およびイノベーションの後押しにつながります。

AIを組織に取り入れることを検討する際は、まず現状を整理してみてください。

AIライフサイクルの中でどのような役割を担っているでしょうか。
それはリスクおよび説明責任にどう影響するでしょうか。
さらに、AIライフサイクル全体に人間の責任をどのように組み込めるでしょうか。

適切に行えば、マネジメントは不要な負担にはならないはずです。むしろ、リスクを減らし、長期的な価値を築く機会を生み出すはずです。

自信を持って前進する方法

効果的なAIマネジメントは、現在どの位置にいるのか、次にどこへ注力すべきかを把握することから始まります。

BSIのモジュール型AI Foundation Frameworkが、これを支援します。現在のケイパビリティを評価し、自社固有のリスクプロファイルを特定し、最も効果の大きい実践的な取り組みに優先順位を付けるのに役立ちます。

このフレームワークの中で、AIマネジメントモジュールは、AIシステムが実際にどの程度適切に管理されているかに焦点を当てます。広く認められたISOおよび米国国立標準技術研究所（NIST）の規格に基づき、次の取り組みを支援します。