2026年10月20日：BSI(英国規格協会)の新たな調査によると、日本企業の74％(グローバル：75％)が過去1年間にAIの不具合を経験し、業務効率化や事業成長を追求する上での新たなリスクとなっていることが明らかになりました。日本を含む9カ国のビジネスリーダー1,287人を対象とした本調査では、AIの不具合を経験した日本の回答者の91％(グローバル：92％)が複数回の不具合を経験したと回答し、8％(グローバル：9％)はその回数が最大 100回に上ると回答しました。また、不具合を経験した日本企業の31％(グローバル：30％)が、不具合によってセキュリティ侵害が生じたと回答しました。
- BSIの調査により、多くの組織で、AIの不具合から得られた教訓を生かすために必要な透明性とガバナンスが不足していることが判明
- 日本企業の74％が過去1年間にAIの不具合を経験
- AIの不具合を経験した日本企業の38％が「安全上の不具合」を報告
- 日本企業の63％がエージェント型AIの「セキュリティ」に懸念
このグローバル調査「The cost of AI failure(AIの不具合がもたらす損失とリスク)(※1)」は、企業が使用中または開発中のAIが意図した目的から逸脱したり、有害な結果を生み出したりした場合に、どのような影響が生じたかを検証したものです。これには、ハルシネーション、顧客への誤った情報の提供、チャットボットによる不適切な応答、エージェント型AIが意図したとおりに動作しないことなどが含まれます。調査では、不具合がすでに広範囲に及んでおり、独自のAIツールや製品を開発している企業の88％が不具合を経験していることが明らかになりました。その影響の多くは業務面に見られ、日本企業の30％(グローバル：44％)が「業務時間を浪費した」、35％(グローバル：29％)が「規制・コンプライアンス上の問題が生じた」と回答しました。また、38％(グローバル：28％)が「安全性への影響があった」と回答し、日本企業の13％(グローバル：21％)が「評判の低下につながった」と回答しました。一方、AIインシデントを管理し、迅速な対応を確保するためのプロセスを整備している日本企業は、41％(グローバル：47％)にとどまりました。
日本企業の14％(グローバル：27％)が、すでにAIの不具合による財務上の損失を報告しています。BSIの委託を受けてAlma Economicsが実施した経済モデル分析(※2)によると、こうした不具合により、年間で市場収益の最大3.6％がリスクにさらされる可能性があることが明らかになりました。市場収益とは、市場における経済活動の年間総額を指し、毎年支出または獲得される金額によって測定されます。Alma Economicsの研究者は、この数値を用 いてAIの不具合による潜在的な財務的影響を推定しました。これには、規制当局によって科される可能性のある罰金(※3)は含まれていません。日本企業の73％(グローバル：78％)がAIへの投資の増加を予想し、導入が実証段階から本番運用へと着実に移行していることから、あらゆるカテゴリーの不具合にさらされるリスクは今後さらに高まる一方であると考えられます。
現時点では、AIの不具合による直接的な財務上の影響は比較的限定的です。インシデントの多くは財務上の損失よりも業務の中断に関するものであり、現在エージェント型AIを本格的に展開している組織は、日本では13％(グローバル：13％)にとどまっています。しかし、リスクは拡大しています。
経済モデル分析では、AIシステムが複雑化するにつれて、財務リスクも拡大することが示されています。一般的なチャットボットで生じる不具合によってリスクにさらされる市場収益は0.1％と比較的小さい一方、法律サービスや経営コンサルティングなどの分野におけるAIのハルシネーションに基づく出力では、当該業界の収益の2.5％がリスクにさらされると推計されました。最も大きな財務リスクは、企業システムと自律的に連携するエージェント型ツールの導入に伴うもので、一部の業界では市場収益の3.6％がリスクにさらされる可能性があります。
組織におけるAIの導入状況
組織におけるAIの活用方法はさまざまですが、エージェント型AIの導入・検討はすでに広がっており、約9割の企業が何らかの形で活用を検討しています。Alma Economicsの分析では、エージェント型AIの不具合が最もリスクの高いカテゴリーとされ、次いで、AIによるハルシネーションや事実に基づかない出力が挙げられました。AIシステムの自律性が高まり、活用が拡大するにつれて、不具合の発見がより困難になるとともに、その発生頻度や潜在的なコストも増大する可能性があります。特に、規制当局による罰金が発生した場合には、その影響がさらに大きくなる可能性があります。
エージェント型AIの導入については、日本企業では、13％(グローバル：27％)が複数のユースケースで試験運用しており、19％(グローバル：26％)が特定のユースケース向けに導入、31％(グローバル：24％)が活用可能な用途を検討中、13％(グローバル：13％)が本格的に運用を展開しています。エージェント型AIに関する懸念については、日本企業の63％(グローバル：53％)がセキュリティへの不安を挙げ、42％(グローバル：37％)がAIガバナンスの欠如を、30％(グローバル：33％)が国内または国際的な規制が整備されていないことを懸念しています。
企業におけるAIガバナンスの進展
BSIが2025年に実施した調査では、適切なガバナンスプログラムが整備されないままAIツールが導入される「AIガバナンスのギャップ」が生じるリスクが高いことが明らかになりました。今年の調査結果は、改善が進んでいることを示しています。日本のビジネスリーダーの40％(グローバル：38％)が、自社でAIガバナンスプログラムを整備していると回答しました。前年のグローバルの割合は24％でした。
また、50％がAIの学習における機密データの利用を管理する明確なプロセスを整備しており、前年のグローバルの40％から増加しています。リスク評価の手法を導入している日本企業は39％(グローバル：49％)で、前年のグローバルの割合は30％でした。
しかし、AIの不具合を率直に把握・報告し、そこから学びを得られる組織文化を醸成できているかという点については、依然として疑問が残ります。調査結果は、認識と実際の取り組みの間に隔たりが残っていることを示しています。AIインシデントが広く発生しているにもかかわらず、多くの組織では、不具合を改善の機会へと転換するために必要なガバナンス、報告プロセス、透明性が依然として不足しています。
例えば、規格に準拠した安全なAI利用方針を適切に実施できている」と回答した企業は、日 本では35％(グローバル：65％)にとどまりました。一方で、そのようなAI利用方針自体は整備されていると回答した企業は、日本では60％(グローバル：55％)でした。また、自社がAIで使用するデータやアルゴリズムについて十分な透明性を確保していると回答した企業は、日本では34％(グローバル：68％)にとどまりました。一方、AIシステムの学習や運用 にどのようなデータが利用されているかを理解していると回答した企業は、日本では42％(グローバル：39％)でした。さらに、従業員による未承認のAIツール利用を制限している企業は33％(グローバル：27％)にとどまりました。AIの重要な利用に関する教育・研修を提供している企業は43％(グローバル：69％)であった一方、体系的なAI学習プログラムを整備している企業は36％(グローバル：48％)でした。
BSIの最高経営責任者(CEO)であるSusan Taylor Martinは、次のように述べています。
「AIがビジネス、経済、社会を変革する中、ビジネスリーダーは、AIが意図した通りに機能しなかった場合に、どのような影響が生じるのかを考慮する必要があります。 AIの不具合は日常的に起こり得るものとなりつつあり、それに伴うコストも決して小さくありません。私たちは、リーダーがAIの不具合を防ぐために可能な限りの対策を講じることを促すと同時に、問題が発生した際には、そこから得られた教訓を積極的に共有できる環境を整えていく必要があります。
AIの恩恵を最大限に享受するためには、その利用方法に責任を持つことが不可欠です。ビジネス界は過去20年間、増大するサイバーセキュリティリスクに対応するため、予防的な安全対策を取り入れ、インシデントから得られた教訓を検証し、対策に反映してきました。 AIについても今、すべての人を守りながら安全なイノベーションを実現するために、強固なガバナンスと適切な管理・統制の仕組みを最優先する必要があります。早期に対応することは、金銭的・法的責任のリスクを軽減するだけでなく、AIに対する信頼の構築にもつながるでしょう」
BSIグループジャパンのマネージング・ディレクターである根本英雄は、次のように述べています。
「今回の調査では、日本企業の74％が過去1年間にAIの不具合を経験しており、AIの活用が広がる一方で、リスクへの備えが重要な課題となっていることが明らかになりました。特に、AIの不具合による安全性への影響や、エージェント型AIのセキュリティに対する懸念がグローバルを上回っている点は、日本企業にとって注視すべき結果です。
また、安全なAI利用に関する規格準拠の方針を定めている企業は、グローバルでは65％に上る一方、日本では35％にとどまっています。この差を埋めるため、BSIはISO/IEC 42001に基づく実践的なガイダンス、研修、認証を通じて企業の取り組みを支援しています。AIの活用を持続的な成長につなげるには、技術の導入だけでなく、リスクを適切に把握し、不具合が発生した際に迅速に対応できるAIガバナンス体制を整えることが不可欠です。国際規格なども活用しながら、ガバナンス、人材育成、インシデント管理を組織全体で強化することが、安全で信頼できるAI活用につながり、責任あるイノベーションを後押しします」
AIが組織のリスク特性に与える影響
経済モデル分析では、特にエージェント型AIや生成AIが中核的な業務プロセスに組み込まれるにつれて、管理されていないAIの不具合が重大な財務リスクをもたらし得ることが示されています。BSIは、現在のサイバーセキュリティ、プライバシー、コンプライアンスと同様に、AIガバナンスを戦略的な経営能力として捉えるよう企業に提言しています。
不具合が発生する可能性があっても、AIに対する期待は依然として高く、日本企業の73％(グローバル：78％)が自社のAI投資の増加を予想し、68％(グローバル：81％)がAIによって具体的なメリットがもたらされたと回答しています。また、4分の3が、AIプロジェクトで投資収益率(ROI)を確保できていると回答しました。
一方、日本企業の26％(グローバル：40％)が、AIは自社にとってリスクの要因または弱点となっていると回答し、32％(グローバル：51％)は、他のプロジェクトに充てられたはずのリソースがAI投資に使われたと感じています。59％(グローバル：68％)が、自社のAI関連コストは前年比で増加したと回答し、74％(グローバル：71％)が、今後さらに増加すると予想しています。AIの導入が加速する中、AIツールが意図したとおりに機能するかを評価する標準化された方法を導入している日本企業は41％(グローバル：54％)で、前年は35％でした。
不具合を経験した日本企業の24％(グローバル：26％)が、実験またはパイロット段階で不具合が発生したと回答し、33％(グローバル：32％)が社内向けツールで問題を経験したと回答しました。グローバルの回答者の22％が、社内向けと社外向けの両方のツールで問題を経験したと回答しています。また、グローバルでは、不具合の経験率は大企業で83％と、中小企業の57％を上回りました。業種別では、テクノロジー(82％)、金融サービス(82％)、医療機器(94％）で特に高い割合となりました。
調査レポート(英語)の全文はこちらをご覧ください。
(※1)BSIは、AIガバナンスの成熟度、AIの不具合の経験、投資動向、AIに対する信頼度を把握するため、9市場・7業界のビジネスリーダー1,287人を対象に調査を実施しました。
(※2)経済モデル分析では、AIの利用に関する4つのカテゴリーを対象に、既存の事例研究をもとに、不具合の深刻度、関連市場の規模、AIの導入・利用の程度、不具合が発生する可能性を踏まえ、それぞれに伴う財務リスクの規模を推定しました。
(※3)EUのAI法では、ユースケースに応じて、年間売上高の最大7％に相当する罰金が科される可能性があります。
報道関係者向け参考情報
調査について
BSIは、AIの不具合による潜在的な経済コストを評価し、企業や市場にもたらされる財務リスクの規模を明らかにするため、Alma Economicsに調査を委託しました。
本調査では、AIシステムがエラーや誤作動、性能低下、偏った出力など、通常は想定されない挙動を示すケースを「AIの不具合」として検討しています。また、開発・テスト段階ではなく、実際の運用環境で発生する不具合に焦点を当てています。これは、今回の調査対象に含まれていない最先端モデルの不具合とは区別されます。
本調査の目的は、AIの不具合による単一の世界共通のコストを算出することではなく、さまざまな種類の不具合がもたらし得る財務リスクの規模を推定することです。
経済分析では、実際に発生したAIの不具合に関する既存データをもとに、より広範な市場レベルで想定される財務リスクを推計しました。
各推計値は、以下の4つの要因に基づいて算出されています。
- 不具合の深刻度
- 関連市場の規模
- AIの導入・利用の程度
- 不具合発生の可能性(該当する場合）
分析対象として、4つのカテゴリーにわたる7つの実例を選定しました。
不具合の種類： AIによる偏見、差別を伴う意思決定
事例研究 ： 入居者審査、学生ローンの審査、採用
不具合の種類： ハルシネーションや事実と異なる情報の出力
事例研究 ： 経営コンサルティング、法律サービス
不具合の種類： 顧客対応チャットボットの不具合
事例研究 ： 旅客航空輸送
不具合の種類： エージェント型AIの不具合
事例研究 ： 各業界におけるエンタープライズAIアプリケーション
経済モデルによる分析の結果、AIの不具合によってリスクにさらされる可能性のある年間市場収益の割合は、以下のように推計されました。
【不具合のカテゴリー/リスクにさらされる推定年間市場収益】
顧客対応チャットボットの不具合/0.1％
偏見、差別を伴う意思決定/0.3％
ハルシネーションや事実と異なる情報の出力/2.5％
エージェント型AIの不具合/3.6％
これと並行して、BSIはFocalDataに調査を委託し、2025年夏に実施した調査と同じ質問を用いて、前年からの変化を把握するための追跡調査を実施しました。
本調査では、オランダ、日本、インド、オーストラリア、米国、英国、フランス、中国、ドイツの9カ国を対象に、ヘルスケア・ライフサイエンス、消費財・小売、テクノロジー、金 融サービス、運輸・物流、建築環境・不動産、専門サービスの7業界に所属する、マネージャー層から経営幹部までのビジネスリーダー1,287人から回答を得ました。
なお、調査は2026年8月に実施されました。
