一支多元化的业务发展团队利用数字显示屏上的客户洞察数据，制定营销策略并推出营销活动。

博客
数字信任

AI管理：在创新与监督之间找到平衡

AI只有在管理得当的情况下才能真正创造价值。了解如何通过管控、监督和责任划分机制，在保护组织的同时不拖慢创新步伐。

必知信息

投资AI资源，同时还得有相应的管控机制来确保输出结果准确、可靠，并且符合组织的目标，才可能获得回报。
要实现有效的AI管理，首先要识别关键风险领域，再对照现行法规和新兴法规进行梳理。
明确自己在AI价值链中的角色，有助于优先关注与您最相关的法律和合规要求。
AI离不开人的监督，从设计到绩效监测的每一个环节，都要有清晰的责任划分和管控措施。
采取与风险水平相称的管控措施，既能保护组织，又不会拖慢创新步伐。

光靠投资，换不来AI的全部价值。无论你是开发者还是用户，都需要有效的AI管理，既要有清晰的监督机制和明确的职责分工，也要有贯穿AI全生命周期的管控措施，把风险、合规与创新统一起来。

当AI跑得比管控还快，会发生什么？

眼下，您和许多组织一样，很可能正在争分夺秒地利用人工智能(AI)来降本增效、加速创新，在竞争中抢占先机。短短几年间，AI已经从边缘话题，跃升为长期战略和增长布局中的关键考量因素。您现在纠结的早已不是“要不要投资AI”，而是“投在哪里、投多少”。

但AI同样会犯错。最近，《芝加哥太阳时报》发布了一份由AI生成的推荐书单，结果里面的书根本不存在。iTutor Group则因为使用的AI招聘工具自动筛掉了55岁及以上的女性求职者，最终以36.5万美元达成和解。这些活生生的例子说明，AI出错带来的现实后果来得有多迅猛。

AI确实能帮您省时省钱。但是一旦管理不当，它浪费起时间和金钱来也毫不含糊。错误可能导致信任崩塌、法律风险缠身、品牌声誉受损。

问题在于，大家一窝蜂采用AI时，新风险往往没能被及时发现，更别说管理了。我们的研究数据显示，只有47%的组织通过正式流程来管控AI的使用，而仅有57%的组织认为自己的员工具备有效使用AI的技能。这种采用与管控之间的差距，恰恰是AI投资开始打折扣的地方。

要让AI投资物有所值，您就得设立管理体系，确保AI给出正确的结果。

您在使用AI中扮演什么角色？

有效的AI管理，始于认清自己在AI生命周期中的角色。

在设计一套有效的AI管理体系之前，您首先得想清楚AI在贵组织里到底有什么用。

您对AI的愿景是什么？
您想达成什么目标？
您的责任从哪里开始，到哪里结束？

贵组织可能在自主搭建AI解决方案，也可能把它们嵌入客户的环境中，或者只是单纯使用第三方开发的AI系统。

贵组织所扮演的角色直接决定了所面临的风险和承担的责任。不妨参考AI管理国际标准ISO/IEC 42001中定义的利益相关方角色，看看哪个角色最适合您。

生产者——承担设计风险，尤其是在网络安全方面。
合作方——承担实施风险。
提供者——负责确保服务的可靠性、安全性和持续性。
客户——对AI的实际使用承担最终责任。

您的角色也决定了您需要具备什么样的能力。如果您开发AI解决方案，就要有扎实的技术专长；如果您只是用户，则需要更广泛的组织意识。

AI管理没有放之四海而皆准的模式。但一旦您明确了自己的角色，就可以确定具体的职责了。以此为基准，搭建适合自身情况的治理结构。负责任地采用AI既能保护好组织，也能促进创新。

您面临的AI风险和需要承担的义务有哪些？

搞清了自己的角色，下一步就是确定风险可能存在于哪里，法规又在哪里等着您。例如，欧盟《人工智能(AI)法案》就为欧洲更安全、更负责任地采用AI搭建了框架。

但就算没有专门的AI法律，您可能早就承担了不少法律义务；隐私、网络安全、产品安全等领域的法规统统都可能跟您有关。通用数据保护条例(GDPR)规定的透明度和自动化决策要求已施行好多年了。因此，并非有了专门的AI法律才开始重视合规，而是现在就得审视您当前的合规义务。

首先明确自己的角色，才能专注于最重要的风险和义务。BSI的AI基础框架正是为此而生，它可在您的组织语境中识别风险，让您采取恰到好处的管控措施，且不拖创新的后腿。

您还在“回路”中吗？

AI需要人的监督才能建立信任。虽然具体怎么监督因使用方式而异，但责任必须能追溯到具体个人。这种责任从组织顶层开始，层层下传，每个层级都要嵌入明确的角色和职责，免得最终无法追责。

不妨问问自己：我们在AI全生命周期中设立了清晰的监督机制吗？

从设计、概念，到监测输出的准确性、偏见和风险，全程都要覆盖。就目前而言，只有33%的企业为引入新AI工具制定了明确的流程。没有这个流程，随着AI应用铺开，准确性和责任归属就很难把控。只有35%的企业有标准化的方式来评估AI是否在按预期运行。有效的监督既需要有人来设定AI运行的决策边界，也需要有人来确保这些边界本身是值得信任的。

要做到这一点，您需要对照国际最佳实践投资技能和培训。在软件开发环境中，您可以引入强制性检查点，风险和管控措施没审查完，就不准进入下一阶段。您也可以把“以人为本的AI”(HCAI)作为设计方法，把人的需求和价值观置于AI解决方案的核心。所有这些都能帮助您负责任地采用AI并促进创新。

在您思考如何把AI融入组织时，不妨先来盘点一下。