您需要了解的重點
- 只有具備相應的控制措施來確保輸出結果準確、可靠並符合組織目標，在人工智慧方面的投資才能獲得回報。
- 有效的人工智慧管理始於找出關鍵風險領域，並將其與目前和擬定中的法規進行對比。
- 明確釐清您在人工智慧價值鏈中的角色，有助於您優先考慮與您最相關的法律和合規要求。
- 人工智慧需要人類監督，從設計到效能監控的每個階段都需要有明確的責任歸屬制和控制措施。
- 引入與風險相稱的控制措施，既能保護您的組織，又不會拖慢創新步伐。
只有投資並不足以發揮人工智慧的全部價值。無論您是開發者還是使用者，都需要有效的人工智慧管理。這個管理模式結合清晰的監督、明確的角色定位和控制措施，讓風險、合規和創新在整個人工智慧生命週期中能夠始終遵循要求。
當人工智慧的發展前進速度超出控制範疇時，會發生什麼事？
與像許多組織一樣，您可能正分秒必爭地利用人工智慧來降低成本、提高創新能力，以在競爭中脫穎而出。短短幾年內，人工智慧就從邊緣地位發展成為考量長期策略和成長時的關鍵因素。您不再是考慮是否要投資於人工智慧，而是決定該在哪裡投資以及投資多少金額。
然而，人工智慧仍然會出錯。芝加哥太陽報 (Chicago Sun-Times) 最近刊登了一份含有由人工智慧產生、實際上並不存在之閱讀書單的報導。iTutor Group 這家公司因其由人工智慧主導的員工招聘工具自動拒絕年滿 55 歲的女性應徵者，而遭遇需支付 36.5 萬美元和解金的境況。這些例子表明，人工智慧出錯會以多快的速度轉化成為現實世界的後果。
人工智慧可以為您節省時間和金錢。但如果管理不善，也很容易造成在時間和金錢兩方面上的浪費。錯誤會破壞信任，使您面臨法律風險，並損害您的聲譽。
這個過程中的難題在於，在爭相採用人工智慧之際，不一定能夠發現新風險或能夠對其進行有效控制管理。我們的研究結果表明，只有 47% 的組織會使用正式流程來控制對人工智慧的使用。只有 57% 的企業認為其員工具備有效使用人工智慧的技能。人工智慧投資開始表現不佳，正是因為在人工智慧的採用與控制之間，具有這種需要改善的落差。
要讓人工智慧投資發揮價值，您就需要有可確保人工智慧能夠為您帶來正確結果的管理系統。
您在人工智慧的使用中扮演什麼角色？
有效的人工智慧管理，要從了解您在人工智慧生命週期中的角色開始。
在設計有效的人工智慧管理系統之前，您需要清楚了解人工智慧在您組織中會發揮什麼作用。
- 您對人工智慧的願景是什麼？
- 您想達成什麼目標？
- 您的職責範圍從哪裡開始，到哪裡結束？
您的組織可能會建立人工智慧解決方案。您可能會將其融入到客戶的環境中。或者，您也可以直接使用第三方開發的人工智慧系統。
您的組織所扮演的角色，直接決定您所面臨的風險和責任。使用人工智慧管理國際標準 ISO/IEC 42001 中定義的利害關係人角色，思考哪些角色最適合您的情況。
- 生產者 - 您具有設計風險，尤其是在網路安全方面的風險。
- 合作者 - 您承擔導入實施風險。
- 提供者 - 您負責服務的可靠性、安全性和連續性。
- 客戶 - 您對人工智慧的使用方式負有最終責任。
您的角色也會影響您所需的能力。如果您在開發人工智慧解決方案，則您需要深厚的技術專業知識。而當您身為客戶時，您需要的是具有更廣泛的組織意識。
人工智慧管理並沒有一成不變的模式。但在明確您的角色之後，就能夠確定您的具體職責。這會成為您建構適合自己之治理結構的基礎。以負責的態度來採用人工智慧，既能保護您的組織，又能促進創新。
您在人工智慧方面有哪些風險和義務？
在您了解了自己的角色後，下一步就是確定您所面臨的風險，以及相關法規如何適用於您的情況。例如，歐盟人工智慧法為歐洲以更安全、更負責的態度採用人工智慧方面，提供基礎架構。
但無論是否有適用的專門人工智慧法律，您可能已經承擔有法律義務；隱私、網路安全和產品安全等方面法律法規，都可能與您相關。歐盟一般資料保護規範 (GDPR) 規定的透明度和自動化決策要求，已經實施多年。合規行動並非從與人工智慧相關的法律開始；您也需要檢討審查您目前具有的合規義務。
先從了解自己的角色開始，這樣才能專注於最重要的風險和義務。BSI 的人工智慧基礎架構透過找出組織環境中的風險，來協助您做到這一點，讓您可以引入適當的控制層級，而不會扼殺創新。
您是否在持續關注最新狀況？
人工智慧需要人類監督才能建立信任。雖然具體情況會因使用方式而異，但必須要有始終能將責任追溯到個人身上的責任歸屬制度。這個制度在組織中必須從高階到低層貫徹一致。在每個層級都明確釐清其角色和職責後，就能防止敷衍塞責。
請詢問自己，我們是否已對人工智慧的整個生命週期，都進行清晰明確的監管？
從設計和概念再到監控輸出結果的準確、偏差和風險。截至目前為止，只有 33% 的企業在引進新人工智慧工具方面，制定有明確的流程。如果沒有這種流程，隨著人工智慧應用的擴展，就很難確保結果準確和責任歸屬。只有 35% 的企業採用標準化方法來評估人工智慧是否如預期運作。有效的監督需要有人來定義人工智慧應如何運作的決策準則。此外，還要有人來確保您可以信任這些防護措施。
為實現這一點，您需要投資於根據國際最佳實務而擬定的技能和訓練。在軟體開發環境中，您可以引入強制性檢查點，只有在完成風險審查和控制之後，才能夠進入下一階段。您也可以將「以人為本的人工智慧」(human-centered AI, HCAI) 作為設計方法，以人類的需求和價值作為人工智慧解決方案的核心。所有這些都能在以負責態度採用人工智慧和創新方面，提供助力。
在考慮將人工智慧融入組織時，請先進行評估。
- 您在人工智慧生命週期中扮演什麼角色？
- 這對您的風險和責任有何影響？
- 您如何在人工智慧的整個生命週期中融入人員的責任？
如果妥善完成這些流程，管理就不會成為不必要的負擔。這應該能夠降低您的風險，並為您創造累積長期價值的機會。
如何充滿信心邁向未來
有效的人工智慧管理，始於了解您目前的狀況，以及知悉下一步的重點方向。
BSI 的模組化人工智慧基礎架構可以協助您做好這件事。其能夠協助評估您目前的能力，辨明您的特定風險狀況，並優先考慮能夠產生最大影響的實務步驟。
在這個架構內，人工智慧管理模組會重點關注您人工智慧系統在實際使用時的管理情況。其根據公認的 ISO 和 NIST 標準，能夠在以下方面為您提供協助：
- 評估您控制措施的有效性；
- 加強人工監管；
- 強化生命週期管理、文件記錄和供應商風險管理等關鍵領域；以及
- 如果您的目標是獲得 ISO/IEC 42001 驗證，事先做好準備。
在人工智慧系統和能力不斷發展之際，透過完成人工智慧管理模組，您就可以降低風險並創造價值。
